Artículos para quien
entrega el stack
Textos sobre React, Node.js, TypeScript y AI. El cuerpo traducido se muestra cuando existe. Si no, ve el texto en inglés y una nota que lo dice.
Etiqueta: prompt-caching
Reducir los costos de tokens del agente: caché, enrutamiento e higiene del contexto.
Reduce las facturas de los agentes LLM mediante el caché de prompts y el caché semántico, herramientas de carga diferida, enrutamiento y cascadas de modelos, subagentes, y una sencilla higiene del contexto.
16 min de lecturaAislar a un agente de programación y mantener su ventana de contexto reducida
Convierte a un agente de programación en entorno de pruebas con Seatbelt o Bubblewrap, y luego mantén su ventana de contexto ligera mediante archivos de desecho, stubs, compactación e inyección compatible con caché de prefijos.
10 min de lecturaSobrevivir al pliegue: una escalera para sesiones de agentes de larga duración y la compactación.
Cuánto tiempo permanecen asequibles y coherentes las sesiones de los agentes: la cola de caché como alquiler, cinco niveles antes de la compactación, la delegación como límite de memoria, los costos de reanudación.
16 min de lecturaRecuperación contextual para RAG: qué oculta la cifra del 67%, cuál es su costo y cuándo falla.
La recuperación contextual para RAG: cómo los prefijos sitúan los fragmentos aislados, por qué la cifra del 67% representa tres cambios, qué ahorra el caché de prompts y cuándo falla.
13 min de lecturaUna ventana de contexto más grande no solucionará tus problemas con el agente: presupuesto de atención y caché
Las ventanas de contexto se comportan como un presupuesto de atención. Aprende cómo funciona Lost in the Middle y cuándo utilizar compresión, ventanas deslizantes, compactación o caché de prompts.
11 min de lecturaPrompts de sistema estructurados para agentes de IA Rust: capas, caché y verificaciones de desviación.
Crear un prompt de sistema en capas para un agente Rust: identidad, instrucciones, reglas de salida, ejemplos y contexto actualizado, además de un límite de caché y una huella digital para CI.
12 min de lecturaUn chatbot de portfolio diseñado para decir «no lo sé» en lugar de adivinar
Cómo se mantiene honesto un chatbot de portfolio: un control de honestidad bloqueado, cinco notas escritas a mano en el prompt en lugar de RAG y una frase de rechazo fija que además sirve como detector de lagunas.
8 min de lecturaFallos de caché de prompts en Claude Code: por qué un 86 % de aciertos oculta el coste
Un modelo con precios de una sesión en un monorepo de iOS muestra siete fallos de caché de prompts que pesan más que 33 aciertos, y cómo estabilizar herramientas, skills y CLAUDE.md como claves de caché.
6 min de lecturaAdónde se iba nuestra factura de la API de LLM y qué cambios de arquitectura la recortaron
Atribución de tokens por paso, escalonado de modelos, prompts más cortos y backoff con jitter redujeron el gasto en API de un agente de programación; con fórmulas de coste y errores de optimización habituales.
8 min de lectura
Sobre estos artículos
Presupuesto en 24 h
¿Necesitas el mismo stack en una capa de operador? Envía el brief — presupuesto en 24 h.