Por qué la mayoría de los agentes de IA mueren después de una sesión y cómo sobreviven aquellos que funcionan durante mucho tiempo.

Por qué tantos agentes parecen temporales

Cualquiera que haya usado ChatGPT, Claude u otro agente que llama a herramientas ha visto el patrón habitual:

1. Se le entrega un objetivo.
2. El agente comienza a trabajar.
3. Llama a algunas herramientas.
4. La conversación se alarga.
5. Las respuestas empeoran o la sesión simplemente termina.

Esa es la experiencia típica con los agentes de chat. Son adecuados para tareas cortas y fallan cuando el trabajo dura horas o días.

Un agente que funciona durante mucho tiempo sigue avanzando durante un período mucho más largo, ya sean horas, días o semanas, y no pierde su progreso cuando se agota el contexto o se reinicia el proceso. A continuación se explica la idea desde cero, seguida de los patrones que la hacen funcionar.

Comience de forma sencilla: qué es un agente que funciona durante mucho tiempo

Un agente ordinario es como alguien que trabaja en una sola sala de reuniones y olvida todo al salir de ella. Un agente que funciona durante mucho tiempo se comporta más como una persona que:

• tiene un cuaderno, que representa un estado externo duradero;
• escribe el progreso realizado, lo cual equivale a crear puntos de control;
• puede ausentarse y regresar más tarde, lo cual corresponde a la persistencia de la sesión;
• continúa exactamente desde donde se detuvo, lo cual significa reanudar desde el último estado.

En términos técnicos, tal agente puede sobrevivir a varias ventanas de contexto, resistir reinicios y caídas (tolerancia a fallos), dejar material estructurado en forma de artefactos y registros de sesión, y reanudar su funcionamiento sin tener que empezar desde cero.

Mantener el estado fuera del modelo y recuperarse de él de manera ordenada es una parte fundamental de lo que la gente denomina ingeniería de aprovechamiento.

Las tres paredes

Casi todos los agentes que funcionan durante mucho tiempo se enfrentan a los mismos tres problemas.

1. Contexto finito. Cada modelo tiene una ventana de contexto limitada, e incluso las ventanas grandes se llenan. Cuando se agotan, la información más antigua se descarta o se comprime, lo que empeora las decisiones del agente. Esto a menudo se denomina deterioro del contexto.
2. Falta de estado persistente. Una nueva sesión suele comenzar con memoria en blanco. Al no haber un lugar externo donde guardar el progreso, cada reinicio es como si un nuevo empleado se uniera al proyecto sin conocer su historia.
3. Control propio deficiente. Los modelos tienden a ser optimistas. Al preguntárseles si el trabajo está terminado, a menudo responden que sí cuando solo está parcialmente completado. Sin una verificación externa, el trabajo incompleto se marca como terminado.

Estos tres problemas explican por qué los agentes simples no pueden funcionar de manera fiable durante mucho tiempo.

De lo básico a patrones útiles

Una vez que las barreras están superadas, la pregunta es cómo logran las personas pasar por ellas. Cuatro patrones fundamentales siguen apareciendo una y otra vez.

• Puntos de control y reanudación. El agente guarda el progreso de forma estructurada a intervalos regulares. Si algo falla, reinicia desde el último punto de control válido en lugar del inicio.
• Memoria externa. Los datos importantes se almacenan fuera del contexto del modelo, en archivos, una base de datos o un almacén de sesiones, y el agente los lee al comenzar cada nueva sesión.
• Intervención humana. Para decisiones importantes, el agente se detiene, espera a que una persona las apruebe o rechace y luego continúa. Esto debe diseñarse con cuidado para que el estado no se vuelva obsoleto durante la espera.

Roles separados. En lugar de que un único agente haga todo, los sistemas suelen dividir la tarea: una parte planifica, otra ejecuta y otra verifica la calidad. Esto reduce las posibilidades de confusión o exceso de confianza. Por lo general, se conoce como configuración de múltiples agentes o subagentes.

Aunque por separado son simples, estos patrones son poderosos cuando se combinan.

Un modelo mental

Una imagen útil: el modelo es el cerebro, las herramientas son las manos, y el registro de sesiones junto con el estado externo constituyen la memoria que perdura.

Si el cerebro y las manos están vinculados a un único proceso temporal, el sistema muere con él. Si la memoria permanece fuera, un proceso nuevo puede activarse, leer la memoria y continuar. Ese es el cambio arquitectónico fundamental.

Qué se vuelve posible

Una vez que los agentes pueden sobrevivir más tiempo, se abren nuevos tipos de tareas:

• investigaciones que duran varios días;
• migraciones masivas de código;
• monitoreo continuo y tareas de fondo ambiental;
• flujos de trabajo que requieren aprobación humana a mitad del proceso;
• equipes de agentes que coordinan a lo largo del tiempo.

Los agentes de chat de corta duración son buenos para responder preguntas. Los de larga duración comienzan a ser útiles para lograr resultados reales.

De la demostración a la producción

La mayoría de las demostraciones se detienen en este punto y comienza el trabajo real de ingeniería. Cinco patrones son clave en este proceso.

1. Punto de control y reanudación

Este es el patrón más importante, ya que el fallo más común en tareas largas es la pérdida de progreso. Imagine un agente que ha procesado 200 documentos y se encuentra con un error en el 201. Sin un punto de control, es decir, sin una captura del estado de la memoria o del proceso, todo el esfuerzo se desperdicia. Muchos agentes resuelven esto reiniciando todo el proceso, lo cual consume una gran cantidad de tokens.

Un buen sistema registra periódicamente el progreso de manera duradera, anotando:

• lo que ya se ha completado;
• lo que aún está pendiente;
• cualquier resultado intermedio importante.

Después de un reinicio, el agente lee el último punto de control y continúa desde allí. Este hábito elimina una gran cantidad de fragilidad y también ahorra tokens.

2. Memoria fuera del modelo

Por lo general, existen dos tipos:

• La memoria de trabajo es lo que el agente necesita en este momento, dentro del contexto actual.
• La memoria duradera es aquella que debe sobrevivir más allá de una sesión y se almacena externamente.

La memoria duradera puede residir en archivos estructurados como progress.txt, plan.json o notes.md, en una base de datos, en un almacén de sesiones o en un servicio de memoria especializado. El principio es simple: el modelo puede olvidar, pero el sistema que lo rodea no debería.

3. Separar la generación de la evaluación

Los modelos califican su propio trabajo de manera injusta y tienden a ser demasiado generosos. Una solución común y efectiva es dividir las funciones: una parte se encarga de generar el trabajo y otra evalúa si es lo suficientemente bueno. Estos pueden ser dos agentes diferentes, o un mismo modelo utilizado en dos modos con instrucciones distintas. Lo importante es que la finalización del trabajo no sea decidida únicamente por quien lo crea.

Una configuración frecuente consiste en un supervisor o planificador, seguido de expertos en tareas que actúan como trabajadores, y finalmente un juez encargado de la distribución y coordinación. El siguiente patrón lo explica con más detalle.

4. Aprobación humana realizada correctamente

Muchos sistemas afirman ofrecer soporte para la aprobación, pero lo implementan mal. La versión deficiente guarda algo de JSON, envía una notificación, espera que una persona responda y luego intenta reanudar el proceso, a menudo con un estado obsoleto.

La versión mejor trata la pausa como parte del propio flujo de trabajo. El agente llega a un punto de decisión claro, guarda su estado de manera ordenada y espera. Cuando la persona responde, el agente reanuda su tarea sabiendo exactamente por qué se detuvo. Esto es especialmente importante para acciones con consecuencias, como gastar dinero, cambiar los sistemas de producción o enviar mensajes fuera de la organización.

5. Coordinar muchos agentes

A medida que las tareas aumentan, que un solo agente haga todo se vuelve caótico. Una organización más estructurada divide las responsabilidades:

• los planificadores exploran el problema y lo dividen en tareas;
• los trabajadores realizan las tareas específicas;
• los evaluadores deciden si una iteración es lo suficientemente buena.

Según se informa, Cursor ha adoptado este enfoque después de que fracasaran intentos anteriores de coordinación. Esto reduce el caos y evita que los agentes interfieran entre sí.

Así es una pila de producción

Una pila realista suele tener tres capas:

1. La lógica del agente, que incluye los prompts, las herramientas y el bucle de toma de decisiones.
2. El mecanismo de gestión, que abarca la administración de sesiones, el control del flujo de trabajo, las reintentos y la recuperación.
3. Las primitivas gestionadas, que corresponden al almacenamiento duradero, la programación de tareas, las herramientas de ejecución prolongada, los desencadenantes de eventos y la capacidad de observación.

Por ejemplo, ADK de Google incluye componentes para sesiones que persisten, ejecuciones que sobreviven a los reinicios y desencadenantes basados en eventos. Con ellos, un agente puede permanecer inactivo durante mucho tiempo y seguir funcionando correctamente posteriormente. Los escritos de Anthropic sobre los mecanismos de gestión enfatizan la separación del “cerebro”, que es el modelo y su bucle, de las “manos”, que son los entornos de ejecución, y de la “sesión”, que representa el registro de eventos duradero.

Los proveedores utilizan nombres diferentes, pero la idea es la misma: el estado y la recuperación deben existir fuera de cualquier proceso temporal.

Reglas de diseño que ayudan

Estas prácticas hacen que los sistemas sean más robustos de manera fiable:

• Escribir siempre el progreso importante en un almacenamiento duradero.
• Preferir artefactos estructurados como JSON, registros en markdown y listas de tareas en lugar de datos almacenados en memoria como texto simple.
• Tratar los fallos como algo normal y planificar para ellos.
• Hacer que la reanudación siga la ruta predeterminada y no sea un caso especial.
• Cuando la calidad es importante, mantener separados al generador y al evaluador.
• Utilizar la compactación o la resumen cuando el contexto comienza a ser demasiado grande.
• Diseñar puntos de aprobación de forma intencionada en lugar de añadirlos posteriormente.

Las decisiones pequeñas se acumulan. Una buena estrategia de puntos de control puede salvar una ejecución que dure varios días y ahorrar tiempo y recursos.

Límites que persisten

Incluso con una buena arquitectura, persisten limitaciones importantes:

• Costo. Las ejecuciones prolongadas consumen muchos tokens.
• Seguridad. Un sistema que funciona más tiempo tiene una superficie de ataque mayor.
• Desvío en la alineación. Con el paso del tiempo, el agente puede alejarse gradualmente de la intención original.
• Verificación. Algunos tipos de calidad aún requieren juicio humano.

El papel del ser humano no desaparece; simplemente cambia. En lugar de realizar cada paso, las personas definen objetivos, establecen restricciones, revisan decisiones críticas y manejan excepciones que el sistema no puede resolver de forma segura.

Qué significa esto para usted

Los agentes de chat de corta duración son adecuados para preguntas y tareas sencillas. Los agentes que funcionan durante mucho tiempo son ideales para trabajos que requieren tiempo, abarcan varias sesiones o deben soportar interrupciones en el mundo real.

El cambio tiene menos que ver con hacer que el modelo sea más inteligente y más que ver con hacer que el sistema circundante sea duradero, recuperable y honesto respecto a su propio progreso. Al considerarlos sistemas que deben superar el paso del tiempo, los fallos y las limitaciones del contexto, resulta mucho más sencillo diseñar agentes. Los agentes capaces de realizar tareas significativas suelen provenir de equipos que ponen la persistencia y la recuperación en el centro del diseño.

Leer más

• Notas prácticas: Diseñando un Cache para Agentes de IA: Ejecutándolo en Producción — Guía paso a paso de las Notas prácticas: Diseñando un Cache para Agentes de IA: Ejecutándolo en Producción: contratos, verificaciones y espacios de código listos para usar para los equipos que implementan este patrón.
• Por qué los agentes que impresionan en las demostraciones fallan en producción y qué construir en su lugar — Puntos de fallo, el equilibrio entre agente único y múltiples agentes, prácticas de diseño como las reintentos y soluciones alternativas, y el panorama completo de los costos de operar un agente de IA más allá de las tarifas por tokens.
• Gestionar agentes de IA con el marco CARE: Claridad, autonomía y más — Las ideas de gestión son aplicables a los agentes de IA. Descubra cómo la claridad, la autonomía, las relaciones y la equidad influyen en la delegación, los contratos de los agentes, la elección de modelos y el contexto que necesitan los agentes.