Por qué Hermes Agent quema tokens y cómo recortar su prompt a 4K

Imagina una instalación recién hecha de Hermes Agent apuntando a un endpoint de OpenRouter. Entra un solo "hello" y el panel muestra después unas 30 peticiones a la API y cerca de 1,5 millones de tokens consumidos. Para un saludo de una palabra, es desconcertante.

En un endpoint gratuito como Inkling (free), la factura se queda en cero. Pero si cambias a un modelo de pago como DeepSeek, Claude 3.5 Sonnet o Gemini, esos bucles ocultos pueden vaciar el saldo de la API en cuestión de minutos.

Los agentes autónomos son potentes, y también devoran tokens. El resto del artículo explica por qué Hermes arrastra tanto contexto por defecto y cómo recortarlo a fondo sin perder lo que hace útil al agente.

De dónde sale el exceso

Una ventana de chat normal envía tu prompt más un mensaje de sistema breve. Un agente funciona de otra forma. Ejecuta un bucle continuo de leer, evaluar y ejecutar, y al arrancar Hermes mete una gran carga en la ventana del prompt antes de que hayas escrito un solo comando.

Ejecutar hermes prompt-size muestra de qué se compone una entrada típica de unos 16.000 tokens:

Componente	Tamaño aproximado	Qué es
Esquemas de herramientas	de 8.000 a más de 12.000 tokens	Hay decenas de herramientas activas por defecto: control del navegador, delegación en subagentes, texto a voz, tableros kanban, sandboxes de código. El JSON que describe cómo llamar a cada una se envía al modelo en cada turno.
Skills incluidas	de 3.000 a más de 5.000 tokens	Un índice de más de 50 guías de procedimiento, desde revisar pull requests hasta escribir canciones, para que el agente sepa qué flujos puede recuperar.
Plugins y proveedores	variable	Decenas de plugins para generadores multimedia y scrapers web (Brave, Tavily, Searxng y más) reservan cada uno una parte del presupuesto de tokens por si se les llama.

Luego está el multiplicador. Los agentes no solo responden, también piensan. Si Hermes se queda atascado en un ciclo de verificación o nunca emite un token de parada, puede dar entre 10 y 15 vueltas internas. Cada pasada reenvía todo el contexto de más de 16K, así que el consumo se dispara mucho más rápido de lo que parece al principio.

A dieta

Con un puñado de comandos integrados de la CLI, la huella base puede bajar de unos 16.000 tokens a menos de 3.500. Los pasos van en este orden.

1. Quita las skills incluidas

Salvo que Hermes tenga que dibujar diagramas de arquitectura en Manim u ordenar una bandeja de correo, esas más de 50 skills por defecto son puro relleno. Las incluidas que no se han modificado se pueden eliminar de un perfil sin riesgo:

hermes skills opt-out --remove

Cuenta con que desaparezcan de inmediato entre 1.000 y 1.500 tokens de la base.

2. Desactiva los conjuntos de herramientas que no uses

Si Hermes solo está para tareas de ingeniería de software, es decir, editar archivos y lanzar comandos en la terminal, los conjuntos de herramientas especializados y pesados pueden irse. La delegación (subagentes), el texto a voz y las herramientas de aclaración vienen todas con esquemas JSON grandes.

hermes tools disable delegation tts code_execution clarify

El tamaño de los esquemas baja de unos 29 KB a aproximadamente 10 KB, lo que ahorra 4.000 tokens o más.

3. Desactiva los plugins de búsqueda y multimedia

Cada plugin activado registra comprobaciones de capacidades en segundo plano. El comando de desactivación de la CLI solo acepta un argumento cada vez, así que un pequeño bucle en bash es la forma más limpia de apagar todos los proveedores externos que no se usan de verdad:

for plugin in deepinfra fal krea meta-ai-image-gen xai web-perplexity web-searxng web-tavily web-brave-free; do
  hermes plugins disable "$plugin"
done

Con eso, decenas de proveedores externos dejan de reservar presupuesto para esquemas en tiempo de ejecución.

4. Inicia sesiones mínimas cuando basten

Para tareas rápidas y aisladas que no necesitan ni memoria persistente ni indexación de skills, la secuencia de arranque por defecto se puede saltar indicando las herramientas permitidas al lanzarlo:

hermes chat -t terminal,file

La caché de prompts hace el resto

Tras el recorte, la base debería quedarse en un rango ajustado de unos 4.000 a 6.000 tokens. Es un buen equilibrio entre capacidad y coste. Lo que queda son las instrucciones principales del agente, la memoria activa del proyecto (MEMORY.md) y las herramientas de terminal imprescindibles.

El objetivo no es llegar a cero. Los datos guardados en MEMORY.md, como las rutas a los entornos virtuales de Python o las restricciones del sistema, son justo lo que impide que el agente repita los mismos errores. Quitarlos ahorra poco y cuesta mucho.

La última pieza es la caché de prompts. En los modelos de OpenRouter que la admiten, el prefijo estático de cada petición queda en caché. Ese prefijo incluye los esquemas de herramientas, el prompt de sistema y los archivos de memoria. Es probable que el panel muestre una tasa de aciertos de caché superior al 95% en turnos consecutivos. Los tokens en caché suelen tener un descuento de entre el 75% y el 90%, así que un prompt de 6.000 tokens acaba facturándose más o menos como uno de 500.

Poda las herramientas activas, apóyate en la caché y un agente de terminal totalmente autónomo podrá funcionar por fracciones de céntimo por turno.