Warum Hermes Agent Tokens verbrennt und wie man seinen Prompt auf 4K kürzt
Ein einziges Hallo an Hermes Agent kann 30 Anfragen und 1,5 Mio. Tokens auslösen. Woher der 16K-Prompt stammt und welche CLI-Befehle ihn unter 4.000 Tokens drücken.
Stellen Sie sich eine frische Installation von Hermes Agent vor, die auf einen OpenRouter-Endpunkt zeigt. Ein einziges "hello" geht hinein, und das Dashboard zeigt danach rund 30 API-Anfragen und knapp 1,5 Millionen verbrauchte Tokens. Für einen Gruß aus einem Wort ist das verblüffend.
Auf einem kostenlosen Endpunkt wie Inkling (free) bleibt die Rechnung bei null. Wechselt man aber auf ein kostenpflichtiges Modell wie DeepSeek, Claude 3.5 Sonnet oder Gemini, können diese versteckten Schleifen ein API-Guthaben in wenigen Minuten leeren.
Autonome Agenten sind mächtig, und sie sind auch gewaltige Token-Fresser. Im Folgenden geht es darum, warum Hermes standardmäßig so viel Kontext mitschleppt und wie man ihn kräftig zurückschneidet, ohne zu verlieren, was den Agenten nützlich macht.
Woher der Ballast kommt
Ein einfaches Chatfenster schickt Ihren Prompt und eine kurze Systemnachricht. Ein Agent arbeitet anders. Er läuft in einer ständigen Schleife aus Lesen, Bewerten und Ausführen, und beim Start packt Hermes eine große Last ins Prompt-Fenster, bevor Sie überhaupt einen Befehl eingegeben haben.
Der Befehl hermes prompt-size zeigt, woraus eine typische Eingabe von etwa 16.000 Tokens besteht:
| Komponente | Ungefähre Größe | Was es ist |
|---|---|---|
| Tool-Schemas | 8.000 bis 12.000+ Tokens | Standardmäßig sind Dutzende Tools aktiv: Browsersteuerung, Delegation an Subagenten, Sprachausgabe, Kanban-Boards, Code-Sandboxes. Das JSON, das beschreibt, wie jedes davon aufgerufen wird, geht in jeder Runde an das Modell. |
| Mitgelieferte Skills | 3.000 bis 5.000+ Tokens | Ein Index aus über 50 prozeduralen Playbooks, vom Review von Pull Requests bis zum Schreiben von Songs, damit der Agent weiß, welche Abläufe er abrufen kann. |
| Plugins und Anbieter | unterschiedlich | Dutzende Plugins für Mediengeneratoren und Web-Scraper (Brave, Tavily, Searxng und weitere) reservieren jeweils etwas Token-Budget für den Fall, dass sie aufgerufen werden. |
Dann kommt der Multiplikator ins Spiel. Agenten antworten nicht nur, sie denken auch. Bleibt Hermes in einem Prüfzyklus hängen oder gibt nie ein Stopp-Token aus, dreht er intern womöglich 10 bis 15 Runden. Jeder Durchlauf schickt den gesamten Kontext von über 16K erneut, sodass der Verbrauch viel schneller anschwillt, als es zunächst aussieht.
Ab auf Diät
Mit einer Handvoll eingebauter CLI-Befehle lässt sich der Grundbedarf von rund 16.000 Tokens auf unter 3.500 senken. Die Schritte kommen in dieser Reihenfolge.
1. Die mitgelieferten Skills entfernen
Sofern Hermes keine Architekturdiagramme in Manim zeichnen oder ein E-Mail-Postfach sortieren muss, sind diese über 50 Standard-Skills reine Polsterung. Die unveränderten mitgelieferten Skills lassen sich gefahrlos aus einem Profil entfernen:
hermes skills opt-out --remove
Rechnen Sie damit, dass sofort etwa 1.000 bis 1.500 Tokens aus dem Grundbedarf verschwinden.
2. Ungenutzte Toolsets abschalten
Wenn Hermes nur für Softwareentwicklung da ist, also für Dateiänderungen und Terminalbefehle, können die schweren Spezial-Toolsets weg. Delegation (Subagenten), Sprachausgabe und die Rückfrage-Tools bringen allesamt große JSON-Schemas mit.
hermes tools disable delegation tts code_execution clarify
Die Größe der Tool-Schemas sinkt von etwa 29 KB auf rund 10 KB, was 4.000 Tokens oder mehr spart.
3. Such- und Medien-Plugins deaktivieren
Jedes aktivierte Plugin registriert im Hintergrund Prüfungen seiner Fähigkeiten. Der Deaktivierungsbefehl der CLI nimmt jeweils nur ein Argument an, daher ist eine kleine Bash-Schleife der sauberste Weg, alle Drittanbieter abzuschalten, die nicht aktiv genutzt werden:
for plugin in deepinfra fal krea meta-ai-image-gen xai web-perplexity web-searxng web-tavily web-brave-free; do
hermes plugins disable "$plugin"
done
So reservieren Dutzende externe Anbieter zur Laufzeit kein Schema-Budget mehr.
4. Minimale Sitzungen starten, wenn das reicht
Für schnelle, isolierte Aufgaben, die weder dauerhaften Speicher noch Skill-Indexierung brauchen, lässt sich die Standard-Startsequenz überspringen, indem man beim Start die erlaubten Tools angibt:
hermes chat -t terminal,file
Den Rest erledigt Prompt-Caching
Nach dem Kürzen sollte sich der Grundbedarf in einem schlanken Bereich von etwa 4.000 bis 6.000 Tokens einpendeln. Das ist ein guter Kompromiss zwischen Leistungsfähigkeit und Kosten. Übrig bleiben die Kernanweisungen des Agenten, der aktive Projektspeicher (MEMORY.md) und die unverzichtbaren Terminal-Tools.
Null ist nicht das Ziel. Die in MEMORY.md gespeicherten Fakten, etwa Pfade zu virtuellen Python-Umgebungen oder Einschränkungen des Systems, sorgen gerade dafür, dass der Agent nicht immer wieder dieselben Fehler macht. Wer sie streicht, spart wenig und verliert viel.
Das letzte Stück ist das Prompt-Caching. Bei OpenRouter-Modellen, die es unterstützen, wird das statische Präfix jeder Anfrage zwischengespeichert. Dieses Präfix umfasst Tool-Schemas, den System-Prompt und die Speicherdateien. Das Dashboard dürfte über aufeinanderfolgende Runden eine Cache-Trefferquote von über 95% anzeigen. Gecachte Tokens sind üblicherweise um 75% bis 90% günstiger, sodass ein Prompt mit 6.000 Tokens am Ende etwa wie einer mit 500 Tokens abgerechnet wird.
Wer die aktiven Tools ausdünnt und auf Caching setzt, kann einen vollständig autonomen Terminal-Agenten für Bruchteile eines Cents pro Runde betreiben.