ai-agents prompt-engineering context-engineering harness agentic-ai

Prompt, Kontext, Verarbeitungsmechanismus, Schleife: Die vier Schichten hinter einem KI-Agenten

Prompt, Kontext, Harness und Loop: die vier Schichten hinter jedem KI-Agenten, angefangen bei der Prompt-Engineering-Technik, und warum jede Schicht entsteht, weil die darunterliegende Schicht nicht ausreicht.

Verlag: REACTAPP.TOPAuf dieser Website hinzugefügt 28. Okt. 20267 Min. Lesezeit1650 Wörter

Quellen: Prompt, Context, Harness, Loop: An Agent’s Anatomy

Eine häufig gestellte Frage: Wenn ein Chat-Modell lediglich Wörter einnimmt und Wörter ausspuckt, wie können KI-Agenten dann Flüge buchen oder Code schreiben? Die Antwort lässt sich in vier Ebenen unterteilen, wobei jede Ebene notwendig ist, weil die darunterliegende Ebene allein keinen funktionsfähigen Agenten erklären kann. Eine kurze Zusammenfassung: Ein guter Prompt ohne Kontext ist wie ein schöner Satz, der in einen leeren Raum gesprochen wird. Ein hervorragender Kontext ohne Struktur ist wie ein perfekter Plan ohne ausführende Hände. Eine vollständige Struktur ohne klare Anweisungen ist wie ein geschickter Arbeiter, der weiterhin darauf wartet, dass jemand immer wieder „Jetzt die nächste Aufgabe“ sagt.

Ebene eins: Der Prompt

Die Arbeitseinheit hier ist eine einzige Eingabe. Das Modell erinnert sich an nichts aus der Zeit vor dem Aufruf, daher muss die Anfrage alles enthalten, was benötigt wird: eine Rolle, Hintergrundinformationen, Anweisungen, Beispiele sowie ein Ausgabeformat – all das muss in einer einzigen Nachricht zusammengefasst sein. Wenn die Ergebnisse enttäuschend sind, liegt die Lösung darin, herauszufinden, welcher Bestandteil versagt, und nicht darin, alles neu zu schreiben.

Das Werkzeugset ist umfangreich:

Beim Zero-Shot-Prompting wird direkt ohne Beispiele gefragt, in der Hoffnung, dass das Modell versteht.
Beim Few-Shot-Prompting werden zwei oder drei Eingabe-Ausgabe-Beispiele bereitgestellt, und das Modell passt daraufhin Muster an.
Beim Chain-of-Thought-Prompting wird das Modell aufgefordert, zunächst Schritt für Schritt zu denken, was insbesondere bei mathematischen, logischen und mehrteiligen Problemen hilfreich sein kann.
Beim Role-Prompting, wie zum Beispiel „Sie sind ein leitender Redakteur“ oder „Sie sind ein skeptischer Reviewer“, ändert sich der Tonfall sowie das Niveau der Genauigkeit.

Meta-Anweisungen und Selbstkonsistenz bauen auf diesen Prinzipien auf, um schwierigere Probleme zu bewältigen.

Alles zusammen führt zu guten Anweisungen, ähnlich wie eine klare E-Mail, und beantwortet eine einzige, spezifische Frage: Welche Wörter sollten gerade für diese Anfrage verwendet werden? Eine sorgfältig formulierte Anweisung für eine Forschungszusammenfassung kann präzise Ergebnisse mit klarer Struktur und ohne Überfluss liefern.

Die Schwäche zeigt sich bei Nachfragen. Wenn im selben Chat etwas gefragt wird, das auf einen Punkt drei Nachrichten zurückverweist, kann das Modell diesen völlig übersehen und selbstbewusst eine leicht andere Frage beantworten. Es erinnert sich nicht an den Kontext, in dem es sich befindet. Eine gute Formulierung erweist sich als notwendig, aber nicht ausreichend – etwas weiter oben in der Anweisungskette fehlt.

Warum nicht einfach weiterhin bessere Anfragen formulieren? Weil die Prompt-Engineering-Methoden ursprünglich für einmalige Aufgaben entwickelt wurden: fragen, antworten, fertig. Sobald das Ziel darin besteht, über mehrere Schritte hinweg zu handeln, Ereignisse zu merken, Tools zu nutzen oder ohne dass eine Person jede Anweisung eingibt zu arbeiten, ist der clevere Satz nicht mehr das Engpassproblem. Der Engpass entsteht durch alles, was damit zusammenhängt. Die Formulierung von Anfragen bleibt weiterhin wichtig – sie ist nur nicht mehr das Einzige, was zählt.

Zweiter Schritt: Kontext

Hier ist die Arbeitseinheit das, was bei jedem Schritt im Fenster des Modells bleibt. Das Fenster ist begrenzt, während die verfügbaren Informationen es nicht sind, weshalb eine Auswahl unerlässlich wird. Ohne diese wird die Aufmerksamkeit des Modells beeinträchtigt, da wichtige Details unter alten Tool-Ausgaben und früheren Gesprächsfetzen untergehen. Ein Kurator entscheidet, was beibehalten wird, komprimiert das Nützliche, das jedoch umfangreich ist, und verwirft den Rest. Die Fähigkeit besteht darin zu wissen, was weggeworfen werden muss, und nicht darin, mehr hineinzupacken.

Der Raum, in dem das Modell steht, hat einen Namen: Kontext. Das bedeutet alles, was das Modell bei einem bestimmten Aufruf sieht – nicht nur die Anfrage: Systemanweisungen, abgerufte Dokumente, Tool-Definitionen, Konversationshistorie, Langzeitgedächtnis sowie frühere Tool-Ausgaben. Kontextengineering lässt sich zusammenfassen als die Auswahl dessen, was das Modell sieht, um bessere Ergebnisse zu erzielen. Prompting beantwortet die Frage, welche Wörter verwendet werden sollen. Kontextengineering fragt danach, was das Modell genau in diesem Moment weiß.

Eine Analogie aus dem Baugewerbe hilft dabei. Wenn man einen Auftragnehmer für einen Tag einsetzt, kann man ihm eine perfekt formulierte Arbeitsanweisung übergeben – doch ohne Grundriss, Genehmigungsverlauf und die Notizen der gestrigen Inspektion rettet allein die Formulierung nichts. Der Auftragnehmer wird mit Überzeugung das Falsche tun. Das spiegelt den oben beschriebenen Folgeschaden wider: Das Modell war nicht dumm, nur unzureichend informiert. Die meisten Fehler von KI-Systemen sind Kontextfehler, keine Fehler des Modells selbst. Das Modell funktioniert einwandfrei, doch niemand hat den Grundriss bereitgestellt.

Die offensichtliche Lösung besteht darin, dem Modell alles zur Verfügung zu stellen: das gesamte Gespräch, jedes Dokument, jede frühere Interaktion. Mehr Informationen führen zu besseren Antworten. Praktiker stellten das Gegenteil fest und gaben diesem Phänomen den Namen „Context Rot“. Selbst Modelle mit großen Informationsfenstern leiden messbar unter einer Verschlechterung, wenn das Fenster mit nur mäßig relevantem Material gefüllt wird. Dem Modell geht es nicht an Raum mangeln – doch die Signale gehen im Rauschen unter, und irrelevante Details werden als wichtig angesehen. Die bessere Anweisung ist es, den richtigen Ordner bereitzustellen und nicht den gesamten Aktenschrank. Die Disziplin lässt sich in einem Satz so zusammenfassen: Auswahl statt Ansammlung – man entscheidet, was in den „Raum“ gehört und, genauso wichtig, was draußen bleibt.

Auch in einem perfekt gestalteten Raum entsteht schnell eine weitere Wand. Ein fehlerfreier Kontext liefert einen schönen Plan dafür, was als Nächstes zu tun ist – danach stoppt das Modell einfach. Es kann die Datei nicht öffnen, den Code nicht ausführen oder überprüfen, ob der Plan funktioniert hat. Es ist wie ein Bauunternehmer mit einem perfekten Grundriss, aber ohne Hände.

Ebene drei: das Harness

Die Arbeitseinheit ist nun die Maschine selbst. Ein reines Modell erzeugt nur Text. Das Harness verwandelt es in etwas, das handeln, seine eigene Arbeit überprüfen und nach Fehlern wiederherstellen kann – und zwar in drei Phasen:

Sammeln: Das Notwendige zusammenstellen.
Handeln: Das Modell ausführen, Tools oder Unteragenten aufrufen.
Überprüfen: Die Ausgabe mit Tests oder einem Prüfer überprüfen.

Falls es zu einem Fehler kommt, wird der gesamte Zyklus mit aktualisiertem Kontext erneut gestartet. Genau dieser Unterschied unterscheidet den Aufruf einer API von der Ausführung eines Agenten.

Eine praktische Formel: Agent = Modell + Zaumzeug. Alles, was das Modell umgibt, zählt zum Zaumzeug – also Code, Konfiguration sowie Ausführungslogik. Dazu gehören aufrufbare Tools, les- und schreibbare Speicher, Einschränkungen für zulässige Aktionen, die Orchestrierung, die den nächsten Schritt wählt, sowie Zustände, die über eine Sitzung hinaus bestehen.

Der Begriff passt perfekt. Ein Pferd ist kraftvoll, kann aber ohne Zaumzeug nicht arbeiten, denn Gurte und Zügel lenken seine rohe Kraft in nützliche Tätigkeiten. Ersetzen wir das Pferd durch ein Modell: Es verfügt über Intelligenz, doch ohne Tools, Speicher, Schutzmechanismen und Orchestrierung hat diese Intelligenz keinen Ausdrucksmöglichkeit.

Ein Punkt verändert das Bild grundlegend. Der Harness macht das Modell nicht intelligenter. Ersetzen Sie das Modell durch ein besseres – der Harness bleibt unverändert, da er lediglich ein einbaufähiges Bauteil darstellt und nicht das Zentrum ist. Sein Beitrag besteht in der Struktur: Ein cleveres Modell ohne eigenes Zustandsmanagement wird zu einem Komponenten in einem geschlossenen System, das Aktionen ausführt, Ergebnisse überprüft und genau dort weitermacht, wo es heute aufgehört hat.

Das erklärt auch, was es bedeutet, wenn eine KI scheinbar etwas über verschiedene Sitzungen hinweg in Erinnerung behält. Das Modell erinnert sich nicht. Der Framework hat es irgendwo notiert und es später wieder bereitgestellt. Jeder Modellaufruf beginnt bei Null, und das Framework simuliert Kontinuität, indem es gestrige Notizen, die heutige Aufgabenliste sowie den Zustand des Dateisystems heranzieht und all das als Kontext vorab bereitstellt, bevor das Modell anfängt zu denken. Kontextengineering und Framework-Engineering sind daher eng miteinander verbunden, denn das Framework entscheidet, welcher Kontext bei jedem Aufruf zusammengestellt wird.

Layer vier: der Loop

Ein Modell mit Werkzeugen und Speicher scheint der Gipfel zu sein. Was könnte ein Agent noch brauchen? Einen Herzschlag. Loop-Engineering ist die neueste Schicht, deren Name sich noch entwickelt, während sie konstruiert wird.

Das ist die Lücke. Selbst mit einem vollständigen Steuergerät muss jemand weiterhin am Keyboard sitzen und entscheiden, was der Agent als Nächstes tut: einen Befehl eingeben, das Ergebnis lesen, den nächsten Befehl wählen und so weiter. Das bedeutet, dass immer ein Mensch im Prozess involviert ist, Schritt für Schritt, ständig.

Durch „Loop Engineering“ wird der manuelle Hin- und Herwechsel durch ein System ersetzt, das den Zyklus selbstständig steuert: Denken, handeln, prüfen, was passiert ist, den nächsten Schritt wählen und erneut starten – ohne dass jemand zwischendurch Anweisungen neu eingibt. Es ähnelt dem Unterschied zwischen dem Fahren eines Autos und der Konstruktion eines Tempomats. Die Person muss nicht mehr jede Sekunde aufs Gaspedal drücken, sondern hat bereits festgelegt, was eine konstante Fahrgeschwindigkeit und das Anhalten bedeuten.

Ein konkretes Beispiel macht es verständlich. Ein Agent, der damit beauftragt ist, einen Fehler zu beheben, liest den Fehler, erstellt einen Plan, ändert den Code und führt die Testsuite aus. Die Tests scheitern weiterhin, also passt er seinen Ansatz an, ändert den Code erneut und führt die Tests erneut aus. Erst wenn die Tests bestehen oder er ausreichend oft versucht hat und feststellt, dass er feststeckt, wendet er sich an einen Menschen. Jeder dieser Zykleus ist die Schleife – und in der Zwischenzeit hat niemand „noch einmal versuchen“ eingegeben.

Was kann schiefgehen? Eine Schleife, die ohne Überwachung arbeitet, kann denselben Fehler auch schneller wiederholen, ohne dass es eine Weile jemand bemerkt. Sorgfältige Konzepte integrieren daher einen Bewertungsfaktor in die Schleife: einen Kontrollpunkt, gelegentlich ein zweites Modell als „Richter“, das das Ergebnis anhand eines Kriterienkatalogs bewertet. Erst nach Bestehen dieser Prüfung darf die Schleife davon ausgehen, die Aufgabe erledigt zu haben. Sobald niemand mehr jeden Schritt beobachtet, ist die Überprüfung nicht mehr optional, sondern wird zu einem Bestandteil der Aufgabenbeschreibung der Schleife.

Alle vier zusammen

Die Anweisung bedeutet, jemandem einmal zu sagen, was er tun soll. Der Kontext sorgt dafür, dass die richtige Datei bereits auf seinem Schreibtisch liegt, bevor er anfängt. Der Gurt liefert ihm Hände, Werkzeuge sowie ein Gedächtnis, das das Wochenende über bestehen bleibt. Die Schleife bedeutet, dass man nicht mehr über seine Schulter schauen muss: Er arbeitet, überprüft seine eigene Leistung, versucht es erneut, falls etwas falsch ist, und kommt erst zu Ihnen, wenn die Arbeit tatsächlich abgeschlossen ist.

Vier aufeinanderfolgende Fragen, von denen jede von der vorherigen nicht beantwortet wird. Zusammen bilden sie das, was die Leute heute einfach als Agent bezeichnen, als wäre das selbstverständlich und immer so einfach. Das war es nicht. Jede Schicht wurde nur klar, weil jemand weiterhin nach dem Grund fragte, bis die Grenzen der vorherigen Schicht sichtbar wurden.