Startseite / Artikel

Warum das Agent Harness und nicht das Modell entscheidet, was Wirklichkeit wird.

Ein zeitbegrenzter CRM-Update zeigt, warum Agenten Tool-Verträge, Zustände mit unbekanntem Ausgang, idempotente Wiederholungsversuche sowie verifizierte Abschlüsse benötigen, sowie Kontrollmechanismen, die beibehalten werden sollten.

Verlag: REACTAPP.TOP6 Min. Lesezeit1450 Wörter

Quellen: The Model Is Not the Agent. The Harness Is the Product.

Nehmen wir an, ein Agent muss den Lieferkontakt in einem Kundenkonto ändern. Er findet die entsprechende Eintragung, erstellt einen Änderungsvorschlag und ruft das CRM auf. Dann läuft der Anruf ab. Vielleicht ist die Änderung fehlgeschlagen. Vielleicht hat sie funktioniert, nur die Bestätigung ist verloren gegangen. Oder das CRM arbeitet noch daran.

Einfach „Erledigt“ zu antworten, löst keines dieser Probleme, genauso wenig wie ein erneuter Anruf, ohne zu wissen, was beim ersten Mal passiert ist. Die Geschichte ist frei erfunden, zeigt aber ein echtes Designproblem auf. Die Anfrage um Handlung und die Bestätigung des Ergebnisses sind unterschiedliche Vorgänge. Ein Modell kann die Anfrage fehlerfrei ausführen, während das Produkt dennoch die Realität aus den Augen verliert – und genau dafür ist das Framework da.

Was das Framework ist

In diesem Ansatz ist das Framework das, was während der Ausführung die Aufrufe des Modells, den Kontext, die Werkzeuge, die Ausführungsregeln sowie die Fortschrittsverfolgung miteinander verbindet. Es kann aus mehreren Komponenten bestehen, und niemand muss ein eigenes Framework entwickeln, um eines zu haben. Der Zugriffskontrolle obliegen die Identitätsdienste, dauerhafte Datensätze befinden sich in Datenbanken und Geschäftsregeln in externen Systemen. Das Framework verbindet all diese Elemente miteinander und koordiniert sie.

Eine kurze Formel fasst das zusammen: Das Modell schlägt vor, und das Framework bestimmt, was Wirklichkeit wird.

Modelle können planen, Beweise interpretieren und beurteilen, ob die Arbeit abgeschlossen ist – es geht also nicht darum, dass die Software im Umfeld eines passiven Modells denkt. Vielmehr muss das System seine Grenzen durchsetzen, selbst wenn die Beurteilung des Modells falsch ist.

OpenAIs Beschreibung des Codex-Agenten-Zyklus zeigt die Mechanismen: Eingabe vorbereiten, das Modell abfragen, die angeforderten Tools ausführen, deren Ausgabe zurückgeben und so weitermachen, bis das Modell eine Nachricht sendet. Diese letzte Nachricht beendet eine Runde. Sie beweist für sich genommen nichts darüber, ob sich ein Kundendatensatz geändert hat.

Das macht das Tool jedoch nicht zum gesamten Produkt. Die Modellqualität, die Benutzererfahrung, fachliche Expertise sowie Integrationen spielen weiterhin eine wichtige Rolle. Ein einziger Modellaufruf reicht bereits aus, um eine begrenzte Schreibaufgabe zu erledigen. Um einen CRM-Datensatz zu bearbeiten, ist außerdem eine Handlungsberechtigung sowie ein Nachweis des Systems erforderlich, dass tatsächlich eine Änderung vorgenommen wurde.

Tools als Verträge

Ein Tool mit dem Namen „update customer“ ist ungenügend spezifiziert. Es lässt unklar, welcher Kunde und welche Konten betroffen sind, was sich ändern kann und was passiert, wenn ein Kollege die Datensätze nach dem Lesen durch den Agenten bearbeitet. Anthropics Ratschläge zur Erstellung von Tools betonen klare Zwecke, nützliche Rückgabewerte sowie Tests mit realistischen Aufgaben. Die Beschreibungen leiten die Auswahl des Modells, während der dahinterliegende Code die Regeln durchsetzen muss.

Im Beispiel des Lieferkontakts könnte der Vertrag Folgendes umfassen:

  • Wer: die gelöste Kunden-ID innerhalb eines Kontos, an dem der Agent Änderungen vornehmen darf.
  • Was: nur die im Antrag genannten Felder zum Lieferkontakt.
  • Schutzmechanismus: die von dem Agenten zuletzt gesehene Datensatzversion, sofern das System diese bereitstellt.
  • Identität: eine stabile Anfrage-ID, vorausgesetzt, der Dienst kann daraufhin Duplikate erkennen.
  • Antwort: Ein strukturierter Status, unterstützende Belege sowie Fehler, auf die eine Person oder ein Programm reagieren kann.
  • Es handelt sich dabei um vorgeschlagene Optionen, und nicht jedes CRM bietet sie an.

    Grenzen sind wichtiger als beruhigende Formulierungen. Eine Hinweismeldung mit dem Text „Aktualisieren Sie nur autorisierte Kunden“ ist ein Ratschlag. Der Dienst selbst muss die echte Identität, das Konto, das Ziel sowie die zulässigen Felder überprüfen. Lesevorgänge benötigen ebenfalls einen definierten Umfang: Das Herunterladen der gesamten Kundendatenbank ist nicht harmlos, nur weil nichts geändert wurde. Anthropics Darstellung zur Eindämmung von Claude plädiert für schichtweise Kontrollmechanismen rund um das Modell, die Ausführungsumgebung sowie externe Inhalte.

    In diesem Design wird eine außerhalb des Umfangs liegende Anfrage bereits vor jeder Schreiboperation abgelehnt. Ein Versionskonflikt wird als Entscheidung bezüglich veränderter Belege betrachtet, nicht als Erlaubnis zum Überschreiben.

    Wenn das Ergebnis unbekannt ist

    Nach Ablauf der Frist sollte das System ein unbekanntes Ergebnis erfassen. Das ist weder ein Erfolg noch notwendigerweise ein Misserfolg. „Ungewiss“ ist ein legitimer Ausführungszustand, doch es handelt sich dabei nicht um eine Erlaubnis, es erneut zu versuchen.

    Die Wiederherstellung wird einfacher, wenn drei Arten von Zuständen getrennt bleiben:

    1. Arbeitender Kontext: die Informationen, die das Modell benötigt, um seine nächste Entscheidung zu treffen.
    2. Dauerhafter Ausführungsbericht: Was beabsichtigt war, was ausgeführt wurde, wer es genehmigt hat und was noch ungelöst ist.
    3. Externer Geschäftsstatus: Was das CRM derzeit enthält.

    Ein Chat-Zusammenfassung kann ein Modell wieder in Betrieb nehmen, sollte aber nicht die einzige Erinnerung an eine wichtige Operation sein. Auch Checkpoints haben ihre Grenzen, denn die reale Welt entwickelt sich weiter, nachdem einer gespeichert wurde, und in der Zwischenzeit könnte jemand den Kontakt geändert haben. Das Design der Managed Agents von Anthropic zeigt, warum die Lebenszyklen getrennt sein sollten: Session-Log, Harness und Ausführungsumgebung existieren getrennt voneinander, sodass ein neuer Harness von den gespeicherten Ereignissen fortfahren kann. Kleinere Anwendungen können diese Trennung innerhalb eines Services beibehalten. Entscheidend ist die Fähigkeit zur Wiederherstellung, nicht die Nachbildung einer verteilten Architektur.

    Für das Kontaktbeispiel sollten Sie vor dem Versenden die beabsichtigte Aktion aufschreiben. Nach Ablauf der Frist können Sie den Service nach dem Status der Aktion fragen oder nach anderen zuverlässigen Hinweisen suchen. Wenn eine Rückfrage den neuen Kontakt anzeigt, gibt das Aufschluss über den aktuellen Zustand. Es sagt jedoch nicht unbedingt aus, welche Anfrage dazu geführt hat. Alles, was gemeldet wird, sollte im Rahmen dessen bleiben, was durch die Beweise gestützt wird.

    Wiederholungsversuche benötigen Idempotenz

    „Versuchen Sie es dreimal“ gibt lediglich an, wie lange man durchhalten soll, und sagt nichts darüber, ob ein weiterer Versuch sicher ist. Die AWS Builders’ Library beschreibt in ihren Richtlinien für idempotente APIs eine strengere Vorgehensweise: Der Aufrufer liefert einen Anfragen-Identifikator, der Service erkennt die wiederholte Absicht und protokolliert die Duplikate zusammen mit der durchgeführten Änderung.

    Eine lokale ID kann keine externe Schreiboperation einmal auslösen. Der Dienst muss den Vertrag einhalten, einschließlich der Parameterregeln und des Aufbewahrungszeitraums. Im Fall des CRM gibt es drei Möglichkeiten für die Wiederherstellungsregel:

    • Falls autoritäre Belege die Abschlussbestätigung liefern, werden die erforderlichen Nachbedingungen überprüft und die Operation abgeschlossen.
    • Falls der Vertrag des Dienstes eine sichere Wiederholung zulässt, wird die Operation unter Beibehaltung derselben Identität und des gleichen Zwecks innerhalb der definierten Grenzen erneut gesendet.
    • Falls das Ergebnis weiterhin unklar ist und eine Wiederholung unsicher ist, wird die Operation pausiert und um Hilfe gebeten.

    Das Erstellen einer neuen Anfragen-ID nur zum Zweck der Wiederholung einer unsicheren Schreiboperation dient dem Zweck nicht. Wenn das CRM keine Möglichkeit hat, den Status der Operation zu melden oder zuverlässig Duplikate zu entfernen, werden die Auswahlmöglichkeiten eingeschränkt. Diese Einschränkung sollte im Produktdesign berücksichtigt werden, anstatt mit einer überzeugenderen Anweisung übertüncht zu werden.

    Ausgänge aus der Schleife

    Eine nützliche Schleife beobachtet, entscheidet, handelt und überprüft, und sie benötigt außerdem klare Auswege.

    Das Produkt sollte diese Endzustände unterscheiden:

    • Abgeschlossen: Das gewünschte Ergebnis wurde überprüft und bestätigt.
    • Auf Genehmigung wartend: Der nächste Schritt erfordert jemanden mit mehr Befugnissen.
    • Aus Gründen von Eingaben oder Abhängigkeiten blockiert: Der Fortschritt benötigt etwas, das der Agent nicht liefern kann.
    • Abgebrochen oder außerhalb des Budgets: Die Ausführung endete ohne Erfolgsmeldung.

    Wiederholte Versuche innerhalb einer laufenden Aktion unterliegen weiterhin den Wiederherstellungsregeln. Mehrfache Misserfolge bedeuten noch lange keinen Fortschritt, nur weil der Agent weiterhin beschäftigt ist. Das System sollte ausreichende Belege speichern, um seine Entscheidungen zu erklären: die relevanten Toolaufrufe, zurückgegebenen Statuswerte, Autorisierungsprüfungen sowie Ergebnisüberprüfungen, wobei sensible Dateninhalte außerhalb der Protokolle bleiben sollten, es sei denn, sie sind erforderlich und geschützt.

    Auch die Bewertung folgt derselben Regel: Es muss die veränderte Umgebung überprüft werden, anstatt nur die endgültige Nachricht zu lesen. Eine gut formulierte Antwort, in der der falsche Kontakt genannt wird, gilt als Misserfolg. Eine gut erklärte Pause nach einem ungelösten Schreibvorgang kann hingegen das richtige Ergebnis sein.

    Bauen Sie nicht mehr, als Sie benötigen

    Das ist kein Argument für einen möglichst großen Steuerungsrahmen. Anthropics Experimente mit langlaufenden Anwendungen führten dazu, dass Komponenten nacheinander entfernt und bei Verbesserungen der Modelle erneut bewertet wurden. Zusätzliche Bewertungen halfen bei schwierigeren Aufgaben, wurden aber zu einem Overhead, wenn bereits ein stärkeres Modell gut funktionierte.

    Es ergeben sich zwei Arten von Komponenten. Produktsteuerungen umfassen Anforderungen wie Autorisierung, Wiederherstellung sowie Rechenschaftspflicht für die Erledigung der Aufgaben. modellspezifisches Stützkonstrukt kompensiert bestehende Schwächen durch wiederholte Planung, korrigierende Anweisungen oder zusätzliche Bewertungsrunden. Nach jedem Modulupdate sollte das Stützkonstrukt erneut getestet werden. Die Produktsteuerungen sollten so lange beibehalten werden, wie das Produkt sie benötigt. Das Ziel ist das kleinste Steuerungssystem, das die Arbeit dennoch sicher, überwachbar und wiederherstellbar hält.

    In der fiktiven CRM-Aufgabe sollte die abschließende Nachricht konkret sein: das überprüfte Datensatz, die Felder, die nun mit der Anfrage übereinstimmen, sowie alles, was noch offen ist. Ein unbekanntes Ergebnis wird als solches gemeldet. Eine ausstehende Freigabe gibt an, welche Aktion auf Zustimmung wartet. Ein durch einen Budgetlimit abgebrochener Ablauf wird niemals als Erfolg dargestellt.

    Was einen Agenten vertrauenswürdig macht, ist nicht Ausdauer. Es ist die Fähigkeit, zu erkennen, was er getan hat, sich zu erholen, wenn etwas schiefgeht, und sich auf die Grenzen zu verlassen, innerhalb derer er agiert.