Chatt-Interface oder Agenten-Schleife? Die Entscheidung, was Ihre KI-Funktion benötigt
Erfahren Sie, wie man einen konversationellen Chatbot von einem zielorientierten Agenten unterscheidet, was der Agent-Loop beiträgt und wie man entscheidet, welches Ihrer KI-Funktionen tatsächlich benötigt wird.
Quellen: Your AI Chatbot Can Talk — But Can It Actually Take Action?
Zwei KI-Produkte können denselben Textfeld und dieselbe Begrüßung teilen und dennoch auf völlig unterschiedlichen Architekturen basieren. Das eine wandelt Ihre Nachricht in eine Antwort um; das andere betrachtet Ihre Nachricht als Ziel, ruft Tools auf, prüft die Rückmeldung und entscheidet, was als Nächstes getan werden soll. Wenn Sie eine KI-Funktion entwerfen, führt die Verwechslung beider Ansätze entweder zu einem unterdimensionierten Produkt oder zu einem teuren, anfälligen Produkt. Diese Anleitung bietet Ihnen ein geeignetes Vokabular zur Unterscheidung, eine Methode, jedes System auf dem Spektrum zwischen diesen beiden Ansätzen einzuordnen, sowie eine praktische Checkliste zur Entscheidung, welchen Ansatz Sie verfolgen sollen.
Wir haben die konzeptionelle Grenze bereits in was einen Chatbot von einem KI-Agenten jenseits des LLM unterscheidet behandelt. Hier liegt der Fokus auf der Entwurfsentscheidung: welche Kosten eine Schleife verursacht, wann sich das lohnt und wie ein einfacher Chatbot Schritt für Schritt zu einem Agenten wird.
Zwei Systeme hinter demselben Textfeld
Betrachten wir einen Benutzer, der nach dem besten Machine-Learning-Laptop fragt, der in ein bestimmtes Budget passt. Ein konversationaler Assistent antwortet mit einer Liste von Empfehlungen, die auf dem Wissen des Modells beruhen. Das ist durchaus hilfreich, doch die Liste kann veraltet sein, und es bleibt Ihre Aufgabe, sie mit Ihren Vorgaben abzugleichen.
Ein zweites System erhält denselben Satz und führt etwas völlig anderes aus. Es abruft aktuelle Produktdaten über verbundene Tools, vergleicht die Spezifikationen, prüft die Kandidaten anhand Ihrer angegebenen Anforderungen und schreibt seine Suche um, wenn die erste Gruppe nicht passt, um es erneut zu versuchen. Das Chat-Fenster bleibt unverändert. Was sich unterscheidet, ist die Arbeit, die nach dem Drücken der Enter-Taste stattfindet.
Das ist die zentrale Frage dieses Leitfadens: Ab welchem Punkt wird ein system, das spricht, zu einem System, das handelt?
Was ein Chatbot dazu dient zu tun
Ein Chatbot ist Software, deren Hauptaufgabe das Gespräch ist. Die Interaktion folgt einem einfachen Muster:
- der Benutzer sendet eine Nachricht
- das System verarbeitet sie
- es erzeugt oder holt eine Antwort ab und gibt die Kontrolle wieder an den Benutzer zurück
Fragen Sie es, das konstruierte Lernen zu erklären – und es tut dies. Folgen Sie damit mit einer Bitte um ein Beispiel, und es antwortet erneut. Jeder Schritt besteht aus einer Anfrage und einer Antwort, wobei das Gespräch selbst das Ergebnis ist.
Dieses Muster umfasst einen großen Teil der tatsächlichen Anwendungsfälle: das Beantworten von Fragen, die Erklärung von Konzepten, das Verfassen und Zusammenfassen von Texten, Brainstorming, Kundenservice sowie Nachhilfe.
regelbasierte Bots und von großen Sprachmodellen angetriebene Chats
Chatbots existierten bereits vor großen Sprachmodellen. Frühere Generationen waren größtenteils vorgefertigt: Eine Begrüßung löst eine standardisierte Antwort aus, eine Anfrage zur Überprüfung einer Bestellung führt zu einer Aufforderung um die Bestellnummer, und alles, was außerhalb des vorgesehenen Ablaufs liegt, führt zu einer Standardnachricht. Sie waren genau deshalb vorhersehbar, weil jeder Ablauf von Hand festgelegt wurde.
Chat-Assistenten, die auf großen Sprachmodellen basieren, haben einen Großteil dieser Starrheit beseitigt. Sie analysieren freie Texte und erstellen Antworten in Echtzeit, wodurch sie sich für das Schreiben, Programmierhilfe, Forschung, Lernen, logisches Denken, Zusammenfassung und Übersetzung eignen. Es ist jedoch wichtig zu betonen, dass der Ersatz eines Entscheidungsbaums durch ein leistungsstarkes Modell die Konversationsfähigkeit des Systems verändert. Allein dadurch ändert sich jedoch nicht, was das System in der Praxis tun kann. Ein leistungsstärkeres Modell innerhalb eines Anfrage-Antwort-Formats bleibt weiterhin ein Chatbot.
Was macht ein System zu einem Agenten
Ein KI-Agent ist ein System, das durch das Treffen von Entscheidungen und Ausführen von Aktionen mit den ihm zur Verfügung gestellten Fähigkeiten, in der Regel Werkzeugen, ein Ziel verfolgt. Die ständige Frage lautet nicht nur, welche Antwort gegeben werden soll, sondern auch, welcher nächste Schritt unternommen werden muss.
Ein vereinfachtes Vorgehen eines Agenten sieht so aus:
- Ein Ziel erhalten.
Die wichtige Eigenschaft ist, dass die Schritte vier bis acht sich wiederholen. Das System nimmt an einem mehrschrittigen Workflow teil, anstatt eine Antwort zu liefern und abzuwarten.
Eine Reiseanfrage, auf zwei Arten bearbeitet
Fragen Sie einen Chatbot um Hilfe bei der Planung von drei Tagen in Dubai – er wird wahrscheinlich einen übersichtlichen Reiseplan erstellen: Burj Khalifa und Dubai Mall am ersten Tag, Alt-Dubai am zweiten Tag sowie die Marina und eine Wüstensafari am dritten Tag. Das ist nützlich, doch alle praktischen Aspekte wie Hotels, Preise, Verfügbarkeit, Flüge, Öffnungszeiten und der endgültige Zeitplan liegen weiterhin in Ihrer Verantwortung.
Geben Sie einem entsprechend ausgestatteten Reiseberater das Ziel, innerhalb eines festgelegten Budgets praktikable Optionen für eine dreitägige Reise nach Dubai zu finden – dann könnte der Ablauf völlig anders aussehen. Er legt das Budget fest, sucht nach Flügen, vergleicht sie, sucht nach Hotels, sammelt Öffnungszeiten und andere relevante Details, erstellt einen Reiseplan, prüft die Gesamtkosten im Vergleich zum Budget, passt den Plan an, falls diese überschritten werden, und präsentiert schließlich die verbleibenden Optionen.
Kurz gesagt: Der Chatbot bespricht die Aufgabe, während der Agent so konzipiert werden kann, dass er sie bearbeitet.
Antwort versus Handlung
Für ein einzeiliges mentales Modell verwenden Sie diese beiden Strukturen:
- Chatbot: Nachricht, anschließend Antwort
- Agent: Ziel, anschließend Entscheidung, Handlung, Beobachtung und die nächste Handlung – wiederholt bis die Aufgabe erledigt ist
Die erste Struktur ist um ein Gespräch herum organisiert; die zweite um ein Ergebnis.
Warum die Benutzeroberfläche nichts verrät
Ein Agent kann auch hinter einem Chatfeld existieren, und genau deshalb täuschen die äußeren Erscheinungen. Stellen Sie sich zwei Apps vor, die beide dieselbe freundliche Begrüßung anzeigen und beide den Suchbefehl „Finden Sie aktuelle Forschungsarbeiten zu KI-Agenten“ erhalten.
App A übermittelt den Suchbefehl an das Modell, welches aus seinen Trainingsdaten antwortet. App B ruft ein Suchwerkzeug auf, sammelt Arbeiten ein, liest die Ergebnisse, bewertet deren Relevanz, sucht erneut, falls die erste Suche unzureichend war, und schreibt anschließend eine Zusammenfassung. Auf dem Bildschirm sehen die beiden Apps fast identisch aus; im Hintergrund handelt es sich bei der einen um einen einzigen Modellaufruf und bei der anderen um einen orchestrierten Arbeitsablauf. Man kann ein System nicht anhand seiner Benutzeroberfläche klassifizieren – man muss sich den Steuerungsablauf ansehen.
Wer steuert den Arbeitsablauf
In einer typischen Chatbot-Sitzung ist der Mensch der Leiter. Sie fragen nach Arbeiten zum maschinellen Lernen und erhalten Vorschläge. Sie bitten um einen Vergleich und bekommen ihn. Sie fragen nach Einschränkungen und erhalten diese. Jeder Übergang von einer Phase zur nächsten ist eine von Ihnen getroffene und eingegebene Entscheidung.
Ein agierendes System kann den gesamten Auftrag auf einmal übernehmen: „Finden Sie fünf relevante Arbeiten zum maschinellen Lernen, vergleichen Sie ihre Methoden, identifizieren Sie ihre Einschränkungen und erstellen Sie einen Bericht“. Anschließend ordnet es die Phasen selbst: Suchen, Filtern, Lesen, Extrahieren, Vergleichen, Bewerten und Schreiben. Sie müssen nicht mehr jeden Schritt separat anfordern – das ist der eigentliche Wandel. Die Kontrolle über die Abfolge wechselt vom Benutzer zum System.
Die Bausteine, die ein Modell in einen Agenten verwandeln
Werkzeuge
Die Verwendung von Werkzeugen ist die Fähigkeit, die am stärksten mit Agenten in Verbindung gebracht wird. Ein bestimmter Agent kann dazu ausgestattet sein:
- eine Suchmaschine für aktuelle Informationen
- ein Datenbankwerkzeug für gespeicherte Einträge
- eine Code-Ausführungsmaschine, wie beispielsweise ein Python-Sandbox, zur Analyse und Berechnung
- ein Dateiwerkzeug zum Lesen von Dokumenten
- ein Kalenderwerkzeug zur Überprüfung von Terminen
- eine E-Mail-Funktion, die nur dann verwendet wird, wenn die entsprechenden Berechtigungen vorliegen
- sogenannte APIs zur Kommunikation mit anderen Softwareprogrammen
Die Aufgabe des Modells besteht darin, zu entscheiden, welches dieser Werkzeuge für den aktuellen Schritt benötigt wird. Für Teams, die JavaScript oder TypeScript verwenden, spielen dabei Konzepte wie Funktionsaufrufe sowie argumente, die nach einem Schema überprüft werden, eine wichtige Rolle; die Muster in bounded agentic loops für die Nutzung von LLM-Werkzeugen in TypeScript zeigen, wie das im Code aussieht.
Ein Forschungsbeispiel macht die Vorteile konkret. Ein Student bittet um Hilfe bei der Erforschung von retrieval-augmented generation für Sprachen mit begrenzten Ressourcen. Ein Chatbot kann erklären, wie RAG funktioniert, warum Sprachen mit begrenzten Ressourcen schwierig sind, welche Schlüsselwörter verwendet werden sollten und wie eine Literaturübersicht strukturiert wird, anschließend führt der Student die Forschung durch. Ein Forschungsagent mit den richtigen Werkzeugen könnte die Frage in Suchanfragen umwandeln, akademische Quellen durchsuchen, mögliche Ergebnisse sammeln, irrelevante aussortieren, den Rest lesen, Methoden und Datensätze extrahieren, Ergebnisse vergleichen, Einschränkungen festhalten und eine strukturierte Übersicht erstellen. Zu diesem Zeitpunkt beschreibt die KI nicht nur den Forschungsablauf – sie ist selbst ein Bestandteil davon.
Planung und Ausführung
Komplexe Ziele erfordern eine Aufteilung in kleinere Teile. Wird einem Agenten die Aufgabe „Analysieren Sie diese Kundendatenmenge und erstellen Sie einen Bericht“ übertragen, könnte er planen, die Datei zu prüfen, jede Spalte zu verstehen, fehlende Werte zu überprüfen, die Daten zu bereinigen, explorative Analysen durchzuführen, Visualisierungen anzufertigen, die wichtigen Muster zu identifizieren und die Erkenntnisse niederzuschreiben.
Bemerken Sie, dass ein Chatbot genau dieselbe Liste erstellen könnte. Das Schreiben eines Plans ist eine Textgenerierung. Der Unterschied liegt darin, ob das System diese Schritte ausführen kann und auf die Ergebnisse jedes Schritts reagieren kann. Ein Plan, den der Benutzer manuell umsetzen muss, ist ein Ratschlag; ein Plan, den das System ausführt, stellt Handlungsfähigkeit dar.
Beobachtung und der Feedback-Zyklus
Schauspielern ist nur die halbe Miete. Der Agent muss das Ergebnis jeder Aktion betrachten. Angenommen, er sucht nach aktuellen Artikeln zu agierenden RAG-Systemen und erhält unzureichende Ergebnisse. Ein nützlicher Agent erkennt, dass die Ergebnisse nicht ausreichend relevant sind, formuliert die Anfrage neu, sucht erneut und kommt so zu besseren Ergebnissen.
Dieser Zyklus, der oft als Denken, Handeln, Beobachten, Anpassen zusammengefasst wird, ist es, der einen Loop von einem Pipeline unterscheidet. Ohne Beobachtung feuert das System einfach Werkzeuge in einer festen Reihenfolge ab und hofft auf Erfolg.
Gedächtnis und Zustand der Aufgabe
Das Gedächtnis wird häufig als Merkmal agenter Systeme genannt, doch auch Chatbots können sich Dinge merken – daher macht allein das Gedächtnis ein System noch nicht agierend. Für agente Systeme ist es jedoch wichtiger, da ihre Aufgaben länger andauern und mehr Zwischenergebnisse erfordern. Ein Forschungsagent muss sich an die ursprüngliche Frage erinnern, welche Arbeiten er bereits geprüft hat, welche Quellen er abgelehnt hat und warum, die bisherigen Schlüsselergebnisse, die Anforderungen des Benutzers sowie frühere Ausgaben von Tools. Ohne bewusste Zustandsverwaltung neigt ein solches System dazu, im Laufe der Zeit abzuweichen: Es liest dieselben Quellen erneut, vergisst Einschränkungen oder widerspricht seinen eigenen früheren Schlussfolgerungen.
Ein Spektrum, kein Schalter
Echte Produkte befinden sich selten eindeutig auf einer Seite. Viele Systeme kombinieren konversationelle und agente Fähigkeiten, und es hilft, an eine schrittweise Entwicklung zu denken:
- Basischer Chatbot. Die Nachricht des Benutzers geht an das Modell, und es kommt eine Antwort zurück.
- Chatbot mit Tool-Unterstützung. Das Modell kann vor der Antwort ein Tool wie eine Suchfunktion aufrufen, doch der Ablauf bleibt weiterhin aus einer Anfrage und einer Antwort bestehend.
- Agent. Das Modell erhält ein Ziel, plant, wählt ein Tool aus, handelt, beobachtet, entscheidet erneut und wiederholt diesen Vorgang, bis die Aufgabe abgeschlossen ist.
Zwischen den Stufen zwei und drei gibt es keine klare Trennlinie. Einige Systeme sind konversationelle Assistenten, andere führen ein paar Tool-Aufrufe durch, und wieder andere laufen langwierige, mehrstufige Workflows ab. Wo sich Ihr System befindet, hängt davon ab, wie viel Kontrolle über den Ablauf das Modell hat.
Macht bereits ein einziger Tool-Aufruf einen Agenten?
Nicht unbedingt. Ein Bot, der bei einer Anfrage zum Wetter stets eine Wetter-API aufruft, verwendet zwar ein Werkzeug, doch der Ablauf ist festgelegt: Frage, API-Aufruf, Antwort. Es wird nichts entschieden.
Wechseln Sie die Anfrage in „Planen Sie die beste Outdoor-Aktivität für morgen“, ändert sich das Bild. Das System muss den Wetterbericht prüfen, mögliche Aktivitäten finden, Öffnungszeiten überprüfen, Orte vergleichen, Bedingungen abwägen und eine Option empfehlen. Es trifft mehrere abhängige Entscheidungen und koordiniert mehrere Werkzeuge für ein größeres Ziel, was es einem agierenden Workflow deutlich näher bringt. Eine nützliche Heuristik: Wenn die Abfolge der Werkzeugaufrufe im Voraus fest codiert werden kann, handelt es sich um einen chatbot-basierten Bot; wenn der nächste Aufruf von dem abhängt, was der vorherige zurückgegeben hat, entwickeln Sie einen Agenten.
Agenten ohne Chatfenster
Das Umgekehrte gilt genauso: Ein Agent benötigt keineswegs eine konversationelle Schnittstelle. Ein Hintergrunddienst, der eingehende Support-Anfragen überwacht, kann jede Anfrage kategorisieren, die Details des Kunden abrufen, in der Dokumentation suchen, eine Lösung entwerfen und schwierige Fälle an einen Menschen weiterleiten. Niemand kommuniziert direkt mit ihm, dennoch handelt es sich eindeutig um einen Agenten, da er ein Ziel durch eine Abfolge festgelegter Aktionen verfolgt.
Auswahl zwischen Chatbot und Agent
Es ist verlockend, „Agent“ als verbesserte Version von „Chatbot“ zu betrachten. Diese Sichtweise veranlasst Teams dazu, übermäßig komplex zu konzipieren. Die richtige Frage ist vielmehr, was Ihre Anwendung tatsächlich benötigt.
Wann ein Chatbot die bessere Wahl ist
Eine direkte Modellantwort reicht in der Regel aus, wenn die Hauptaufgabe im Gespräch oder in der Erstellung von Inhalten besteht, beispielsweise:
- Antworten auf häufig gestellte Fragen
Für diese Aufgaben ist ein Chatbot in der Regel einfacher, schneller, günstiger und leichter zu warten. Es gibt keine autonome mehrstufige Ausführung, die gerechtfertigt werden müsste, und jede vermiedene zusätzliche Modellaufruf spart Latenzzeit und Kosten.
Wenn die Aufgabe einen Agenten erfordert
Ein Agent zeigt seine Komplexität, wenn die Aufgabe mehrere der folgenden Aspekte beinhaltet:
- mehrere abhängige Schritte
- Auswahl zwischen verschiedenen Werkzeugen
- Wechselwirkung mit externen Systemen
- Entscheidungen während des Vorgangs
- wiederholte Aktionen
- Überprüfung der Ergebnisse
- Anpassung des Vorgehens aufgrund dieser Ergebnisse
- Aufrechterhaltung des Aufgabenzustands über die Schritte hinweg
Eine Anfrage wie „Suche nach aktuellen Artikeln, extrahiere ihre Methoden, vergleiche ihre Ergebnisse und erstelle einen strukturierten Bericht“ ist von Natur aus mehrschrittig, weshalb eine agierende Architektur besonders geeignet ist.
Der Preis der Autonomie
Mehr Autonomie bedeutet mehr Möglichkeiten zum Scheitern. Ein Agent kann das falsche Werkzeug wählen, ein Ergebnis falsch interpretieren, Arbeit wiederholen, die bereits erledigt wurde, in einer Schleife stecken bleiben, hohe API-Kosten verursachen, viel länger brauchen als ein einzelner Aufruf oder einfach bereits mehrere Schritte vorher eine falsche Entscheidung treffen.
Deshalb benötigen Agenten eine Ingenieurskunst, die Chatbots oft überspringen können:
- Rechte, die festlegen, was jedes Werkzeug erreichen darf
- Validierung der Eingaben und Ausgaben der Werkzeuge
- Protokollierung und Nachverfolgung jedes Schritts
- Fehlerbehandlung bei fehlgeschlagenen oder unvollständigen Werkzeugaufrufen
- Bewertung der gesamten Ausführung, nicht nur einzelner Antworten
- explizite Stoppsbedingungen wie Schrittlimits und Budgets
- menschliche Freigabe vor irreversiblen Aktionen
Falls ein einfacheres System das Problem zuverlässig löst, ist es in der Regel das bessere System.
Der Unterschied von Anfang bis Ende betrachten
Die beiden Kontrollflüsse nebeneinander fassen alles oben Genannte zusammen.
Chatbot: Die Nachricht des Benutzers wird verstanden, eine Antwort wird erzeugt und der Kontrollfluss kehrt zum Benutzer zurück.
Agent: Das Ziel des Benutzers wird verstanden, ein Plan wird erstellt, ein Werkzeug wird ausgewählt, eine Aktion wird ausgeführt, das Ergebnis wird beobachtet, der Plan wird angepasst, die nächste Aktion folgt, und der Kreislauf endet, wenn das Ziel erreicht ist.
Ein letztes Beispiel zeigt, wie beide für denselben Anwendungsfall nützlich sein können. Jemand sagt, er wolle agierende KI lernen. Ein Chatbot kann einen Fahrplan, eine Liste von Themen, Lernressourcen sowie klare Erklärungen anbieten. Ein fortgeschritteneres Lernagent kann bewerten, was der Lernende bereits weiß, einen Lernplan erstellen, eine Lektion vermitteln, Übungen vorgeben, Antworten bewerten, Schwachstellen erkennen, die nächste Lektion anpassen, den Fortschritt im Laufe der Zeit verfolgen und den Kreislauf fortsetzen. Der erste hilft dem Lernenden beim Verständnis; der zweite ist an der Steuerung des Lernprozesses selbst beteiligt. Sie lösen unterschiedliche Probleme.
Kernpunkte
- Ein Chatbot ist um das Gespräch herum organisiert (Eingangsnachricht, Ausgangsantwort); ein Agent ist um ein Ziel herum organisiert (Planen, Handeln, Beobachten, Anpassen, Abschließen).
- Auch die Benutzeroberfläche ist in keinem Fall ein Indikator: Agenten können sich hinter einem Chatfeld verstecken, und sie können auch ohne jegliches Chatfenster arbeiten.