Wie moderne KI funktioniert: Erklärung von LLMs, Prompting, RAG, Agenten und MCP.

LLM, GenAI, RAG, MCP. Die Abkürzungen tauchen schneller auf, als man sie nachschlagen kann, und es wirkt, als würde jemand einfach Buchstaben an eine Wand werfen. Die dahinterliegenden Konzepte sind jedoch keine Magie. Wenn man den Fachjargon weglässt, sind sie alle ziemlich intuitiv. Hier ist eine Erklärung, wie die Bestandteile der modernen KI miteinander verbunden sind – in der Reihenfolge, die das Verständnis am einfachsten macht.

Generative KI und LLMs sind nicht dasselbe

Menschen verwenden die beiden Begriffe oft austauschbar, doch einer umfasst den anderen.

• Generative KI ist die übergeordnete Kategorie. Sie umfasst jedes System, das etwas Neues erstellt – sei es Text, Bilder, Audio oder Video.
• Große Sprachmodelle sind ein Teilbereich davon. Wenn generative KI „Fahrzeuge“ ist, dann ist ein LLM ein Sportwagen: ein System, das mit enormen Mengen an Text trainiert wurde, um menschliche Sprache zu verstehen und zu erzeugen.

Was ein LLM im Inneren tut

Ein LLM ist ein Vorhersagemotor, und nichts darin ähnelt menschlichem Denken oder Fühlen. Der nächstliegende Vergleich ist das fortschrittlichste Autocomplete, das je entwickelt wurde.

Ihre Eingabe wird in kleine Einheiten namens Token aufgeteilt, meist ganze Wörter oder Wortfragmente. Anhand aller während des Trainings verarbeiteten Informationen berechnet das Modell anschließend die Wahrscheinlichkeit für jeden möglichen nächsten Token. Geben Sie ihm „Eine Tasse heißen...“, könnte die Mathematik „Kaffee“ mit 90 % und „Zement“ mit 1 % wahrscheinlich machen. Es wählt die wahrscheinlichste Fortsetzung, fügt sie hinzu und wiederholt den Vorgang mit erstaunlicher Geschwindigkeit.

Prompt-Engineering

Falls LLMs lediglich Wahrscheinlichkeitsmaschinen sind, wie erzeugen sie dann gute Aufsätze oder funktionierenden Code? Die Antwort liegt größtenteils darin, wie man fragt. Prompt-Engineering ist die Praxis, Anfragen so zu formulieren, dass die Ausgabe möglichst nützlich ist.

Stellen Sie sich einen brillanten Praktikanten vor, der viel über die Welt weiß, aber nichts über Ihre Ziele. Eine vage Aufgabe führt zu einem vagen Ergebnis, während eine präzise Aufgabe zu präziser Arbeit führt.

Es existieren Dutzende von Techniken, doch vier davon decken den Großteil dessen ab, worauf Entwickler und intensive Nutzer angewiesen sind.

1. Rollenbeschreibung bei der Anfrage. Geben Sie dem Modell eine Rolle, zum Beispiel „Handeln Sie als erfahrener Softwareentwickler, der eine veraltete Codebasis überprüft.“ Dadurch wird sein Wortschatz sowie seine Formatierungsgewohnheiten eingeschränkt, was allgemeinen Unsinn reduziert und zu praktischen, fachspezifischen Antworten führt.

2. Anfrage mit wenigen Beispielen. Vor der eigentlichen Aufgabe zeigen Sie zwei oder drei fertige Beispiele für die gewünschte Eingabestruktur und Ausgabeformat. Codestrukturen sowie JSON-Schemata sind leicht falsch zu interpretieren, und ein klares Beispiel für eine „gute“ Ausgabe beseitigt den größten Teil der Vermutungen sowie vieler Formatierungsfehler.

3. Prompt-Kettenbildung. Teilen Sie eine große Aufgabe in eine Abfolge kleinerer Prompts auf. Ein Prompt kann die Architektur skizzieren, der nächste das Datenbankschema erstellen und ein dritter basierend auf diesem Schema API-Endpunkte schreiben. Modelle verlieren über lange Zeiträume den Fokus, daher führt das Halten jeder Schritt klein zu besseren Code und weniger Kompilierfehlern.

4. Meta-Prompting. Bitten Sie das Modell, den Prompt selbst zu schreiben, zu verbessern oder zu debuggen – beispielsweise „Ich möchte X erreichen, also schreiben Sie den besten Prompt für ein LLM, um das zu tun.“ Das Modell kennt seine eigenen Grenzen ziemlich gut, was Stunden an Versuch und Irrtum sparen kann.

Alle vier Methoden funktionieren auf dieselbe Weise. Durch die Steuerung des Kontexts werden die Wahrscheinlichkeiten des Modells eingegrenzt, sodass es nur auf den „experten Ingenieur“-Anteil dessen zurückgreift, was es gelernt hat.

RAG: Dem Modell aktuelle Fakten liefern

LLMs weisen eine eingebaute Einschränkung auf: Sie bleiben nach Abschluss der Trainingsphase unverändert. Ein im Jahr 2023 fertiggestelltes Modell kann nicht wissen, dass RCB im Mai 2026 den IPL-Trophäe gewonnen hat. Ebenso kennt es kein privates Material wie interne PDFs Ihres Unternehmens.

Retrieval-augmented Generation, oder RAG, schließt diese Lücke. Stellen Sie sich eine Prüfung mit offenen Büchern vor: Anstatt sich nur auf das zu verlassen, was man vor langer Zeit auswendig gelernt hat (die Grundtrainung), darf man beim Beantworten Fragen auf ein umfangreiches Lehrbuch zurückgreifen.

Die vier Schritte

1. Frage. Sie stellen eine Frage wie „Wie sahen unsere Verkaufsziele für das 3. Quartal aus?“
2. Auswahl der Informationen. Bevor das Modell die Frage sieht, durchsucht ein System die eigenen Unternehmensdokumente nach Material zu den Verkaufszielen für das 3. Quartal.
3. Aufrichung der Informationen. Die gefundenen Dokumente werden in den Prompt eingefügt.

Generierung. Das Modell liest sie und antwortet anhand aktueller, relevanter Daten.

Warum Modelle Halluzinationen erzeugen

Weil ein LLM ein Wortvorhersagemodell ist, besteht sein eigentlicher Zweck darin, statistisch plausibel zu klingen – nicht unbedingt faktisch richtig zu sein. Wenn man nach einer nicht existierenden Unternehmensrichtlinie fragt, erhält man kein 404-Fehler. Stattdessen erfindet das Modell aus dem Nichts eine überzeugende Richtlinie. Es lügt nicht absichtlich, sondern folgt seinen Wahrscheinlichkeiten in Richtung einer scheinbar richtigen Antwort. RAG verringert dies, indem es das Modell zwingt, seine Antwort auf von Ihnen bereitgestellte reale Fakten zu stützen.

Warum die Suche so schnell ist

Klassische Suchmaschinen suchen nach exakten Schlüsselwortübereinstimmungen, doch eine KI muss Bedeutungen erfassen – und das ist die Aufgabe von Embeddings.

Wenn Unternehmens-PDFs hochgeladen werden, wandelt ein spezielles Modell den Text in eine lange Liste von Zahlen um, die seine Bedeutung erfassen. Diese Listen werden in einer Vektordatenbank gespeichert. Bei der Stellungsfrage wandelt das System Ihre Frage auf dieselbe Weise in Zahlen um und sucht nach den am nächsten liegenden Übereinstimmungen in der Datenbank. Deshalb wird der richtige Abschnitt angezeigt, selbst wenn Sie Ihre Frage anders formulieren als im Dokument.

RAG im Vergleich zur Feinabstimmung

Die beiden werden oft verwechselt. RAG ist eine Prüfung nach dem Prinzip des offenen Buches: Man gibt dem Modell vorübergehende Notizen, die für eine bestimmte Frage relevant sind. Fine-Tuning ist eher vergleichbar damit, das Modell zurück an die Graduiertenschule zu schicken – es ändert dauerhaft die internen Gewichte des Modells, sodass es einen bestimmten Ton, eine bestimmte Formatierung oder fachspezifisches Vokabular übernimmt, wie beispielsweise medizinische oder juristische Begriffe. Um das faktenbasierte Wissen auf dem neuesten Stand zu halten, ist RAG schneller, günstiger und weitaus einfacher in der Handhabung.

Agierende KI: vom Chatbot zum digitalen Arbeiter

Die meisten Menschen nutzen KI weiterhin passiv. Man gibt einen Prompt ein, erhält eine Antwort und der Austausch endet. Agierende KI entwickelt sich vom passiven Assistenten zum aktiven Agenten. Ein Agent erhält ein Ziel, ein Satz an Werkzeugen sowie die Freiheit, selbst herauszufinden, wie er dieses Ziel erreichen kann, ohne dass jeder Schritt von jemandem geleitet wird.

Der Arbeitsablauf

Fragt man einen einfachen LLM, einen fünftägigen Aufenthalt in Bangalore zu planen, erstellt es sofort ein generisches Reiseprogramm. Ein Agent arbeitet hingegen in Schleifen, anstatt nur eine Antwort vorherzusagen. Dieses Muster wird ReAct genannt, abgekürzt für Reasoning and Acting, und es durchläuft nacheinander Denken, Handeln und Beobachten:

                  ┌────────────────────────┐
                  │                        │
                  ▼                        │
[Thought] ──> [Action] ──> [Observation]  ─┘

• Gedanke ist der Schlussfolgerungs Schritt. Das Modell analysiert die Anfrage und entscheidet, was zu tun ist. Wenn jemand das Wetter in Hyderabad wissen möchte, kommt es zu dem Schluss, dass es die heutigen Bedingungen nicht kennt und eine externe Quelle benötigt.
• Aktion ist die Auswahl eines Tools oder einer API zum Aufrufen, beispielsweise call_weather_api(location="Hyderabad").
• Beobachtung ist das Ergebnis aus der Realwelt, das von diesem Tool zurückkommt, wie zum Beispiel „25°C und regnerisch.“

Dann beginnt der Kreislauf erneut. Das Modell nimmt die Beobachtung auf, bildet einen neuen Gedanken (es verfügt nun über das Wetterinformationen und kann die Antwort formulieren) und antwortet schließlich.

MCP: das universelle Anschlussstück

Während sich die Agenten ausbreiten, stoßen sie auf ein Problem: Wie erreichen sie den Rest der digitalen Welt? Slack, GitHub, Google Drive und Notion organisieren ihre Daten jeweils anders, und das Verbinden einer KI mit jedem dieser Dienste bedeutete früher, für jede App eine eigene Brücke zu erstellen.

Das Model Context Protocol (MCP) ist ein offener Standard, der wie ein universeller USB-C-Anschluss für KI funktioniert.

[ AI Model ]
     │
     ▼ (Via MCP - Universal Standard)
[ MCP Server / Plug ]
  ├── Connected to your Slack
  ├── Connected to your GitHub
  └── Connected to your Local Files

Anstelle von Tausenden einzelner Integrationen implementieren Anwendungen MCP nur einmal. Danach kann jedes kompatible Modell die Daten der Anwendung sicher lesen, ihre Tools nutzen und ihren Kontext verstehen. Es handelt sich dabei um die Infrastruktur, die es Agenten ermöglicht, E-Mails zu verarbeiten, Tabellenkalkulationen zu aktualisieren und an Codebasen zu arbeiten.

Eine einfachere Art, sich das vorzustellen

MCP leistet für Software das, was UPI für Zahlungen in Indien getan hat. Vor UPI bedeutete das Überweisen von Geldern, dass man sich eine Kontonummer, einen IFSC-Code sowie einen Filialnamen besorgen musste, anschließend darauf warten musste, dass der Empfänger aktiviert wurde, oder mit fünf verschiedenen Wallet-Apps umgehen musste, die nicht miteinander kommunizieren konnten. UPI ersetzte das durch einen scannbaren Code, der zu jeder Bank vordringt. MCP ist die gleiche universelle Scan-Lösung für KI. Entwickler müssen nicht mehr speziellen API-Code schreiben, um ein Modell mit Slack, anschließend mit GitHub und dann mit einer weiteren App zu verbinden. Jede App installiert einen standardmäßigen MCP-Stecker, sodass jedes Modell sich anschließen, Daten lesen und Aktionen auslösen kann. Es handelt sich dabei um die Autobahn, die es Agenten ermöglicht, sich durch ein Jira-Board, E-Mails in Outlook sowie eine Produktionscodebasis zu bewegen.

Wie alles miteinander verbunden ist

Setzen Sie die Teile in die richtige Reihenfolge, und die Richtung wird klar. Generative KI und LLMs haben gelernt, wie Menschen zu sprechen. Prompt Engineering hat den Nutzern gezeigt, wie sie effektiv antworten können. RAG liefert aktuelle Fakten und private Daten. Aggressive KI übernimmt nun komplexe Probleme, wobei MCP die Verbindung zwischen diesen Agenten und Software überall herstellt.

Der KI-Boom dreht sich nicht darum, dass Maschinen bewusst werden. Es geht darum, dass Maschinen gut vernetzte, leistungsfähige Werkzeuge werden – und das Verständnis dafür, wie die Mechanismen funktionieren, macht es einfacher, das Beste aus ihnen herauszuholen.