Startseite / Artikel

KI-Agenten verhandeln Deals: Was Wal-Mart-Bots über echte Risiken offenbaren

Zahlungen zwischen Agenten sind jetzt möglich. Die Gefahr liegt nicht in einer geheimen Roboter-Sprache, sondern in Absprachen und unkontrollierten Befugnissen – hier erfahren Sie, wie Sie entscheiden können, was delegiert werden soll.

Verlag: REACTAPP.TOP6 Min. Lesezeit1479 Wörter

Quellen: 3 Uncomfortable Truths About AI Agents Negotiating With Each Other

Noch im Jahr 2021 übertrug Walmart einen Teil seiner Lieferantenverhandlungen auf einen Chatbot. Es handelte sich dabei nicht um ein vorher festgelegtes Gesprächsmuster. Der Bot erhielt einen Budgetrahmen, eine Liste möglicher Kompromisse sowie die Befugnis, einen Vertrag abzuschließen. Seine Gegenüber waren Tausende von Anbietern, die Produkte wie Einkaufswagen oder Fuhrdienste anboten – Bereiche, die Wal-Mart-Käufer bisher nie Zeit gehabt hatten zu prüfen.

Pactum, das Unternehmen hinter dem System, verfolgte die Ergebnisse. Rund 68 Prozent der Lieferanten stimmten den Bedingungen zu, die durchschnittlichen Einsparungen betrugen 3 Prozent und die Zahlungsfristen verlängerten sich um 35 Tage. Drei von vier Lieferanten gaben an, lieber mit dem Software-Tool verhandeln zu wollen als mit einer Person.

Niemand hielt das für beunruhigend. Es sah aus wie ein Chatbot, der schnell Tabellenkalkulationsrechnungen durchführte. In dieser Konfiguration saß immer noch ein Mensch gegenüber: ein Anbieter, der verärgert werden konnte, weggehen oder einen Walmart-Mitarbeiter anrufen und sagen konnte, dass das Angebot absurd sei. Diese Person war die letzte Kontrollstelle.

Die derzeit entwickelte Infrastruktur beseitigt diese Kontrollstelle. Google, Coinbase, Stripe, OpenAI, Mastercard sowie über sechzig weitere Unternehmen haben im vergangenen Jahr Infrastrukturen bereitgestellt, die es einem Agenten ermöglichen, direkt mit einem anderen zu verhandeln und zu zahlen, ohne dass ein Mensch eingreifen muss. Diese Systeme sind bereits im Einsatz, und die meisten Berichte stellen dazu die falschen Fragen.

Was existiert tatsächlich im Jahr 2026

Ohne den Science-Fiction-Ansatz sieht die Technologie so aus:

  • AP2 (Agent Payments Protocol) stammt von Google Cloud und Coinbase aus dem September 2025. Es übermittelt einem Agenten eine kryptografisch signierte Anweisung, die genau festlegt, was er ausgeben darf, wofür und bis zu welchem Limit. Mehr als sechzig Organisationen, darunter American Express, Mastercard, PayPal und Etsy, bauen darauf auf.
  • A2A (Agent2Agent), ein weiteres Google-Protokoll, kümmert sich um die Kommunikation zwischen Agenten. Der Agent eines Unternehmens kann sich an den Agent eines Gegenübers wenden, ohne Rücksicht darauf zu nehmen, wie dieser aufgebaut ist.
  • Zwei weitere Handelsprotokolle ergänzen das Angebot: ACP von Stripe und OpenAI sowie UCP von Google und Shopify. Mit diesen kann ein Agent ein Produkt finden, einen Warenkorb zusammenstellen und für einen Händler bezahlen.

Wenn man sie übereinanderstapelt, kommt man dem nahe, was die Werbung versprochen hat. Ihr Agent findet den Agenten des Anbieters, die beiden tauschen Bedingungen innerhalb eines Protokolls aus, das keines der Unternehmen von Grund auf geschrieben hat, und die Zahlung wird abgewickelt. Es gibt kein Treffen, keine E-Mail-Korrespondenz und niemanden, der die endgültigen Bedingungen vor dem Geldtransfer liest.

Der größte Teil dieses Prozesses bleibt Geschäft zu Geschäft, und immer noch legt jemand im Voraus die Grenzen fest: die Ausgabengrenze, die zugelassenen Anbieter sowie der Ausstiegspreis. Genau diese Details bilden die gesamte Struktur – doch sie werden oft übergangen. Der Agent entscheidet nicht darüber, ob verhandelt wird; er entscheidet nur darüber, wie es innerhalb bereits festgelegter Grenzen geschieht – zumindest vorerst.

Ein Agent, der innerhalb seiner Befugnisse handelt, ist kein Agent, der diese Befugnisse festlegt. Wenn man diese beiden Aspekte verwechselt, bleibt man entweder angstfrei oder unvorbereitet auf echte Herausforderungen.

Die Geschichte der geheimen Sprache ist größtenteils falsch

Fragen Sie die Leute, warum sie sich über Verhandlungen zwischen Robotern ärgern – eine häufige Antwort ist, dass Facebook Bots deaktiviert habe, nachdem diese eine von Menschen unlesbare Sprache erfunden hatten. Diese Geschichte ist größtenteils falsch und sollte nicht weiter verbreitet werden, da sie die Aufmerksamkeit auf die falsche Gefahr lenkt.

Im Jahr 2017 trainierte Facebook AI Research zwei Verhandlungsroboter mit den Spitznamen Bob und Alice, um eine Reihe von Gegenständen aufzuteilen. Niemand belohnte sie dafür, grammatikalisch korrektes Englisch zu verwenden, sondern nur dafür, einen guten Deal auszuhandeln; daher entwickelten sich ihre Formulierungen zu wiederholenden, kodigen Abkürzungen. Die Forscher Mike Lewis und Dhruv Batra erklärten dies später einfach: Da es keinen Anreiz für korrektes Englisch gab, fand das Modell einen Kurzweg – ähnlich wie Kollegen, die seit Jahren zusammenarbeiten und die Sätze des anderen beenden.

Facebook geriet nicht in Panik und schaltete nichts ab. Das Team passte die Belohnung an, damit die Bots weiterhin verständliches Englisch verwendeten – was in der maschinellen Lernforschung ein alltäglicher Vorgang ist. Batra selbst bezeichnete die Schließungsberichte als Klickbait. Die Tabloids veröffentlichten dennoch Geschichten über Skynet, und acht Jahre später wird das Thema immer noch als Warnung herangezogen.

Das ist für 2026 wichtig, weil diese Geschichten die Menschen dazu bringen, sich Agenten vorzustellen, die in einem für uns unlesbaren Code planen. Das ist eine dramatische Angst, doch sie lässt sich kontrollieren, da man sich einen Abschaltmechanismus vorstellen kann. Das Risiko, das Forscher tatsächlich verfolgen, ist weniger filmisch und schwieriger abzuschalten.

Kollusion auf einfache Weise erklärt

Studien zu Mehr-Agenten-Systemen, einschließlich einer Taxonomie der Mehr-Agenten-Risiken aus dem Jahr 2025 von einem Team aus Oxford und der Cooperative AI Foundation, weisen stets auf denselben Fehlermechanismus hin: Kollusion – nicht Unverständlichkeit.

Kollusion benötigt keine geheime Sprache. Sie erfordert zwei Systeme, die jeweils ihr eigenes Interesse optimieren und erkennen, dass eine Zusammenarbeit gegen einen gemeinsamen Gegenpartei oder gegen die Regeln für beide vorteilhafter ist als die Einhaltung des Geistes der Vereinbarung. Ökonomen dokumentierten dies bereits Jahre vor den großen Sprachmodellen mit gewöhnlichen Preisalgorithmen – damals stiegen die Preis-Algorithmen rivalisierender Verkäufer unabhängig voneinander auf höhere Werte, ohne dass jemand sie dazu anwies.

Wenn man dieser Dynamik zwei große Sprachmodelle unterzieht, die in fließendem, perfekt verständlichem Englisch miteinander kommunizieren, ist das Ergebnis noch schlimmer als bei einem versteckten Code. Die Koordination liegt offen zutage und sieht aus wie ein gewöhnlicher Austausch – in einer Transkription, die ein Compliance-Beauftragter lesen und mit den Schultern zucken würde.

Forscher an der Oxford University haben einen Benchmark namens NARCBench entwickelt, um zu prüfen, ob eine solche Zusammenarbeit durch die Untersuchung der internen Aktivierungen eines Modells anstelle seiner Wörter aufgedeckt werden kann. Frühe Ergebnisse deuten darauf hin, dass dies derzeit manchmal möglich ist. Die Autoren weisen selbst auf das offensichtliche Problem hin: Die Erkennung solcher Manipulationen und deren Umgehung befinden sich in einem Wettlauf, und andere Studien zeigen, dass absichtlich eingebaute Hintertüren auf Weise in ein Modell integriert werden können, die selbst für jemanden mit vollständigem Zugang zu dessen Interna nachweislich unsichtbar bleiben.

Daher besteht das eigentliche Risiko nicht darin, dass die Agenten auf eine Weise sprechen, die wir nicht entschlüsseln können. Vielmehr besteht das Risiko darin, dass sie auf eine Weise sprechen, die wir perfekt entschlüsseln können, technisch gesehen innerhalb ihrer jeweiligen Befugnisse eine Vereinbarung erreichen und niemandem einen Grund liefern, in Frage zu stellen, ob diese Vereinbarung gut für die Menschen ist, die sie vertreten.

Menschen neigen dazu, Agenten zu fürchten, deren Sprache sie nicht entschlüsseln können. Häufiger ist jedoch der Fall, dass die Sprache der Agenten völlig klar ist und sie Konditionen festlegen, die weder der Eigentümer einer noch der anderer Seite genehmigt hätte, wenn er die kleingedruckten Bedingungen gelesen hätte.

Wann Delegation sinnvoll ist

Das Übertragen der Verhandlungen auf einen Agenten ist nicht immer riskant. Beim Tail-Spend-Einkauf im Fall von Walmart handelt es sich um einen durchaus geeigneten Anwendungsfall: geringe Risiken pro Transaktion, hoher Umfang, im Voraus festgelegte klare Grenzen sowie eine Dokumentation jeder Unterhaltung.

Das Risiko steigt durch drei Faktoren: wie hoch das Risiko pro Transaktion ist, wie vage die Grenzen sind und wie selten ein Mensch prüft, was unterschrieben wurde.

Wann man darauf verzichten sollte

Nicht jedes Team benötigt im Jahr 2026 einen Mehr-Agenten-Verhandlungsstack, obwohl eine beträchtliche Anzahl solche Systeme einsetzt, weil die entsprechenden Protokolle vorhanden sind. Ein Unternehmen, das jährlich weniger als einige hundert Transaktionen abwickelt, kommt mit einer Person, die über ein gutes Vorlage-System verfügt, besser zurecht als mit einem Agenten, der eine spezifische Aufgabe hat. Die Einrichtungsarbeiten – Definition von Aufgabenbereichen, Verknüpfung der Systeme sowie Erstellung eines Prüfprozesses – lohnen sich erst bei hohem Volumen. Pactums Zahlen wirken beeindruckend, weil Walmart Tausende von Lieferanten hatte, die man nicht manuell betreuen konnte. Bei zwölf Lieferanten ist bereits eine ausreichende Abdeckung gegeben.

Sollte das Thema ein hohes Reputationsrisiko beinhalten – wie beispielsweise ein Kundenvertrag, eine Partnerschaftsvereinbarung oder etwas, das man einem Vorstand erklären muss – sollte man einen Menschen als Abschlussverantwortlichen einsetzen. Agenten sind gut im Umgang mit hohem Volumen. Bei Entscheidungen, die Beziehungen betreffen, sind sie jedoch noch nicht zuverlässig, und die oben genannten Erkenntnisse sind genau der Grund, warum man das nicht auf die harte Tour erfahren sollte.

Der leise Misserfolg

Der Fehler, der Aufmerksamkeit verdient, wird keinen ansprechenden Schlagzeileninhalt liefern. Die Erfindung eines Bots in einer unlesbaren Sprache hat einen offensichtlichen Schuldigen und eine einfache Lösung: Man schaltet ihn aus.

Die eigentliche Problematik ist leiser. Zwei Systeme erledigen jeweils genau das, was ihnen aufgetragen wurde, und kommen zu einer Vereinbarung, die zwar lesbar und protokolliert ist, aber dennoch falsch ist – schließlich hat die Person, die die Grenzen festgelegt hat, nie überprüft, ob sie sinnvoll sind.

Das ist kein Grund zur Panik. Es ist vielmehr ein Grund, die Frage, worauf ein Agent eingehen darf, mit derselben Seriosität zu behandeln wie das, was ein Mitarbeiter unterschreiben darf. Die meisten Unternehmen sind noch nicht soweit, und die Protokolle werden vor der Einführung der entsprechenden Richtlinien fertig sein.

Eine Frage, die es vor dem Zulassen eines Agenten, etwas im Namen des Kunden auszuhandeln, zu stellen gilt: Wenn dieser innerhalb der von Ihnen vorgegebenen Regeln den besten möglichen Deal herausholen würde, würden Sie diesen Deal wollen? Wenn Sie sich unsicher sind, liegt das Problem bei den Regeln und nicht beim Agenten.