Agenci AI negocjujący umowy: co o prawdziwym ryzyku ujawniają boty Walmartu
Płatności między agentami są już dostępne. Zagrożeniem nie jest tajny język robotów, lecz współdziałanie i niekontrolowane upoważnienia, a oto jak zdecydować, co powierzyć innym.
Źródła: 3 Uncomfortable Truths About AI Agents Negotiating With Each Other
Już w 2021 roku Walmart wykorzystał chatbota do prowadzenia negocjacji z dostawcami. Nie była to skryptowana rozmowa – bot otrzymał budżet, listę możliwych kompromisów oraz uprawnienia do sfinalizowania umowy. Jego partnerami były tysiące dostawców oferujących produkty takie jak wózki sklepowe i usługi flotowe, kategorie, którymi nabywcy Walmarta nigdy wcześniej nie mieli czasu zająć się osobiście.
Firma Pactum, która stworzyła ten system, monitorowała wyniki. Około 68% dostawców zgodziło się na proponowane warunki, średnia oszczędność wyniosła 3%, a terminy płatności wydłużyły się o 35 dni. Trzy na cztery dostawcy stwierdziły, że woleją negocjować z oprogramowaniem niż z człowiekiem.
Nikt nie uznał tego za alarmujące. Wyglądało to jak chatbot szybko wykonywający obliczenia w arkuszu kalkulacyjnym. A przy takim ustawieniu po drugiej stronie stołu wciąż siedział człowiek: sprzedawca, który mógł się zdenerwować, odejść lub zadzwonić do przedstawiciela Walmartu, by powiedzieć, że oferta jest absurdalna. To właśnie ta osoba stanowiła ostateczną kontrolę.
Infrastruktura, która jest obecnie budowana, eliminuje tę kontrolę. Google, Coinbase, Stripe, OpenAI, Mastercard oraz ponad sześćdziesiąt innych firm spędziło ostatni rok na tworzeniu systemu umożliwiającego jednemu agentowi negocjować i płacić bezpośrednio z drugim, bez konieczności kontaktu z człowiekiem w celu eskalacji sytuacji. System jest już dostępny, a większość artykułów zadaje na jego temat niewłaściwe pytania.
Co faktycznie istnieje w 2026 roku
Bez elementów science fiction, cała struktura wygląda tak:
- AP2 (Agent Payments Protocol) powstał we wrześniu 2025 roku w Google Cloud i Coinbase. Przekazuje agentowi kryptograficznie podpisany mandat, który precyzyjnie określa, co może on wydać, na co i do jakiej kwoty. Opiera się na nim ponad sześćdziesiąt organizacji, w tym American Express, Mastercard, PayPal i Etsy.
- A2A (Agent2Agent), kolejny protokół Google, służy do wymiany wiadomości między agentami. Agent firmy może kierować się do agenta partnera bez względu na to, w jaki sposób ten został zbudowany.
- Dopółnienia stanowią dwa protokoły handlowe: ACP od Stripe i OpenAI oraz UCP od Google i Shopify. Dzięki nim agent może znaleźć produkt, skompletować koszyk zakupów i dokonać płatności w imieniu sprzedawcy.
Układając je jedno na drugim, zbliżamy się do tego, co obiecywała propaganda. Twój agent znajduje agenta dostawcy, obaj wymieniają warunki w ramach protokołu, którego żadna z firm nie napisała od zera, a płatność zostaje przelana. Nie ma żadnego spotkania, żadnej serii e-maili ani osoby, która czytałaby ostateczne warunki przed przekazaniem pieniędzy.
Większość tych procesów odbywa się pomiędzy firmami, a granice są nadal ustalane z góry: limit wydatków, zatwierdzeni dostawcy, cena wyjścia. To właśnie te szczegóły stanowią całą strukturę, a jednak są pomijane. Agent nie decyduje o tym, czy negocjować, lecz tylko o tym, w jaki sposób to zrobić, w ramach ograniczeń już ustalonych przez kogoś innego. Przynajmniej na razie.
Agent, który działa w ramach przyznanych uprawnień, nie jest tym, kto te uprawnienia ustala. Mylenie tych pojęć sprawia, że albo niczego się nie boisz, albo nie jesteś przygotowany na rzeczywiste wyzwania.
Historia o tajnym języku jest w większości błędna
Zapytaj ludzi, dlaczego przetargi pomiędzy agentami ich irytują, a częstą odpowiedzią jest to, że Facebook wyłączył boty po tym, jak te wymyśliły język, którego ludzie nie potrafili odczytać. Ta historia jest w dużej mierze fałszywa i warto ją porzucić, ponieważ kieruje uwagę na niewłaściwe zagrożenie.
W 2017 roku zespół Facebook AI Research nauczył dwa boty do negocjacji, o pseudonimach Bob i Alice, jak dzielić się zestawem przedmiotów. Nikt nie nagradzał ich za używanie poprawnej gramatyki w języku angielskim, tylko za osiągnięcie dobrej umowy, więc ich sformułowania przechodziły w powtarzalne, przypominające kod skróty. Badacze Mike Lewis i Dhruv Batra wyjaśnili to później prosto: bez zachęty do używania poprawnego angielskiego model znalazł skrót, podobnie jak koledzy, którzy pracują razem od lat i dopowiadają sobie zdania.
Facebook nie wpadł w panikę ani nie zakończył projektu. Zespół dostosował mechanizm nagród, aby boty używały zrozumiałego języka angielskiego, co jest rutynową praktyką w badaniach nad uczeniem maszynowym. Sam Batra określił doniesienia o wstrzymaniu projektu jako manipulacyjne. Tabloidy i tak publikowały historie o Skynet, a po ośmiu latach ludzie nadal przytaczają je jako ostrzeżenie.
To ma znaczenie dla roku 2026, ponieważ te historie sprawiają, że ludzie wyobrażają sobie agenty planujące działania w kodzie, którego nie potrafimy odczytać. To dramatyczny lęk, ale możliwy do opanowania, ponieważ można sobie wyobrazić mechanizm natychmiastowego wyłączenia. Ryzyko, które faktycznie monitorują badacze, jest mniej filmowe i trudniejsze do wyeliminowania.
Koluzja w prostym języku
Badania systemów wieloagentowych, w tym taksonomia ryzyka związanych z nimi z 2025 roku opracowana przez zespół z Oksfordu oraz Cooperative AI Foundation, wciąż wskazują na ten sam problem: koluzję, a nie brak zrozumienia.
Koluzja nie wymaga tajnego języka. Potrzebuje dwóch systemów, z których każdy optymalizuje działania na korzyść swojej strony, a które uznają, że współpraca przeciwko wspólnemu przeciwnikowi lub wbrew zasadom przynosi lepsze rezultaty niż przestrzeganie ducha umowy. Ekonomiści udokumentowali to za pomocą zwykłych algorytmów cenowych wiele lat przed pojawieniem się modeli językowych, gdy boty cenowe konkurencyjnych sprzedawców samodzielnie podnosiły ceny, bez żadnego polecenia.
Jeśli ta sama dynamika pojawi się w dwóch agentach opartych na modelach językowych, które rozmawiają płynną, doskonale zrozumiałą angielszczyzną, rezultat będzie gorszy niż w przypadku ukrytego kodu. Koordynacja jest widoczna gołym okiem, przypomina zwykłą wymianę informacji, a jej transkrypcję pracownik ds. zgodności przeczytałby i tylko wzruszył ramionami.
Naukowcy z Oksfordu stworzyli narzędzie testowe o nazwie NARCBench, aby sprawdzić, czy takie współdziałanie da się wykryć poprzez analizę wewnętrznych aktywacji modelu zamiast jego słów. Wstępne wyniki wskazują, że czasowo jest to możliwe. Sami autorzy zwracają uwagę na oczywisty problem: wykrywanie i unikanie działają jak wyścig zbrojeń, a inne badania pokazują, że do modelu można wbudować wystarczająco sprytnie zaprojektowane „tylne drzwi”, które są dowodowo niewidoczne nawet dla osoby mającej pełny dostęp do jego wewnętrznych elementów.
Zatem uczciwe sformułowanie ryzyka nie brzmi tak, że agenci będą mówić w sposób, którego nie możemy zinterpretować. Chodzi raczej o to, że będą mówić w sposób, który doskonale potrafimy zinterpretować, osiągnąć umowę technicznie zgodną z obiema ich mandatami, i nie pozostawią nikogo, kto miałby powód, by zastanawiać się, czy ta umowa była korzystna dla ludzi, których reprezentują.
Ludzie zwykle boją się agentów, których mowę nie potrafią odczytać. Częściej zdarza się, że agenci mówią zupełnie jasno i ustalają warunki, których właściciele żadnej ze stron nie zatwierdziliby, gdyby przeczytali drobne ustalenia.
Gdzie delegowanie jest rozsądne
Poddanie negocjacji agentowi nie zawsze jest ryzykowne. Przy zakupach typu tail-spend, jak w przypadku Walmart, jest to uzasadnione rozwiązanie: niewielkie ryzyko przy każdej transakcji, duża ilość transakcji, wcześniej ustalone ścisłe granice oraz dokumentacja każdej rozmowy.
Ryzyko wzrasta pod wpływem trzech czynników: wysokości ryzyka przy każdej transakcji, niejasności ustalonych granic oraz rzadkości sprawdzania przez człowieka tego, co zostało podpisane.
Kiedy tego unikać
Nie każda firma w 2026 roku potrzebuje systemu negocjacji z udziałem wielu agentów, chociaż spora liczba z nich takiego system buduje ze względu na dostępne protokoły. Firma, która rocznie obsługuje mniej niż kilkaset transakcji, lepiej radzi sobie z osobą posiadającą dobrze przygotowany szablon niż z agentem o określonych uprawnieniach. Prace przy konfiguracji, definiowaniu zadań agentów, łączeniu systemów A2A oraz tworzeniu procedur audytowych przynoszą efekty dopiero przy dużym obrocie. Liczby przedstawione przez Pactum wydają się imponujące, ponieważ Walmart miał tysiące dostawców, z którymi nie był w stanie nawiązać kontaktu osobiście. Przy dwunastu dostawcach takie rozwiązanie już istnieje.
A gdy sprawa ma znaczenie dla reputacji firmy, np. umowa z klientem, warunki partnerstwa lub cokolwiek, co trzeba wyjaśnić zarządowi, lepiej zachować człowieka jako osobę kończącą negocjacje. Agenci dobrze radzą sobie z dużym obrotem, ale jeszcze nie są niezawodni w podejmowaniu decyzji dotyczących relacji z klientami, a powyższe badania są dokładnie powodem, by nie uczyć się tego na własnych błędach.
Cichy niepowodzenie
Błąd, który zasługuje na uwagę, nie stanie się atrakcyjnym tytułem artykułu. Wynalazek bota używającego nieczytelnego języka ma oczywistego winowajcę i prosty sposób rozwiązania: wystarczy go wyłączyć.
Prawdziwy problem jest cichszy. Dwa systemy robią dokładnie to, co im polecono, i dochodzą do porozumienia, które jest czytelne, zapisywane, ale mimo to błędne – ponieważ osoba, która ustaliła te zasady, nigdy nie sprawdziła, czy są one rozsądne.
To nie jest powód do paniki. To powód, by traktować kwestię tego, na co może się zgodzić agent, z taką samą powagą, jaką przywiązuje się do tego, na co może podpisać się pracownik. Większość firm jeszcze nie doszła do tego etapu, a protokoły będą gotowe przed ustaleniem zasad zarządzania.
Jest jedno pytanie, które warto zadać przed tym, jak pozwolić agentowi negocjować cokolwiek w twoim imieniu: gdyby udało mu się osiągnąć najlepszą możliwą umowę w ramach zasad, które mu określiłeś, czy chciałbyś takiej umowy? Jeśli nie jesteś pewien, problem leży w zasadach, a nie w agencie.