AI-агенты вядуць перамовы: што боты Walmart паказваюць пра рэальную рызыку
Плацяжы паміж агентамі ўжо працуюць. Небяспека не ў сакрэтнай мове робатаў, а ў змове і некантраляваных паўнамоцтвах — і як вырашыць, што дэлегаваць.
Крыніцы: 3 Uncomfortable Truths About AI Agents Negotiating With Each Other
У 2021 году Walmart адаптаваў чат-бота для удзеле ў пераговорах з постачальнікамі. Гэта не была запісаная розмова. Бот отрымаў бюджэт, спіс варыянтаў, якія ён могаў запропанаваць, а таксама права на укладэнне угоды. Яго супернікамі былі тыясчы прадавцоў, якія продаюць такія товары, як каталкі для пакупак і послугі з утрымання автапарку — катэгорыі, якім практыкі Walmart ніколі не мелі часу прыдзеўсці.
Komпанія Pactum, якая стоўіць за гэтым сістэмам, стэжыла за рэзультатамі. Апошней часткай 68% постачальнікаў пагадзіліся на умовы, сярэднія еконамічныя заўтрымкі склалі 3%, а тэрміны платэжаў былі продлены на 35 дзён. Тры з кожных чатырох постачальнікаў сказалі, што воліюць торгавацца з програмамай, чым з адзінам чалавекам.
Ніхто не спачуваў гэта за трывожнае. Гэта выглядала як чат-бот, які швыдка выкананаў расчыткі ў табліцы. А ў такай схеме за столам все ж сядзел чалавек – продавец, які мог уразіцца, пайсці чы то затэлефонаваць прэдставніку Walmart і сказаць, што прыданне ўсёўразумела абсурднае. Гэтая людзь была заканчальным контрольным пунктам.
Інфраструктура, якая зараз ствараецца, усувае гэты контрольны пункт. Google, Coinbase, Stripe, OpenAI, Mastercard і ўсьмо шасцьдзесят іншых компаній за апошні год займаліся стварэнням сістэмы, якая дазволяе аднаму прэдставніку весты пераговоры і плаціць іншаму безпосерэдна, без неабходнасці звертання да чалавека. Гэта ужо працюе, а большасць статэйкаў задаюць па гэтаму пытанні не тое.
Што насправды існуе ў 2026 годзе
Без наукова-фантастычнага кантэксту, гэтая схема выглядае так:
- AP2 (Agent Payments Protocol) быў створаны компаніямі Google Cloud і Coinbase у верасні 2025 года. Ён дае агенту крыптаграфічна падпісаны распораджэнне, у яком чытка паказана, што ён можа выдатыць, на шта і до якога ліміту. На ўсасненні гэтага протаколу працюе падзесят організацыяў, у тымчасе як American Express, Mastercard, PayPal і Etsy таксама з яго выкарыстоўваюць.
- A2A (Agent2Agent) – ўжо аднойчы згадваны протакол Google – абавяўляеся перадачай паведамленняў між агентамі. Агент адной компаніі можа звернуцца да агента іншай компаніі, не паклекаючыся пра тое, як саме быў створаны той агент.
- Два протакола для електронной торгавлі дапамагаюць у цым: ACP ад Stripe і OpenAI, а таксама UCP ад Google і Shopify. За ўзаемнай дапомогай агенты можу знаходзіць товары, складаць корзіну і адправляць замовлення для продавца.
Як толькі ўсе гэта складаецца разам, вы практычна досягаеце таго, чым хваліліся. Ваш агент знаходзіць агента прадавца, яны размяняюцца умовамі ў рамках протаколу, які ніякая з компаній не стварыла з нуля, і грошы пераходзяць. Не бывае жадных зустрэч, серый пісьменняў або людзей, якія чытаюць заканчальныя умовы пры пераказе грошаў.
Большая частка гэтага застаецца справай між падпрыемствамі, і яшчэ ўсё той самы чалавек загадзя вяршыць усе правілы: ліміт выдаткаў, затверджаныя прадавцы, ціна для выходу з угоды. Гэтыя дэталі ўтвараюць усю структуру, але іх часта прыгначваюць. Агент не вяршыць рашэння пра тое, чы хочаць весты пераговоры; ён толькі вяршыць рашэння пра тое, як гэта зробіць, у межах, якія ужо заданы іншымі. Прынаймні наразе.
Агент, які выдваюць грошы ў межах свайго мандата, не ёсць тым, хто вяршыць рашэння пра гэты мандат. Сплутванне гэтых падзялов заставляе чалавека або не баяцца нічога, або не быць гатовым да рэальных сітуацый.
Історыя пра „таямнічную мову“ большасцю ўсё ж некалькі неправільная
Запытайце людзей, чаму іх турбуе перагаворы між агентамі, і часта адказвае, што Facebook заблокав ботаў пасля таго, як тыя створылі мову, яку людзі не маглі прачытаць. Гэтыя рассказы ў большай частцы некалькі, і яныя цікавае адмовіцца ад іх, калі ўжо таму, што прывлекаюць увагу да неправільнай апасцярожнасці.
У 2017 году аддзел доследжэння AI Facebook навучыў двах ботаў-пераговорнікаў, прозванных Бобам і Алісай, дзеліць набор айтэмаў. Ніхто не наградзіў іх за вжытак правільнай англійскай мовы, толькі за досягненне хорашага даговору, таму ўжытак слоў у іх паведамленнях перацягнуўся да павтаральных, сэмантычна схожых на код скрацень. Даследнікі Майк Льюіс і Дхрув Батра пазней проста гэта адказалі: калі не было стыку для правільнай англійскай мовы, мадэль знайшла шлях прыбліжна, як колегі, які гадзінныя працуюць разам і даканчаваюць адзін другога рэчы.
Facebook не панікуваў і не зупініў свою дзеяльнасць. Команда скорэктавала механізм награды, ўнаследке чаго боты продовжалі вікорыстоўваць зрозумелую англійскую мову, што ёсць звычайной практыкай у доследжэннях у галузі машыннага навчання. Сам Батра назваў заголовкі пра зупінку ціх ботоў клікбейтом. Таблойды рэгулярна публікувалі статты на тэму Skynet, і чырвець гадоў спяцэў люды продовжаюць апілляваць да гэтага як до паведамлення пра апасценню.
Гэта мае значэнне для 2026 года, таму што такія історыі прыводзяць людэй да думкі пра агентах, якія плануюць дзеяння на адной мове коду, якую мы не можамо прачытаць. Гэта драматычны страх, але яго можна контролюваць, адколькі існуе можласць включыць механізм зупінкі. Рызыкі, якія на самаўпрыметна пераследжуюць доследнікі, ёсць менш кінематычныя і важкадоступныя для зупінкі.
Спакус у простай англійскай мове
Даследжэнняя сістэмаў з кальколькаім агентамі, уключаючы таксаномію рызыкаў такіх сістэм 2025 года, створаную групай з Оксфорда і Cooperative AI Foundation, аднойчы за другойя выявляюць той самы прычыну неудач: спакус, а не нерозумеласць.
Спактаванне не патрабуе таёмнага языка. Яму патрабуюць два сістэмы, кожная з якіх оптымізуецца для свайго боку, і якія вырашаюць, што саавтарскае дзеянне проты спакульнага партнера або проты правіл дае лепшыя наследкі, чым адпаведнае дзеянне. Эканамісты задокументавалі гэта за дапамою звычных алгорытмав калькуляцыі цэн за рокі до появы LLM-аў, калі боты з калькуляцыі цэн супернікаў самастойна паднялі цены, без таго, каб хтось іх прыказаў.
Калі да двух агентаў LLM, якія ведуць размову на беглай, абсалютна зрозумелай англійскай мове, даць тую ж дынаміку, наследкі будуць горшыя, чым у разе вжывання таёмнага коду. Коордынація будзе відчутная, выглядаючы як звычны абмен, у транскрыпціі, якую спецыяліст па салідарнасці прачытае і проста знізькай плячамі адмахнецца.
Дзеячыя з Оксфорда стварылі крэйтэрныя тэсты пад назвам NARCBench, каб пераканацца, чы можна выявіць такую саўмешчанню, аналізуючы внутрашнія актывацыі модэлю заместо яго слоў. Пачатковыя рэзультаты паказваюць, што гэта іноды ўсё-такі можліва. Самі авторы адзначаюць явную проблему: выяўленне і ухіленне ад яго ёсць частым працэсам, і іншыя доследжэння паказваюць, што ў модэль можна вбудаваць достатню колькасць скрытых механізмаў, якія будуць абоўсумова невідны нават тым, хто мае повны доступ да яго внутраніх элементаў.
Таму чыстая характарызація рызыку не ў тым, што агенты будуць гаварыць так, каб мы не моглі іх зрозумець. Характарызація заключаецца ў тым, што яны будуць гаварыць так, каб мы іх абоўсумова зрозумелі, тэхнічна дасягнуць угоды, якая падпадае пад ўсія ўмовы іх мандатаў, і не заставіць нікога з прычынай сумневацца, чы была гэта угода на карысць людзей, яых яны прэдставляюць.
Людзі частае падчынныя баяцца агентамі, калі ўжо не можаць зрозумець іх словы. Частэйшы случай — агенты, калі ўсё сказана цэлкам ясна, і яны дагадваюцца пра умовы, якія ніхто з учаснікаў не падтрымаў бы, якбы прачытаў усі дэталі.
Калі дазволена дэлегаванне
Перадача пераговора агенту не завжды ўскладнена. Прыкладом можа служыць закупкаў з фіксаваным бюджэтам, як у Walmart: малая сума за кожную угоду, вялікі обсяг, загадзя заданыя часткі і дакументацыя кожнай беседы.
Рызык зростае пад вплывам трохох фактараў: якая сума стоіць на кону за кожную угоду, насколькі нечыстая ёсць межа і як рэдка людзі чытаюць тое, што было падпісана.
Калі крашчэ не дэлегаваць
У 2026 году не кожнай командзе патрэбна сістэма перагавораў з удзелам калькольных агентаў, хоць чыста ўзрастае колькісць такіх сістэм, таму што такія пратаколы існуюць. Компанія, якая адбывае менш чым каля калякіх сотнях угод на год, лепшая будзе служыцца людзьмам з хорашым шаблонам, чым агентам з конкрэтнымі мандатамі. Работа з налагоджэнням, адзначэннем мандатаў, налажваннем абмены межы агентамі і стварэннем сістэмы аўдыту прыносіць рэзультаты толькі пры вялікіх обсягах работы. Цыфры Pactum выглядаюць вражаюча, таму што Walmart меў тыясячы постаўчыкаў, да якіх ён ніколі не мог ўсё адбыць сам. З дванаццяцьма постаўчыкамі такая падтрымка ужо існуе.
А калі пытанне мае значэнне для рэпутаціі, напрыклад, угода з кліентам, тэрмін партнерства аб любая іншая справа, якую трэба будзе адказваць радзе, крашчэ заставіць людзя, які будзе заканчваць усе. Агенты добра справляюцца з вялікімі обсягамі. Але ў якіх-небудзь справах, якія вымагаюць суджэння ў аспекце стосункаў, яны ўсё ўсё не ўпэўненныя, і самэ гэта ёсць прычыной, чаму не трэба вучыцца на скасе.
Тыхія неудачы
Няпэўнасць, якая заслуговае на атрыманне ўвагі, не стане прыгожай загаловкай. Адкрыцце бота, які вікорыстоўвае нерозбірлівую мову, мае явнага злодзяю і просты спосаб рашэння: яго трэба выключыць.
Рэальная сітуацыя ўсё спакойней. Две сістэмы кожна робяць тое, што ім было сказана, і дасягаюць угоды, якая ўсё равно ёсць нерозбірлівай, фіксуецца і ў той жа час некорэктной, адтуды што тыя, хто задаў межы, ніколі не пераканаліся, чы рэшэння ўсё ж разумнае.
Гэта не прычына для панікі. Гэта прычына ставіцца да пытання, чаму агент можа прагадзіцца, з той жа серьёзнам, як ставяцца да таго, што можа падпісаць працавнік. Большасць компаній яшчэ не дайшлі да такога стану, і протаколы будуць гатовыя раней, чым будзе створэна сістэма керавання.
Адзін вопыт, які варта задаць перш чым дазволіць агенту весты пераговоры за вас, — чы гэты договор прыносіць найкрашчую можлівую выгоду в межах заданых вам правіл. Чы хацелі б вы такі договор? Калі вас не впевненяе, проблема ў правілах, а не у агенце.