ИИ-агенты, ведущие переговоры: что раскрывают боты Walmart о реальных рисках
Оплаты между агентами уже работают. Опасность заключается не в тайном языке роботов, а в сговоре и неконтролируемых полномочиях, и вот как определить, что можно делегировать.
Источники: 3 Uncomfortable Truths About AI Agents Negotiating With Each Other
В 2021 году Walmart использовал чат-бота в переговорах с поставщиками. Это не был запрограммированный диалог: бот получил бюджет, список возможных компромиссов и полномочия на заключение сделки. Его партнерами стали тысячи поставщиков, предлагавших такие товары, как тележки для покупок и услуги по управлению автопарком — категории, которые сотрудники Walmart раньше не имели времени рассмотреть.
Komпания Pactum, создавшая эту систему, отслеживала результаты. Примерно 68% поставщиков согласились на условия, средняя экономия составила 3%, а сроки оплаты увеличились на 35 дней. Три из четырех поставщиков заявили, что предпочитают торговаться с программным обеспечением, а не с человеком.
Никто не сочел это тревожным. Это выглядело как чат-бот, быстро выполняющий математические расчёты в таблицах. При этом за столом всё равно сидел человек — поставщик, который мог разозлиться, уйти или позвонить представителю Walmart, чтобы сказать, что предложение абсурдно. Именно этот человек был последней точкой контроля.
Создаваемая сейчас инфраструктура устраняет эту точку контроля. Google, Coinbase, Stripe, OpenAI, Mastercard и более шестидесяти других компаний за прошедший год разработали систему, позволяющую одному агенту вести переговоры и напрямую выплачивать деньги другому, без необходимости обращения к человеку для урегулирования ситуации. Эта система уже работает, но большинство статей задают по ней неверные вопросы.
Что на самом деле существует в 2026 году
Без научно-фантастической подачи эта технологическая стек выглядит следующим образом:
- AP2 (Agent Payments Protocol) был разработан Google Cloud и Coinbase в сентябре 2025 года. Он предоставляет агенту криптографически подписанный приказ, в котором четко указано, что и на что он может потратить, а также какой у него есть лимит. На его основе работает более шестидесяти организаций, в том числе American Express, Mastercard, PayPal и Etsy.
- A2A (Agent2Agent) — ещё один протокол от Google, предназначенный для обмена сообщениями между агентами. Агент одной компании может обращаться к агенту другой компании, не заботясь о том, как именно построен этот протокол.
- Два коммерческих протокола дополняют их: ACP от Stripe и OpenAI, а также UCP от Google и Shopify. Благодаря им агент может найти товар, собрать корзину и оформить покупку от имени продавца.
Складывая все это вместе, вы получаете примерно то, что обещали рекламодатели. Ваш агент находит агента поставщика, они обмениваются условиями в рамках протокола, который ни одна из компаний не создавала с нуля, и происходит оплата. Никаких встреч, никакой переписки по электронной почте и никто не читает окончательные условия перед переводом денег.
Большая часть этого процесса остается в рамках взаимодействия между компаниями, и кто-то всё равно заранее устанавливает границы: лимит расходов, список одобренных поставщиков, цена отказа. Именно эти детали формируют всю структуру, но их часто игнорируют. Агент не решает, стоит ли вести переговоры; он просто определяет, как это сделать, в рамках уже установленных ограничений. По крайней мере, пока.
Агент, который действует в рамках установленных полномочий, не является тем, кто определяет эти полномочия. Смешивание этих понятий приводит либо к беспочвенному страху, либо к неготовности к реальным ситуациям.
История о «секретном языке» в основном неверна
Если спросить людей, почему их беспокоит торговля между агентами, частый ответ заключается в том, что Facebook закрыл ботов после того, как те придумали язык, непонятный людям. Эта история во многом ложна, и её стоит отбросить, так как она отвлекает внимание от настоящей угрозы.
В 2017 году исследовательский отдел Facebook AI Research обучил двух ботов-переговорщиков по прозвищам Боб и Алиса делить набор предметов. Их никто не награждал за использование правильного грамматически правильного английского, а только за заключение хорошей сделки, поэтому их формулировки превратились в повторяющиеся, похожие на код сокращения. Исследователи Майк Льюис и Дхрув Батра позже просто объяснили это: при отсутствии стимула использовать правильный английский модель нашла упрощённый путь, подобно коллегам, которые много лет работают вместе и дополняют друг друга фразами.
Facebook не впал в панику и не прекратил работу. Команда скорректировала механизм стимулирования, чтобы боты использовали понятный английский язык, что является обычной практикой в исследованиях в области машинного обучения. Сам Батра назвал заголовки о прекращении работы ботов кликбейтом. Таблоиды всё равно публиковали статьи о Скайнете, и спустя восемь лет люди по-прежнему приводят этот пример в качестве предупреждения.
Это имеет значение для 2026 года, потому что эта история заставляет людей представлять себе агентов, строящих заговоры на языке кода, который мы не можем понять. Это драматичный страх, но его можно контролировать, поскольку существует возможность включения механизма отключения. Риски, которые на самом деле отслеживают исследователи, менее кинематографичны и сложнее в устранении.
Сговор на простом языке
Исследования многоагентных систем, включая таксономию рисков многоагентных систем 2025 года, разработанную группой из Оксфорда и Cooperative AI Foundation, постоянно указывают на один и тот же фактор сбоя: сговор, а не непонимание.
Для сговора не нужен секретный язык. Ему требуются две системы, каждая из которых оптимизирует действия в своих интересах, и такие системы считают, что сотрудничество против общего контрагента или против правил приносит им большую выгоду, чем соблюдение духа сделки. Экономисты задокументировали это с помощью обычных алгоритмов ценообразования за многие годы до появления больших языковых моделей, когда боты-ценовики конкурирующих продавцов самостоятельно повышали цены, без каких-либо указаний со стороны.
Если придать такую же динамику двум агентам больших языковых моделей, которые общаются на свободном и полностью понятном английском, результат будет хуже, чем при использовании скрытого кода. Координация происходит на глазах, выглядя как обычный обмен информацией; такой текст мог бы прочитать сотрудник отдела контроля и лишь пожать плечами.
Исследователи из Оксфорда создали тестовую платформу под названием NARCBench для проверки возможности выявления такого сговора путем анализа внутренних активаций модели вместо её текста. Ранние результаты показывают, что это иногда возможно. Сами авторы отмечают очевидную проблему: процессы обнаружения и уклонения от него представляют собой своего рода гонку вооружений, причём другие исследования демонстрируют, что в модель можно встроить достаточно изощрённые «задние двери» таким образом, что они окажутся полностью незаметными даже для тех, у кого есть полный доступ к её внутренней структуре.
Следовательно, честное описание риска заключается не в том, что агенты будут говорить на языке, который мы не сможем распознать. Речь идёт о том, что они будут говорить на языке, который мы сможем полностью понять, достигнут договорённости в рамках своих полномочий, и при этом никто не сможет утверждать, была ли эта договорённость выгодна людям, которых они представляют.
Люди склонны бояться агентов, речь которых им непонятна. Чаще всего речь идет об агентах, чья речь совершенно понятна, и они договариваются о условиях, которые ни один из владельцев сторон не одобрил бы, прочитав детали договора.
Когда делегирование разумно
Передача переговоров агенту не всегда сопряжена с рисками. Пример закупок с фиксированным бюджетом, как в случае с Walmart, является подходящим вариантом: небольшие риски за каждую сделку, высокий объем, заранее установленные четкие рамки и документальное оформление каждого разговора.
Риск увеличивается под влиянием трех факторов: размер рисков за каждую сделку, степень неопределенности рамок и частота проверки подписанных документов человеком.
Когда лучше обойтись без этого
В 2026 году не каждой команде нужна система многоагентных переговоров, хотя немало компаний её создают из-за наличия соответствующих протоколов. Компаниям, которые заключают менее нескольких сотен сделок в год, будет выгоднее использовать человека с хорошей шаблонной базой, чем агента с определёнными полномочиями. Работа по настройке, определению полномочий, подключению систем между собой и созданию процедур аудита окупается только при большом объёме работы. Цифры Pactum выглядят впечатляюще, потому что у Walmart были тысячи поставщиков, с которыми он никогда не мог бы вести переговоры вручную. При наличии двенадцати поставщиков такая поддержка уже обеспечивается.
А когда речь идёт о вопросах, имеющих значение для репутации — таких как контракт с клиентом, условия партнёрства или что-либо, что необходимо объяснить совету директоров, — лучше оставлять человека для завершения сделки. Агенты хорошо справляются с большим объёмом работы. Однако они пока ненадёжны в принятии решений, связанных с отношениями между сторонами, и приведённые выше исследования — именно поэтому не стоит узнавать об этом на собственном опыте.
Более тихая неудача
Случай сбоя, заслуживающий внимания, не станет привлекательным заголовком. Изобретение бота, использующего неразборчивый язык, имеет очевидного виновника и простое решение: его нужно выключить.
Настоящая проблема проявляется более тихо. Два системы каждая делают именно то, что им было приказано, и приходят к соглашению, которое разборчиво, записывается, но всё равно ошибочно, потому что тот, кто установил границы, так и не проверил, разумны ли они.
Это не повод для паники. Это повод относиться к вопросу о том, с чем может согласиться агент, с такой же серьезностью, с которой относились бы к тому, что может подписать сотрудник. Большинство компаний ещё не достигли этой стадии, и протоколы будут готовы раньше, чем система управления.
Прежде чем позволить агенту вести переговоры от вашего имени, стоит задать один вопрос: если бы он достиг наилучшей возможной сделки в рамках установленных вами правил, хотели бы вы эту сделку? Если вы не уверены, проблема в правилах, а не в агенте.