Головна / Статті

Штучні інтелект-агенти, які ведуть переговори: що роботи Walmart розкривають про справжні ризики

Оплати від агента до агента вже функціонують. Небезпека полягає не у таємній мові роботів, а у змовах та неконтрольованих дорученнях, і ось як вирішити, що делегувати.

Видавець: REACTAPP.TOP6 хв читання1479 слів

Джерела: 3 Uncomfortable Truths About AI Agents Negotiating With Each Other

Ще у 2021 році Walmart доручив чат-боту частину своїх переговорів із постачальниками. Це не була запрограмована розмова. Бот отримав бюджет, список можливих компромісів, які він міг запропонувати, та повноваження укласти угоду. Його партнерами були тисячі постачальників, які пропонували такі товари, як торговельні візки та послуги з управління автопарком — категорії, якими покупці Walmart ніколи раніше не мали часу займатися.

Komпанія Pactum, яка стоїть за цією системою, відстежувала результати. Приблизно 68% постачальників погодилися на умови, середнє заощадження склало 3%, а терміни оплати подовжилися на 35 днів. Три з кожних чотирьох постачальників сказали, що воліють торгуватися з програмним забезпеченням, ніж із людиною.

Ніхто не вважав це тривожним. Це нагадувало чат-бота, який швидко виконує обчислення в електронній таблиці. У такій ситуації за столом все одно сиділа людина – постачальник, який міг розлютитися, піти чи зателефонувати представнику Walmart, щоб сказати, що пропозиція абсурдна. Ця людина була остаточною перевіркою.

Інфраструктура, яка зараз створюється, усуває цю перевірку. Google, Coinbase, Stripe, OpenAI, Mastercard та понад шістдесят інших компаній протягом останнього року розробляли системи, які дозволяють одному агенту вести переговори та безпосередньо оплачувати іншого, без необхідності звертатися до людини. Вона вже працює, але більшість статей ставлять щодо неї неправильні запитання.

Що насправді існує у 2026 році

Без науково-фантастичного контексту ця інфраструктура виглядає так:

  • AP2 (Agent Payments Protocol) з’явився від Google Cloud та Coinbase у вересні 2025 року. Він надає агенту криптографічно підписаний наказ, у якому чітко вказано, що саме можна витратити, на що та до якої суми. На його основі працюють понад шістдесят організацій, серед яких American Express, Mastercard, PayPal та Etsy.
  • A2A (Agent2Agent) – ще один протокол від Google, який забезпечує обмін повідомленнями між агентами. Агент компанії може звертатися до агента партнера, не зважаючи на те, як саме було створено останнього.
  • Два комерційні протоколи доповнюють цю систему: ACP від Stripe та OpenAI, а також UCP від Google та Shopify. З їхньою допомогою агент може знайти товар, сформувати кошик та здійснити оплату за продавця.

Якщо скласти все це разом, ви отримуєте щось близьке до того, що обіцяли. Ваш агент знаходить агента постачальника, обидва обмінюються умовами в межах протоколу, який жодна з компаній не розробляла з нуля, і гроші перераховуються. Не відбувається жодних зустрічей, жодної переписки електронними листами, і ніхто не читає остаточні умови перед переказом коштів.

Більша частина цього процесу залишається міжпідприємницькою, і все одно хтось заздалегідь визначає межі: ліміт витрат, схвалені постачальники, ціна для вихіду з угоди. Саме ці деталі формують всю структуру, але їх ігнорують. Агент не вирішує, чи варто вести переговори; він лише вирішує, як це зробити, у межах, встановлених хтось іншим. Принаймні поки що.

Агент, який діє в межах своїх повноважень, — це не той, хто визначає ці повноваження. Змішування цих понять змушує людину або нічого не боятися, або бути неготовою до справжніх викликів.

Історія про „таємну мову“ переважно хибна

Якщо запитати людей, чому їх турбує торгівля між агентами, поширеною відповіддю є те, що Facebook закрив ботів після того, як вони створили мову, яку люди не могли прочитати. Ця історія переважно неправдива, і її варто відкинути, адже вона звертає увагу на неправильну загрозу.

У 2017 році дослідники Facebook AI Research навчили двох ботів для переговорів під прізвиськами Боб та Аліса розділяти набір предметів. Їх ніхто не винагороджував за використання правильної граматичної англійської мови, лише за укладення хорошої угоди, тому їхні формулювання поступово перетворилися на повторювані, схожі на код скорочення. Дослідники Майк Льюїс та Дхрув Батра пізніше просто пояснили це. Оскільки не було стимулу використовувати правильну англійську мову, модель знайшла швидкий спосіб, схожий на те, як колеги, які працюють разом роками, доповнюють один одного реченнями.

Facebook не впав у паніку та не припинив роботу. Команда скоригувала механізм нагородження, щоб боти використовували зрозумілу англійську мову, що є звичайною практикою у дослідженнях штучного інтелекту щопонеділка. Сам Батра назвав заголовки про припинення роботи ботів клікбейтом. Таблоїди все одно публікували статті про Скайнет, і через вісім років люди досі згадують про це як про попередження.

Це має значення для 2026 року, тому що ця історія змушує людей уявляти агентів, які планують дії за кодом, який ми не можемо прочитати. Це драматичний страх, але його можна контролювати, адже можна уявити собі механізм вимкнення. Ризик, який насправді відстежують дослідники, є менш кінематографічним та важчим для усунення.

Співпраця простою мовою

Дослідження багатоагентних систем, включаючи таксономію ризиків багатоагентних систем 2025 року, створену групою з Оксфорда та Cooperative AI Foundation, постійно вказують на одну й ту саму причину невдач: співпрацю, а не нерозуміння.

Співзмова не потребує таємної мови. Їй потрібні дві системи, кожна з яких оптимізує дії на свою користь, такі що співпраця проти спільного контрагента чи проти правил приносить кращий результат, ніж дотримання духу угоди. Економісти задокументували це за допомогою звичайних алгоритмів формування цін ще багато років до появи ШІ, коли боти-ціноутворювачі конкуруючих продавців самостійно піднімали ціни, без жодних вказівок ззовні.

Якщо надати таку саму динаміку двом агентам ШІ, які спілкуються розмовною, абсолютно зрозумілою англійською мовою, результат буде гіршим, ніж при використанні прихованого коду. Координація залишається на видноті, виглядаючи як звичайна переписка; її може прочитати співробітник з питань дотримання правил та лише знизати плечима.

Дослідники з Оксфорда створили тестову платформу під назвою NARCBench, щоб перевірити, чи можна виявити таку змову шляхом аналізу внутрішніх активацій моделі замість її слів. Попередні результати свідчать, що це іноді можливо. Самі автори вказують на очевидну проблему: процеси виявлення та ухилення перебувають у стані гонки озброєнь, а окремі дослідження показують, що достатньо ретельно сплановані «задні двері» можна вбудувати в модель у спосіб, який залишається непомітним навіть для тих, хто має повний доступ до її внутрішньої структури.

Отже, чесне описання ризику полягає не в тому, що агенти будуть говорити так, що ми не зможемо це проаналізувати. Це в тому, що вони будуть говорити так, що ми зможемо це ідеально проаналізувати, досягти угоди, яка технічно відповідає їхнім повноваженням, і не залишити нікого з підстав ставити запитання про те, чи була ця угода корисною для людей, яких вони представляють.

Люди схильні боятися агентів, чию мову вони не можуть зрозуміти. Швидше трапляється ситуація, коли мова агента цілком зрозуміла, і вони домовляються про умови, які ніхто з власників сторін не схвалив би, якби прочитав деталі угоди.

Коли делегування є доцільним

Передача переговорів агенту не завжди є ризикованою. Придбання товарів за фіксованим бюджетом, як у випадку з Walmart, є цілком доцільним варіантом: невеликі ризики за кожну угоду, висока кількість угод, чітко визначені заздалегідь межі та записи кожної розмови.

Ризик зростає через три фактори: розмір ризиків за кожну угоду, ступінь нечіткості меж та те, наскільки рідко людина переглядає підписані документи.

Коли краще уникати цього

У 2026 році не кожній команді потрібна система переговорів з кількома агентами, хоча чимало компаній її створюють через наявність відповідних протоколів. Компанія, яка обробляє менше кількох сотень угод на рік, краще обслуговується людиною з готовою шаблоном, ніж агентом із чіткими повноваженнями. Робота з налаштувань, визначення повноважень, підключення між агентами та створення системи аудиту приносять користь лише при великому обсязі роботи. Цифри Pactum виглядають вражаюче, тому що Walmart мав тисячі постачальників, до яких він ніколи не міг дістатися особисто. З дванадцятьма постачальниками така підтримка вже існує.

А коли справа стосується репутації, наприклад контракту з клієнтом, умов партнерства чи будь-чого, що потрібно пояснити раді директорів, краще залишати людину для завершення угоди. Агенти добре справляються з великим обсягом роботи. Однак вони ще не є надійними у прийнятті рішень щодо взаємовідносин, і саме тому не варто дізнаватися про це на власному досвіді.

Тихий провал

Проблема, яка заслуговує уваги, не стане привабливою заголовком. Винахід бота з нерозбірливою мовою має очевидного злочинця та просте рішення: вимкнути його.

Справжня проблема є ще більш тихою. Два системи кожна роблять саме те, що їм наказано, і доходять до угоди, яка є читабельною, задокументованою, але все одно неправильною, оскільки той, хто визначав правила, ніколи не перевіряв їхню доцільність.

Це не причина для паніки. Це причина ставитися до питання того, на що може погодитися агент, з такою ж серйозністю, як до того, на що може підписатися співробітник. Більшість компаній ще не досягли цього рівня, і протоколи будуть готові раніше, ніж система управління.

Є одне питання, яке варто поставити перед тим, як дозволити агенту вести переговори щодо чогось від вашого імені: якби він у межах встановлених вами правил досяг найкращої можливої угоди, чи хотіли б ви саме цю угоду? Якщо ви не впевнені, проблема у правилах, а не в агенті.