Галоўная / Артыкулы

Дэбаты двух лакальных LLM-агентаў: абгрунтаванне, фальшывы кансенсус і памылкі схемы

Два лакальныя LLM-агенты на Ollama спрачаюцца на доказах, а не ролях: NLI-абгрунтаванне, памылка фальшывага кансенсусу, праверкі атакі і сцвярджэння і абавязковыя палі.

Выдавец: REACTAPP.TOP7 хв чытання1697 слоў

Крыніцы: Two agents talking, and how to tell whether the conversation is real

Эксперымент, які запускаецца на аднай картэ RTX 3060 Ti (8 GB) з модэлем qwen2.5:7b пад кераваннем Ollama, спрабоўвае з’ясаваць, чы можу два локальныя агентаў весты корыстны дыялог і як гэта можна выявіць. Ён падтрымлівае ранейшыя вынікі: два экземпляры аднаго модэля — гэта не два розныя мненні. Крытык, які раздзяляўся вагамі, праблемамі і спосабамі абвалення з доследнікам, без жадных працоў схваліў яго галюцынаціі.

Усё-такі спроба стварыць дыялог між двума агентаўмае сэнс, адколькі гэты вынік не ўрахоўваў дзеякія аспекты. Два экземпляры аднаго модэля не можу розніцца ў суджэннях, але можу розніцца ў фактах, калі кожны з іх мае іншыя даны.

Разлік па інфармацыі, а не па персаналіях

Звычны спосаб прыяднення агентаў ў разныя ролі — гэта распадзел персанажаў: быць оптымістам, быць скептыкам, быць тым, хто прыдумвае, быць крытыкам. Эфект ужэ быў вымеран. Калі крытыку сказаць быць скептыкам, яго падход з затверджэння 13 з 13 нараджэнняў перайшоў у пазначэнне 5 з 5 проблем, што ўсё і ж аднаковая поведзенчысць пад іншым названнем.

Таму асіметрыя павінна быць структурная:

Agent A → read sources 1, 2.  Cannot see sources 3, 4.
Agent B → read sources 3, 4.  Cannot see sources 1, 2.

Гэтая пытанне першага агента ёсць справжнім, адколі ён не знае адказу, а адказ другага агента містыць справжню інфармацыю, якой першы не бачыў. Адпаведнасць між імі таксама мае значэнне, адколі яна стосуецца двух набораў доказаў. Падказкі не можаць гэта падрабіць. Тое, што падае ў кожны вікну кантэксту, гарантуе гэта.

Прыемныя паведамленні, якія ўсе зазналі нявярнага

Першы запуск даў шасць паведамленняў, якія былі прыемнымі, стосаваліся тэмы і мелі належныя захаванні. Перакананне ў правядзімасці адхіліла ўсе іх:

✗ A [answer] does not follow from its evidence (nli=0.03)
     Our sources indicate that AI Agents are specialized, tool-enhanced
     systems leveraging foundation models...

Адзначыцца, што гэтыя словы з’явіліся ў свядчэннях таго агента практычна слова ў слова. Мадэль аналізу зв’язка ўсё рава даўлае ўзьему 0,03. Проблема была ў тым, што яму было дана. НЛІ выкарыстоўвае чыстую прызнанню як гіпотэзу, а даныя мелі форму розмовных фраз на кшталт „Нашы джэрэлы паказуюць, што...“ або „На адной падставе нашых джэрэл, давайце запропануем, што...“. Такія формулювання ніколі не з’являюцца ў цытаваным ісходным тэксце, таму рэйтынг розпадаецца.

Ранейшыя даследжэння з выкарыстоўванням даных не сталкнуліся з гэтым, таму што там была простае рэчэ, вынятая з статты. Размова — гэта інша справа. Іё два чытачы хочуць працоўна протыпарадных рэшэнняў: партнер-агент хочаць розмову, а перакладчык — клінічны тэкст. Раздзелэнне паведамлення на два поля вырашыла гэту проблему. content падае іншаму агенту. claim — гэта адна простая дэкларатыўная рэчэ без жадных дапаможных формулюванняў, і самэ гэта ёдынэ ўзьемліваеся для аналізу.

Поле Тэкст Значэнне
content Умерклы, размовны варыянт тэксту 0.03
claim Простая заява пра тое, што агенты ШЫ — гэта спецыялізаваныя сістэмы, расшыроўваныя за дапамогою інструментаў 0.93

Мадэль не змянілася. Ацэнкавалася некорэктная стрычка.

Кансэнсус, якога ніхто не дасягнуў

Калі тыя шасць паведамленняў былі адхілены, сістэма выдрукавала гэта ў канцы размовы:

🤝 CONSENSUS  (6 messages, 0 questions, 0 concessions)
   AI memory architectures are evolving towards unified context layers...

Нямаў жаднага адпаведнага прытворэння, адколькі кожны вклад не перажыў пераканальнага адзінакоўвання, пры чым сістэма заўсёды абявляла пра наяўнасць паважнага кансэнсусу, гатовага да вставкі ў адчынак.

Прычына крылася ў сістэме водапрацоўкі. Крок стварэння кансэнсусу чытала транскрыпцію, але метод transcript() фільтраваў толькі тыя часткі, якія былі прытвораны. Сістэма атрымала порожнюю розмову, напісала заключэнне на адваротах з існуючых цітатаў і пазначыла яго як тое, па чым пагадаліся два дзеярнікі.

Эта ўражнайшая катэгорыя багоў для такой сістэмы. Нічы не зламваецца і нічы не адмовляе. Рэзультаты выводу чытальныя, апранутыя і паказваюць хыбную історыю. Іншыя неудачы ў праекце стваралі шум, тады калі гэты баг выглядаў як успех. Ёго можна паспяшна вылечыць за тры рэчы: калі пасля перапрацавкі не застаецца жадных паведамленняў, значэнне converged прымуе значэнне false, а прычына выводзіцца на экран. Глыбэйшы урок застаецца надолго пасля выправлення. Заявы пра працэсы трэба пераканацца так сама, як і заявы пра факты, адтолькі ўтаманнікі, якія кажуць «утаманнікі пагадаліся», опісваюць рэальнасць і трэбуюць падтверджэння.

Дыскусія пра суперсчытанні

Аддзельны слой дыскусіі займаецца суперсчытаннемамі між двума джэрамі інфармацыі, пры чым кожны утаманнік захоўваецца толькі за сваю позыцыю, апасланую яго сопаканамі. Першыя восем аргументаў не прынялі перапрацавку на адпаведнасць рэальнасці.

У цітаце выступаючага няма жадных адказоў пра тое, як развіваюцься сістэмы памяці ШЫ, чыраўжо і пра можлівасць саавтарства агентаў.

Зрозумела, гэта не можа вынікнуць з сабеўказаў самага выступаючага, бо тыя апісваюць позіцыю працоўніка-працівніка. Адпаведзь выканана на неправільнай прэмізе, што ўскладніцца катэгарычным адхыленнем у апараце пераканання. Адпаведзі і тверджэнні — гэта разныя акты мовлення, таму яны падлягаюць разным тэстам:

  • Тверджэнне павінна вынікнуць з сабеўказаў самага выступаючага, што пераканальваецца за дапамогою NLI.
  • Адпаведзь павінна стосавацца конкрэтнага тверджэння працоўніка-працівніка, што ацэнюецца па ступеню перакрыцця слоў, а не па прычыннасці.

Аргументы, у якіх няма ні падтрыманага тверджэння, ні цялеспрамованай адпаведзі, таксама адхоўваюцца. Фраза "ваашы доказы не паказваюць X" цяпер ўважаецца праваміручым крокам, а не автаматычным парадукусам.

Тэмы выбіраюцца без вікорыстання якога-лібо модэля. Кожна пара нараджэнняў праходзіць праз аналіз NLI, а пары з высокай верыгатуюцьцю суперсчылення стаюць прэдметамі дыялогаў. Пры праге 0.5 адна пара працавала з рэзультатам 0.517: адна нараджэнне гласіла, што AI-агенты ўсё ў большай меры ўскладненыя, апрацоўваныя з адпаведнымі інструментамі сістэмы, а іншая — што сістэмы памяці працуюць у напрамку стварэння аднацелых шароў кантэксту. Гэта стосуецца разных тэм. Два агенты ўсё ж такі працавалі чатыры раунды над суперсчыленнем, якога не існавало, і гэта самэ тое, чаго мяркава было запобiecіць гэтым шарам.

Калі праг падняўся да 0.7, гэты шар замовк ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо

Нова польна claim спачатку была необавязковай, з яе стандартным значэннем "", і модэль яе ігнаравала. Усе шысць змесцаванняў перайшлі на звычны тэкст дыялогу, і праца модэлі паслабела. Гэта быў чатырты раз, калі выйшла тая ж самая памылка:

Этап Выбор схемы Рэзультат
Аналіз памероў default_factory=list Пусты {} все равно лічыўся як правільны аналіз
Рэзультаты крытыкі Польна пазначалася як required, але прыймалася пустая строчка Апошнія 30% рэзультатаў крытыкі былі пустыя
Спіс з стандартным значэннем Модэль выдавала [] Восьць рэзультатаў крытыкі зніклі
Дыялогавая польна claim default="" Мадэль працявала без яго, і всі шасьць змесцаванняў не выйшлі.

Вывад: неабяжны поле фактычна ўсё часы відсутняе. Ёк толькі хоча бы маленькай модэлі трэба ўзняць якісь рэзультат, схема павінна адхіліць выходны дадзеныя, у якіх яго няма.

Патрэбныя былі две схемы, таму што запытанне не можа міцыць тверджэнне, а стація — мусі. Наступная патрэба для дыялогу выбірае адна з іх: Question калі трэба запытацца, а Statement іншым чынам, пры чым claim і grounded_in ў обох случаях ёсць обавязковымі. Запытанне выглядае так:

❓ A: Could you provide more details on how multi-agent systems differ
     from single-agent implementations, according to your sources?

І гэта ўрадзей адпаведзенняў:

✗ B: "Your sources do not directly compare multi-agent systems to
     single-agent implementations."          → rejected (nli=0.051)💡 A: Multi-agent systems often require more sophisticated memory
     architectures and coordination protocols.        (nli=0.985)💡 B: AI memory systems are evolving toward unified context layers for
     efficient cross-agent collaboration.             (nli=0.998)📋 A: [proposes joint conclusion]                     (nli=0.982)
📋 B: [proposes joint conclusion]                     (nli=0.540)🤝 CONSENSUS (6 messages, 1 question, 5 grounded)

Пяць з шасцях паведамленняў было адхілена. Адхіленне аднае з іх мае важлівыя наследкі. Другі агент прабаваў аналізаваць джэрэлы першага агента, якія той не можа бачыць. Перакананне ў правядзібнасці паведамленняў выявіла гэта, не за дапамогою якіх-небудзь знанняў пра эпістэміку, а таму, што тверджэння пра документы аднаго агента не можа вынікнуць з тверджэнняў другага.

Адна пакульная працэза выйшла лепшая. Калі былі запітаны конкрэтныя дэталі, якіх не хватала, другі агент з’явіў, што яго джэрэлы іх не пакрываюць, і сістэма паведаміла пра відсутнасць консэнсусу, а таксама навела точную прычыну: жадныя з джэрэлаў не падалі запрошаных прыкладаў. Гэта і было метай з самага пачатку — агент, які розумее, чаго не ведае. Запрос пра скромнасць гэтага не даў, але змусэнне робіць непадтрыманыя тверджэння даў такі рэзультат.

Косц

На карточку прытку ў картэ 3060 Ti трэба 138 вызоў LLM, кожны з якіх трывае прыблізна два секунды. З іх 7 прыпадае на дыялог, 5 — на дэбаты, адоўсюды 12 — на сынтэз, а рэшта — на выкарыстоўванне інфармацыі і крытыку. Сістэма працюе, але лімітам стала бюджэтная структура, а не ўстаткуванне.

Урокі

  1. Разлікаваць за інформацыяй. Разныя кантэксты даюць разныя запытанні, а разныя інструкцыі прыводзяць да таго ж модэлю, але ў разных фарматах.
  2. Раздзеляць размову ад меркаваных твэрджэнняў. Одна частка павінна быць для іншага агента, а іншая — для пераканальніка; адна строка не можа служыць для обох.
  3. Пераканацца ў правядзібнасці твэрджэнняў. Фраза „Жэры згодны“ патрабуе падтверджэння, і яго абсэнцыя зробіла яе найбольш апасным рэзультатам, які калі-небудзь выдала сістэма.
  4. Тэставаць атакі і асэрцыі трэба інакш. Оцэнка фразы «ваашы доказы не паказваюць X» на аднойчыну з доказамі самага спікера ўскладнюе аналіз і ўзначае катэгарычную памылку.
  5. Прыйміце можлівасць абоўязковага пустога дыялогу. Спуск стандартаў да такога рэвэля прыводзіць толькі да формальнасцяў без рэальнага зместу.
  6. Зробіце обав’язковыя полья сапраўдна обав’язковымі. Апштучныя полья проста не павінны існаваць.

Чы рэшыць гэта які-небудзь прыбліжанне проблему, калі ёсць адзін агент з інструментам дзеяння, яшчэ не вымерана.