Главная / Статьи

Организация дебатов между двумя локальными агентами LLM: основания, ложный консенсус, ошибки схемы.

Два локальных агента LLM на Ollama, предназначенных для дебатов на основе доказательств, а не ролей: обоснование NLI, ошибка ложного консенсуса, проверки атаки против утверждений и обязательные поля.

Издатель: REACTAPP.TOP7 мин чтения1697 слов

Источники: Two agents talking, and how to tell whether the conversation is real

В этом эксперименте, выполняемом на одной видеокарте RTX 3060 Ti (8 ГБ) с использованием модели qwen2.5:7b в среде Ollama, исследуется вопрос о том, могут ли два локальных агента вести полезный диалог и как это можно определить. Он основан на ранее сделанном выводе: две копии одной модели — это не две разные точки зрения. Критик, поделившийся весами, априорными предположениями и способами сбоев с исследователем, без проблем согласился с его галлюцинациями.

Тем не менее попытка создания диалога между двумя агентами того стоит, поскольку данный вывод упускал что-то важное. Две копии одной модели не могут отличаться в оценках, но могут расходиться в фактах, если у каждой из них свои данные.

Различия обусловлены информацией, а не личностью

Обычный способ сделать агентов разными — это предоставить им персонажей: быть оптимистом, быть скептиком, выступать в роли инициатора, выступать в роли критика. Эффект уже был измерен. Просьба к критику быть скептиком привела к тому, что он стал отмечать проблемы во всех 5 случаях вместо того, чтобы одобрять все 13 выводов, что представляет собой одинаковое поведение под другим названием.

Следовательно, асимметрия должна быть структурной:

Agent A → read sources 1, 2.  Cannot see sources 3, 4.
Agent B → read sources 3, 4.  Cannot see sources 1, 2.

Вопрос первого агента действительно настоящий, поскольку он не знает ответа, а ответ второго агента содержит реальную информацию, которой первый не располагал. Согласие между ними также имеет значение, поскольку оно основано на двух наборах доказательств. Манипуляции не могут имитировать это — то, что попадает в каждое окно контекста, обеспечивает его достоверность.

Плавные сообщения, все из которых провалились

В первой попытке было сгенерировано шесть сообщений, которые были плавными, соответствовали теме и содержали необходимые оговорки. Однако проверка на соответствие реальности отклонила их все:

✗ A [answer] does not follow from its evidence (nli=0.03)
     Our sources indicate that AI Agents are specialized, tool-enhanced
     systems leveraging foundation models...

Однако это предложение почти дословно встречалось в показаниях того агента. Модель вывода всё равно присвоила ему оценку 0,03. Проблема заключалась в том, что ей подавалось. Для задачи NLI требуется чистое утверждение в качестве гипотезы, тогда как входными данными были разговорные формулировки вроде «Наши источники указывают на то, что...» или «Исходя из наших источников, предложим следующее...». Таких вводных формулировок в приведённом исходном тексте никогда не бывает, поэтому оценка резко падает.

Ранние исследования по извлечению выводов не сталкивались с этой проблемой, поскольку там использовались простые предложения, взятые из статей. Диалог — это другое. Его два участника хотят противоположного: один агент стремится к общению, а другой — к строгому, формальному тексту. Решением стало разделение сообщения на два поля: content передаётся другому агенту, а claim — это единственное простое, прямое утверждение без какой-либо оболочки, и именно оно подвергается оценке.

Поле Текст Степень соответствия
content смягчённая, разговорная версия тезиса 0.03
claim чистое утверждение о том, что ИИ-агенты являются специализированными системами с использованием инструментов 0.93

Модель не изменилась. Оценивалась неверная строка.

Консенсус, к которому никто не пришёл

Пока эти шесть сообщений отклонялись, система вывела следующее в конце разговора:

🤝 CONSENSUS  (6 messages, 0 questions, 0 concessions)
   AI memory architectures are evolving towards unified context layers...

Никакое сообщение не было одобрено, поскольку каждый вклад не прошел проверку на наличие доказательств, тем не менее система объявила о наличии уверенного консенсуса, готового к вставке в отчет.

Причина заключалась в работе системы обработки данных. Этап формирования консенсуса считывал транскрипт, но метод transcript() фильтровал только те фрагменты, которые были одобрены. В результате получалась пустая беседа; система формировала вывод исключительно на основе цитат из исходного текста и помечала его как результат согласия двух исследователей.

Это самый опасный тип ошибок для подобной системы. Ничего не падает, ничего не отказывает в работе. Результаты выглядят корректно, аккуратно и создают ложное впечатление о происходящем. Другие сбои в проекте вызывали шумиху, тогда как этот сбой считался успешным решением. Чтобы его исправить, достаточно трех строк: если после проверки не остается никаких сообщений, значение converged принимается за ложное, и выводится причина. Более глубокий урок, который можно извлечь, длится дольше, чем сам патч. Утверждения о процессах требуют такой же проверки, как и утверждения о фактах, ведь фраза «агенты согласились» описывает реальность и требует доказательств.

Обсуждение противоречий

Отдельный уровень обсуждения предназначен для разрешения противоречий между двумя источниками, причем каждый агент защищает только свою точку зрения, опираясь на собственные цитаты. Первые восемь аргументов не прошли проверку на соответствие действительности.

В цитате оратора не упоминается, как развиваются системы памяти ИИ, и не говорится ни о каком потенциале сотрудничества агентов.

Очевидно, что это невозможно вывести из собственных доказательств оратора, поскольку они описывают доказательства противника. Опровержение формулировалось на основе неверной предпосылки, что является категориальной ошибкой в механизме проверки. Опровержения и утверждения — это разные речевые действия, поэтому для них применяются разные критерии оценки:

  • Утверждение должно вытекать из собственных слов оратора, что оценивается с помощью инструмента NLI.
  • Опровержение должно касаться конкретного утверждения противника, причем его оценка осуществляется по степени совпадения слов, а не по принципу логического следования.

Аргументы, не содержащие ни обоснованного утверждения, ни целенаправленного опровержения, также отклоняются. Фраза «Ваши доказательства не показывают X» теперь считается допустимым ходом, а не признаком автоматической неудачи.

Темы выбираются без использования модели. Каждая пара находок проходит проверку по методу NLI, и пары с высокой вероятностью противоречия превращаются в дебаты. При пороговом значении 0,5 одна пара прошла проверку с результатом 0,517: одна находка гласит, что ИИ-агенты — это специализированные системы с использованием инструментов, а другая — что системы памяти развиваются в направлении объединённых контекстуальных слоёв. Это касается разных тем. Два агента всё ещё провели четыре раунда в споре, который на самом деле не существовал, а именно этого и должен был предотвратить данный слой.

При повышении порогового значения до 0,7 на эту тему стало тихо — среди четырёх статей о памяти агентов не было обнаружено никаких противоречий. Это корректно, поскольку статьи не противоречат друг другу. Система дебатов, у которой нет предмета для дискуссии, выполняет свою функцию.

Дополнительные поля отсутствуют

Новое поле claim изначально было факультативным с значение по умолчанию "", и модель его игнорировала. Все шесть сообщений преобразовывались в обычный диалоговый текст, что привело к ухудшению результата. Это было уже четвертое появление одной и той же ошибки:

Этап Выбор схемы Результат
Анализ эталонных данных default_factory=list пустой {} всё равно считался корректным результатом анализа
Вывод критики поле было отмечено как required, но принималась пустая строка около 30% критиков возвращались пустыми
Список с значением по умолчанию модель выводила [] восемь критиков исчезли
Диалоговое поле claim default="" модель проигнорировала его, и все шесть сообщений потерпели неудачу

Вывод: фактически отсутствует необязательное поле, и это происходит каждый раз. Чтобы небольшая модель смогла что-то сгенерировать, схема должна отклонять результаты, в которых оно отсутствует.

Потребовались две схемы, потому что вопрос не может содержать утверждение, тогда как заявление должно его содержать. Следующая потребность в диалоге определяет выбор: Question — когда нужно задать вопрос, а Statement — в остальных случаях, причем поля claim и grounded_in являются обязательными. Вопрос выглядит так:

❓ A: Could you provide more details on how multi-agent systems differ
     from single-agent implementations, according to your sources?

И вот раунд ответов:

✗ B: "Your sources do not directly compare multi-agent systems to
     single-agent implementations."          → rejected (nli=0.051)💡 A: Multi-agent systems often require more sophisticated memory
     architectures and coordination protocols.        (nli=0.985)💡 B: AI memory systems are evolving toward unified context layers for
     efficient cross-agent collaboration.             (nli=0.998)📋 A: [proposes joint conclusion]                     (nli=0.982)
📋 B: [proposes joint conclusion]                     (nli=0.540)🤝 CONSENSUS (6 messages, 1 question, 5 grounded)

Пять из шести сообщений были отклонены. Одно отклонение имеет поучительный характер. Второй агент попытался охарактеризовать источники первого агента, которые тот не может видеть. Проверка на основания выявила это, не благодаря пониманию эпистемологии, а потому что утверждения о документах одного агента не могут следовать из утверждений другого.

Один предыдущий пробный запуск прошел лучше. Когда были запросены конкретные данные, которых не хватало, второй агент признал, что его источники их не охватывают, и система сообщила об отсутствии консенсуса вместе с точной причиной: ни один из источников не предоставил запрошенных примеров. Именно этого с самого начала и стремилось проектирование — агента, осознающего свои незнания. Запрос на скромность этого не дал, тогда как наказание за необоснованные утверждения сработало.

Затраты

Один цикл требует 138 вызовов LLM примерно по два секунды каждый на карте 3060 Ti. На диалог уходит 7 вызовов, на дебаты — 5, на синтез — около 12, а остальное расходуется на извлечение информации и критику. Система работает, но теперь ограничением стал бюджет, а не производительность.

Уроки

  1. Различайте информацию. Разные контексты порождают разные вопросы, в то время как разные инструкции заставляют одну и ту же модель действовать по-разному.
  2. Разделяйте речь и измеримые утверждения. Одно поле предназначено для другого агента, а другое — для проверщика; одна строка не может служить для обоих.
  3. Проверяйте утверждения о процессе. Фраза «Они согласились» требует доказательств, и их отсутствие сделало её самым опасным результатом, когда-либо выданным системой.
  4. Тестируйте атаки и утверждения по-разному. Оценка фразы «ваши доказательства не показывают X» на основе собственных доказательств оратора является ошибкой категории.
  5. Примите возможность пустой дискуссии. Снижение стандартов до такого уровня, при котором получается какой-то контент, превращает процесс в театральное представление.
  6. Сделайте обязательными те поля, которые действительно обязательны. Факультативные поля просто не существуют.

Остаётся неизвестным, превосходит ли всё это одного агента с инструментом поиска.