Когда команда агентов AutoGen застревает: способы её оценки и передача задачи на рассмотрение руководителя.
Эксперимент AutoGen с детерминистическим арбитром, использующим график сдвигов, показывает, почему не справляется рецензирование коллегами, как выявить команду, застрявшую в работе, и почему для эскалации требуется другая модель.
Источники: AutoGen ile Multi-Agent Eskalasyon: Ekip Takılınca Ne Olur?
Команда дешевых агентов может по результатам измерений понять, что застряла, и передать задачу более сильному руководителю. Кто именно считается более сильным руководителем, оказалось сюрпризом. Далее описывается эксперимент AutoGen, состоящий из четырех этапов: один агент, команда из двух агентов, детерминистический верификатор и, наконец, эскалация.
Большинство демонстраций с участием нескольких агентов повторяют одну и ту же сцену: агенты не могут решить проблему, консультируются друг с другом, и в итоге вмешивается специалист-агент, который заканчивает работу. Это выглядит впечатляюще, пока вы не прочитаете код и не найдете в сообщении системы строку вроде «если вы не можете решить проблему, обратитесь к руководителю». Агент просит о помощи не потому, что потерпел неудачу, а потому, что ему так сказали. Вся сцена представляет собой сценарий.
Из этого ничего не усваивается, потому что настоящий вопрос не в том, как агент просит о помощи. Настоящий вопрос в том, как кто-либо может узнать, что команда застряла. В приведённом ниже эксперименте была создана ситуация, при которой команда действительно застревает, и в процессе два вывода вынудили к изменениям в дизайне. Оба они оказались самыми ценными элементами.
Исключение агентов из роли судей
Если вы хотите увидеть, как агенты действительно терпят неудачу, они не могут сами определять, что значит успех. Поэтому задача должна иметь результат, который может проверить машина: еженедельный график смен для небольшого магазина. Есть семь дней, каждый из которых включает две смены, и каждая смена требует ровно двух человек, что в сумме даёт 28 вакансий. Доступно семь сотрудников, общая мощность которых составляет 33 смены. Действуют шесть строгих правил:
- В каждой смене ровно два человека.
- Никто не работает две смены в один день.
Проблема возникает при наложении правил третьего и шестого. Один из сертифицированных кассиров — сотрудник на неполную ставку, который может работать только три смены в неделю. Если изменить правило отдыха, нарушится правило кассиров, а если изменить последнее — будет превышен лимит.
Функция проверки — это обычная функция на Python без каких-либо вызовов больших языков модели внутри неё:
def dogrula(cizelge: dict) -> list[str]:
"""Cizelgedeki butun kural ihlallerini dondurur. Bos liste = gecerli plan."""
Каждое решение о прохождении или неудаче в эксперименте формируется с помощью этой функции, и мнение агентов о собственной работе не имеет значения. Тесты также доказывают, что проблему можно решить, поскольку алгоритм обратного поиска в наборе тестов находит хотя бы одно допустимое расписание. Агенты никогда не видят этот алгоритм. Как только команда застревает, никто не может утверждать, что проблема была неразрешимой.
Шаг 1: один агент и четыре нарушения
Самая простая конфигурация использует одного AssistantAgent без инструментов и помощников:
planlayici = AssistantAgent("planlayici", model_client=istemci, system_message=...)
sonuc = await planlayici.run(task=brif())
Используя в качестве модели gpt-4o-mini, был получен корректно структурированный JSON-график с высокой степенью надежности. Судья насчитал четыре нарушения: одному сотруднику был назначен выходной в понедельник, в субботу вечером не было сертифицированного кассира, а сотруднику, работающему неполный рабочий день с ограничением в три смены, было назначено пять смен. Агент не имеет возможности узнать об этом, поскольку его настройки не позволяют ему проверять собственные ответы.
Шаг 2: добавление коллеги только усугубило ситуацию
Стандартным решением является наличие проверяющего рядом с планировщиком. В AutoGen для этого требуется три строки кода:
ekip = RoundRobinGroupChat([planlayici, denetci], max_turns=6)
sonuc = await Console(ekip.run_stream(task=brif()))
Проверщик выполнил свою работу, выделив пять нарушений, все из которых относились к правилу 11-часового отдыха. Ответственный за планирование их исправил. Когда же рефери проверил график, он обнаружил лишь одно нарушение правил отдыха, значит, проверщик выдумал ещё четыре. При этом он совершенно проигнорировал нарушения правил отпусков, отсутствие кассиров и еженедельные превышения лимитов. Общее количество нарушений выросло до семи, что хуже, чем в случае с одним сотрудником.
В этом нет ничего удивительного. Проверщик также является ИИ, поэтому у него те же слабости, и он потребляет в два раза больше ресурсов. Команда также может одобрять собственную работу: как только проверщик объявляет, что план одобрен, никто не возражает. Это всё равно что студент оценивает собственный экзаменационный лист.
Шаг 3: корректирующие замечания всё ещё недостаточны
Следующий шаг заключается в том, что проверка выводится из обязанностей большой языковой модели и передается функции. AutoGen принимает обычные Python-функции в качестве инструментов, генерируя схему на основе указаний типов и описание — на основе документации:
denetci = AssistantAgent(
"denetci",
tools=[cizelgeyi_dogrula],
max_tool_iterations=1,
reflect_on_tool_use=False, # <-- kilit satır
)
Здесь критически важен параметр reflect_on_tool_use=False. При значении True агент будет подводить итоги вывода инструмента собственными словами, планировщик будет анализировать нарушения на основе этих итогов, в результате чего теряются детали. При значении False отчет верификатора передается в диалог буквально так, как он написан. Второй важный момент — правило остановки:
bitis = TextMentionTermination("GECERLI:", sources=["denetci"]) | MaxMessageTermination(12)
Только валидатор может генерировать текст GECERLI:, поэтому окончание разговора определяется детерминированным сигналом, а не предложением большой языковой модели. Это решает проблему «план одобрен», существовавшую на предыдущем этапе.
Результат: команда достигла лимита в 12 сообщений при девяти нарушениях. Ситуация действительно выглядит хуже. Теперь обратная связь точна — нет выдуманных нарушений и пропущенных правил. Однако небольшая модель исправляет одно правило, нарушая при этом другое, и процесс так и не достигает стабильности. Правильная обратная связь необходима, но недостаточна. Недостает механизма, который позволял бы оценивать прогресс и констатировать, что эта команда не сможет завершить работу.
Шаг 4: оценка застоя
Первый вопрос для оценки ситуации заключается в том, действительно ли команда застряла или просто работает медленно. Задавать этот вопрос агентам бесполезно, поскольку ожидание честного самоотчета от системы, которая не может оценить собственную работу, повторяет ошибку второго шага. Поэтому код использует два показателя для измерения:
def takildi_mi(self, sabir: int = 2) -> tuple[bool, str]:
son, onceki = self.denemeler[-1], self.denemeler[-2]
# 1. Ayni ihlal seti tekrar ediyor -> dongude donuyorlar.
if son.cizelge is not None and son.ihlaller == onceki.ihlaller:
return True, "Ayni ihlaller iki tur ust uste tekrarlandi."
# 2. Son turlarda ihlal sayisi hic azalmadi -> ilerleme yok.
pencere = self.denemeler[-(sabir + 1):]
if pencere[-1].skor >= min(d.skor for d in pencere[:-1]):
return True, "Ilerleme yok."
return False, ""
Если ни один сигнал не генерируется, команда продолжает совершенствоваться, пусть и медленно, и цикл продолжается. Эта проверка также позволяет системе принять более решительные меры до исчерпания бюджета за раунд, что важно, поскольку каждый потраченный впустую раунд означает потерю денег. Оркестрация осуществляется с помощью обычного цикла на Python. AutoGen хранит историю чатов команды, поэтому повторный вызов того же объекта команды означает, что команда помнит предыдущие раунды:
for tur in range(1, MAX_TUR + 1):
sonuc = await Console(ekip.run_stream(task=gorev))
cizelge = son_cizelge(sonuc.messages)
ihlaller = dogrula(cizelge)
gunluk.ekle(Deneme(tur, cizelge, ihlaller))
if not ihlaller:
break
takildi, sebep = gunluk.takildi_mi()
if takildi:
break
gorev = sonraki_gorev(...)
Что включено в пакет для урегулирования ситуации
Команда зашла в тупик, так что что же передавать руководителю? Самый простой способ — снова задать вопрос с нуля, но это будет повторная попытка, а не обращение за помощью на высшем уровне. Руководителю нужны не сами проблемы, а информация о том, что пыталась сделать команда и почему у неё это не получилось. Пакет содержит:
- краткое описание проблемы,
- отчёт о нарушениях графика, сформированный после каждого этапа,
- типы нарушений, которые постоянно повторяются, с количеством случаев (например: отпуск — 3 раза, лимит — 3 раза),
- последние сообщения команды,
- чёткое описание задачи.
Строка с информацией о повторяющихся нарушениях представляет собой простой счётчик, но он эффективен, поскольку руководитель сразу может увидеть, какое правило продолжает мешать команде работать.
Вывод 1: max_tool_iterations — это верхний предел, а не гарантия
Руководитель получил инструмент проверки с параметром max_tool_iterations=8. Ожидалось, что будет работать замкнутый цикл: разработка, проверка, исправление и повторная проверка. На самом деле произошло следующее: руководитель вызвал инструмент один раз, получил отчет о трех нарушениях, а затем вернул совершенно другой график в качестве окончательного результата, не проверив его. Этот график был недействительным.
Это значение является верхним пределом, а не нижним. Как только модель отвечает текстом вместо вызова инструмента, цикл завершается. Введение строки «никогда не отвечать без проверки» в сообщение системы тоже не помогло, поскольку она уже там была. Решение заключалось в архитектурных изменениях: решение оставить на усмотрение рефери, а не модели. Теперь супервайзер работает внутри того же внешнего цикла проверки, что и команда, и его ответ принимается только после одобрения рефери. Приказы модели не заставляют её действовать. Если вам нужна гарантия, вы сами должны создать такой цикл.
Вывод 2: более сильная модель была недостаточна
Первым руководителем был gpt-4o, который управлял командой рабочих gpt-4o-mini. Это классическая схема, при которой дешевая модель выполняет работу, а дорогая помогает в случае проблем. Однако в данном случае она ничем не помогла. За три раунда gpt-4o постепенно сократил количество нарушений с восьми до пяти, затем до четырех, так и не дойдя до нуля, и произвел 918 токенов вывода. После перехода на модель для рассуждений o4-mini проблема была решена сразу в первом раунде без единого нарушения, но при этом было сгенерировано 3,886 токенов вывода.
Оглядываясь назад, это имеет смысл. Задача заключается в удовлетворении ограничений, что требует систематического поиска. gpt-4o не значительно лучше gpt-4o-mini в этом отношении, поскольку оба работают одинаковым способом, просто первый имеет больший размер. Разница в количестве токенов также не случайна — большинство из этих 3,886 токенов представляют собой токены для рассуждений. Стоимость процесса мышления отражена в таблице затрат. Общий урок: повышение уровня не должно означать более дорогую модель, а должно означать модель, работающую по-другому. Определите, какая из моделей поможет решить вашу конкретную проблему, и не делайте предположений.
В конце концов запуск удался, и лог показывает, как всё происходило:
--- Ekip - tur 1/3 (gpt-4o-mini) ----------------------------------------
[hakem] tur 1: GECERSIZ: 4 kural ihlali var.
--- Ekip - tur 2/3 (gpt-4o-mini) ----------------------------------------
[hakem] tur 2: GECERSIZ: 4 kural ihlali var.
--- Ekip - tur 3/3 (gpt-4o-mini) ----------------------------------------
[hakem] tur 3: GECERSIZ: 6 kural ihlali var.
[karar] Takilma tespit edildi: Son 2 turda ihlal sayisi 4 seviyesinden
asagi inmedi; ilerleme yok.
--- Supervisor - tur 1/3 (o4-mini) --------------------------------------
[hakem] supervisor tur 1: GECERLI: Cizelge butun kurallara uyuyor.
За этим не стоял никакой скрипт. Команда действительно застряла, было измерено состояние застоя, и руководитель решил проблему.
Смета
В конце четвертого шага расходы обоих моделей выводятся рядом друг с другом:
Asama Model Girdi Cikti Maliyet $
------------ ----------- ------ ----- ---------
ekip (3 tur) gpt-4o-mini 16.566 2.290 0,00386
supervisor o4-mini 5.463 3.886 0,02311
------------ ----------- ------ ----- ---------
TOPLAM 22.029 6.176 0,02697
Три раунда работы команды стоили примерно 0,0039 доллара, в то время как работа надзирателя обошлась примерно в 0,0231 доллара; следовательно, переход к более высокому уровню обработки представляет собой отдельную статью расходов, стоимость которой примерно в шесть раз превышает суммарные затраты всей команды. Именно поэтому и существует такая архитектура. Если передать всё надзирателю, сумма счета умножается в шесть раз. Если же поручить всё дешевой команде, работа так и не будет выполнена. Правильный ответ находится между этими двумя вариантами, и измерение — единственный способ его найти.
Выводы
- Пока вы спрашиваете агентов, добились ли они успеха, система является фиктивной. Детерминистический арбитр — это основа, на которой строится вся архитектура. Если у вашей проблемы нет аспектов, проверяемых машиной, сначала найдите такие аспекты.
- Недостаточно просто использовать один большой язык моделей для проверки другого; проверяющий создает собственные иллюзии, что удваивает затраты.
Как организован код
Эксперимент разделён на четыре файла, которые должны запускаться по порядку; каждый файл начинается с примечания о том, чему он учит:
01_tek_agent.py AssistantAgent, run(), TaskResult
02_ekip.py RoundRobinGroupChat, max_turns, Console
03_dogrulayici.py tools=[...], reflect_on_tool_use, deterministik termination
04_eskalasyon.py dış döngü, takılma tespiti, eskalasyon paketi, maliyet defteri
Для тестирования не требуется API-ключ. Класс ReplayChatCompletionClient из AutoGen возвращает ответы модели по порядку, что позволяет бесплатно проверить два наиболее рискованных предположения проекта. Использовались версии autogen-agentchat 0.7.5 и Python 3.11. Поведение небольших моделей меняется при каждом запуске, и gpt-4o-mini находится как раз на грани этой проблемы — иногда она завершает работу за четыре раунда.