Коли команда агентів AutoGen застрягає: як це вимірювати та ескалувати ситуацію до керівника.
Експеримент AutoGen із детермінованим арбітром, який керує графіком змін, показує, чому не функціонує рецензування колег, як виявити команду, що застрягла, та чому для ескалації потрібна інша модель.
Джерела: AutoGen ile Multi-Agent Eskalasyon: Ekip Takılınca Ne Olur?
Команда дешевих агентів може за допомогою вимірювань помітити, що застрягла, і передати завдання сильнішому керівнику. Який саме керівник вважається сильнішим, виявилося несподіванкою. Далі йде експеримент AutoGen у чотири кроки: один агент, команда з двох агентів, детерміністичний верифікатор та, нарешті, ескалація.
Більшість демонстрацій з багатьма агентами повторюють одну сцену. Агенти не можуть вирішити проблему, консультуються між собою, і в кінцевому підсумку втручається спеціалізований агент та завершує роботу. Це виглядає вражаюче, поки ви не прочитаєте код та не знайдете у системному повідомленні рядок на кшталт „якщо не можете вирішити, зверніться до керівника“. Агент просить про допомогу не тому, що зазнав невдачі, а тому, що йому так сказали. Уся сцена є запрограмованою.
З цього нічого не можна дізнатися, адже справжнє питання не в тому, як агент просить про допомогу. Справжнє питання — як хтось може дізнатися, що команда застрягла. Наведений нижче експеримент був створений так, щоб застрягання справді відбувалося, і протягом його проведення два висновки змусили змінити дизайн. Обидва вони виявилися найціннішими частинами.
Виведення агентів з ролі суддів
Якщо ви хочете побачити, як агенти справді зазнають невдач, вони не можуть бути тими, хто визначає, що означає успіх. Тож завдання має результат, який може перевірити машина: щотижневий графік змін для невеликого магазину. Є сім днів, кожен з яких має дві зміни, і кожній зміні потрібно рівно двоє людей, що дає 28 вакансій. Є сім працівників із загальною можливістю виконати 33 зміни. Діє шість суворих правил:
- У кожній зміні має бути рівно двоє людей.
- Ніхто не може працювати дві зміни в один день.
Проблема полягає у перетині правил третього та шостого. Один із сертифікованих касирів — це працівник з неповною зайнятістю, який може виконувати лише три зміни на тиждень. Якщо виправити правило щодо часу відпочинку, порушиться правило щодо касирів; якщо виправити останнє — буде порушено обмеження.
Функція перевірки — це звичайна функція Python без жодних викликів LLM всередині неї:
def dogrula(cizelge: dict) -> list[str]:
"""Cizelgedeki butun kural ihlallerini dondurur. Bos liste = gecerli plan."""
Кожне рішення про успіх чи невдачу в експерименті формується за допомогою цієї функції, і те, що агенти думають про власну роботу, є неважливим. Тести також доводять, що проблему можна вирішити, адже засіб для зворотного пошуку в наборі тестів знаходить принаймні один дійсний графік. Агенти ніколи не бачать цього засобу. Як тільки команда застрягає, ніхто не може стверджувати, що проблема була нерозв’язною.
Крок 1: один агент та чотири порушення
У найпростішій конфігурації використовується один AssistantAgent без жодних інструментів та допоміжних елементів:
planlayici = AssistantAgent("planlayici", model_client=istemci, system_message=...)
sonuc = await planlayici.run(task=brif())
З використанням моделі gpt-4o-mini результатом став добре сформований, достовірний JSON-графік. Арбітр нарахував чотири порушення. Один працівник мав вихідний у понеділок. У суботу ввечері не було сертифікованого касира. Працівник на неповну ставку, у якого була обмеження у трьох змінах, отримав п’ять змін. Агент не має можливості дізнатися про це, оскільки його налаштування не дозволяють перевіряти власну відповідь.
Крок 2: додавання колеги лише погіршило ситуацію
Стандартним рішенням є наявність перевіряючого поруч із планувальником. У AutoGen для цього потрібно три рядки:
ekip = RoundRobinGroupChat([planlayici, denetci], max_turns=6)
sonuc = await Console(ekip.run_stream(task=brif()))
Перевірювач виконав свою роботу, перелічивши п’ять порушень, усі вони належали до категорії порушень правила 11-годинного відпочинку. Організатор їх виправив. Коли ж арбітр перевірив графік, він знайшов лише одне порушення правил відпочинку, тож перевірювач вигадав ще чотири. Водночас він зовсім не помітив порушень щодо дня відпочинку, відсутності касира та щотижневих перевищень. Кількість порушень зросла до семи, що гірше, ніж у окремого працівника.
У всьому цьому немає нічого дивного. Перевірювач також є ШІ, тому має ті самі слабкості та споживає вдвічі більше ресурсів. Команда також може схвалювати власну роботу: як тільки перевірювач оголошує, що план схвалений, ніхто не заперечує. Це наче студент, який оцінює власний екзаменаційний листок.
Крок 3: корективний зворотний зв’язок все ще недостатній
Наступний крок — це перенесення функції верифікації від LLM до окремої функції. AutoGen приймає звичайні функції Python як інструменти, створюючи схему на основі підказок типів та опис — на основі документації:
denetci = AssistantAgent(
"denetci",
tools=[cizelgeyi_dogrula],
max_tool_iterations=1,
reflect_on_tool_use=False, # <-- kilit satır
)
Параметр reflect_on_tool_use=False є критично важливим тут. Якщо встановлений на True, агент узагальнюватиме результати роботи інструменту власними словами, планувальник читатиме інформацію про порушення з цього узагальнення, і деталі будуть втрачені. Якщо параметр дорівнює False, звіт верифікатора надходить у розмову слово в слово. Другою ключовою деталлю є правило зупинки:
bitis = TextMentionTermination("GECERLI:", sources=["denetci"]) | MaxMessageTermination(12)
Лише валідатор може створити текст GECERLI:, тому кінець розмови визначається детермінованим сигналом, а не реченням від ШІ. Це вирішує проблему „план схвалено“, яка була у попередньому кроці.
Результат: команда досягла ліміту у 12 повідомлень із дев’ятьма порушеннями. Ситуація справді виглядає гірше. Тепер зворотний зв’язок є точним — без вигаданих порушень та пропущених правил. Але невелика модель виправляє одне правило, порушуючи інше, і процес ніколи не досягає стабільності. Правильний зворотний зв’язок необхідний, але недостатній. Бракує механізму, який би вимірював прогрес та міг оголосити, що ця команда не завершить роботу.
Крок 4: вимірювання застрягання
Перше питання для оцінки ситуації — чи команда дійсно застрягла, чи просто працює повільно. Запитувати у агентів марно, адже очікування чесного саморепорту від системи, яка не може оцінити власну роботу, повторює помилку другого кроку. Тож код вимірює ситуацію за допомогою двох сигналів:
def takildi_mi(self, sabir: int = 2) -> tuple[bool, str]:
son, onceki = self.denemeler[-1], self.denemeler[-2]
# 1. Ayni ihlal seti tekrar ediyor -> dongude donuyorlar.
if son.cizelge is not None and son.ihlaller == onceki.ihlaller:
return True, "Ayni ihlaller iki tur ust uste tekrarlandi."
# 2. Son turlarda ihlal sayisi hic azalmadi -> ilerleme yok.
pencere = self.denemeler[-(sabir + 1):]
if pencere[-1].skor >= min(d.skor for d in pencere[:-1]):
return True, "Ilerleme yok."
return False, ""
Якщо жоден сигнал не виникає, команда прогресує, хоча й повільно, і цей цикл продовжується. Ця перевірка також дозволяє системі підвищити рівень складності до того, як закінчиться бюджет раунду, що має велике значення, адже кожен марновитий раунд — це втрачені гроші. Організація цього процесу здійснюється за допомогою звичайного циклу в Python. AutoGen зберігає історію чату команди, тому повторне викликання того самого об’єкта команди означає, що команда пам’ятає попередні раунди:
for tur in range(1, MAX_TUR + 1):
sonuc = await Console(ekip.run_stream(task=gorev))
cizelge = son_cizelge(sonuc.messages)
ihlaller = dogrula(cizelge)
gunluk.ekle(Deneme(tur, cizelge, ihlaller))
if not ihlaller:
break
takildi, sebep = gunluk.takildi_mi()
if takildi:
break
gorev = sonraki_gorev(...)
Що містить пакет для ескалації
Команда застрягла, тож що надсилати керівнику? Найпростіше поставити запитання заново, але це буде повторна спроба, а не ескалація. Керівнику потрібні не сама проблема, а те, що намагалася зробити команда та чому це не вдалося. Пакет містить:
- короткий опис проблеми,
- звіт про порушення графіка, створений після кожного етапу,
- типи порушень, які постійно повторюються, з кількістю випадків (наприклад, відпустка: 3 рази, ліміт: 3 рази),
- останні повідомлення команди,
- чітке визначення завдання.
Рядок з постійними порушеннями — це простий лічильник, але він ефективний, тому що керівник миттєво бачить, яке правило постійно ускладнює роботу команди.
Висновок 1: max_tool_iterations — це верхня межа, а не гарантія
Керівник отримав інструмент верифікації з параметром max_tool_iterations=8. Очікувалося, що це буде самодостатній цикл: розробка, верифікація, виправлення та знову верифікація. Насправді сталося наступне: керівник викликав інструмент один раз, отримав звіт про три порушення, а потім надав зовсім інший графік як остаточну відповідь, не перевіривши його. Цей графік був недійсним.
Це значення є верхньою межею, а не нижньою. Як тільки модель відповідає текстом замість виклику інструменту, цикл закінчується. Введення рядка «Ніколи не відповідайте без підтвердження» у системне повідомлення також не допомогло, оскільки цей рядок вже там був. Рішення було архітектурним: залишити остаточне рішення на розсуд арбітра, а не моделі. Тепер супервайзер працює всередині того самого зовнішнього циклу перевірки, що й команда, і його відповідь не приймається, поки її не схвалить арбітр. Наказування моделі того, що робити, не змушує її це робити. Якщо вам потрібна гарантія, ви повинні самостійно створити цей цикл.
Висновок 2: сильніша модель була недостатня
Першим керівником був gpt-4o, який керував командою працівників gpt-4o-mini. Це класична схема, при якій дешева модель виконує роботу, а дорожча допомагає у вирішенні проблем. Однак ця дорожча модель нічого не врятувала. Протягом трьох раундів gpt-4o поступово покращував результати: кількість порушень зменшилась з восьми до п’яти, потім до чотирьох, але так і не досягла нуля; крім того, він створив 918 токенів результату. Після переходу на модель для міркувань o4-mini проблема була вирішена вже у першому раунді без жодних порушень, але це коштувало 3 886 токенів результату.
Зараз це здається логічним. Завдання полягає у задоволенні обмежень, що вимагає систематичного пошуку. gpt-4o не є суттєво кращим за gpt-4o-mini у цьому, адже обидва працюють однаково, просто один має більші розміри. Різниця у кількості токенів також не є випадковістю, оскільки більшість з цих 3,886 токенів — це токени для міркувань. Вартість процесу міркувань відображається у таблиці витрат. Загальний урок: підвищення рівня не повинно означати дорожчу модель, а має означати модель, яка працює інакше. Вимірюйте, яка з моделей допомагає у вашій конкретній проблемі, і не робіть припущень.
Зрештою виконання завдання вдалося, і журнал відображає, як це відбувалося:
--- Ekip - tur 1/3 (gpt-4o-mini) ----------------------------------------
[hakem] tur 1: GECERSIZ: 4 kural ihlali var.
--- Ekip - tur 2/3 (gpt-4o-mini) ----------------------------------------
[hakem] tur 2: GECERSIZ: 4 kural ihlali var.
--- Ekip - tur 3/3 (gpt-4o-mini) ----------------------------------------
[hakem] tur 3: GECERSIZ: 6 kural ihlali var.
[karar] Takilma tespit edildi: Son 2 turda ihlal sayisi 4 seviyesinden
asagi inmedi; ilerleme yok.
--- Supervisor - tur 1/3 (o4-mini) --------------------------------------
[hakem] supervisor tur 1: GECERLI: Cizelge butun kurallara uyuyor.
За цим не стояв жоден скрипт. Команда справді застрягла, було виміряно стан застрягання, і керівник вирішив завдання.
Рахунок
У кінці четвертого кроку витрати обох моделей друкуються поруч:
Asama Model Girdi Cikti Maliyet $
------------ ----------- ------ ----- ---------
ekip (3 tur) gpt-4o-mini 16.566 2.290 0,00386
supervisor o4-mini 5.463 3.886 0,02311
------------ ----------- ------ ----- ---------
TOPLAM 22.029 6.176 0,02697
Три раунди роботи команди коштували приблизно 0,0039 долара, тоді як робота керівника коштувала близько 0,0231 долара, тож підвищення рівня складності означає додаткову статтю витрат, яка вартує приблизно в шість разів більше, ніж усі зусилля команди. Саме ця таблиця є причиною такої архітектури. Якщо передати все керівнику, сума рахунку зростає в шість разів. Якщо ж доручити все дешевій команді, робота так і не буде завершена. Правильна відповідь знаходиться між цими двома варіантами, і вимірювання — єдиний спосіб її знайти.
Висновки
- Доки ви запитуєте агентів, чи у них все вийшло, система є фальшивою. Детерміністичний арбітр — це основа, на якій ґрунтується вся архітектура. Якщо у вашій проблеми немає аспекту, який можна перевірити за допомогою машини, спочатку знайдіть такий аспект.
- Недостатньо, щоб один LLM перевіряв інший. Оцінювач створює власні хибні уявлення, що подвоює витрати.
Як організований код
Експеримент розділений на чотири файли, які мають виконуватися по черзі; кожен з них починається з примітки про те, чого він навчає:
01_tek_agent.py AssistantAgent, run(), TaskResult
02_ekip.py RoundRobinGroupChat, max_turns, Console
03_dogrulayici.py tools=[...], reflect_on_tool_use, deterministik termination
04_eskalasyon.py dış döngü, takılma tespiti, eskalasyon paketi, maliyet defteri
Для тестів не потрібен API-ключ. Клас ReplayChatCompletionClient з AutoGen повертає відповіді моделі по черзі, тож два найбільш ризиковані припущення проекту можна перевірити безкоштовно. Використовувані версії — autogen-agentchat 0.7.5 та Python 3.11. Поведінка малих моделей змінюється з кожною роботою, і gpt-4o-mini знаходиться саме на межі цієї проблеми, іноді завершуючи роботу за чотири раунди.