Головна / Статті

Багатоагентні системи — це бекенд-системи з недетерміністичними компонентами.

Системи багатьох агентів у виробництві заохочують певні практики на рівні бекенду: контракти на кожному рівні інтерфейсу, запити як конфігурація, обмежений обсяг контексту, одна роль на кожного агента, можливість повторних спроб.

Видавець: REACTAPP.TOP9 хв читання2167 слів

Джерела: Multi-Agent Systems Are Backend Systems with Non-Deterministic Components

Якщо прийти до агентського ШІ зі науки про дані та машинного навчання, початкові етапи роботи здаються знайомими. Але якщо довго працювати з продакшн-системою з кількома агентами, це взагалі перестає нагадувати науку про дані. Це починає нагадувати інженерію бекенду, з тією різницею, що деякі компоненти є недетермінованими. Якщо дивитися так, багато рішень щодо проектування стає легше зрозуміти.

Мета не в тому, щоб позбутися гнучкості, яку надають ШІ, адже саме ця гнучкість є причиною їх використання. Мета — встановити навколо неї прогнозовані межі.

Надайте кожній межі контракт

ШІ спілкуються текстом, тому спокусливо дозволити компонентам агентської системи також спілкуватися між собою текстом. Один компонент пише щось, наступний читає це та розуміє, що малося на увазі.

Це працює доти, доки інтерпретація сама по собі не стає джерелом сумнівів.

Запити на уточнення є гарним прикладом. Компонент може помітити, що у нього бракує інформації, та вміло пояснити це у прозі, проте залишити решту процесу роботи у невизначеності. Чи це невдача, чи запит на уточнення? Чи слід зупинити виконання? Що саме бракує?

Рішенням є поступове переходження до чітких, структурованих угод. Замість речення на кшталт "У мене недостатньо інформації, щоб продовжити, чи не могли б ви запитати користувача, який набір даних використати?", компоненти обмінюються повідомленням на кшталт:

{
  "status": "needs_clarification",
  "question": "Which dataset should be used?",
  "required_input": "dataset"
}

Формат JSON є другорядним. Важливим є сам контракт. Наступний компонент отримує відомий стан із відомою структурою та ніколи не повинен виводити наміри з генерованого тексту.

Людська взаємодія може слідувати тій самій схемі. Коли компонент, спеціалізований під певну сферу, потребує додаткових даних, він надсилає структурований запит на уточнення, а окремий шар взаємодії вирішує, як показати це користувачеві. У загальних рисах:

Domain workflow
  ↓
Structured clarification request
  ↓
User interaction layer
  ↓
User

Завершення також потребує однакового підходу. Якщо завершення завдання має значення для оркестрації, воно має бути визначеним подією протоколу, а не чимось, що інший модель мусить вивести з фраз на кшталт „аналіз завершено“.

Ця ідея виходить далеко за межі простого уточнення та завершення. Повідомлення між компонентами, виклики інструментів та їхні відповіді, помилки та події оркестрації — усе це виграє від чітких меж.

Практичне правило: якщо інший компонент мусить інтерпретувати результат роботи LLM, цей результат, ймовірно, потребує схеми.

Природна мова має використовуватися там, де вона дійсно необхідна. Усередині системи неоднозначність зазвичай створює більше проблем, ніж допомагає.

Розглядайте запити як конфігурацію

Коли система росте, ручна редагування кожного системного запиту як окремого блоку тексту ускладнює його підтримку. Спільні правила потрапляють у кілька місць, описи можливостей змінюються з часом, і запит відхиляється від того, що насправді доступно під час виконання.

Більш декларативна структура допомагає. Спільні правила, інструкції, специфічні для ролі, описи можливостей та приклади знаходяться у окремих частинах та об’єднуються у кінцевий запит під час створення.

Етап створення також дає можливість перевірити конфігурацію ще до того, як її побачить модель. Якщо запит стверджує наявність можливості, яка насправді не підключена, процес створення має це виявити. Те саме стосується відсутніх необхідних розділів, дубльованих визначень чи налаштувань, які більше не відповідають ролі.

Ніхто не редагує кінцевий запит безпосередньо. Він створюється з менших елементів конфігурації, перевіряється та виводиться у вигляді артефакта будови, який можна версіонувати та перебудовувати за бажанням.

У цьому випадку керування запитами більше нагадує звичайну конфігурацію програмного забезпечення, ніж процес написання тексту. Ви використовуєте повторно спільні частини, перевіряєте все, що можна перевірити до часу виконання, та забезпечуєте, щоб генерований результат був сумісним із навколишньою системою.

Контекст — це „бюджет“

Великі вікна контексту дозволяють легко додавати все більше інформації: інструкції, приклади, історію, описи можливостей, артефакти, попередні результати. Зрештою модель отримує все, що тільки може знадобитися, і іноді починає працювати гірше.

Очевидним поясненням є довжина інформації, ніби модель просто щось забула. Однак у сучасних моделях часто більш корисним підходом є врахування розведення інструкцій у контексті.

Ефективний контекст агента значно ширший, ніж його системний запит:

instructions
+ available capabilities
+ examples
+ conversation history
+ artifacts
+ previous outputs
+ workflow state

Модель може цілком ефективно знайти певну інструкцію серед усього цього. Але це не означає, що вона буде однаково добре виконувати кожну інструкцію, коли кілька сигналів конкурують за її увагу.

Тож кориснішим питанням стає те, скільки контексту насправді потрібно компоненту, на відміну від того, скільки модель може технічно прийняти.

Це виходить за межі простої економії токенів. Коротший та більш релевантний контекст звужує простір можливих рішень та полегшує прогнозування поведінки. Кожен додатковий елемент контексту конкурує за увагу моделі; він не залишається без дії.

Один агент, одна роль

Кількість інструментів виявляється поганим показником для визначення моменту розділення агента. Один агент може мати багато тісно пов’язаних можливостей та все одно мати чітку мету, тоді як інший, який має лише кілька інструментів, вже може виконувати кілька непов’язаних завдань.

Відповідальність є набагато кращою межею розділення. Різні обов’язки зазвичай вимагають різних інструкцій, контексту, правил верифікації та стратегій реагування на помилки. Це розділення функцій, застосоване до ймовірнісних компонентів.

Розділяйте за принципом відповідальності та ігноруйте кількість інструментів.

Граф зберігає стан

Оптимізація запитів отримує багато уваги у роботі агентів. Стан отримує менше уваги.

Легко зосередитися на розмірі запиту та не помітити стан графа. Ретельно оптимізований запит все одно може існувати поруч із станом, який продовжує зберігати результати та дані з кількох попередніх кроків, якщо тільки цей стан не керується навмисно.

У оркестрації на основі графа повідомлення, проміжні результати, дані та попередні вихідні дані накопичуються під час виконання завдань у графі. Граф пам’ятає це, що зручно, але це означає, що стан потребує ретельного проектування.

Великий артефакт, створений на ранній стадії, може існувати й у наступних етапах, де його вміст зовсім не потрібен. Те саме стосується великих результатів обробки та проміжних даних.

Для більш великих артефактів зазвичай краще зберігати дані поза графом. Замість цього:

Large artifact
  ↓
Graph state
  ↓
Step
  ↓
Step
  ↓
Step

Зазвичай достатньо чогось, що більш-менш нагадує наступне:

Large artifact
      ↓
External storage
      ↓
Reference + metadata
      ↓
Graph state

Більшості компонентів не потрібно все, що створюється на ранніх етапах робочого процесу. Їм потрібно лише стільки, скільки необхідно для прийняття наступного рішення.

Розмір інформації — це лише одна зі сторін проблеми контексту, і стан системи заслуговує на таку ж увагу. Розробляйте його активно та не дозволяйте, щоб він перетворився на місце зберігання всього, що генерується під час виконання.

Надійність — це переважно інженерія

Навіть за наявності хороших контрактів, чіткого розподілу обов’язків та ретельного керування контекстом агенти все одно роблять несподівані речі. Дія провалюється, модель обирає неправильну дію або повторює її, робочий процес закінчується занадто рано або триває набагато довше, ніж очікувалося.

Існують також випадки, коли кожен крок здається логічним, але в цілому робочий процес не просувається вперед. Модель продовжує робити локально правильні вибори, що фактично створює цикл.

Перша інстинктивна реакція, особливо у тих, хто почав працювати з великими LLM у початку 2023 року, — це намагатися вирішити такі проблеми через запит. Іноді це допомагає. Але більшість механізмів надійності, які в кінцевому підсумку стають необхідними, схожі на звичайну роботу з інфраструктурою:

  • повторні спроби та таймаути
  • жорсткі обмеження щодо кількості ітерацій та викликів інструментів під час виконання
  • виявлення циклів шляхом спостереження за повторенням однакових дій чи станів
  • легке стимулювання процесу виконання, коли він застрягає, але все ще може відновитися
  • чіткі стани провалу з шляхами відновлення

Коли щось не повинно відбуватися більше певної кількості разів, краще встановити обмеження, ніж додавати ще один рядок із проханням до моделі поводитися певним чином. Запити є частиною інженерії надійності, але вони не повинні бути єдиним елементом цього рівня.

Оперативність спостереження ґрунтується на тій самій логіці. Коли зазнає невдачі звичайний запит до бекенду, журнали та стек-трейс зазвичай пояснюють, що сталося. У агентному робочому процесі часто недостатньо просто знати, де виникла проблема.

Потрібно відтворити всю послідовність подій: обраний маршрут, виконані дії, передані аргументи та отримані результати. Під час відлагодження в циклах цікавою є не стільки кінцева помилка, скільки ланцюжок рішень, які постійно повертали виконання на той самий шлях.

У агентних системах потрібно відлагоджувати як код, так і рішення, тому хороша оперативність спостереження має забезпечувати можливість відтворення шляху прийняття рішень.

Вибір моделі — це рішення з проектування системи

Якщо розглядати агентів як компоненти програмного забезпечення, це також змінює спосіб вибору моделей. Немає жодних обмежень щодо того, щоб кожен компонент мав працювати з однією спільною моделлю, а надсилання кожного з них до найбільшої доступної моделі ще менш доцільне.

Система з кількома агентами природним чином поєднує завдання найрізноманітнішої складності. Деякі вимагають справжнього міркування, планування чи синтезу. Інші переважно здійснюють маршрутизацію, вилучення, класифікацію, трансформацію структурованих даних чи вибір з невеликого набору дій.

Модель типу «фронтир» може підійти скрізь, але вона також може зробити систему зайво повільною та дорогою у експлуатації. Для кожної ролі важливим є баланс між якістю, надійністю, затримкою та вартістю.

Вибір моделі ґрунтується не лише на кількості параметрів чи рангах у таблицях лідерів. Моделі, схожі за результатами тестів, можуть діяти дуже по-різному в межах одного робочого процесу.

Архітектура є одним із факторів, адже щільні, змішані моделі експертів та гібридні моделі відрізняються за характеристиками. Післянавчальна обробка також має значення: різні методи контрольованої доробки, оптимізації переваг та сильового навчання впливають на виконання інструкцій, міркування, використання інструментів, структурований вихід та поведінку у незвичних ситуаціях.

У практиці компроміси є конкретними. Одна модель може бути швидкою, дешевою та надійною для вузьких завдань, таких як маршрутизація чи класифікація, проте іноді заповнює прогалини за допомогою правдоподібних міркувань під час багатоетапних завдань. Інша може бути повільнішою та дорожчою, але значно стабільнішою під час багатоетапних міркувань.

Вам не потрібно тренувати ці моделі, щоб це мало значення. Знання про те, як вони поводяться по-різному, допомагає вам вирішити, де кожна з них має знаходитися в більшій системі.

Найважливішим критерієм є ваша реальна робоча навантаження. Для маршрутизації тестуйте саме маршрутизацію. Там, де результат має відповідати певній схемі, підраховуйте, наскільки часто це відбувається. Компоненти, які ґрунтуються на міркуваннях, отримують набір типових сценаріїв міркувань. У одній і тій самій оцінці враховуйте затримку та витрати.

Оцінюйте модель за її роллю у вашій системі, а не за загальним рангуванням.

Інженерія, орієнтована на недетермінізм

У всьому цьому є один спільний напрямок. Ранні прототипи агентів максимізують свободу: надають моделі інструкції, інструменти та контекст, а потім дозволяють їй приймати рішення.

Переходячи до продакшну, більша частина роботи ведеться у протилежному напрямку. Обов’язки стають більш вузькоспрямованими, інтерфейси — більш структурованими, контекст — більш релевантним, стан обробляється навмисно, шляхи збоїв є чіткими, а вибір моделі залежить від її ролі.

Навіть запити перестають бути ізольованим текстом та починають діяти як конфігурація, яку потрібно скласти, перевірити, версіонувати та відтворити.

Усе це не усуває здатності ШІ до прийняття рішень. Якби кожне рішення можна було сформулювати детерміновано, не було б сенсу створювати системи з агентами. Важливо вирішити, де недетермінізм є корисним, а де — ні.

Саме тому ці системи все більше нагадують інженерію бекенду з новим типом компонентів. ШІ забезпечує гнучкість у встановлених межах, а інженерія програмного забезпечення визначає ці межі.

Найкраща система з агентами — це не та, де агенти можуть робити найбільше. Це та, де агенти мають саме стільки свободи, скільки їм потрібно.

Пов’язана література

  • Від одного великого запиту до модульного помічника для покупок AutoGen — чому окремий запит чатбота не підходить для електронної комерції та як дизайн AutoGen та MCP розділяють розуміння мови від детермінованої бізнес-логіки.
  • Захисники діапазону для AI-агентів: декодування прихованих IP-адрес та доменів перед запуском — як шель-гейт рекурсивного агента декодує вкладене кодування base64, hex та URL, нормалізує незвичайні формати IP-адрес та фільтрує назви файлів, щоб заблокувати цілі, які виходять за межі діапазону.
  • Оркестратор та підагенти в LangChain: агенти як інструменти — Створення багатоагентної системи, де основний агент делегує завдання спеціалізованим підагентам, які представлені у вигляді інструментів, із невеликим прикладом використання Ollama та примітками щодо її масштабування.
  • Коли команда агентів AutoGen застрягає: як це виміряти та як звернутися за допомогою до керівника — Експеримент з AutoGen із використанням детермінованого арбітра для контролю графіка роботи, який пояснює, чому не функціонує процес колегіального огляду, як виявити команду, що застрягла, та чому для масштабування потрібна інша модель.
  • SkillClaw: Коли один агент зазнає невдачі, кожен агент вчиться — Як SkillClaw збирає сліди взаємодій від багатьох користувачів, розвиває спільні навички агентів за допомогою агентного еволютора та перевіряє зміни протягом ночі перед їх впровадженням.
  • Межі архітектури ШІ: Ймовірнісні моделі в детерміністичних системах — LLM змінює проектування системи: контекст стає компонентом, результати є ненадійними, код 200 все ще може призводити до невдач, а витрати є обмеженням часу виконання. Правила та повноваження слід зберігати в коді.