Многопроцессорные системы представляют собой системы с бэкендом, содержащим недетерминистичные компоненты.
Системы производства с несколькими агентами поощряют определённые практики: контракты на каждой границе, промпты в качестве конфигурации, строгий лимит контекста, одна роль на агента, попытки повтора.
Источники: Multi-Agent Systems Are Backend Systems with Non-Deterministic Components
Путь к агентному ИИ проходит через науку о данных и машинное обучение, поэтому первоначальные этапы кажутся знакомыми. Однако если долго работать с производственной многопроцессорной системой, она совсем перестаёт напоминать науку о данных. Она начинает больше походить на инженерию бэкенда, с той разницей, что некоторые её компоненты являются недетерминированными. С такой точки зрения многие дизайнерские решения становятся более понятными для анализа.
Цель не в том, чтобы устранить гибкость, которую обеспечивают большие языки моделей, ведь именно эта гибкость и является причиной их использования. Цель — определить предсказуемые границы для этой гибкости.
Для каждой границы — контракт
Большие языки моделей работают с текстом, поэтому возникает соблазн позволить компонентам агентной системы обмениваться информацией также в текстовом формате. Один компонент пишет что-то, следующий читает это и пытается понять, что имелось в виду.
Этот подход работает до тех пор, пока интерпретация сама по себе не становится источником сомнений.
Примером могут служить запросы на уточнение. Компонент может заметить отсутствие информации и умело описать это в прозе, но при этом оставить остальные элементы рабочего процесса в неведении. Является ли это сбоем или запросом на уточнение? Следует ли прервать выполнение? Что именно отсутствует?
Решение заключается в том, чтобы постепенно переходить к более четким, структурированным контрактам. Вместо фразы вроде «У меня недостаточно информации для продолжения, не могли бы вы спросить у пользователя, какой набор данных использовать?», компоненты обмениваются сообщениями вроде следующего:
{
"status": "needs_clarification",
"question": "Which dataset should be used?",
"required_input": "dataset"
}
Формат JSON имеет второстепенное значение. Важен сам контракт. Следующий компонент получает известное состояние с определенной структурой и никогда не должен выводить намерения из сгенерированного текста.
Взаимодействие с человеком может следовать тому же принципу. Когда компонент, предназначенный для работы в определенной области, нуждается в дополнительных данных, он отправляет структурированный запрос с уточнениями, а отдельный слой взаимодействия решает, как показать это пользователю. В кратком изложении:
Domain workflow
↓
Structured clarification request
↓
User interaction layer
↓
User
Завершение задачи также должно рассматриваться аналогичным образом. Если завершение задачи имеет значение для оркестрации, оно должно быть определённым событием протокола, а не чем-то, что вторая модель должна выводить из фраз вроде «анализ завершён».
Эта идея выходит далеко за рамки простого уточнения или завершения действий. Сообщения между компонентами, вызовы инструментов и их ответы, ошибки и события оркестрации — всё это выигрывает от чётких границ.
Практическое правило: если другому компоненту приходится интерпретировать вывод LLM, этот вывод, скорее всего, требует наличия схемы.
Разговорный язык должен использоваться там, где он действительно необходим. Внутри системы неоднозначность обычно создаёт больше проблем, чем решает.
Рассматривайте запросы как конфигурацию
По мере роста системы становится всё сложнее вручную редактировать каждый системный промпт как отдельный блок текста. Общие правила конечно же копируются в несколько мест, описания возможностей со временем меняются, и промпт отклоняется от того, что действительно доступно во время выполнения.
Более декларативная структура помогает в этом. Общие правила, инструкции, специфичные для определённых ролей, описания возможностей и примеры хранятся в отдельных частях и собираются в окончательный промпт во время процесса сборки.
Этап сборки также позволяет проверить конфигурацию до того, как модель её увидит. Если промпт утверждает наличие возможности, которая на самом деле не реализована, процесс сборки должен это обнаружить. То же самое касается отсутствующих необходимых разделов, дублирующихся определений или настроек, которые больше не соответствуют роли.
Никто не редактирует исходный запрос напрямую. Он формируется из более мелких элементов конфигурации, проверяется и выдается в виде результатов сборки, которые можно версионировать и пересоздавать по желанию.
В этот момент управление запросами больше похоже на обычную настройку программного обеспечения, чем на написание текста. Используются повторно общие компоненты, проверяется всё, что возможно, до запуска, и гарантируется согласованность генерируемого результата с окружающей системой.
Контекст — это ограничение
Большие окна контекста позволяют легко добавлять всё больше информации: инструкции, примеры, историю, описания возможностей, результаты предыдущих вычислений. В конечном итоге у модели появляется всё, что только можно себе представить, и иногда её производительность снижается.
Очевидным объяснением является длина информации, словно модель просто что-то забыла. Однако для современных моделей более полезным подходом часто является учет разбавления инструкций.
Эффективный контекст агента гораздо шире, чем его системное указание:
instructions
+ available capabilities
+ examples
+ conversation history
+ artifacts
+ previous outputs
+ workflow state
Модель может вполне способна найти ту или иную конкретную инструкцию среди всего этого. Однако это не означает, что она будет одинаково хорошо выполнять все инструкции, когда несколько сигналов соперничают за её внимание.
Поэтому более полезным вопросом становится то, сколько контекста на самом деле нужно компоненту, в отличие от того, сколько технически может вместить модель.
Это выходит за рамки простой экономии токенов. Меньший, более релевантный контекст сужает пространство возможных решений и облегчает прогнозирование поведения. Каждый дополнительный элемент контекста соперничает за внимание модели; он не существует просто так.
Один агент, одна роль
Количество инструментов оказывается плохим показателем для определения момента, когда следует разделить агента. Один агент может обладать множеством тесно связанных способностей и при этом иметь чёткую цель, тогда как другой, имеющий лишь несколько инструментов, уже может выполнять несколько не связанных между собой задач.
Ответственность является гораздо лучшим критерием разделения. Разные обязанности обычно требуют разных инструкций, контекста, правил верификации и стратегий обработки сбоев. Это принцип разделения ответственностей, применяемый к вероятностным компонентам.
Разделяйте по уровню ответственности и не обращайте внимания на количество инструментов.
Граф хранит состояние
Оптимизация промптов привлекает много внимания в работе с агентами. Состоянию уделяется меньше внимания.
Легко сосредоточиться на размере промпта и упустить из виду состояние графа. Тщательно отформатированный промпт может по-прежнему сосуществовать с состоянием, которое сохраняет результаты и артефакты из нескольких предыдущих шагов, если только это состояние не управляется намеренно.
В оркестрации на основе графа сообщения, промежуточные результаты, артефакты и предыдущие выходные данные накапливаются по мере выполнения задачи внутри графа. Граф помнит всё это, что удобно, но это означает, что состояние требует тщательного проектирования.
Большой артефакт, созданный на раннем этапе, может использоваться и на последующих этапах, где его содержимое вовсе не требуется. То же самое касается крупных результатов обработки и промежуточных данных.
Для более объемных артефактов обычно лучше хранить данные вне графа. Вместо этого:
Large artifact
↓
Graph state
↓
Step
↓
Step
↓
Step
Обычно достаточно чего-то, близкого к следующему:
Large artifact
↓
External storage
↓
Reference + metadata
↓
Graph state
Большинству компонентов не нужны все данные, сгенерированные на ранних этапах рабочего процесса. Им достаточно лишь той информации, которая необходима для принятия следующего решения.
Размер стимула — это лишь одна из сторон проблемы контекста, и состоянию следует уделять столько же внимания. Необходимо активно его проектировать, не позволяя ему превращаться в место хранения всего, что генерируется в процессе выполнения.
Надежность — это в первую очередь инженерия
Даже при наличии хороших контрактов, четкого разделения ролей и тщательного управления контекстом агенты всё равно могут поступать неожиданно. Действие может провалиться, модель может выбрать неверное действие или повторить его, рабочий процесс может закончиться слишком рано или занять гораздо больше времени, чем ожидалось.
Существуют также случаи, когда каждый шаг кажется разумным, но в целом рабочий процесс не движется вперед. Модель продолжает делать локально корректные выборы, тем самым создавая замкнутый цикл.
Первый инстинкт, особенно у тех, кто начал работать с крупными LLM в начале 2023 года, — это исправлять подобные проблемы в промпте. Иногда это срабатывает. Но большинство механизмов надежности, которые в итоге оказываются необходимыми, представляют собой обычную работу по разработке бэкенда:
- повторные попытки и таймауты
- жесткие ограничения на количество итераций и вызовов инструментов в ходе одной задачи
- обнаружение циклов путем отслеживания повторения одних и тех же действий или состояний
- мягкое стимулирование при замедлении выполнения, когда оно все еще может быть восстановлено
- явные состояния сбоя с путями восстановления
Когда что-то не должно происходить более определенного количества раз, установление лимита эффективнее, чем добавление еще одной строки с просьбой к модели изменить поведение. Промпты являются частью инженерии надежности, но они не должны составлять всю ее структуру.
Принципы наблюдаемости основаны на той же логике. Когда обычный запрос к бэкенду терпит неудачу, логи и трейс вызовов обычно показывают, что произошло. Однако в рамках агентного рабочего процесса часто недостаточно просто знать место сбоя.
Необходимо воссоздать весь ход событий: выбранную трассу, выполненные действия, переданные аргументы и полученные результаты. При отладке циклов интересной часто бывает не окончательная ошибка, а цепочка решений, которые постоянно возвращали выполнение к той же трассе.
В агентных системах отлаживаются не только код, но и сами решения, поэтому хорошая наблюдаемость должна обеспечивать возможность воссоздания пути принятия решений.
Выбор модели — это решение по проектированию системы
Рассматривание агентов как программных компонентов также влияет на способ выбора моделей. Нет никаких причин требовать, чтобы каждый компонент работал с одной общей моделью, а отправка всех из них к самой большой доступной модели кажется ещё более бессмысленной.
Система с несколькими агентами естественным образом сочетает задачи совершенно разной сложности. Некоторые из них требуют реального рассуждения, планирования или синтеза. Другие в основном занимаются маршрутизацией, извлечением, классификацией, преобразованием структурированных данных или выбором из небольшого набора действий.
Модель типа «фронтир» может подойти в любой ситуации, но она также может сделать систему ненужно медленной и дорогой в эксплуатации. Для каждой роли важен баланс между качеством, надежностью, задержкой и стоимостью.
Выбор модели зависит не только от количества параметров или рангов в рейтингах. Модели, которые похожи друг на друга в тестовых условиях, могут вести себя совершенно по-разному в рамках одного и того же рабочего процесса.
Архитектура является одним из факторов, поскольку плотные модели, модели с смешанным использованием экспертов и гибридные модели отличаются по своим характеристикам. Важную роль играет также этап после обучения: различные методы контролируемой настройки, оптимизации предпочтений и обучения с подкреплением влияют на способность к выполнению указаний, рассуждениям, использованию инструментов, форматированию выводов и поведению в нестандартных ситуациях.
На практике существуют конкретные компромиссы. Одна модель может быть быстрой, дешевой и надежной для узких задач, таких как маршрутизация или классификация, но время от времени допускать ошибки при решении открытых задач, опираясь на кажущиеся обоснованными рассуждения. Другая модель может быть медленнее и дороже, но значительно стабильнее при выполнении многоэтапных рассуждений.
Для того чтобы это имело значение, не обязательно обучать эти модели. Знание того, как они различаются в своем поведении, помогает определить, где каждая из них должна находиться в более крупной системе.
Самым важным критерием является ваша реальная рабочая нагрузка. При тестировании механизмов маршрутизации проверяйте именно их работу. Если результат должен соответствовать определённой схеме, подсчитывайте, как часто это происходит. Для компонентов, требующих логических рассуждений, предоставляют набор типичных случаев для анализа. В процесс оценки необходимо включать показатели задержки и затрат.
Оценивайте модель исходя из роли, которую она играет в вашей системе, а не по её общему рейтингу.
Инженерные решения для учёта недетерминизма
Во всём этом прослеживается одна общая тенденция. На ранних этапах создания прототипов агентов стремились к максимальной свободе: передавали модели инструкции, инструменты и контекст, а затем позволяли ей самой принимать решения.
При переходе к промышленному использованию большая часть работ выполняется в противоположном направлении. Обязанности становятся более узкоспециализированными, интерфейсы — более структурированными, контекст — более релевантным, состояние управляется целенаправленно, пути возникновения сбоев становятся более очевидными, а выбор модели определяется её ролью.
Даже запросы перестают быть изолированным текстом и начинают вести себя как конфигурация, которую необходимо собирать, проверять, версионировать и воспроизводить.
Ничто из этого не устраняет способности ЯИ-модели принимать решения. Если бы каждое решение можно было сформулировать детерминированно, не было бы смысла создавать системы с агентами. Важно определить, где недетерминизм полезен, а где — нет.
Именно поэтому такие системы всё чаще напоминают инженерию бэкенда с новым типом компонентов. ЯИ-модель обеспечивает гибкость в рамках установленных границ, а инженерия программного обеспечения определяет эти границы.
Лучшая система с агентами — это не та, в которой агенты могут делать больше всего. Это та, в которой у агентов есть ровно столько свободы, сколько им нужно.
Связанные материалы
- Практические заметки: Google ADK Explained: Создание многоагентных систем — Подробное руководство по Практическим заметкам: Google ADK Explained: Создание многоагентных систем, включающее контракты, проверки и готовые блоки кода для команд, использующих эту модель.
- Многоагентные системы LangGraph: Надзиратели, подграфы и функция Send — Переход от одного перегруженного агента к нескольким: маршрутизация через надзирателей, распространение сигналов, подграфы, алгоритмы map-reduce на основе функции Send и полноценный исследовательский инструментарий для многоагентных систем в LangGraph.