Инжиниринг промптов недостаточен: инжиниринг контекста для систем с несколькими агентами
Системы с несколькими агентами редко терпят неудачу внутри одного шага. Они терпят неудачу между шагами, когда поступает неверный контекст. Как проектировать состояния и передачу контроля в LangGraph.
Источники: Prompt Engineering Is Dead for AI Agents — Here Is What Actually Works — Context Engineering
Термин «инжиниринг контекста» определяется как искусство заполнения окна контекста именно той информацией, которая необходима для следующего шага. Для тех, кто видел, как системы с несколькими агентами терпят сбои в реальных условиях, это название отражает явление, которое ранее не имело четкого определения.
Типичная картина сбоев одинакова везде: запросы формулируются корректно, модели способны к работе, а логика выглядит четкой в ноутбуке. Однако при переходе в реальные условия система ломается, причем не на уровне отдельных шагов, а между ними. Представьте агента для обобщения медицинских данных, который извлекает именно нужные документы, а затем в графе следует агент, который получает упрощенный объект состояния и выдумывает историю болезни пациента, хранящуюся на трех узлах выше по цепочке. Модель не сбилась — сбой произошел при передаче контекста. Недели на настройку системы и запросов не помогут решить проблему, которая изначально была не связана с запросами.
Проще говоря, инжиниринг промптов позволяет настроить сам вопрос, а инжиниринг контекста — условия, в которых он отвечается. Агенты обычно не терпят неудач на отдельных этапах; они терпят неудачу между этапами, потому что каждый узел содержит неверную информацию.
Проблема, у которой нет названия, пока она не нанесет ущерб
Большинство команд создают первую многоагентную систему одинаковым образом: они вкладывают усилия в промпт системы, включая четкие описания задач, правила форматирования вывода и несколько примеров, и тогда отдельный агент работает хорошо. Затем добавляют ещё три агента, и качество снижается: агент второй не знает, что решил агент первый, агент третий добавляет контекст, который агент второй никогда не создавал, и к четвертому этапу ответ предоставляется с полной уверенностью, но при этом совершенно неверным, поскольку до него не дошла никакая информация о том, что на самом деле произошло ранее.
Это похоже на передачу эстафетного штанги, при которой не говорят следующему участнику, где проходила гонка и в каком ряду ему бежать. Участник способен, проблема заключается именно в передаче.
Это также не просто проблема способностей модели. Исследование, опубликованное Chroma в июле 2025 года, проверило 18 больших языковых моделей, в том числе Claude 4, GPT-4.1 и Gemini 2.5, и выявило, что производительность снижается неравномерно по мере увеличения объема контекста, даже при крайне простых задачах по поиску информации. Обработка данных требует затрат. То, что попадает в поле зрения модели, и то, что остается снаружи, определяет почти всё, что будет получено в результате. Инжиниринг промптов никогда не решал эту проблему и не был создан для этого. Хорошо составленный системный промпт указывает, что нужно делать, в то время как инжиниринг контекста обеспечивает модели информацию, необходимую ей в данный момент для качественного выполнения задачи.
Что на самом деле представляет собой эта дисциплина
Четкое определение: разработка динамических систем, которые предоставляют модели правильную информацию в правильном формате в нужное время, чтобы у нее было все необходимое для следующего шага. Это работа над инфраструктурой, а не над лингвистикой. Цель не в более красивых предложениях, а в целенаправленном контроле над тем, что проходит через граф агентов при каждом переходе.
В проекте LangGraph наибольшее улучшение часто достигается благодаря TypedDict AgentState, а не какому-либо промпту. Перестаньте рассматривать состояние как временную записную книжку и рассматривайте его как контракт, в котором каждый узел указывает, что он считывает и за что отвечает в плане записи. Последующие агенты перестают выдумывать информацию, поскольку им больше не нужно догадываться о том, что произошло ранее. Все это содержится в состоянии, оно структурировано и доступно для извлечения.
В производственных условиях важны три уровня.
Постоянный контекст — это то, что агент должен всегда знать: цель пользователя, его ограничения, решения, принятые ранее в ходе сессии, а также правила домена. В медицинской системе это будет контекст пациента, нормативные ограничения и пороги риска, которые загружаются один раз при запуске системы и не удаляются никогда.
Контекст, зависящий от времени, — это то, что актуально в данный момент, но может измениться: полученные документы, результаты работы текущих инструментов, ответы API и результат последнего шага логических рассуждений. Здесь находится технология RAG как один из слоев более крупной архитектуры, а не полное решение. Получение информации — это простая часть; сложнее определить, какой из полученных материалов использовать дальше, в каком формате и в каком виде он должен быть представлен.
Временный контекст — это то, что необходимо текущему шагу, но не следующему: сырые данные API, подробные промежуточные рассуждения и логи вызовов инструментов. Необходимо активно избавляться от него, а не накапливать, поскольку каждый ненужный токен конкурирует за внимание с теми, что действительно важны.
Ошибки в продакшене обычно относятся к одной из трех категорий: никогда не предоставлялся постоянный слой, временослабый слой устаревал между шагами или временный слой не очищался, что мешало последующим рассуждениям.
Контекст в пайплайне LangGraph
Вот упрощённый способ структурирования состояния для многоподразделочного исследовательского пайплайна. Код имеет меньшее значение, чем дисциплина, лежащая в его основе.
from typing import TypedDict, Optional, List
from langgraph.graph import StateGraph
class ResearchAgentState(TypedDict):
# Persistent context — set once, never overwritten
user_goal: str
domain_constraints: List[str]
session_id: str
# Time-sensitive context — updated by retrieval/tool nodes
retrieved_docs: List[str]
current_findings: str
last_tool_result: Optional[str]
# Transient context — cleared after use
raw_api_payload: Optional[str] # cleared after parsing
intermediate_reasoning: Optional[str] # cleared after synthesis
Каждый узел получает этот состояние и обновляет только свой собственный определённый фрагмент, в то время как оркестратор на верхнем уровне решает, какие подагенты будут действовать и какой подмножество состояния они получат. Это и есть маршрутизация на основе контекста. Подагенту, занимающемуся программированием, не нужна медицинская литература, собранная специалистом в данной области, а суммаризатору — не нужен необработанный пакет данных от сборщика информации. Предоставление каждому агенту всего подробно — это как проведение брифинга для всей компании перед каждой встречей: технически полноценно, но с оперативной точки зрения катастрофично. Маршрутизация контекста в зависимости от роли сокращает использование токенов и, что более важно, уменьшает галлюцинации у специализированных агентов, которые больше не отвлекаются на нерелевантный материал, конкурирующий за ограниченное время обработки.
Протокол Model Context Protocol ускоряет работу с таким подходом. К концу 2025 года, по имеющимся данным, насчитывалось более 10 000 публичных серверов MCP — стандартного интерфейса, через который агенты могут запрашивать информацию из инструментов, баз данных и внешних систем в структурированном виде. С архитектурной точки зрения этот протокол перемещает источники контекста вне агента, позволяя ему получать только необходимые данные вместо того, чтобы получать всё заранее загруженное. Представьте библиотеку в сравнении с информационным документом: агент идёт к полке за конкретной книгой, а не носит с собой всю библиотеку.
Качество важнее объёма
Согласно опросу 2026 года, 82% руководителей в области ИТ и обработки данных согласны с тем, что одного только инжиниринга промптов уже недостаточно для использования ИИ в производственных целях, а 95% команд по обработке данных планировали в том же году инвестировать в возможности инжиниринга контекста. Однако большинство обсуждений сосредоточены на объёме: более большие окна для обработки данных, больше получаемых фрагментов информации, больше инструментов. На самом деле настоящим узким местом является качество.
Устаревший контекст хуже, чем его отсутствие. Агент, действующий уверенно на основе вчерашнего полученного документа, не зная о том, что он уже устарел, создает ошибки, которые выглядят как обоснованные решения. В конвейерах преобразования естественного языка в SQL частой причиной проблем является изменение схемы: генерируемый SQL корректен для схемы, которой уже не существует. Запрос был правильным, но контекст — неверным.
Неконтролируемый контекст также представляет собой проблему безопасности. Если агенты могут получить доступ ко всем данным в системе, включая информацию от других пользователей, результаты предыдущих сессий и конфиденциальные данные инструментов, утечка контекста может привести к инъекции запросов. Проектирование контекста с принципом минимальных привилегий является необходимостью, и учитывая, что, по данным отчетов, у 86% руководителей по информационной безопасности отсутствует политика контроля доступа агентов, именно управление контекстом может стать местом возникновения следующей волны инцидентов с ИИ в корпорациях.
Ограничения
Инженерия контекста не устраняет фундаментального ограничения по объему внимания. Результаты исследований Chroma показали, что надежность снижается по мере увеличения длины входных данных даже при хорошо структурированном контексте; следовательно, более качественный контекст обеспечивает более надежную работу системы, но не делает её полностью надежной без ограничений. Когда объем контекста действительно огромен, например, при работе автономных агентов в течение часов или синтезе информации из сотен документов, необходимо сочетать его с агрессивным резюмированием, иерархическим поиском и явным управлением памятью. Инженерия контекста определяет, что будет включено в рабочее окно, а архитектура памяти решает проблемы, возникающие, когда этого окна недостаточно.
Он также не может заменить процедуру оценки. Красиво структурированный конвейер, который постоянно возвращает неверные документы, неизбежно даст сбой, поэтому слою поиска, слою памяти и логике маршрутизации необходима собственная процедура оценки, отдельная от качества вывода. Он хорошо подходит для задач с четко определенными рамками и стабильными требованиями к контексту. Для агентов, занимающихся исследовательской деятельностью с открытыми целями, когда соответствующий контекст невозможно знать заранее, более подходит динамический поиск, который сообщает модели о неопределенности.
С чего начать
Откройте определение AgentState и задайте себе три вопроса: что каждый узел считает уже находящимся в состоянии? Что он на самом деле получает? Что удаляется до того, как это понадобится? Разница между предположениями и реальностью — вот в чем сейчас заключается проблема агента, и дело не в системном промпте.
Лучшим обновлением для уже работающей системы с несколькими агентами редко бывает использование более современной модели. Необходимо тщательно проверять содержимое системы на каждом этапе: удалять ненужные элементы и убедиться, что оставшееся содержимое актуально, хорошо структурировано и соответствует потребностям принимающего агента. Начните с одного узла, проанализируйте его входные данные — тогда надежность системы быстро начнет расти и улучшаться.
Связанные материалы
- Сравнение четырех паттернов многопроцессорных систем: субагенты, навыки, передача задач и маршрутизаторы: практическое сравнение четырех основных архитектур многопроцессорных систем, включая стоимость каждой из них, сферы применения и способы выбора подходящей без чрезмерной сложности.