Головна / Статті

Інженерія запитів недостатня: інженерія контексту для систем з кількома агентами

Системи з кількома агентами рідко зазнають невдач у межах одного кроку. Вони зазнають невдач між кроками, коли надходить неправильний контекст. Як проектувати стани та передачу обов’язків у LangGraph.

Видавець: REACTAPP.TOP7 хв читання1548 слів

Джерела: Prompt Engineering Is Dead for AI Agents — Here Is What Actually Works — Context Engineering

Термін «інженерія контексту» визначається як мистецтво заповнення вікна контексту саме тією інформацією, яка потрібна для наступного кроку. Для тих, хто бачив, як багатоагентні системи зламуються у реальних умовах, цей термін описує те, що раніше не мало назви.

Типова картина збою однакова скрізь: запити готові, моделі здатні до роботи, а логіка видається чіткою у ноутбуці. Однак система зламується у реальних умовах, причому не під час окремих кроків, а між ними. Уявіть агента для стиснення медичної інформації, який отримує саме потрібні документи, а потім у графіку йде агент, який отримує спрощений об’єкт стану та вигадує історію хвороби пацієнта, яка знаходилась на три вузли вище. Модель не зламалася — зламався процес передачі контексту. Тижні на налаштування системи та запитів не допоможуть у тому, що ніколи не було проблемою запитів.

Простіше кажучи, інженерія запитів налаштовує сам запит, а інженерія контексту — умови, за яких він отримує відповідь. Агенти здебільшого не зазнають невдач на окремих етапах; вони зазнають невдач між ними, тому що кожен етап містить неправильну інформацію.

Проблема, яка не має назви, поки не завдасть шкоди

Більшість команд створюють першу багатоагентну систему однаковим чином. Вони вкладають зусилля у формулювання запиту до системи, надаючи чіткі описи завдань, правила форматування результатів та кілька прикладів, і тоді окремий агент працює добре. Потім додають ще трьох агентів, і якість падає. Агент другий не має уявлення про те, що вирішив агент перший, агент третій додає контекст, якого агент другий ніколи не створював, і до четвертого етапу відповідь надається з повною впевненістю, але вона абсолютно неправильна, оскільки він не отримав жодної інформації про те, що насправді відбулося на попередніх етапах.

Це схоже на передачу естафетної палички, не повідомивши наступному бігунові, де відбувся старт чи в якій смузі йому бігти. Бігун здатний до цього, проблема полягає у самій передачі.

Це також не просто проблема можливостей моделі. Дослідження від Chroma, опубліковане у липні 2025 року, протестувало 18 LLM, серед них Claude 4, GPT-4.1 та Gemini 2.5, і виявило, що продуктивність погіршується нерівномірно зі збільшенням обсягу контексту, навіть під час надзвичайно простих завдань на пошук інформації. Увага має свою ціну. Те, що потрапляє до „вікна“ уваги, та те, що залишається поза ним, впливає майже на все, що повертається. Інженерія запитів ніколи не стикалася з цим та не була створена для цього. Добре складений системний запит вказує, що потрібно робити, тоді як інженерія контексту забезпечує ту інформацію, яка потрібна моделі у цю мить, щоб виконати завдання належним чином.

Що насправді є цією дисципліною

Чітке визначення: це проектування динамічних систем, які надають моделі правильну інформацію у правильному форматі та у правильний час, щоб вона мала все необхідне для наступного кроку. Це робота з інфраструктурою, а не з мовою. Метою є не створення красивіших речень, а свідомий контроль над тим, що проходить через граф агентів під час кожної транзиції.

У проекті LangGraph найбільше покращення часто досягається завдяки TypedDict AgentState, а не будь-якому запиту. Перестаньте розглядати стан як тимчасовий носій даних, а сприймайте його як контракт, у якому кожен вузол оголошує, що він читає та за що відповідає у записуванні. Агенти на наступних етапах більше не створюють хибних даних, оскільки більше не здогадуються про те, що відбулося раніше. Усе це знаходиться у стані — структуровано та доступно для отримання.

У продакшені важливі три шари.

Постійний контекст — це те, що агент має завжди знати: мету користувача, його обмеження, рішення, прийняті раніше під час сесії, та правила домену. У медичній системі це буде контекст пацієнта, регуляторні обмеження та пороги ризику, які вводяться один раз під час запуску системи та не видаляються ніколи.

Контекст, чутливий до часу, — це те, що є актуальним зараз, але може змінитися: отримані документи, результати роботи поточних інструментів, відповіді API та результат останнього кроку міркувань. Саме сюди належить технологія RAG як один із елементів більшої архітектури, а не як повна відповідь. Отримання інформації — це проста частина; складнішим є вирішення, який з отриманих матеріалів використати далі, у якій формі та яким чином його стиснути.

Тимчасовий контекст — це те, що потрібне поточному кроку, але не наступному: необроблені дані API, детальні проміжні міркування та журнали викликів інструментів. Його слід активно видаляти, а не накопичувати, адже кожен зайвий токен конкурує за увагу з тими, що є справді важливими.

Баги в продакшні зазвичай належать до однієї з трьох категорій: постійний шар так і не був наданий, шар, чутливий до часу, втрачає актуальність між кроками, або тимчасовий шар не було очищено, що ускладнює подальші міркування.

Контекст у пайплайні LangGraph

Ось спрощений спосіб структурування стану для багатоагентного дослідницького пайплайну. Код має менше значення, ніж дисципліна, яка стоїть за ним.

from typing import TypedDict, Optional, List
from langgraph.graph import StateGraph

class ResearchAgentState(TypedDict):
    # Persistent context — set once, never overwritten
    user_goal: str
    domain_constraints: List[str]
    session_id: str

    # Time-sensitive context — updated by retrieval/tool nodes
    retrieved_docs: List[str]
    current_findings: str
    last_tool_result: Optional[str]

    # Transient context — cleared after use
    raw_api_payload: Optional[str]   # cleared after parsing
    intermediate_reasoning: Optional[str]  # cleared after synthesis

Кожен вузол отримує цей стан та оновлює лише свою власну частину даних, тоді як оркестратор на верхньому рівні вирішує, які підагенти мають діяти та яку підмножину стану вони отримуватимуть. Це і є маршрутизація за контекстом. Підагент, який займається програмуванням, не потребує медичної літератури, отриманої спеціалістом у певній галузі, а підагент-підсумовувач не потребує необроблених даних від збирача інформації. Надання кожному агенту всього подібне до того, якби перед кожною зустріччю інформували всю компанію: технічно це можливо, але з оперативної точки зору це катастрофічно. Маршрутизація контексту за ролями зменшує використання ресурсів та, що ще важливіше, знижує ризик галюцинацій у спеціалізованих агентах, які більше не відволікаються на нерелевантну інформацію, що конкурує за обмежений час обробки даних.

Протокол Model Context Protocol прискорює роботу з цим підходом. Станом на кінець 2025 року, за даними звітів, існувало понад 10 000 публічних серверів MCP — стандартного інтерфейсу, через який агенти можуть запитувати інструменти, бази даних та зовнішні системи у структурованому форматі. З архітектурної точки зору цей протокол переміщує джерела контексту за межі агента, щоб той міг отримувати лише необхідну інформацію, а не все, що завантажено заздалегідь. Уявіть бібліотеку порівняно з інформаційним документом: агент йде на полицю за конкретною книгою та не носить із собою всю бібліотеку.

Якість важливіша за обсяг

Згідно з опитуванням 2026 року, 82% керівників у сфері ІТ та обробки даних погоджуються, що лише інженерія запитів більше не достатня для використання штучного інтелекту в промислових умовах, а 95% команд з обробки даних планують у той рік інвестувати у можливості інженерії контексту. Проте більшість дискусій зосереджені на обсязі: більші проміжки часу, більше отримуваних даних, більше інструментів. Насправді ж справжньою перешкодою є якість.

Застарілий контекст гірший, ніж його відсутність. Агент, який діє впевнено на основі вчорашнього отриманого документа, не усвідомлюючи, що він вже застарів, створює помилки, які виглядають як правильні міркування. У конвеєрах перетворення природної мови на SQL частою причиною проблем є зміна схеми: генерований SQL є коректним для схеми, якої більше не існує. Запит був правильним, але контекст — неправильним.

Неконтрольований контекст також є проблемою безпеки. Якщо агенти можуть отримати доступ до всього у системі, включаючи дані інших користувачів, результати попередніх сеансів та конфіденційну інформацію від інструментів, витік контексту — це лише крок до втручання з боку зловмисників. Проєктування контексту з принципом мінімальних привілеїв є необхідністю, а оскільки, за даними, 86% керівників з питань безпеки не мають політики щодо контролю доступу агентів, саме у сфері управління контекстом, ймовірно, почнеться наступна хвиля інцидентів з використанням корпоративних ШІ.

Обмеження

Інженерія контексту не усуває фундаментальний ліміт уваги. Результати досліджень Chroma показали, що надійність знижується зі збільшенням довжини вхідних даних, навіть коли контекст добре структурований; тому кращий контекст забезпечує більш надійну роботу, але не необмежену надійність. Коли контекст справді величезний, наприклад у автономних агентах, які працюють годинами, або під час синтезу з сотень документів, його потрібно поєднувати з агресивним узагальненням, ієрархічним пошуком та чітким керуванням пам’яттю. Інженерія контексту визначає, що потрапляє у вікно, а архітектура пам’яті вирішує проблеми, що виникають, коли вікна недостатньо.

Воно також не може замінити процес оцінки. Чудово структурований конвеєр, який постійно отримує неправильні документи, неодмінно зазнає невдачі, тому шар отримання даних, шар пам’яті та логіка маршрутизації кожен потребує власної оцінки, окремої від якості результату. Він підходить для завдань з чітко визначеними обмеженнями та стабільними вимогами до контексту. Для агентів з відкритим форматом, де релевантний контекст не може бути відомий заздалегідь, краще підходить динамічне отримання даних, яке сигналізує моделі про невизначеність.

З чого почати

Відкрийте визначення AgentState та поставте собі три запитання. Що кожен вузол вважає вже наявним у стані? Що він насправді отримує? Що видаляється до того, як це стане потрібним? Саме розбіжність між припущеннями та реальністю є причиною невдач агента, і це не пов’язано з системним запитом.

Найкращим оновленням для вже існуючої багатоагентної системи рідко є новіша модель. Це аудит того, що міститься у системі на кожному кроці: потрібно видалити непотрібні елементи та переконатися, що те, що залишилося, є актуальним, добре структурованим та відповідає потребам агента-отримувача. Почніть з одного вузла, пройдіть аудит його вхідних даних, і надійність почне швидко зростати та посилюватися.

Пов’язана література

  • Принципи проектування робочих процесів агентів для команд з інженерії виробництва: Принципи проектування робочих процесів агентів у виробництві: контракти завершення, чесний стан, зведення схвалень, ідемпотентні зовнішні дії, відстеження, оцінки та маніфести випуску.
  • Інженерія запитів для DevOps: чек-лист C.L.E.A.R. та бібліотека запитів: Практична інженерія запитів для DevOps: п’ятиетапний чек-лист, приклади до та після застосування для Terraform, Kubernetes та CI, а також поради щодо створення бібліотеки запитів, яку можна повторно використовувати.
  • Десять помилок у інженерії запитів, яких припускаються розробники, та способи їх виправлення: Десять поширених помилок у формулюванні запитів — від нечітких вимог та відсутності контексту до сліпої довіри до результату; кожна з них супроводжується конкретним прикладом запиту до та після виправлень, який можна використовувати знову.