Інжынірынг контэкста для агентаў, якія працуюць дзялейна: векторная база дадзеных, KV-кэш, Claude Code

Напісана вельмі багата літэратура працэю пра тое, што такое інжынірынг кантэксту. Значна меншая частка прыдзельна пытанню, з якім сталкаецца разрабоўчы на практыцы: як следуець спраектаваць канвей кантэксту для агента, які працуе 200 крокаў? Вікна па мільйон токэнаў здаецца ўжым, пры тым у даследжэнні Chroma 2025 года, якое абследавала 18 перэдаваючыхяя модэляў, было з’яўлена, што якосьць пачынае падупаць, калі вікно заповнюецца на 50–70 процэнтаў. Далей прыводзіцца план дзеяння ў такіх сітуацыях, спрамованы для тых, хто стварае агентыв для практычнага выкарыстання. У яму розглядаецца, чаму дугі кантэкст занікае, модэль памяці, запознаная з архітэктурой камп’ютараў, чатыры патэрны керавання кантэкстам, эканаміка KV-кэша, чым разлічаюцца тры вядомыя продукты, а таксама шлях прыняцтва рашэння з показнікамі.

Агент без дызайну памяці стражыць амнэзіяй

Уявіце агента, які правільна выканання крокаў 1 да 40. На 41-му кроцы ён, здаецца, забывае мету і пачынае павтараць раней зробленыя рашэнні. Гэта рэдкая логічная памылка. Гэта занепад кантэксту — віміроўваны спад якосці адпаведзей з адбыццём у дужыні вхідных дадзеных. Чым больш дадзеных отрымае мадэль, тым больш яе эфектыўнасць падваіцца.

Даныя доследжэння, праказаныя Zylos AI у 2026 годзе, паказваюць тое ж: падвоўкі трываласці задання, як сказваецца, у чатыро разы падваіць шансы на невыпанне, а агенты, за выглядам, паслабляюцься пасля прыблізна 35 хвілін выканання адпаведнага задання. У падчас згаданага вышэў доследжэння Chroma было выявлена, што кожны з 18 модэляў паслабляўся з адбыццём у кантэксце. Бенчмарк NoLiMa (ICML 2025) паказаў ўсё болей выражаныя наследкі: ўжэ пры 32K токенах 11 з 13 модэляў, як праказваецца, паднялі свою якосць ніжэй за палову базовага рэзультата, нават несучы адзвярнутыя характэрыстыкі 128K або больш, а GPT-4o падняў свой показнік з 99,3% да 69,7%.

Чаму ўбудована процэс разкладання

Механізм атэнцыі трансфармера парабягае кожны токен з кожным іншым токенам. Таму подвоўкі тэксту коштае прыблізна чатыры разы больш вычысленняў, а не два. Пры 200 тысячах токенав гэта станавіць адпаведна 40 мільярдаў пар атэнцыі на шар. Перадача всего ў кантэкст проста не падходзіць для агента, які працуе сотнямі крокаў.

Другі эфект — „загубленне ў серэдзіне“. Мадэлі найкрашча справляюцца з пачатком і канцам дзяўнага кантэксту, але тырадуюць у точнасці ў серэдзіне, таму важлівы факт, які там знаходзіцца, можа стаць практычна невідным. Курьёзна, але тэкст, які ёсць цялеспражым і добра арганізаваным, але несутэчны, болей пагражае точнасці, чым тыя ж рэчы, перакінутыя на абы-які лад. Семантычная супадзімасць усерэдзіні шуму ускладнюе пошук справжньяго сігналу.

Адказаныя размеры вікна таксама ўводзяць у глухы кут. Мадэль, якая можа прыjąць мільйон токенав, не забезпечвае мільйон токенав рэальнай прыемкі.

Трывога з прычыны кантэксту

Пользоватары заазначылі, а Anthropic паўзнаў, ўсё ж аднойшую особлівасць: Claude Sonnet 4.5 часта завершала задачы занадта рана, калі набліжалася до межы кантэксту. Гэта называецца трывогай з прычыны кантэксту. Мадэль паводзіцца так, нібы ёй заканчываецца RAM, і вяртаецца назад прытым, калі ўсе ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўсё ўс

У серэдзіне 2025 года Андрэй Карпаты падтрымаў «інжынерыю кантэксту» працоўнае над «інжынерыяю запросаў», апісаўшы яе як тонкую мастацтво і науку заполнення вікна самэй правяпадной інформацыяй для наступнага крока. Ён не ствараў новага тэрміна — ён адзначаў змяну падходу: LLM ёсць CPU, вікно кантэксту — RAM, а інжынер, які стварае агента, выпольвае ролю операцыйной сістэмы.

Гэтае аналагія досыць прыродна пераходзіць у практыку. Компактаванне адпоўнайа працэсу збіркі сметаны, введэнне стану — працэсу запуску, падагенты — ізоляцыі процэсаў, а файлы на кшталт CLAUDE.md — канфігурацыя, якая завантажаецца пад час запуску. Зменяецца толькі акцэнт: менш увагі стаўляецца на тое, як сформулюваны запрос, а больш — на тое, што завантажаецца ў памяць і калі.

Іерархія памяці для агентаў

У агента таксанахія такая ж самая, як і у камп’ютара, і кожны ўровень праграмавае швальнасць проты ўместнасці:

• Памяць працы ў кантэксце. Няма дадатковага затрымлення, 200 К да 1 М токенаў. Яна падобная да рэгістраў і кэша L1: найшвальнейшая, найдорожэйшая і найбольш абмежаная.
• Кэш KV. Менейша затрымлення — 10 мс. Падобны кэшу L2 або L3, ён зберагае матрыцы увагі, якія былі прадзеяны для ранейшых токенаў, і застаецца між запытамі.
• База дадзеных вектароў або семантычны пошук. Прыблізна 5 да 50 мс і мільйоны ентры, адпаведнік RAM. Указаныя цыфры включаюць апошнё 0,34 мс за запыт для FAISS, які працуе локальна, і 7 мс p99 для Pinecone.
• Файлавая сістэма або ноты. Больш 100 мс, без рэальнага ліміту ўместнасці, як у дыску.
• Архівацыйны сховішча. Часы на чытанне, падобныя да сховішча ў сеткі або для рэзервнай копіі.

Кожна рашынка працэю пра тое, дзе будзе знаходзіцца фрагмент інфармацыі, — гэта баланс между косцю, часам адпаведзьбы і ўместнасцю. Якшто выбраць неправільны слой, рэзультатам можа стаць вялікі рахунок або агент, які забывае. Работа MemGPT з 2023 года, шырока апрацоўваная, сформалізавала гэю ідэю пад назвай «віртуальна адарба кантэксту», створаную на адлікі таго, як операцыйныя сістэмы керуюць памяцю розных рангаў. Гэта падход продаўжваецца і сёньдзе ў вачынку фрэймворку Letta.

Якшо кантэкст — гэта RAM агента, якія шаблоны яго керуюць у рэальной сістэме, і як яны взаімаўзаеся?

Чатыры шаблоны: запіс, выбіранне, стысненне, ізоляцыя

Інжынерыя кантэксту апыраецца на чатыры базовыя шаблоны. Яны не ўсё тое, чым можна выбіраць. Яны ўзаімадопамагаючыя слоі ў аднам комплексным дызайне, і кожны прыменны агент у канцы канцоў выкарыстоўвае ўсе чатыры.

Запіс: размішчанне стану за межамі вікна

Запісвы значаць экстэрналізацію стану. Агент зберагае нотаткі ў файле, такім як todo.md, NOTES.md або progress.md, і чытае іх знову на пазнейшых этапах. Manus відомы сваёй „дэкламацыяй спісу задач“: агент постаўляе перапісваць свой спіс задач адразу ў канцы кантэксту, ўсунуўшы такім чынам увагу мадэлі на загальны план. Гэта ўсвядомленая кераванне увагай, якае запобегае ефекту загублення інформацыі на серэдзінні працэсу.

У эксперыменце з гройчым Pokémon Claude Opus 4, як ствараецца, зберагаў точныя нотаткі пра тыясячы хадоў у грэ, включаючы рангі персонажаў, карты і стратэгіі, без якіх-лібо прымітных інструкцый пра тое, як структураваць свою памяць.

Выбір: запрашаць толькі тады, калі трэба

Выбір такога падходу означае запошук кантэксту тады, калі ён неабяжны, а не яго прадзейсвенна загрузка. CLAUDE.md функцыонуе як статычны элемент прадзейсвеннай загрузкі, падобна да документа з інструкціямі, які даюць новым працавальнікам у першы ж дзень. Пасля чаго агент дакледзе кодавую базу за дапамою інструментаў grep і glob і запошукае толькі тое, што неабяжна для тэкушчага крока.

Як паведамляецца, Claude Code пробаваў вектарныя базы дадзеных, але адмовіўся ад іх вжыцця, таму што код выходзіць за межы сінхронізаціі, а правы прызначэння становяцца складнымі. Cursor выбраў іншы падход і паспеліў на дынамічны пошук за дапамою семантычнага індэксавання. Як паведамляецца, тамтэйскі тэст тыпу A/B паказаў 46,9% змену колькасці токенав, калі агент загружаў інструменты MCP за патрэбай.

Компрэсаванне: зменшэнне об’ёму

Компрэсаванне означае зменшэння об’ёму за дапамою стварэння апісу чы скасавання часткі даных. Працэс компактавання прабоўвае прабачыць LLM стварыць апіс паўтароўных кантактаванняў, чым звалічвае прастор для новых дадзеных, але заўсёды залішае тое, што мае значэнне.

Паведамляець Claude Code, як сказвацца, паведамляе пра падышак ў 80% магчымай капацітэту і автаматычна выконвае складчаўкаванне пад час досягнення 95%, захоўваючы архітэктурныя рашэнні. Занадта агрэсіўнае складчаўкаванне выкарыстоўвае тонкі, але важлівы кантэкст, і агент пачынае зноў аналізаваць тое, што ўжо було пераглянута. У практыцы коефіціент сціскання 3–6 разоў выглядае як оптымальны показнік для працы ў прымэтных умовах. Акадэмічныя тэсты паказваюць набліжна вышэйшыя показнікі (LLMLingua наводзіць 20 разоў з аднаковым падышкам у 1,5 пунктавых едыніц у GSM8K), але для прымэтнай працы патрэбна вышэйшая точнасць.

Ізолювацыя: раздзелэнне за дапамогою падагентаў

Ізоляцыя означае раздзелэнне кантэкстаў. Спецыялізаваны дзеціны агент працуе у сваёй сабе кантэкстной вікні і падае сконцэнтраваны рэзультат назад своему абяцелю. Ён можа аналізаваць 10 тысяч токэнаў або больш і вяртаць толькі стык з 1 тысячай да 2 тысяч, што значна менш, чым могла бы накапліцца у спільным кантэксце. Manus выкарыстоўвае прынцып, запознаны з мовы Go: не кантактавацца па мэркі раздзелення памяці, а раздзелваць памяць па мэркі кантакту.

Ключова не тая задача, кой шаблон выбраць, а як іх складаць і калі кожны з іх павінен працаваць. Напісанне плюс выбіранне — гэта першая лінія захавання, а стыкаванне плюс ізоляцыя — гэта спосаб, якім сістэма расце.

Адна з частак кантролю кантэкста мае вялікі адзінаковы эфект на вартасцы вырабніцтва і часта ігнаруецца пад час праектавання.

Што ўважаецца важлівым — штоўкісць KV-кэша

KV cache зберагае матрыцы аддыянсу, якія ўжо былі вычыслены для паканякшых токэнаў, таму модэлю не трэба ўскладнаваць іх вычысленне для кожнага новага токэна. Можна прыроўнаць гэта да базы дадзенаў, якая загадзя вычысляе спраўы для часта выкарыстоўваных прыметак запытанняў. У адной з мераванняў GPT-2 вычысленне 200 токэнаў займала 11,9 секунды з кэшам і 56,2 секунды без яго, што дае прыблізна 4,7 раза большую швальнасць.

Чаму гэта змінюе эканаміку агентаў

Тыповы прылад для працы мае спявазанне „вхід/выхід“ адпоўна 100 да 1, у працоўнасці з чатботамі гэта спявазанне становіць адпоўна 1 да 1. Перычысленне всіх вхідных дадзенаў, т.зв. прадзейнаванне, домінуе ў кожным вызыве. Prompt caching — гэта механізм з боку прадаўця, які зберагае вычысленыя токэны для ідэнтычных прыметак між запытамі, і ўнаследке чытанне дадзенаў стае прыблізна у дзесяць разоў дэшэўшым. Для Claude Sonnet ціны складаюць $0,30 за мільйон токэнаў у кэшы проты $3,00 без кэшу.

Такім чынам, перацэшчыкае кантэкстовыя дыяграмы ў адпаведнасці з KV-кэшам можа рэальна зменшыць месячныя расходы на API з $8,000 да $800, што падтрымліваецца дзесяцікратным зніжкам за кэшаванне ад Anthropic. Ічао „Пік“ Джы, аднадзеўальнік Manus, сказаў, што для агента, які працуе ў працэсе, нічога не ўзьме на сябе такое значэнне, як частота запуску KV-кэша.

Тры правілы для падтрымкі кэша

• Стабільны прыфікс. Разлік у аднам токене значыць неудачны запуск кэша. Адна з памылак, на якія зважае Manus, — гэта размешчэнне часовага пазначэння ў верхней частыі сістэмнага запіту: гэта дазволяе модэлю ведаць час і руйнуе коефіцыент успеху запуску кэша.
• Кантэкст толькі для дадавання. Толькі дадавайце матэрыялы да кантэкста, ніколі не правярайце яго пасля таго, як ён створыўся. Історыя застаецца незменнаю, таму што будзь-яя змена ведае да неудачнага запуску кэша. Серыялізацыя ў фармаце JSON таксама павінна быць дэтэрміністычной, адтолькі як парадак ключоў мае значэнне.

Чысткія пункты абрання кэшу. Адзначаюцься пункты ў кантэксце, якія паведамляюць прадаўцу, дзе трэба зберагаць прыметнік у кэшы.

Есць такса, якая іноды называецца "Падаткам MCP". Падазроўваючы, што 10–15 інструментаў кожны несе 10K–15K токенаў вялічын. Гэта 100K–225K токенаў додатковых вітрачэнняяў прычынай таго, што корыстнік яшчо нічога не запісаў. Для 1 000 распрацоўшчыкаў, якія веду пяць сесый на дзень, аблікованыя прамысловыя падрахункі паказваюць, што толькі на вялічыні вялічын інструментаў годзіна за годзінай выкладаецца апошнія 1,2 мільйона долераў. Раўекам — поступовая адкрыць: завантажваць інструменты толькі тады, калі гэта неабходна, а не ўсе адразу.

Рэшты кэшу і чатыры шаблоны — гэта тэорыя. Какія яны выглядаюць у сістэмах, якія ужо сталкнуліся з гэтым проблемам у працэсе выканання?

Claude Code і ўсё ў тым жа родзе, тры філасофіі

Claude Code, Cursor і Manus даюць тры супараднія, але разныя адпаведзенні на тую ж проблему. Кожна з іх вынікае з савой кантэкстной сітуаціі, а не з незнаёмства альтэрнатыў.

Claude Code: статычная падготовка плюс чытанне у момент патрэбы

Claude Code, які належыць кампаніі Anthropic, на пачатку сесіі завантажае файл CLAUDE.md як документ для адкультурацыі, а пасля навігуець па кодавой базе за дапамою інструментаў glob і grep, без векторнай базы дадзеных. Ён автаматычна стыскае даныя прыблізна на 95% і захоўвае архітэктурныя рашэнні. Спалучэнне інструмента для працы з памяцюю і рэдагавання кантэксту, як сообшчаюць, дала 39% павышэння эфектыўнасці па адносу да базовага варыянта.

У версіі Sonnet 4.5 была проблема з кантэкстам, якая вымагала зановыя настройкі зовнішньага кантэкста для модэлю. Кампанія Anthropic, як сообшчаюць, рашыла гэту проблему у новыя версіі модэлю, не змінюючы архітэктуру інструмента.

Cursor: два рэвэру і дынамічнае адкрыцце

Cursor (створаны Anysphere) раздзеляе „кантэкст намерэння“, тыямо, што запытаеся корыстнік, ад „кантэкста стану“, тыямо, рэальныя даны пра файлы, змяны і памылкі. За замовчаннем ён чытае толькі першыя 250 ліній будзь-яга файла — гэта свядомы выбор, які дапамагае заўсёды захаваць токены і скасаваць зусібныя вітраты.

Значныя змяны адбыліся у стылі 2026 года. Cursor заявіў, што чым лепей стаюць мадэлі як агенты, тым лепшая працюе падход, калі спачатку даёцца менш дакладнае інфармацыі, а сам агент знаходзіць неабходны кантэкст. Раней згаданы тэст A/B паказаў 46,9% змену колькасці токанаў у пораўнанні з завантажэнням за запітам.

Manus: спуск па градыянту праз пробы і памылкі

Manus свой падчынны метод апісвае як „стохастыя спусканні градыента“, пры чым файлавая сістэма выступае як вышэйшы кантэкст. Паведамляецца, ў марце 2025 года ўсё ўжо пяць разоў перабудавалі ўсю структуру ціяго фрэймворку. Аптак: канструюванне кантэкста выявілася зовсім не простым задачам і ёсць эксперыментальной наукою.

Командзе прызначаецца шасць прынцыпаў:

• Спачатку ставіць KV-кэш.
• Вярнуць інструменты, а не адмахнуцца ад іх, каб захаваць кэш.
• Расследжваць файлавую сістэму як необмежаную зовнішню памяць.
• Перэчытаць спіс задач, каб скераваць увагу на загальны план.
• Захаваць адказы на проблемы ў кантэксце, адтак як ўдаленне адказу на проблему усувае доказы.
• Змінюваць шаблоны серыялізацыі, каб ухіліцца ад прыгону з малым колікствам прыкладаў.

Што дае гэтае паўстанавленне

Няма адной філасофіі, якая бы была правай. Claude Code адаптаваны для дзейнаў працы над кодам дліга часу, калі патрэбна стабільнасць. Cursor прызначаны для кораткіх, асіставаных сесій, якія дынамічна рэагуюць на кантэкст рэдагара. Manus створаны для абсалютна автонамных веб-агентаў, якія выкананяюць 50 і больш вызоў да інструментаў за адну задачу. Пяць перабудоў у Manus паказвае простую рэч: інжынерыя кантэкста — гэта эмпірычная дысцыпліна, а не шаблон, які ствараецца раз і відправляецца ў працэз. Кожная прыменныя сістэма будзе праходзіць свае сабеіндывыя ітэрацыі.

Лёгка прыйміць, што падвышэнне колькасці токенав рашыць проблэму, адколі мільйон токенав должны быць достатнім. Даныя NoLiMa і Chroma быстра спроставляюць гэтыя прыпускі. Claude 4 Sonnet паказвае значна лепшую стойкасць да занэхання кантэкста, чым старэйшыя модэлі, але гэта ўзьязец, які падтверджае правілу, а не доказ таго, што проблэма знікла.

Этыя сістэмы і шаблоны пакрываюць тое, што ўзьімаеся за основу. Што застаецца — гэта ператворыць іх у конкрэтныя выборы дызайну для паведамленага агента і выявіць, чыі кантэкстны дызайн выпаловае свою ролю.

План: што вікорыстоўваць і што мерыць

Статыя з марца 2026 года пра корпаратыўную архітэктуру з калькольнікамі (arXiv:2603.09619, пра пераход з прапанаў да інжынерыі кантэксту) прыводзіць пяць крэатарыў качэння кантэксту і адносіць кантэкст да аператыўной сістэмы агента:

• Адноснае значэнне. Чы ўцямленнія актуальныя для тэперышняе ўзьяце рашэння? Неактуальны кантэкст прыносіць толькі шкоду.
• Дастатковасць. Чы агент мае ўсё, што яму трэба, без неабходнасці здагадвацца?
• Ізоляцыя. Чы кантэксты агентаў належна аддзелены, так што даныя агента А ніколі не прасачуцца да агента B?
• Эканомія. Чырвоны кантэкст — гэта максымальна колькасць токэнаў з высокім сігналам? Кожны непатрэбны токэн спрацоўвае на змену бюджэту увагі.
• Паходжанне. Чы можна выявіць, звядзе кожны элемент кантэксту? Гэта важна для дыбаггінгу.

Шлях прыняцтва рашэння

Для короткага заведамення, якое складаецца з апошніх 20 крокаў і не мае далекасхідных залежнасцей, дастатнек адкрываючага вікна. Зберагаюцься апошнія N раундаваў плюс інструкцыі сістэмы. Не ёсць дапаможных расходаў, а рэалізацыя — самая простая.

Для дзейнаўскага заведамення, дзе рашэнне на 5-м кроцы вплывае на 50-й крок, выкорыстоўваецца складчаўванне, якое зберагае архітэктурныя рашэнні. Паведамляецца пра парадку 80% запоўнення, а автаматычна складчаўваецца на 95%.

Для незалежных падзаданняў, які выкарыстоўваюць больш чым 10 інструментаў належыць вжываць пад-агентаў, якія вяртаюць апускі длягучасцю 1K–2K токенаў, пры чым кожны з іх працуе ў окрэмым вікні.

Для велікай колькасці інструментаў, але кораткіх сесій належыць завантажваць інструменты толькі тады, калі яны запатрэбны, а не завантажваць усё загадзя. Поступовая адкрыць інформацыі памагае усунуць проблемы, зв’язаныя з MCP.

Што трэба аналізаваць

Без гэтых показнікаў архітэктура кантэксту не мае можлівасці аналізу:

• Шчыльнасць росту токенаў. Стабільны монотонны рост азначае, што стратэгія складчання інформацыі не выкорыстоўваецца. Шаблон падыходжання, перзапуску і знову падыходжання азначае, што стратэгія складчання працюе.
• Шчыльнасць запам’ятоввання KV-даных. Значэння ніжэй 50% указвае на тое, што ў прымусовым паведамленні сістэмы постаўляюцься змены. Спачатку пераканайцеся ў часовых метках і іншых дынамічных элементах.
• 35-хвіліндзевая гіюрыстыка. Агенты, здаецца, паслабляюцца пасля прыблізна 35 хвілін у выкананні адпаведнага заведамства, таму планаваць пункты контролю трэба з гэтым у выце.
• Амнэзія пасля кампактавання. Калі агент знова дакледзе тэрыторыю, яку ён вялікі час вучыў, значыць кампактаванне, верагатэльна, занадта агрэсыўнае.

Для тых, хто праектуе такія сістэмы, выдзеляецца адна прасоць: не існуе стандартнага показніка для інфармацыі, якая губіцца пад час кампактавання. Адхілена пазірае пазней, а не ў момант кампактавання. Найкрашчы час для кампактавання застаецца нерашанай прасою, таму што занадта раннія дзеянне марнуе час, а занадта пазняя прыводзіць да паслаблення.

SWE-ContextBench (arXiv:2602.08316) падтрымлівае гэта, выявіўшы, што нефільтраваны або паслаба падобраны досвід дае мерыяльную або нават негатыўную парадку. Больш кантэкста не завжды значыць лепш, а паслабы кантэкст актыўна шкодзіць.

Правілы інжынерыі кантэкста для агентаў, якія працуюць дзяўна

Праектаванне каналу обработкі паданнях ў кантэксце — гэта адна запытка, а не тая, якая стосуецца таго, што такое інжыніерыя кантэкста, і з гэтага вывыходзяе кальколька заключэнняў.

• Занэхтаўванне кантэкста — гэта фізычная характэрыстыка трансфармэроў. Лепшы мадэль гэта не вылечыць; гэта керуецца архітэктураю памяці.
• Мадэль — гэта CPU, кантэкст — гэта RAM, а інжыніерыя кантэкста — гэта аператыўная сістэма агента, якая пераносіць дыскусію з лінгвістыкі ў інжыніерыю сістэм.
• Запіс, выбіранне, стысненне і ізоляцыя — гэта взаімадопамагаючыя элементы, а не альтэрнатывы, і кожны прыменны агент выкарыстоўвае ўсе чатыро.
• Рэйтынг успехоў у KV-кэшы — гэта показнік, на які трэба зважаць, а адна некальканастаўшая пазначка часу ў запытцы сістэмы можа прынясіць дзесяткі тысяч долераў да месячнага счыту.
• Не існуе аднай правільнай філасофіі, як паказваюць Claude Code, Cursor і Manus.
• Хорашая праця над кантэкстам значыць наявнасць пяці крэтэраў якасці плюс вімеры, якія можна вылічыць, а не толькі інтуіцыі.

Практычны першы крок — прабавіць знайсці месца для кантэксту пад час наступнага адгукнення ўдоўж дызайну агента: дзе зберагаецца стан, як керуецца кэшам KV, які ёсць порог складзення даных, і якія падзадачы пераказваюцца падагентам. Гэта не проста налагоджэння працэздатнасці. Гэта аднакова заслупа для сістэмы, якая працуе эфектыва.

Супаўзвязаныя матэрыялы

• Як запобiec бесканцавым цыклам агентаў AI: чатыры правілы для прыменення ў практыцы: обмежыць колькісць роўнаў, токенав і часу, пераканацца ў досягненні целей за дапамогою рэальных тэстаў, вікорыстоўваць інструменты хэшавання для выяўлення цыклів, і безпечна адкруціць працэс, калі автонамны агент застрагне.
• Практычныя прытамакі: як застацца на месцы водзіцеля, калі агенты AI перэймаюць кодаванне: Дэталізаваныя інструкцыі па вікорыстоўванні Практычных прытамакоў: як застацца на месцы водзіцеля, калі агенты AI перэймаюць кодаванне: контракты, перакананні і шаблоны коду для команд, якія вікорыстоўваюць гэты падход.
• Дыбаггін сістэмы RAG: Recall@K, BM25, гібрыдна фюзія і перэранківанне: Невялікі эксперымент з парадкам RAG, які пасунуў праві фрагмент на чэтвёртае месца, паказваючы, як фрагментаванне, BM25, фюзія рангаў і перэранківанне вплываюць на показнік Recall@3 і MRR.
• Deep Agents на LangChain: планаванне, падагенты і банкавы шлюз: як deepagents дадаюць можлівасць планаванню, файловай сістэме і падагентам у рамках інструментальнага цыклу, чым яны адрозніцца ад ReAct, і як раздзеліць інструменты між доменнымі агентамі за дапамою шлюза.
• Дзевяць інжынерных прыемаў для стварэння вашага першага AI агента: дзевяць прыемаў, якія запобегаюць неудачам агентаў у практычным выкарыстоўванні: спачатку ацэнка, ліміты кантэксту, обмежэнні автонаміі, трэйсінг, версіяванне запросаў, ацэнка костоў і сортаванне неудач.
• Інжыніерыя кантэкста для агентаў кодавання AI: Чаму большыя „вікна“ не дапамагаюць: Чаму „вікно“ з мільйонам токенаў не рашая проблемы агентаў кодавання, і як бюджэты токенаў, графы рэпазітарыяў і шаравая памяць даўаюць ім правільны кантэкст уместа большай колькасці інфармацыі.