Інжынерыя абвязкі: асяроддзе, якое робіць AI-агентаў надзейнымі

Калі даць талановітамі інжынерам задачу без інструментоў, без дакументацыі, без пераканальных мераў і без можлівасці пераканацца ў выніку, рэзультат будзе непераканальны. Неапранутая большая мовная мадэль, якая выкорыстоўваецца як агент, знаходзіцца самэлькі ў такой сітуацыі. Інжынерыя прыменення — галіна, якая гэта рашае: яна займаецца дызайнам усіяго сераўісу, у якім працюе агент, укладаючы ў сябе інструменты, памяць, захоўнія мераў, ціклы зворачнай свярзкі і сандбоксы для выканання.

Формула працы выглядае так: Агент = Мадэль + Конструкцыя. Мадэль забезпечвае логічныя выводы і рашэнні. Усе іншае ўскладнюецца канструкцыяй: спосабом падключэння інструментаў, памяцю, сэндбоксамі, захоўнікамі, куратурам кантэкста, каркасамі планавання і цікламі зворотнай свярзкі, якія робяць агента прыдатным і безпечным для выкарыстоўвання. Databricks выражае гэта так: без канструкцыі мадэль можа адпавядаць на запытанні, але не можа надзеязліва запускаць код, вызываць API, адчыняць файлы, памяцаць пярэднія дзеянні чы сама завершаць багатыяэтапныя працэсы.

Гэя ідэя паказвае трэці крок у развіцці. Інжынерыя запытанняў спрашвала, што сказаць. Інжынерыя кантэкста спрашвала, якую інфармацыю падаць. Інжынерыя канструкцыі спрашвала, якую сістэму стварыць.

Шасць складоў канструкцыі

Аналізы з галузі зводзяцца прыбліжна да следуючых частак:

1. Інтэграцыя з інструментамі, якая за дапамою заданых пратакоў з’ѐднвае мадэль з зовнішнімі API, базамі дадзеных, запускачамі коду і спецыяльнымі інструментамі.
2. Памяць і стан, якія падзеленыя на рабочы кантэкст, стан сесіі і давялікую памяць, і якія застаюцца актуальнымі пасля заканчэння аднае вікна кантэксту.
3. Калектываванне і карыстацыя кантэкстамі і запросамі, якое дынамічна выбірае тое, што будзе прадстаўлена ў кожным вызове модэлі.
4. Планаванне і разбіўка задач, якое практыкуе модэль па структураваныя последовасці замест таго, каб прасіць пра все за адну спробу.
5. Перакананне і захоўнікі, якія включаюць перакананні правядлівасці, перакананне фармату, фільтры безпекі і ціклы самаўтвэрджэння.
6. Модулярнасць, тое значыць, што компаненты можна ўвімкнуць, выключыць або заменіць незалежна.

Чаму гэта важна

Агенты распространяюцца паўсюду — ад ботаў для падтрымкі да асаблівых памочнікаў для фінансавага аналізу і аўтонамных інструментаў для напісання коду. Большасць з іх, якія не функцыонуюць у рэальных умовах, так рабяць таму, што іх архітэктура ўразліва, небезпечна або непрадбачальна, а не таму, што сама базовая мадэль LLM слабая. Чатыры прычыны пояснююць гэта:

• Гэта перакладае працу з падзеяў наявнасці надзеі на інжынерную працу. Узамен на спрэчкаванне і мольбы пра удачу, структураваныя абмежэнні і дэтэрміністычныя адзывы робяць рэзультаты прыдатнымі да прыкладзення і павтарэння.
• Гэта зменшае навантажэння ад перагляду. Хорашая архітэктура падвайшвае шансы на правільную першую спробу і таксама забезпечвае механізм, які выправляе як магчыма больш проблемаў прытаманнае людзі, прычым яны будуць пазначаны.
• Гэта дазволяе справжнюю аўтонамію. Без яе агент — гэта проста паўрадзіты чатбот. З яе ён можа запускаць код, вызываць API, чытаць файлы, памятаць пакананую працу і завершаць багатыя заходамі працэсы.

Гэта прыемка ператварае агенты ў агенты прыемнасага рэжыму. Біргітта Бёкелер у сваім артыкуле на сайце Мартына Фаулера опісвае два відэны кантролю: нараднікі, якія ўжо да дзеяння агента ствараюць кераванне, і датчыкі, якія пасля дзеяння дапамагаюць яму выправіцца. Гэта спалучэння разлічвае дэмонстрацыйныя агенты ад агентаў прыемнасага рэжыму.

Центральны цыкл

Большасць агентаў функцыонуюць за цыклам «прычына, дзеянне, абсервацыя»:

1. Прычына: модэль чытае усё ў кантэксце (задачу, памяць, пакананыя рэзультаты) і выбірае наступную дзеяннё.
2. Дзеянне: інструментарый яго выкананы, напрыклад, праз запуск інструмента, адработку коду ў ізольаванай сандбоксе, звярненне да API чы сахаванне чаго-небудзь у памяці.
3. Абсервацыя: інструментарый зафіксавае рэзультат і вернуе яго модэлю як новы кантэкст.
4. Павтараецца, пры чым модэль выкарыстоўвае гэты рэзультат для новага выбору.

Ключовым прынцыпам дыяжнавання ёсць чысты распад абавянняў. Модэль прыдумвае рашэнні. Кансоль выкананае, пераканальваючыся ў схемах, правах, бюджэтах і правілах безпекі. Модэль ніколі не вызывае інструменты безпасова: яна вяртае структураваны запыт, а кансоль яго прабавляе, автарызуе, выкананае і вводзіце рэзультат. З-за такога распаду агенты застаюцца безпечнымі і падлежачымі аўдыту: дзеянні фіксуюцца, абэранцыяў таксама даюць структураваны рэзультат, а рэгламент рызыку выбірае шлях выканання.

Звыкненне тэрміна

Історыя ўсьмохнутая.

• З 2022 по 2024 год была эра запытоў. Распрацоўшчыкі пасвяцілі незлічымы гадзіны на формулюванне, структуру і прыклады, каб атрымаць лепшы рэзультат.
• У серэдзіне 2025 году увага пераключылася на кантэкст. Тое, што бачыць модэль, мае такое ж значэнне, як і спосаб запытання, таму запошук, стысненне і кантроль вікна кантэксту сталі ключовымі элементамі.

5 лютага 2026 года Мітчэлл Хашымото, адзюнер-засновальнік HashiCorp і творцы Terraform, паблікуў пастку, у якой опісаў свой прыкмет: калі-небудзь агент дзеяў неправільна, ён ствараў стойкі рашэння ў яго сераўысі, так што той самы прынцып памылкі стаў структурна немагчымым. Ён назваў гэта «інжынерыяю прыстрою», фразай, сэродней такой: калі агент дзеяў неправільна, знайдзі час, каб створыць рашэння, якое ніколі больш не будзе дзеяць такім чынам.

11 лютага OpenAI выпусціла значны аналіз інжынерскіх практык па стварэнню і запуску продукту без рукапіснага коду, які падтвердзіў гэтыя ідэі.

У марцы Anthropic паблікуў далейшы матэрыял, у яком опісваўаўся цэлыя архітэктура з трох агентаў, а Thoughtworks, Databricks, Red Hat, LangChain і іншыя выдалі дакладныя кансультатывы. Цэй тэрмін ужэ стаў популярным.

Прынцыпы, якія застаюцца актуальнымі

1. Мадэль прыяўляе практыку, а механізм яе выканання. Ніколі не дазволяйце LLM адразу вызываць інструменты. Гэтыя два элементы ўтвараюць адну з аснов безпечнага дызайну агента.
2. Кожны вызов інструмента дае рэзультат, нават калі ён не выходзіць. Успех, адмова ў правах і перыяд затрымкі павінны доходзіць да агента у вастоўленай форме. Тыхі неудачы ёсць ворамі автонаміі.
3. Рызыкі зміняюць працэс. Ожоўткай выкорыстоўвайце трохі з трохоў роўней: оперэйшыны толькі для чытання, якія працуюць автонамна, праекты, якія імітуюць работу без зовнішніх наследків, і зовнішніе змены, якія трэбуе адзначэння.
4. Складзіце кантэкст, але не выкладвайце яго ўсё разам. Уместо таго, каб падаць весь дыялог у кожны крок, структуруйце яго: правілы на рэвэле сістэмы, інструкцыі, прызначаныя для конкрэтнага заведамення, і падказкі, якія беруцца самэ пры неабходнасці. Адзначайце ненадзеяныя даныя як такія.
5. Назначайце бюджэты для дзейнаў з длігім часам выканання. Кожны цыкл павінен мець ліміты па колькасці крокаў, часу, які прыходзіць па гадзінніку, токенах (за кожны раунд і ў суме) і косці ў доларах.
6. Ператвараюце паўтараючыяся неудачы на функцыі інструментаў. Калі інструмент продовжвае вяртаць некарэктныя адпаведзі, змяна запіту — глыбокая памылка. Напісце валідатор у самым інструменце, там, дзе трэба ведаць перманентныя рэшэнні.
7. Спаўнюйце сумешанне вычысловых і інферэнцыйных сэнсараў. Інструменты для практычнага аналізу коду, пераканальнікі тыпаў і атрыбутаў, а таксама засобы для тэставання даюць шырокі і надзеяны адгук. Аналіз коду за дапамойкай AI і вікорыстанне LLM як судды разв’язваюць сэмантычныя пытанні, якія немагчыма рашыць за дапамойкой дэтэрміністычных інструментаў. Найуспешнейшыя каманды ставяць прыорытэт на дэтэрміністычныя абмежэнні, якія забезпечваюць гарантыі.
8. Кантролюйце энтропію. Код, створаны AI, з часам накаплівае хаос, таму неабходна рэгулярна запускаты агенты для чысткі: для падтрымкі адпаведнасці дакументацыі, сканавання на наявнасць абмежэнняў, прыменення шаблонаў і аўдыт завіснасцей.
9. Пачніце з простага. Парадаў Філіппа Шміда — ухіліцца ад масіўных прабегаў кантролю і замест таго стварыць надзеяныя, атомныя інструменты, дазволіць модэлю стварыць план, а таксама дадаць механізмы захавання, перапрыбуткі і пераканання. Болючы урок заключаецца ў тым, што практыкі, якім у 2024 годзе трэбае дакладная ручная праця, часта будуць адрабатваныя за дапамогою аднаго толькі запіту ў 2026 годзе, таму інструменты трэба будаваць так, каб вчорашняя хыткая логіка магла быць адключаная, калі модэль наздаганяе.

Тры сталпы

Дзеякія спецыялісты арганізуюць работу адносна трох прынцыпоў, а не шасці складовых:

• Інжынерыя кантэкста: запявленне агенту правай інфармацыі у правы момант, сумешчанне статычных дакументаў з жывымі дадзеннямі для аналізу.
• Архітэктурныя абмежэнні: прымусовая аплікацыя якіснага коду за дапамогою машыны, праз шаравыя залежнасці, інструменты для перагляду коду, структурныя тэсты і хукі пры запуску коду.
• Управленьне энтропіяй: планаваныя працэсы чысткі, якія запобегаюць занэханню кодавых баз, створаных са адказкай асістэнцыю.

Дыявольскі трук з вялікім адрасам

LangChain паведаміў, што сама змяна на рэвэліваньні harness перакінула яго рэйтынг у Terminal Bench 2.0 з 52,8% на 66,5%, што дало можлівасць перайсці з групы па-за першыя 30 на пяць першых. Цяная змяна складалася з трох этапаў: высокія зусіллі на планаванне і перакананне, а таксама сяроднія зусіллі на рэалізацыю. Мадэль застала недастрынутай, што паказвае, насколькі далека можа зайсці змяна толькі на рэвэліваньні. Глыбіна рэвэліваньня сільна разніцяцца між сучаснымі лепшымі кодавымі агентамі.

Вывык

Запіт перайшаў з пытання пра тое, як стварыць крашчыі запрос, на пытання пра тое, які сістэму пабудаваць. Мадэль больш не ёсць продуктом, а ўстаткування – так. Тое, што розлічвае вражаючую контрольваную дэманстрацыю ад сістэмы, якая працуе ў рэальным свеце, – гэта саме ўстаткування, таму кожнаму, хто будуе агенты ў 2026 годзе, яго неабходна. Практычны першы крок – аўдыт чынной наладкі за дапамою шасціх складовых і дзевяці прынцыпаў, выявленне нехваткі і ўключэнне іх у ўстаткування.

Супаўзяныя матэрыялы

• Prompt, Context, Harness, Loop: Чатыры слоі інжынерыі AI-агента — Чатыры вкладзеныя слоі вялікі ў тое, як будзе себе водзіць агент. Дазнаецеся, што контролюе кожны з іх, пазнаеце прыклад з GitHub і чаму спачатку трэба стварыць ўстаткування і цыкл.

Сандбоксаванне агента для кодавання і падчыранне яго вікна кантэксту — Дадзіце сандбокс у форме рэмня безпекі або пухнастага пакета агенту і керуйце кантэкстам за дапамою файлаў з дадзеннямі, фрагментаў коду, процэса стыснення і введэння дадзення ў пазній момент, якое падтрымлівае кэшуванне прыфіксаў.

D3.js унутрь React: прыяўленне дадзенняў, SVG і правіла власнасці useEffect — Дазвольце сабе пазнакоміць з тым, што такое D3 на самай працоўнай адзынцы, як функцыонуе прыяўленне/ацэнка/выключэння дадзенняў, чаму SVG падходзіць для яго і як раздзеліць кантроль DOM, каб D3 і React моглі саўместна працаваць у столбчастай дыяграме.