AI-агент — гэта AI-мадэль плюс абвязка: што робіць абвязка і навошта
Агент — гэта мадэль плюс абвязка. Як абвязкі дадаюць інструменты, памяць, цыклы і абмежаванні, чым адрозніваюцца агенты з адкрытымі вагамі і адкрытым кодам і чаму важныя ацэнкі.
Калі час історыя прагрэсу ШЫ апавядвалася праз выходы новых модэляў: большыя, болей спроможныя базовыя модэлі з’являліся кожныя калькі месцаў. Гэтая історыя непаштоўна. Мовны модэль, большы ён чы меньш, з’яўляе сабой первосны інтэлект, але ступень таго інтэлекту, якая доходзіць да корыстніка, залежыць ад программнага забезпечэння, якое яго абгортае. Гэты забезпечальнік называецца «харнесам», і ўсё большая колькасць даследжэнняў паказвае, што ён можа матыць такое ж значэнне, як і сам модэль унутры. Няўжоныя даследжэння па адаптаванні «харнесоў» да меньшых модэляў стверджуюць, што рэтэльна налаштаваны «харнес» можа дапамогчы компактным модэлям вярнуць значную частку практычных якосцяў модэляў высокага рангу пад час выканання бізнес-задач за меньшыя вітраты. Чытайце точныя цыфры ў адпаведных научных працах, але напрамак ўсё гэта супадае з тым, што бачаюць практыкі: найсупэльнейшы модэль не завжды стварае найболей спроможную сістэму.
Такім чынам, гонка стае ўсё бол спрамованая на тое, хто створыць найкрашчы каркас для мадэлі, а не толькі на тое, хто створыць найбольшую мадэль.
Чаму розумная мадэль все ж такі разы трэбуе каркаса
Мовная мадэль можа даць адпаведны адказ. Але сама ёна не можа пераглядаць папкі, выбіраць засобы, зберагчы цяперашню інформацыю между запускамі, пераканальваць напісанае, восстанавляцца пасля аднойчынага бягу чыстых і продавацца да меты. Самэ гэтыя прасліні і ўсунуць агенты. У агэнце каркас абрамляе мадэль і ператварае яе інтэлект у структураваныя, павторныя, спрамованыя на мету дзеяння.
Мадэль проты агэнта
Мадэль прымеўа вхідны даныя і дае выходны рэзультат, пасля чаго яе задача завершаная. Агэнт продавае працаваць пасля першага адказу. Ён чытае файлы, выкарыстоўвае засобы, запускае каманды, памятае ранейшыя рэзультаты, прымеўа рашэнні і продаваецца праз калькі этапаў, пакуль задача не будзе завершаная.
Як гэта можа выйсці, калі мадэль створваецца толькі для прыгадвання наступнага рэзультата? Праз сістэму падтрымкі, інжынерную сістэму, якая абрамляе мадэль. Яна выбірае, які кантэкст прайходзіць да мадэлі, якія інструменты ў наявнасці, як выконваюцца вызовы інструментаў, што запам’ятваецца, калі мадэль вызываецца знову, і якія дзеянні адхоўваюцца чы ўсё ж патрабуюць затверджэння.
Сістэма падтрымкі таксама стварае рабочы цыкл:
Цыкл выконваецца так: мадэль чытае тое, што ў яе кантэксце, выбірае дзеянне, вызывае інструмент, аналізуе рэзультат, прадаўае яго ў свой кантэкст і зноў пачынае цыкл.
Самэй гэты цыкл разлічвае адпаведзь на выкаанэ задачы. Ён таксама можа быць прыўязаны да планавальніка чы зовнішняго трыгера, так што агент пачынае работу сама ў пэўны час чы калі выйшла певная подзея.
Рэвануляцыя: агент = мадэль + сістэма падтрымкі
Мадэль – гэта і частына, якая робіць прогнозы. Незалежно ад кантэксту, які ій надаецца, яна створуе найкорыснішый наступній рэзультат або дыю. „Комплект“ – гэта програмне забезпечэння навколо неі, якое перэтворуе цю первінну здатнісць на кантралявану, багатоетапну дыяльнісць.
Подывіцца, што відбуваецца, колі одну й ту саму мадэль вікорыстовуюць у рызніх „комплектах“:
- З звічайнім чат-комплектом яна ёсць асістэнтом для розмов.
- Калі додаты пошук у Інтэрнэты, отрымання інформацыі, оцінку джэрэл і перэвірку посілань, яна стае дослідніцькім агентом.
- Калі надаты ій сховішчэ, рэдактора, тэрмінал і можлівосты тэстування рэзультатыв, яна стае агентом для програмування.
- Підключывшы іі до даных кліентыв, бізнес-правіл, інструментаў для обміну повідомленнямі, трыгерыв і кроків схвалення, ві отрымуеце агента для управління операціямі.
Модэль ніколі не зменялася. Зменшылася ж падпрыёмка. Гэта таксама пояснюе, чаму два продукты, створаны на адной і той жа базовай модэлі, можу практыкавацься вельмі разнародна. Одын з яных выкарыстоўвае правыя доказы, выбірае правы інструмент, восстанавляецца пасля незусімных спроб, падтрымлівае апрант свайго кантэксту і пераканальваецца ў правасці рэзультата. Іншы ж губі ключовую інфармацыю, продавальна выкарыстоўвае неправы інструмент або прызнае перамогу без пераканальвання. Спроможнасць продукту нельга адначасова ацэніваць толькі за модэллю: модэль вялічына тое, што сістэма можа зрозумець, а падпрыёмка — тое, што яна можа выканаць.
Разлічэнне шароў
Людзі часта вжываюць тэрміны «модэль», «агент» і «падпрыёмка» як сінонімы, хоця гэта разныя шары.
Codex і Claude Code добрая прыклад таго патэрна асяроддзя агентаў для кодавання. Кожны з іх спаюе сэрвісныя мадэлі выпавекчыка з інструментамі, якія керуюць кантэкстам рэпазітарыя, доступам да файлаў, інструментамі, камандамі шэлу, памяцю, выкананнем, адзывамі пасля тэстаў і цыкламі перагледу. OpenCode, Goose, Pi, Letta і AutoGPT таксама следуюць гэтаму патэрну, як і рантаймы чыста фрамворкі; адзінакавасць яных заклёпвана ў падтрымваных мадэлях, наборах інструментаў, прыемах памяці і ступені адкрытасці.
Агент — гэта цэлы сістэма, мадэль забезпечвае інтэлект, а інструменты керуюць тым, як гэты інтэлект вяршыць адносіны з зовнішнім светам.
Адкрытыя вагі і адкрыты код — гэта разныя рычы.
Такі продукты, як Codex і Claude Code, — гэта готовыя агенты, у якіх мадэль і кастомны ўзел разрабатываюцься і настраоўваюцца разам адной кампаніяй. Агент з адкрытым вагам, напротыў, складаецца з можна завантажыць мадэлі і ўжыточнага або кастамнага узела. Гэта дае разрабоцкім групам большую контроль над розгортанням, інструментамі, памяцюю, прыватнасцю, вартасцю і поведэнкай. Вагі можна запускаць на вашай сабе інфраструктурэ, а за наявнасці дазволу ліцензіі ўсунуць недакладнасці. Тыповая пара — Goose з модэллю адкрытага вагу, такой як gpt-oss-120b, або OpenCode з модэллю Qwen чыста Gemma.
Агент з адкрытым кодам — гэта ўсё іншае: код узела ёсць публічным. Кожны можа чытаць і зменяць спосаб, якім ён задае запіты модэлі, якія інструменты ён працоўнае, як ён зберагае памяць, як працуюць яго ціклы, з чым ён інтэгруецца, а таксама як ён керуе правамі доступу і кантэкстам. OpenCode, Goose і AutoGPT — гэта прыклады адкрытых узелаў.
Этыя два элементы ўзаемна незалежны:
- Хоць інструмент на адкрытым кодзе можа выклікаць прыналежны іншой компаніі мадэль праз API, OpenCode можа кераваць мадэлямі GPT чыра Claude; таму яго інтэрфейс, логіка керавання і выконанне інструментоў ёсць адкрытымі, тады калі сама мадэль застаецца закрытай.
- Мадэль на адкрытых вагах сама па сабе не ёсць агентам. Мадэль на кшталт gpt-oss-20b можа прагнозаваць і прымікаць рашэння, але не можа пераглядаць папкі, запускаць інструменты, зберагаць стан задачы чы завершваць робочы працэс, пакуль яе не абгорнёў такі інструмент, як Goose, OpenCode чы спецыяльная фрэймворк.
У стыслай форме: агент на адкрытым кодзе — цэх адкрытагі інструмент плюс будзь-яя сумесная мадэль, а агент на адкрытых вагах — цэх плюс можна завантажыць вагі мадэлі.
Чаму важлівыя адкрытыя экасістэмы
Некалькі лабарацыяў сэргодзі выдвайуць доступныя па цене модэлі з адкрытым вагам, а таксама інструменты на адкрытым кодзе, ствараючы гібрыдныя адкрытыя экасістэмы. Такія выдачы зробілі адкрытыя стэкі серьзёзнымі канкурэнтамі для прыналежных кодавальных агентаў на выбраных тэстах, хоць і не завжды крашчымі у всіх аспектах. Самыя оцэнкі вендароў часта паказваюць, што прыналежныя фронтальныя модэлі застаюцца пераду ў калькіх тэстах на кодаванне. Глыбокая ідэя не ў тым, што адна модэль перамагае всі іншыя. Ідэя ў тым, што доступны модэль з адкрытым вагам, які ўжо ўскладнены рэтэльна спраектаваным інструментам, можа конкуруваць з дорогімі закрытымі сістэмамі.
Што мае містыць хорашы інструмент
Эфектываасць выходзіць за сумеў модэлі і інструмента, а інструмент складаецца з калькіх частак:
- Выбор кантэксту. Выбіранне таго, што будзе включанае ў кожны вызов модэлі, так што будзе прысутныя актуальныя файлы, запісі або дакументы, а не шум.
Выборы дызайну, якія формуюць структуру
Кожны механізм керування прыме рашынкі, які таяму встановляюць межы для таго, што можа зрабіць агент, і дзеяныя з іх трэба адразу звернуць увагу.
Скількі інструментаў і як яны опісаны. Калі даць модэлю двадзесят перакрываючыхся інструментаў, гэта зазвычай нарабляе больш проблем, чым пяць чыста апісаных. Назвы, апісанні і фарматы аргументаў фактычна ёсць падказкамі, таму неясныя ваказанні інструментаў спрычыняюць некарэктныя вызовы.
Скількі трэба запамятаць. Дзюжынны історыі вытысняюць корысны кантэкст. Механізмы керування зазвычай скарочваюць, падсумовуюць або зберагаюць прыміткі паза межамі падказак і выкарыстоўваюць іх, калі гэта неабходна. Тое, што застаецца і на які час, сільна вплывае на тое, чы робіць агент кохэраннае выкананне дзялега.
Дзе размясціць чалавека. Дзеяныя, такія як чытанне файлу, можна без апаратных рызыкаў автаматызаваць. Іншыя, як выдаленне дадзэнняў або пераказ грошаў, выклікаюць патрабаванне да затверджэння. Налажоўкі гэтых правілаў — гэта рашэнне адпаведальнага працоўніка, а не рашэнне мадэлі.
Што лягае ў базу завершэння. Цыклу патрэбна правіла для зупінкі, такая як паспэшчанне тэстаў, пераканальны адказ або ліміт крокаў. Без гэтага агент альбо завершыць працу раней, альбо будзе працаваць да канца.
Практычны спосаб начынкі
Калі вы ствараеце агента, пачніце з самага простага комплекту, які можа выконваць адна рэальная задача з початку да канца: адзін мадэль, два чырве абыякшыя інструменты, цікл з лімітом колькасці крокаў і пісьменная ваказка пра тое, якія умовы з’яўляюцца пасля успеху. Потым саберыце дзесятак-дваццаць рэальных задач, запускайце іх, чытайце лог-даныя і спачатку вылечвайце найчастэйшыя проблемы. Змена мадэлі будзе пазней, калі вы з’ясуеце, што сам комплект не ёсьць факторам, які обмежвае працэс. Такі парадак не дазволіць вам калячыць мадэль за проблемы, якія на самай справе стаяць у інструментах, якія ўжо ў складзе комплекта.
Як працюе доступ да файлоў
Мадэль не можа безпасэчна з’явіцца да файлаў на камп’ютары. Каскад надае кантроліруемыя інструменты, якія выводзяць спіс дырэктарый, шукаюць назвы файлаў, запошчаюць неабходны контэнт, ачынаюць і рэдагуюць файлы, выкананяюць код і зберагаюць рэзультаты. Мадэль выбірае, якую інфармацыю чы ўпрабову патрэбна яй далей. Каскад перакантролюе і выканае гэты запрос, вярнуе рэзультат і дадае яго да кантэксту. Гэты працэс павтараецца, пакуль мадэль не вынікне, што задача завершана:
Мадэль запрашвае упрабову, каскад яю выканае, вяртаецца рэзультат, і мадэль выбірае наступную упрабову.
Напрыклад, калі яе прабуюць падмогчы з выправленнем неякіснага тэсту, мадэль можа запрашваць спіс дырэктарый, пасля чаго — ачыненне файла тэсту, потым модуля, які перавершанае тэставанне, пропонуе змены і запрашвае парабавку тэсту. На кожным кроцы каскад вынікае, чы запрос дазволены, выканае яго і адмаўляе, што сталася.
Інструментарыя для адзьяктавання маюць такі ж важлівыя значэнні
Стварэнне інструментарыя для агента — гэта толькі палова частка работы. Другаяя палова — гэта інструментарыя для адзьяктавання, якія паказваюць, чырэдзе агент працуе. Яны тэстуюць, за умовам, сэродніх рэальным, чырэдзе цэлая сістэма можа выбіраць правыя інструменты, восстанавляцца пасля неудач, контролюваць вітраты, дазваляць правіла безпекі і стабільна выкананаць задачы. Гэта больш, чым проста перамога ў аўтаномным тэсце.
Інструментарыя для агента складаюцца з многа взаінае дзейнуючых элементаў, і кожны з яных можа стаць прычыной рэгрэсіі: запіты, правілы кантэксту, інструменты, політыкі памяці, цыклы планавання, перакранчэнне, правы на выкананне задач і механізмы восстанавлення. Без набора для адзьяктавання команда не можа з’ясавіць, чырэдзе змяненне адного з эых элементаў дапамогла чы проста таямна вызвала новую неудачу. Таму гэтыя два інструментарыя стваруюць цыкл зворачной связі:
- Скапіруйце рэпрэзентатыўныя задачы, укладаючы ў яе рэалістычныя працэсы работы, складныя кейсы і ранее з’яўляваліся неудачы.
- Запусціце цэлую сістэму, чынны мадэль і інструментарый разам.
- Працаваце з рэзультатамі: успех, следы дзейнасці, вызовы інструментаў, памылкі, вартасць і час адпаведзення.
- Змяніце адну складовую — будзь то запрос, інструмент, мадэль, правілы керавання памяцюю, цыкл або правіла маршрутацыі.
- Зноў запусціце ацэнкі на задачах, якія не былі выкарыстаны раней, і у кейсах рэгрэсіі.
- Зберагачыце толькі тыя змены, якія паводліва паўтараюць прагаданы баланс тачнасці, надзеямасці, безпекі, швальнасці і вартасці.
Коротка: ствараеце, ацэнюеце, выяўляеце неудачы, паспрабоўваеце паўнейша паспрыяць, зноў ацэнюеце.
Чытанне следа дзейнасці
Адміністрацыя ўскладнюецца, калі немагчыма прачытаць, што на самай працэ выканаў агент. Корыстны лог-фай фіксуе кожны вызов модэлю, запрошаны інструмент, аргументы, рэзультат, які быў вярнут, выкарыстоўваны токены і час, які паўзеў. Калі задача не выканана, трэба пераглянуць лог-фай на першы неправільны крок, а не на апошні. Часта прычына крыўдзі лежыць раней: відсутны файл у кантэксце, нечыстая апісацыя інструмента або неправільная прыпуск, якая перадаецца на всі наступныя крокі. Вылечыць гэты адзін момент зазвычай дапамагае усунуць цэлы рад проблем, таму перагляд лог-файў ёсць аднам з найэфектывнейшых прыёмоў, якія можа застосаваць команда.
Чы рэальна мае значэнне модэль?
Так. Новейшыя модэлі продовжаюць прагрэсаваць у спроможнасці да логічных выводам, програмаванні, адкрыцыі інструкцый, точнасці выканання задач з адпаведнымі інструментамі, ўместнасці кантэксту, шырозеі, эканомічнае эфектыўнасць і багатамодальных навыках, і кастомныі інструменты не можаць надзеяна создаць спроможнасці, якой не хапяе модэль. Але сама модэль больш не ёсць весь продукт.
Калі калькі модэлей ўсе ўжо дастаткова хорашыя для віканання задачы, кастомныя інструменты можаць складвацца большасцю заставочнай разлікі межаў між продуктамі. Адыскаванне правага файлу, інструменты, чыя дзеяння ўсё зрозумелы, кераванне станам, якое памятае завершаную работу, перакранчэнне, якое выловляе некарэктныя змены, правы на адкрыцыю, якіе стоўяць канец апасным дзеянням, і восстанавленне пасля неудач — усе гэта таксама мае значэнне.
Гэта парадоксальна простая разпадка працы, якая таксама ствараея корыстны спіс пераконтроўкі для аналізу будзь-якага праекта агента. Запытайце, што модэль можа рэалістычна зрабіць, што павінен дадаць харніс, каб гэтая здатнасць была надзеяна, і якія доказы дае ацэнка таго, што гэта справдзілася.
- Модэль вялічыць зовнішнія межы таго, што можа зрабіць сістэма.
- Харніс ператварае гэтыя межы на надзеяныя, павтаральныя рэзультаты.
- Ацэнка парадактуе, чы рэальна справіла сваю працу готовая сістэма, што ўжо іншы пытанне, чы модэль ўмная.
Самэ гэтаму так многа інжынерыі прыменення сэрцавае на харнісы і ацэнкі. Харніс — гэта там, дзе каманда стварае стойкую перадчыстоту за дапамогою прыватнага кантэксту, безпечнейшых інструментаў, рабочых практык домэны, памяці, вярнення ад каштоўных і корыстніка.
Адказ на цэнтральнае пытанне
Можа ля гэты мадэль стаць справжнім, функцыональным агентам без «упрэжкі»? Не. Мадэль сама па сабе не мае сераўніка, які б дазволіў ёй выканаць дзеянні, з’явіцца ў зовнішнях сістэмах, запам’ятаць завершаныя крокі, спазіраць на наследкі сваіх рашэнняў і продаваць працу над цялевай метай. Мадэль — галава і механізм разумовых вычыслаў. «Упрэжка» — гэта тэла, інструменты, памяць, ціклы зворачнай связі, права і меры захоплення, якія ператвараюць прагнозы на кантроліруемыя дзеянні.
Або ў адной лініі: AI-агент — цэх AI-мадэль плюс «упрэжка».