Чаму большасць AI-агентаў паміраюць пасля адной сесіі і як выжываюць доўгія

Чаму столькі агенты здаюця тымчасовымі

Кожны, хто вжываў ChatGPT, Claude чы іншы агент для вызыву інструментаў, бачыў стандартную схему:

1. Вы задаеце мету.
2. Агент прыначынае работу.
3. Ён вызывае калькі інструментаў.
4. Размова становіцца дужа дзейна.
5. Адпаведзі становіцца гіршымі, або сесія проста завершваецца.

Гэта ўсё, што можна спастаўці пад час працы з звычным чат-агентам. Ён падходзіць для короткіх заведамаў, але перастае функцыонаваць, калі праца трывае гадзіны чы дні.

Агент, які працуе дзейна, продавае працу пра значна дэльты часу — гадзіны, дні чы тыдні — і не втрачае своіх досягненняў, калі кантэкст запоўняецца чы працэс пачынаецца занова. Цікавае ўяўленне пра гэта, а пасля — законамі, якія яго робяць эфектывным.

Пачніце проста: што такое агент, які працуе дзейна

Звычны агент падобны чалавеку, які працуе ў адной кімнаце для зустрэчаў і забывае все, калі яе пакідае. Агент, які працуе дзялейна, падобнейшы да чалавека, які:

• трывае зошыт, які ўтварае стойкі зовнішні стан;
• запісвае працэздольг, што ўособлівае пункты перагляду;
• можа выйсці і вернуцца пазней, што ўособлівае перазберагчэнне сесіі;
• працуе далей там, дзе зупініўся, што ўособлівае продажчэнне з апошньага стану.

У тэхнічным сэнсе такі агент можа выжыць калькольвіка кантэкстных вікнаў, перазберагчыцца пасля перзапускаў і збоев (толерантнасць да бядаў), заставіць структураваны матэрыял у вобразе артыфактов і логаў сесій, і продажчыцца без пачатку з нуля.

Зберагчэнне стану за межамі модэлю і чыстае вярненне да яго ўсё тое, што людзі называюць інжынерыяй harness.

Тры стэны

Практычна кожны агент, які працуе дзеўна, сталквецца з тымі ж трыма проблемамі.

1. Канечны кантэкст. Кожны модэль мае обмежана вікна кантэкста, і нават большыя вікна запоўняюцца. Калі яно запоўніцца, старэйшая інфармацыя выкарыстоўваецца занова або стыскаецца, і рашэнні агента пагіршуюцца. Гэта часта называецца «занэчысцэннем кантэкста».
2. Адсутнасты стойкага стану. Новая сесія зазвычай пачынаецца з порожней памяці. Калі няма можлівасці зберагаць прыгледы званоўна, кожны пачатак працы падобны новам працавніку, які прыўязваецца да праекту, не ведаючы ніч пра яго історыю.
3. Слабая самаперакананасць. Модэлі склонны да оптымізму. Калі іх запытаюць, чыі праца завершана, яны часта адпавядаюць «так», калі праца завершана толькі часткова. Без званоўнай перакананасці незавершаная праца прызначаецца як завершаная.

Гэтыя тры прычыны пояснююць, чаму простыя агенты не можуць працаваць надзеямо дзеўна.

Ад базавых прынцыпаў да корыстных шаблонаў

Калі стэны стануць вялікімі, выклікаецца пытанне: як людзі зможуць іх пераясці. Чатыры фундаментальныя мадэлі продовжваюць павтарацца.

• Пункты контролю і продажчык. Агент раз у раз зберагае прыгодзі ў структураваны фармат. Калі ў чымсь з’яўляюцца проблемы, ён пачынае зноў з последньага правільнага пункту контролю, а не з самага пачатку.
• Зовнішняя памяць. Важлівыя факты знаходзяцца за межамі кантэксту мадэлі — у файлах, базе дадзеных чы сховішчы сесій, і агент чытае іх на пачатку кожнай новай сесіі.
• Удзел чалавека. Пры значных рашэннях агент на час зупіняецца, чакае, калі чалавек схваліць чы адхіліць, а потым продовжывае. Гэта трэба рэшыць адзінакова, каб стан не стаў некорыстным пад час чакання.

Адзінаковыя ролі. Уместо таго, каб адзін велікі агент рабіў усё, сістэмы часта дзеляць задачу: адна частка плануе, адна выкананае, а адна контролюе якасць. Гэта зменшае рызык плутання чыстаў пераканання. Гэта зазвычай называецца канфігурацыяй з калькольніком агентоў чыстаў падагентамі.

Ціхі патэрны самі по сабе простыя, але ў сукупнасці яны моцныя.

Ментальная модэль

Корыстны абраз: модэль — галава, інструменты — рукі, а журнал сесіі разам з зовнішнім станом — гэта памяць, якая застаецца.

Калі галава і рукі прыўязаныя да аднаго тымчасовага процэсу, сістэма гіне разам з ям. Калі памяць знаходзіцца занавантар, новы процэс можа працаваць, чытаць памяць і продаваць робіць. Гэта ўсходні архітэктурны перакід.

Што стае можлівым

Калі агенты можу працаваць дыяўольша, ачываюцца новыя відэкі працы:

• даследжэнні, якія трываюць калькольнік дзён;
• масавыя міграцыі коду;
• Пастая разведка і праца з фонавым сяродавіем;
• Працэйныя практы, якім на паўпаце трэбаяе падтверджэнне чалавека;
• Команды агентаў, якія коордынуюць сваю дзеяльнасць у часе.

Агенты для кароткіх чатоў добра падходзяць для адпаведзення на запытанні. Агенты, якія працуюць дзялей, стаюць корыстнымі для досягнення рэальных рэзультатаў.

З дэмаверыі да працы

Большасць дэмаверыяў зупіняецца на гэтым этапе, і пачынаецца справжняі інжынерны працэс. Пяць шаблонаў маюць важлівую ролю.

1. Тачкі контролю і продаж чыннасці

Гэты ўсё важнейшы шаблон, таму што найчастэйшая прычына неудач у дзялейных задачах — губіця працы. Уявіце агента, які обрабатав 200 дакументаў і зіткнуўся з адной з адмов на 201-му дакуменце. Без тачкі контролю, тыяму кадру памяці або стану процэса, весь час працы праходзіць дарэмна. Большасць агентаў рэагуе перачыненнем усяго процэса, што спалюе вельмі многія токены.

Хорашая сістэма рэгіструе стойкі прыступ працы чэргава, фіксуючы:

• што ўжо завершана;
• што яшчэ застаецца незавершаным;
• будзь-якія важлівыя проміжныя рэзультаты.

Пасля перзапуску агент чытае пасляпэўныя даны і продовжае з таго моменту. Штосьці такога прычынюе значныя зменшэння кранічной чутлівасці і таксама дапамагае захаваць токены.

2. Памяць за межамі модэлю

Зазвычай існуе два відэны:

• Рабочая памяць — гэта тое, калі агенту трэба ў дакладнасці тэкучага кантэксту.
• Стойкая памяць — гэта тое, што павінна перазіць сесію, і яе зберагаюць зовні.

Стойкая памяць можа знаходзіцца ў структураваных файлах, такіх як progress.txt, plan.json або notes.md, у базе дадзеных, у сховішчы сесій або ў спецыялізаванай службе памяці. Прынцып просты: модэль можа забыць, але сістэма, якая яго апрацоўвае, не павінна.

3. Раздзеляйце працэс стварэння і ацэнкі

Мадэлі несправедліва ацэнкуюць свою сябе працу і частае часу бываюць занадта ўзніжлівыя. Часты і эфектыўны спосаб рашэння — раздзеліць ролі: адна частка вырабляе працу, а іншая ацэнкуе, чы роба дасканальная. Гэтымі часткамі можуць быць два разныя агента, або адна мадэль, якая працуе ў двух рэжымах з разнымі інструкцыямі. Галоўнае — каб прыняцце рашэння пра завершэнне працы не было дыктаванае толькі тым, хто яе вырабляе.

Частая структура — гэта керавальнік або планавальнік, пасля чаго працавіцямі выступаюць эксперты па задачах, а потым — суддзя, які займаецца распадзелам і коордынацыяй. Наступны варыант паказвае гэта болей дакладна.

4. Правільная апраўдка чалавекам

Багатыя сістэмы ствараюць вражанне, што падтрымліваюць апраўдку, але практычна паслаба адбываюць гэта. У слабай версіі зберагаецца частка JSON-даных, прыходзіць упавядомленне, спадзяюцца, што чалавек адпавісі, а пазней практычна немагчыма продыржыць працу, часта з застарэлым станам.

Лепшая версія розглядае паузу як частку самага працэса выканання задач. Агент доходзіць да чыстага рашэння, чыстаўае свой стан і чакае. Калі чалавек адпавядае, агент прызначаецца да працы, точна ведаючы, чаму ён зупініўся. Гэта мае вялікое значэнне для дзеянняў, якія маюць наследкі, такіх як выдаткі грошаў, змяны ва ўстаткуванні для працы аб адправка паведамленняў за межы організацыі.

5. Коордынацыя большага чысла агентаў

Калі задачы становяцца большымі, аднае аб’екта, якае выканае ўсё, пачынае працаваць неэфектыва. Болей стабільны падход дзеліць адпаведальнасць:

• планавальнікі аналізуюць проблему і раздзеляюць яе на задачы;
• рабоцкія елементы выканаюць конкрэтныя часткі задачы;
• суддзі вяршаюць, чы рэзультат ітарацыі ёсць достатнім.

Як паведамляецца, Cursor перайшаў да такога падходу пасля таго, як практычныя спробы коордынацыі зазналі няўспэху. Гэта скасоўвае хаос і запобегае таму, каб агенты перакрывалі адзін другога.

Як выглядае стак працэў

Рэалістычны стак часта складаецца з трох слоёў:

1. Логіка агента, тыя самыя запросы, інструменты і цыкл прыняцтва рашэнняў.
2. Механізм керування, тыя самыя керуванне сесіямі, контроль рабочага плану, павторныя спробы і вярнэнне у стан нормы.
3. Управляемыя прымітывы, тыя самыя надзеяныя сховішчы, планаванне, інструменты, якія працуюць дзеўяносто, трыгеры падаючых змян і можлівасці абзірнасці.

Напрыклад, ADK ад Google прадае элементы для стварэння сесій, якія застаюцца стабільнымі, для выканання, якое перазапускаецца пасля перэзапуску, і для трыгероў, якія актывацуюцца падаючымі змянамі. З іх дапамогай агент можа застацца нерухомым працоўнае часы і ўсё раве правільна продовжыць свою працу пасля таго. У артыкулах Anthropic пра механізмы керування падкрэсляецца неабходнасць аддзелення «галавы», тыя самыя мадэль і ўсе яе цыклы, ад «рукаў», тыя самыя сераўны для выканання, і ад сесіі, тыя самыя надзеяныя лог-файлы з падаючымі змянамі.

Продавцы выкарыстоўваюць разныя назвы, але ідэя адна: стан і вяснаванне павінны існаваць парадульна якой-небудзь тымчасовай працэсы.

Правілы дыяграматыкі, якія дапамагаюць

Гэтыя прыкметы надзеямоўна робяць сістэмы моцнейшымі:

• За кожны раз пісаць важлівы прогрэс у стойкія сховішча.
• Валіць структураваныя дакументы, такія як JSON, логі ў фармаце markdown і спісы задач, замест таго, каб хаваць інфармацыю ў памяці у відкрытым тэксце.
• Спрыяць нештаціям як да звычайнага і планаваць ўсё для ўсунення яных.
• Забезпечыць вяснаванне за стандартным маршрутом, а не як спецыяльны каскад.
• Калі важна якасць, трэба роздзеліць працэс стварэння і працэс ацэнкі.
• Выкарыстоўваць складзенне або стысненне, калі кантэкст пачынае занадта растаць.
• Намерна прыдумваць пункты затверджэння дыяграматыкі, а не дадаць іх пазней.

Маленькія рашэнні накапліваюцца. Адна хорашая стратэгія стварэння контрольных пунктав можа адзначыць успех мнагадзёвай працы і захаваць час і рэсурсы.

Ліміты, якія застаюцца

Нават з хорашай архітэктурой існуюць жорсткія абяранні:

• Косцы. Дзейнаўніцтва працы ў длігі час спрацоўваюць багато токенав.
• Безпека. Сістэма, якая працуе дольшча, мае большую плошчу для атак.
• Зсув адпаведнасці. За длігі перыяд агент можа паступова адхіляцца ад пачатковага намеру.
• Перакананне. Дзеяныя віды якосці все ўсё трэбуе людзкага адгуку.

Ролі чалавека не знікае. Яна змінюецца. Уместа таго, каб выканаць кожны крок, людзі вялічаць цялі, ставяць абяранні, пераглядаюць крытычныя рашэнні і распрацоўваюць асаблівасці, якія сістэма не можа безпечна рашыць.

Што гэта дае вам

Агенты для короткіх чатоў падходзяць для запытанняў і малых задач. Агенты, якія працуюць працы ў длігі час, падходзяць для работ, якія займаюць час, распрастраńваюцца на калькі сэсій або мусяць вытрымаць перарывы ў рэальным свеце.

Этыя змены маюць меншыя наследкі для падыграння розумнасці модэлі, а большыя — для стварэння стойкага, здатнага да вяснавання і чыста па своім прыгарку апошньага сістэмы. Калі сістэмы спаказваны як тые, якія павінны перастояць час, абяроны і межы кантэксту, ў тады праектаваць агенты стае набагато простае. Агенты, здатныя выкананы значыцыльную работу, зазвычай выходзяць з команд, якія ставяць вытрымлівасць і вяснавання ў цэнтр праектавання.

Супаўзвязаныя матэрыялы

• Практычныя прыметкі: Праектаванне кэша для AI-агентаў: Яго аператыўнае выкананне — Паследовны апіс праектавання кэша для AI-агентаў і яго аператыўнага выканання: контракты, перакананні і шаблоны коду для команд, якія вікорыстоўваюць гэты патэрн.

Чаму агенты, які захопляюць у дэманстрацыях, не функцыонуюць у рэальных умовах, і што павінна будавацца заместа іх — пункты неяўнасці, спраўа выбору між адным і калькам агентаў, практыкі дызайну, такія як павторныя спробы і альтэрнатыўныя рашэнні, а таксама всія віткі, якія ўключаюцца ў працаванне AI-агента, кроме плата за токены.

Карыстаўчыся фрэймворкам CARE для керавання AI-агентамі: яснасць, автаномія і іншае — ідэі керавання таксама прыдатны для AI-агентаў. Дазнаецеся, як яснасць, автаномія, адносы і равенасць вплываюць на дэлегаванне задач, контракты агентаў, выбір модэляў і кантэкст, які патрэбны агентам.