Практычныя прыказкі: Агенты, які працуюць довга час: чаму большасць агентоў зникае пасля адной сесіі

Наступныя прытамлівкі паказваюць практычны падход да тэмы «Агенты, якія працуюць дзёўна: чаму большасць агентаў занікае пасля адной сесыі (і як рэальныя системы продолжаюць працаваць)». Акцэнт ставіцца на кантракты, пераконтроўкі і месца для коду, а не на мотывацыйныя аспекты.

Чаму большасць AI-агентаў здаецца тымчасовымі

Калі працуеце над раздзелам «Чаму большасць AI-агентаў здаецца тымчасовымі», спачатку запісайте кантракт: неабходныя даны, сігнал успеху і тое, што выканаецца у разы частковай нявыполненасці. Такі список дапамагае залічваць пазнейшыя змены ў кодзе адкрыта. Зберагаюце настройкі праза код аплікацыі. Файлы сяродавішча, хранільнікі секрэтных дадзеных і флагі функций павінны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжнага чытання всіх элементаў. Стварайце контрольныя пункты пасля дорогіх крокаў. Продакцыя не павінна занова ставіць плату за той самы вызыв LLM, калі аператар перапрыяўляе роботу да пазнейшага элемента.

Пачніце проста: што такое агент, які працуе дзёўна?

Калі працуеце над стадзіяй «Пачніце проста: што гэта», спачатку запісайце умовы кантракта: неабяжлівыя данні, сігнал успеху і тое, што выканаецца у разе частковага нявыполнення. Такі список контроля дапамагае заліцварыць змяны ў кодзе.

Тры базовыя проблемы (Стэны)

Калі працюеце над стадзіяй «Тры базовыя проблемы», спачатку запісайце умовы кантракту: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список контроля дапамагае заліцвачваць змяны коду пазнейша. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына нявыпання павінна вказваць на адзіну абяжлівасць, а не на заплутаны ланцюг задач. Зробіце пераконтроль пасля дорогіх крокаў. Програма не павінна зноў выклікаць той самы кантакт з LLM, калі аператар прабуе зноў запрацаваць з пазнейшым вузлом.

Пераход з базовых на практычныя шаблоны

Калі працюеце над пераходам з базовага ў наступны этап, спачатку запісайце угоду: неабяжлівыя данні, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список пераконтроўкаў дапамагае заліцвачыць пазнейшыя змены ў кодзе. Спрыймайце гэты этап як угоду межа даннімі і перакананымі выходамі. Дайце назву рэзультатам, задаце критэрыя успеху і не падтрымайце тых, хто выканае частковую роботу без паведамлення. Зробіце пераконтроўку пасля дорогіх крокаў. Система вярнення не павінна знову ставіць плату за той самы вызов LLM, калі аператар пракушае роботу з наступнага вузла.

Ментальная модель, якая дапамагае

Калі працуеце над стадзіяй «A Mental Model That», спачатку запісайце угоду: неабяжлівыя даны, сигнал успеху і тое, што выканаецца пад частым неяўнікам. Такі список пераканаецца, каб пазнейшыя змены коду былі чыстымі. Запісвайце час выканання і кост токеноў або запытаў пад функцыйнальнымі рэзултатамі. Відразы костаў з самага пачатку запобегае неспакойным рахункам, калі процес пераходзіць з дэмаверсіі ў спяльныя среды. Зберагаеце у кэшы стабільныя інструкцыі системы і схемы інструментоў. Перадача ідэнтычных прамулінаў ёсць частым выклікам расходавання ресурсоў. Калі працуеце над стадзіяй «A Mental Model That», спачатку запісайце угоду: неабяжлівыя даны, сигнал успеху і тое, што выканаецца пад частым неяўнікам. Такі список пераканаецца, каб пазнейшыя змены коду былі чыстымі. Дакументавайце як «шчаслівы» шлях, так і шлях вяснавання. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў ёсць часткай продукту, а не пазнейшым дапрацоўкам.

Што зміняецца, калі агенты стаюць дзейнікамі на длігі час

Метод «Што змінюецца, калі агенты выканаюць свае задачы» працуе найэфектывней, калі яго розглядаць як вимерную структуру. Зафіксавайце адна ідеальная версія роботы, адзін прыклад неудачы і запіс працэй з вярненням да пачатковага стану, перш чым расширваць масштабы. Вядзейце вялікання над маленькімі, тэставальнымі елементамі замест большых скрыптов. Калі якісь крок не выйшае, прычына неудачы павінна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Рэзультаты роботы графа павінны быць простымі та атрыбутаваныя. Вкладзеныя структуры маскуюць інфармацыю пра тое, який вузел запісаў канкрэтны поле, і спакоююць працу пасля перерываў.

Пераход да рэальных патэранаў прыменення

Этап пераходу даўжыню пра рэальную працэзнае выкананне работае наяўней, калі яго спрыяваць як мерыемую паверхню. Запісаце адна «золатая» версія, адин прыклад неудачы і запіс пра вярненне да поперадней станові перш чым расширваць масштаб. Спрыявайце гэты этап як кантракт межа вхіднымі дадзеннямі і паверыжанымі выходнымі рэзультатамі. Даўце назвы артыфактам, задаце критэрыя успеху і адмовіцеся ад тыхняй частковай роботы без паведамлення. Храніце стан графа як плоскі і з адначытаемымі дадзеннямі. Вкладаныя блокі маскуюць, який вузел запісаў кожны поле, і спакоююць продажчыку роботы пасля перарываў.

Шаблон 1: Точка контролю і продажчык роботы (Найважнейшы)

Патэрн 1: Чекпоінт-і-Адзвярненне. Шэг гэты работае найкраща, калі яго спрыяюць як да меркавання. Зберагачыце адны ідеальны прыклад роботы, адны прыклад неудачы і запіс пра адзвярненне перад расшырэнням масштаба. Запісвайце часы выканання і косты токеноў або запытак праза функцыйнальныя рэзултаты. Відразлівасць костаў з самага пачатку запобегае неспакойным рахункам, калі процес пераходзіць з дэмаверсіі ў спяльныя среды. Чыніце стан графа плоскім і з адначытаемымі даннымі. Вярнутыя блокі маскуюць, який вузел запісаў канкрэтны поле, і спакшваюць адзвярненне пасля перарываў. Патэрн 1: Чекпоінт-і-Адзвярненне. Шэг гэты работае найкраща, калі яго спрыяюць як да меркавання. Зберагачыце адны ідеальны прыклад роботы, адны прыклад неудачы і запіс пра адзвярненне перад расшырэнням масштаба. Дакументавайце як шлях успеху, так і шлях вяснавання. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў ёсць часткай продукту, а не чымось, што дадаецца пазней.

Патэрн 2: Памяць, якая знаходзіцца за межамі модэлю

Для стадіі «Памяць 2: Шаблон» неабходна практыка адзначэння вхідных дадзеных, адпаведнага власніка крока і крэтарыяў завершэння працы перад зменым коду. Аперацыйныя працавнікі должны магчымае перадзначыць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выканаецца, прычына неудачы должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Калі наступны крок — гэта код або вызов інструмента, лепш выкарыстоўваць структураваныя выходны данні з перакананням ў схеме, а не вольная проза.

Шаблон 3: Раз’ядрэнне генеравання і ацэнкі

Для стадіі «Адыянае генераванне» у Патэрн 3 неабходна прадзеявленне вхідных дадзеных, адпаведнага адпаведальніка за крок і крэтарыяў выходу пры перадзеявленні коду. Аператары должны магчымае запускваць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Спрыяйце гэтай стадіі як кантракту межа вхіднымі дадзенымі і перакананымі выходнымі рэзультатамі. Даўце назвы артыфактам, прадзеявліце перакананні на успех і адмовіцеся ад тыхняга частковага завершэння без паведамлення. Забезпечыце людскія апраўдкі для тых крокаў, якія выкарыстоўваюць грошы або зменяюць данні ў працэсе вырабоцтва. Компіляцыйныя наладкі не ўзроўнаваліся з пачатковым станом бізнес-процэса.

Патэрн 4: Правільная участь чалавека

Для стадіі «Готаварылася» патэрна 4 з участю чалавека задаць неабяжна вхідныя даны, адпаведнага адпаведальнага за крок і крэтырыя для завершэння пры зміне коду. Аперацыйныя працавнікі должны магчымае перадзеўжваць крок з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Запісваць час выконання і кост токенаў або запытаў разам з функцыйнальнымі рэзултатамі. Відразы костаў з самага пачатку запобегае неспакойным рахункам, калі процес пераходзіць з дэмаверсіі ў спяльныя среды. Заставіць чалавека затвардзіць кожны крок, які выкарыстоўвае грошы або зміняе даны ў працэсе. Працэс складання коду не ўзроўнаважваецца з повнасцю бізнес-функцыйоналу. Для стадіі «Готаварылася» патэрна 4 з участю чалавека задаць неабяжна вхідныя даны, адпаведнага адпаведальнага за крок і крэтырыя для завершэння пры зміне коду. Аперацыйныя працавнікі должны магчымае перадзеўжваць крок з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Дакументаваць як «шчаслівы» шлях, так і шлях вярнення. Перапрыбуткі, людзкія контрольныя пункты і обработка некоректных запытаў є часткай продукту, а не чымсь іншым.

Для падчыркавання.

Шаблон 5: Коордынацыя флоту/колькасці агентаў

Калі працуеце над стадзіяй «Флот/Колькасць агентаў» па Шаблоне 5, спачатку запісайце умовы: неабходныя данні, сигнал успеху і тое, што выходзіць па частковай нявыполненасці. Такі список контроля дапамагае залічваць змяны ў кодзе чыста. Валічыце маленькія, тэставаныя елементы замест большых скрыптаў. Калі якісь крок не выйшоў, прычына нявыполнення павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцюг задач. Ствараеце контрольныя пункты пасля дорогіх крокаў. Програма не павинна зноў стягваць плата за той самы вызов LLM, калі аператар праканае пазнейшы вузел.

Як зазвычай выглядаюць системы для працы

Калі працюеце над этапам «Як зазвычай выглядаюць стэкі вырабоцтва», спачатку запісайце угоду: неабяжлівыя вхідныя даны, сигнал успеху і тое, што выходзіць у случае частковага невыпання. Такі список контролю дапамагае заліцвачыць пазнейшыя змены ў кодзе. Спрыймайце гэты этап як угоду межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаце критэрыя успеху і не прабуйце прыймаць часткова завершаную роботу без паведамлення. Зробіце контрольную точку пасля дорогіх крокаў. Програма не должна занова ставіць плату за той самы вызов LLM, калі аператар прабуе зноў выконаць пазнейшы вузел.

Практычныя правілы дизайну, якія дапамагаюць

Калі працуеце над стадзіяй «Практычныя правілы дазайна», спачатку запісаце кантракт: неабяжлівыя даннэ, сігнал успеху і тое, што выходзіць у разе частковага абякання. Такі список перакладоў заходзіць пазнейшыя змены коду чыстымі. Запісваце час выканання і кост токенаў або запытаў праза функцыйнае рэзультат. Відкрытыя данні пра косцы з’являюцца раней, таму не будзе неспакою, калі процес пераходзіць з дэмаверсіі ў спяльныя сераўы. Ствараце контрольную точку пасля дорогіх крокаў. Функцыя вярнення не должна зноў нарахоўваць косты той самай вызову LLM, калі аператар прабуюць зноў запрацаваць пазнейшы вузел. Калі працуеце над стадзіяй «Практычныя правілы дазайна», спачатку запісаце кантракт: неабяжлівыя даннэ, сігнал успеху і тое, што выходзіць у разе частковага абякання. Такі список перакладоў заходзіць пазнейшыя змены коду чыстымі. Дакументаваце як «шчаслівы» шлях, так і шлях вяснавання. Прабуры, людзкія контрольныя пункты і обработка некоректных паведамленняў є часткай продукту, а не чымсь, што дадаецца пазней.

Іншыя обмежэння

Этап «Залішныя абмежэнні» працюе найкраща, калі яго розглядаць як вимерную паверхню. Зафіксуйце адна ідеальная версія, адзін прыклад неудачы і запіс пра вярнэнне да поперадньяго стану, прычаму расширэння масштаба. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выходзіць, прычына неудачы павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцюг задач. Рэзультаты роботы графа трэба зберагаць у простаму, типізаваны формат. Вкладныя структуры маскуюць інфармацію пра тое, який вузел запісаў канкрэтны поле, і спакоююць працу пасля перерываў.

Заключныя меркі

Этап «Заключныя меркіі» працюе найэфектывней, калі яго спрыяваць як меравальную плошчу. Запісаўце адна «золатая» транскрыпцыя, адзін прыклад неудачы і запіс пра вярненне да пачатковага стану перш чым расширваць масштаб. Спрыявайце гэты этап як кантракт межа вхіднымі даннымі і перакананымі выходнымі рэзультатамі. Даўце назвы артыфактам, задаце критэрыя успеху і адмовіцеся ад мовчанкавага частковага завершэння. Храніце стан графа ў простам і типаваным формате. Вкладзеныя блокі маскуюць, який вузел запісаў кожны поле, і спакшуюць продажчэнне пасля перарываў.

Чек-ліст для эксплуатацыі

Для этапа чек-ліста для эксплуатацыі задаце вхідныя даны, адпаведальнага за крок і критэрыя завершэння перш чым зменіце код. Аперацыйныя працавнікі павінны магчымае перазапускаць крок з вядомай точкі контролю, не падозрэўчы ў схованым стане.

Храніце настройкі параду ад коду прыемленае. Файлы сераўіса, хранальнікі секрэтных дадзеных і флагі функцый павінны знаходзіцца ў аднам месцы, якое працавнікі можу аудытаваць, не чытаючы весь граф.

Неабяжна людская падзея на тых элементах, які выдваюць грошы або зменяюць даны працы. Падключэнне ў час компілявання не адпавядае цэласообразнасці бізнесу.

Напісайце кароткі посібнік: як роцыяваць канты, як спрачысці очаквальную лісту, як анулюваць пярэдню імпортацыю даных.

Документавайце як шлях успеху, так і шлях вяснавання. Практыкі перапрыбутку, людскія контралі і обработка некоректных паведамленняў є часткай продукту, а не дадатковым дапрацоўкам.

Неабяжна людская падзея на тых элементах, які выдваюць грошы або зменяюць даны працы. Падключэнне ў час компілявання не адпавядае цэласообразнасці бізнесу.

Перад павышэнням версій продукту заморозьце іх, зафіксавайце ідеальны прымер дзейнаўства для критычнага шляху і падтвердзіце крокі анулювання. У спяльных средах неабходны ліміты частоты запытоў, перакананні ў належнасці ресурсаў і чысткі власнік для роцыявання секрэтных даных. Валіце надзейнасць, якая не выклікае сумневаў, працоўнасць хітрых разовых дэманстрацый.

Запіскі для пакета 569b38bcfae5: не трэба кантрацаваць ключы прадастоўцаў у репозітарыі, задаць максімальную кантроль на токены за сесію, а таксама зберагчы транскрыпціі праза фіксатуры адлічэння, каб пазнейшыя замены моделяў заставаліся пораўнанымі.