Інжынерыя цыкла агента: поўны гід да прадакшн-AI
Інжынерыя цыкла для прадакшн-агентаў: ад перадачы LLM інструментаў да праектавання самога цыкла агента — з архітэктурай, патрэбнай на кожным этапе.
Крыніцы: Agent Loop Engineering : A Complete Blog to Production AI Agent Architecture — Part-2
У гэтым карыце парадоксу перадстаўляецца шлях ад сыр'ёчных матэрыялаў да рабочай сістэмы для: Agent Loop Engineering : A Complete Blog to Production AI Agent Architecture — Part-2. Акцэнт ставіцца на практычныя крокі, чысткія перакананні і код, які можна прыўязаць да рэпазітарыю без неабязковасці здогадвацца пра мету. У стадыі агледзення неабходна праказаць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння пры перадзмене коду. Аперацыйныя працавнікі должны магчымае перадзначыць крок з вядомай точкі контролю, не прабуючы здагадвацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшоў, прычына нехацкага рэзультата должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны працэс.
Частка 2: Інжынерыя лупаў
Калі працуеце над стадзіяю інжынерыі цыклаў у Частцы 2, спачатку запісайце кантракт: неабходныя вхідныя даны, сігнал успеху і тое, што выходзіць у разе частковага абякання. Такі спіс пераканальвае ў тым, што пазнейшыя змены коду будуць чыстымі. Спрыймайце гэтую стадзію як кантракт межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаць правіла пераканання успеху і не падзеўляйцеся частковым завершэнням без паведамлення. Зробіце перакананне пасля дорогіх крокаў. Програма не должна зноў выклікаць той самы кантакт з LLM, калі аператар пракушае пазнейшы вузел.
Ад надання агентам інструментаў да ўдосконалення іх
Калі працюеце над стадзіяй «З’ядры засобаў для агентаў», спачатку запісайце контракт: неабходныя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі спіс перакладоў заходзіць пазнейшыя змены коду чыстымі. Запісвайце час выканання і кост токенаў або запытаў праза функцыйнае рэзультат. Відкрытыя даны пра косцы запобегаюць неспакойным рахункам, калі працэс пераходзіць з дэмаверсіі ў спяльныя асяроддзя. Запішвайце назву засоба, хэш аргументаў, час задзеявання і рэзультат кожнага вызову. Без такога лёгкага следу дэбагаванне цыклаў агента губіць гадзіны.
Але ёсць проблема.
Калі працуеце над праектам, спачатку запісайце умовы ўгоды: неабходныя даны, сігнал успеху і тое, што вядзецца пад частым нявыпаннем. Такі спіс контроля дапамагае заліцвачыць пазнейшыя змены ў кодзе. Зберагаюце настройкі паза кодам прыемленае. Файлы серавэра, хранілішча секрэтных даных і флагі функцый крануцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжнага чытання всіх элементаў. Стварайце контрольныя пункты пасля дорогіх крокаў. Сістэма восстанавлення не должна занова сцягваць плата за той самы вызыв LLM, калі аператар перапрыяўляе працу да наступнага элемента. Калі працуеце над праектам, спачатку запісайце умовы ўгоды: неабходныя даны, сігнал успеху і тое, што вядзецца пад частым нявыпаннем. Такі спіс контроля дапамагае заліцвачыць пазнейшыя змены ў кодзе. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшоў, прычына нявыпаннення должна вказываць на адную адпаведальнасць, а не на заплутаны ланцужок крокаў.
Вы. Што такое інжынерыя ціклу?
Этап «Што такое цыкл» працюе найэфектывней, калі яго розглядаць як вімерную паверхню. Зафіксавце адны ідэальны прыклад, адну справу з бягам і запіс пра вярнэнне да пачатковага стану, перш чым расшырваць масштабы. Разглядзайце гэты этап як кантракт межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даўце назвы артыфактам, задаце крытэрыя успеху і не падзеўляйцеся частым, непূরным выкананнем задачы. Храніце стан графа ў простам і тыпаваным фармаце. Вкладзеныя блокі маскуюць інфармацыю пра тое, які вузел запісаў канкрэтны поле, і спакойваюць працу пасля перарываў.
II. Чаму кожнам АІ-агенту патрэбны цыклы
II. Прычына, чаму кожны ўраджак AI працюе наякша, калі яго розглядаць як вімерную паверхню. Зафіксавайце адны ідэальны прыклад працы, адзін прыклад неудачы і запіс пра вярнэнне да поперадньего стану, прычым расшыраючы сферу дзеяння. Запісвайце часы выканання і косты токенав або запытаў па боку ад функцыйнальных рэзультатаў. Візуабельнасць костаў з самага пачатку запобегае неспакойным рахункам, калі працэс пераходзіць з дэмавайнога рэжыма ў спяльныя сераўы. Храніце стан графа ў простам і тыпаваным фармаце. Вкладзеныя блокі маскуюць інфармацыю пра тое, які вузел запісаў канкрэтны поле, і спакшваюць продажчыку працу пасля перарываў.
1. Базовы цыкл агента
Этап 1 Basic Agent Loop працюе найкрашча, калі яго розглядаць як вімерную паверхню. Зберагчыце адна ідэальная транскрыпцыя, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расшырваць сферу дзеяння. Храніце настройкі параду ў кодзе прыемлена. Файлы серавэра, базы секрэтных даных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаць адбавляць контроль, не чытаючы весь граф. Храніце стан графа у простам і тыпаваным фармаце. Вярнутыя структуры даных маскуюць інфармацыю пра тое, які вузел запісаў які поле, і спакоююць продаж чынення пасля перарываў.
while not goal_reached:
result = agent.act()
evidence = evaluate(result)
if evidence.success:
break
agent.learn(evidence.feedback)
Этап 1 Basic Agent Loop працюе найкрашча, калі яго розглядаць як вімерную паверхню. Зберагчыце адна ідэальная транскрыпцыя, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расшырваць сферу дзеяння. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына неудачы должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцоўкі дзеяння.
Прыклад: Кодаванне агента
Для этапы Example Coding Agent неабяжна ўзначыць вхідныя даны, адпаведальнага за крок і крэтыры завершэння пры змяне коду. Аперацыйныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не падозрываючы схованы стан. Спрыяйце цій этапы як кантракту межаў вхідных дадзеных і перакананых выходных рэзультатаў. Даць назвы артыфактам, узначыць перакананні ў успеху і адмовіцца ад тыхняе частковага завершэння без паведамлення. Заставіць людзкую апраўду для тых крокаў, якія выкарыстоўваюць грошы або зміняюць даны ў працэсе. Компіляцыйныя налашчанні не ўзначаюць павнае завершэння бізнес-працэсу.
III. Анатамія добра спраектаванага цыклу
Для III анатаміі этапы неабяжна ўскладнення: прадзеўлі, адпаведальны за кожную ступень і крэтыяры завершэння, прычаму трэба зменіць код. Аператары должны магчымае запускіць ступень з вядомай точкі контролю, не падозрываючы схованы стан. Запісваць час выканання і кост токенаў або запытаў разам з функцыйнальнымі рэзултатамі. Відразы костаў з самага пачатку запобегае неспакойным рахункам, калі працэс пераходзіць з дэмаверсіі ў спяльныя асяроддзя. Пры застосаванні грошэй або змяне дадзеных у працы неабяжна людская апраўда. Кампіляцыйны падключэння не ўзначае повнасці бізнес-процэсу.
Хорашы цікл складаецца з калька чыста адзначаных элементаў:
Ёнклужна петля трэба структураваць: неабходна ўзначэнне вхідных дадзеных, адпаведальнага за кожны крок і крэтарыў выходу пры змяне коду. Аператары должны магчымаць перзапуск крока з вядомай точкі контролю, не падозрываючы прыхованы стан. Канфігурацыю трэба знаходзіць за межамі коду прыемлікі. Файлы сераўнавання, храненні секрэтных дадзеных і флагі функцыяў должны быць у аднам месца, куда аператары можаць адзіроўваць іх, не чытаючы весь ланцуг задач. Для крокаў, якія выкарыстоўваюць грошы або зменяюць даны ў працэсе, неабходна людская апраўда. Прыўязкі, якія ствараюцца ў часе компіляцыі, не ёсць падтверджэнням полныя адпаведнасці прыемлікі бізнес-трэбаванням.
1. Актывацыя
Для этапы 1 «Актывацыя» неабходна прадзеўжэнне вводных дадзеных, выявлення адпаведнага адпаведальнага за шаг і вызначэнне крэтарыяў завершэння працы перад зменым коду. Аперацыйныя працавнікі должны магчымае запускаць шаг з вядомай точкі контролю, не прабуючы спадарожваць схованы статус. Неабходна адначасна задокументаваць шляхы правільнага выканання і вярнэння да нормальнага стану. Перапрыбуткі, людзкія пераказы і обработка некорэктных паведамленняў ёсць часткай продукту, а не элементамі, якія дадаюцца пазней. Неабходна людзкая апраўда для тых крокаў, якія веду да выдаткаў грошаў або зменыння продакцыйных дадзеных. Працэс кампілявання коду не ўзроўнаважваецца з абсягам функцыональнасці продукту.
2. Цель
Для этапы з 2 целямі неабяцо пазначыць вхідныя даны, адпаведнага адпаведальнага і крэтыяры выходу пры перадзеіснаванні коду. Аператары должны магчымаць перадзеіснаванне крока з вядомага пункта контролю без неабяцовага адгадвання захаванага стану. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшае, прычына неудачы должна вказываць на адзін конкрэтны аспект, а не на заплутаны працэс. Неабяцо працаваць з адзменнем людзей у тых віпадках, калі гэта стосуецца выдатакоў чы змян у продукцыйных даных. Компіляцыйная наладка не ўзначае повнайшага адпаведнення бізнес-трэбаванням.
"All unit tests must pass."
"Make it better."
3. Стан
Для 3-й стадзіі «Стан» неабяжна ўскладненне вхідных дадзенняў, адпаведнага власніка крока і крэтарыяў завершэння працы перад змінай коду. Аператары павінны магчымае перзапускаты крок з вядомай точкі контролю, не прабуючы спадарожваць схованы стан. Спрыяйце цій стадзіі як даговору межаў вхідных дадзенняў і перакананых выходных рэзультатаў. Даўце назвы артыфактам, ускладненне перакананняя успеху і адмовіцеся ад беззвучнага частковага завершэння. Забяжцеся пры справах, якія выкарыстоўваюць грошы або зміняюць даны для працы, прынятныя людзкія падтверджэнні. Компіляцыйныя налашчэнні не ўзроўнаўцяюцься з пачатковай цэласнасцю бізнес-процэсаў.
4. Палітыка дзеянняў
Для этапы 4 «Палітры дзеяння» неабходна прадзеўжчае вызначэнне інпутаў, адпаведальнага за крок і крэатарыяў завершэння працы перад зменым коду. Аперацыйныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Запісваць трываласць выканання і кост токенаў або запытаў праза функцыйнае рэзультаты. Відкрытыя даныя пра косцы запобегаюць неспакойным рахункам, калі працэс пераходзіць з дэмавай версіі ў спяльныя асяроддзя. Апраўдка чалавека неабходна для тых крокаў, якія выкарыстоўваюць грошы або зміняюць даныя ў працэсе. Кампайляванне коду не абавязкова значыць ўсепакоўнае выкананне бізнес-функцыйяў.
Што можа рабіць агент?
Для этапы «Што такое агент» неабяжна прадзефінавацыя вхідных дадзеных, адпраўніка крока і крэтарыяў завершэння працы перад зменым коду. Аперацыйныя працавнікі павінны магчымае перапрацоўваць крок з вядомага пункту контролю, не спрабоўваючы здагадвацца пра схованы стан. Конфігурацыю трэба заставляць праза код аплікацыі. Файлы серавэра, хранальнікі секрэтных дадзеных і флагі функцыйяў павінны знаходзіцца ў адном месцы, якое працавнікі можуць пераглядаць, не чытаючы весь ланцуг задач. Прызначайце людскія апраўды для рэласаў, якія выкарыстоўваюць грошы або зміняюць даныя у працэсе. Прыўязка на час компілявання не ёсць падтверджэннем полныя адпраўленасці бізнес-процэсу. Для этапы «Што такое агент» неабяжна прадзефінавацыя вхідных дадзеных, адпраўніка крока і крэтарыяў завершэння працы перад зменым коду. Аперацыйныя працавнікі павінны магчымае перапрацоўваць крок з вядомага пункту контролю, не спрабоўваючы здагадвацца пра схованы стан. Валічыце маленькія, тэставальныя елементы пра велікія скрыпты. Калі крок не выйшоў, прычына нехарактэрыстыкі павінна вказываць на адную адпраўленасць, а не на заплутаны ланцуг задач.
5. Доказы
Калі працюеце над 5-м этапам доказаў, спачатку запісайце контракт: неабходныя вхідныя даны, сігнал успеху і тое, што выходзіць у разе частковай нявыполненасці. Такі спіс пераканае ў тым, што пазнейшыя змены коду будуць чыстымі. Спрыймайце гэты этап як контракт між вхіднымі данымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаце крытэрыя успеху і не падзволяйце частковай нявыполненасці без паведамлення. Зробіце перапактаванне пасля дорогіх крокаў. Сістэма вярнення не павінна знову ставіць рахунак за той самы вызов LLM, калі аператар праканае пазнейшы вузел.
6. Адгукі
Калі працюеце над 6-ю стадзіяй зворотнага звязку, спачатку запісайце угоду: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі спіс пераконвае ў тым, што пазнейшыя змены коду будуць чыстымі. Запісвайце час выканання і кост токена або запыту праза функцыйнальнымі рэзултатамі. Відразы коста з самага пачатку запобегае неспакоўным рахункам, калі працэс пераходзіць з дэмаверсіі ў спяльныя асяроддзя. Зробіце перапаконтаванне пасля дорогіх крокаў. Сістэма не должна зноў нарачываць плата за той самы вызов LLM, калі аператар прабуе зноў запрацаваць пазнейшы вузел.
"Try again."
"Three tests failed because the API returns a string where an integer is expected."
7. Правіла абаранення
Калі працуеце над стадзіяй «Правіла 7 зупынакоў», спачатку запісайце умовы працы: неабходныя даны, сігнал успеху і тое, што выходзіць пад час частковага абякання. Такі спіс дапамагае заліцвачыць пазнейшыя змены ў кодзе. Зберагайце настройкі параду ўнутры коду прыемлі. Файлы сераўіса, хранільнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаць адбавіць аўдыт без неабясненага чытання всіх элементаў. Стварайце контрольныя пункты пасля дорогіх крокаў. Сістэма вярнення працы не должна занова ставіць плату за той самы вызыв LLM, калі аператар перапрыямляе працу да наступнага элемента. Калі працуеце над стадзіяй «Правіла 7 зупынакоў», спачатку запісайце умовы працы: неабходныя даны, сігнал успеху і тое, што выходзіць пад час частковага абякання. Такі спіс дапамагае заліцвачыць пазнейшыя змены ў кодзе. Валіць лепшая маленькія, тэставаныя елементы, чым велікія скрыпты. Калі крок абякае, прычына абякання должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач.
IV. Ціклы, адмовленыя на падставе доказаў, протырація на падставе адпаведальнасці
Этап IV «Аполяганне на доказах протыва аполягання на паверзе» работае найэфектывней, калі яго спрыяваць як мерыемую структуру. Запісаўце адну ідэальную версію транскрыпцыі, адзін прыклад неудачы і запіс пра вярнэнне да поперадньага стану, прычым расшыруючы масштабы. Спрыяйце гэтаму этапу як кантракту межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даўце назвы артыфактам, задаце крытэрыя успеху і адмовіцеся ад тых падчасовых завершэнняў, якія не зафіксаваны. Зберагачыце стан графа ў простам і тыпаванам фармаце. Вярнутыя структуры маскуюць інфармацыю пра тое, які вузел запісаў кожны поле, і спакшваюць продажчэнне працы пасля перарываў.
"The code looks correct."
"The tests pass, the type checker passes, and the API returns the expected response."
V. Звычныя шаблоны ціклаў
Этап V Common Loop Patterns працюе найкрашча, калі яго розглядаць як вімерную паверхню. Запісаце адна ідэальная версія працы, адзін прыклад неудачы і запіска пра вярнэнне да пачатковага стану перш чым расшырваць масштабы. Запісвайце час выканання і кост токеноў або запытаў праза функцыйнае рэзультат. Відразлівае паказанне костаў з самага пачатку запобегае неспакою, калі працэс пераходзіць з дэмавайнага рэжыма ў спяльныя асяроддзя. Храніце стан графа у простам і тыпаваным фармаце. Вкладзеныя блокі маскуюць інфармацыю пра тое, які вузел запісаў канкрэтны поле, і спакшваюць продажчыку працу пасля перарываў.
1. Ціклы павторных спроб
Этап «1 паўторныя ціклы» працюе наякша, калі яго спрыяглядаць як мерыемую паверхню. Зберагачыце адна ідэальная транскрыпція, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расшырваць сферу дзеяння. Храніце настройкі парадульна коду прыемлі. Файлы сяродавішча, хранальнікі секрэтных дадзеных і флагі функцый павінны знаходзіцца ў адном месцы, куды аператары можаць аўдытуваць без неабяжнага чытання всіх элементаў структуры. Храніце стан структуры у простам і тыпаваным фармаце. Вярнутыя блокі дадзеных маскуюць інфармацыю пра тое, які вузел запісаў канкрэтны поле, і спакоююць продажчыку пасля перарываў. Этап «1 паўторныя ціклы» працюе наякша, калі яго спрыяглядаць як мерыемую паверхню. Зберагачыце адна ідэальная транскрыпція, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расшырваць сферу дзеяння. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына неудачы павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцужок дзеяння.
2. Ціклы рэфлексіі
Для этапы 2 «Цыклы адзеркаўвання» неабходна перад змянай коду задаць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння. Аперацыяныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Спрацавляйце з гэтай стадыяй як з кантрактом межаў вхідных дадзеных і перакананых выходных рэзультатаў. Даць назвы артыфактам, задаць перакананні ў успеху і адмовіцца ад тыхняга частковага завершэння без паведамлення. Заставіце людзкую апраўду на тых кроках, дзе выкорыстоўваюцца грошы або зміняюцыся даны для працы. Працэс складання коду не ўзроўнаважваецца з пачатковай цэласнасцю бізнес-процэса.
3. Цыклы ацэнкі
4. Цыклы самаўтвэрджэння
def solve_problem(problem):
for _ in range(5):
solution = agent.generate(problem)
result = run_tests(solution)
if result.passed:
return solution
problem = agent.analyze_failure(
problem,
result.errors
)
raise RuntimeError("Unable to solve the problem")
VI. Прыклады з рэальнага жыцця
1. Агенты для кодавання
Прыклад: Агент для кодавання
Фрагмент коду: Цыкл кодавання, аднойчыны заснованы на доказах
for attempt in range(MAX_RETRIES):
code = agent.generate()
result = run_tests(code)
if result.passed:
return code
agent.update(result.errors)
raise RuntimeError("Could not produce a valid solution")
2. Агенты для даследжэння
Фрагмент коду:
MAX_ITERATIONS=6
def research_agent(topic):
state = {
"sources": [],
"gaps": [topic]
}
for _ in range(MAX_ITERATIONS):
# 1.Search
results=search_web(state["gaps"])
# 2.Read
documents=read_sources(results)
# 3.Evaluate
useful_sources=evaluate_sources(documents)
state["sources"].extend(useful_sources)
# 4.Identify gaps
state["gaps"]=find_knowledge_gaps(
topic,
state["sources"]
)
# 5.Stop when enough evidence exists
if not state["gaps"]:
break
# 6.Synthesize
return synthesize_report(
topic,
state["sources"]
)
3. Стварэнне кантэнта
Фрагмент коду
def content_agent(topic, requirements):
draft = generate_draft(topic)
for _ in range(3):
evaluation = evaluate(
draft,
requirements
)
if evaluation.passes:
return draft
draft = revise(
draft,
evaluation.feedback
)
raise RuntimeError("Could not satisfy requirements!")