Практычныя нататкі: 5 навуковых артыкулаў, якія варта ведаць кожнаму інжынеру агентнага AI

У гэтым карыце парадоксальна дорага ад сыр'ёў да рабочай сістэмы для: «5 статэйк, якія кожны інжынер агентных AI-сістэмаў павінен знаць». Акцэнт ставіцца на практычныя крокі, чыстае перакананне і код, які можна проста падставіць у рэпазітарый без неабясненых падозр. У стадыі адгляду неабходна з'явіць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння прычыму перад зменай коду. Аператары должны магчымае перадзваніць крок з вядомай точкі контролю без неабясненняя скрытых станоў. Запісваюцца часы выканання і косты токеноў або запытаў разам з функцыйнальнымі рэзультатамі. Відразлівае паказанне костаў запобегае неспадзяваным рахункам, калі працэс пераходзіць з дэмаверсіі ў спакульнаныя сераўысы.

Прымечанне для безкоштовных чытачоў

Калі працуеце над A-запісам для безкоштовнага ўровня, спачатку запісайце угоду: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі спіс пераконтроўвае чыстасць пазнейшых змян у кодзе. Зберагаюце настройкі праза код аплікацыі. Файлы сераўнавання, хранільнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаць адбавіць аўдыт без неабяжлівага чытання всей структуры. Стварайце контрольныя пункты пасля дорогіх крокаў. Сістэма вярнення не должна занова ставіць плату за той самы вызыв LLM, калі аператар перапрыяўляе працу да наступнага вузла.

1. ReAct — Разумаванне + Дзеянне

Калі працуеце з стадзіяй 1 ReAct «Разумаванне» і «Дзеянне», спачатку запісайце контракт: неабяжлівыя даны, сігнал успеху і тое, што выканаецца пад частковым нявыходзе. Такі спіс пераканаецца ў тым, што пазнейшыя змены коду будуць чыстымі. Документавайце як «шчаслівы» шлях, так і шлях вяснавання. Перапрыбуткі, людзкія контралі і обработка некорэктных паведамленняў ёсць часткай продукту, а не пазнейшым дапрацоўкам. Зберагайце у кэшы стабільныя інструкцыі сістэмы і схемы інструментаў. Перасылка ідэнтычных прамуслов ёсць частым выклікам зношэння рэсурсаў.

ReAct: Сінергія разумавання і дзеяння ў мовных мадэлях

Калі працуеце над стадзіяй ReAct Synergizing Reasoning, спачатку запісайце контракт: неабяжлівыя даны, сігнал успеху і тое, што выканаецца у разе частковага нявыходу. Такі спіс пераканаецца, каб пазнейшыя змены коду былі чыстымі. Волейце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, нявыход павінен вказваць на адзінную адпаведальнасць, а не на заплутаны ланцужок задач. Зберагаеце у кэшы стабільныя інструкцыі сістэмы і схемы інструментаў. Перадзял у тое ж самае прамэру ёсць частым выклікам затрачання рэсурсаў. Калі працуеце над стадзіяй ReAct Synergizing Reasoning, спачатку запісайце контракт: неабяжлівыя даны, сігнал успеху і тое, што выканаецца у разе частковага нявыходу. Такі спіс пераканаецца, каб пазнейшыя змены коду былі чыстымі. Запісвайце час выканання і кост токенаў або запытаў разам з функцыйнальнымі рэзултатамі. Відразувая візуабельнасць костаў запобегае неспакойным рахункам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўысы.

Think → Act → Observe → Think → Act → Observe

Чаму гэта важна сёньня?

Этап «Чаму гэта важна сёньня?» працюе найкрашча, калі яго розглядаць як вімерную плошчу. Зафіксавце адны ідэальны прыклад, адну справу з бягам і прыметку пра відкатаванне перш чым расшырваць масштаб. Зберагаеце настройкі пазыроўна ад коду прыемлівання. Файлы сераўнавальнага сэрвісу, хранілішчы секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаць адбавляць контроль без неабяжнага чытання всіх дадзеных. Зберагаеце стан графа ў простам і тыпаваным фармаце. Вкладзеныя блокі дадзеных маскуюць інфармацыю пра тое, канфігурацыйны вузол запісаў канкрэтнае поле, і спакойваюць працу пасля перэрываў.

2. Toolformer — Навчанне модэляў, калі вжываць інструменты

Мадэлі навчання Toolformer у два этапы працюют наявнасць лепшая, калі іх розглядаць як вімерную паверхню. Запісаце адна ідэальная версія працы, адзін прыклад неудачы і запіс працэй праз вярненне да пачатковага стану пры расшырэнні масштаба. Дакументавайце як шлях успеху, так і шлях вярнення да нормальнага стану. Перапрыбуткі, людзкі контроль і обработка некорэктных поведэнняў ёсць часткай продукту, а не паслядзейным дапрацоўкам. Задаце ліміт токенав на кожны раунд і на кожную сесію. Агентскія інструменты агрэсывна расшырваюць кантэкст; строгі ліміты запобегаюць таму, каб дэманстрацыі ператварыліся на неспакоўныя рахункі.

Toolformer: Мадэлі мовы можуць самі навучыцца вядомаць інструменты

Модэлі языка Toolformer працююць наякша, калі іх спрыяваць як меркаваную паверхню. Зберагчыце адны ідэальны прыклад выкарыстоўвання, адну справу з бягам і прыметкі па адварцыю раней, чым расшырваце сферу дзеяння. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына бягу должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Задаеце ліміт токенав на кожны рунг і на кожную сесыю. Агентныя інструменты агрэсіўна расшырваюць кантэкст; строгі ліміты запобегаюць таму, каб дэманстрацыі ператварыліся на неспакоўныя рахункі. Модэлі языка Toolformer працююць наякша, калі іх спрыяваць як меркаваную паверхню. Зберагчыце адны ідэальны прыклад выкарыстоўвання, адну справу з бягам і прыметкі па адварцыю раней, чым расшырваце сферу дзеяння. Запісвайце час выканання і кост токенав або запытаў разам з функцыйнальнымі рэзультатамі. Відразлівае паказанне костаў з самага пачатку запобегае неспакоўным рахункам, калі працэс пераходзіць з дэманстрацыі ў спяльныя сераўысы.

3. Генератывныя агенты — памяць, размышленне і планаванне

Для этапы памяці 3-х генератыўных агентаў неабходна падзеяць вводныя даны, адначленае власніка крока і крэтыяры выходу пры перадзеі коду. Аператары должны магчыма было перзапускаць крок з вядомай точкі контролю, не спрабоўваючы з’ясаваць захаваны стан. Конфігурацыю трэба залічыць параду ад коду прыкладнення. Файлы сяродавішча, хранільнікі секрэтных дадзеных і флагі функцый должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць, не чытаяўшы весь ляс. Прызначыць людскія апраўджэння для рэшэнняў, якія вітрачаюць грошы або зменяюць даны праўай працы. Падключэння ў час складання не адпавядае пачатковай цэлесапраўленасці бізнесу.

3. Генератыўныя агенты — памяць, рэфлексія і планаванне

Для этапы памяці 3-х генератыўных агентаў неабходна падчас змены коду вызначыць вхідныя даны, абавесця крока і крэтыры завершэння. Аперацыяныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Неабходна аддзеўнаваць як шлях успеху, так і шлях вярнення да нормальнага стану. Перапрыбуткі, людзкія пераказы і обработка некорэктных паведамленняў ёсць часткай продукту, а не элементамі пазнейшага дапрацоўкі. Неабходна людзкая аправарэнне для тых крокаў, якіе выкарыстоўваюць грошы або зміняюць даны праработкі. Працэс складання коду не ўзроўнаваецца з повнасцю функцыоналу продукту.

Генератыўныя агенты: інтэрактывныя сімулякры людзкага паведамлення

Для этапы Generative Agents Interactive Simulacra неабяжна ўзначыць вхідныя даны, адпаведальнага за крок і крэтыры завершэння пры змяне коду. Аперацыйныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшоў, прычына нехацякавага рэзультата должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Заставіць людзкую апраўду на тых этапах, дзе відбываецца выдатак грошэй або зміняюцыся даны праработкі. Компіляцыйныя налашчэння не ўзначаюць павнае адпрацоўванне бізнес-процэсаў. Для этапы Generative Agents Interactive Simulacra неабяжна ўзначыць вхідныя даны, адпаведальнага за крок і крэтыры завершэння пры змяне коду. Аперацыйныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Запісваць час выканання і кост токеноў або запытаў разам з функцыйнальнымі рэзультатамі. Відразлівасць костаў з самага пачатку запобегае неспадзяваным рахункам, калі відбываюцца змяны ў ланцюгу задач.

Пераход з дамавайчага сярэдзе на спакульнае сярэдзе.

4. Размышленне — Навучанне на адказе

Калі працуеце над стадзіяй 4 «Размышленне — Навучанне на адказе», спачатку запісайце умовы: неабяжлівыя даныя, сігнал успеху і тое, што выходзіць пад часты адказ. Такі спіс контроля дапамагае заліцвачыць змяны ў кодзе. Зберагаюце настройкі паза кодам прыемліка. Файлы сярэдзе, храненні секрэтных даных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаюць адбавіць аўдыт без неабяжлівага чытання всей структуры. Стварайце контрольныя пункты пасля дорогіх крокаў. Сістэма вярнення не должна занова ставіць плата за той самы вызыв LLM, калі аператар перапрыяўляе працу да пазнейшай вузлы.

Размышленне: Агенты мовы з вербальным навучаннем пад керуванням

Калі працуеце з агентамі языка Reflexion Language Agents паэтапна, спачатку запісайце угоду: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі спіс пераконтроўкаў дапамагае заліцвачыць пазнейшыя змены ў кодзе. Дакументавайце як шлях успеху, так і шлях вяснавання. Перапрыбуткі, людзкія контралі і обработка некорэктных паведамленняў ёсць часткаю продукту, а не пазнейшым дапрацоўкам. Зробіце контрольную пазнаку пасля дорогіх крокаў. Сістэма вярнення не павінна знову ставіць плату за той самы вызов LLM, калі аператар перапрыбуе пазнейшы вузел.

5. AutoGen — Калі аднаго агента недастаткова

Калі працуеце над 5 стадзямі AutoGen When One, спачатку запісайце умовы працы: неабяжлівыя даны, сігнал успеху і тое, што выходзіць пад частыя неудачы. Такі спіс контроля дапамагае заліцвачыць змяны ў кодзе пазнейша. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, неудача павінна вказваць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Зробіце перапактаванне пасля дорогіх крокаў. Програма не павінна зноў сцягваць плата за той самы вызов LLM, калі аператар праказвае спробу ў выйшлым вузле.

AutoGen: Адкрыванне можлівасцей для прыёмнікаў LLM наступнага паколення за дапамогою кансэрвацій мнагах агентаў

Калі працюеце над стадзіяй AutoGen Enabling Next-Gen LLM, спачатку запісайце контракт: неабяжлівыя даныя, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі спіс перакладзець пазнейшыя змены коду ў правільным напрамку. Спрэцьвуйце да гэтай стадзіі як да контракту межа данымі і перакананымі выходамі. Дайце назву рэзультатам, задаце крытэрыя успеху і не падпісваюцеся на тыхое часткова завершэнне. Зберагачвайце стабільныя інструкцыі сістэмы і схемы інструментаў. Перадача тых самых прамэры ёсць частым выклікам затрачання рэсурсаў.

Заключэнне:

Калі працюеце над стадзіяй Заключэння, спачатку запісайце угоду: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі спіс пераконвае ў тым, што пазнейшыя змены коду будуць чыстымі. Запісвайце час выканання і кост токенаў або запытаў праза функцыйнае рэзультат. Відкрытыя даны пра косцы запобегаюць неспакоўным рахункам, калі працэс пераходзіць з дэмаверсіі ў спяльныя асяроддзя. Зробіце перапаконтнай перагляд пасля дорогіх крокаў. Сістэма абновлення не должна зноў нарахоўваць косты той самай вызову LLM, калі аператар прабуюць зноў запрацаваць пазнейшы вузел.

З науковых працэў да агентных сістэм

Калі працуеце над пераходам з нарадзей парадоксаванняў да этапы рэалізацыі, спачатку запісайце контракт: неабходныя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі спіс контроля дапамагае заліцвачыць змяны ў кодзе пазнейша. Зберагайце настройкі за межамі коду прыемліка. Файлы сераўнавання, хранільнікі секрэтных дадзеных і флагі функцый крануцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжнага чытання всіх элементаў сістэмы. Стварайце контрольныя пункты пасля дорогіх крокаў. Сістэма вярнення не павінна занова ставіць плату за той самы вызыв LLM, калі аператар прабуе зноў выконаць пазнейшы элемент.

Калі вам паспадабляецца гэта:

Калі працуеце над этапам «Якшчы гэта той этап, спачатку запісайце контракт: неабяжлівыя даныя, сігнал успеху і тое, што выходзіць у разе частковага нявыпання». Такі спіс пераконтролю дапамагае заліцварыць пазнейшыя змены ў кодзе. Документавайце як «шчаслівы» шлях, так і шлях вяснавання. Перапрыбуткі, людзкія контрольныя пункты і обработка некорэктных паведамленняў ёсць часткай продукту, а не пазнейшым дапрацоўкам. Зробіце пераконтроль пасля дорогіх крокаў. Сістэма вярнення не павінна знову ставіць плату за той самы вызов LLM, калі аператар перапрыбуе пазнейшы вузел.

Этап пераконтролю

Этап пераконтролю працуе найэфектывней, калі яго спрыяглядаць як вімерную плошчу. Запісайце адна ідэальная транскрыпцыя, адзін прыклад нявыпання і прыметку па вярненню да пачатковага стану, перш чым расшырваць масштаб. Спрыяглядайце гэты этап як контракт межа данымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаць крытэрыя успеху і адмовіцеся ад мовчанкавага частковага завершэння.

Зберагаюце стан графа ў простам і тыпаваным фармаце. Вкладаныя блобы маскуюць інфармацію пра тое, які вузел запісаў якое поле, і спакоююць працэз выканання пасля перэрываў.

Калі дозволяе бюджэт, дадзіце тэст на перакананне, які працюе з крытычным шляхам у сістэме CI за дапамою фіксатываў, а не з рэальнымі платнымі API.

Запісвайце час выканання і кост токена або запыту разам з функцыйнальнымі рэзултатамі. Відразы коста з самага пачатку запобегае неспакою, калі шлях пераходзіць з дэмаверсіі ў спакульнаныя сераўсы.

Зберагаюце стан графа ў простам і тыпаваным фармаце. Вкладаныя блобы маскуюць інфармацію пра тое, які вузел запісаў якое поле, і спакоююць працэз выканання пасля перэрываў.

Перш чым апранаваць стак, заморозьце версіі, зафіксуйце ідэальны транскрыпт для крытычнага шляху і паказвайце крокі для атрыбутаўвання. У спакульных сераўсых неабходны ліміты швыдкасці, перакананні ў належнасці і чыстае вялоўнічанне секрэтных дадзенняў. Валіце надзейнасць працы над крэатывнымі, адзінразовымі дэмамі.

Запіскі для пакета edf64a6118d4: не трэба кантрацаваць ключы прадастоўцаў у рэпазітары, задаць максімальную кантроль на токены за сесію, а таксама зберагчы транскрыпціі праза фіксатуры для ацэнкі, каб пазнейшыя замены модэляў заставаліся парабелнымі.