Практычныя прытамулкі: Полная структура агентнага ІІ: ад інтэрфейсу корыстніка
Практычныя прытамулкі: Полная структура агентнага ІІ: ад інтэрфейсу корыстніка да кантрактаў, пераказаў і месца для коду для команд, якія викорыстоўваюць гэты патэрн.
Наступныя прытамлівкі паказваюць практычны шлях ад «Полнага стака агентных AI: ад інтэрфейсу корыстніка да інтеллекта высокага рангу». Акцэнт ставіцца на контракты, перакананняя і мескі для коду, які можна легка заменіць, а не на мотывацыйныя аспекты. Калі працуеце на стадзіі агляду, спачатку запісайце контракт: неабяжлівыя даннэ, сігнал успеху і тое, што выканаецца у разе частковага нявыполнення. Такі список перакананняя дапамагае заліцьварыць пазнейшыя змены ў кодзе. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына нявыполнення павінна вказываць на адзіну абяжлівасць, а не на заплутаны процес.
Полны стак агентных AI
Полная структура гэтаго этапу працюе найкраща, калі яе розглядаць як меравальную плошчу. Запісаце адны ідеальны прыклад, адну справу з бягам і прыметку па вярнэнню да пачатковага стану пры расшырэнні масштаба. Разглядзеце гэты этап як кантракт межа вхіднымі даннымі і пераканаленымі выходнымі рэзультатамі. Даеце назвы артыфактам, задаеце критэрыі успеху і адмовляецеся ад тыхоў, частковага завершэння. Храніце стан графа ў простам і типаваным формате. Вкладзеныя блокі маскуюць, який вузел запісаў кожны поле, і спакойваюць працу пасля перарываў.
Слой 1: Фронтэнд — Дзе людзі зустрочаюцца з ШІ
Першы слой фронтэнда, дзе робота на стадіўцы ўсё кращая, калі яе спрыяваць як вимерную паверхню. Запісайте адны ідеальны прыклад роботы, адзін прыклад неудачы і прыметку па адвярненню змян перш чым расширваць масштабы. Запісвайте часы виконання і косцткі токеноў чы выкарыстоўвання запытаў праза функцыйнае рэзультат. Відкрытыя данні пра косцты з самага пачатку запобегаюць неспакоўным рахункам, калі процес пераходзіць з дэмовай среды ў спакульную. Храніце стан графаў у простам і типаваным формате. Вялікія блокі дадзеных, якія знаходзяцца ўнутрь іншых блакоў, маскуюць інфармацыю пра тое, який вузел запісаў канкрэтны поле, і спакшваюць продаж чыненняў пасля перарываў.
Другі слой: Абробка дакументаў — Уведзенне корпаратывных знанняў у систему
Этап прыемкі дакументаў на роўні 2 работае найэфектывней, калі яго спрыяваць як мерыемую паверхню. Зберагучы адна ідеальная копія, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць сферу дзеяння. Хавайце настройкі за межамі коду прыемлівача. Файлы сяродавішча, хранільнікі секрэтных дадзеных і флагі функцыяй павінны знаходзіцца ў адном месцы, куды аператары можаць адбавляць контроль без неабяжнага чытання всіх элементаў структуры. Хавайце стан структуры простым і з адзінаковым типам дадзеных. Вярсткаваныя блокі маскуюць інфармацыю пра тое, який вузел запісаў канкрэтны поле, і спакоююць працу пасля перарываў. Этап прыемкі дакументаў на роўні 2 работае найэфектывней, калі яго спрыяваць як мерыемую паверхню. Зберагучы адна ідеальная копія, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць сферу дзеяння. Валідзіце маленькія, тэставаныя елементы замест большых скрыптаў. Калі якісь крок не выйшоў, прычына неудачы павінна вказываць на адную адпаведальнасць, а не на заплутаную лінію дзеяння.
Роўень 3: Разбіванне на часткі і падготовка — падготавка інфармацыі для выявлення
Для этапу разбіювання на часткі 3-го шара неабяжна пазначыць вхідныя даны, адміністратара крока і критэрыя завершэння пры перадзеіснаванні коду. Аператары должны магчымаць перзапуск крока з вядомай точкі контролю, не спрабоўваючы здогадвацца пра схованы стан. Спрыяйце цэму этапу як даговору між вхіднымі данымі і паўнастацэннымі выходнымі результатамі. Дайце назвы артыфактам, пазначыце критэрыя успеху і не прымайце часткова завершаныя роботы без паведамлення. Цітуйце тыя часткі тексту, якія фактычна лежалі в основе адпаведнай адказы. Без цітатаў аператары не зможуць разлічыць галюцинацію ад працягу індэксавання.
4-й шар: Эмбеддынгі — пераклад значэнняў у матэматыку
Для стадіі перакладу эмбеддынга 4-го шара неабяжна пазначыць вхідныя данні, адпаведальнага за этап і крэтырыя для завершэння пры зміне коду. Аператары должны магчымаць перзапуск этапа з вядомай точкі контролю, не падозрываючы прыхованы стан. Запісваць трэба час выконання і кост токенаў або запытаў разам з функцыйнальнымі рэзультатамі. Відразлівая візуабельнасць костаў з самага пачатку запобегае неспакойным рахункам, калі працэс пераходзіць з дэмавай версіі ў спяльныя сераўры. Неабяжна цітаваць тыя часткі тексту, якія фактычна служылі падставай для адпаведнага адказу. Без цітатаў аператары не можаць разлічыць галюцинацію ад прасоўкі ў індэксаванні.
5-й шар: База дадзеных вектораў — Зберагчыце сэмантычныя знанні
Для стадіі базы данных вектораў Layer 5 неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і критэрыя завершэння. Аператары должны магчымае запускать крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Конфігурацыю трэба залічыць паза кодам прыемленае. Файлы сераўнавання, хранільнікі секрэтных дадзеных і флагі функций должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць, не чытаяўшы весь граф. Прызначаць людскія аправарэння для ребер, якія витрачаюць грошы або зменяюць даны у працэйнай сістэме. Прыўязка на час компіляцыі не є падтверджэнням полнай адпаведнасці да бізнес-трэбаванняў. Для стадіі базы данных вектораў Layer 5 неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і критэрыя завершэння. Аператары должны магчымае запускать крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Валідзіць маленькія, тэставаныя елементы працоўных процесаў у працоўным кодзе, а не вялікія скрыпты. Калі крок збываецца, прычына неудачы должна вказваць на адну конкрэтную адпаведальнасць, а не на заплутаныя зв’язкі між элементамі.
eline.
Слой 6: Слой адаптавання — падбор правильнага контэксту
Калі працюеце над стадзіяй Слоя 6, спачатку запісайце угоду: неабяжлівыя даннэ, сигнал успеху і тое, што выканаецца у разе частковага нявыполнення. Такі список контроля дапамагае заліцьваты чыстасцю пазнейшых змян у кодзе. Спрэцьвуйце гэтую стадзію як угоду межа даннемі і перакананымі выходамі. Дайце назвы элементам, задаце критэрыі успеху і адмовіцеся ад тыхоўскага частковага завершэння. Замерайце рівень запамятовання на фіксаваным наборе пытанняў прычым перэналашоўванні запрасаў. Частыя змены запрасаў рэдка калі вядуць да павышэння якасці адналежных данняў.
Слой 7: Інжынерыя запрасаў — з’ёднанне контэксту з інтеллектам
Калі працюеце над стадзіяй Layer 7 Prompt Engineering, спачатку запісайце угоду: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага неяксамоства. Такі список контроля дапамагае залічваць змяны ў кодзе чыста і прозрачна. Запісвайце час выканання і кост токенав або запытаў праза функцыйнальныя рэзултаты. Відразлівасць костаў з самага пачатку запобегае неспакойным рахункам, калі працэс пераходзіць з дэмавай версіі ў спяльныя сераўы. Зберагайце у кэшы стабільныя інструкцыі системы і схемы інструментаў. Перадзесланне ідэнтычных прамаўляючых частак — частая прычына некантрольаванага выкорыстання ресурсаў.
Layer 8: LLM — Слой інтэлекту
Калі працуеце над стадзіяй Layer 8 LLM The, спачатку запісайце контракт: неабяжлівыя даны, сигнал успеху і тое, што выходзіць у разе частковага неяксаменства. Такі список контроля дапамагае залічыць пазнейшыя змены коду чыстымі. Зберагаеце настройкі за межамі коду прыемліка. Файлы сераўнавання, хранільнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаюць адбавіць аудыт без неабяжлівага чытання всей структуры. Кэшавайце стабільныя інструкцыі системы і схемы інструментаў. Перадзесланне ідэнтычных даных — частая прычына витрацы ресурсаў. Калі працуеце над стадзіяй Layer 8 LLM The, спачатку запісайце контракт: неабяжлівыя даны, сигнал успеху і тое, што выходзіць у разе частковага неяксаменства. Такі список контроля дапамагае залічыць пазнейшыя змены коду чыстымі. Валіце маленькія, тэставаныя елементы замест большых скрыптаў. Калі якісь крок не выйшоў, неяксаменства должны вказываць на адну адпаведальнасць, а не на заплутаны процес.
З прыемлікаў на адной LLM да агентнага AI
Этап адаптавання прыкладоў LLM да практычных застосоў работае наякша, калі яго спрыяваць як мерыемую паверхню. Запісаце адна ідеальная версія рэзультата, адин прыклад неудачы і прыметкі па поверненню да попярэднья версіі пры расшырэнні масштаба. Спрыяйце гэтаму этапу як кантракту межа вхіднымі дадзеннямі і перакананымі выходнымі рэзультатамі. Даўце назвы артыфактам, задаце критэрыя успеху і не падзеўляйцеся частым, некомплектным выкананнем задач. Задаце бюджет токенав на кожны раунд і на кожную сесію. Інструменты-агенты агрэсывна расширваюць контекст; строгі ліміты не дазволяюць дэмам ператварыцца на неспакоўлівыя рахункі.
Слоўна 9: Інфраструктура і развяртанне — ператварэнне AI у прыменны систему
Інфраструктура Layer 9 і етапы роботы працують найкраща, калі іх спрыяваць як вимерную паверхню. Запісаўце адна ідеальная транскрыпцыя, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перад расшырэнням масштабаў. Запісвайце часы выканання і косты токеноў або запытак праза функцыйнае рэзультат. Відкрытыя данні пра косты з’являюцца рана, таму не будзе неспакою з рахункамі, калі процес перейдзе з дэма-середавышча ў спільныя. Храніце стан графаў у простам і типаваным формате. Вкладзеныя блокі маскуюць, який вузел запісаў кожны поле, і спакшваюць продажчэнне роботы пасля перарываў.
Layer 10: Возможнасць спостэрэння і ацэнка — З’ясаванне, чы робіць AI насправдзе сваю работу
Система Layer 10 Observability і стэйдж працюе найкраща, калі яе спрыяваць як меркавыя паверхню. Зберагачыце адны ідеальны транскрыпт, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць сферу дзеяння. Храніце настройкі параду ўнутры коду прыемлена. Файлы сяродавішняе сераўісу, хранальнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаць адбавляць контроль без неабяжнага чытання всіх дадзеных. Храніце стан графа ў простам і типаваным формате. Вярнутыя структуры дадзеных маскуюць інфармацыю пра тое, канфігурацыйны вузел запісаў канкрэтны поле, і спакойваюць працу пасля перарываў. Система Layer 10 Observability і стэйдж працюе найкраща, калі яе спрыяваць як меркавыя паверхню. Зберагачыце адны ідеальны транскрыпт, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць сферу дзеяння. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі які-небудзь крок не выйшае, прычына неудачы должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцоўкі дзеяння.
Чаму важна ўсё стэк
Для стадіі «Прычыны выкарыстоўвання Full Stack» неабходна прадзефінаваць вхідныя даны, адпаведальную особу за кожны крок і крэтыніяы завершэння працы перад зменым коду. Аперацыйныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Спрыяць гэтай стадіі як даговору межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даць назвы артыфактам, прадзефінаваць крэтыніяы успеху і адмовіцца ад беззвучнага частковага завершэння. Заставіць людзкую апраўду для тых крокаў, якія выкарыстоўваюць грошы або зміняюць даны ў працэсе. Компіляцыйныя налашчэння не ўзроўнаваны з абсягам выконання бізнес-задач.
Як тэхналогіі взаімаўна падключаюцца
Для этапа «Як тэхналогіі падходзяць» неабяжна ўскладніць вхідныя даны, адпаведальную особу за кожны крок і критэрыя завершэння працы перад змінайом коду. Аператары должны магчымае запускаваць крок з вядомай точкі контролю, не прабуючы спадарожваць схованы стан. Запісвайце час выконання і вартасць токеноў або запытак праза функцыйнае рэзультат. Відразліва візуалізацыя вартасцей запобегае неспакою, калі процес пераходзіць з дэмовай среды ў спакульнаныя сераўеры. Заставьце людзкія апраўданні на тых кроках, дзе выконваюцца грошовыя расходы або зміняюцыся даны для працы. Компіляцыйныя налашчэнні не ўзначаюць павнае адпрацоўвання бізнес-функцыйяў.
Архітектура AI-агента для працы — гэта не проста LLM
Для стадіі A Production Agentic AI неабяжна ўзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння пры зміне коду. Аперацыйныя працавнікі должны магчымае перайсці на выкананне кроку з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Конфігурацыю трэба залічыць паза кодам прыкладнення. Файлы сераўіса, хранільнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, якое працавнікі можуць пераглядаць, не чытаючы весь ланцуг задач. Калі наступны крок — це код або вызов інструмента, лепш выкарыстоўваць структураваныя выходныя даны з перакананнем схэмы, чым вольныя тэкстовыя апісанні. Для стадіі A Production Agentic AI неабяжна ўзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння пры зміне коду. Аперацыйныя працавнікі должны магчымае перайсці на выкананне кроку з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Лепш выкарыстоўваць маленькія, тэставаныя елементы, чым велікія скрыпты. Калі крок не выйшоў, прычына неудачы должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцуг задач.
Эвалюяцыя архітектуры прыменэння ШІ
Калі працуеце над стадзіяй «Эвалюяцыя ШІ», спачатку запісайце кантракт: неабяжлівыя даннэ, сігнал успеху і тое, што выканаецца у разы частковага нявыполнення. Такі список контроля дапамагае заліцвачыць змяны коду. Спрыятлівае ставленне да гэтай стадзіі як да кантракта межу даннэмі і перакананымі выходамі. Дайце назвы элементам, задаце критэрыі успеху і не падзеляйцеся частковым выкананням без адказу. Зробіце контрольны пункт пасля дорогіх крокаў. Продовжэнне працы не должна занова ставіць плату за той самы вызов LLM, калі аператар прабуе зноў выканаць пазнейшы вузел.
Дзе трэба пачаць?
Калі працюеце над стадзіяй «Дзея начынцаць», спачатку запісайце угоду: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список перакладзець пазнейшыя змены коду ў правільны направленні. Запісвайце час выканання і кост токенаў або запытаў праза функцыйнае рэзультат. Відкрытыя даны пра косцы з’являюцца раніце, таму не будзе неспакою з рахункамі, калі працэс перайдзе з дэмаверсіі ў спяльныя среды. Зробіце перапаконтаванне пасля дорогіх крокаў. Система адновлення не должна зноў нарахоўваць косты той самай вызову LLM, калі аператар прабуе зноў выконаць пазнейшы вузел.
Будучына стака агентных AI
Калі працуеце над стэпам «The Future of the», спачатку запісайце контракт: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список контроля дапамагае заліцвачыць пазнейшыя змены ў кодзе. Зберагаюце настройкі за межамі коду прыемлі. Файлы сераўнавання, храненні секрэтных данных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаюць адбавіць аудыт без неабяжлівага чытання всей структуры. Ставяце контрольныя пункты пасля дорогіх крокаў. Система вярнення праблемы не должна занова ставіць плату за той самы вызыв LLM, калі аператар перапрыяўляе роботу да наступнага вузла. Калі працуеце над стэпам «The Future of the», спачатку запісайце контракт: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список контроля дапамагае заліцвачыць пазнейшыя змены ў кодзе. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшоў, прычына нявыпання должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаную структуру працы.
Заключэнне
Этап заканчэння працюе найкраща, калі яго спрыяваць як меркаваную плошчу. Зафіксавайце адны ідеальны прыклад, адну справу з бягам і запіс пра вярнэнне да пачатковага стану, перш чым расширваць масштабы. Спрыявайце гэты этап як кантракт межа вхіднымі даннымі і паверынутымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаць критэрыя успеху і не падзеўляйцеся частым, непূরным выкананнем задачы. Зберагаюце стан графа ў простам і типаваным формате. Вярнутыя структуры данных маскуюць інфармацыю пра тое, який вузел запісаў кожны поле, і спакоююць працэс пасля перарываў.
Чек-ліст для эксплуатацыі
Для этапа чек-ліста для эксплуатацыі задайце вхідныя данні, адпаведальную особу за кожны крок і критэрыя завершэння працы перад змінайом коду. Аператары должны магчымае перадзеўваць кожны крок з вядомага пункта контролю, не спрабоўваючы здогадвацца пра схованы стан.
Документавайце як шлях успеху, так і шлях вяснавання проблем. Перапрыбуткі, людзкія перакрыцця і обработка некоректных паведамленняў є часткай продукту, а не чымсь, што дадаецца пазней.
Неабяжна людская згода на тыя элементы, які витрачаюць грошы або зменяюць даны працэйвання. Працэўнае падключэнне ў час компілявання не адпавядае цэласообразнасці бізнесу.
Напісце кароткі посібнік: як роцыяваць кантрольныя клучы, як спрачысці чергу, як анулюваць пярэдню імпортаваную дадзенную.
Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, адказнасць за глыткі неяўнасць павінна быць аднаковаю, а не супярэчліва ў складной ланцужнай структуре.
Неабяжна людская згода на тыя элементы, які витрачаюць грошы або зменяюць даны працэйвання. Працэўнае падключэнне ў час компілявання не адпавядае цэласообразнасці бізнесу.
Перад паўышэнням версій заморозьце іх, зафіксуйце ідеальны варыянт для критычнага маршруту і паказваце крокі анулявання. У спадзеленых средах неабходны ліміты частоты, перакананні ў належнасці і чыстае ведамства для роцыявання секрэтных клучоў. Валіце простую надзяйнасць замест крэатыўных, адзінразовых дэманстрацый.
Запіскі для пакета 487134881b49: не класты ключі прадаўцоў у репазітарыю, задаць максімальны ліміт токена на сесію, а таксама зберагчы транскрыпціі празаўсюды з фікстурамі для ацэнкі, каб пазнейшыя замены моделяў заставаліся порównанневымі.