Практычныя нарады: планы архітектуры ШІ для систем агентав, готовых да викорыстання ў працэйнай средзе.

Існавайце гэта як перапрацоўаны варыянт ідэй з кніги «AI Architecture Blueprints for Production-Ready Agent Systems» для існавальнікаў: чыстыя этапы, аранжаваныя блакіты коду і прыметкі па вяснаванню, якія застаюцца пасля перадачы. Этап Аналізу работае найкраща, калі яго спрыяваць як вимерную плошчу. Запісаўце адна ідеальная транскрыпцыю, адзін прыклад неудачы і прыметкі па адвярненню роботы прычым расшырэнні масштаба. Зберагайце настройкі праза код аплікацыі. Файлы серавыску, хранільнікі секрэтных дадзеных і флагі функций павінны знаходзіцца ў адном месцы, якое існавальнікі можаць пераглядаць без неабяжнае чытання всіх элементаў.

Архітэктурныя прынцыпы

У стадії архітектурных прынцыпаў неабходна прадзефінаваць вхідныя даны, абавесця крока і крэтыры завершэння пры перамене коду. Аперацыйныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не падозрываючы схованы стан. Неабходна задокументаваць як шлях успеху, так і шлях вярнення да нормальнага стану. Перапрыбуткі, людзкія пераказы і обработка некоректных паведамленняў є часткай продукту, а не элементамі пазнейшага дапрацоўкі. Неабходна людзкая аправарэнне для тых крокаў, якіе выкалічваюць грошы або зменяюць даны ў працэсе виробніцтва. Компіляцыйныя налашчэння не є гарантыяй повнай адпаведнасці продукту бізнес-трэбаванням.

Факторы, якія разрушаюць виробніцтва на аднойчынах AI

Для стадіі AI Production Killers неабяжна ўзначыць вхідныя даны, адпаведальнага за крок і крэтыры завершэння пры змяне коду. Аперацыйныя працавнікі павінны магчымае перазапускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выконваецца, прычына нехарактэрства павінна вказываць на адзіну адпаведальнасць, а не на заплутаны процес. Прайміце людскую апраўду для тых крокаў, якія выкарыстоўваюць грошы або зміняюць даны ў працэсе виробніцтва. Компіляцыйныя налашчэння не ўзначаюць павнае выпаненне бізнес-процэса.

Галюцинаціі на межах прыняткі рашэнняў

Для стадіі галюцынацый на межах адзінакоўства неабходна прадзефінаваць вхідныя даны, адпаведальную особу за выкананне крока і критэрыя завершэння пры перадзмене коду. Аперацыйныя працавнікі должны магчымае перзапускаць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Спрацавляйце з гэтай стадіяй як з кантрактом межаў вхідных дадзеных і перакананых выходных рэзультатаў. Даць назвы артыфактам, прадзефінаваць пераказы пра успех і адмовіцца ад тыхнай частковай, непазначанай завершэння. Заставіце людзкую апраўду на тых кроках, якія выкарыстоўваюць грошы або зміняюць даны для працы. Компіляцыйныя налашчэння не ўзроўнаваны з абсягам выконання бізнес-задач. Для стадіі галюцынацый на межах адзінакоўства неабходна прадзефінаваць вхідныя даны, адпаведальную особу за выкананне крока і критэрыя завершэння пры перадзмене коду. Аперацыйныя працавнікі должны магчымае перзапускаць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Зберагачыце налашчэння параду ўнеўнутрь коду прыкладнення. Файлы сераўіса, хранільнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, якое працавнікі можуць пераглядаць без змян.

Чытайце весь граф.

Drift: тыхій убіця

Калі працуеце над стадзіяй «Drift: тыхій убіця», спачатку запісайце умовы: неабяжлівыя даны, сигнал успеху і тое, што выходзіць пад частковыя неудачы. Такі список контроля дапамагае заліцвачыць змяны ў кодзе чыста. Документавайце як шлях успеху, так і шлях вярнення. Перапрыбуткі, людзкі контроль і обработка некоректных паведамленняў є частью продукту, а не дадатковым дошліванням пазней. Ставьце контрольныя точкі пасля дорогіх крокаў. Система вярнення не павінна занова ставіць плату за той самы вызыв LLM, калі аператар перапрыбуе пазнейшы вузел.

Адночасныя неудачы агентаў

Калі працюеце над стадзіяй зламоў агента Cascading, спачатку запішыце умовы працы: неабходныя даны, сігнал успеху і тое, што выходзіць пад частым зламам. Такі список контроля дапамагае заставіць пазнейшыя змены коду быць чыстымі. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок зламваецца, зламаўцы неават выказваць на адну адпаведальнасць, а не на заплутаны ланцюг задач. Зробіце перапактаванне пасля дорогіх крокаў. Програма неават переплачваць за той самы вызов LLM, калі аператар праказвае спробу згодна з наступным вузлом.

Неправильнае кераванне вікнам контэксту

Калі працуеце з стадзіяй каштальтоўнага адарожвання вікна контэксту, спачатку запішыце кантракт: неабходныя даны, сігнал успеху і тое, што выходзіць пад частковым невясненням. Такі список пераканае ў тым, што пазнейшыя змены коду будуць чыстымі. Спрэтывайцеся да гэтай стадзіі як да кантракту межа данымі і перакананымі выходамі. Дайце назву артыфактам, задаце перакананні на успех і адмовіцеся ад тыхоўскага частковага завершэння. Зробіце контрольную пункт пасля дорогіх крокаў. Продовжэнне не павінна зноў выклікаць той самы календар LLM, калі аператар прабуе зноў запрацаваць з пазнейшым вузлам. Калі працуеце з стадзіяй каштальтоўнага адарожвання вікна контэксту, спачатку запішыце кантракт: неабходныя даны, сігнал успеху і тое, што выходзіць пад частковым невясненням. Такі список пераканае ў тым, што пазнейшыя змены коду будуць чыстымі. Зберагаўце настройкі за межамі коду прыемленае. Файлы сераў, хранільнікі секрэтных дадзеных і флагі функций павінны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабходнасці чытання всей структуры.

Цыклі вызоў інструментаў і неактуальныя агенты

Цыклі вызоў інструментаў і ўсе стадыі працуюць наякша, калі іх розглядаць як мерыябельную структуру. Зафіксавайце адна ідеальная транскрыпцыю, адзін прыклад неудачы і прыметкі па поверненню да пачатковага стану прычаму расшырэння масштаба. Дакументавайце як успішны, так і вярнучыся парадоксы разам. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў ёсць частью продукту, а не пасляднім дапрацоўкам. Адкройце інструменты з вузкімі схемамі та чыткімі пазначкамі па бокавых эфектах. Хостам неабходна знаты, якія вызоўвы мутуюць стан, перш чым яны будуць автаматычна затверджаны.

Вбрыск запросаў у ланцюгі агентаў

Ін’екцыя запроса на стадіўе агентных сістэм працюе найэфектывней, калі яе розглядаць як мерыемую велічыну. Зафіксавайце адна ідеальная транскрыпцыю, адзін прыклад неудачы і прыметку па поверненню да попярэдня стану пры расшырэнні масштаба. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына неудачы павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцюг задач. Задаўце ліміт токенав на кожны рунд і на кожную сесыю. Агентныя інструменты агрэсіўна расширваюць контекст; строгі ліміты не дазволяюць дэмам ператварыцца на неспакоўныя рахункі.

Без ацэнкаў: летаць слепа

Этап «Без адміністрацыі вычыленняў, работа без ведамася» працюе наякнайэфектывней, калі яго спрыяваць як мерыемую паверхню. Зафіксавайце адны ідеальны прыклад, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць масштаб. Спрыяйце гэтым этапам як кантракту межа вхіднымі даннымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаць критэрыя успеху і адмовіцеся ад тыхняй частковай роботы без паведамлення. Зберагаюце стан графа ў простам і типаваным формате. Вкладзеныя блокі маскуюць, який вузел запісаў кожны поле, і спакоююць продовжэнне роботы пасля перерываў. Этап «Без адміністрацыі вычыленняў, работа без ведамася» працюе наякнайэфектывней, калі яго спрыяваць як мерыемую паверхню. Зафіксавайце адны ідеальны прыклад, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць масштаб. Зберагаюце настройкі за межамі коду прыемлівача. Файлы сераў, хранільнікі секрэтных данных і флагі функцыйяў должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабходнасці чытання всего графа.

Эскіз платформы для корпаратыўных AI-агентаў

Для стадіі платформы Enterprise AI Agent неабяжна ўзначыць вхідныя даны, адпаведальнага за кожны крок і крэтыяры завершэння пры зміне коду. Аператары должны магчымаць перзапуск кроку з вядомай точкі контролю, не падозрываючы схованы стан. Неабяжна задокументаваць як шлях успеху, так і шлях вярнення да нормальнага стану. Перапрыбуткі, людзкія пераказы і обробка некоректных паведамленняў є часткай продукту, а не дадатковымі удосконаленнямі. Неабяжна працаваць з людзкай апраўдкай у тых випадках, калі выконваюцца витраты чы зменяюцыся даны для працы. Підключэння пад час компілявання не ўзначае повнасці функцыяналу продукту.

Архітектура RAG

Для стадіі архітектуры RAG неабяжна ўзначыць вхідныя даны, адпаведальнага за кожны крок і крэтыяры завершэння пры зміне коду. Аперацыйныя працавнікі павінны магчымае перазапускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшоў, прычына неудачы павінна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны процес. Прыкладзіце тыя часткі тексту, якія фактычна ляглі в основу адпаведнай адказы. Без цых цітатаў аперацыйныя працавнікі не зможуць адразліць галюцинацыю ад прасоў у індэксаванні.

Архітектура памяці

Для стадіі архітектуры памяці, пры змены коду, неабходна дэфініцыя вхідных даных, адпаведальнага за этап і крэтарыяў завершэння. Аперацыйныя працавнікі должны магчыма было перзапускаць этап з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Спрыяйце таму, каб гэты этап быў схожы на контракт межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даўце назвы артыфактам, задаць крэтарыяў успеху і не прабоўваць прыймаць часткова завершаныя рэзультаты без падтверджэння. Заставьце людзкія падтверджэння для тых крокаў, якія выкарыстоўваюць грошы або зміняюць даны для працы. Компіляцыйныя налашчэння не ўзроўнаўцуюцца з повным завершэнням бізнес-процэсаў. Для стадіі архітектуры памяці, пры змены коду, неабходна дэфініцыя вхідных даных, адпаведальнага за этап і крэтарыяў завершэння. Аперацыйныя працавнікі должны магчыма было перзапускаць этап з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Зберагачыце налашчэння параду ад коду прыкладнення. Файлы сераўіса, хранільнікі секрэтных данных і флагі функций должны знаходзіцца ў аднам месцы, якое працавнікі можуць пераглядаць, не чытаючы весь код.

Шаблоны топалогіі кальманаў

Калі працуеце над стадзіяй шаблонаў топалогіі кальманаў, спачатку запісайце угоду: неабходныя даны, сігнал успеху і тое, што выканаецца у разы частковага нявыпання. Такі список дапамагае заліцваць пазнейшыя змены ў кодзе. Документавайце як шлях успеху, так і шлях вяснавання. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў є частью продукту, а не пазнейшым дапрацоўкам. Стварайце контрольныя пункты пасля дорогіх крокаў. Продовжэнне роботы не павінна занова стягваць плата за той самы вызыв LLM, калі аператар перапрыбуе пазнейшы вузел.

Протаколы перадачы і спяльная память

Калі працуеце з пратакамі Handoff і спяльваным этапам, спачатку запісайце умовы виконання: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список контроля дапамагае заліцвачваць змяны коду пазнейша. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына нявыпання павінна вказваць на адзіну абяжлівасць, а не на заплутаны ланцужок задач. Зробіце пераконтроль пасля дорогіх крокаў. Програма не павінна зноў ставіць плату за той самы вызов LLM, калі аператар прабуе зноў выконаць пазнейшы вузел.

Спяльваная працэўная память vs. ізольаваная

Калі працуеце над стадзіяй «Спакаваная працэўнае памяць» проты «Ізольаваная працэўнае памяць», спачатку запісайце кантракт: неабходныя вхідныя даны, сигнал успеху і тое, што выходзіць у разе частковага невыпання. Такі список контроля дапамагае заставіць пазнейшыя змены коду быць чыстымі. Спрэчвайце гэтую стадзію як кантракт межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаце правіла пераканання успеху і адмовіцеся ад тыхоўскага частковага завершэння. Зробіце контрольны пункт пасля дорогіх крокаў. Функцыя вярнення не павінна знову стаўляць рахунак за той самы вызов LLM, калі аператар прабуе зноў выконаць пазнейшы вузел. Калі працуеце над стадзіяй «Спакаваная працэўнае памяць» проты «Ізольаваная працэўнае памяць», спачатку запісайце кантракт: неабходныя вхідныя даны, сигнал успеху і тое, што выходзіць у разе частковага невыпання. Такі список контроля дапамагае заставіць пазнейшыя змены коду быць чыстымі. Зберагачыце настройкі за межамі коду прыемлівання. Файлы сераўіса, хранільнікі секрэтных дадзеных і флагі функций павінны знаходзіцца ў аднам месцы, куда аператары можаць адбавляць аудыт без неабяжнага чытання всіх элементаў структуры.

Архітектура AI Guardrails

Архітектура AI Guardrails працюе наякнайэфектывней, калі яе розглядаць як меравальную плошчу. Зафіксавайце адны ідеальны прыклад роботы, адну ситуацыю неудачы і прыметкі па поверненню да пачатковага стану пры расшырэнні масштаба. Дакументавайце як шлях успеху, так і шлях вярнення да нормальнага стану. Перапрыбуткі, людзкія контрольны пункты і обработка некоректных паведамленняў ёсць часткай продукту, а не элементамі пазнейшага доўнервання. Храніце стан графа ў простам і типаваным формате. Вкладзеныя блокі маскуюць інфармацыю пра тое, канферы нода запісала канкрэтны поле, і спакоююць продовжэнне роботы пасля перарываў.

Механізмы экстрэнага зупнення

Механізмы экстренной остановки працююць наяўнай краща, калі іх розглядаць як вимерную паверхню. Запісаўце адна ідеальная версія, адзін прыклад неудачы і прыметкі па вярнэнню да пачатковага стану пры расшырэнні масштаба. Валіце вароты малым, тэставаным элементам замест большых скрыптов. Калі якісьця кроку не задаецца, прычына неудачы павінна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Рэзультаты обработкі трэба зберагаць у простай форме з чыстым типам дадзеных. Вкладаныя структуры дадзеных маскуюць інфармацыю пра тое, який вузел запісаў кожна поль і спакоююць продовжэнне роботы пасля перерываў.

Незворачнасць як прыорітэт першага класу

Этап неперадвірнасці як першага кляса працуе наяўнацей, калі яго спрыяваць як вимерную паверхню. Зафіксавайце адны ідеальны прымер, адзін кейс неудачы і запіс пра відкатанне перш чым расширваць масштаб. Спрыявайце гэты этап як кантракт межа вхіднымі дадзеннямі і паверыжанымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаце критэрыя успеху і адмовіцеся ад тыхоўскага частковага завершэння. Храніце стан графа ў простам і типаваным формате. Вкладзеныя блокі маскуюць, який вузел запісаў кожны поле, і спакшуюць продажчэнне праз перерывы. Этап неперадвірнасці як першага кляса працуе наяўнацей, калі яго спрыяваць як вимерную паверхню. Зафіксавайце адны ідеальны прымер, адзін кейс неудачы і запіс пра відкатанне перш чым расширваць масштаб. Храніце настройкі за межамі коду прыемліка. Файлы сераўіса, сховішчы секрэтных дадзенняў і флагі функцыйяў павінны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабходнасці чытання всего графа.

Слой ацэнкі — Найбольш ігнораваны слой

Для шара адміністрацыі на пасляпэльным этапе неабяжна з’явіць вакульні параметры: даныя, якія будуць вводзіцца, адпаведальныя за кожны крок і критэрыі завершэння працы, перш чым змянюваць код. Аператары должны магчымаць перзапуск крока з вядомай точкі контролю, не прабуючы спадароўваць сустоянне, якое залишылася непазначанае. Неабяжна задокументаваць як стандартны, так і альтернатыўны шляхі ведзення працы. Перапрыбуткі, людскія пераказы і обработка некоректных паведамленняў є часткай самага продукту, а не яго пазнейшай дапрацоўкі. Неабяжна прыняць рашэнне людзкім апраўнікам у тых випадках, калі ведуцца грошы або зменяюцыся даныя, якія викорыстоўваюцца у працэсе. Праця ў часе компілявання не є гарантыяй полнай адпаведнасці продукту выклікам рынку.

LLM-кая адпраўніца: сіла і падступы

Для ўрагу «LLM-кая суддзя: магчымасці і працоўкі» неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і критэрыя завершэння. Аператары должны магчымае перайсці на гэты крок з вядомага пункта контролю, не спрабоўваючы з’ясаваць захаваны стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптаў. Калі крок не выйшоў, прычына нехарактернага рэзультата должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцужок задач. Калі наступны крок — гэта код чыя-небудзь вызов інструмента, лепш выбіраць структураваныя выходныя даны з пераканальваннем схэмы, чым вольныя тэкстовыя апісанні.

CI/CD, керованые ацэнкай

Для стадіі CI CD, яка базуецца на адзынакоўванні, пярэд зменым коду неабходна задаць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння. Аперацыёныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Спрацавляйце з гэтай стадіяй як з кантрактом межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даць назвы артыфактам, задаць перакананні на успех і адмовіцца ад тыхняга частковага завершэння без паведамлення. Заставіце людзкую апраўду на тых этапах, дзе відбываецца выдатак грошэй або зміняюцца даны для працы. Компіляцыйны налажоўкі не є рэвалюецыяй павноты бізнес-процэса. Для стадіі CI CD, яка базуецца на адзынакоўванні, пярэд зменым коду неабходна задаць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння. Аперацыёныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Храніце налаежнасці парадактавання за межамі коду прыкладнення. Файлы сяродавішча, хранілішча секрэтных дадзеных і флагі функцый належаць у аднам месца, якое працавнікі можуць аудытаваць, не чытаючы весь ланцуг залежнасцяў.

Спостерагальна здатнасць і манітарынг

Калі працуеце над стадзіяй спостерагальнасці і манітарынгу, спачатку запішыце умовы: неабяжлівыя даннэ, сигнал успеху і тое, што выканаецца пад частыя неудачы. Такі список контролю дапамагае заставіць пазнейшыя змены коду быць чыстымі. Документавайце як шлях успеху, так і шлях вярнення. Перапрыбуткі, людзкі контроль і обработка некоректных паведамленняў ёсцю частью продукту, а не пазнейшым дапрацоўкам. Ставіце контрольныя пункты пасля дорогіх крокаў. Система вярнення не павінна знову ставіць плату за той самы вызов LLM, калі аператар перапрыбуе пазнейшы вузел.

Што логаваць у прыкладнах LLM

Калі працюеце над этапам «Што логаваць», спачатку запісайце умовы контракту: неабяжлівыя даны, сигнал успеху і тое, што выходзіць пад частковыя неудачы. Такі список контроля дапамагае залічваць змяны ў кодзе чыста. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, неудача должна вказваць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Зберагаеце у кэшы стабільныя інструкцыі системы і схемы інструментаў. Перадзесланне ідэнтычных даных — частая прычына зайвых витрацоў.

Адкрыцья адхылень

Калі працюеце над стадзіяй выклікання дрейфу, спачатку запісайце контракт: неабяжлівыя данні, сигнал успеху і тое, што выканаецца пад частковым нявыполненнем. Такі список пераканаецца, каб пазнейшыя змены коду былі чыстымі. Спрэцьвуйце гэтую стадзію як контракт межа даннімі і перакананымі выходамі. Дайце назвы элементам, задаце правіла пераканання успеху і адмовіцеся ад тыхоўскага частковага завершэння. Зробіце перакананне пасля дорогіх крокаў. Програма не должна зноў выклікаць той самы LLM-званак, калі аператар прабуе зноў запрацаваць пазнейшы вузел. Калі працюеце над стадзіяй выклікання дрейфу, спачатку запісайце контракт: неабяжлівыя данні, сигнал успеху і тое, што выканаецца пад частковым нявыполненнем. Такі список пераканаецца, каб пазнейшыя змены коду былі чыстымі. Зберагаце настройкі за межамі коду прыемлівання. Файлы сераўнавальнага сяродавішча, хранілішчы секрэтных дадзенняў і флагі функций должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжлівага чытання всей структуры.

Архітектура костаў

Этап архітектуры коста працюе найэфектывней, калі яго розглядаць як вимерную плошчу. Зафіксавце адны ідеальны прыклад роботы, адну ситуацыю неудачы і прыметкі па поверненню да пачатковага стану пры розширэнні масштаба. Дакументавце як шлях успеху, так і шлях вярнення да нормальнага стану. Перапрыбуткі, людзкія контрольны пункты і обработка некоректных паведамленняў є часткай продукту, а не элементамі пазнейшай дапрацоўкі. Храніце стан графа ў простам і типаваным формате. Вкладзеныя блокі маскуюць інфармацыю пра тое, який вузел запісаў канкрэтны поле, і спакоююць продовжэнне роботы пасля перарываў.

Стратэгія маршрутацыі моделей

Стадзія стратэгіі маршрутацыі Model працуе наяўней, калі яе спрыявае можласць вимеры. Зберагчыце адна ідеальная транскрыпцыя, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць масштабы. Валідзіце невялікія, тэставаныя элементы заместо вельмі большых скрыптав. Калі якісь крок не выйшае, прычына неудачы павінна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Задаўце ліміт токенав на кожны раунд і на кожную сесію. Інструменты-агенты агрэсывна расширваюць контекст; строгі ліміты не дазволяюць дэмам ператварыцца на неспакоўныя рахункі.

Семантычнае кэшаванне

Этап семантычнага кэшавання працюе наяўна, калі яго спрыяваць як мерыемую паверхню. Зафіксавайце адны ідеальны прыклад, адзін кейс неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць сферу дзеяння. Спрыяйце гэтам этапу як кантракту межа вхіднымі даннымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаць критэрыя успеху і адмовіцеся ад тыхняй частковай роботы без паведамлення. Храніце стан графа ў простым і типаванам формате. Вкладзеныя блокі маскуюць інфармацыю пра тое, який вузел запісаў які поле, і спакоююць продовжэнне роботы пасля перерываў. Этап семантычнага кэшавання працюе наяўна, калі яго спрыяваць як мерыемую паверхню. Зафіксавайце адны ідеальны прыклад, адзін кейс неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць сферу дзеяння. Храніце настройкі параду ўнутры коду прылады. Файлы сераў, хранільнікі секрэтных данных і флагі функций павінны знаходзіцца ў адном месцы, якое аператары можаць пераглядаць без неабяжнага чытання всего графа.

Управлінне бюджэтом токенаў

У стадії календарнага адміністрацыі токена неабходна прадзеяванне параметраў, вызначэнне адпаведальнага за шаг і крэатарыяў завершэння працы перад зменым коду. Аперацыйныя працавнікі должны магчымае запускаць шаг з вядомай точкі контролю, не падозрываючы схованы стан. Неабходна аддзеяваць як шлях успеху, так і шлях вярнення. Перапрыбуткі, людзкія перакрыцця і обработка некоректных паведамленняў є часткай продукту, а не дадатковым удосконаленнем пазнейша. Калі наступны шаг — це код або вызов інструмента, лепш выкарыстоўваць структураваныя выходны данні з перакрыцчама схемы, чым вольныя тэкстовыя апісанні.

Архітектура безпекі AI з прынцыпам Zero Trust

Для стадіі абсалютнай надзярозумнае безпека AI неабходна прадварычная дэфініцыя вхідных даных, адпаведальнага за крок і крэтарыяў завершэння перад зменым коду. Аперацыйныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшаў, прычына нехасабності должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны процес. Неабходна людская апраўда для тых крокоў, якія выкарыстоўваюць грошы або зміняюць даны ў працэсе. Компіляцыйныя налашчэння не ўзначаюць павнае адпрацоўванне бізнес-процэса.

Айдентыкет для агентаў

Для стадіі «Ідэнтыфікацыя для агентаў» неабходна перад зменым коду задаць вхідныя даны, адпаведальнага за этап і крэтыры завершэння. Аператары должны магчымае перайсці на гэты этап з вядомага пункта контролю, не спрабоўваючы здогадвацца пра захаваны стан. Спрыяйце таму, каб гэтае стадія была схожа на контракт межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даць назвы артыфактам, задаць крэтыры успеху і не прабоўваць прыймаць часткова завершаныя рэзультаты без падтверджэння. Заставіць людзкую апраўдку для тых крокаў, якія выкарыстоўваюць грошы або зміняюць даны для працы. Компіляцыйны механізм не є адпаведным для падтверджэння повнай завершанасці задачы. Для стадіі «Ідэнтыфікацыя для агентаў» неабходна перад зменым коду задаць вхідныя даны, адпаведальнага за этап і крэтыры завершэння. Аператары должны магчымае перайсці на гэты этап з вядомага пункта контролю, не спрабоўваючы здагадвацца пра захаваны стан. Храніць настройкі праза код аплікацыі. Файлы сяродавішча, хранальнікі секрэтных данных і флагі функцыйяў должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць, не чытаючы весь код.

Захаванне ад уражэння прамптамі

Калі працуеце над стадзіяй захавання ад уражэння прамптамі, спачатку запісайце умовы: неабяжлівыя даннэ, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список дапамагае заліцьварыць пазнейшыя змены ў кодзе. Документавайце як шлях успеху, так і шлях вярнення. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў є часткай продукту, а не пазнейшым дапрацоўкам. Зберагайце у кэшы стабільныя інструкцыі системы і схемы знарэдзяў. Перасылка ідэнтычных прамаравых данняў є частым выклікам для системы.

Архітектура карыстоўвання AI

Калі працюеце над стадзіяй архітектуры керавання AI, спачатку запісайце контракт: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага неяксамоства. Такі список пераконтролю дапамагае заліцьваты чыстасцю пазнейшых змян у кодзе. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок неяксамоства, гэтае неяксамоства павінны адначасова паказваць аднае абавясанне, а не заплутаны ланцужок задач. Зробіце пераконтроль пасля дорогіх крокаў. Програма для продакцыі не павінна зноў выклікаць той самы вызов LLM, калі аператар прабуе зноў запрацаваць з пазнейшым вузлом.

Выеўка правілаў у вачынку коду

Калі працуеце над стадзіяй «Выпэўненне правіл у коде», спачатку запісайце контракт: неабходныя вхідныя даны, сигнал успеху і тое, што выканаецца у разы частковага невясковасці. Такі список пераканальвае ў тым, што пазнейшыя змены коду будуць чыстымі. Спрэтывайцеся да гэтай стадзіі як да контракту межа вхіднымі данымі і перакананымі выходнымі данымі. Дайце назву артыфактам, задаць тэсты на успех і не падзеўляйце частковым завершэнням без паведамлення. Зрабіце перапытку пасля дорогіх крокаў. Функцыя вярнення не павінна зноў выклікаць той самы калект працэсу розумнага мовлення, калі аператар праканае пазнейшы вузел. Калі працуеце над стадзіяй «Выпэўненне правіл у коде», спачатку запісайце контракт: неабходныя вхідныя даны, сигнал успеху і тое, што выканаецца у разы частковага невясковасці. Такі список пераканальвае ў тым, што пазнейшыя змены коду будуць чыстымі. Зберагаўце настройкі праза код аплікацыі. Файлы сераўнавання, хранільнікі секрэтных дадзеных і флагі функций павінны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжнага чытання всіх элементаў.

Права на адказ

Этап права на адказ працюе найэфектывней, калі яго розглядаць як вимерную плошчу. Зафіксавце адны ідеальны прыклад, адну справу з бягам і запіс пра вярнэнне да пачатковага стану перш чым расширваць масштабы. Дакументавайце як успішны, так і патовы шляхі рашэння проблем. Перапрыбуткі, людзкія контрольны пункты і обработка некоректных паведамленняў ёсць часткай продукту, а не пасляднім дапрацоўкам. Храніце стан графа як просты і з адначытаемымі даннымі. Вкладзеныя блокі маскуюць, канферы яны поле было запісана, і спакоююць працэздатнась пасля перарываў.

Падсумак архітектара

Этап падробнага аналізу архітектуры працюе наяўней, калі яго спрацоўваюць як мерыемую паверхню. Запісайце адна «золатая» версія коду, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць масштабы. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выходзіце, прычына неудачы павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцюг задач. Рэзультаты роботы графа павінны быть простымі та з адначытаемымі датамі. Вярнутыя структуры маскуюць інфармацыю пра тое, який вузел запісаў канкрэтны поле, і спакшуюць продовжэнне роботы пасля перерываў.

Чэк-ліст для эксплуатацыі

Калі працуеце над чэк-лістам для эксплуатацыі, спачатку запісайце умовы працы: неабходныя вхідныя даны, сігнал успеху та тое, што вядзець да частковай неудачы. Такі чэк-ліст дапамагае заставаць пазнейшыя змены коду чыстымі та прозрачнымі.

Запісвайце часы виконання та косты токенавання або запытам разам з функцыйнальнымі рэзультатамі. Відразувыя даны пра косты запобегаюць неспакоўным рахункам, калі процес пераходзіць з дэмаверсіі ў спяльныя сераўы.

Пауза пасля дорогіх крокаў. Функцыя адновлення не должна занова нарахоўваць плата за той самы вызыв LLM, калі аператар праказвае спробу на пазнейшый вузел.

Забезпечыце фіксацію версій залежнасцей і запішыце хэш адпраўленага зображэння, якое викорыстоўвалася для дэманстраціі. Возможнасць перадачы рэзультатаў лепш за традыцыйныя методы.

Зберагаюце настройкі праза код аплікацыі. Файлы серавыску, хранільнікі секрэтных данных і прапускі функцыйяў должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжнай чытанняў усіх элементаў структуры.

Пауза пасля дорогіх крокаў. Функцыя адновлення не должна занова нарахоўваць плата за той самы вызыв LLM, калі аператар праказвае спробу на пазнейшый вузел.

Перад апраноўкай структуры неабяжна заморозьце версіі, зафіксуйце ключовыя даны для критычнага шляху і паказваце крокі для адворачэння змян. У спакульнаваных серавысках неабяжны ліміты частоты вызываў, перагляд стану арендаваных ресурсоў і чыста вялікі адпаведальны за змяну секрэтных данных. Лепш аддаць надзейнасць, чым ствараць красавічныя, але ендэгамовыя дэманстраціі.

Запіскі для пакета 9b1e05a8f0ee: не класты ключі прадаўцоў у репазітарыю, задаць максымальны ліміт токена на сесію, а таксама зберагчы транскрыпціі празаўсюды з фікстурамі для ацэнкі, каб пазнейшыя замены моделей заставаліся порównанымі.