Практычныя нататкі: бяспечная шматагентная AI-платформа на AWS

У гэтым карыце парадоксальнае рашэнне адгрупаваець ўсі элементы, неабходныя для стварэння работаючай платформы AI з кальканамі на AWS (і што я навучыўся пад час усунення проблем). Акцэнт ставіцца на практычныя крокі, чыстае перакананне ў правільнасці дзействаў і код, які можна проста падключыць у рэпазітарый, не прабуючы здогадвацца пра мету. У стадыі агульнага перакладу неабходна з’явіць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння пры перадзеіснаванні коду. Аператары должны магчымае перадзеіснаваць крок з вядомага пункта контролю, не прабуючы здогадвацца пра схованы стан. Неабходна адначасова задокументаваць шлях успеху і шлях вярнення да нормальнага стану. Практыка перапрыбутків, людзкі контроль і обработка некорэктных паведамленняў ёсць часткай самага продукту, а не якімсь пазнейшым дапрацоўкам.

Чэрніця кантролю

Стадыя чэрніцы кантролю будзе эфектывай, якшо ёй ставіцца задача стваравання меркаванага апісу працэсу. Перш чым расшырваць масштабы, неабходна зафіксаваць адны ідэальны прыклад працы, адну сітуацыю неудачы і прыметкі па вярненню да пачатковага стану.

Зберагаюце канфігурацыю пазначкай за межамі коду прыемліка. Файлы сяродавішча, храненні секрэтных дадзей і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаюць адбавіць аўдыт без неабяжнага чытання всей структуры.

Зберагаюце стан графа ў простай і тыпаванай форме. Вярнутыя блокі маскуюць інфармацыю пра тое, які вузел запісаў якое поле, і спакоююць працэс пасля перарываў.

Калі дозволяе бюджэт, дадаце тэст на перакананне, які працюе з крытычным шляхам у CI за дапамогою фіксатываў, а не з рэальнымі платнымі API.

Документаваць трэба як шлях успеху, так і шлях вяснавання. Перапрыбуткі, людзкія контралі і обработка некорэктных паведамленняў ёсць часткай продукту, а не чымсь, што дадаецца пазней.

Зберагаюце стан графа ў простай і тыпаваной форме. Вярнутыя блокі маскуюць інфармацыю пра тое, які вузел запісаў якое поле, і спакоююць працэс пасля перарываў.

Перш чым запускаць стак, заморозьце версіі, зафіксавайце «золаты» транскрыпты для крытычных лянцоў і паказвайце спосабы атрыбуцыі. У спадзяльных срэдах неабходны ліміты частоты, пераканання ў належнасці тэнантам і чыстае адпаведальнае аб’екта для ротацыі секрэтных дадзеных. Валіце простую надзяйнасць працоўнікаў над крэатыўнымі, адзінразовымі дамах.

Прымечанне для 8546377b3b83: не кладзіце ключы прадастальнікаў у рэпазітарый, задаце верхнюю межу токенаў на сесію і зберагачыце транскрыпты празаўсёды з фікстурамі ацэнкі, каб пазнейшыя замены модэляў заставаліся парабелнымі.

Калі працуеце над пунктам 0 згароджвання, спачатку запісайце контракт: неабходныя вхідныя даны, сігнал успеху і тое, што выходзіць у разе частковай нявыполненасці. Такі чэк-ліст дапамагае заставаць пазнейшыя змены коду чыстымі. Зберагачыце канфігурацыю празаўсёды за межамі коду аплікацыі. Файлы асяроддзя, хранільнікі секрэтных дадзеных і флагі функцый павінны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжнай чытанняў усіх элементаў структуры.

Дзеянне паўжасткі 0/730: звярзайце час выкарыстоўвання, класію абэчкі і колькасць токенаў для гэтага запісу, а пасля выберыце, чы робіць змяну на аднойчы зафіксаванай сэтке пытанняў, а не на аднойчы інформацыі.

Этап 1 паўжасткі працуе лепш, калі яго спрыяваць як меравальную плошчу. Запісаце адну ідэальную транскрыпцыю, адзін прыклад неудачы і запіс пра анулюванне перш чым расшырваць масштаб. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісьць крока не выйшла, неудача павінна адносіцца да адной відпаведальнасці, а не да заплутанага ланцацька.

Дзеянне паўжасткі 1/730: звярзайце час выкарыстоўвання, класію абэчкі і колькасць токенаў для гэтага запісу, а пасля выберыце, чы робіць змяну на аднойчы зафіксаванай сэтке пытанняў, а не на аднойчы інформацыі.

Для другага этапа пры гэрмаванні неабяжна пазначыць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння пры зміне коду. Аператары должны магчымаць перзапуск кроку з вядомай точкі контролю, не падозрываючы прыхованы стан. Запісваць час выканання і вартасць токена або запытку празаўсёды разам з функцыйнальнымі рэзултатамі. Відразы вартасцей з самага пачатку запобегае неспакоўным рахункам, калі працэс пераходзіць з дэмавайнага сераўера у спяльныя сераўеры.

Дзеянне гэрмавання 2/730: змяроўваць час выканання, класі кэсаў і вартасць вікорыстоўвання токена для гэтага пункту, а потым вырашыць, чы робіцца змена на адной падставе фіксаванага набора пытанняў, а не на адной лячбе.

Калі працуеце над 3-й стадзіяю прыемкі з паўнейшага захавання, спачатку запісайце угоду: неабходныя даны, сігнал успеху і тое, што выходзіць на падчасныя неудачы. Такі чарт дапамагае залічваць пазнейшыя змены ў кодзе чыста.

Документавайце як шлях успеху, так і шлях вярнення да нормальнага стану. Перапрыбуткі, людзкія контралі і обработка некорэктных паведамленняў ёсць часткай продукту, а не пазнейшым дапрацоўкам.

Дзялённе 3/730 прыемкі з паўнейшага захавання: вымерайце час выканання, класію памылак і колькасць выкарыстоўваных токенав для гэтай прыемкі, а пасля выберайце, чы робіць змену на адной пазначанай сэткі пытанняў, а не на адной толькі прымітцы.

3-я стадзія прыемкі з паўнейшага захавання работае лепей, калі яе спрыямаць як вымерную плошчу. Запісайце адну ідэальную транскрыпцыю, адзін прыклад неудачы і прымітку па вярненню да пачатковага стану, перш чым расшырваць масштабы.

Спрыяйце гэтай стадзіі як угоды межа данымі і перакананымі выходамі. Дайце назвы артыфактам, задаць крытэрыя успеху і не падзеўляйцеся на тыхню частковую упрацоўку.

Дзеянне паўжасткі 4/730: звярніце увагу на час выканання, класы памылак і вітрату токенаў для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на індывідуальных прыкладах, выявіце, чы рэшыцца застаўіць змяну.

Для 5-го этапа паўжасткі неабходна перад змянай коду чытача апісацыю вхідных дадзенняў, адпаведальнага за крок і крэатарыяў завершэння. Аперацыйныя працавнікі павінны магчымае перадзванаць крок з вядомай точкі контролю, не прабуючы спадарацца прыватны стан сістэмы. Канфігурацыю трэба зберагчы за межамі коду прыемленае. Файлы сераўіса, хранільнікі секрэтных дадзенняў і флагі функцыйяй павінны знаходзіцца ў адном месцы, якое працавнікі можуць пераглядаць, не чытаючы весь код.

Дзеянне паўжасткі 5/730: звярніце увагу на час выканання, класы памылак і вітрату токенаў для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на індывідуальных прыкладах, выявіце, чы рэшыцца застаўіць змяну.

Калі працуеце над 6-ю стадзіяй забезпечэння безпекі, спачатку запісайце умовы кантракта: неабяжлівыя даны, сігнал успеху і тое, што выходзіць на частым неудачам. Такі спіс контроля дапамагае залічваць пазнейшыя змены ў кодзе чыста і прозрачна. Валіце маленькія, тэставаныя елементы замест вялікіх скрыптав. Калі якась стадзія не выйшла, неудача должна вказваць на адну конкрэтную прычыну, а не на заплутаную сістэму.

Дзялянка забезпечэння безпекі 6/730: замерайце час выканання, класію каштоўкаў і колькасць токенаў, якія былі выкарыстаны для гэтай стадзіі, а пасля выберайце, чы робіць змены на адной фіксаванай базе пытанняў, а не на адной лічбе прыкладаў.

7-я стадзія забезпечэння безпекі працуе лепей, калі яе спрыямаць як меравальную плошчу. Запісайце адны ідэальны прыклад працы, адзін кейс неудачы і прыказку па абратанні пазнейшых змэн, прычым не расшыраючы сферу дзеяння. Запісвайце часы выканання і каштоўка токенаў або запытак праза функцыйнае рэзультат. Відкрытая інформацыя пра каштоўкі з’являецца першымі і запобегае неспакойным рахункам, калі працэс пераходзіць з дэмаверсіі ў спяльныя асяроддзя.

Дзеянне паўжырання 7/730: звярніце увагу на час выканання, класыя ошыбак і колькасць токенаў, якія былі выкарыстаны для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на асобістых спазырах, вынікніце рашэнне пра тое, чы робіць змяны.

Для 8-го этапу паўжырання неабходна перад змянай коду чытко апісаць вхідныя даны, адпаведальнага за этап і крэтыярыя завершэння. Аперацыяныя працавнікі должны магчыма было перадзеяць гэты этап з вядомага пункта контролю, не прыпускаючы стану, які ўтрымліваецца у секрэце. Апісвайце адночасна шлях успеху і шлях вярнення. Практыка павторных спроб, людзкія контралі і обработка некорэктных паведамленняў ёсць часткай продукту, а не чымсь, што дадаецца пазней.

Дзеянне паўжырання 8/730: звярніце увагу на час выканання, класыя ошыбак і колькасць токенаў, якія былі выкарыстаны для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на асобістых спазырах, вынікніце рашэнне пра тое, чы робіць змяны.

Калі працуеце над 9-м падземам забезпечэння безпекі, спачатку запісайце контракт: неабяжлівыя даныя, сігнал успеху і тое, што выходзіць пад часты няудача. Такі спіс контроля дапамагае заліцьваты пазнейшыя змены коду. Спрыятлівае ставленне да гэтаго падзема як да контракта межу данымі і перакананымі выходамі. Дайце назвы элементам, задаце крытэрыі успеху і не падзволяйце на тыхамую частую рэалізацію.

Дакледкі забезпечэння безпекі 9/730: вымерайце час выканання, класію памылак і колькасць выкорыстоўваных токенав для гэтага падзема, а потым выберайце, чы робіць змену на адной пазначанай базе пытанняў, а не на адной лячбе.

9-й падзем забезпечэння безпекі працуе лепей, калі яго спрыятлівае ставленне як да вымеральнай плошчы. Запісайце адна ідэальная транскрыпцыя, адзін прыклад няудачы і запіску пра адвярнэнне перад расшырэнням масштаба. Зберагайце настройкі за межамі коду прыемлівання. Файлы сяродавішча, хранільнікі секрэтных дадзенняў і флагі функцый должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжлівага чытання всей структуры.

Дзеянне паўжыцьнявання 10/730: змераюце час выканання, класію памылак і колькасць токенаў, выкорыстаных для гэтага запісу, а пасля вырашайце, чы рашыцца застаўіць змяну на аднойчы назначанай сэткі пытанняў, а не на адзінокых прыкладах.

Для 11-й стадзіі паўжыцьнявання неабходна з’явіць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння пры перамены коду. Аперацыйныя працавнікі должны магчымае перадзвануць крок з вядомай точкі контролю, не падозрываючы схованы стан. Адначолі больш прыемныя маленькіе, тэставаныя елементы, чым велікія скрыпты. Калі крок не выйшоў, прычына неудачы должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцужок задач.

Дзеянне паўжыцьнявання 11/730: змераюце час выканання, класію памылак і колькасць токенаў, выкорыстаных для гэтага запісу, а пасля вырашайце, чы рашыцца застаўіць змяну на аднойчы назначанай сэткі пытанняў, а не на адзінокых прыкладах.

Калі працуеце над 12-й стадзіяю практыкы забезпечэння безпекі, спачатку запісайце умовы кантракту: неабяжлівыя даныя, сігнал успеху і тое, што выходзіць пад частыя неудачы. Такі спіс контроля дапамагае заліцвачыць пазнейшыя змены ў кодзе. Запісвайце час выканання і вартасьць токена або запытку пад функцыйнальнымі рэзултатамі. Відразувыя даныя пра вартасьці запобегаюць неспакоўным рахункам, калі працэс пераходзіць з дэмаверсіі ў спяльныя асяроддзя.

Дзеянне 12/730 практыкы забезпечэння безпекі: замерьце час выканання, класыя ошыбакі і вітраты токена для гэтай стадзіі, а пасля выберыце, чы робіць змены на адной пазначанай базе пытанняў, а не на адной толькі прыватнай інформацыі.

13-я стадзія практыкы забезпечэння безпекі працуе лепей, калі яе спрыяваць як меравальную плошчу. Запісвайце адны ідэальны прыклад працы, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расшырваць сферу дзеяння. Дакументавайце як успішны, так і вярнэнчы выкарыстоўвання. Перапрыбуткі, людзкія контрольны пункты і обработка неканальных паведамленняў ёсць часткай продукту, а не чымсь, што дадаецца пазней.

Дзеянне паўжасткі 13/730: звярнуце увагу на час выканання, класію памылак і колькасць выкорыстоўваных токенаў для гэтага зьязначэння, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на індывідуальных прыкладах, выявіце, чы хачаце застаўіць змяну.

Для 14-й стадзіі паўжасткі неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за этап і крэтырыя завершэння. Аперацыяныя працавнікі должны магчыма было перазапускаць этап з вядомай точкі контролю, не падозрываючы прыхованы стан. Штодзе гэтую стадзію трэба спрыятаць як кантрактом межы вхіднымі данымі і перакананымі выходнымі рэзультатамі. Назвіце артыфакты, адзначыце крэтырыі успеху і не прабывайце прыймаць часткова завершаныя рэзультаты без падтверджэння.

Дзеянне паўжасткі 14/730: звярнуце увагу на час выканання, класію памылак і колькасць выкорыстоўваных токенаў для гэтага зьязначэння, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на індывідуальных прыкладах, выявіце, чы хачаце застаўіць змяну.

Калі працуеце над стадзіяй 15 з адаптавання захоўнай сістэмы, спачатку запісаце кантракт: неабходныя даны, сігнал успеху і тое, што выходзіць па частковай нявыполненасці. Такі спіс контроля дапамагае залічыць пазнейшыя змены ў кодзе. Зберагаюце настройкі паза кодам прыемліка. Файлы сераўнавання, хранільнікі секрэтных даных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаць адбавіць аўдыт без неабходнасці чытання всей структуры.

Дакладнасць адаптавання 15/730: замерайце час выканання, класію паканаў і выкарыстоўванне токенаў для гэтай стадзіі, а пасля выберыце, чы робіць змену на адной падставе фіксаванага набора пытанняў, а не на адной лічбе прыкладаў.