Абсарбаны для агентаў AI: обмежэнне функцыйнальнасці і праваў | Кунвар

Наступныя прытамкі восстанавляюць практычны падход да тэмы «Guardrails for AI Agents: Constrain Functionality and Permissions | Kunwar Harshit posted on the topic | LinkedIn». Акцэнт ставіцца на контракты, пераконтроўкі і месца для коду, які можна легка адключыць, а не на мотывацыйныя аспекты. Калі працуеце на стадзіі агляду, спачатку запісайце контракт: неабяжныя даныя, сігнал успеху і тое, што выходзіць, калі адбываецца частковая нявыплённасць. Такі спіс пераконтроўкі дапамагае залішыцца чыстаснам у пазнейшых змянах коду. Запісвайце час выканання і кост токеноў або запытаў разам з рэзультатамі функцыяналу. Відразувая візуабельнасць костаў запобегае неспакойным рахункам, калі працэс пераходзіць з дэмаверсіі ў спяльныя асяроддзя.

Чэк-ліст для эксплуатацыі

На стадзіі чэк-ліста для эксплуатацыі, перш чым зменяць код, неабяжна візначыце даныя, адпаведальную особу за крок і крытэрыя завершэння. Аперацыйныя працавнікі должны магчымае перазапускаць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан.

Спрытваце гэты ўражак як кантракт межа вхіднымі дадзеннямі і пасвярджанымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаце крытэрыя успеху і не падтрымвайце тыхню частковую завершэннасць.

Заставіце людзкую апраўду на тых элементах, якія вітрачаюць грошы або зменяюць даныя ў працэсе віробніцтва. Праця ў часе компілявання не адпавядае пачатковай цэлесообразнасці працы.

Напішыце кароткі посібнік: як зменяць клучы, як апустошыць чэргу, як вярнуць стан да пярэдніх налашоўкаў.

Зазначыце час выканання задач і кост токенаў або запытаў па боку функцыйнальных рэзультатаў. Відкрытыя даныя пра косцы з’являюцца рана, таму не будзе неспакою, калі праця перэйдзе з дэмаверсіі ў спальнаваныя сераўы.

Заставіце людзкую апраўду на тых элементах, якія вітрачаюць грошы або зменяюць даныя ў працэсе віробніцтва. Праця ў часе компілявання не адпавядае пачатковай цэлесообразнасці працы.

Перш чым запускаць даную сістэму, заморозьце версіі, зафіксавце крытычныя моменты для аналізу і паказвайце крокі з вярнення да пачатковага стану. У спільных срэдах неабяжна наявнае ліміты на частоту запуска, пераконтроўванні прав на выкорыстанне рэсурсаў і чысткая адпаведальнасць за зміну секрэтных даных. Лепш выбіраць простую надзею на надзейнасць, чым хітрыя разовыя дэманстрацыі.

Прыметка для 98f656b027ff: не кладзіце ключы прадаўцаў у рэпазітарый, задаце ліміт токена на кожную сесію і зберагачыце фіксаціі дзейнасці радом з інструментамі для адгукнення, каб пазнейшыя замены модэляў заставаліся порównанневымі.

Для пункту 0 пра забезпечэнне надзейнасці, перш чым зменяць код, неабяжна адзначыце вхідныя даны, адпаведальную особу за выконанне кроку і крытэрыя завершэння. Аперацыйныя працавнікі павінны магчымае перзапускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Лепш выбіраць маленькія, тэставаныя елементы, чым велікія скрыпты. Калі крок не выйшаў, прычына нехасябна вказваць на адзіну адпаведальнасць, а не на заплутаны працэс.

Дзеянне паўжасткі 0/831: звярніце увагу на час выканання, клас памылкі і колькасць токенаў, якія былі выкарыстаны для гэтага зазначэння, а пасля, на аднойчынай базе паказаных дадзенняў, а не на ляксічных прыметах, вынікніце рашэнне пра тое, чым застаўці змену.

Калі працаваеце над першым этапам зазначэння паўжасткі, спачатку запісайце параметры контракта: неабходныя вхідныя даны, сігнал успеху і тое, што выканаецца у разе частковай памылкі. Такі спіс контроля дапамагае заставаць пазнейшыя змены коду чыстымі. Запісвайце час выканання і колькасць токенаў або вартасць запытку паляглі ўжо разам з рэзультатамі функцыяналізацыі. Відразувая візуабільнасць вартасцей запобегае неспакойным рашчыткам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўысы.

Дзеянне паўжасткі 1/831: звярніце увагу на час выканання, клас памылкі і колькасць токенаў, якія былі выкарыстаны для гэтага зазначэння, а пасля, на аднойчынай базе паказаных дадзенняў, а не на ляксічных прыметах, вынікніце рашэнне пра тое, чым застаўці змену.

Этап 2 прыткага зміцнення работае наяўна, калі яго спрыяваць як вімерную паверхню. Запісаўце адна «золатая» транскрыпцыя, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расшырваць сферу дзеяння. Дакументаваць трэба як успішны, так і вярнучыся шляхы. Перапрыбуткі, людзкія контралі і обработка некорэктных паведамленняў ёсць часткай продукту, а не наступным этапам дапрацоўкі.

Дзеянні прыткага зміцнення 2/831: вімеравайце час выканання, класію памылак і вітрату токенав для гэтага запісу, а потым вырашайце, чы рашыцца застаўляць змяну, ставячыся да фіксаванага набора пытанняў, а не да індывідуальных прыкладаў.

Для этапа 3 прыткага зміцнення, перш чым зменяць код, неабходна візначыць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння. Аперацыёныя працавнікі должны магчымае перадзеяць крок з вядомай точкі контролю, не спадзяючыся на скрыты стан. Спрыяваць гэты этап як кантракт між вхіднымі данымі і паўнастацэннымі выходамі. Дайце назвы артыфактам, візначыце перакананні на успех і адмовіцеся ад тых падчасовых завершэнняў, калі няма чыткага падтверджэння.

Дзеянне паўжасткі 3/831: звярніце увагу на час выканання, класы памылак і вітрату токенаў для гэтага зазначэння, а пасля, на аднойчынай базе паказаных пытанняў, а не на асобістых спазырэннях, выявіце, чы робіць змены.

Працюючы над 4-й стадзіяю зазначэння паўжасткі, спачатку запісайце контракт: неабходныя даны, сігнал успеху і тое, што выканаецца у разе частковай памылкі. Такі спіс контроля дапамагае заставіць пазнейшыя змены ў кодзе адпаведнымі правілам. Зберагаюце настройкі праза код аплікацыі. Файлы сераўнавання, хранільнікі секрэтных даных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куда аператары можуць адбавіць аўдыт без неабходнасці чытання всей структуры.

Дзеянне паўжасткі 4/831: звярніце увагу на час выканання, класы памылак і вітрату токенаў для гэтага зазначэння, а пасля, на аднойчынай базе паказаных пытанняў, а не на асобістых спазырэннях, выявіце, чы робіць змены.

Этап 5 прыткага зміцнення работае наяўна, калі яго спрыяваць як вімерную паверхню. Запісаўце адна «золатая» транскрыпцыя, адын прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расшырваць сферу дзеяння. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісьць крока не выходзіць, прычына неудачы павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцюг задач.

Дзеянне прыткага зміцнення 5/831: вімеравайце час выканання, класію памылак і колькасць выкорыстоўваных токенав для гэтага запісу, а потым вырашайце, чы робіць змяну на адной фіксаванай сэтцы пытанняў, а не на адной лепты.

Для 6-й стадзіі процэсу змяржвання неабяжна ўскладнення: перш чым зменіць код, неабяжна ваказаць параметры вхідных дадзеных, адпаведальнага за даны крок і крытэрыя завершэння. Аперацыям неабяжна маты можлівасць парадзейсаваць крок з вядомага контрольнага пункту, не спрабоўваючы з’ясаваць схованы стан сістэмы. Неабяжна фіксаваць час выкарыстоўвання, а таксама вартасць токенав чы запытак праз адзін час з рэзультатамі функцыональных тэстаў. Візуабельнае паказанне вартасцей з’являецца запобежнік неспакою, калі процэс пераходзіць з дамовай асяроддзя ў спакульнаваную.

Дзялейныя практыкі змяржвання 6/831: неабяжна вімерваць час выкарыстоўвання, класы каштоўкі і колькасць токенав, якія былі выкарыстаны для данай стадзіі, а пасля — на базе фіксаванага набору пытанняў, а не на адной лічбе, вынікнуць рашэнне пра тое, чы хацяца застаўляць змены.

Калі працуеце над 7-м стадзіям заўважэння па забезпечэнню безпекі, спачатку запісайце контракт: неабяжныя вхідныя даны, сігнал успеху і тое, што выходзіць у разе частковага абякання. Такі спіс перакладоў заходзіць на тое, каб пазнейшыя змены коду былі чыстымі.

Документавайце як «шчаслівы» шлях, так і шлях вяснавання. Перапрыбуткі, людзкія контралі і обработка некорэктных паведамленняў ёсць часткай продукту, а не пазнейшым дапрацоўкам.

Дзялё 7/831 па забезпечэнню безпекі: вы мерзіце час выканання, класію памылак і колькасць выкорыстоўваных токенав для гэтага заўважэння, а пасля выявляеце, чы хацеце застаўіць змену на адной фіксаванай сэтке пытанняў, а не на адной лячбе.

7-я стадзія заўважэння па забезпечэнню безпекі працуе лепей, калі яе спрыямаць як меруючую паверхню. Запісайце адна «золатая» транскрыпцыю, адны прыклад абякання і заўважэнне па анулюванні працы, прычаму расшыруеце сферу дзейснення. Спрыяйце гэтай стадзіі як контракту межаў вхідных даных і перакананых выходных рэзультатаў. Назвайце артыфакты, задаць крытэрыя успеху і адмовіцеся ад тыхнай частковай, непазначанай працы.

Дзеянне паўжырання 8/831: зважыце час выканання, класію адказаў і колькасць токенаў, выкорыстаных для гэтага запісу, а пасля, на аднойчынныя крэтыры, а не на індывідуальных прыкладах, выявіце, чы хацяце застаўіць змену.

Для 9-го этапа паўжырання задаць неабходна вхідныя даны, адпаведальнага за крок і крэтыры завершэння пры змяне коду. Аперацыйныя працавнікі павінны магчымае перзапускаць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Конфігурацыю трэба заставляць парадульна да коду прыкладнення. Файлы сяродавішча, хранільнікі секрэтных дадзеных і флагі функцыяў павінны знаходзіцца ў аднам месцы, якое працавнікі можуць пераглядаць, не чытаючы весь ланцуг.

Дзеянне паўжырання 9/831: зважыце час выканання, класію адказаў і колькасць токенаў, выкорыстаных для гэтага запісу, а пасля, на аднойчынныя крэтыры, а не на індывідуальных прыкладах, выявіце, чы хацяце застаўіць змену.

Калі працуеце над 10-ю стадзіяй ударожэння, спачатку запісайце шаблон кантракта: неабяжныя вхідныя даны, сігнал успеху і тое, што выходзіць пад частковым неудачам. Такі спіс контроля дапамагае залічыць пазнейшыя змены ў кодзе чыстымі. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, неудача павінна вказваць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач.

Дзеянні ўдарожэння 10/831: звярніце увагу на час выканання, класыя ошыбакі і вітраты токенав для гэтай стадзіі, а пасля вырашыце, чы робіць змены на адной фіксаванай сэтке пытанняў, а не на адной толькі прымітцы.

11-я стадзія ударожэння працюе лепей, калі яе спрыямаць як меравальную плошчу. Запісайце адны ідэальны прыклад працы, адзін кейс неудачы і прыміткі па адвярненню змэн, перш чым расшырваць сферу дзеяння. Запісвайце часы выканання і вартасць токенав або запытак праза функцыйнальныя рэзултаты. Відразувая візуабельнасць вартасцей, можна ухіліцца ад неспакою, калі працэс пераходзіць з дэмавайшнага рэжыма ў спяльныя сераўеры.

Дзеянне паўжчання 11/831: звярніце увагу на час выканання, клас памылак і колькасць вікорыстоўваных токенаў для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на асобістых спазырэннях, выявіце, чы робіць змены.

Для 12-го этапу паўжчання неабходна перад змянай коду чытко візначыць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння. Аперацыйныя працавнікі должны магчымае перадзвануць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Неабходна адначасна задокументаваць шлях успеху і шлях вярнення. Перапрыбуткі, людзкія перакрыцця і апрацоўка некорэктных паведамленняў ёсць часткай продукту, а не чымсь, што дадаецца пазней.

Дзеянне паўжчання 12/831: звярніце увагу на час выканання, клас памылак і колькасць вікорыстоўваных токенаў для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на асобістых спазырэннях, выявіце, чы робіць змены.

Калі працуеце над стадзіяй 13 з адаптавання працоўніка, спачатку запісайце контракт: неабяжныя вхідныя даны, сігнал успеху і тое, што выходзіць у разе частковага невыпання. Такі спіс контроля дапамагае залічыць пазнейшыя змены коду адкрыта. Спрэцьвуйце гэтую стадзію як контракт межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаце крытэрыя успеху і адмовіцеся ад тых частковых выпанняў, якія залішаюцца непазначанымі.

Дакладнасць адаптавання 13/831: звярніце увагу на час выканання, класы памылак і вітрату токенав для гэтай змены, а пасля вырашыце, чы робіць яе, спакоюючыся на апранаванай сэтце пытанняў, а не на індывідуальных прыкладах.

Стадзія 14 з адаптавання працоўніка будзе работаць наякша, калі яе спрэцьвуваць як меравальную плошчу. Запісайце адны ідэалны прыклад працы, адны прыклад невыпання і змест карэткі па анулюванні працы, перш чым расшырваць сферу дзеяння. Зберагаюце настройкі праза код прыемліка. Файлы серавыску, хранільнікі секрэтных даных і флагі функцыйяў должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжнага чытання всіх элементаў.

Дзеянне паўжыцьнявання 14/831: змяроўвае час выканання, класыя ошыбакі і колькасць токенаў, выкорыстаных для гэтага запісу, а пасля вырашае, чы робіць змяну на аднойчы назначанай сэткі пытанняў, а не на аднойчы прыгадцы.

Для этапы 15 запісу паўжыцьнявання неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння. Аперацыяныя працавнікі должны магчыма было перзапускаць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Лепш выкорыстоўваць маленькія, тэставаныя елементы замест большых скрыптаў. Калі крок не выйшоў, прычына неудачы должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны працэс.

Дзеянне паўжыцьнявання 15/831: змяроўвае час выканання, класыя ошыбакі і колькасць токенаў, выкорыстаных для гэтага запісу, а пасля вырашае, чы робіць змяну на аднойчы назначанай сэткі пытанняў, а не на аднойчы прыгадцы.

Калі працюеце над стадзіяй 16 з адаптавання захоўнай сістэмы, спачатку запісаце кантракт: неабходныя даны, сігнал успеху і тое, што выходзіць па частковай нявыполненасці. Такі спіс контроля дапамагае залічыць змяны ў кодзе адкрыта і чэстна. Празрачнае фіксаванне часу выкарыстання і вартосці токена або запыту разам з функцыйнальнымі рэзултатамі запобегае неспакою, калі працэс пераходзіць з дэмовай асяроддзя ў спяльнаваныя сераўеры.

Дакладнасць адаптавання захоўнай сістэмы 16/831: звярзайце час выкарыстання, класію памылак і вартосць токена для гэтай стадзіі, а пасля, на аднойчынку з фіксаваным наборам пытанняў, а не на аднойчынку з індывідуальнымі спостарожэннямі, адлучыце, чы робіць змяну.

Калі працуеце над першым этапам зміцнення, спачатку запісайце умовы: неабяцковыя даны, сігнал успеху і тое, што выходзіць пад частковыя неудачы. Такі спіс дапамагае заліцварваць пазнейшыя змены коду. Зберагаюце настройкі празьма ад коду прыемліка. Файлы сераўнавання, хранільнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаць пераглядаць іх без неабяцковага чытання всіх элементаў.

Дзялей 0/850 зміцнення: вымерыце час выканання, класію памылак і колькасць вікорыстоўваных токенав для гэтага пункту, а потым выберыце, чы робіць змену на адной пазначанай базе пытанняў, а не на адной толькі прымітывнай інформацыі.

Першы этап зміцнення работае лепей, калі яго спрыяваць як меравальную плошчу. Запісайце адны ідэальны прыклад работы, адзін прыклад неудачы і запіску пра вярнэнне да пачатковага стану, перш чым расшырваце сферу дзейснення. Валідзіце маленькія, тэставаныя елементы замест большых скрыптав. Калі якісь крок не выйшае, неудача должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг дзеянняў.

Дзеянне паўжасткі 1/850: звярніце увагу на час выканання, клас памылакі і колькасць токенаў, выкорыстаных для гэтай змяны, а пасля, на аднойчынных пытаннях, а не на аналагіях, вынікніце рашэнне пра тое, чым застаўся гэтыя змяна.

Этап 0 паўжасткі найэфектывней працюе, калі яго спрыяваць як меравальную плошчу. Запісаце адну ідэальную транскрыпцыю, адзін прыклад неудачы і змяны для вярнення да пачатковага стану, прычым не расшыруючы сферу дзеяння. Спрыявайце гэты этап як кантракт межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даўце назвы артыфактам, задаце крытэрыя успеху і адмовіцеся ад мовчанкавага частковага завершэння.

Дзеянне паўжасткі 0/869: звярніце увагу на час выканання, клас памылакі і колькасць токенаў, выкорыстаных для гэтай змяны, а пасля, на аднойчынных пытаннях, а не на аналагіях, вынікніце рашэнне пра тое, чым застаўся гэтыя змяна.

Для першага пасэгу з узгаджанняя жорсткасці неабходна ўскладненне: пярэд тым, як зменіць код, неабходна вялічыну вхідных дадзеных, адпаведальную особу за выкананне крока і крытэрыя завершэння. Аператары должны магчымае перадзваніць крок з вядомай точкі контролю, не спрабоўваючы з’ясаваць захаваны стан. Конфігурацыю трэба залічыць праза код аплікацыі. Файлы сераўнавання, храненні секрэтных дадзеных і флагі функцый должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядзець, не чытаяўшы весь граф.

Дзеянне узгаджанняя жорсткасці 1/869: памеры часу выканання, класаі бядаў і вітрачання токеноў для гэтага пасэгу, пасля чаго неабходна вырашыць, чы робіцца змена на адной падставе фіксаванага набору пытанняў, а не на адной лічбе прыкладаў.