Практычныя нататкі: што адбываецца, калі AI-агенты становяцца асноўнымі карыстальнікамі
Практычны разбор тэмы «што адбываецца, калі AI-агенты становяцца асноўнымі карыстальнікамі праграм»: кантракты, праверкі і гатовыя фрагменты кода для каманд, якія ўкараняюць гэты падыход.
Крыніцы: What Happens When AI Agents Become the Primary Users of Software?
Наступныя прыміткі паказваюць практычны падход да розбору кэпсалона «Што будзе, калі агенты AI стануць главнымі корыстнікамі програмнага забавляння?». Акцэнт ставіцца на кантракты, пераконтроўкі і месца для коду, які можна легка заменіць, а не на мотывацыйныя аспекты. Калі працуеце над стадзіяй агляду, спачатку запісайце кантракт: неабходныя даны, сігнал успеху і тое, што будзе ў разе частковай нявыполнення. Такі спіс контролю дапамагае заставіць пазнейшыя змены коду быць чыстымі. Храніце настройкі парадульна ад коду прыемлівача. Файлы сераўнавання, хранільнікі секрэтных даных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куда аператары можуць адбавіць аўдыт без неабходнасці чытання всей структуры.
Програмнага забавляння, якое мы знаём сэгодні
Этап «Прыемка, якую мы знаем» працюе найэфектывней, калі яго расследжваць як мерыемую паверхню. Зафіксавайце адны ідэальны прыемак, адзін кейс неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расшырваць сферу дзеяння. Дакументавайце як шлях успеху, так і шлях вярнэння. Перапрыемкі, людзкі контроль і обработка некорэктных паведамленняў ёсць часткай продукту, а не пасляднім дапрацоўкам. Храніце стан графа ў простым і тыпаваным фармаце. Вярнутыя структуры дакументаў маскуюць інфармацыю пра тое, калькі вузел запісаў калькі поле, і спакойваюць працэс пасля перарываў.
З фіксаваных інтэрфейсаў да складальных досвядзенняў
Пры пераходзе з фіксаваных інтэрфейсаў да стадыі «работа» найкрашча прыменяць падход, калі гэта спрыяе вімеры. Зберагачыце адна ідэальная версія, адзін прыклад неудачы і запіс пра вярнэнне да поперадней становішчы, пры тым як расшыраеце масштабы. Валіце маленькія, тэставаныя элементы замест большых скрыптаў. Калі якісь крок не выйшоў, прычына неудачы должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцужок задач. Рэгулюйце стан графа так, каб ён быў простым і з адзінаковым тыпам дадзеных. Вярсткаваныя блокі маскуюць інфармацыю пра тое, які вузел запісаў канкрэтны поле, і спакойна прыпіняюць працу пасля перарываў.
Application
├── Search
├── Recommendations
├── Notifications
├── Watchlist
├── Payments
└── Analytics
Што, як програма будзе прыстосавацца да вас?
Этап «Што, калі…» ў прыкладнай програме працюе найэфектывней, калі яго розглядаць як меркаваную паверхню. Зафіксавайце адны ідэальны прыклад працы, адну справу з бягам і прыметку па вярнэнню да пачатковага стану пры расшырэнні масштаба. Разглядзайце гэты этап як кантракт межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даўце назвы артыфактам, задаць крытэрыя успеху і адмовіцеся ад мовчанкавага частковага завершэння задачы. Храніце стан графа у простаму і тыпаванаму фармаце. Вкладзеныя блокі маскуюць інфармацыю пра тое, які вузел запісаў які поле, і спакоююць працэс пасля перарываў. Этап «Што, калі…» ў прыкладнай програме працюе найэфектывней, калі яго розглядаць як меркаваную паверхню. Зафіксавайце адны ідэальны прыклад працы, адну справу з бягам і прыметку па вярнэнню да пачатковага стану пры расшырэнні масштаба. Храніце настройкі паза кодам прыкладнай програмы. Файлы сяродавішча, хранальнікі секрэтных даных і флагі функцыйяў должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжнага чытання всего графа.
Інтэрфейс можа стаць проста ўжо адным з інтэрфейсаў
Для этапы «The UI Might Become» неабяжна прадзефінаванне вхідных дадзеных, адміністратара крока і крэтэрыяў завершэння пры перадзеіснаванні коду. Аператары должны магчымае запускаваць крок з вядомай точкі контролю, не падозрываючы прыхованы статус. Неабяжна задокументаваць як шлях успеху, так і шлях вярнення. Перапрыбуткі, людзкія пераказы і обработка некорэктных паведамленняў ёсць часткай продукту, а не пасляднім дапрацоўкам. Неабяжна атрымаць падтвердзенне чалавека для тых крокаў, якія выкарыстоўваюць грошы або зміняюць даныя у працэсе. Працэс складання коду не ўзроўнаваецца з повнасцю бізнес-функцыяў.
User
↓
UI
↓
Backend
↓
Database
Складнасць не ў інтэрфейсе
Для этапы The Hard Part Isn неабяжна практыка — адначы ўспэшная праца выклікаецца толькі пасля таго, як будуць заданы вхідныя даны, адпаведальныя за кожны крок і крэтырыя для завершэння працы перад будзь-якімі змянамі ў кодзе. Аператары должны магчымаць перзапуск крока з вядомай точкі контролю, не прабуючы здогадвацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выконваецца, прычына павінна быць адносна конкрэтной адпаведальнасці, а не сложнай сэткі крокаў. Неабяжна людская апрацоўка там, дзе выконваюцца грошовыя расходы або зміняюцыся даны для працы. Компіляцыйныя налашчэння не ўзначаюць павнае адпрацоўкі бізнес-процэса.
Можа, самэ гэта і ёсць напрамак развіцця прыкладных програм
Для этапы «Можа, гэта тое месца» неабяжна прадзефінавацыя вхідных дадзеных, адпраўніка крока і крэтарыяў завершэння пры перадзмене коду. Аперацыйныя працавнікі должны магчымае перайсці на гэты крок з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Спрыяйце цій этапы як даговору межаў вхідных дадзеных і перакананых выходных рэзультатаў. Даць назвы артыфактам, прадзефінавацыя перакананняў пра успех і адмова ад бяспрэчнага частковага завершэння. Забезпечыце людскія апраўдкі для тых крокаў, якія выкарыстоўваюць грошы або зменяюць даны для працы. Компіляцыйныя налашчэння не ўзроўнаўцуюцца з пачатковым станом бізнес-процэсаў. Для этапы «Можа, гэта тое месца» неабяжна прадзефінавацыя вхідных дадзеных, адпраўніка крока і крэтарыяў завершэння пры перадзмене коду. Аперацыйныя працавнікі должны магчымае перайсці на гэты крок з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Зберагачыце налашчэнні парадульна ад коду прыкладнення. Файлы сяродавішча, хранільнікі секрэтных дадзеных і флагі функцый должны знаходзіцца ў аднам месцы, якое працавнікі можуць аўдытаваць, не чытаючы весь граф.
Чэкліст аператыўнай працы
На стадзіі чэкліста аператыўнай працы неабходна праказаць вхідныя даны, адпаведальнага за кожны крок і крэтыяры завершэння пры змены коду. Аператары должны магчыма было перзапускаць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан.
Запісваць час выканання і кост токенаў або запытаў разам з функцыйнальнымі рэзультатамі. Відразлівасць костаў з самага пачатку запобегае неспакою, калі працэс пераходзіць з дэмавай версіі ў спяльныя асяроддзя.
Апраўдка чалавека патрэбна для тых крокаў, якія выкалічваюць грошы або зменяюць даны ў працэсе. Конфігурацыя, створаная ў часе компіляцыі, не гарантуе полнай адпаведнасці з рэальнымі задачамі бізнесу.
Напісаць кароткі посібнік: як роцыяваць клучы, як спрачыслаць чэргу запытаў, як ануляваць пярэдніе змены.
Канфігурацыю трэба зберагчы параду коду прыкладнення. Файлы асяроддзя, хранільнікі секрэтных даных і флагі функцыйяў патрабуюць быць у аднам месца, якое аператары можаць пераглядаць, не чытаючы весь код прыкладнення.
Неабяжна людская празначэнне для тых элементаў, якія выдваюць грошы або зменяюць даныя праработкі. Працаванне ў часе компілявання не абяжаецца пачынкамі бізнес-процэсаў.
Перш чым пераводзіць стэк, заморажуйце версіі, зафіксавайце «золаты» транскрыпты для крытычных ліній працы і паказвайце крокі для атрыбуцыі. У спадзяльных срэдах неабходны ліміты частоты запытоў, перакананні ў правах на выкарыстоўванне рэсурсаў і чысткі власнік для змены секрэтных даных. Валіце надзейнасць, а не крэатыўныя разовыя дамастанкі.
Запіс для cdf336c9dd07: не кладзіце ключы прадастальнікаў у рэпазітарый, задаце ліміт токенаў на кожную сесыю і зберагаце транскрыпты праз адныя з фіксатурамаў eval, каб пазнейшыя замены модэляў заставаліся пораўнанымі.
Калі працуеце над першым этапам зміцнення, спачатку запісайце умовы: неабяцковыя даны, сігнал успеху і тое, што выходзіць па частый неякосці. Такі спіс дапамагае залічваць пазнейшыя змены коду чыста і прозрачна. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, неякосць должна вказваць на адзін конкрэтны элемент, а не на заплутаны ланцюг задач.
Дзеянне зміцнення 0/916: вымерыце час выканання, класію памылак і колькасць токенаў, якія былі выкарыстоўаны для гэтага пункту, а потым выявіце, чы рашыцца застаўляць змену на адной фіксаванай базе пытанняў, а не на адзінственных прыкладах.
Этап 1 зміцнення працюе лепей, калі яго розглядаць як параметр, які можна вымерыць. Запісайце адзін ідэальны прыклад работы, адзін кейс неякосці і прыказку па адваротным запуску, перш чым расшырваць сферу дзеяння. Запісвайце часы выканання і кост токенаў або запытаў разам з функцыйнальнымі рэзултатамі. Відразувыя даны пра косцы запобегаюць неспакойным рашчыткам, калі працэс пераходзіць з дэмаверсіі ў спяльныя асяроддзя.
Дзеянне паўжчання 1/916: звярніце увагу на час выканання, клас памылакі і колькасць вікорыстоўваных токенаў для гэтага зьведнення, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на асобістых спазырэннях, выявіце, чы хацяце застаўіць змены.
Для 2-й стадзіі паўжчання неабходна перад змянай коду чытка апісаць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння. Аперацыйныя працавнікі должны магчыма было перазапускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Апісвайце адночасна шлях успеху і шлях вярнення. Перапрыбуткі, людзкія перакрыцця і апрацоўка некорэктных паведамленняў ёсць часткай продукту, а не чымсь, што дадаецца пазней.
Дзеянне паўжчання 2/916: звярніце увагу на час выканання, клас памылакі і колькасць вікорыстоўваных токенаў для гэтага зьведнення, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на асобістых спазырэннях, выявіце, чы хацяце застаўіць змены.
Калі працуеце над 3-й стадзіяю практыкы забезпечэння безпекі, спачатку запісайце контракт: неабяжлівыя вхідныя даны, сігнал успеху і тое, што выходзіць на частым неудачам. Такі спіс пераканае ў тым, што пазнейшыя змены коду будуць чыстымі. Спрэчвайце гэтую стадзію як контракт межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаце крытэрыя успеху і адмовіцеся ад мовчанкавага частаг завершэння.
Дзеянне 3/916 практыкы забезпечэння безпекі: звярзайце час выканання, класы каштоўкаў і вітрату токенав для гэтай практыкі, а потым выберыце, чы робіць змены на адной пазначанай базе пытанняў, а не на адной лячбе.
3-я стадзія практыкы забезпечэння безпекі працуе лепей, калі яе спрэчваюце як меравальную плошчу. Запісайце адну ідэальную транскрыпцыю, адзін прыклад неудачы і запіску пра анулювання перш чым расшырваце масштаб. Зберагайце настройкі параду ўнутры коду прыемлівача. Файлы сераў, хранільнікі секрэтных дадзенняў і флагі функцый павінны знаходзіцца ў адном месцы, якое аператары можаць пераглядаць без неабяжлівага чытання всей структуры.
Дзеянне паўжасткі 4/916: звярніце увагу на час выканання, класы паказчаў і колькасць вікорыстоўваных токенаў для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на асобістых спазыраннях, выявіце, чы хацяце застаўіць змены.
Для 5-го этапу паўжасткі неабходна перад змянай коду чытко візначыць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння. Аперацыяныя працавнікі должны магчымае перадзваначыць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшоў, прычына нехарактэрнага рэзультата должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцужок задач.
Дзеянне паўжасткі 5/916: звярніце увагу на час выканання, класы паказчаў і колькасць вікорыстоўваных токенаў для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на асобістых спазыраннях, выявіце, чы хацяце застаўіць змены.