Дзе інструменты агентнага кодавання в практыцы витрачаюць токены

Існавайце гэта як перапрацоўку ідэй з артыкула «Чаму інструменты агентнага кодавання спалююць так много токенаў?» для аператараў: чыстыя этапы, аранжаваныя слоты для коду і прыміткі з восстанавлення, якія застаюцца пасля перадачы задання. Адгледжэнне працюе найкраща, калі яго розглядаць як вимерную плошчу. Запісаўце адна ідеальная транскрыпцыю, адзін прыклад неудачы і прыміткі з вярнення да пачатковага стану, прычаму расшырюваць масштабы раней. Валічыце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісьць крок не выходзіць, прычына неудачы павінна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны процес.

Асновная механіка: токены вхіду, а не выходу

Для основнай механікы: трэба вводзіць токены, а не рэзультаты, прайшлі ўвядзенні, адпаведальнага за крок і крэтарыя выходу пры перадзеі коду. Аператары должны магчымаць перзапуск крока з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Спрыяйце цэму этапу як кантракту межа ўвядзеннем і падтверджанымі рэзультатамі. Дайце назвы артыфактам, прайшлі перагляд успеху і адмовіцеся ад тыхнай частковай завершэння без паведамлення. Калі наступны крок — код або вызов інструмента, валідаванне за дапамою схемы лепша, чым вольная проза з структураванымі рэзультатамі.

Чаму косць ўскладнены, а не проста вялікі

Калі вартасць є неперакладным, а не простаў высокім, пярэд тым, як зменіць код, неабходна апрацаваць параметры, власніка крока і критэрыя завершэння. Аператары должны магчымае перзапускать крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Запісвайце час выконання і вартасць токена або запытку празаў з рэзультатамі функцыянальнай працы. Візуабельнасць вартасці з самага пачатку запобегае неспакою, калі процес пераходзіць з дэмаверсіі ў спяльныя сераўы. Калі наступны крок — це код або вызов інструмента, лепш выкарыстоўваць структураваныя выходны данні з перакананням схемы, чым вольныя тэкстовыя апісанні.

Дзе кэшаванне KV дапамагае, а дзе — ні

Ёнколі KV-кашаванне дапамагае, а ёнколі — ня, перад зменым коду неабходна ясная дэфініцыя вхідных даных, адміністратара шагу і крэтэрыяў завершэння. Аперацыёныя працавнікі павінны магчымаецца перазапускаць шаг з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Конфігурацыю трэба знаходзіць за межамі коду аплікацыі. Файлы сераўіса, хранальнікі секрэтных данных і флагі функцыйяў павінны быць у адном месца, якое працавнікі можуць пераглядаць, не чытаючы весь граф. Калі наступны шаг — це код або вызов інструмента, лепш выкарыстоўваць структураваныя выходны даны з перакананнем ў правільнасці схэмы, чым вольныя тэкстовыя апісанні. Ёнколі KV-кашаванне дапамагае, а ёнколі — ня, перад зменым коду неабходна ясная дэфініцыя вхідных даных, адміністратара шагу і крэтэрыяў завершэння. Аперацыёныя працавнікі павінны магчымаецца перазапускаць шаг з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Лепш выкарыстоўваць маленькія, тэставаныя елементы, чым велікія скрыпты. Калі шаг не выйшоў, прычына нехарактэрыстыкі павінна вказываць на адную адпаведальнасць, а не на заплутанасць.

Це частка каналу обработкі.

Чаму сумы расцягліся у 2026 годзе

Працюючы над паводлом «Чаму сумы расцягліся у 2026 годзе», спачатку запісайце контракт: неабяжлівыя даны, сигнал успеху і тое, што выходзіць у разе частковага невыпання. Такі список контроля дапамагае заліцьваты пазнейшыя змены коду. Спрэцьвачайце гэты этап як контракт межа данымі і перакананымі выходамі. Дайце назвы элементам, задаце критэрыі успеху і не падзеляйцеся на частковыя завершэння без паведамлення. Зберагачвайце інструкцыі стабільной системы і схемы інструментаў у кэшы. Перадача ідэнтычных прамуслов ёсць частым выклікам затрат.

Скрытыя другія сумы: што на самай працэ выкладваюць токены

Калі працюеце над «Скрытым другім счытам: што на самай працо адправляюць токены», спачатку запісайце угоду: неабяжлівыя даны, сигнал успеху і што выходзіць у разе частковага невыпання. Такі список контроля дапамагае заліцварыць пазнейшыя змены ў кодзе. Запісвайце часы выконання і кост токенав або запита праза функцыональныя рэзултаты. Відразлівасць коста з самага пачатку запобегае неспакою, калі працэўная суперфіс пераходзіць з дамовай версіі ў спяльныя сераўры. Зберагачвайце стабільныя інструкцыі системы і схемы інструментаў. Перадача таго ж прамэра зноў і зноў — частая прычына некальканадзесятых витрацоў.

Што на самай працо робіць з гэтым

Калі працуеце над пытаннем «Што на самай працо з гэтым рабіць», спачатку запісайте контракт: неабяжлівыя даннэ, сигнал успеху і тое, што выходзіць па частый неякосці. Такі список контроля дапамагае залічваць пазнейшыя змены ў кодзе чыста.

Інструментаванне агентаў, якія вы самі стварылі

Агенты, якія вы самі ствараеце, працуюць наўжоўды лепш, калі іх розглядаць як мерыемую структуру. Зафіксавайце адну ідеальную транскрыпцыю, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць сферу ўжывання. Разглядзайце гэты этап як кантракт межа вхіднымі даннымі і паверыжанымі выходамі. Дайце назвы артыфактам, задаць критэрыя успеху і не падзеўляйцеся частым, непূরным выкананнем задач. Задаць ліміт токенав на кожны рунд і на кожную сесыю. Інструменты-агенты агрэсіўна расширваюць контекст; жорсткія ліміты не дазволяюць дэмам ператварыцца на неспакоўлівыя рахункі.

from opentelemetry import trace

tracer = trace.get_tracer("agent")with tracer.start_as_current_span("chat") as span:
    response = client.messages.create(model=model, messages=messages)
    span.set_attribute("gen_ai.request.model", model)
    span.set_attribute("gen_ai.usage.input_tokens", response.usage.input_tokens)
    span.set_attribute("gen_ai.usage.output_tokens", response.usage.output_tokens)

Пашчэрпнутыя падступкі

Звычныя падаслівы даўаюць найкращыя результаты, калі іх расследваць як вимерную характэрыстыку. Запісайце адна ідеальная версія роботы, адзін прыклад неудачы і прыметкі па поверненню да попярэднья версіі, прычаму расшырюеце сферу дзейснення. Запішыце час выканання задач і кост токеноў або запытаў разам з функцыйнальнымі рэзультатамі. Відразувыя даны пра косты запобегаюць неспакоўным рахункам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўысы. Задаце бюджет на токены на кожны раунд і на кожную сесію. Інструменты з агентным падходам агрэсіўна расширяюць контекст; строгі ліміты не дазволяюць дэмаверсіям ператварыцца на неспакоўныя рахунки.

Заключныя меркі

«Пасляўплывае размышленне» працюе наякша, калі яго спрыявае можна змерыць паверхня. Зберагуйце адну ідеальную транскрыпцыю, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць масштабы. Зберагайце настройкі парадульна ад коду прыемліка. Файлы сераўнавальной среды, хранільнікі секрэтных дадзеных і флагі функцый должны знаходзіцца ў аднам месцы, куды аператары можаць адбавляць контроль без неабяжнага чытання всіх дадзеных. Задаюце ліміты токенаў на кожны рунд і на кожную сесію. Інструменты-агенты агрэсывна расширваюць контекст; жорсткія ліміты не дазволяюць дэмам ператварыцца на неспакоўлівыя рахункі. «Пасляўплывае размышленне» працюе наякша, калі яго спрыявае можна змерыць паверхня. Зберагуйце адну ідеальную транскрыпцыю, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць масштабы. Валідзіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшаў, неудача должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцоўкі дзеянняў.

Чэрніца аператыўных дзеянаў

Калі працуеце з чэклістам выконання, спачатку запісайце умовы контракту: неабяжлівыя даны, сігнал успеху і тое, што выканаецца у разе частковага абярэння. Такі чэкліст дапамагае заставіць пазнейшыя змены коду быць чыстымі.

Документавайце як шлях успеху, так і шлях вярнення. Перапрыбуткі, людзкія пераказы і обробка некоректных паведамленняў є частью продукту, а не пазнейшым дапрацоўкам.

Зберагайце у кэшы стабільныя інструкцыі системы і схемы інструментаў. Перасылка ідэнтычных паведамленняў є частым выкліком.

Адкройце інструменты з вузкімі схемамі і чыткімі пазначэннямі парадуктываў. Хостам неабходна знать, якія вызовы мутуюць стан, перш чым яны автаматычна схваляюць ўпрацоўкі.

Паставіце людзкую схвалу на тыя элементы, якія витрачаюць грошы або зменяюць даны у працэсе виробніцтва. Компіляцыйныя наладкі не ўзроўнаваліся з повнасцю бізнес-функцыяў.

Напісайце кароткі посібнік: як роцыяваць клучы, як спрачысніць чергу, як анулюваць пасляпэўныя змены.

Перш чым запускать даную систему, заморозьце версіі, зафіксавце критычныя моменты працы системы і паказвайце ўсі неабходныя даны, а таксама падтвердзіце крокі для вярнення да пачатковага стану. У спільных средах неабходны ліміты на частоту запуску, пераконтроўвання прав на выкарыстоўванне ресурсаў і чысткі власнік для змены секретных даных. Валіце надзейнасць працы над красавімі, але разовымі дэманстрацыйнымі прыкладамі.

Прыметка для 69702b061d86: не кладзіце ключы прадаўцаў у репазітарый, задаце ліміт на токены на кожную сесію і зберагачыце всі неабходныя даны рядом з фіксатрамі для тэставання, каб пазнейшыя змены моделей заставаліся порównанымі.

Для практык ужыцтва захода забезпечэння надзейнасці №0, перш чым зменяць код, неабходна адначасова визначыць вхідныя даны, власніка кроку і критэрыя завершэння працы. Аперацыйныя системы должны магчымае перзапускаты крок з вядомай точкі контролю, не падозрюючы пра схованы стан системы. Документавайце як правільны ход працы, так і способы ўсунення праблем. Перапрыбуткі, людзкі контроль і обработка некоректных дадзеных є частью самага продукту, а не пазнейшыми допанавамі.

Дзеянне паўжасткі 0/723: звярзайце час выкарыстоўвання, класію памылак і колькасць токенаў для гэтага запісу, а пасля, на аднойчынай сэткі пытанняў, а не на асобістых спазыраннях, выявіце, чы хацеце застаўіць змяну.

Калі працуеце над запісам паўжасткі 1, спачатку запішыце контракт: неабходныя вхідныя даны, сігнал успеху і тое, што выканаецца у разе частковай памылки. Такі чэрнік дапамагае заставаць пазнейшыя змяны коду чыстымі. Спрыятлівае ставленне да гэтага этапу як да контракту межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даць назвы элементам, апісацію пераканальных пераглядоў і адмовіцца ад беззвучнага частковага завершэння.

Дзеянне паўжасткі 1/723: звярзайце час выкарыстоўвання, класію памылак і колькасць токенаў для гэтага запісу, а пасля, на аднойчынай сэткі пытанняў, а не на асобістых спазыраннях, выявіце, чы хацеце застаўіць змяну.

Пры спроўвачэнні захода з паўнейшага забезпечэння безпекі 2 ён работае наяўнейша, калі яго расследжваюць як вимерную паверхню. Зберагуйце адна «золатая» копія даных, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць сферу дзеяння. Храніце настройкі парадульна коду прыложэння. Файлы сяродавішча, базы з секрэтнымі данымі і пазнакі функцый крануцца на адным месцы, якое аператары можаць пераглядаць без неабяжнага чытання всіх дадзеных.

Дакладнасць заходу з паўнейшага забезпечэння безпекі 2/723: вимеравайце час выканання, класі каштоўкаў і витраты токенаў для гэтага запісу, а пасля, на аднойчынку з фіксаваным наборам пытанняў, а не на аднойчынку з пераказамі, выявляйце, чы хацяца застаўляць змены.

Для заходу з паўнейшага забезпечэння безпекі 3, перш чым зменяць код, абмовіцеся пра вхідныя даны, адпаведальнага за крок і критэрыяяў завершэння. Аператары павінны магчымаць перазваляць крок з вядомай точкі контролю без адгадванняя прыхованага стану. Валіце маленькія, тэставальныя елементы працы над большымі скрыптамі. Калі крок не выйшае, прычына неудачы павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцоўкі дзеяння.

Дзеянне паўжасткі 3/723: звярніце увагу на час выканання, клас памылакі і колькасць токенаў, якія былі выкарыстаны для гэтага зазначэння, а пасля, на аднойчынай базе паказаных дадзенняў, а не на індывідуальных прыкладах, выявіце, чы рэшацься застаўляць змяну.

Працюючы над зазначэнням паўжасткі 4, спачатку запісайце параметры кантракта: неабходныя даны, сігнал успеху і тое, што выканаецца у разе частковай памылки. Такі список дапамагае застаўляць пазнейшыя змяны ў кодзе чыстымі. Запісвайце час выканання і колькасць токенаў або вартасць запытку па боку ад рэзультатаў функцыяналізму. Відразувая візуабільнасць вартасцей запобегае неспакойным рашчыткам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўысы.

Дзеянне паўжасткі 4/723: звярніце увагу на час выканання, клас памылакі і колькасць токенаў, якія былі выкарыстаны для гэтага зазначэння, а пасля, на аднойчынай базе паказаных дадзенняў, а не на індывідуальных прыкладах, выявіце, чы рэшацься застаўляць змяну.

Пры захоўце працэсу ўзмocнення, пункт 5 будзе эфектываў наікраща, якшо яго спрыята розглядаць як вимерную паверхню. Зберыце адна «золатая» транскрыпцію, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць масштабы. Дакументаваць трэба як успішны, так і патовы шляхі рашэння. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў є часткай продукту, а не чымсь, што дадаецца пазней.

Дакладнасць пры захоўце працэсу ўзмocнення 5/723: звярніце увагу на час выканання, класыя ошибакі і витрату ресурсаў для гэтага пункту, а потым вынікніце рашэнне пра тое, чы хацеце застаўіць змяну, адпаведна фіксаванаму набору пытанняў, а не лячэнням на прыкладах.

Для захоўцы працэсу ўзмocнення 6, перш чым зменіць код, неабходна визначыць вхідныя даны, адпаведальнага за крок і критэрыя завершэння. Аперацыёныя працавнікі должны магчымае перадзеяць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Спрыята розглядаць гэты этап як кантракт між вхіднымі данымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, визначыце критэрыя успеху і адмовіцеся ад безсловеснага частковага завершэння.

Дзеянне паўжасткі 6/723: звярніце увагу на час выканання, клас памылкі і колькасць выкарыстоўваных токенаў для гэтага запісу, а пасля, на аднойчынай сэтце запытаў, а не на асобістых спазыраннях, выявіце, чы хацяце застаўіць змену.

Працюючы над запісам паўжасткі 7, спачатку запішыце контракт: неабходныя данні, сігнал успеху і тое, што выходзіць на частым нявыпанні. Такі чарт дапамагае заставіць пазнейшыя змены ў кодзе чыстымі. Зберагаюце канфігурацыю праза код аплікацыі. Файлы сяродавысці, хранільнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць без неабяжнага чытання всіх элементаў.

Дзеянне паўжасткі 7/723: звярніце увагу на час выканання, клас памылкі і колькасць выкарыстоўваных токенаў для гэтага запісу, а пасля, на аднойчынай сэтце запытаў, а не на асобістых спазыраннях, выявіце, чы хацяце застаўіць змену.

Калі працуеце над пунктом апранткі 0, спачатку запісайце умовы: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага неудачы. Такі список дапамагае заліцварваць будучыя змены ў кодзе. Запісвайце час выканання і вартасьць токена або запытку празаўсёды разам з рэзультатамі функцыяналу. Відразувая візуабельнасьць вартасцей запобегае неспакою, калі працэўніца пераходзіць з дамовай версіі ў спяльныя сераўысы.

Дзеянне апранткі 0/742: замерьце час выканання, класію паказакоў і вартасьць токена для гэтага пункту, а потым выберце, чы хацеце застаўіць змену на адной фіксаванай сэтке пытанняў, а не на адной лічбе.

Пункт апранткі 1 будзе работаць наяўней, калі яго спрыймать як меравальную плошчу. Запісвайце адну ідеальную транскрыпцыю, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць сферу дзеяння. Дакументавайце як успішны, так і вярнэльны шляхы. Перапрыбуткі, людзкія контралі і обработка некоректных паказакоў ёсць часткай продукту, а не чымось, што дадаецца пазней.

Дзеянні з паўжасткі 1/742: звярніце увагу на час выканання, клас памылак і колькасць викорыстоўваных токенав для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набора пытанняў, а не індывідуальных прыкладаў, выявіце, чы рэшыцца застаўіць змяну.