Практычныя прытамулі: API Agents адкомпаніі OpenAI зменяе эканаміку роботы з ШІ
Практычныя прыказкі: змены API Agents ад OpenAI, які перакраяюць эканоміку роботы з ШІ: контракты, перакантрольваннія та готовыя фрагменты коду для команд, якіе використоўваюць гэты патэрн.
Наступныя прытамкі паказваюць практычны падход да тэмы «Змены API агентаў OpenAI, якія зменяюць эканаміку работы з AI». Акцэнт ставяецца на кантракты, пераконтроўванні і месца для коду, а не на мотывацыйныя аспекты. Калі працуеце на стадзіі агляду, спачатку запісайце кантракт: неабходныя даны, сігнал успеху і тое, што выканаецца у разы частковага нявыполнення. Такі список перакантроўваець, каб пазнейшыя змены коду былі чыстымі. Валідзіце маленькія, тэставаныя елементы замест абмежлёных скрыптав. Калі якісь крок не выйшоў, прычына нявыполнення павінна вказваць на адную адпаведальнасць, а не на заплутаны процес.
Запрос больш не ёсць елементам работы
Запрос A лепшаў працюе, калі яго розглядаць як вимерную паверхню. Зафіксавайце адна ідеальная транскрыпцыю, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць масштабы. Разглядзіце гэты этап як кантракт межа вхіднымі даннымі і паверыжанымі выходнымі рэзультатамі. Паказвайце назвы артыфактаў, задаюце критэрыя успеху і адмовляйцеся ад тыхня частковага завершэння без паведамлення. Храніце стан графа ў простым і типаванам формате. Вкладзеныя блокі маскуюць інфармацыю пра тое, який вузел запісаў канкрэтны поле, і спакоююць продажчыку роботу пасля перарываў.
У часе роботы агента є скрытыя кашты.
Рэнтайм агента працюе наяўнейша, калі яго спрыяваць як мерыемую паверхню. Запісаце адна ідеальная транскрыпцыя, адзін прыклад неудачы і прыметкі па абратанню стану раней, чым расширваце сферу дзеяння. Запісвайце часы выканання і косты токеноў або запытак праза функцыйнае рэзультат. Відкрытыя данні пра косты з’являюцца рано, таму не будзе неспакойных счытанняў, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўысы. Храніце стан графа ў простам і типаваным формате. Вкладзеныя блокі маскуюць, калькі вузел запісаў калькі поль, і спакойваюць працю пасля перарываў.
from agents import Agent, Runner, function_tool
@function_tool
def get_error_rate(service: str, minutes: int = 30) -> str:
"""Return the recent error rate for a service."""
return f"{service}: 8.4% errors over {minutes} minutes"
investigator = Agent(
name="Incident investigator",
instructions=(
"Investigate the incident, use evidence, and recommend "
"the safest next action. Do not change production state."
),
tools=[get_error_rate],
)
result = Runner.run_sync(
investigator,
"Investigate the elevated 5xx rate in service-api."
)
Надзеямасць, кантроль і адзначэнне задоволення визначаюць успех
Этап кантролю над надзяйнасцю і адзьякватнасцю працуе наўлучней, калі яго спрыяваць як меравальную паверхню. Зберагчыце адны ідеальны транскрыпт, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць сферу дзеяння. Зберагчыце настройкі параду ў коду прыемлівання. Файлы сераўнавальнага сэрвісу, хранілішчы секретных дадзеных і флагі функцый должны знаходзіцца ў аднам месцы, куды аператары можаць адбавляць контроль без неабяжнага чытання всіх дадзеных. Зберагчыце стан графа простым і з адзінаковым типам дадзеных. Вярстаўлены блокі маскуюць інфармацыю пра тое, який вузел запісаў канкрэтны поле, і спакойваюць працу пасля перарываў. Этап кантролю над надзяйнасцю і адзьякватнасцю працуе наўлучней, калі яго спрыяваць як меравальную паверхню. Зберагчыце адны ідеальны транскрыпт, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць сферу дзеяння. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісьць крок не выйшла, прычына неудачы должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцоўкі дзеяння.
Паралельныя агенты меняюць час на витраты
Для стадіі транзакцый паралельных агентаў неабходна перад змянай коду задаць вхідныя даны, абавесніка кроку та крэтыяры завершэння. Аперацыіям павінна быць можлівасць перазапускаць крок з вядомага пункту контролю, не спрабоўваючы з’ясаваць захаваны стан. Спрыятлівае ставленне да гэтай стадіі трэба розглядаць як кантракт межа вхіднымі данымі та падтвердзенымі выходнымі рэзультатамі. Назваць элементы, задаць крэтыяры успеху та адмовіцца ад мовчанкавага частковага завершэння. Пры выкарыстоўванні грошэй чыльныя змяны ў данных працы павінны атрымваць затверджэнне чалавека. Праця ў часе компілявання не є адпаведнай показателем завершэння бізнес-процэсу.
Затверджэнне — гэта фінішная лінія
Пакія «Acceptance» ўособлівае заключны ўрадок: перш чым зменяць код, неабходна вказаць вхідныя даны, адпаведальнага за крок і критэрыя завершэння. Аператары должны магчымае запускать крок з вядомай точкі контролю, не прабуючы спадарожваць схованы стан. Запісвайце час выконання і вартасьць токеноў або запытак праза функцыйнае рэзультат. Відкрытая візуалізацыя вартасцей запобегае неспакоўным рахункам, калі процес пераходзіць з дэмовай среды ў спакульную. Неабходна людская апрацоўка тых крокаў, якія выкорыстоўваюць грошы або зміняюць даны ў працэсе виробніцтва. Праця ў часе компілявання не є гарантыяй повнай адпаведнасці продукту бізнес-трэбованням.
cost per accepted task =
total execution cost / tasks accepted without rework
З следаў да бізнес-цэні
Для стадіі «З следаў да бізнесу» неабходна перад змянай коду адначыць вхідныя даны, адпаведальнага за крок і крэтырыя завершэння. Аператары должны магчымае перайсці на выкананне кроку з вядомага пункта контролю, не спрабоўваючы здогадвацца пра схованы стан. Конфігурацыю трэба залічыць паза кодам прыкладнення. Файлы сераў, хранільнікі секрэтных данных і флагі функцыйяў должны знаходзіцца ў аднам месцы, якое аператары можаць пераглядаць, не чытаяўшы весь ланцуг. Прызначаць людскія празгляды для тых рэштаў, якія витрачаюць грошы або зменяюць даны у працэсе. Підключэння пад час компілявання не ўзроўнаўваецца з повнайасцю бізнес-процэсаў. Для стадіі «З следаў да бізнесу» неабходна перад змянай коду адначыць вхідныя даны, адпаведальнага за крок і крэтырыя завершэння. Аператары должны магчымае перайсці на выкананне кроку з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Валічыць маленькія, тэставальныя елементы працэсу над велікімі скрыптамі. Калі крок не выйшоў, прычына нехарактернага рэзультата должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцуг дзеянняў.
eline.
Следы — это даны бухгалтерскага учэту
Калі працюеце на стадзіі «Следы — это даны бухгалтерскага учэту», спачатку запісайце контракт: неабяжлівыя даны, сигнал успеху і тое, што выканаецца у разы ў частковай нявыполненасці. Такі список пераканаецца падтрымаць чыстасцю будучых змян у кодзе. Спрыятліваце гэтую стадзію як контракт межу вхіднымі данымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаце критэрыя успеху і адмовіцеся ад тыхоўкага частковага завершэння. Зробіце контрольную пункт пасля дорогіх крокаў. Програма не должна занова выклікаць той самы календар LLM, калі аператар праканаецца з пазнейшым вузлам.
Стратэгічная рашынка
Калі працюеце над стадзіяй «Стратэгічная дыяцею», спачатку запісайце угоду: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список контроля дапамагае заліцвачыць змяны ў кодзе адкрыта. Запісвайце часы выканання і кост токеноў або запытаў праза функцыйнае рэзультат. Відкрытыя даны пра косцы запобегаюць неспакоўным рахункам, калі працэс пераходзіць з дэмаверсіі ў спяльныя среды. Зробіце перапаконтроль пасля дорогіх крокаў. Система адновлення не должна зноў нарахоўваць косты той самай вызову LLM, калі аператар прабуюць зноў запрацаваць пазнейшы вузел.
Вывад: Меркуйце работу, а не словы
Калі працуеце над стадзіяй «Заключныя меры: работа не адбываецца», спачатку запісайце умовы працы: неабяжлівыя данні, сигнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список контролю дапамагае заліцвачыць пазнейшыя змены ў кодзе. Зберагаюце настройкі паза кодам прыемліка. Файлы сераўнавання, хранільнікі секрэтных данных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаюць адбавіць аудыт без неабяжлівага чытання всей структуры. Ставяце контрольныя пункты пасля дорогіх крокаў. Система вярнення працы не должна занова ставіць плату за той самы вызов LLM, калі аператар перапрыяўляе роботу да наступнага элемента. Калі працуеце над стадзіяй «Заключныя меры: работа не адбываецца», спачатку запісайце умовы працы: неабяжлівыя данні, сигнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список контролю дапамагае заліцвачыць пазнейшыя змены ў кодзе. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшаў, прычына нявыпання должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаную структуру працы.
Апавяданні і дадзенне для чытання
Этап «Апавяданні і дадзенне для чытання» працюе наяўней калі яго спрыяваць як мерыемую плошчу. Запісаўце адна «золатая» транскрыпцыя, адзін прыклад неудачы і запіс пра вярнэнне да поперадняе стану перш чым расширваць масштаб. Спрыявайце гэты этап як кантракт межа вхіднымі дадзеннямі і паверыжанымі выходнымі рэзультатамі. Даўце назвы артыфактам, задаце критэрыя успеху і адмовіцеся ад тых падчас, калі завершэнне вядзецца толькі часткова і без паведамлення. Зберагачыце стан графа простым і з адначыяным типам. Вкладаныя блокі маскуюць інфармацыю пра тое, який вузел запісаў кожны поле, і спакшваюць возз'еднанне пасля перарываў.
Чэк-ліст для эксплуатацыі
Для этапа чэк-ліста для эксплуатацыі задаце вхідныя дадзенні, адпаведальную особу за крок і критэрыя завершэння перш чым зменіць код. Аперацыйныя працавнікі должны магчымае перадзеяць крок з вядомай точкі контролю, не падозрываючы прыхованы стан.
Запісвайце адзюнктыўны і пат гэтароўкі ў адно. Праказы, падтрымка ад чалавека і обробка непрацягліх паведамленняў ёсць часткая продукту, а не пасляднія дапрацоўкі.
Неабходна чалавечая згода на тыя элементы, якія витрачаюць грошы або зменяюць данні працэсу. Працэс кампайлявання не ўзроўнаважваецца з полным адпрацоўкам бізнес-функцый.
Напісце кароткі посоўнік: як ротаваць клучы, як апустошыць чергу, як вярнуць пасляпэўны стан.
Валіце маленькія, тэставаныя елементы замест вялікіх скрыптав. Калі якісь крок не выйшае, адказнасць за гэта патрабуе чыстага адпаведнага элемента, а не заплутанага ланцоўкі.
Неабходна чалавечая згода на тыя элементы, якія витрачаюць грошы або зменяюць данні працэсу. Працэс кампайлявання не ўзроўнаважваецца з полным адпрацоўкам бізнес-функцый.
Перш чым запускать стак, заморозьце версіі, зафіксавце «золаты» транскрыпты для критычнага шляху і паказайце способы абяроны. У спільных средах неабходны ліміты частоты запуска, пераконтроль стану абонента і чыстая відпаведальнасць за змěну секрэтных даных. Лепшая ўзаемна надзея, чым хітрыя разовыя дэманстрацыі.
Прыметка для пакета c19c8c130ab5: не кладзіце ключы прадаўцаў у репазітарый, задаце верхнюю межу токеноў на сесію і зберагачыце транскрыпты празаўсёды з фіксатрамі ацэнкі, каб пазнейшыя замены моделяў заставаліся порównаннэй.
Для прыметкі па забезпечэнню безпекі на стадыі 0 паказвайце вхідныя даны, абоўязкі адпаведальнага за крок і критэрыя завершэння прычымкі перад зменай коду. Аператары должны магчымаць перзапуск кроку з вядомай точкі контролю, не падозрываючы схованы стан. Зберагачыце настройкі празаўсёды за межамі коду прыемленае. Файлы среды, хранільнікі секрэтных даных і флагі функций должны знаходзіцца ў аднам месцы, якое аператары можаць перакантроліваць, не чытаючы весь граф.
Дзеянне паўжчання 0/855: звярніце увагу на час выканання, клас памылкі і колькасць викорыстоўваных токенаў для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на асобістых спазыраннях, выявіце, чы хачаце застаўіць змяну.
Працюючы над першым этапам запісу паўжчання, спачатку запішыце контракт: неабходныя вхідныя даны, сігнал успеху і тое, што выканаецца у разе частковай памылкі. Такі список контролю дапамагае заставіць пасляэтапныя змяны ў кодзе чыстымі. Валіце маленькія, тэставаныя елементы працы над кодам замест большых, заплутаных скрыптав. Калі якісьць крока не выйшла, памылка должна вказваць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач.
Дзеянне паўжчання 1/855: звярніце увагу на час выканання, клас памылкі і колькасць викорыстоўваных токенаў для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на асобістых спазыраннях, выявіце, чы хачаце застаўіць змяну.