Як Agents API ад OpenAI мяняе эканоміку AI-працы

API для агентаў OpenAI створана для запуску хмарных агентаў працюючых працяглы час, якія распаўненыя інструментамі, сандбоксамі, файламі, механізмамі апрацоўкі кантэксту і падагентамі, якія працуюць паралельна. Агент можа аналізаваць проблему, запускаць код, перадаваць задачы іншым, зберагаць проміжныя рэзультаты і продаваць работу да завершэння.

Гэта змінюе не толькі спосаб будовы агентаў распрацоўшчыкамі. Гэта таксама змінюе спосаб, якым компаніі трэба расчыляваць ўскладненні, якія ўсунулі агенты.

Адна заявка цяпер можа запусціць ланцюг дзеяння: працю модэляў, вызовы інструментаў, операцыі ў сандбоксах, пракушанні, зберагачванне рэзультатаў і апраўдкі з боку людзей. Токены ўсё яшчэ паказваюцца на рахунку, але ўжо не паведамляюць, скількі на самае праца насправды коштаў. Елементам, які трэба сочыць, ёсць завершаная задача: правільная, можнаюцая быць вярнутай, падлежачая аўдыту і коштаючая столькі, скількі коштаў яе стварэнне.

Заявка больш не ёсць елементам працы

Звычны выклік модэлі мае чыстую структуру: прыкладка надае вхідныя даны, модэль вяртае выхідныя, а прыкладка продовжае сваю працу.

API для агентаў створана для іншага спосабу адработкі задач. Агент отрымае цэль і выбірае, як яе адрабатваць. Напрыклад, калі папросіце агента расследаваць адзінаковыя проблемы з спісамі 5xx:

З’ясавіце, чаму service-api за апошнія 30 хвілін столкнуўся з нечыстае зростанням колькасці проблем, і запропануйце безпечныя способы ўсунення.

Звычны асістэнт бы опісаў, як інжынер мог бы расследаваць проблему. Агент, падключаны да правільных сістэм, можа негайна прыступіць да працы: ён пераглядае апошнія запускі, аналізуе журналы прыкладкі, параганяе версіі залежнасцяў, аналізуе показнікі інфраструктуры, доручае окрэмыя аналізы, запускае дыягнастычны код, зберагае доказы і чакае на затверджэння перш чым чыгнуць у чым-небудзь.

Пользоватар бачыць адну запатэнку. Сістэма адканалаў цэлы працэс выканання задачы.

Практычныя нарады OpenAI па стварэнню агентаў называюць гэта «выкананнем»: гэта цыкл, які продовжваецца, пакуль агент не завершыць задачу, не выдае фінальны рэзультат, не зустрэне канфлікту чы не дасягне заданага ліміту. Косцы накапліваюцца ўнутрь гэтага цыклу.

Час выканання мае скрытую калькуляцыю

Токены ўскладнююць калькуляцыю. Яны — толькі і частка, яю лёгкая пазнакоміць.

Вернімся да інцыдэту ў працэсе выканання. Спачатку агент запрашвае апошнія показнікі канфліктавання з інструмента для манітарынгу, потым чытае історыю развяртання, а пасля шукае лог-файлы. Кожны з гэтых запытоў мае свою цэну, час адкладэння, набор разрэшэнняў і свой спосаб выключэння.

Тады інструмент для логавання вяртае 500 запісаў. Гэта здаецца корыстным, пакуль не пазіраеш, што адбываецца далей. Запісы трэба пераказваць, обрабоцваць і размешчаць у кантэксце модэлі. Большасць з іх неякісна, і модэлі трэба час, каб прачытаць весь шум, перш чым яна знайдзе тыя пяць падзеяў, якія пояснююць інцыдэнт.

Таму праектаванне інструмента — гэта праектаванне выкарыстоўвання рэсурсаў. Інструмент для пошуку, які вяртае короткі структураваны апіс, можа быць дышэўней і надзеяней, чым той, які паказвае кожны прыдатны запіс. Адпаведзь API — цэе пошук інструмента плюс програмнае выкліканне інструмента, якое можа адкрываць вялічыні інструментаў толькі тады, калі гэта неабходна, і фільтруваць або спаўніваць рэзультаты пры ўрабоцці іх модэлі.

Тая ж самая логіка застосовуецца і да выкананню ў сэндбоксе. Дыяганастычны скрыпт спрацоўвае CPU, памяць, прыемлівач дадзеных, час на інсталяцыю пакетаў, а можа і да доступу да сеткі. Калі ён стварае атлас чы ўпако комплект доказаў, гэтыя матэрыялы павінны быць зберагнуты, індэксаваны, пераглянуты чы захаваны.

Дзяўнае выкананне агента таксама стварае больш, чым толькі тэкст. Пры раследаванні інцыдэту доказы, якія лежачы за дыягназам, можуць мець большую значымасць, чым пісаны падсумак. У працы з кодам патч ёсць аднай з частак выходных дадзеных, тады як рэзультаты тэстаў і аналіз залежнасцяў можуць быць не менш цэннымі.

Маленькі прыклад SDK агента паказвае, дзе знаходзіцца межа выканання:

from agents import Agent, Runner, function_tool
@function_tool
def get_error_rate(service: str, minutes: int = 30) -> str:
    """Return the recent error rate for a service."""
    return f"{service}: 8.4% errors over {minutes} minutes"
investigator = Agent(
    name="Incident investigator",
    instructions=(
        "Investigate the incident, use evidence, and recommend "
        "the safest next action. Do not change production state."
    ),
    tools=[get_error_rate],
)
result = Runner.run_sync(
    investigator,
    "Investigate the elevated 5xx rate in service-api."
)

Функцыя ўсьмохнутая. А эканоміка — няўсьмохнутая. Усё гэта залежыць ад агента: чы роўна ён будзе запрашаны, чы запрашаны ўтроце, як будуць чытаны яго рэзультаты, і чы патрэбны іншыі інструмент чы затверджэнне чалавека.

Надзеямасць, кантроль і адзначэнне візначаюць успех

SDK забезпечвае элементы, якія працуюць у час експлуатацыі ў рамках гэтага цыклу: агенты, запускачы, інструменты, перадачы дадзэнняў, сесіі, правілы кантролю і трэйсінг. Яны важлівы, таму што рэальныя рабочыя працэсы рэдка калі завершаюцца ўсё ў одні раз.

Запыт да журналу можа выйсці за час, таму агент прабуе знову. Другі запыт работае, але вяртае непашырэныя дадзеныя. Агент перапісвае запыт, запрашае большы набор дадзэнняў і прасіць спецыяліста-агента пераглянуць історыю развертання. У канцы канцоў розследаванне успехуе.

Для карыстальніка агент завершыў задачу. З эканамічнай точкі зору задача таксама включала неудачныя спробы, дадатковыя перадзеі модэлю, больш запытоў да інструментоў і больш часу, які прыйшоўся на ўсё гэта.

Практыка павтарэння спроб не ўсега ёсць марна. Павтарэнне, якое дапамагае парадуць тымчасовыя неудачы, можа стаць тым, што робіць агента надзеяным. Проблема выступае тады, калі такія павтарэння зліваюцца ў адну загальную цыфру успеху.

Паралельныя агенты меняюць час на вітраты

API можа раздзеліць складную працу між падагентамі, які працуюць паралельна. Пад час расследавання інцыдэту аднам спецыялісту можа быць даўана інформацыя пра історыю запуска, другам — адказы пра памылкі прыменення, а трэцьям — даны пра змяны залежнасцяў, тады калякатор спаўнае ўсе ўзятыя даны.

Час, які прабівае пад час работы, можа зменшыцца, адколі все відбываецца адразу. Аднак загальныя вітраты можу выраснуць, адтым што даведзецца плаціць за кальколькі окрэмых кантэкстаў модэляў, кальколькі ланцоў вызоў інструментаў, коордынацыю, крок сінтэзу, а таксама, вельмі верагатна, за тое ж самае, што вучыцца два разы.

Таму самым сістэмы з мнагімі агентамі выглядаюць як распраўленыя сістэмы з мовнымі мадэлямі ў цыкле. Коордынатор выступае як планавальнік, спецыялісты — як працавікі, зовнішнія інструменты — як службы, а файлы і базы дадзеных стаюць спільным станам. Вылучаюцься звычныя проблемы: частыя неудачы, павторныя спробы, неадэкватны стан, павтарэнне працы, ліміты канкурэнціі і неясная атрыбуцыя віткоў. Большая колькасць агентаў не значыць автаматычна лепшага расумавання. Паралелізм павінен быць апрацаваны на адной з гэтых праблем: як структуруецца задача і якое значэнне мае час.

Прыняцце — гэта фінішная лінія

Працэс стварэння можа завершыцца задоўга раней, чым сама праца. У разе падтрымкі прыняцце можа означаць, што проблема кліента была рашыта без непатрэбнага падняцья ў вышэйшыя інстанцыі. У разе заведчыні коду прыняцце можа означаць, што тэсты праходзяць, дотычныя стандарты выпаняюцца і змяны ўключаюцца. У рэагаванні на інцыдэнты прыняцце можа означаць, што дыягназыс падтрымліваецца доказамі і прыводзіць да безпечнага усунення наследків. Метрыка, якая вылічваецца на аднойчынку з гэтым:

cost per accepted task =
    total execution cost / tasks accepted without rework

Калі агент адказвае за дзесяць секунд, а чалавек пасля гэтаго пасвячае дзесяць хвілін на ўсуненне проблемы, то адказ за дзесяць секунд не ўзначае дэшавага рашэння. Гэта была лішняя дэшавая спроба.

Тое, што чалавек пераглядае рэзультат, не значыць, што аўтаматызацыя зазнала нядачы. Для работ з высокым рызыкам схваленне можа стаць тым, што дазволяе ўзагалі аўтаматызаваць такія працэсы. Вам трэба як можна меньшыя зусіллі людзя, якія водночас залучаюць рэальны людзкі кантроль.

SDK прымее захаванні ў вазе вхідных і выхідных дадзеных, а таксама правіла вікорыстоўвання інструментаў; яго дасягледы раздзеляюць перакананні на рэвэле агента і на рэвэле інструмента: у сцэнарыях з дэлегаванымі спецыялістамі можа знадобіцца перакананне ў рамках адзіных функцый-інструментаў і операцый MCP. Правіла вікорыстоўвання інструментаў выклікаюць дадатковыя зусілля і іноды допамагаюць у рэдукцыі колькасці вызоваў модэляў. Яны таксама можаць запобець набліжна большым затратам, якія можу выйсці з-за неправільных дзеянняў, адкрыціі дадзеных, наявнасці праваўных або рэгуляторных працягаў. Выхідны рэзультат становіцца завершаным заданнем толькі пасля перакананняў якосці і пасля належнага ступеня людзкага кантролю.

З следаў да бізнес-цэні

Кожны новы інструмент расшыроўвае можлівасці агента. Ён таксама расшыроўвае правыя сістэмы, час адпаведзення, формы абяканняў і патрэбы ў кантролі.

API падтрымлівае спецыяльныя функцыі, вбудованыя інструменты і серверы MCP. Стандарт MCP стандартызуе спосаб прыяўлення дапытак ад прыкладнікаў AI да зовнішніх інструментоў, рэсурсоў і запросаў. эта зменшае труднасці інтэграцыі, але не робіць далёкі інструмент надзеяным за замовчаннем. У спецыфікацыі MCP паведамляецца, што апісанні і антынотаціі інструментоў з ненадзеяных сервероў не трэба автаматычна верыць, і рэкамендуецца візуальнае вызыванне інструментоў і пацэнтаванне чалавека для адбыцьця операцый. Далёкая автарызацыя стварае дадатковыя проблемы, такія як перакананне аудыянсу токена, безпечнае зберагчыце токенаў, PKCE і запобежэнне атакам confused-deputy. Кожная даданая можлівасць стварае новыя межы автарызацыі, аўдыту і карыстаўніка.

Хісторыі ўпрацоўкі — гэта даныя бухгалтарскага улікавання

Фінальны ўтварытак мало чаго раскрывае пра тое, як да яго было дасягнуто. Нельга пазнакоміцца з тым, якія інструменты былі выкарыстоўваны, скількі з іх працавалі, чы не зламаўся якісь падагент, чы і ў чым заключалася прычына прыўлікання адпаведнай асобы.

SDK прыносіць трэйсінг, які пакрывае генераціі, вызовы інструментаў, перадачу задач, правілы керавання і спецыяльныя запускі. Трэйсінг зазвычай вікорыстоўваецца як адказ на проблемы з дыбагаванням, але ён таксама ўжо ўважаецца сістэмай бухгалтэрскага утрымання. Трэйс можа паказаць, што адны інструменты ствараюць большую частку затрымакоў, што праблема заставляе рабочы працэс павтараць той самы пошук, або што адны варыянты модэля даюць вышэйшую ступень прыйнятнасці пры меншым колікстве праказаў. Без трэйсаў каманды оптымізуюць сярэднія значэння, а з іхімі — можаць оптымізаваць адзінкавыя этапы рабочага працэса.

Карточка рэйтынгу должна спаўнае ўз’яднаць даны пра выкананне з даныма пра рэзультат: косць кожнага прыйнятага завадзка, колькі разоў былі выкарыстаны модэль і інструменты, час, прабачаны ў сэндбоксе, частота праказаў і частота ўспаможнення, а таксама пераробка, час, прабачаны рэвізорам, адхіленьні і адпраўленая цэннасць. Точны дашборд залежыць ад прабэгу работы. Команда падтрымкі можа цікавіцца кейсамі, якія заканчыліся без адхіленьня, команда платформы — інцыдэтамі, якія былі зменшаны, а команда продукту — захаванымым дохадам або заўсёдышчаным часам працавікаў. Тое, што зменяецца, — гэта тое, на чым вы робіце дзеянне.

Стратэгічная рашэнне

Арганізацыі не должны пачынаць з пытання, як зробіць агента дышэўшым за кожны кал. Адпачатку трэба адпавесць на сложнейшае пытанне:

Чы можа гэты агент надзеясна кераваць такім родам работы так, каб абоўсумны косць быў ніжэй, чым косць ныякога процэсу?

Для этага патрэбна чыстая базовая інфармацыя пра чынны працэс, якая ўключае час працы персоналу, чаканне ў чаргах, паўтаральныя перадачы заданняў, інфраструктуру, адказы і ўсё, што трэба перадзрабатваць, прыгарошаныя можлівасці і зусілля, неабходныя для дапамогі правілам. Агент, які коштае 2 долары за адзеўнае заданне, можа стаць чыракоўскай інвестыцыяй, калі чынны працэс коштае 20 долараў. Агент, які коштае 0,10 долара за спробу, можа выступіць неэфектывным, калі толькі палова яго рэзультатаў прыймаецца, а кожны адказ трэба прадрацаваць людзьмі.

Разумны план оптымізацыі пачынаецца з самай простай сістэмы, якая можа завершыць заданне. Ожывайце меншыя мадэлі для направлення, фільтрацыі або простай пераканання, а перэходзіце да сільнейшых, калі патрэбна глыбэйшая аналіза. Змусіце інструменты вяртаць кампактныя, структураваныя рэзультаты. Паралелізуйце толькі незалежную работу. Пераканавайце наследныя дзеянні. Зберагайце достатню колькасць доказаў, каб падтрымаць адзорку і вяснаванне.

SDK становіцца корыстным, калі сама асяроддзе выканання патрабуе керавання раундамі, інструментамі, сесіямі, перадачамі, правіламі або коордынацыёю між агентамі. API Responses застаецца прыдатным, калі команда воліе сама кераваць цыкламі і апрацоўкай стану. Гэты выбор ўзначаецца архітэктурнымі фактарамі, а таксама фінансавымі наследкамі.

Меркуйце працу, а не словы

API Agents спрыяе стварэнню агентоў, якія працуюць у розных інструментах, срэдах, сесіях і падагентах, а SDK задае прымітывы на рэвэльнай ступені для ўзаемной коордынацыі, захавання іх за дапамогою правіл і аналізу ў момент выканання. Разам яны паказваюць іншы падход да розумення эканомікі AI.

Запрос, які надходзяць, ўсьмо толькі точка входу, а не елемент расчытку. Елементам расчытку ёсць завершаная задача, яю можна прыйняць як правільную, вярнуць, калі ўтворыцца проблема, пераглянуць пасля таго, як яна будзе завершана, і обгрунтуваць ўскладненні з пункту затрат. Ціна за кожны токен застаецца зручной як окрэмы пункт. Усе іншае – інструменты, вычысленні, збероžчы, практыкі перапрыбутку, затрымкі, безпека і увага людзей – практыкуецца ў іншых частках счыту.

Найлепшыя сістэмы агентаў не будуць тымі, якія ствараюць наіменшае колькісць токенав. Гэта будуць тыя, якія завершаюць найценнейшую работу за цэлкавыя затраты, якія маюць сэнс.

Спаднія матэрыялы

• Стварэнне сістэм RAG, якія функцыонуюць у рэальных умовах: ад прыема дадзейнаў да можлівасці адзірвання — ад разбівання на часткі і гібрыднага пошуку да пераранжавання, кантролі доступу, набораў для ацэнкі і трэйсінгу: слоі, якія адзначаюць разліку між дэманстрацыяй RAG і сістэмай для практычнага выкарыстоўвання.
• Расчыненне задач на основе іерархічнага дрэва дакументаў заместо пошуку вектараў — PageIndex стварае іерархічны індэкс, які дазволяе LLM навігаваць у ям, адмовіваючыся ад разбівання на часткі і стварэння вкладзенняў. Як гэта працюе, рэзультаты тэста FinanceBench і калі ўжываць гэты падход.

GPT-6 Astra для распрацоўшчыкаў: выкарыстанне на камп’ютары, цены і змены ў API — Чаго можа дасягнуць GPT-6 Astra паza чатамі, як вызывы інструментаў зменяюць код API, і як ён парабягаецца з Claude і Gemini пад час падготовкі да ролей у сферы генератыўнага ІІ.