Хто ёсць власнікам агента ШЫ у вашай компаніі: шысць обав’язакаў і тыя, хто за ўсё несе адпаведальнасць.
Калькі хто ў вашай компаніі мае агента AI? У дакуменце SR 26-2 няма інформацыі пра агентаў, шасць ролей, за якіяя несуцца адпаведнасць, як укомплектаваць іх існуючымі камандамі, а таксама ўсё, што стосуецца ўседзённага керавання.
Крыніцы: Who Owns What When Your Company Deploys an AI Agent: Six Responsibilities, and Which Teams Hold Them
Агентныя ІІ значыць програмна апаратура, якая сама выбірае последовальнасць своіх дзеянняў і запускае інструменты, замест таго, каб следавала фіксаванаму сценарыю. Калі такая програмна апаратура працуе ў компаніі, выступае простая запытанне: хто з людзей несе за ёй адпаведнае адпаведнасць?
Рэгуляторы ўсё ўсё не выявіліся з гэтым пытаннем. У саюзным лісце пад номерам SR 26-2, датаваным 17 кастрычніка 2026 года, Федэральны рэзерв і аддзел Контролера валюты, які заменіў SR 11-7 — рэкамендаціі з управління рызыкамі модэляў, пад якімі банкі працавалі з 2011 года, — анулювалі сябе. У тым жа лісце былі скасаваныя сабскія бюлетэны OCC на гэту тэму, якія існавалі з 1997 года. У прымечанні да ліста сказана, што генератыўныя і агентныя ІІ не падпадаюць пад гэтыя рэкамендаціі. А ролі „власніка модэля“, якую стары тэкст дэтальна апісваў, нігдзе не з’яўляецца ў новым варыянцы.
Пяць месяцэў раней Сінгапур выбраў іншы падход. Запраектаваны Адміністрацыяй грошовых аперацый Сінгапура напамінакі па управленню рызыкамі з вялікімі машынамі, кансультацыі па якіх завершыліся у студзені 2026 года і якія на момент напісання не мелі фінальнай версіі, прыняцоўваюць агентаў з вялікімі машынамі без адступаў у сферу дзеяння. У яных паведамляецца, што агент з доступам да сістэмы можа выконваць дзеянні, якія суперчаць целям бізнесу або інтэрэсам кліяў, і працоўнікі адміністрацыі заклекчуе незалежную перапрацоўку, тыя-то, кабі ўсё, што атрымало высокі рызык, было запусцана толькі пасля перагляду людзьмі, якія не стварылі гэтую сістэму. Гэты тэкст яшчэ не ёсць законам, і ён будзе чынным толькі для ліцензаваных установ у адной юрысдыкцыі.
Ні в однам з дасэбнаў не сказана, хто ўнутрь кампаніі несе адпаведнасць за агента пасля таго, як ён запускаецца, і гэты прыемак не можа чакаць, пакуль рэгулятор яго заполніць. Програмна аплікацыя, якая дзеяе, патрэбуе межы дзеяння, тыяму, якая аддзеляе тое, што яна можа рабіць сама, ад таго, што трэбуе удзеле чалавека. Забезпечэнне гэтай межы — гэта тэхнічная кантэкст. Адліквідацыя таго, хто стоіць за ёю, — гэта організацыйная кантэкст, і ніякі дасэбн не рассматрывае гэта. У наступным часткі рассматрываюцца всі дзеяння, якія агент можа выконваць або практыкаваць неправільна, і для кожнага з іх называецца адпаведны чалавек, які несе за ўсё адпаведнасць. У ём узглядаецца, хто дае згоду, як заполніць ролі з існуючых каманд, што включае эксплуатацыю агента пасля запуску, і што павінны выучыць разрабоў. Доказамі ёсць рэгуляторныя дасэбны, даследжэнні, опублікованыя з 2024 года, а таксама кампаніі, якія прыўязалі своі імены да конкрэтных твэрджэнняў.
Шасць адпаведнасцяў, шасць адпаведных адпаведнікаў
У процэсе стварэння продукту выклікаецца шэсць абавязакоў, і кожны з іх патрабуе адпаведнага адпаведнага власніка. Уявіце сабе схему абавязакоў: адпаведны чалавек несе адпаведнасць за рэзультат, чалавек, які віконвае працу, яе выпрацоўвае, а чалавек, з якім прымуўацца паветаранні, даае свае прыказы, але не мае канечнага права голасу.
- Бізнес і сфера дзеяння. Власнік бізнесу і эксперты у данай галіні. Власнік несе адпаведнасць за конкрэтны варыант вікорыстоўвання, а аднаму з экспертаў таксама прызначаецца ролю стандартнага власніка – чалавека, які дастаткова добра разумее галіну, каб могчыць вынікнуць, што ёсць правільным.
- Продукт і архітэктура. Архітэктар, менеджэр продукту і дызайнер процэса взаімадзеяння.
Внутршній аўдыт не паўтрапляе ў гэты спіс, адколькі SR 26-2 зазначае, што ён зазвычай не будзе дуплікаваць дзеянні, связаныя з рызыкамі модэляў. Калькі зазначаныя ніжэй (Kaiser Permanente, Thomson Reuters, Morgan Stanley) выкорыстоўваюць інструменты для стварэння і пошуку інфармацыі заместо абсалютна автонамных агентаў, што робіць іх найбліжэйшымі публічнымі аналагамі.
Власнік бізнесу: затверджэнне таго, што можа рабіць агент
Гэтае затверджэнне распрастраńваецца на сферу дзеяння, грошовыя прагі і кліентаў, да якіх агент не можа прыступаць, пры чым рызыкі класіфікуюцца так, як прапанавана ў Сінгапурэ. Яно таксама включае фінансаванне сістэмы і ў канцэ наступнае ўсуненне яе з эксплуатацыі. У банкаў існуе частковы прэцэдэнт для адначасовага выпалення гэтай ролі ў бізнесе. За дапамогай SR 11-7 власнік модэля зазвычай належаў да бізнес-падраздэлення, як зазначаеся ў практычным падручніку экспертаў OCC з 2021 года, хоць гэта не было загальным правілам, а перасмотра 2026 года выключыў гэтую роль без адпаведнага замены.
Практычныя аргументы маюць большую сілу, чым практыка. Кожна рашэнне, прынятае пад час затверджэння — будзь то певны порог, адзін з груп кліентаў, якія не ўключаюцца, чы ўзлетна дата — спраўляе баланс межаў між доходамі чы сэрвісамі і рызыкамі. Лішы той, хто несе адпаведнасць за рызыкі, можа прыняць такі баланс і будаць прыглядзаны за яго дотрымлэнне. Той, хто займае керуючую позыцыю, патрэбуе і бюджэту, і можлівасці зупінкі процэса, а толькі власнік бізнесу мае і тое, і другое: рызык можа зупініць тое, на што няма фінансавання, а інжынерыя можа стварыць тое, што нельга зупініць. Якшо пазначку керування перадаць інжынерам, яны зможуць затверджваць сабе самым свае задачы, а якшо — рызыку, то ніхто не будзе несці адпаведнасць за паслядкі ў позытыўнам аспекце. Формулюванні Сінгапура таксама вядуць да гэтага, адколі яны вядуць пра шкоду ў сувязі з цілямі бізнесу і інтэрэсамі кліентаў, і толькі бізнес можа вясніць, якіяя гэтыя цілі. Рэкамендаціі Гонконгу пакладаюць адпаведнасць на раду дырэктараў.
Архітэктар: той, хто керуе дыяграмайом
Дыяграма вылічваецца там, дзе агент зупініцца, а ў працу вступае чалавек. Яна складаецца з працэсу, які следуе агент, пунктав перадачы задачы чалавеку і праваў, якія не дазволяюць ёй працаваць далей. Апошнія два элементы разам ствараюць конкрэтныя межы дзеяння. Две кампаніі размістылі пункт перадачы ў однам месцы. Вяршыннікі Kaiser Permanente рэдагуюць праект, створаны адпаведным апаратам, прычым яго не прайшоў да медычных дакументаў, а, як заявляе сама кампанія, у інструменце Debrief компаніі Morgan Stanley адпаведны спеціяліст рэдагуе падсумак зустрэчы, прычым нічога не запісваецца ў базу дадзеных кліентаў. Інжынеры або прадаўцы можу стварыць модэль праваў і інтэрфейс. Аднак архітэктар застаецца тым, хто керуе, таму што пазіцыя кожнай лініі ў дыяграме — гэта дыяграматычны выбор, які павінен застацца незменным, незалежна ад таго, хто піша код.
Адпаведальны за стандарты: той, хто стварае крытэрыя
Рубрыка — гэта спіс пунктав, які вказваюць, што мае містыць правільна адказ. У компаніі Thomson Reuters старшыя юрысты на роўні партнераў прыдзялі месцы на стварэнне рубрыкаў для прыемніка даных. Па ўзводзе рэзультатаў яны з’явілі, што хорашая адказ мае падзесяць пяць неабходных складовых, тады як адказ, які выглядае правдападобна, — дзев’яць. Толькі юрыст можа адрозніць падзесяць пяць ад дзев’яці, што значыць, што рубрыка займае гадзіны эксперта ў галузі, і яй трэба адны власнік, таму што крэтэрыі зміняюцца, калі оцінюе несколькі чалавек. Даследжэнне па паверкі інструментаў для пераканання LLM паказала, што крэтэрыі змінююцца пасля пачатку оцінкавання, а аналіз Шрэя Шанкар і Адытыя Парамесварана пра людзей, якія выкарыстоўваюць інструменты для запытанняў да даных, дасяг ў тым жа выводзе, зазначыўшы, што абавесць паверкі лягае на корыстніка.
Установлэнне стандарта і яго перакантрольванне — гэта два разныя завадзьбы. Перакантрольванне, тыямо, ў вачынку да ўсёдневнага цыклу ацэнкі і аналізу памылак, адносіцца да інжынераў і спецыялістаў па дадзеных. Яны ствараюць механізм ацэнкі, складаюць код, які запускае тэставанні праз агента і оцінюе рэзультаты, а таксама аналізуюць выявленыя памылкі. Пасля чаго спецыяліст па перакантрольванні адзірае ступень пакрыцча тэстамі і калібраванне механізма ацэнкі, не запускаючы занова тэсты команды з стварэння продукту.
Аператыўнае кераванне: падтрымка працы
Пасля запуску работа складаецца з падтрымкі працы пры нештачах, сортавання апавешчэнняў, выключэння і вярнэння сістэмы ў працэс, паўтарнага запуску набора тэстаў на выявленне рэгрэсій (тэставанні, якія запускаюцца занова пасля кожных змян) асо бачэння ступеня выкарыстоўвання рэсурсоў і віткоў. Кахань людзі з бізнесу таксама беруць удзел у ротацыі аператыўных спецыялістаў, адтак як дзеякія апавешчэння ўзначаюць бізнесовыя рашэнні. Планаванне, класыфікацыя памылак па сур’ёзнасці і працэс паднесення прыбылкі на вышэйшы рэвэнь належаць адпаведнаму аператыўнаму керавальніку, які ёсць інжынерам.
Автаперакрытчык: перакрыцце пры запуске
Перакрыцце автаперакрытчыка складаецца з трох частак. Ён вышукае вставкі прыказаў (зловучыя інструкцыі, якія падкладаюцца ў матэрыял, які чытае агент) і неканцэнтраваныя вызовы інструментаў. Ён аналізуе, якія персональныя даныя патрапляюць у лог агента, тэплік яго дзеянняў па шагах. А таксама стэжы за людзьмі, якія затверджуюць дзеянні агента.
Менеджэр прадавца: керуе контрактом
Месца займання з’являюцца толькі тады, калі компанія яе купуе. Праўодавець тады стварае частку сістэмы, запускае частку аперацыі і генеруе доказы, якія павінен пераглянуць верыфікатор, пры чым адпаведная адпаведнасць застаецца на сваім месцы. Тым часам усі іншы власнікі залежаць ад чагось, што можа запрацаваць толькі за дапамогою контракту. Верыфікатору патрэбны права на аўдыт. Аперацыі патрэбна заўчасная паведамленне пра змяны модэлю, адтолькі што саме гэта запускае працэс перагляду. Стандартны власнік патрэбуе спосабу для экспорту следаў і дадзей, інакш кампанія не будзе мяць чаго оцэніць. Власнік бізнесу патрэбуе умов выхаду, інакш закрыцце сістэмы становіцца прэдметам пераговора, а не рашэннем. Менеджэр праўодавця забезпечвае гэтыя чатыры пункты, не выкананыяя жаднай з чатырох задач. За частку ў выборы способу і прыйманні працюе аддзел закупкаў, але ён не несе адпаведнасці ні за ўсё гэта, ні за што іншае.
Трыцець з шасцях аспектаў – адпаведальнасць за выкарыстанне рашэння, адлік таго, што лягае ў межы правільнасці, і незалежная перакананне рэзультатаў – гэта тыя задачы, якія каманда-рэалізавальнік прадаўца не зможа выконаць сама. Вызначэнне адпаведальнага за кожны з гэтых аспектаў – гэта той аспект, які не прыняты ў рэгуляцыйных дакументах.
Укомплектаванне пасэў з ужэ існуючых каманд
На этыя ролі прызначаюцься адпаведныя спецыялісты з існуючага персоналу, і парадак мае значэнне, таму што кожны пасэк завісіць ад пасэка, які ўжо ёсць.
Пачніце з власніка бізнесу; пакуль яго няма, праект павінен чакаць. Гэтае адзінство кантролюе бюджэт, працэсы і мае права на выключэнне сістэмы, а таксама спачатку вызначае ранг рызыку і затверджуе, што можа робіць агент. Інжынерныя кадры не можу заменіць гэтую роль, адтолькі ніхто іншы не можа несці адпаведальнасць за ўсія яе наследкі.
Далей — архітэктар. У ідэале гэта людзь, які добра ўжо знае бізнес-працэс і сістэму, ўсталяваныя, калі агент завершывае свою працу, а дзе пачынае чалавек. Калі такая особа існуе, то месца прыналежыць яй. Калі ніхто не падходзіць, сторонняя арганізацыя можа запусціць працу, пры тым як компанія все рава павінна назначыць внутршньага адпраўніка, адтак як месца не можа застацца вакантным, нават калі праца ведэцца ў іншым месцы.
Трэцім выступае стандартны власнік, і важлівым фактарам ёсць тое, чыя ў эксперта з домэнаў рэальныя гадзіны для выдзелу. Калі час захішчаны, эксперт пішае крэтынары, як гэта зрабілі юрысты Thomson Reuters. Калі ж ні, спецыялісты з продукту і дызайну рапраджуюць ўсё, каб эксперт могаў ўсё затвердзіць, і стандарт пачынае змішвацца, адколі тыя, хто ведае, як выглядае хораша адпаведзь, не ёсць тымі, хто яе запісвае. У сваім лісце да акцыянераў Джэймі Дымон наводзіць загальныя правілы: работа, якая ёсць часткай работаў багацох людзей, ніколі не завершаецца, а місія патрабуе команды, якая будзе прысвячаць яе сабе на повны час.
Калібруванне судды і сочыць за адхылэннямі — частка замероў у гэтым месцы — павінна пераходзіць да групы з апрацоўкі дадзэнняў або аналізу, калі такая ёсць у компаніі. У іншым случае адпаведны член команды распрацоўшчыка павінен выдзеліць спецыяльны час для ціх задач. Прыклады паказваюць, як гэта зміняе ролю команды з наукі пра дадзеныя, калі мадэль агента стае доступная ад збудовальніка. Мадэляванне і налаштаванне залішаюцца у веданні збудовальніка, таму не можна больш вважаць, што наука пра дадзеныя ёсць часткай команды з ШЫ. Што застаецца — так гэта калібруванне і сочыць за адхылэннямі як постаціяльныя функцыі, а таксама новая адпаведальнасць для модэляў крэдытавання, шахрайства, цэнавах і прогназавання, якія команда продовжае ствараць: неабходна зазначыць мэтавую аўдыторыю кожнага модэля пры тым, як агенту разрываецца вжываць яго як інструмент. Страховыя компаніі і лікарні, верагацейна, сталкнуліся з тым самым пытаннем ў зв’язку з своімі сабеўскімі модэлямі, але жадны з пераглянутых тут джэральнаў не розглядае іх.
Чатвертым элементам ёсць апраўнік, а важлівым фактарам являецца момент, калі пачынаецца прымененне правіл салідарнасці. Правіла салідарнасці могу з самага пачатку запропанаваць вакларызаціі рызыка, што, як паведамляецца, робіць каманда Chime з пытанняў салідарнасці, але можа таксама быць пераглянутыя толькі на этапы выпуску, у такім случае высокарызыковы кейс все раве патрэбуе незалежнага апраўнення пры розмішчэнні, як таго трэбуе праект закону Сінгапура. Для банку найпростым варыянтом выглядае вжыце вялікай функцыі рызыка модэля, адколі SR 26-2 не пакрывае агентаў і дазволяе кожнай установе самай прымыкаты рашэнні. Аднак жадных джэральнаў з 2024 года і пазней не паведамляецца пра тое, што банкі выконалі такі крок.
Пятым элементам ёсць аперацыі, а важлівым фактарам являецца тое, хто сочыць за сістэмай пасля таго, як яна запускаецца. Наступны раздзіл прыдзельваецца гэтаму пытанню.
Два элемента ўзаемна для всіх варыянтов выкарыстання. Першы — гэйтвей, тое сама шлях, які кожны агент вікорыстоўвае, каб дасягнуць модэлю, дзе пераканальваецца ідэнтычнасць і фіксуюцца вызовы; яго контролюе власнік аперацый. Компанія Wealthsimple заявіла, што прыблізна 80 процэнтав ўсіх трафікаў LLM праходзіць праз яе гэйтвей, таму застаецца нез’ясаваным, чы рэгулюецца рэшта. Другі элемент — мэтрыкі, тыя-то інструменты для вімеры, якіяя спольна контролююць аддзелы дадзеных або аналітыкі, адколі два калекты, якія оцінююць сябе за дапамогою двух разных інструментаў, даюць цыфры, якія немагчыма пораўняць. Рэшта элементаў, а саме варыянт выкарыстання, яго крытэрыя, власнік стандартаў і яго месца ў практычным застосоўванні, застаюцца у аддзеле бізнесу, які яго адмаўляе.
Здаровае большасць такіх ролей простаўляюць існуючыя павінносты і не ствараюць новых. Власнік бізнесу, які ужо адпавядае за рэзультаты дзеяння, дагадваецца пры схваленні новых задач. Эксперт у сваёй галіні дадае дапамогу да вялікага запасу знанняў, які ўжо ёсць у яго. Інжынер берэ на сябе ролю судды і кантролера. Наука пра даныях, якая ужо сочыць за своімі мадэлямі на наявнасць змян, распрастраńвае гэтую назіранне на агента. Аддыскаяя практыка аднаёчыць вялічыны рызыкаў з аналізам, які яна ужо адрабатвае. Не прыпускаецца прыему новых працавнікаў. Толькі роль верыфікатора не можа быць прастаўлена, адколькі гэтая павіннісць заканчываецца там, дзе пачынаецца стварэнне.
Ежадзённае кераванне агентам
Пасля запуску пры жыцці сістэмы выкананыяя шасць павінностэй. Власнік аперацый берэ на сябе чатыры, власнік стандартоў — адну, а верыфікатор — адну, і кожная з іх вымагае адпаведнай адпаведальнай особы і часу адпаведзі.
Адміністрацыя апавяшэнняў кіруецца да аперацыйнага аддзела, дзе працуе спецыяліст, які змінюецца. Апавяшэнні не ўсе однаковыя: адміністратыўная памылка, перыяд абявы недзеяння і неправільна адхілена заява кожная выклікае разныя рашэнні, прычаму для останнейя неабходна бізнес-дыяджэнтнае рашэнне. Як у праекце закону Сінгапура, так і ў Законе ЕС пра ШЫ прасіцца пра такі працэс падняць прыгожасць проблемы.
Закрыць працэю апраўдваецца власнікам абяцэнкі і адбываецца аператыўным аддзелам у чатыроэтапнай форме: негайная зупінка, тэхнічная вяснаванне, корэкцыя абяцэнкі і разрэшэнне на пачатак працы знову. Закон ЕС пра ШЫ прыметкае, што адпаведальны за высокарызыковы сістэма павінен магчымае ўсталяць яе зупінку за дапамогою кнапкі зупінкі або адпоўнага аналогічнага процэсу, які перакладае яе ў безпечны стан. Чалавек, які стварыў кнапку, не ёсць тым, хто прымечае рашэнне нажаць яе. Закрыць вікно чату не анулюе платэж або прыемліванне, якія вялісь у чэрзі, а корэкцыя абяцэнкі не мае адпоўнага аналога кодовага адвярнення. Таму прымечанне рашэнні пра зупінку ёсць пытаннем абяцэнкі, а яго адбыць — задачай аператыўнага аддзелу.
Тэставанне рэгрэсіі пасля змены модэлі — гэта саўместны выконк працавікаў сферы наукы пра даныя, інжынераў і аддзелаў бізнесу, пры чым выпуск апраўдваецца адпаведным апраўднікам. Прыкладам можа служыць прылад Morgan Stanley's Assistant: ён працуе на модэлях OpenAI, пры тым як банк створыў сабственную сістэму ацэнкі. Кансалтанты і інжынеры, якія разрабатваюць запіты, ўсёлікі дзень разам ацэнююць набор тэстаў на рэгрэсію, а прадаўцы не прадаст ні крытэрыяў ацэнкі, ні прычын, якія за ім стояць. Джэрэлам гэтага ёсць OpenAI, якое выгадвае, паказваючы такога кліента, і гэта стосуецца прылады для пошуку інформацыі. Працэс пачынаецца з уведамлення пра змену ад прадаўцы, якое манэжэр прадаўцы павінен атрымаць.
Іспытанне і косцы належаць да аператыўных задач, пры чым правым елементам являецца завершаная задача. Перапрыбуткі, ацэнка і перэработка — усе гэта належыць да адной задачы, а адзін вызов модэлі — толькі частка яе, таму указванне цэн за кожны вызов паказвае толькі частку всіх косцоў.
Перадача проблем з вырабоцтваў у аддзел ацэнкі ёсць стаўкой власніка стандарта. У дапісе, перапублікованам компаніей Arize, якая ўваходзіць Uber у своіх кліентах, дызайнер дыялогаў Uber сказаў, што аддзел ацэнкі і яго набор дадзеных апдэйтуюцца ўсё па тыдні, аднойчы ўважаючы, што сігналы з застарэлага набора дадзеных горшы, чым ўсё жанчы. Гэта дызайнер, які выконвае работу, якая вышэўзгаданыя ролі паставляюць інжынерам і вучоным у галузі дадзеных. Паведамляецца, што сігналы пра супакоранне ад Chime доходзяць да аддзела ацэнкі за калькі гадзін, праз афлайн-аналіз, які адбываецца пасля факту.
Следзець за тымі, хто дае згоду — гэта постаўленая задача адпаведальнага за перакананне. Компанія Anthropic адзвярцвае, што адпрацоўваець апштучнага коду прыймае або блізка да 93 процэтаў запытанняў пра разрэшэння, што ўжо ў высокім ступені свідчыць пра формальнае падтверджэння без рэальнай перапрацоўкі. Гэта стосуецца апштучнага коду, а не апштучнага агента для бізнес-процэсаў, таму гэта ілюструе рызык, але не дае яго канкрэтнага калькулявання. Профіль генератыўнага AI ад NIST, які ёсць добраўольным, радзіць фіксаваць кожны раз, калі чалавек перакрывае вынік сістэмы, што ўзмацнівае тую ж самую перапрацоўку з іншай стороны.
Гэтыя обавязкі ніколі не заканчываюцца, і жадны публічны аблік не паводзіць лісты з колькасцю гадзін, якія вітрачае кожны з іх. Ротацыю, тэсты на рэгрэсію і назіранне за вітратамі можна адзначыць зза межаў, што ўжо ёсць тэмай для пазнейшай дыскусіі.
Што команда павінна выучыць і як высока ўстановленая прага
Адаптаванне паднімае тры пытанні: што кожны ў командзе павінен умець робіць, дзе патрэбны спецыялісты, і які рэвэль якосці ёсць достатнім.
Чатыры навыку ёсць неабходныя для кожнага, незалежна ад назвы посады:
- аспектаванне следаў і рэзультатаў ацэнкі безпосерэдзя, без апылку на канспекты іншых
- мысленне пра распад рэзультатаў, а не пра адзінаковыя прыклады
- ацэнка працы па канечным стану, які яна залішыла, а не па таму, што агент стварае, што зрабіў
- чыстае аблікаванне задання, каб можна было яго перадаць іншым, а пасля — нагляд за рэзультатам
Галоўны афіцыял па інформацыяй у Goldman Sachs, Марко Аргенты, называе самэ гэтае падчыненне. Як ён кажа, керавальнікі павінны володзець трыма навыкамі керавання: аблікаваннем задання, яго перадачай агенту AI і наглядам за рэзультатамі.
Палова частка працы з адзінакоўвання яшчэ выклікае патрэбу ў спецыялісце. Цыкл адзінакоўвання і аналізу абэктаў, ўласна ўседзённая праца з оцэнкі рэзультатаў і выявлення прычын неудач, дзеліцца на рутынную частку і частку, якая выкананая эпазодычна. Рутынная частка включае напісанне крытэрыяў адзінакоўвання, стварэнне інструментаў для аналізу і чытанне абэктаў неудач кожнага дня. Для ўжытку ў яе патрэбны інжынерныя навыкі і статыстычнае мышленне, і работадавцы все чашчэ аб’еднваюць яе пад аднім назвам — інжынер AI. «Skills Map» ад DeepLearning.AI опісвае гэтую ролю на адзеўках і аб’еднаннях, хоча яго выдавец продае саме тыя курсы, якія прызначаюцься ў тых адзеўках. Частка, якая выкананая эпазодычна, включае калібрування крытэрыяў адзінакоўвання па людскіх пазначэннях і ацэнку змян у рэзультатах, і яна больш падходзіць датным наўкам, і яе больш заўсёды патрэбна пад час перагляду. Компанія, якая не займаецца тэхналогіямі, разумна будзе падготавіць інжынераў прыкладнага програмнага забезпечэння для працы інжынераў у галузі штучнага інтэлекту, а науку пра даныя застаўіць для калібравання і падтрымкі перагляду ад боку верыфікатора. Жадныя даследжэнні не паўстанавляюць аналізу гэтых двух падходаў, а справаздачы Skills Map паказваюць толькі тое, чаго патрабуюць працодавцы.
Гэты апарат павінен выяўляць тыя адказы, якія інструменты стойкая спосабам не можу знайсці, і гэтая адпаведальнасць лягае на власніка стандарта і пераканальніка. У даследжэнні 2026 года Антарыпа Саха і Хамел Хусейн, які веду платны курсы ацэнкі, выкорыставалі шысць автаматызаваных сістэм аналізу на 100 прыкладах працы, якія мелі 39 адказы, пазначаныя вручную. Найэфектывнейшая сістэма знайшла 87 процэнтав пазначаных адказоў, а тые, якія ўпалі, былі сістэматычныя — аднага класу адказыў усе сістэмы працягвалі працягваць не знаходзіць. Усе яны таксама пазначалі адказы, якія людзкі пераканальнік працягваў працягваць не бачыў, таму рэйтынгі не ўтвараюць аб’ектывае класыфікацыю, а даныя ўтвараюць адзін набор дадзеных з пазначкамі ад аднаго эксперта. Даследжэнне паказвае, дзе яшчэ неабходны людзі: власнік стандарта, чыя крэтырыя вялікіяя, што лягае ў основу адказу, і пераканальнік, чыя перапачатковая перапачатковая шукае самэ тое, што інструменты працягваюць працягваць не можу знайсці.
Гэта можнасць ствараецца паляваннем людзей на ўпадкі і падтрымваецца планаванымі пераглядамі. Хусайн і Шанкар, які выказваюць аднаковы інтэрэс да платных курсаў, дзеляць ацэнкаванне межа інжынерамі і менеджэрамі продукта. Інжынеры выявляюць тэхнічныя проблемы, такія як бяговыя справы і памылкі інструментаў, тады як менеджэры продукта выявляюць неудачы продукта, напрыклад, тыя аспекты, якія корыстувальнікі спадзяваліся і якія не былі задоволены. Одні чалавекы адпавядаюць за ўласнае ацэнкаванне ў кожны дзень, што ўжо іншая роля, чым незалежны перагляд ад верыфікатора. Ёсць практыка, калі рэкамендуецца не практыкуваць ацэнкавання, а паказваць колегам, што выявляецца пад час аналізу дадзэнняў. У праекце законадзея Сінгапуру дадаўцца ўсё інша частка: сама гэта можнасць павінна перыядычна пераацэнавацца.
Што можа і чаго не можа падтрымаць гэтыя доказы
Кожны элемент рэгуляторнага тэксту і кожны конкрэтны прыклад паводзіцца сваім самастым джэрэлам, але і меры, якія встановлены, таксама маюць значэнне. Рэгуляцыі пераказваюць трэбаванні, а SR 26-2 выклікае штучны інтэлект-агентаў за межы свайго дыячага поля. У даследжэннях выкарыстоўваліся даныя корыстнікаў, якія выконвалі запыты, 39 неудач у аднай базе дадзенаў і невялікі кантэнтны праекст. Assistant ад Kaiser, Thomson Reuters і Morgan Stanley ёсць інструментамі для пошуку або стварэння тэксту, а не багатоэтапнымі агентаўмі, якія дзейнуюць самастаі. Жадна нетэхналагічная кампанія не публікавала спіс сваёй команды агентаў, і тыя компаніі, якія былі наведаны, — гэта тыя, якія выбралі публікацію, таму праекты, якія таямніча зазналі неудачы, не ўключаныя ў праекст. Большасць такіх кампаній не будзе даганяцца пытанням пра пакупку платформы для агентаў; яны выберуць аднаго з ведучых продавцаў хмарных сервісаў і будуць працаваць далей. Складнейшы выбор — гэта падмога з занятыя, чы то кансалтынг, дапамога персоналу чы інжынер, які працуе на месцы, і тое, што застанецца пасля завершэння спавярання. Усе шысць месца застаюцца ў межах самай кампаніі, а тое, што можна купіць, — гэта выконанне заданняў.
У красавіку Апрэлі Федэральны рэзерв выключыў власніка модэлю з своіх рэкамендацый, а Сінгапур за пяць месцаў раней запропанаваў, каб агента з доступам да сістэмы пераглядалі людзі, якія не належаць да команды распрацоўшчыкаў. Ні в однам з дакументаў не названыя тыя, хто ў кампаніі несе адпаведнасць за агента. Кампаніі патрэбны шысць власнікаў з конкрэтнымі іменамі, пачынаючы з власніка бізнесу, які затверджуе, што можа робіць агент, фінансуе гэта і можа яго зупініць. Рэгуляторы больш не опісваюць гэтую ролю, але яе не можна залеці порожней, адколі саме гэта затверджэння вялічыну дзеянняў усіх іншых. Паўтараецца адзін і той жа адзвярненне Марко Аргенты: дэлегаванне агенту заведама заданняў без можлівасці яго нагляду прыводзіць да катастрофы, таму людзям патрэбна новая сутнасць контролю якосці і адпаведнасці.
Спадневана літэратура
- Your Agent Graph Belongs in YAML: Compiling a 17-Agent LangGraph at Startup — Як невелікі механізмы выканання кампілююць адзін файл супакавання YAML у становы граф LangGraph: стваранне стану, плагіны importlib, маршрутызаторы пазначэнняў, адаптываныя вызовы і змены вузлаў за кожную сесію.
- Gemini Spark Explained: Tasks, Skills, Schedules, Security and Pricing — Чым займаецца агент Gemini Spark ад Google, які працуе цяпер жа, у Gmail, Календары і Docs, як працуюць яго механізмы безпекі, скількі ўсё кошта, дзе ён заблакованы і каму варта яго аднаць.