Кораны графа знанняў агентных ШЫ: FIPA, Семантычныі веб і агенты LLM

Чытаючы достатню колькасць сучасных статэйкаў пра агентныя AI, з’яўляецца дзівныя адчуванні: багато з таго звучыць як што-то з канферэнцыі 2003 года. Агенты, якія опісваюць сваія можыкі способам, зрозумелым для машыны. Агенты, якія знаходзяць адзін другога праз каталог. Аднародныя слоўнікі, якія дапамагаюць двум сістэмам дагадацца, што значыць паведамленне. Стандартныя пратаколы для пераговораў. Усё гэта зноў прыходзіць, але цяпер під новымі слоўнікамі і на зусім іншым „двыгуначы“.

У гэтым матэрыяле рассматрываецца гэта перакрыцце. У яму аналізуецца ранейшая работа над агентамі і семантычнымі вебамі, яе паўставляе ў адноса да таго, што выклікаецца сёньня, і задаецца пытанне, якія часткі ўсё-такі ёсць справжней працэю ў спадчыну, а якія — толькі сэмантычным супаданнем. Таксама рассматрываецца тое, дзе два перыяды найбольш рошчыраяюцца, адносна безпекі.

Як выглядае ныяндзейшы трэнд

Калькі лічба развіццяў за апошнія калькі гадоў ствараюць адпаведную картыну.

Няхімічныя дзеячыя абараніць выдалі адвэрсарыяныя крэтынгі, якія паказваюць, што агенты можуць занадта лёгкаа прайсці да шкодзябных дзеянняў, калі іх намеравана прабаваць. Microsoft выдала POML — маркаптанговы фармат у стылі XML для керавання агентамі LLM. Google адкрыў протакол Agent2Agent (A2A), адразу пасля чаго анунцаваў дзесяткі партнерскіх організацыяў, маючы на меты стандартызаваць спосаб, якім агенты разважаюць між сабою. NVIDIA стаяць на тым, што спаўненне модэляў мовы з графамі ведамасці дапамагае зменшыць галюцінаціі.

Кожны з гэтых элементаў быў бы вядомы дзеячам наукі з двадцатага годаўчыка. Адносна 2006 года калькі людзей вядзалі спрэчы за той самы комплект рашэнняў: структураваныя маркапы для апісання поведзення агентаў, стандартныя протаколы канектавання і значэнні, закрэпленыя ў онтологіях. Адна з статэй таго года, прысвечаная XML і штучнаму інтэлекту, аргументавала, што машынам будзе неабходна самэ гэтае, каб справіцца з вельмі вялікай колькасцю інформацыі ў інтэрнэтэ. Фармулаванне было прымітным па сучасным стандартам, але напрамак быў ясны: програмныя агенты, якія пераважаюць ачынены, хаотычны інтэрнэт, ведаюць пераговоры ў імя людзей, і для саўместнай працы у масштабных масштабах была неабходна спакойная, структураваная мова.

Промысел выбраў іншы шлях. Нейральныя сеткі сталі канцэпцыяй когнітыўнага ядра. Цяпер зноў з’яўляюцься супакоўкі, а разам з імі і дзеяныя раней помылкі.

Атмасфера 2006 года

Ёсць кантэкст, які паказвае, насколькі неактуальным быў падход, базаваны на агентах і онталогіях. Гэта быў расцвіт Web 2.0: увага была зусім на інтэрфейсах AJAX, соцыяльных платформах і контэнце, ствараным корыстнікамі. Google яшчэ нешта часам раней заплатыў 1,65 мільярда долераў за YouTube. Facebook стаў доступным для всіх, а Twitter быў новым явішчам.

Домінантная думка гласіла, што веб — гэта можлівасць для людзей публікуваць і дзеліцца інфармацыяй, а не для машын, якія самастойна коордынуюць сваю дзеяльнасць. Ідэі семантычнага веба, сістэм агентаў і формальных онталогій для багато спостэрагачаў былі проста акадэмічнымі хобі, занадта складнымі для практычнага вжытку; каментатары відкрытае сумніваліся, чы хтось за межамі універсітэтаў будзе вікорыстоўваць RDF чы OWL у рэальных умовах.

Нават так, але меньшасць вважала, што інтэрнэт з часам стане сераўнам, дзе будуць публікуваныя службы і інфармацыя, каб програмнае забезпечэнне магла іх знаходзіць і спаўналягаць. Якшто адмахнуцца ад застарэлых выразаў у гэтым опісе, то ён выглядае або так жа, як люды сёння опісваюць сістэмы мнага-агентаў з ШЫ і „сіткі агентаў“.

Стары набор засобаў

Візія не была расплывчатай. Яна спынвалася на конкрэтных стандартах і платформах.

FIPA, Фундацыя інтэлігэнтных фізычных агентаў, апісала язык камунікацыі агентаў, які складаецца з 22 актов выказвання: інформавання, запіт, прыказ, згода, адмова, запытанне, паўтарэнне, адхоўленне і іншых. Гэта быў не проста фармат паведамлення — гэта была камунікатыўная структура з формальной семанікай, аднойчы заснованай на тэорыі актов выказвання, так што агенты моглі весты пераговоры, ствараць калякціі і сочыць за зобав’язаннямі, прыказамі і правамі паўтарна ў мнагаэтапных абмянках. Вялікія компаніі, з-паśród яых IBM, HP і BT, падтрымвалі платформы, якія супакоўваліся з стандартамі FIPA.

OWL-S, профіль языка веб-онтологій для служб, дазволяе агентам вышукваць, вызываць і складаць веб-службы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на аднойчы на а

AIML — XML-маркап для адміністрування канцэпцый кансэварацыі — служыў аднойчынкай для чат-бота ALICE, які тры разы выграў прыз Loebner.

RDF і OWL далі агентам можлівасць дзеліцца значэнням, а не толькі сынтаксам, падтрымваныя храненням тройных пар і дварчыкамі SPARQL для распадзеленага разумавання.

Кансультанты каталага выступалі як «жоўтыя стороніцы» для агентаў. У концэпцыі адарожвання агентаў FIPA агент могаў зарэўструваць тое, што ён прысвячае, у структураваным опісе і шукаты партнераў па ўмеласцях, падобна да аднаходжэння служб у сучасных інфраструктурах.

Распрацоўшчык у цэй сітуацыі не меў ні трансфармэраў, ні кластэраў GPU. У яго была толькі інтуіцыя, складаючаяся з трох частак: інтэрнэт стане занадта вялікім і занадта шырокім, каб людзі моглі кераваць ім безпасебна; патрэбныя будуць агенты, якія зможуць спрыяваць, разумаваць і дзеяць за нас; а гэтыя агенты будуць патрабаваць спяшчаных пратаколаў, прэдставленняў і сэмантыкі.

Дзе зноў з’явіліся шаблоны, ад маркапаў да графаў знанняў

Да 2025 года большая частка гэтага зноў з’явілася, але ў іншай фарматызацыі.

Спачатку — структураваны маркап. POML выкарыстоўвае тагі, падобныя XML, для апісу складных працэсаў працы агентаў, і ён быў інтэграваны ў інструменты VS Code. Agent Script ад Salesforce апісвае поведзінку, ролі і коордынацію за дапамой дэкларатыўнай, у стылі маркапа, сінтаксі. Нават рэкамендаціі ўжо радзяць упаковваць крокі логічных размышленняў, кантэкст і абмежэнні выходных даных у тагі. Тыповая структура запіту выглядае так:

(`<context>`, <instructions>, <examples>, <output>)

Гэта дробнасць, але гэта той самы інстынкт, як і ў старым падходзе з маркапамі для агентаў: даць модэлю структуру, якую ён не можа неправільна прачытаць.

Далей — коордынацыя на аднойчыні з ролямі. AutoGen і CrewAI прызначаюць спецыялізаваныя функцыі, такія як планавальнік, крытык, выканавальнік і доследнік, а агенты ведуць дыялог праз структураваныя паведамленні. Гэта знову тая самая картына FIPA: гетэрагенныя агенты з адзяванымі можлівасцямі, якія коордынуюцься праз цэнтральны рэестр. Спецыялізацыя ролей, каталогі можлівасцяў, коордынацыя на аднойчыні з паведамленнямі і багатаэтапная оркестрацыя — гэта тыя ж шаблоны.

Далей — пратакты. A2A дазваляе агентам апісваць свае можлівасці, знаходзіць адзін другога і саўершаць саавершанне за межамі компаній. У пачатковых падахунках урахоўваныя ўзяцця партнероў, а не ўжыцце ў працэсе вырабніцтва, якое яшчо не публікувалася. Пратакт Сеткі агентаў выкарыстоўвае дэцэнтралізаваныя ідэнтыфікаторы W3C і JSON-LD, каб даць агентам опісы, чытальныя для машын, якія включаюць інформацыю пра можлівасці, крэдытныя даныя доверы і праграмы коордынацыі. Стандарт Пратакту камунікаціі агентаў асоцыяціі Linux Foundation стандартызуе фарматы паведамленняў між агентамі. Функцыянальна яны адпавядаюць сістэмам керування агентамі і фасілітатарам дырэктарыяў FIPA, але перадзеяныя для сэраў JSON-LD і LLM.

Нарэшце – графы знанняў. NVIDIA, Franz Inc. і іншыя рэкамендуюць спаўнюваць LLM-ы графамі паўтарна перакананых фактов, каб стварыць аднойчыну для логічных выводам, обмежыць галюцынаціі і зробіць выводы зрозумелымі. Доследжэнняя нейро-сімбольных сістэм паказваюць, што гібрыдныя сістэмы часта працуюць лепшая за чыста нейральныя у задачах, якія выказуюць патрэбу ў точнасці фактов, логічных выводах і генералізацыі да новых комбінацый. Ступені змены галюцынацій значна разніцяцца залежна ад сферы і крэтэрыяў, таму трэба стаўіцца да будзь-якага конкрэтнага паказніка з асторожнасцю. Напрамак доказаў ёсць болей надзеяным, чым будзь-якая адзінастая цыфра.

Што не так у прогназе 2006 года

Стары прогназ не спраўдзіўся ў калькі момантаў, і дзеякія з эых неспраўджэнняў былі рэальнымі.

XML паваўляўся галоўным фарматам для агентаў, а DOM — спяльным інтэрфейсам. Аднак так не сталося. У якосты стандартных фарматаў выступілі JSON, gRPC, Protobuf і вектарныя эмбеддынгі. Акцэнс зместыўся спачатку на глыбокое навучэнне, потым на трансфармеры, а пасля — на LLM-ы. Графы знання засталіся, але як адна з складовых у большай нейро-сімболічнай структуры.

Таксама існавала простая концэптуальная памылка: думка, што сам XML забезпечвае семантыку. Гэта не так. XML дае сынтаксіс і дрэваўую структуру. Ўжо тады серьёзныя дзецэрнавальнікі семантычнага веба настаівалі на тым, што пад ўсім гэтым патрэбныя спяльныя онтологіі і формальная семантыка, таму ў гэтым аспекты галузь была адстаючая ад энтузіастаў.

Такім чынам, загальныя рамкі былі праўдападобна прыгледзены, але колькасць старых тэхналогій, якія павінны былі бы адмовіцца, а таксама колькасць новай матэматыкі, апаратуры і інжынерных рашэнняў, якія былі патрэбны, была сэрьёзна недаоцэнена.

Пяць проблем, які ніколі не змініліся

За майжэ дваццаць пяць гадзін стварэння агентаў, ад FIPA на пачатку 2000-х да сучасных агентных AI, пяць проблем дызайну продовжваея праказвацца. Калі параграфаваць іх, співвярэннэ ўсё проста:

ARCHITECTURAL PATTERN EVOLUTION: 2006 → 2025 ## Structured Markup 2006: XML for agent behaviour 2025: POML, Agent Script, XML-tagged prompts Status: Vindicated ## Discovery/Directory Services 2006: FIPA Directory Facilitator 2025: Agent Description Protocol (ANP), A2A directories Status: Vindicated ## Semantic Grounding 2006: RDF/OWL ontologies 2025: JSON-LD, schema.org, KG-LLM integration Status: Transformed but persists ## Communication Protocols 2006: FIPA-ACL 22 performatives 2025: MCP, A2A pragmatic protocols (fewer acts) Status: Simplified but core idea persists ## Perception-Action Loops 2006: FIPA observe-reason-act 2025: ReAct (Observe-Think-Act), tool-use frameworks Status: Fully realised

Структураваныя маркапы ўважаюцца найболей адпаведнымі. XML, які выкорыстоўваліся для керавання агентамі у 2006 годзе, пазніяй стаў POML, Agent Script і запыткі, абгорнутыя тагамі, таму гэты фармат практычна вернуўся у первасныя формы.

Сістэмы адкрыцтва інфармацыі знаходзяцца на другай пазіцыі. Інструменты каталогавання FIPA выконвалі тую ж функцыю, яку сёння выпаловаюць каталогі A2A і апісанні агентаў у ANP: публікуюць інфармацыю пра тое, што можна зробіць, і дазволяюць іншым яе шукаць.

Семантычная база змянілася больш, чым іншыя элементы. Онтологіі RDF і OWL былі заменены на JSON-LD, вокабуляры schema.org і графы знання, якія інтэгруюцца з LLM-амі. Формальны слой стаў простыяй, але патрэба ў спакойнай значэнні не зменшылася.

Протаколы канектавання сталі простыяй. FIPA-ACL мела 22 тыпы паведамленняў. MCP і A2A выкорыстоўваюць значна меншыя тыпы паведамленняў і маюць болей прагматычны падход, пры тым яны все ўсё існуюць з той жа прычыны: два програмы ад разных віробнікаў павінны дагадацца, для чаго патрэбна паведамленне.

Цыкл спрыявання-дзеяння ўсё ж застаўся ў сваёй первачной форме. Цыкл «спазірваць, разумець, дзеяць» FIPA ўскладніўся за дапамогай мадэлі ReAct, якая включае етапы «спазірваць, думаць, дзеяць», а таксама канструкцыю для выкарыстоўвання інструментаў.

Зменіліся сынтаксісы, фарматы серыявання, а таксама самыя механізмы, якія ведуць працэз разумавання. Аднак пытанні засталіся структурна тымі ж: як агент опісвае сябе, як агенты знаходзяць адзін другога, як яны коордынуюць свае дзеяння, як складаюцься службы і як падтрымліваецца цэласнасць спакушанага значэння.

Існуе адзін застэрэжны момент. Прымусовая сумяжнасць і адаптаванне — гэта разныя рэчы. Як XML-шыма, так і JSON-шыма опісваюць структураваныя даны, пры тым як філасофіі, якія стояць за німі, разныя: з адной стороны — формальныя і строгія, а з іншай — лёгкія і прагматычныя. Багато сучасных распрацоўшчыкаў таксама самі знаходзяць гэтыя патэрны, не апіраючыся на FIPA чы семантычныя веб-тэхналогіі. Гэта канвергентная эвалюцыя пад аднаковымі абмежэннямі, якая мало што гаворыць пра спадчыну.

Агентныя AI, якія вядомы сёння

Савэчасныя даследжэнні апісваюць агентныя AI як сістэмы, у якіх агенты, адаснованыя на LLM, спрыяюць спрыянню, планаванню, дзеянню і навчанню з певной автонаміяй. Кампаніі говораюць пра агентныя сеткі — распраўжаныя сеткі агентаў, якія охопляюць інструменты, выкананнікі дадзэнняў і рабочыя практыкі. Даследжэнне McKinsey за 2025 год, якое абключалая або 1 100 організацыяў, паказала, што трохі больш за палова з іх вжывала агентныя AI у практычнай експлуатацыі ў якой-небудзь форме. Проблема тая, што пад «практычнай експлуатацыяй» тут разумеюць пілотныя праекты і частковыя розгортанні, таму гэта не абяцвае повнага распраўжэння ў всій кампаніі.

Планаванне

Планаванне найясней паказвае гэта саходжэнне. Даследжэнне 2024 году, прызначанае для планавання на адаснове LLM, класіфікуе методы на пяць груп:

1. Разбіўка задачы, якая ператварае большую мету на падметы.
2. Пошук плану, які аналізуе альтэрнатыўныя последовальнасці дзеянняў.
3. Зовнішнія планавальнікі, якія включаюць класычныя сістэмы PDDL або іерархічныя сеткі задач.

Адзыёкты і аналіз, які дапрацоўваюць план на аднойчыні з рэзультатамі яго выканання.

Планаванне на аднойчыні з выкарыстоўваннем памяці, якое запоўнюе і прыстосавае пакульшыя планы.

Кожны з гэтых элементаў мае адпаведнік у літэратуры пра агенты 2000-х гадоў пад такімі назвамі, як планаванне HTN, аргументаванне на аднойчыні з выкарыстоўваннем кейсаў і рэмонт плана. Аднойчынныя труднасці таксама схожыя: комбінатарны выбух, непূরныя даны і змінныя сяродавішчы. Разлік заключаецца ў тыловай базе. Штучныя інтэлектуальныя мовы зараз складаюць і дапрацоўваюць планы на натуральнай мове заместо сімвалічных планавальнікаў, а вызывы інструментаў і ціклы адзыёктаў ствараюць для іх падставу.

Шаблон ReAct ад Yao і яго саавтараў чытка паказвае гэты зв’язак. Агент спазірае, запісвае след аргументавання, выбірае дзеянне, бачыць рэзультат і павтарае процэс. Гэта стары цыкл спазірання, аргументавання, дзеяння, на які былі пабудаваны архітэктуры FIPA. Аргументавальны механізм ёсць новым, але цыкл застаўся тым самым.

Оркестрацыя протыва хорэграфіі

Знова спынулася дыялогія з перыяду веб-сэрвісаў. У оркестрацыі для керавання взаімадзеямі выкорыстоўваецца цэнтральны кантролер, як і у рабочых пралэтарах BPEL. Хорэграфія дазволяе учаснікам коордынаваць свае дзеянні адзін з аднім за дапамою спакульнаваных пратаколаў і взаімных зобавэццаў. Літэратура пра BPEL і хорэграфію веб-сэрвісаў з 2005 по 2010 год дакладна обгаварывала гэты пытанне, і тая ж самая дыялогія павтараецца, толькі цяпер з ШЫ як канцэптуальным ядром заместа механізмаў правілаў і платформ Java-агентаў.

Маленькія мадэлі для рутынных задач

Адзін няўзніклы аднаковы зменівае уявленне пра тое, што патрэбна агенту. Дзеярнікі NVIDIA ствараюць тэзу, што багатыя рутынныя заведаменні агентаў не выклікаюць патрэбы ў перэдавальных мадэлях. Мадэлі з аднам да дзесяці мільярдаў параметраў можу кераваць выклікамі інструментаў, перакананнем уведзеных дадзеных, фарматаваннем выходных дадзеных і простым маршрутызаваннем, пры чым, як стверджуецца, ўскораняюцы эфект становіць 10–30 разоў для простых задач, дзе яны параднае з большымі мадэлямі. Што даўлеяе, калі задачы становяцца болей складнымі, гэтыя перавагі зменшаюцца, таму гэта не ёсць універсальным рашэннем.

Таму выклікаецца сумешаныя тэндэнцыі: малыя мадэлі выконваюць рутынныя операцыі, выклікі API, перакананні дадзеных і просты маршрутызаваннь, тады як большыя мадэлі выкарыстоўваюцца для складнага аналізу, разгледу неяснасцяў і рашэння незнайомых задач. Гэта падражнае раздзел на 2000-х гадох межы лёгкіх рэакtyўных агентаў для рутынной работы і агентаў з розрахункавымі механізмамі для складнай коордынацыі.

Дзе паўтарэнне паўтарэння становіць некамфортным

Безпека і праваўнее рэгулюванне — гэта тыя аспекты, дзе сучасная канцэпцыя найбольш адрозніцца ад старэйшай візыі, адтолькі якія развіліся значна медленней, чым спроможнасці.

AgentHarm – стандарт адміністрацыі Andriushchenko і яго саавтараў – пераканальвае, насколькі лёгка можна скераваць агентаў LLM на ведчыны, якія наносяць шкоду. У ям уключаны 110 задач у 11 катэгорыях, з якіх – мошчання, кіберзлочынства, пераследавання, дысінформацыя і іншыя зловжыткі. Пры тэставанні з вядомымі мадэлямі агенты выканалі багато з шкодзічных задач нават калі былі увімкнуты захоўныя механізмы. Раследаванні Anthropic паказалі падобныя слабасі: способы «jailbreak», якія не працуюць проты звычных чат-ботаў, можу працаваць проты агентаў, адколі багатоэтапная сістэма з вікорыстаннем інструментаў стварае большую плошчу для атак. OS-Harm, спрамованы на агентаў, якія вядуць аператывную сістэму безпасна, выявіў высокія практыкі небезпечнай дзеяльнасці, калі мадэлі былі намерна праганяць да такіх дзеянняў, як выкачванне дадзэнняў чы неавтарызаваны доступ.

Зберагаеце правільную форму рамкі. Осе гэта — адварсарыяныя тэсты, створаныя для стварэння аберанняў, таму і спакойваецца высокі рэглас аберанняў. Тым не менш, простата введэння базовых запросаў і гатовасць выпалняць зловучыя запіты без якіх-леба складных атак паказваюць, што механізмы безпекі застаюцца незрэлымі паўступаючы да прыросту можаў.

Пораўняйце гэта з эрай FIPA. У спецыфікаціях былі пакрытыя правілы кантролю доступу, мадэлі довер'я і протаколы взаімадзеяння з аўтэнтыфікацыяй, автарызацыяй і логамі аўдыту. Агенты працавалі ў межах вялікіх домэнаў довер'я з чысткімі обмежэннямі ў тым, што яны моглі робіць, а стак семантычнай сеткі включаў формальныя правілы на мовах правілаў. Гэтыя сістэмы былі значна менш здатныя, чым сучасныя мадэлі, але кераванне было спраектавана з самага пачатку, а не дадана пазней.

Кожны, хто стаў свідкам трохоў пераходу разных парадыгм (класычныя сімволічныя AI, дыстрыбуіраваныя веб-агенты з семантычным вебам, а таксама сучасныя агенты на базе LLM), зазначыць, што слоганы змініліся з кожным разам, а проблемы архітэктуры засталіся тымі ж. Аўтэнтыка, правы на доступ і аўдыт былі складнымі проблемамі ў 2005 годзе, і яны застаюцься складнымі проблемамі і сёння, толькі цяпер ўсё гэта стосуецца агентаў, якія можуць фактычна выдаваць грошы.

Ныяшнія тэндэнцыі выклікаюць абавясці. Магчымасці агентаў розрастліся стрэмганна: яны можуць перэглядаць інфармацыю, запускаць код і выконваць платэжы. Формальныя методы для пераканання ў ўсасці ўсіх ўзроўняў ўжоцьвеці іх дзеянняў у безпечных рэгіонах застаюцься рэдкіснымі.

Нейрасімболічны падход: агенты на базе LLM плюс графы знанняў

Корыстны спосаб разгляду всіго гэтага працэсу — цэ гэта тэза, антытэза і сынтэза.

• 2000-е гады былі сімвалічнымі: формальныя онталогіі, логічныя методы аналізу і рэглі зручнай стварэння. Адрозніцыяя ўсё гэта — можлівасць адказаў, формальная перакананасць і точная семантыка. Слабасці — кранічная ламкасць, слабая гэнералізацыя і немагчымасць надзеявацца на надзеяванне з прыродным языкам.
• 2010-е гады былі спрамаваны на нейральныя методы: глыбокое навучэнне, эмбедынгі і трэніраванне з канца ў канец. Адрозніцыяя — распазнаванне патэранаў, вольнае выкарыстоўванне языка і гэнералізацыя на аднойчынных дадзенах. Слабасці — непрозрачнасць, галюцынацыі, нестабільная логіка і проблемы з задачамі, якія выклікаюць складную структуру.
• 2020-е гады спрамаваны на гібрыдныя падходы, якія спалучаюць нейральныя мадэлі з графамі знанняў, логічнымі абмежэннямі і формальнымі методамі, з метай падтрымкі вольнае выкарыстоўвання языка адночасна з даданнем адпаведных фактов, правільнага аналізу і можлівасці адказаў.

Зростаючыя масштабы нейрасімболічных даследжэнняя падтрымляюць гэта. У апытнах аналізах опісваецца калькольнае шырокаспектнае інтэграцыйных модэлей, у тым чым — уведчэнне сімболічных знанняў у нейральныя модэлі, дазвол часткам нейральных сістэм кераваць сімболічным разумаваннем і доўнейшая працэсаў па чэргаванні гэтых двух падходаў. Сістэмы, якія спалучаюць оба стылі, зазвычай параджаюць чыста нейральным чыста сімболічным базовым рашэнням, калі важна точнасць фактов і логічная аргументацыя.

Конкрэтым прыкладам являецца інтэграцыя AllegroGraph компаніі Franz Inc. з большымі мовамі модэляў. Хранальнік RDF-трыпелів зберагае структураваныя факты, мовны модэль адначасова расумее запытанні і піша адпаведныя адпаведзі, а рэзультат можа цітаваць конкрэтныя трыпелі, якія лежачыя в основе таго чы то твэрджэння, што дае можлівасць атрымваць як плавнае выказванне, так і можлівасць пераканання ў правдзівасці інформацыі.

Спосабы неяксаменства чыстых агентаў LLM добра задокументаваны. Даследжэнні ў галузі адпаведзення на медычныя запытанні і выпання юрыдычных задач паказалі, што мадэлі ствараюць протыпаказанні, дозы, а паўтараючыся — нават судовыя спрэты; частота такіх явароў сільна залежыць ад сферы прыменення і методаў даследжэння. Гэтыя не ўскладненыя крайнія прыклады. Яны вынікаюць з прыроды работы модэляў: яны ўпораць на падабенствах у тэкстах, а не на логічных мысленнях з доступам да пераканальных фактов. Графы знанняяў прыносяць пераканальныя тройкі, метаданы пра паходжэнне і логічныя обмежэнні, што дазволяе сістэме адразніць правдападобныя тверджэнні ад тых, якія можна пераканаць.

Што можуць выкорыстаць распрацоўшчыкі

Калі вы зараз праектуеце сістэму агентаў, історыя паказвае калькі прычын, якія не купуюць больш заходоў і ўсё больш практычныя з часам.

Запісайце, як кожны агент апісвае сябе. Апісанне можыццяў, якое можа прачытаць іншы сістэма, з вхіднымі дадзеннямі, выхіднымі дадзеннямі і прабаловымі умовамі, являе ся сучасным наступнікам профілю службы, і самэ гэта дазволяе здзейсніць адкрыццю і складанне. Без гэтага кожная інтэграцыя ўсё равна будзе ексклюзыўной.

Заранее выберыце, як будзе дзелаваць размен значэннямі. Калі два агенты роўнаюцца полем пад назвай „статус“ або „кліент“, трэба якось узгадаць, што саме паводзіцца на увазе пад гэтымі словамі. Схема — гэта мінімум. Калі на кону большыя наследкі, невялікая онтологія або граф знанняў, якія вядомы обом сторонам, запобегаюць паступоваму адхіленню, калі кожны агент таямна прыймае іншую дэфініцыю.

Свядома выберыце стыл коордынацыі. Цэнтральны оркестратор лёгкія для разумення, аўдыту і вылечэння бягаў. Мадэль «товарыш да товарыша» дазволяе масштабаваць карэграфію між арганізацыямі і ухіліцца ад аднаго ключовага пункту збою, але яе важка спостэрагаць. Спяльнайтэ камюнітэту веб-сэрвісаў выучылася гэта на скарбе, і гэты урок застаецца незменным.

Спрыяйце кераванню як архітэктурэ. Ідэнтыфікацыя кожнага агента, правыя на адпаведны дыячы, летак аўдыту для кожнай дзеянні і спосаб пераканання ў правільнай працэўнасці коштаюць значна менш, калі іх спраектаваць з самага пачатку, чым пасля інцыдэту. Старэйшыя платформы агентаў часта мелі гэтыя элементы, таму што ўхоўнікі яных спакушаліся, што агенты будуць працаваць за межамі довер’я з першага дня.

У падзеце, падабейце мадэль да завадзбы. Засваяйце дорогі механізмы аналізу для тых задач, якімыя яны неабходны, а простыя, дэшавыя компаненты нехай выканаюць рутынныя задачы. Чыгунта такі падход робіць сістэмы быстрэй і танней, а таксама обмежвае можлівасці кожнай окрэмай компаненты.

Не ўспамога

Усё гэта не мае на меце романтызаваць працэўкі мінулага. Семантычныі інтэрнэт так і не стаў падставай прыменення ў промышленасці, і прычыны гэтага былі правядлівыя. Ён быў складны, медленны, не меў достатней кількасці корыстнікаў, а стандарты обяцвалі больш, чым могла даць рэальная практыка. Мадэлі мовы здолелі тое, чаго тыя сістэмы ніколі не змоглі — надзеянае і масштабаванае адрабатаванне нейтральнай мовы. Гэта і ўжо аддзеляе спецыялізаваныя інструменты ад інфраструктуры, якая можа змяніць свет.

Разумны вывод не ў тым, што першыя падтрымальнікі былі правыя, а всі іншы прыйшлі пазней. Ён бліжэй да такога:

• Канал кагнітыўных працэсаў змяніўся: з логікі і ручна створаных правілаў на нейральныя мадэлі, якія выучаюцца на базе дадзэнняў.
• Проблемы інфраструктуры не змяніліся.
• Інтэроперабельнасць, семаніка, коордынацыя, безпека і управлінне яшчэ трэбуе спецыяльнага інжынернага падходу.

Быць першым і быць правым у практычным сэнсе — гэта разныя рэчы. У 2006 году была спроба стварыць інтэрфейс штучнага інтэлекту для працы з разнымі фарматамі машыннага і людскага мовлення за дапамогою XML. Сэгодні такую задачу выпало бы віконваць за дапамогою схем JSON, вектарных баз дадзэння, графаў знанняў і спяльных пратаколаў, такіх як A2A або MCP. Інстынкт застаўся тым жа: трэба стварыць правільны інтэрфейс.

Аспекты, якія варта назваць

Сэрвісы адзінаковага адзіроўкі ды форумы па архітэктурэ сёння змяшчаюць тверджэнні, якія падражнаюць тое, што гаварылася пра сэмантычныя сеткі дваццаць гадоў раней. Існуе рэальны прыступкі, на якія можна апісаць: трансфармэры, спроможныя автонамныя агенты і масовая ўпрацоўка. Аднача таксама існуюць вядомыя прасоці:

• Слабыя або вялікія стратэгіі інтэроперабельнасці.
• Малая увага да формальнай сэмантыкі або онталогій.
• Управлінне спрыяваецца як пакавальнік, а не як архітэктурны шар.

Тры правдападобныя сцэнарыі паказваюць, што будзе, калі гэтыя прасоці застануцца. Ні адны з іх не ўжо прыгадка, а толькі экстрапаляцыя з ныяшней траекторыі.

Першым прыкладам ёсць Вежа Бабела. Кожны прадаўцы стварае савастныя сістэмы агентаў, таму агенты адной кампаніі не можу супрацаваць з агентамі іншай кампаніі чыраць яе інструменты. Корпаратыўныя IT-сістэмы ператвараюцца на сумешанню несумесных платформ, дзе кожная двухсторонняя звязка вымагае індывідуальнай інтэграцыі, пры чым вартасць інтэграцыі ў колька разоў вышэй, а падыхі ў продуктыўнасці заніклі, а адпаведныя кансалтанты зарабляюць гонорары.

Другім прыкладам ёсць крыза безпекі. Флот агентаў у фінансавай кампаніі паддаецца зламу за дапамогою введэння команд і выканання неавтарызаваных транзакцый на суму мільйонав. Не існуе журналу аўдыту, таму што формальная верыфікацыя была аднакова дорогай і непатрэбной, вядома пра тое, насколькі складнымі здаваліся LLM-ы. У выніку — адпаведныя штрафы, адныя кліянты, адхіленне керуючых і аграсыўнае рэакцыя ў всій галузі.

Трэція проблема — галюцінацыі. Спецыялісты ў сферы охоры здароў’я рэкамендуюць методы лечэння, апоўненыя доследжэннямі, якіх ніколі не існавало, а таксама протыпаказваннямі, створанымі на выдумку, без жадных базаў знанняя, якія б іх падтрымалі. Паціўнікі страждаюць, а пазовы ў зв’язку з неналежным адносам выказваюць, што сістэмы, базаваныя на чыстых ШЫ, ёсць неадміннавальнымі, і ў впрыеме медычных ШЫ втрачаецца многа часу.

Нічога з гэтага не ўяўнае. Такія крытэрыя, як AgentHarm, паказваюць, насколькі лёгка можна паставіць пад загрозу сучасныя сістэмы, а галюцінацыі ў медычных умовах ўжо задокументаваныя. Час для стварэння належной інфраструктуры — зараз, перш чым большая публічная нядача змусі рашаць гэтыя проблемы.

Цікл ідэй, праекты застаюцца

Ідэі цыклізуюцца. Яны збываюцца, знову з’являюцца і нарэшце стаюць рэальнасцю, калі атмосфера наваколле гатова. Тое, што раней апісвалася як агенты, якія адмаўляюць інфармацыю „пакет апрацавана“ для стварэння цэнных адказоў для людзей, сёння апісваецца мовай LLM-аў, векторных баз дадзенаў і фрэймворкаў з многімі агентамі. Дэталі зменіліся, але основная схема засталася той самай.

Старыя ідэі прыносяць рэзультаты толькі тады, калі хтось іх раскопвае і рэштаравана ўважна чытае.

Джэрэлы, якія варта адкрыць

• Бенчмарк AgentHarm для адметрабавання шкодзябнага паведання агентаў.
• OS-Harm для абэранні агентаў, якія выкорыстоўваюць камп’ютары.
• Neuro-symbolic AI у 2024 годзе: сістэматычны адзірак.
• Розумеўце планавання агентаў LLM, адзірак планавання, пра які гаворылася вышэй.
• Large Legal Fictions пра прававыя галюцынацыі.
• ReAct ад Yao і яго саавтараў.
• Спэкы FIPA для асалічных стандартаў камунікацыі агентаў.