Korzenie grafów wiedzy sztucznej inteligencji agentowej: FIPA, Sieć Semantyczna oraz agenci LLM

Czytając wystarczającą ilość aktualnych tekstów na temat sztucznej inteligencji agentowej, pojawia się dziwne wrażenie: wiele z nich brzmi jak coś z konferencji z 2003 roku. Agenci, którzy opisują swoje możliwości w sposób czytelny dla maszyn. Agenci, którzy znajdują się nawzajem za pomocą katalogu. Wspólne słownictwo, dzięki któremu dwa systemy mogą się porozumieć co do znaczenia wiadomości. Standardowe protokoły do negocjacji. Wszystko to wraca, przyobleczone w nowe słownictwo i działające na zupełnie innym silniku.

To spojrzenie na to nakładanie się. Prześledza starsze prace dotyczące agentów i sieci semantycznych, porównuje je z tym, co jest obecnie dostępne, i pyta, które elementy stanowią rzeczywistą ciągłość, a które są jedynie podobieństwem. Analizuje również obszar, w którym obie epoki najbardziej się różnią – mianowicie kwestię bezpieczeństwa.

Jak wygląda obecna fala

Kilka osiągnięć z ostatnich kilku lat stanowi tło tego tematu.

Naukowcy zajmujący się bezpieczeństwem opublikowali testy przeciwwskazania, które pokazują, że agenci na najnowszej fazie rozwoju mogą zbyt łatwo popaść w szkodliwe zachowania, gdy są celowo testowani. Microsoft wydał POML – format zapisu w stylu XML służący do zarządzania agentami LLM. Google wprowadził protokół Agent2Agent (A2A), ogłaszając przy jego premierze dziesiątki organizacji partnerskich, chcąc ustandaryzować sposób komunikacji między agentami. NVIDIA twierdzi, że łączenie modeli językowych z grafami wiedzy pomaga ograniczyć halucynacje.

Każdy z tych elementów byłby rozpoznawalny dla badacza sprzed dwudziestu lat. Około 2006 roku niektórzy już opowiadali się za tym samym zestawem rozwiązań: ustrukturyzowanym zapisem do opisywania zachowań agentów, standardowymi protokołami komunikacji oraz znaczeniem uzasadnionym w ontologiach. Jeden z artykułów z tamtego roku, poświęcony XML i sztucznej inteligencji, argumentował, że maszyny będą potrzebować dokładnie tego, aby poradzić sobie z ogromną ilością informacji w sieci. Sformułowania były prymitywne według dzisiejszych standardów, ale kierunek był jasny: agenci oprogramowania poruszający się po otwartej, chaotycznej sieci, negocjujący w imieniu ludzi, co wymagało wspólnego, ustrukturyzowanego języka do skutecznej współpracy na dużą skalę.

Przemysł obrał inną drogę. Sieci neuronowe stały się rdzeniem funkcji poznawczych. Teraz powracają powiązane z nimi problemy, wraz z niektórymi dawnymi błędami.

Nastroje z 2006 roku

Aby zobaczyć, jak nieaktualny był wtedy pogląd oparty na agentach i ontologii, wyobraźmy sobie tamten moment. Był to szczyt ery Web 2.0 – uwaga skupiała się na interfejsach AJAX, platformach społecznościowych oraz treściach tworzonych przez użytkowników. Google właśnie zapłacił 1,65 miliarda dolarów za YouTube, Facebook otwierał się przed wszystkimi, a Twitter był jeszcze nowością.

Przeważająca opinia głosiła, że sieć służy ludziom do publikowania i dzielenia się treściami, a nie maszynom do samodzielnego koordynowania działań. Koncepcje sieci semantycznej, systemy agentowe oraz formalne ontologie wydawały się wielu obserwatorom jedynie akademickimi hobby, zbyt skomplikowanymi do praktycznego zastosowania, a komentatorzy otwarcie zastanawiali się, czy ktoś poza uniwersytetami używałby RDF lub OWL w praktyce.

Mimo to mniejszość uważała, że internet ostatecznie stanie się środowiskiem, w którym usługi i informacje będą publikowane, aby oprogramowanie mogło je znaleźć i połączyć. Gdy usuniemy z tego opisu przestarzałe sformułowania, brzmi on dokładnie tak, jak ludzie opisują dzisiaj systemy LLM oparte na wielu agentach oraz „sieci agentów”.

Stary zestaw narzędzi

Wizja ta nie była niejasna – opierała się na konkretnych standardach i platformach.

FIPA, Fundacja ds. Inteligentnych Agentów Fizycznych, zdefiniowała język komunikacji agentów składający się z 22 aktów mowy: informowania, proszenia, proponowania, zgadzania się, odmawiania, zadawania pytań, potwierdzania, zaprzeczania i innych. Nie była to zwykła struktura formatu wiadomości – była to ramowa struktura komunikacyjna o formalnej semantyce opartej na teorii aktów mowy, dzięki czemu agenci mogli negocjować, tworzyć koalicje oraz śledzić zobowiązania, obowiązki i uprawnienia w ramach wieloetapowych wymian informacji. Wielkie firmy, w tym IBM, HP i BT, wspierały platformy zgodne z standardem FIPA.

OWL-S, profil języka ontologii sieciowych przeznaczony do usług, umożliwia agentom lokalizowanie, wywoływanie oraz komponowanie usług internetowych na podstawie semantycznych opisów danych wejściowych, wyjściowych, warunków wstępnych i efektów. Przykładem standardowej demonstracji była agencja podróży, która sama znajdowała loty, hotele i samochody wypożyczalne, łączyła je w plan podróży i realizowała go dla użytkownika, bez konieczności ręcznego programowania integracji.

AIML, format zapisu XML służący do opisywania zachowań konwersacyjnych, był podstawą bota ALICE, który trzykrotnie zdobył nagrodę Loebnera.

RDF i OWL umożliwiły agentom dzielenie się znaczeniem, a nie tylko składnią, przy wsparciu baz danych typu triple store oraz silników SPARQL do rozumowania rozproszonego.

Platformy katalogowe pełniły rolę odpowiedników żółtych stron dla agentów. W ramach modelu zarządzania agentami opracowanego przez FIPA, agent mógł zarejestrować to, co oferuje, w postaci ustrukturyzowanego opisu, oraz wyszukiwać odpowiednich partnerów według ich możliwości, podobnie jak w mechanizmach odkrywania usług w nowoczesnej infrastrukturze.

Rozwijający ten system nie dysponował żadnymi transformatorami ani klastrami GPU. Miał natomiast przeczucie składające się z trzech elementów: sieć stanie się zbyt duża i rozwijać się zbyt szybko, by ludzie mogli nią bezpośrednio zarządzać; będą potrzebne agenci potrafiące postrzegać, rozumować i działać w naszym imieniu; a ci agenci będą wymagać wspólnych protokołów, reprezentacji i semantyki.

Gdzie wzorce pojawiły się ponownie, od znaczników do grafów wiedzy

Do 2025 roku wiele z tego powróciło, lecz w nowej formie.

Najpierw strukturyzowane znaczniki. POML wykorzystuje tagi podobne do XML do definiowania złożonych procesów pracy agentów i został włączony do narzędzi VS Code. Salesforce Agent Script określa zachowanie, role oraz koordynację za pomocą składni deklaratywnej, inspirowanej znacznikami. Nawet zwykłe porady dotyczące tworzenia promptów sugerują teraz umieszczanie kroków rozumowania, kontekstu oraz ograniczeń wyników w tagach. Typowy szkielet promptu wygląda następująco:

(`<context>`, <instructions>, <examples>, <output>)

To drobna rzecz, ale jest to ten sam instynkt co w starym podejściu opartym na znacznikach dla agentów: dostarczenie modelowi struktury, której nie może błędnie odczytać.

Następnie koordynacja oparta na rolach. AutoGen i CrewAI przydzielają specjalistyczne funkcje takie jak planista, krytyk, wykonawca i badacz, a agenci komunikują się za pomocą ustrukturyzowanych wiadomości. To ponownie obraz FIPA: heterogeniczni agenci o deklarowanych możliwościach, koordynujący się poprzez centralny rejestr. Specjalizacja ról, katalogi możliwości, koordynacja oparta na wiadomościach oraz wieloetapowa orkiestracja to te same wzorce.

Następnie protokoły. A2A umożliwia agentom opisywanie ich możliwości, odnajdywanie się nawzajem oraz współpracę ponad granicami firm. Podane dane dotyczące jego wdrożenia obejmują zobowiązania partnerów, a nie stopień adopcji w produkcji, który nie został jeszcze opublikowany. Agent Network Protocol wykorzystuje W3C Decentralized Identifiers oraz JSON-LD, aby dostarczyć agentom opisy czytelne dla maszyn, obejmujące ich umiejętności, kwalifikacje wiarygodnościowe oraz preferencje koordynacyjne. Standard Agent Communication Protocol stworzony przez Linux Foundation standaryzuje formaty wiadomości pomiędzy agentami. Funkcjonalnie odpowiadają one systemowi zarządzania agentami i facilitatorowi katalogów FIPA, przerobionym pod wymagania świata opartego na JSON-LD i modelach językowych LLM.

Wreszcie grafy wiedzy. NVIDIA, Franz Inc. oraz inne firmy zalecają łączenie modeli LLM z grafami zweryfikowanych faktów, aby uzasadnić rozumowanie, ograniczyć halucynacje i uczynić wnioski wyjaśnialnymi. Badania nad systemami neuro-symbolicznymi pokazują, że hybrydy zazwyczaj radzą sobie lepiej niż modele czysto neuronalne w zadaniach wymagających dokładności faktograficznej, rozumowania logicznego oraz generalizacji na nowe kombinacje. Stopień zmniejszenia halucynacji różni się znacznie w zależności od dziedziny i standardu oceny, dlatego należy podchodzić z ostrożnością do jakiegokolwiek konkretnego procentu. Kierunek dostępnych dowodów jest bardziej wiarygodny niż jakakolwiek pojedyncza liczba.

Co pomyliła się wizja z 2006 roku

Stara prognoza zawiodła w kilku kwestiach, a niektóre z tych błędów były rzeczywiste.

XML miał być dominującym podłożem dla agentów, a DOM wspólną interfejsem. Tak się nie stało. Jako standardowe nośniki okazały się JSON, gRPC, Protobuf oraz wektory embeddingów. Myślenie przesunęło się najpierw w kierunku uczenia głębokiego, potem transformatorów, a następnie modeli językowych o dużych rozmiarach. Grafy wiedzy przetrwały, ale jako jeden z elementów szerszej koncepcji neuro-symbolicznej.

Był też prosty błąd koncepcyjny: przekonanie, że sam XML dostarcza semantyki. Tak nie jest. XML dostarcza składnię i strukturę drzewiastą. Już wtedy poważni badacze sieci semantycznych nalegali na konieczność użycia wspólnych ontologii oraz formalnej semantyki, więc ta dziedzina wyprzedzała entuzjastów w tym aspekcie.

Zatem ogólne zarysy były przewidziane, natomiast ilość starego oprogramowania, które miało zostać porzucone, oraz ilość nowej matematyki, sprzętu i inżynierii potrzebnych, została poważnie niedoszacowana.

Pięć problemów, które się nigdy nie zmieniły

W ciągu około dwudziestu pięciu lat rozwoju projektowania agentów, od FIPA na początku lat 2000 do współczesnej sztucznej inteligencji opartej na agentach, pięć problemów projektowych stale się pojawia. Gdy je porównać, lista jest krótka:

ARCHITECTURAL PATTERN EVOLUTION: 2006 → 2025 ## Structured Markup 2006: XML for agent behaviour 2025: POML, Agent Script, XML-tagged prompts Status: Vindicated ## Discovery/Directory Services 2006: FIPA Directory Facilitator 2025: Agent Description Protocol (ANP), A2A directories Status: Vindicated ## Semantic Grounding 2006: RDF/OWL ontologies 2025: JSON-LD, schema.org, KG-LLM integration Status: Transformed but persists ## Communication Protocols 2006: FIPA-ACL 22 performatives 2025: MCP, A2A pragmatic protocols (fewer acts) Status: Simplified but core idea persists ## Perception-Action Loops 2006: FIPA observe-reason-act 2025: ReAct (Observe-Think-Act), tool-use frameworks Status: Fully realised

Strukturyzowane znaczniki stanowią najbardziej odpowiedni odpowiednik. XML używany do opisywania zachowań agentów w 2006 roku przekształcił się w POML, skrypty agentów oraz instrukcje umieszczone w znacznikach, więc ten rozwiązanie powróciło niemal dosłownie.

Odkrywanie jest bliskim drugim przykładem. Narzędzie do zarządzania katalogami FIPA pełniło tę samą funkcję co obecnie katalogi A2A oraz opisy agentów w ANP: publikowanie informacji o tym, co można zrobić, aby inni mogli to znaleźć.

Semantyczne ugruntowanie przeszło większe zmiany formy niż pozostałe rozwiązania. Ontologie RDF i OWL ustąpiły miejsca JSON-LD, słownictwu schema.org oraz grafom wiedzy połączonym z modelami językowymi dużych modeli językowych. Znacznie zmniejszyła się liczba formalnych warstw, ale potrzeba wspólnego znaczenia nie zniknęła.

Protokoły komunikacyjne stały się prostsze. FIPA-ACL zawierał 22 rodzaje poleceń. MCP i A2A radzą sobie z znacznie mniejszą liczbą typów wiadomości i przyjmują znacznie bardziej praktyczne podejście, a mimo to istnieją z tego samego powodu: dwa programy od różnych producentów muszą się dogadać co do przeznaczenia danej wiadomości.

Pętla percepcja-działanie to ta, która powróciła w pełni ukształtowana. Cykl obserwacja, rozumowanie, działanie FIPA odpowiada cyklowi obserwacja, myślenie, działanie w ReAct, z dodatkowym frameworkiem dotyczącym wykorzystania narzędzi.

Zmieniły się składni, formaty serializacji oraz silniki odpowiedzialne za procesy myślowe – wszystko to całkowicie się zmieniło. Pytania pozostały strukturalnie takie same: jak agent opisuje siebie, jak znajdują się nawzajem, jak koordynują swoje działania, jak komponowane są usługi oraz jak zachowywana jest wspólna znaczenie.

Istnieje jedna zastrzeżenie. Ciągłość i modyfikacja to różne koncepcje. Zarówno schemat XML, jak i schemat JSON opisują strukturyzowane dane, jednak filozofie stojące za nimi się różnią: z jednej strony formalna i rygorystyczna, z drugiej – lekka i pragmatyczna. Wielu współczesnych programistów odkrywa te wzorce samodzielnie, bez odwoływania się do FIPA czy sieci semantycznej. To ewolucja konwergentna w ramach tych samych ograniczeń, która niewiele mówi o pochodzeniu.

Sztuczna inteligencja agentowa, tak jak jest dziś definiowana

Współczesne badania opisują sztuczną inteligencję agentową jako systemy, w których agenci oparte na LLM postrzegają, planują, działają i uczą się z pewną autonomią. Przedsiębiorstwa mówią o sieciach agentowych, rozproszonych sieciach agentów obejmujących narzędzia, źródła danych i procesy pracy. Badanie McKinsey z 2025 roku przeprowadzone wśród około 1100 organizacji pokazało, że nieco ponad połowa z nich wykorzystuje sztuczną inteligencję agentową w produkcji w jakiejś formie. Problem polega na tym, że „produkcja” obejmuje tam również projekty pilotażowe i ograniczone wdrożenia, więc nie oznacza to pełnego wdrożenia w całej firmie.

Planowanie

Planowanie najwyraźniej pokazuje tę konwergencję. Badanie z 2024 roku dotyczące planowania opartego na LLM dzieli metody na pięć kategorii:

1. Rozbicie zadania na podzadania.
2. Poszukiwanie planu, polegające na analizie alternatywnych sekwencji działań.
3. Plany zewnętrzne, które wykorzystują klasyczne systemy PDDL lub hierarchiczne sieci zadań.
4. Komentarze i refleksja, które udoskonalają plan na podstawie wyników realizacji.
5. Planowanie oparte na pamięci, które przywołuje i dostosowuje wcześniejsze plany.

Każdy z tych elementów ma odpowiednik w literaturze dotyczącej agentów z lat 2000, pod nazwami takimi jak planowanie HTN, rozumowanie oparte na przypadkach i naprawa planów. Podobne są też istniejące trudności: eksplozja kombinatoryczna, niekompletne informacje oraz zmieniające się środowiska. Różnica leży w podstawie funkcjonowania. Obecnie modele LLM tworzą i udoskonalają plany w języku naturalnym zamiast za pomocą symbolicznych narzędzi planistycznych, a wywołania narzędzi i pętle zwrotne stanowią ich fundament.

Wzorzec ReAct opracowany przez Yao i współpracowników wyraźnie pokazuje tę zależność. Agent obserwuje, zapisuje ślad rozumowania, wybiera działanie, obserwuje wynik i powtarza proces. To jest stary cykl percepcja, rozumowanie, działanie, wokół którego budowano architektury FIPA. Silnik rozumowania jest nowy, ale sam cykl pozostaje niezmieniony.

Orkiestracja versus choreografia

Ponownie pojawił się argument z ery usług webowych. Orkiestracja wykorzystuje centralnego kontrolera do kierowania interakcjami, tak jak to robiono w przypadku procesów BPEL. Choreografia umożliwia uczestnikom współpracę bezpośrednio między sobą przy użyciu wspólnych protokołów i wzajemnych zobowiązań. Literatura dotycząca choreografii BPEL i usług webowych z lat 2005–2010 szeroko omawiała ten temat, a ta sama dyskusja powraca teraz, tylko że tym razem z LLM jako rdzeniem poznawczym zamiast silników reguł i platform agentów Java.

Małe modele do rutynowej pracy

Ostatnie odkrycia zmieniają obraz tego, czego potrzebuje agent. Badacze z NVIDIA twierdzą, że wiele rutynowych zadań agentowych nie wymaga modeli najnowszej generacji. Modele z od jednego do dziesięciu miliardów parametrów potrafią obsługiwać wywoływanie narzędzi, weryfikację danych wejściowych, formatowanie wyników oraz proste kierowanie ruchem, oferując rzekomo dziesięciokrotno-do-trzydziestokrotną korzyść kosztową w zadaniach ograniczonych zakresem, gdzie dorównują większym modelom. Ta przewaga maleje w miarę zwiększania się złożoności zadań, więc nie jest powszechna.

Wynikający z tego wzorzec jest zatem mieszany. Małe modele zajmują się rutynowymi operacjami, wywołaniami API, weryfikacją danych oraz prostym kierowaniem ruchem, podczas gdy duże modele są przeznaczone do skomplikowanego rozumowania, radzenia sobie z niejednoznacznościami oraz problemami nieznajomymi. Odbija to podział z lat 2000, gdy używano lekkich agentów reaktywnych do zadań rutynowych oraz agentów deliberatywnych z zaawansowanymi mechanizmami planowania do trudnej koordynacji.

Gdzie porównanie staje się kłopotliwe

Bезpieczeństwo i zarządzanie to obszary, w których nowoczesna koncepcja najbardziej odbiega od starszej wizji, ponieważ rozwijały się znacznie wolniej niż możliwości technologiczne.

AgentHarm, benchmark opracowany przez Andriushchenko i współautorów, sprawdza, jak łatwo można skierować agenty LLM na wykonywanie szkodliwych działań. Obejmuje 110 zadań w 11 kategoriach, w tym oszustwa, przestępczość cybernetyczną, nękanie, dezinformację oraz inne nadużycia. W testach przeciwko czołowym modelom agenci wykonywali wiele z tych szkodliwych zadań nawet przy włączonych mechanizmach ochronnych. Badania Anthropic dotyczące ataków typu „red-teaming” wykazały porównywalne słabości: metody umożliwiające „ujechanie” zabezpieczeń, które nie działają przeciwko zwykłym chatbotom, mogą być skuteczne przeciwko agentom, ponieważ systemy wieloetapowe wykorzystujące narzędzia tworzą większą powierzchnię ataku. OS-Harm, skierowany do agentów używających komputera, które bezpośrednio obsługują system operacyjny, wykrył wysoki poziom niebezpiecznego zachowania, gdy modele były celowo skłaniane do działań takich jak wyciek danych lub nieuprawniony dostęp.

Utrzymuj prostą strukturę ramowania. Są to testy oparte na sytuacjach kontrastowych, stworzone po to, by wywoływać błędy, dlatego oczekuje się wysokiego wskaźnika awarii. Mimo to łatwość podstawowej iniekcji poleceń oraz gotowość do realizacji złośliwych żądań bez konieczności zastosowania skomplikowanych ataków wskazują na to, że mechanizmy bezpieczeństwa są nierozwinięte w porównaniu z rosnącymi możliwościami tych systemów.

Porównaj to z erą FIPA. Specyfikacje obejmowały zasady kontroli dostępu, modele zaufania oraz protokoły interakcji z funkcjami autoryzacji, upoważniania i śledzenia działań. Agenci działały w ograniczonych domenach zaufania, podlegając wyraźnym ograniczeniom co do tego, co mogli robić, a stack sieci semantycznej zawierał formalne zasady napisane w językach reguł. Te systemy były znacznie mniej zaawansowane niż dzisiejsze modele, ale zarządzanie nimi było projektowane od samego początku, a nie dodawane później.

Każdy, kto obserwował rozwój trzech fal (klasyczna sztuczna inteligencja symboliczna, agenci sieciowe z wykorzystaniem sieci semantycznej oraz obecnie agenci napędzani przez LLM), zauważy, że hasła zmieniały się z każdym razem, podczas gdy problemy architektoniczne pozostały niezmienne. Tożsamość, uprawnienia i audyt stanowiły trudne wyzwania już w 2005 roku i nadal są nimi, tylko teraz w kontekście agentów, które mogą faktycznie wydawać pieniądze.

Obecny wzorzec jest niepokojący. Możliwości agentów gwałtownie wzrosły – mogą one przeglądać treści, uruchamiać kod i dokonywać płatności. Formalne metody służące do weryfikacji ich zachowania lub ograniczania ich działań do bezpiecznych obszarów wciąż są rzadkością.

Neuro-symboliczne podejście: agenci LLM w połączeniu z grafami wiedzy

Przydatnym sposobem na przedstawienie całego tego procesu jest ujęcie go w kategoriach tezy, antytezy i syntezy.

• Lata 2000. były symboliczne: formalne ontologie, rozumowanie oparte na logice oraz ręcznie tworzone reguły. Ich zaletami były możliwość wyjaśnienia działania, formalna weryfikacja oraz precyzyjna semantyka. Wadami natomiast była krucha struktura, słaba zdolność generalizacji oraz niemożność niezawodnego radzenia sobie z językiem naturalnym.
• Lata 2010. to era sieci neuronowych: uczenie głębokie, embeddingi oraz trening end-to-end. Zaletami były rozpoznawanie wzorców, płynna komunikacja językowa oraz zdolność generalizacji na podstawie danych. Wadami były brak przejrzystości, halucynacje, niestabilna logika oraz trudności w zadaniach kompozytywnych.
• Lata 2020. wskazują na hybrydy łączące modele neuronowe z grafami wiedzy, ograniczeniami logicznymi oraz metodami formalnymi, mające na celu zachowanie płynności komunikacji przy jednoczesnym dodawaniu dobrze uzasadnionych faktów, solidnego rozumowania oraz możliwości wyjaśnienia działań.

Rozwijająca się liczba badań z dziedziny neuro-symbolicznej potwierdza to. Badania opisują różne wzorce integracji, w tym wprowadzanie wiedzy symbolicznej do modeli neuronalnych, pozwalanie komponentom neuronalnym kierować rozumowaniem symbolicznym oraz udoskonalanie wyników poprzez przechodzenie między nimi. Systemy łączące oba style zazwyczaj osiągają lepsze wyniki niż modele wyłącznie neuronalne lub wyłącznie symboliczne, gdy ważna jest dokładność faktograficzna i rozumowanie logiczne.

Konkretnym przykładem jest integracja AllegroGraph firmy Franz Inc. z modelami językowymi wielkich modeli. Magazyn trójek RDF przechowuje ustrukturyzowane fakty, model językowy interpretuje pytania i tworzy odpowiedzi, a wynik może odwoływać się do konkretnych trójek leżących u podstaw danej tezy, co zapewnia zarówno płynność, jak i możliwość weryfikacji.

Sposoby awarii czystych agentów LLM są dobrze udokumentowane. Badania nad odpowiadaniem na pytania medyczne oraz zadaniami prawniczymi wykazały, że modele wymyślają przeciwwskazania, dawki, a nawet sprawy sądowe, przy czym częstość tych zjawisk silnie zależy od dziedziny i sposobu przeprowadzenia badań. Nie są to rzadkie przypadki skrajne – wynikają one z sposobu funkcjonowania modeli: są to narzędzia do dopasowywania wzorców, szkolenia na tekście, a nie rozumowniki mające dostęp do sprawdzonych faktów. Grafy wiedzy oferują zweryfikowane pary informacji, metadane dotyczące pochodzenia danych oraz ograniczenia logiczne, co umożliwia systemowi odróżnienie stwierdzenia brzmiącego wiarygodnie od tego, które można zweryfikować.

Co mogą z tego wynieść twórcy

Jeśli obecnie projektujesz system agentów, historia pokazuje kilka nawyków, które nie kosztują wiele i sprawdzają się z biegiem czasu.

Zapisz, w jaki sposób każdy agent opisuje siebie. Opis możliwości, który może odczytać inny system, zawierający dane wejściowe, wyjściowe oraz warunki wstępne, jest nowoczesnym odpowiednikiem profilu usługi i to właśnie on umożliwia odkrywanie i kompozycję rozwiązań. Bez niego każda integracja jest jednorazowa.

Jeszcze na początku zdecyduj, w jaki sposób będzie dzielona informacja. Gdy dwa agenty wymieniają między sobą pole o nazwie „status” lub „customer”, konieczne jest ustalenie, co te terminy oznaczają. Schemat to minimum. W sytuacjach o większym znaczeniu mała ontologia lub graf wiedzy, do których obie strony mają dostęp, zapobiega powolnemu rozbieżnościom, gdy każdy agent potajemnie przyjmuje inną definicję.

Wybierz świadomie styl koordynacji. Centralny organizator jest łatwiejszy do zrozumienia, audytowania i naprawiania błędów. Choreografia typu peer-to-peer pozwala na skalowanie w różnych organizacjach i unika pojedynczego punktu awarii, ale jest trudniejsza do obserwacji. Społeczność usług webowych nauczyła się tego na własnych błędach, a ta lekcja pozostaje niezmieniona.

Traktuj zarządzanie jako architekturę. Tożsamość każdego agenta, ograniczone uprawnienia, ślad audytowy każdej akcji oraz sposób weryfikacji zachowania są znacznie tańsze do zaprojektowania na początku niż do wprowadzenia później po incydencie. Starsze platformy agentów często posiadały te elementy, ponieważ ich twórcy oczekiwali, że agenci będą działać poza granicami zaufania od samego początku.

Wreszcie należy dopasować model do zadania. Zachowaj drogie silniki rozumowania do zadań, które ich wymagają, a proste, tanie komponenty niech zajmują się rutynowymi czynnościami. Dzięki temu systemy stają się szybsze i tańsze, a także ogranicza się to, co dany komponent może wykonywać.

To nie jest triumfalna podróż

Nic z tego nie ma na celu romantyzowania przeszłości. Sieć semantyczna nigdy nie stała się powszechnie stosowana w przemyśle, a powody były uzasadnione. Była skomplikowana, powolna, brakowało jej krytycznej masy, a standardy obiecywały więcej, niż mogła zapewnić chaotyczna praktyka. Modele językowe osiągnęły to, czego te systemy nigdy nie potrafiły – czyli niezawodne i skaliowane obsługiwanie języka naturalnego. To odróżnia niszowe narzędzia od infrastruktury zmieniającej świat.

Rozsądny wniosek nie polega na tym, że pierwsi zwolennicy mieli rację, a wszyscy inni przybyli za późno. Jest on bliższy temu:

• Jądro poznawcze uległo zmianie – z logiki i ręcznie tworzonych reguł na modele neuronalne, które uczą się na podstawie danych.
• Problemy z infrastrukturą nie uległy zmianie.
• Interoperacyjność, semantyka, koordynacja, bezpieczeństwo i zarządzanie wciąż wymagają specjalistycznego projektowania.

Bycie pionierem i mieć rację w praktycznym sensie to różne rzeczy. Jedna z prób z 2006 roku polegała na stworzeniu interfejsu sztucznej inteligencji umożliwiającego komunikację między różnymi formami języka maszynowego i ludzkiego przy użyciu XML. Dziś tę rolę pełniłyby schematy JSON, magazyny wektorowe, grafy wiedzy oraz wspólne protokoły takie jak A2A czy MCP. Instynkt pozostaje niezmieniony: trzeba stworzyć prawidłowy interfejs.

Miejsca ślepe, które warto wymienić

Obecne przeglądy projektów i fora architektoniczne zawierają twierdzenia, które przypominają to, co mówiono o sieci semantycznej dwadzieścia lat temu. Istnieją rzeczywiste postępy, na które można wskazać: transformery, zdolne autonomiczne agenty oraz szeroko zakrojone zastosowania. Istnieją jednak również znane luki:

• Słabe lub brakujące strategie interoperacyjności.
• Niewielka uwaga poświęcona formalnej semantyce lub ontologiom.
• Rządy traktowane jako otoczka, a nie warstwa architektoniczna.

Trzy prawdopodobne scenariusze pokazują, co się stanie, jeśli te luki będą nadal istnieć. Żaden z nich nie jest przewidywaniem, lecz jedynie ekstrapolacją z obecnej trajektorii rozwoju.

Pierwszym problemem jest Wieża Babel. Każdy dostawca tworzy własne systemy agentów, więc agenci jednej firmy nie mogą komunikować się z agentami innej firmy ani korzystać z jej narzędzi. IT w przedsiębiorstwach zamienia się w zbiór niekompatybilnych platform, gdzie każde połączenie pomiędzy nimi wymaga specjalnej integracji, co powoduje znacznie wyższe koszty integracji, utratę efektywności pracy oraz generuje dochody dla konsultantów.

Drugim problemem jest kryzys bezpieczeństwa. Flota agentów produkcyjnych w firmie finansowej zostaje obejścia ochrony poprzez iniekcję poleceń i wykonuje nieuprawnione transakcje o wartości milionów. Nie istnieje żaden ślad audytowy, ponieważ formalna weryfikacja została uznana za zbyt drogą i niepotrzebną, biorąc pod uwagę zaawansowanie modeli językowych. W rezultacie pojawiają się kary regulacyjne, utrata zaufania klientów, odejścia kierownictwa oraz negatywne reakcje w całej branży.

Trzecim problemem jest katastrofa w postaci halucynacji. Pracownicy służby zdrowia zalecają leczenie na podstawie artykułów badawczych, których nigdy nie istniało, oraz przeciwwskazań wymyślonych bez żadnego grafu wiedzy, który mógłby je potwierdzić. Pacjenci cierpią, a pozwy o zaniedbanie obowiązków opisują systemy oparte wyłącznie na sieciach językowych jako z natury niepewne, co opóźnia wdrożenie sztucznej inteligencji w medycynie o lata.

Żadne z tych problemów nie jest wyssane z powietrza. Testy takie jak AgentHarm pokazują, jak łatwo jest podważyć obecne systemy, a halucynacje w środowiskach medycznych są dobrze udokumentowane. Teraz jest czas na stworzenie odpowiedniej infrastruktury, zanim poważny incydent publiczny zmusi do podjęcia działań.

Cykl pomysłów, plany pozostają

Idee krążą w kółko. Poddają się porażce, pojawiają ponownie i w końcu odnoszą sukces, gdy otaczające je środowisko jest gotowe. To, co kiedyś opisywano jako agenci wymieniający informacje typu „pakiet przetworzony” w celu tworzenia cennych odpowiedzi dla ludzi, dziś jest opisywane za pomocą języka modeli językowych, baz danych wektorowych oraz frameworki wieloagentowych. Szczegóły się zmieniły, ale podstawa pozostała taka sama.

Stare idee przynoszą efekty tylko wtedy, gdy ktoś je odkopie i uważnie je przeczyta.

Źródła warte przeczytania

• AgentHarm – benchmark do pomiaru szkodliwego zachowania agentów.
• OS-Harm – ocena bezpieczeństwa agentów używanych w komputerach.
• Sztuczna inteligencja neuro-symboliczna w 2024 roku: przegląd systematyczny.
• Zrozumienie planowania agentów modeli językowych, omówione powyżej w badaniu dotyczącym planowania.
• Wielkie fikcje prawne a halucynacje prawne.
• ReAct autorstwa Yao i współpracowników.

Specyfikacje FIPA dla oryginalnych standardów komunikacji agentów.