Dlaczego agenty, które imponują w demonstracjach, zawodzą w produkcji i co zamiast tego warto stworzyć.

To, czego demo nigdy nie pokazuje

Dobre demo agenta skupia się na optymalnym scenariuszu działania. Wywołanie narzędzia zwraca dokładnie to, czego oczekiwano, model poprawnie interpretuje zadanie i nic się nie opóźnia. W takich warunkach agent, który korzysta z narzędzi i rozwiązuje zadanie krok po kroku, wygląda na prawie ukończone zadanie. Odległość pomiędzy tym stanem a tym, od czego zależą ludzie korzystający z usługi, jest regularnie niedoceniana.

Produkcja to po prostu wszystko, co znajduje się poza tym optymalnym scenariuszem. Certyfikaty wygasają. Schemat może ulec zmianie bez uprzedzenia. Polecenie może zostać błędnie zinterpretowane. Odpowiedzi przychodzą późno, są niekompletne lub w ogóle nie przychodzą, a każda zewnętrzna API, z którą agent współpracuje, ma swoje własne specyfiki. Żadne z tych zjawisk nie jest pechem – to to, czego należy się spodziewać, gdy w systemie znajduje się komponent niedeterministyczny, a otaczający go świat nadal się rozwija.

Demony również często pomijają ewaluację i monitorowanie. Bez nich halucynacje lub przepełnienie okna kontekstowego nie wywołują żadnego alarmu. Agent nadal odpowiada, ale odpowiedzi są błędne, a pierwszym sygnałem jest skarga użytkownika lub uszkodzony rekord. System, który wygląda dobrze tylko przy uważnym obserwowaniu, nie jest gotowy do pracy bez nadzoru.

Niewielki przykład ilustruje tę różnicę. Wyobraźmy sobie agenta, który rezerwuje spotkania poprzez wywołanie API kalendarza. W demonstracji kalendarz odpowiada w ciągu 200 milisekund, przekazując uporządkowany format JSON. W warunkach produkcyjnych API czasami zwraca pole o zmienionej nazwie, czasami pustą stronę, a czasami zawisa na trzydzieści sekund. W takiej sytuacji model może wymyślić wiarygodny termin, aby wypełnić tę lukę. Każdy z tych przypadków wymaga świadomej reakcji: weryfikacji struktury danych, traktowania pustych wartości jako odrębnego stanu, ograniczenia czasu oczekiwania oraz unikania domysłów.

Gdzie agenci zawodzą po wysłaniu zadań

To same problemy pojawiają się raz po raz.

• Niezawodne wyniki modelu. Model stwierdza coś bez żadnych podstaw w rzeczywistości. Gdy agent jest połączony z działającymi systemami lub proszony o kluczowe informacje, sfabrykowany detal przekształca się w błędną akcję.
• Błędy narzędzi. Agenci polegają na API i zewnętrznych narzędziach, które mogą zmieniać swoją strukturę, przerywać połączenia lub odrzucać nieoczekiwane dane. Agent musi mieć plan na wypadek awarii narzędzia, np. próbę ponowną lub przejście na prostszy metod.
• Nieskończone pętle. Słabe śledzenie stanu lub nierozwiązany przypadek krawędziowy mogą sprawić, że agent będzie się kręcił w kółko bez żadnego postępu. Dokładne rejestrowanie tego, co zostało zrobione, zapobiega powtarzaniu pracy.

Przekroczenie limitu kontekstu. Im więcej agent czyta, tym większe jest ryzyko przekroczenia limitu swojego okna, co skutkuje częściowymi lub błędnymi wynikami. Najbardziej cierpią zadania wymagające długotrwałego przechowywania informacji.

Powolne reakcje i niekontrolowane użycie tokenów. Opóźnienia psują doświadczenie użytkownika, a nieplanowane wykorzystanie tokenów zwiększa koszty, szczególnie w dużych skali.

Niejasne zasady uprawnień. Jeśli nie jest jasne, do czego agent ma dostęp, prędzej czy później może przeczytać lub zmienić coś, czego nie powinien, co ma konsekwencje dla bezpieczeństwa i prywatności.

Słaba możliwość obserwacji i niewystarczająca ocena. Błędy nie mogą zostać szybko naprawione, jeśli nie są widoczne. Monitorowanie pokazuje, co agent zrobił, a dobry zestaw ocen wskazuje, w czym radzi sobie dobrze, a w czym nie.

Niezawodne API od stron trzecich. Czas odpowiedzi jest zmienny, a zdarzają się przerwy w działaniu. Timeouty i ponawiania prób to podstawowa ochrona.

Powszechnym instynktem jest przekonanie, że rozdzielenie pracy między kilka agentów poprawi wydajność i niezawodność. Często jednak przynosi to więcej problemów niż rozwiązań, ponieważ każdy dodatkowy agent wymaga dodatkowej pracy nad komunikacją i koordynacją.

Jeden agent ma wyraźną przewagę: jedna rzecz do dostosowania, jedna rzecz do monitorowania. Gdy zadanie przebiega w prostym, liniowym sekwencji, jak w prostym wyszukiwaniu z dobrze zrozumianymi krokami, jeden agent zazwyczaj jest lepszym wyborem.

Kilku agentów jest rozsądne przy trudniejszych zadaniach, które można podzielić na niezależne części i wykonywać jednocześnie. Mimo to istnieją koszty – ktoś musi upewnić się, że agenci nie działają w sprzecznych kierunkach ani nie powtarzają swoich działań. Bez koordynacji zaczynają pracować na podstawie przestarzałych lub sprzecznych informacji. Każdy dodany agent to kolejne źródło błędu, a każda przenoszenie obowiązków to moment, w którym kontekst może zostać utracony lub zniekształcony. Zależności między agentami sprawiają, że jeden błąd może przenieść się na inne, dlatego nadzór musi być odpowiednio ścisły.

Orchestracja przynosi korzyści, gdy zadanie dzieli się naturalnie. W środowisku obsługi klienta jeden agent może pobrać informacje, inny ocenić ton wiadomości, a trzeci przygotować odpowiedź, przy czym orchestracja łączy te elementy w jedną odpowiedź.

Zastanówmy się nad przypadkiem przetwarzania partii: kilkaset niemal identycznych zgłoszeń obsługi klienta, które wszystkie wymagają tej samej klasyfikacji i tego samego standardowego postępowania. Stała ścieżka przetwarzania z jednym wywołaniem modelu w punkcie decyzyjnym jest łatwiejsza do przetestowania, łatwiejsza do wyceny i znacznie łatwiejsza do wyjaśnienia audytorowi niż zespół współpracujących agentów.

Jednak w wielu przypadkach prosty, deterministyczny proces pracy jest lepszy od zespołu agentów. Jeśli zadanie nie wymaga równoległości lub koszty zarządzania przewyższają wszelkie korzyści, pojedynczy agent postępujący według ustalonej sekwencji skuteczniej obsłuży partię podobnych zapytań, ponieważ istnieje niewiele zmiennych, które trzeba byłoby uwzględnić.

Decyzja powinna opierać się na rzeczywistym zadaniu: na jego złożoności, tym, czy praca równoległa jest pomocna, oraz na kosztach koordynacji i monitoringu. Szczere rozważenie tych czynników pozwala projektowi wykorzystać zalety każdego podejścia i uniknąć jego wad.

Projektowanie od samego początku z myślą o produkcji

Budowanie systemów do użytku w produkcji oznacza rezygnację z celu stworzenia imponującej demonstracji na rzecz systemu, który potrafi odradzić się po nieuniknionych awariach. Kluczową rolę odgrywa kilka praktyk.

Ustrukturyzowane wyniki. Narzucenie spójnego formatu wyników zmniejsza ryzyko błędnego odczytania i ułatwia debugowanie. Systemy późniejsze mogą polegać na przewidywalnej strukturze danych.

Ponawiane próby z opóźnieniami oraz czasami wygaśnięcia. Tymczasowe problemy, takie jak chwilowe problemy sieciowe lub usługa tymczasowo niedostępna, powinny być rozwiązywane poprzez ponawianie prób z coraz dłuższymi przerwami między nimi. Czasy wygaśnięcia zapobiegają temu, by agent czekał w nieskończoność na coś, co i tak nie nadejdzie.

Plan awaryjny. Łańcuch planów awaryjnych powinien być zapisany i przetestowany tak jak każda inna ścieżka kodu, ponieważ nieprzetestowany plan awaryjny zazwyczaj zawodzi w najgorszym momencie. Gdy główna ścieżka zawodzi, alternatywne narzędzie lub metoda może osiągnąć ten sam rezultat, ale z mniejszą dokładnością lub zakresem. Usługa nadal działa, zamiast się zatrzymać.

Ludzie w procesie. To w złożonych lub niejednoznacznych przypadkach agent ma trudności. Przekierowanie ich do ludzkiego operatora wprowadza osąd w decyzje najważniejsze i zapewnia jasną odpowiedzialność.

Ukierunkowanie modeli. Różne modele mają różne mocne strony. Przekierowanie każdego zadań do modelu najlepiej do niego przystosowanego poprawia dokładność i wydajność, choć zależy to od znajomości tego, co każdy model potrafi, a czego nie potrafi.

Zestawy oceny. Przydatny zestaw łączy zwykłe żądania z tymi trudnymi: błędnie sformatowane dane wejściowe, sprzeczne instrukcje, narzędzia, które wygasają po określonym czasie. Ciągłe testowanie na różnorodnych scenariuszach pozwala wcześnie wykryć słabe punkty i sprawdzić, czy agent pozostaje niezawodny w zmieniających się warunkach.

Śledzenie i monitorowanie kosztów. Ślady przepływu danych i decyzji w systemie ułatwiają debugowanie i optymalizację. Monitorowanie kosztów zapewnia, że zużycie zasobów pozostaje w ustalonych granicach, oraz pokazuje, czy system jest w stanie pokryć swoje koszty.

Zamierzone pogorszenie funkcjonalności. Agent, który nie może uzyskać dostępu do narzędzia wyszukiwania, może nadal odpowiadać na podstawie danych z pamięci podręcznej i o tym poinformować, co jest lepsze niż strona błędu. W warunkach stresu system powinien stopniowo tracić funkcje, a nie całkowicie zawodzić. Planowanie na wypadek awarii umożliwia szybką naprawę i minimalizuje wpływ na użytkowników.

Prawdziwa cena prowadzenia agenta

Opłaty za tokeny to widoczna pozycja na rachunku, a stanowią jedynie jej wierzchową część. Sprawiedliwa kalkulacja obejmuje jeszcze kilka innych elementów.

• Wywołania narzędzi. Każde wywołanie zewnętrznej usługi kosztuje pieniądze i czas, a także wprowadza dodatkowy element, który może ulec awarii. Agent często nie może funkcjonować bez nich, ale te zależności sprawiają, że system staje się droższy i bardziej skomplikowany.
• Infrastruktura. Serwery, przechowywanie danych i sieci muszą być dostosowane do zapotrzebowania, które zmienia się w zależności od aktywności użytkowników i trudności zadań. Zapewnienie wysokiej dostępności tej infrastruktury generuje dodatkowe koszty.
• Ponawianie prób i obsługa błędów. Są niezbędne dla niezawodności, ale każda próba ponowna zużywa zasoby obliczeniowe. W systemie z częstymi tymczasowymi awariami te koszty szybko się kumulują.

Opóźnienie. Powolna praca frustruje użytkowników i może skutkować większą liczbą prób ponownych lub dłuższym zajmowaniem zasobów. Jego zmniejszenie wymaga inwestycji zarówno w infrastrukturę, jak i oprogramowanie.

Monitorowanie i obserwowalność. Są niezbędne do sprawdzania stanu systemu, ale wymagają dodatkowego oprogramowania, sprzętu oraz osób, które będą analizować dane generowane przez narzędzia i podejmować na ich podstawie decyzje.

Interwencja ludzka. Przeglądanie, korekty i zatwierdzenia zapewniają dokładność i zgodność z wymogami, a czas poświęcony przez pracowników może znacząco wpłynąć na efektywność kosztową.

Jednym ze sposobów na uczciwe ocenianie sytuacji jest obliczanie kosztu za zakończoną zadanie, a nie za każdą próbę wywołania modelu. Zadanie, które wymagało trzech prób ponownych, dwóch wywołań narzędzi oraz przeglądu przez człowieka, jest znacznie droższe, niż sugeruje liczba tokenów, i to właśnie tę wartość należy porównywać pomiędzy różnymi rozwiązaniami oraz śledzić z tygodnia na tydzień.

Praktyczny wniosek jest taki, że koszty należy zarządzać łącznie we wszystkich tych kategoriach. System, który wydaje się tani tylko pod względem opłat za tokeny, może okazać się drogi, gdy weźmie się pod uwagę próby ponowne, personel obsługi klienta oraz serwery.

Co naprawdę oznacza niezawodność

Przyszłość sztucznej inteligencji agentowej zależy mniej od najbardziej autonomicznych, imponujących demonstracji, a bardziej od tego, czy systemy sprawdzą się w praktyce, będą w stanie się odzyskać i samodzielnie pokryć swoje koszty. Należy przenieść uwagę z pokazywania umiejętności technicznych w kontrolowanych warunkach na radzenie sobie z trudnościami związanymi z wdrożeniem.

Najważniejsza jest niezawodność. Oznacza to radzenie sobie z awariami bez dramatyzmu, dostosowywanie się w zmieniających się warunkach oraz utrzymanie stabilności pod obciążeniem. Architektura, która to umożliwia, preferuje ustrukturyzowane wyniki, rozsądne radzenie sobie z błędami oraz dokładny monitoring. Dzięki przewidywaniu miejsc, gdzie mogą wystąpić problemy, oraz włączeniu mechanizmów ponownych prób, czasów oczekiwania i rozwiązań awaryjnych, zespół otrzymuje system, który się odbudowuje i jednocześnie utrzymuje stałą wydajność.

Na drugim miejscu znajduje się aspekt ekonomiczny. Rzeczywisty koszt systemu AI obejmuje infrastrukturę, interakcje z narzędziami, opóźnienia i pracę ludzką, a także koszty tokenów modelu. Aby utrzymać jego przystępność cenową, konieczne jest ostrożne wykorzystywanie zasobów oraz jasne rozumienie kosztów każdego wyboru architektonicznego. Tańszy model, który wymusza więcej ponownych prób i większą liczbę przeglądów przez ludzi, może łatwo okazać się droższy niż bardziej zaawansowany model, który rozwiązuje problemy od razu.

Korzystna lista kontrolna przed każdym uruchomieniem jest krótka. Czy każdy z wymienionych powyżej scenariuszy awarii może zostać nazwany, a czy każdy z nich ma odpowiedzialnego oraz plan działania? Czy osoba może zobaczyć, co agent zrobił wczoraj? Czy istnieje ograniczenie wydatków i głębokości pętli? Czy istnieje sposób na szybkie wyłączenie agenta? Jeśli odpowiedź na którekolwiek z tych pytań brzmi „nie”, system nadal jest wersją demonstracyjną.

Wreszcie, sukces będzie mierzony tym, jak dobrze agenci pasują do istniejących już procesów pracy oraz jaką konkretną wartość przynoszą. Wymaga to zmiany sposobu myślenia – od agentów, które wyglądają dobrze samodzielnie, do systemów, które rozszerzają możliwości ludzi. Jeśli nacisk pozostanie położony na niezawodność, rozsądne aspekty ekonomiczne oraz potrzeby osób ich używających, sztuczna inteligencja w formie agentów może stać się niezawodnym partnerem zarówno przy rozwiązywaniu trudnych problemów, jak i w codziennej pracy.

Literatura pokrewna

• Praktyczne notatki: Budowanie systemu detekcji oszustw w stanie produkcji — Szczegółowy przewodnik po Praktycznych notatkach: Budowanie systemu detekcji oszustw w stanie produkcji: umowy, sprawdzenia oraz gotowe fragmenty kodu dla zespołów wdrażających ten model.
• Praktyczne notatki: Claude Code Agent Teams: Praktyczny przewodnik budowania zespołu — Szczegółowy przewodnik po Praktycznych notatkach: Claude Code Agent Teams: Praktyczny przewodnik budowania zespołu: umowy, sprawdzenia oraz gotowe fragmenty kodu dla zespołów wdrażających ten model.

Praktyczne notatki: Magazyny cech spędziły dekadę na wyeliminowaniu wycieku czasowego w sztucznej inteligencji. — Szczegółowy przewodnik po Praktycznych notatkach: Magazyny cech spędziły dekadę na wyeliminowaniu wycieku czasowego w sztucznej inteligencji: umowy, sprawdzenia oraz gotowe fragmenty kodu dla zespołów wdrażających ten wzorzec.

Stabilne imię agenta to nie to artefakt co przeglądałeś: Jak ustalić kandydata — Dlaczego imię agenta może pozostać takie samo, podczas gdy zmieniają się umiejętności, narzędzia i uprawnienia, oraz jak oddzielić imię, kandydata na zachowanie i tożsamość podczas wykonywania zadania w celach przeglądu i cofnięcia zmian.

Praktyczne notatki: Projektowanie cache'u dla agentów AI: Działanie w produkcji — Szczegółowy przewodnik po praktycznych notatkach dotyczących projektowania cache'u dla agentów AI oraz ich uruchamiania w produkcji: umowy, sprawdzenia oraz gotowe fragmenty kodu przeznaczone dla zespołów wdrażających ten wzorzec.

Dlaczego większość agentów AI umiera po jednej sesji, a te działające długo przetrwają — Ograniczenia związane z kontekstem, brak stanu oraz słabe mechanizmy samokontroli powodują śmierć większości agentów. Dowiedz się o wzorcach checkpointów, pamięci, ewaluatorów oraz procedur zatwierdzania, które zapewniają długotrwałe działanie agentów.