Dlaczego większość agentów sztucznej inteligencji umiera po jednej sesji, a te działające długo przeżywają?

Dlaczego tylu agentów wydaje się tymczasowych

Każdy, kto korzystał z ChatGPT, Claude lub innego agenta wykorzystującego narzędzia, widział ten typowy schemat:

1. Przekazujesz cel.
2. Agent zabiera się do pracy.
3. Wykorzystuje kilka narzędzi.
4. Rozmowa się wydłuża.
5. Odpowiedzi stają się gorsze albo sesja po prostu się kończy.

To jest typowe doświadczenie z agentem do rozmów. Nadaje się do krótkich zadań i zawodzi, gdy praca trwa godziny lub dni.

Agent działający przez dłuższy czas stale robi postępy przez znacznie dłuższy okres – czy to godziny, dni, czy tygodnie – i nie traci swoich osiągnięć, gdy kontekst się wypełnia lub proces zostaje ponownie uruchomiony. Poniżej przedstawiono tę koncepcję od podstaw, a następnie wzorce, które sprawiają, że działa ona skutecznie.

Zacznij od prostoty: czym jest agent działający przez dłuższy czas

Zwykły agent przypomina kogoś, kto pracuje w jednej sali konferencyjnej i zapomina o wszystkim po jej opuszczeniu. Agent działający przez dłuższy czas zachowuje się bardziej jak osoba, która:

• trzyma notatnik, który stanowi trwały zewnętrzny stan;
• zapisuje postępy, co stanowi tworzenie punktów kontrolnych;
• może wyjść i wrócić później, co jest przykładem trwałości sesji;
• kontynuuje pracę dokładnie tam, gdzie przerwał, co oznacza wznowienie działania z ostatniego stanu.

W terminach technicznych taki agent może przetrwać kilka okien kontekstowych, przetrwać restarty i awarie (tolerancja na błędy), pozostawić strukturyzowane materiały w postaci artefaktów i dzienników sesji oraz wznowić pracę bez rozpoczynania od zera.

Przechowywanie stanu poza modelem oraz jego czyste przywracanie stanowi kluczową część tego, co nazywa się inżynierią zarządzania stanem.

Trzy ściany

Prawie każdy długo działający agent napotyka te same trzy problemy.

1. Ograniczony kontekst. Każdy model ma ograniczone okno kontekstu, a nawet duże okna w końcu się wypełniają. Gdy jest już pełne, starsze informacje są usuwane lub kompresowane, co pogarsza decyzje agenta. Zjawisko to często nazywa się zepsuciem kontekstu.
2. Słaba samokontrola. Modele mają tendencję do optymizmu. Gdy pytamy, czy praca jest zakończona, często odpowiadają twierdząco, mimo że jest tylko częściowo ukończona. Bez zewnętrznej weryfikacji praca nieukończona jest uznawana za zakończoną.

Te trzy problemy wyjaśniają, dlaczego proste agenty nie mogą stabilnie działać przez długi czas.

Od podstaw do przydatnych wzorców

Gdy ściany zostaną usunięte, pojawia się pytanie, jak ludzie mogą przez nie przejść. Cztery podstawowe wzorce ciągle się powtarzają.

• Punkty kontrolne i wznowienie pracy. Agent przechowuje postępy w uporządkowanej formie w określonych odstępach czasu. Jeśli coś się nie uda, restartuje pracę od ostatniego poprawnego punktu kontrolnego, a nie od początku.
• Pamięć zewnętrzna. Ważne informacje znajdują się poza kontekstem modelu – w plikach, bazie danych lub magazynie sesji – a agent odczytuje je na początku każdej nowej sesji.
• Człowiek w procesie. Przy ważnych decyzjach agent robi przerwę, czeka na zatwierdzenie lub odrzucenie przez osobę, a następnie kontynuuje. Musi to być starannie zaprojektowane, aby stan nie stał się przestarzały podczas oczekiwania.

Różne role. Zamiast jednego ogromnego agenta, który robi wszystko, systemy często dzielą zadania: jedna część planuje, druga wykonuje, a trzecia sprawdza jakość. To zmniejsza ryzyko pomyłek lub nadmiernego przekonania o własnych umiejętnościach. Zazwyczaj nazywa się to architekturą wielu agentów lub podagentów.

Choć pojedynczo są proste, te wzorce stają się potężne, gdy działają razem.

Model mentalny

Przydatne porównanie: model to mózg, narzędzia to ręce, a log sesji wraz z zewnętrznym stanem to pamięć, która przetrwa.

Jeśli mózg i ręce są powiązane z jednym tymczasowym procesem, system umiera wraz z nim. Jeśli pamięć znajduje się poza nim, nowy proces może się uruchomić, odczytać pamięć i kontynuować pracę. To jest kluczowa zmiana w architekturze.

Co staje się możliwe

Gdy agenty mogą funkcjonować dłużej, otwierają się nowe możliwości pracy:

• badania trwające kilka dni;
• duże migracje kodu;
• ciągłe monitorowanie oraz prace w tle;
• procesy, które wymagają ludzkiej akceptacji w pewnym momencie ich trwania;
• zespoły agentów koordynujących swoje działania w czasie.

Agenty do krótkich rozmów dobrze radzą sobie z odpowiadaniem na pytania. Te działające przez dłuższy czas zaczynają być przydatne do osiągania rzeczywistych rezultatów.

Od demonstracji do produkcji

Większość demonstracji kończy się w tym momencie, a zaczyna się prawdziwa praca inżynierska. Kluczową rolę odgrywa pięć wzorców.

1. Punkt kontrolny i wznowienie

To najważniejszy wzorzec, ponieważ najczęstszym problemem w długotrwałych procesach jest utrata postępów. Wyobraźmy sobie agenta, który przetworzył 200 dokumentów i napotka błąd przy 201. bez punktu kontrolnego, czyli zrzutu stanu pamięci lub procesu, cała praca idzie na marne. Wiele agentów reaguje na to restartem całego procesu, co zużywa dużą ilość tokenów.

Dobry system zapisuje trwały postęp w określonych odstępach czasu, rejestrując:

• to, co zostało ukończone;
• to, co wciąż jest w toku;
• wszelkie ważne wyniki pośrednie.

Po ponownym uruchomieniu agent odczytuje ostatni punkt kontrolny i kontynuuje od niego. Ten jeden nawyk eliminuje dużą ilość kruchości i jednocześnie oszczędza tokeny.

2. Pamięć poza modelem

Zazwyczaj wyróżnia się dwa rodzaje:

• Pamięć robocza to to, czego agent potrzebuje w danej chwili, w ramach obecnego kontekstu.
• Pamięć trwała to to, co musi przetrwać sesję i jest przechowywane zewnętrznie.

Pamięć trwała może znajdować się w strukturyzowanych plikach takich jak progress.txt, plan.json lub notes.md, w bazie danych, w magazynie sesji lub w specjalistycznym serwisie pamięci. Zasada jest prosta: model może zapomnieć, ale system wokół niego nie powinien.

3. Oddzielanie generowania od oceny

Modele niesprawiedliwie oceniają własną pracę i mają tendencję do bycia zbyt hojnymi. Powszechnym i skutecznym rozwiązaniem jest podział ról – jedna strona tworzy pracę, a druga ocenia, czy jest ona wystarczająco dobra. Mogą to być dwa różne agenty lub jeden model używany w dwóch trybach z różnymi instrukcjami. Ważne jest, aby ostateczna decyzja nie była podejmowana wyłącznie przez osobę tworzącą pracę.

Częstym układem jest obecność nadzorcy lub planisty, następnie ekspertów od zadań pełniących rolę pracowników, a na końcu sędziego, który zajmuje się dystrybucją i koordynacją. Kolejny wzorzec opisuje to bardziej szczegółowo.

4. Prawidłowa akceptacja przez człowieka

Wiele systemów twierdzi, że obsługują proces akceptacji, ale realizują go źle. Słaba wersja zapisuje część danych w formacie JSON, wysyła powiadomienie, ma nadzieję na odpowiedź osoby i później próbuje kontynuować, często przy użyciu przestarzałych danych.

Lepsza wersja traktuje pauzę jako część samego procesu pracy. Agent dochodzi do jasnego punktu decyzyjnego, czysto zapisuje swój stan i czeka. Gdy osoba odpowiada, agent kontynuuje pracę, wiedząc dokładnie, dlaczego się zatrzymał. Jest to szczególnie ważne w przypadku działań o konsekwencjach, takich jak wydawanie pieniędzy, zmiana systemów produkcyjnych lub wysyłanie wiadomości poza organizację.

5. Koordynacja wielu agentów

Gdy zadania stają się coraz większe, jeden agent zajmujący się wszystkim wpada w chaos. Lepsze rozwiązanie polega na podziale obowiązków:

• planiści analizują problem i dzielą go na zadania;
• pracownicy wykonywają konkretne części pracy;
• sędziowie decydują, czy dana iteracja jest wystarczająco dobra.

Podobno Cursor przyjął takie podejście po nieudanych wcześniejszych próbach koordynacji. Dzięki temu eliminuje chaos i zapobiega kolizjom pomiędzy agentami.

Jak wygląda stos produkcji

Rzeczywisty stos zazwyczaj składa się z trzech warstw:

1. Logika agenta, czyli prompty, narzędzia i pętla decyzyjna.
2. „Uchwyt”, czyli zarządzanie sesjami, kontrola przepływu pracy, próby ponowne i odzyskiwanie stanu.
3. Zarządzane elementy podstawowe, czyli trwałe przechowywanie danych, planowanie, narzędzia działające przez długi czas, wyzwalacze zdarzeń i możliwości obserwacji.

Np. ADK firmy Google dostarcza elementy budulcowe umożliwiające utrzymywanie sesji, kontynuację wykonywania zadań po ponownym uruchomieniu oraz wyzwalacze oparte na zdarzeniach. Dzięki temu agent może przez długi czas pozostawać nieaktywny, a potem nadal prawidłowo kontynuować pracę. W opracowaniach Anthropic na temat „uchwytów” podkreśla się konieczność oddzielenia „mózgu”, którym jest model i jego pętla decyzyjna, od „rąk”, czyli środowisk wykonywania zadań, oraz od sesji, która stanowi trwały rejestr zdarzeń.

Dostawcy używają różnych nazw, ale idea jest wspólna: stan i przywracanie muszą istnieć poza jakimkolwiek pojedynczym tymczasowym procesem.

Zasady projektowe, które pomagają

Te nawyki sprawiają, że systemy stają się bardziej odporne:

• Zawsze zapisuj ważne informacje o postępie w trwałym magazynie.
• Wolno preferować strukturyzowane pliki, takie jak JSON, logi w formacie markdown oraz listy zadań, zamiast danych przechowywanych w postaci zwykłego tekstu.
• Traktuj awarie jako coś normalnego i planuj na nie.
• Uczyń kontynuację standardowej ścieżki normą, a nie wyjątkiem.
• Gdy jakość ma znaczenie, trzymaj producenta i oceniającego oddzielnie.
• Używaj kompresji lub podsumowywania, gdy kontekst zaczyna być zbyt duży.
• Planuj punkty zatwierdzenia projektu od początku, zamiast dodawać je później.

Mniejsze decyzje kumulują się. Jedna dobra strategia tworzenia punktów kontrolnych może uratować proces trwający kilka dni i zaoszczędzić zarówno czas, jak i zasoby.

Limity, które pozostają

Nawet przy dobrej architekturze istnieją nieprzekraczalne ograniczenia:

• Koszt. Długotrwałe działanie zużywa wiele tokenów.
• Bезpieczeństwo. System działający dłużej ma większą powierzchnię ataku.
• Odchylenie od celu. W dłuższej perspektywie agent może stopniowo odbiegać od pierwotnego zamiaru.
• Weryfikacja. Niektóre aspekty jakości nadal wymagają ludzkiej oceny.

Rola człowieka nie znika – zmienia się. Zamiast wykonywać każdy krok, ludzie określają cele, ustalają ograniczenia, sprawdzają kluczowe decyzje i zajmują się wyjątkami, których system nie może bezpiecznie rozwiązać.

Jakie to ma dla ciebie znaczenie

Agenci do krótkich rozmów nadają się do zadawania pytań i wykonywania prostych zadań. Agenci działające przez dłuższy czas nadają się do pracy, która wymaga czasu, obejmuje kilka sesji lub musi funkcjonować pomimo przerw w rzeczywistym świecie.

Zmiana ta ma mniej zwiąku z uczynieniem modelu inteligentniejszym, a bardziej z zapewnieniem trwałości otaczającego go systemu, możliwości jego odzyskania oraz uczciwości w odniesieniu do własnego postępu. Traktowane jako systemy, które muszą przetrwać czas, awarie i ograniczenia kontekstowe, agenci stają się znacznie łatwiejsze do zaprojektowania. Agenci zdolni do wykonywania znaczącej pracy pochodzą zazwyczaj z zespołów, które umieszczają wytrwałość i zdolność do odzyskania w centrum projektowania.