Wybór partnera do rozwoju agentów AI: pytania wykraczające poza demonstrację.

Demo może wyglądać doskonale aż do momentu, gdy trafi na prawdziwy biznes. W typowym przypadku agent znajduje informacje, sporządza odpowiedź i aktualizuje rekord w mniej niż minutę, i wydaje się, że wszystko jest gotowe do użycia. Wtedy pojawiają się praktyczne pytania. A co, jeśli rekord jest niekompletny? Czy agent może zobaczyć dane, do których pracownik nie ma dostępu? Czy system powtórzy działanie po wygaśnięciu czasu oczekiwania API? Kto zajmie się sprawą, gdy zmiana okazuje się błędna?

To pytania wpływają na to, jak należy oceniać dostawców rozwiązań do tworzenia agentów. Lepsze pytanie brzmi nie o to, która firma ma najbardziej płynną demonstrację, ale o to, który zespół rozumie wszystko, co z nią związane. Najlepsi dostawcy oferują mniej imponujących demonstracji i zadają lepsze pytania dotyczące procesów pracy, uprawnień, integracji, awarii oraz odpowiedzialności.

Co zmieniło się do 2026 roku

Niedawno demo pokazywały głównie planowanie zadań, korzystanie z narzędzi lub prowadzenie długich rozmów. Te umiejętności są ważne, ale już nie odróżniają profesjonalnych zespołów od zwykłych wykonawców. Klienci oczekują teraz, że agenci będą mogli pracować z systemami CRM, magazynami dokumentów, bazami danych, narzędziami do obsługi zgłoszeń, wewnętrznymi aplikacjami oraz łańcuchami zatwierdzania.

To jest trudniejszy problem. Agent musi zrozumieć zadanie, znaleźć odpowiednie informacje, wybrać odpowiednie narzędzie, przestrzegać uprawnień, prowadzić rejestr swoich działań i wiedzieć, kiedy przestać. Silniejsi dostawcy mówią mniej o autonomicznej inteligencji, a więcej o warunkach pracy, i zadają pytania takie jak:

• Kto uruchamia proces pracy?
• Które systemy są zaangażowane?
• Co agent może zmienić?
• Gdzie pracownik musi coś zatwierdzić?
• Jak przywrócić nieudane zadanie?

Kto będzie właścicielem agenta po jego wdrożeniu?

Takie pytania są mniej ekscytujące niż żywa demonstracja, ale są znacznie bliższe temu, co decyduje o tym, czy agent przetrwa w środowisku produkcyjnym.

Zacznij od procesu pracy

Lepsi dostawcy zaczynają od konkretnego zadań, a nie od modelu. Prośba o agenta do sprzedaży jest zbyt niejasna, by na jej podstawie coś budować, natomiast konkretny proces jest łatwy do zrozumienia: sprawdzenie nowego potencjalnego klienta, wyszukanie informacji o kontach, przygotowanie wiadomości następnej, poproszenie o zatwierdzenie, aktualizacja systemu CRM. Taki proces ma wyzwalacz, uporządkowane kroki oraz wynik, który każdy może zobaczyć.

Zanim rozpocznie się rozwój, zespół powinien ustalić następujące elementy.

• Wyzwalacz, który uruchamia proces pracy.
• Informacje, których potrzebuje proces pracy.
• Systemy, z którymi się łączy.
• Miejsca, w których podejmowane są decyzje.
• Działania, które są dozwolone.
• Zatwierdzenia, które są wymagane.
• Warunki, które uznaje się za niepowodzenie.
• Kryteria ukończenia zadania.

Na tym etapie określa się również, czy w ogóle potrzebny jest agent. Niektóre zadania lepiej nadają się do automatyzacji stałej, podczas gdy inne wymagają pobierania danych oraz ludzkiej weryfikacji. Dostawca, który zaleca prostszą opcję, gdy otwarte zachowanie agenta niesie niewielką wartość, daje przydatny sygnał uczciwości.

Integracje są ważniejsze niż okno czatu

Demony preferują interfejs użytkownika, ponieważ łatwo go pokazać, ale to warstwa integracji wymaga największych wysiłków. Agent może czytać dane klienta, pobierać polisy, aktualizować zgłoszenia, sprawdzać stan zapasów, tworzyć raporty lub wysyłać zatwierdzone wiadomości, a każdy z tych kroków zależy od tego, by dany system biznesowy funkcjonował zgodnie z oczekiwaniami.

Rzeczywiste systemy nie są współpracujące. Uprawnienia wygasają, API zwalniają, dane znikają, dwie aplikacje zwracają różne informacje, a prośba może zostać przyjęta, nawet jeśli potwierdzenie nigdy nie dotrze do agenta. Solidni dostawcy planują to przed uruchomieniem i uwzględniają:

• autoryzację oraz przechowywanie uprawnień,
• sprawdzanie uprawnień,
• terminy ważności zapytań,
• bezpieczne próby ponowne,
• zapobieganie podwójnym działaniom,
• częściowe ukończenie zadania,
• rejestrację działań,
• ręczną naprawę.

Dobrze zaprojektowana konwersacja nie może zrekompensować niepewnej integracji. Gdy agent zaczyna modyfikować dane lub uruchamia działania, jakość tych połączeń staje się częścią produktu.

Uprawnienia pokazują, jak radzi się z ryzykiem

Prawa dostępu stanowią jedną z najwyraźniejszych granic pomiędzy zespołami skupionymi na prototypach a tymi, które myślą o produkcji. Prototyp często działa pod kontem programisty z szerokimi uprawnieniami. To przyspiesza tworzenie pierwszej wersji, ale pozostawia kluczowe pytanie: co powinno być dozwolone agentowi do wykonania?

Agent obsługi klienta może potrzebować przeglądu zamówienia i przygotowania odpowiedzi. Prawdopodobnie nie potrzebuje wszystkich danych finansowych ani możliwości wypłaty dużej kwoty zwrotu. Kompetentny dostawca powinien określić:

• kto może uruchomić agenta,
• jakie informacje może on pobrać,
• jakie narzędzia może używać,
• jakie dane może edytować,
• jakie działania wymagają zatwierdzenia,
• jakie warunki muszą zatrzymać proces pracy.

Te ograniczenia należą do samego procesu operacyjnego. Dokument polityki przechowywany gdzie indziej nie powstrzyma agenta przed wykonywaniem działania, na które technicznie ma uprawnienia.

Wiarygodna wiedza

Wielu agentów biznesowych polega na dokumentacji wewnętrznej, takiej jak instrukcje, umowy, wcześniejsze zgłoszenia, procedury, zasady oraz pliki klientów. Jednak samo korzystanie z tych materiałów nie gwarantuje wiarygodności odpowiedzi. Nadal trzeba ustalić kwestie właściciela danych, aktualności informacji oraz zasad rozwiązywania konfliktów: która wersja dokumentu ma znaczenie, kto go aktualizuje oraz co robi agent, gdy dwie źródła są sprzeczne.

Dostęp do dużego zbioru danych wewnętrznych umożliwia agentowi wybranie odpowiednich fragmentów przed udzieleniem odpowiedzi lub podjęciem kolejnego kroku. Kluczowym elementem jest jednak jakość, ponieważ pewna siebie, dobrze napisana odpowiedź może być oparta na niewłaściwym dokumencie. Osoby sprawdzające również korzystają z możliwości zobaczenia tego, co przeczytał agent – gdy proponuje coś istotnego, osoba dokonująca weryfikacji powinna móc przejrzeć materiały leżące u podstaw tej propozycji.

Wielu agentów nie zawsze jest lepsze

Systemy wieloagentowe brzmią imponująco, ale często są niepotrzebne. Jeden agent wystarcza, gdy proces pracy wykorzystuje niewiele narzędzi i przebiega według łatwo zarządzalnej sekwencji. Dodawanie kolejnych agentów powoduje wzrost złożoności komunikacyjnej, liczby stanów oraz ryzyka błędów.

Kilka agentów ma sens, gdy praca wymaga rzeczywiście odrębnych ról, na przykład:

• jeden agent zbiera informacje,
• inny sprawdza wymagania polityki,
• trzeci przygotowuje proponowaną akcję,
• osoba zatwierdza ostatni krok.

Ważne pytanie brzmi nie o to, czy dostawca potrafi stworzyć system wieloagentowy, ale o to, czy dodana struktura poprawia wynik. Niezawodny dostawca potrafi wyjaśnić, dlaczego istnieje każdy agent, co otrzymuje, w jaki sposób praca przechodzi między agentami oraz co się dzieje, gdy są niezgodni.

Rozwiązywanie błędów

Demony podążają prostą ścieżką, natomiast w środowisku produkcyjnym rzadko tak jest, dlatego dostawca powinien być w stanie poradzić sobie z trudnymi danymi wejściowymi. Praktyczny plan testów przedstawia agentowi skomplikowane sytuacje i sprawdza ich wyniki:

• prośbę z brakującymi detalami,
• zapytanie, które nie zwraca żadnych wyników,
• zasady, które są ze sobą sprzeczne,
• aplikację poniżej w łańcuchu, która przestała odpowiadać,
• użytkownika proszącego o coś niedozwolonego,
• wezwanie narzędzia skierowane do niewłaściwego celu,
• podwójne wysłanie jednej prośby,
• zadanie, które nie może zostać bezpiecznie zakończone.

Celem nie jest rozwiązanie każdego przypadku. Często właściwym zachowaniem jest zatrzymanie się, postawienie pytania wyjaśniającego, ponowna próba w ograniczonej liczbie razy lub przekierowanie sprawy do osoby. Niezawodność polega również na rozpoznaniu momentu, w którym kontynuacja byłaby błędem.

Wdrożenie to coś więcej niż tylko hostowanie

Hostowanie to najmniejsza część platformy implementacyjnej. Gdy pracownicy zaczynają polegać na agencie, operatorzy muszą obserwować jego zachowanie i tłumaczyć występujące błędy. Wymaga to rejestracji wywołań narzędzi, pobranych materiałów, kroków w procesie pracy, wyników zatwierdzeń, błędów, prób ponownych, opóźnień, kosztów oraz przekazywania informacji innym osobom.

Bez takiego śladu zespół widzi jedynie, że ostateczny wynik był błędny, i nie może stwierdzić, czy winny jest model, dane, łącznik czy instrukcje. Wersjonowanie i odwracanie zmian zamknięte są w tym cyklu. Modele, prompty, źródła danych oraz reguły biznesowe stale ulegają zmianom, dlatego musi być możliwe określenie, która konfiguracja dała dany wynik, oraz powrót do sprawdzonej konfiguracji po nieudanej aktualizacji.

Ludzka weryfikacja odpowiadająca konsekwencjom

Wymaganie zatwierdzenia dla każdej akcji wykonywanej przez agenta ma niewielką wartość i może przekształcić użyteczny system w wolniejszą wersję starego procesu. Całkowite usunięcie ludzkiej kontroli powoduje przeciwny problem. Rozsądnym rozwiązaniem jest umieszczenie procesu zatwierdzania tam, gdzie pojawiają się konsekwencje. Agent może sam sklasyfikować żądanie, uporządkować informacje lub napisać projekt, natomiast płatność, zmiana umowy, ograniczenie konta lub wiadomość o charakterze prawnym wysłana poza firmę mogą nadal wymagać interwencji upoważnionego pracownika.

Kontrolerzy również potrzebują kontekstu. Przycisk „Zatwierdź” niewiele znaczy, jeśli osoba ta nie może zobaczyć informacji źródłowych, proponowanej akcji, wpływającej na dane rekordu oraz powodu, dla którego sprawa trafiła do niej. W przypadku wrażliwych procesów roboczych zasady zarządzania powinny łączyć uprawnienia, zatwierdzenia, monitorowanie, odpowiedzialność oraz obsługę incydentów z codzienną działalnością.

Odpowiedzialność po wdrożeniu

Kolejna różnica pojawia się, gdy mowa dotyczy wdrożenia. Niektórzy dostawcy uważają moment uruchomienia za punkt końcowy, podczas gdy bardziej zaawansowane zespoły omawiają kwestie związane z tygodniami i miesiącami po nim. Środowisko agenta stale się zmienia: manuale są aktualizowane, API są wymieniane, pracownicy znajdują nieplanowane sposoby wykorzystania procesu pracy, a pojawiają się rodzaje zapytań, których pierwotny zestaw testowy w ogóle nie obejmował.

Kilka zadań wymaga określenia osoby odpowiedzialnej: monitorowanie wydajności, analiza nieudanych zadań, aktualizacja wiedzy, zatwierdzanie zmian w procesie pracy, śledzenie wydatków, reagowanie na incydenty oraz decydowanie o czasie wyłączenia agenta. Dostawca może nadal oferować wsparcie techniczne, ale odpowiedzialność musi leżeć na określonej osobie wewnątrz firmy. W przeciwnym razie drobne usterki gromadzą się, aż pracownicy przestaną ufać systemowi.

Pytania, które należy zadać przed wyborem

Poprawność prezentacji powinna mieć mniejsze znaczenie niż odpowiedzi na kilka konkretnych pytań.

• W jaki sposób dostawca planuje zmapować istniejący proces pracy i dlaczego potrzebny jest agent?
• Które systemy zostaną objęte zmianami i w jaki sposób przeniesione zostaną uprawnienia użytkowników?
• Co zapobiega wykonyaniu tej samej czynności dwukrotnie i co się dzieje, gdy narzędzie przestaje działać?
• Gdzie osoba fizyczna musi zatwierdzić działanie?
• W jaki sposób baza wiedzy jest aktualizowana?
• W jaki sposób mierzy się wydajność w czasie rzeczywistym i kto zajmuje się obsługą po uruchomieniu systemu?
• Czy każdą zmianę można prześledzić i cofnąć?

Dobry dostawca odpowiada prostym językiem i łączy każdą decyzję techniczną z proponowanym procesem pracy.

Główny punkt

Dobre zespoły nie dążą do pozorów pełnej niezależności. Budują system, który wykonywać może użyteczną pracę w określonych granicach, opierający się na jasnym procesie pracy, niezawodnych integracjach, kontrolowanym dostępie, wiarygodnej wiedzy, realistycznych testach awaryjnych, ludzkiej weryfikacji, monitorowaniu oraz odpowiedzialności po uruchomieniu. Imponująca demonstracja to dobry sposób na rozpoczęcie rozmowy, ale słaba podstawa do ostatecznej decyzji.