LLM kontra agent AI: Śledzenie pytania z wywiadu poprzez sześć dalszych pytań

Zapytaj kandydata na stanowisko inżyniera AI, co odróżnia model językowy od agenta AI, a typową pierwszą odpowiedzią będzie to, że model językowy wytwarza tekst, podczas gdy agent podejmuje działania. Rozmówca rzadko kiwa głową i przechodzi dalej. Kolejne pytania pokazują, czy kandydat pracował z rzeczywistymi systemami, czy tylko zapamiętał definicje. Oto jak zwykle przebiega ta rozmowa, pytanie po pytaniu.

Co robi sam model językowy

Model językowy wytwarza wynik na podstawie dostarczonego mu kontekstu. Może wyjaśnić błąd, streszczać logi wklejone do zapytania lub zwracać strukturyzowane dane. Nie może uzyskać dostępu do prywatnej bazy danych tylko dlatego, że ktoś o to poprosił. Dlatego gdy rozmówca pyta, jak asystent AI mógłby sprawdzić transakcję w czasie rzeczywistym, odpowiedzią są narzędzia w połączeniu z kodem aplikacji.

Jak wykorzystuje się narzędzie

Załóżmy, że klient pisze: „Moja płatność się udała, ale zamówienie nie zostało utworzone”. Serwer backend oferuje kilka wąsko skoncentrowanych funkcji:

getPaymentStatus(transactionId)
getOrderStatus(transactionId)
createSupportTicket(details)

Aplikacja wysyła ich nazwy oraz schematy parametrów wraz z rozmową, a model może odpowiedzieć coś w tym rodzaju:

{
  name: "getPaymentStatus",
  arguments: { transactionId: "txn_123" }
}

Następne pytanie rozmówcy to pułapka: czy model właśnie wywołał usługę płatności? Nie. Wygenerował jedynie ustrukturyzowaną prośbę o użycie narzędzia. Nic jeszcze nie zostało uruchomione.

Kto tak naprawdę wywołuje połączenie

Tylna część aplikacji. Prawdziwy proces składa się z sześciu kroków:

1. Aplikacja wysyła polecenie wraz z definicjami narzędzi.
2. Model zwraca nazwę narzędzia oraz argumenty.
3. Tylna część aplikacji sprawdza dane wejściowe oraz uprawnienia osoby wywołującej.
4. Uruchamia zatwierdzoną funkcję.
5. Wynik jest przekazywany z powrotem do modelu jako nowy kontekst.
6. Model prosi o inne narzędzie lub podaje swoją ostateczną odpowiedź.

Krótko mówiąc, LLM proponuje rozwiązanie, a aplikacja odpowiada za jego wykonanie, uprawnienia oraz kontrolę dostępu. Tę frazę warto mieć pod ręką, ponieważ to właśnie ten aspekt jest ciągle badany przez doświadczonych rozmówców.

Co sprawia, że staje się to agentem

Na tablicy pisemnej równanie jest krótkie:

AI Agent = LLM + Instructions + Tools + State + Execution Loop

Agent obserwuje swój stan, wybiera krok, otrzymuje wynik i ponownie go ocenia, co tworzy pętlę:

Observe → Decide → Request Tool → Execute → Observe Result → Continue or Stop

Następnie pojawia się pytanie, kto to zatrzyma. Model może dostarczyć ostateczną odpowiedź, ale aplikacja musi narzucić ograniczenia. Pętla powinna się zakończyć po osiągnięciu limitu rund, przy wygaśnięciu czasu oczekiwania, w przypadku błędu nie do naprawienia lub gdy potrzebna jest akceptacja człowieka.

Równoczesne uruchamianie kilku narzędzi

To, czy wywołania mogą działać jednocześnie, zależy od zależności danych. Stan płatności i stan zamówienia wymagają jedynie identyfikatora transakcji, więc oba mogą być pobrane równolegle:

const [payment, order] = await Promise.all([
  getPaymentStatus(transactionId),
  getOrderStatus(transactionId)
]);

Załóżmy teraz, że odpowiedź dotycząca płatności zawiera odniesienie do bramy płatniczej, które jest wymagane przy następnym wywołaniu. Druga operacja musi czekać na pierwszą:

const payment = await getPaymentStatus(transactionId);
const gateway = await getGatewayDetails(payment.gatewayRef);

Mocna odpowiedź pokazuje, że kandydat sprawdza, czy połączenia są niezależne, zanim je sparalelizuje.

Zezwalanie agentowi na zwrot pieniędzy

Prawidłową odpowiedzią jest stwierdzenie, że sama prośba modelu nie wystarcza. Serwer musi zweryfikować klienta, który jest właścicielem transakcji, sprawdzić, czy nadaje się ona do zwrotu oraz jakie są ograniczenia. Operacja zapisu wymaga klucza idempotencji oraz rejestru audytowego, a duże zwroty mogą wymagać zatwierdzenia przez człowieka. Systemowe polecenie w stylu „zwrot tylko dla ważnych transakcji” służy jako wskazówka dla modelu; nie stanowi ono autoryzacji.

Jak przesłuchujący ocenia to

Pierwsza odpowiedź, „LLM generuje odpowiedzi, a agent wykonywa czynności”, była zbyt powierzchowna jak na stanowisko kierownicze. Nie wspomniano w niej, kto wykonuje czynności, kto posiada uprawnienia ani co zapobiega niebezpiecznym operacjom. Po dalszych pytaniami kandydat przygotował lepszą odpowiedź, ale aby od samego początku dostać się na poziom kierowniczy, pierwsza odpowiedź powinna od razu wspomnieć o granicach zastosowania oraz pętli agenta.