Jev od TypeSafe AI: model bez funkcji czatowania do podejmowania zdecydowanych decyzji

Jev jest pierwszym modelem stworzonym przez TypeSafe AI, startup z San Francisco, który wyszedł ze trybu ukrycia 15 września 2026 roku, przy wsparciu finansowym w wysokości 40 milionów dolarów w ramach rundy seed prowadzonej przez DCVC.

W odróżnieniu od większości systemów AI, które trafiają na pierwsze strony gazet, Jev nie jest modelem językowym o dużych możliwościach. Nie potrafi tworzyć zdań, generować kodu ani przygotowywać wyjaśnień. Zamiast tego podaje się mu zrzut stanu, np. zgłoszenie od klienta lub opis produktu, wraz z zestawem ustrukturyzowanych, sformatowanych pytań. W zamian otrzymuje się sformatowane odpowiedzi, z których każda jest powiązana z rozkładem prawdopodobieństwa oraz oceną pewności. Nie ma tu tekstu do interpretacji ani struktury JSON do poprawy później.

TypeSafe określa ten podejście jako model „System One”, wytrenowany za pomocą metody, którą firma nazywa Reinforcement Learning for Calibrated Decisions, czyli RLCD. Według firmy czas reakcji wynosi od 70 do 500 milisekund, a cena to 0,042 dolara za milion tokenów wejściowych, przy czym tokeny wyjściowe nie kosztują nic.

To sformułowanie cenowe nie jest błędem. Wyniki są bezpłatne po prostu dlatego, że praktycznie nie ma żadnych wyników do przedstawienia.

Kto założył TypeSafe AI

Założyciel i dyrektor generalny firmy, Diogo Almeida, wcześniej pracował jako badacz w OpenAI, przyczyniając się do rozwoju uczenia się wzmacnianego na podstawie informacji od ludzi, InstructGPT, ChatGPT oraz GPT-4. Jest uznawany za jednego z współtwórców RLHF – techniki, która przekształciła surowe modele językowe w użytecznych asystentów konwersacyjnych.

Członkami zespołu kierowniczego są również Erik Gafni jako CTO oraz Sasha Sheng jako COO. TypeSafe została założona w 2024 roku i działała potajemnie przez prawie dwa lata, zanim wyszła na giełdę. Forbes oszacował wartość firmy na około 200 milionów dolarów po tym rundzie finansowania.

Godne uwagi jest to, że Almeida przyczynił się do opracowania właśnie tej metody, która umożliwiła stworzenie modeli potrafiących spełniać ludzkie preferencje, a mimo to teraz twierdzi, że zaspokajanie potrzeb ludzi wcale nie stanowiło takiego samego wyzwania jak zapewnienie niezawodności oprogramowania. Gdy ktoś sprzeciwia się temu, co przyniosło mu sławę, zazwyczaj oznacza to, że poświęcił sporo czasu na ponowne przemyślenie tego problemu.

Nazwa firmy nawiązuje do Williama Stanleya Jevonsa, ekonomisty z XIX wieku znanego z paradoksu Jevonsa – stwierdzenia, że w miarę wzrostu efektywności technologii jej ogólne zużycie ma tendencję do wzrostu, a nie spadku. Podstawowa zasada jest prosta: jeśli inteligencja sztuczna stanie się wystarczająco tania, jej wykorzystanie gwałtownie się rozszerzy.

Aspekt

Każdy, kto wdraża funkcje AI w e-commerce, prawdopodobnie napotkał ten sam powtarzający się problem.

Rozważmy rodzaje decyzji, które te systemy muszą podejmować: Czy to zapytanie wyszukiwania dotyczy marki czy kategorii? Czy ta fotografia produktu nadaje się na stronę główną? Czy ta recenzja skarży się na opóźnienia w dostawie lub jakość produktu? Są to drobne decyzje, które kompetentny menedżer kategorii mógłby podjąć w ciągu kilku sekund.

Jednak standardowym rozwiązaniem jest kierowanie tych pytań przez model językowy. Tworzy on akapit tekstu, który następnie jest przymuszany do struktury JSON. Trzeba stworzyć dla niego parser, dodać logikę walidacji, zaprogramować obsługę ponawiania prób oraz przygotować alternatywną ścieżkę na wypadek, gdy ponowne próby również zawiodą. Ostatecznie, w środowisku produkcyjnym, często w środku nocy, model zwraca wartość kategorii, której nie ma w żadnej z waszych taxonomii, co potajemnie uszkadza tabelę handlową.

Wąskim gardłem nigdy nie była sama inteligencja – była to interfejs otaczający ją.

To właśnie jest luka, którą ma za zadanie zamknąć Jev.

Głównym twierdzeniem nie jest to, że ten model rozumuje lepiej niż inne – chodzi o to, że forma jego wyników w końcu odpowiada temu, czego faktycznie potrzebują aplikacje.

Jak naprawdę działa Jev

Cała powierzchnia API składa się z zaledwie trzech typów pytań.

Pytanie typu wybór pozwala modelowi wybrać jedną opcję z listy, którą dostarczasz, a ty otrzymujesz wybrany element wraz z prawdopodobieństwem przypisanym do każdej opcji oraz ogólną wartością pewności. W jednej liście możesz podać nawet 255 opcji kandydujących.

Pytanie typu ocena polega na tym, że model ocenia wprowadzone dane według skali uporządkowanych poziomów, które sam określasz – na przykład stopień powagi błędu, stopień frustracji klienta lub stopień ukończenia opisu produktu. Wynik może znajdować się pomiędzy dwoma sąsiednimi poziomami, zamiast dokładnie odpowiadać jednemu z nich, a odpowiedź obejmuje również pełną rozkładankę wynikającą z tej oceny.

Pytanie typu tak/nie reprezentuje binarną deklarację „tak” lub „nie”. Odpowiedzią jest pojedyncza liczba od 0 do 1, przedstawiająca prawdopodobieństwo, że odpowiedź brzmi „tak”.

Te trzy typy mogą być swobodnie łączone w ramach jednego wywołania. Każde pytanie jest oceniane na podstawie tego samego stanu wejściowego, każde z nich jest rozpatrywane niezależnie, a wszystkie działają jednocześnie. Dzięki temu podejściu równoległemu dodawanie kolejnych pytań do żądania prawie w ogóle nie wpływa na czas odpowiedzi. Każde wywołanie działa w ramach wspólnego budżetu wynoszącego około 32 000 tokenów, który obejmuje zarówno stan, jak i pytania.

To szczegół dotyczący budżetu tokenów zmienia sposób projektowania systemu wokół Jev. Ponieważ dodatkowe pytania nie kosztują prawie nic więcej, zalecaną strategią jest zadawanie wszystkiego, czego można sobie wyobrazić, że może być potrzebne, nawet pytań, których odpowiedzi są istotne tylko przy określonych danych wejściowych, a następnie odrzucanie tego, czego aplikacja nie wykorzystuje. TypeSafe nazywa ten wzorzec spekulatywnym rozszerzaniem. Dla osób przyzwyczajonych do świata, w którym każde dodatkowe wezwanie modelu wiąże się z kosztami i opóźnieniami, ta odwrócona motywacja wymaga chwili, aby w pełni zostać zrozumiana.

Jak Jev różni się od LLM

Cztery wyraźne cechy odróżniają go od modelu językowego opatrzonego tylko ustrukturyzowanym formatowaniem wyjścia.

Najpierw sam cel szkolenia jest inny. RLHF optymalizuje model tak, aby udzielał odpowiedzi, które ludzie oceniają pozytywnie. RLVR skupia się na odpowiedziach, które mogą zostać sprawdzone przez weryfikatora – to właśnie ta technika leży u podstaw modeli rozumujących. Jev natomiast używa metody zwanej RLCD, która szkoli model do podejmowania decyzji w połączeniu z uczciwymi szacunkami prawdopodobieństwa. Jeśli Jev podaje 0,8 jako wynik pewności, oznacza to domyślnie, że w dużym zbiorze podobnych odpowiedzi około 80 procent będzie faktycznie poprawnych. Kalibracja nie jest tu efektem ubocznym – to właśnie cały sens tego systemu.

Z drugiej strony, pobieranie próbek odbywa się równolegle, a nie sekwencyjnie. Typowy model językowy wytwarza tekst token po tokenie, przy czym każdy nowy token zależy od wszystkiego, co zostało wcześniej wygenerowane. Jev natomiast wytwarza kompletną odpowiedź za jednym przejściem. To jest źródłem jego szybkości, a także powodem, dla którego generowanie wyniku nie kosztuje nic dodatkowego – nie ma długiej sekwencji tokenów, które musiałyby być rozliczane pojedynczo.

Po trzecie, format wyjściowy nie jest tylko zalecany, ale gwarantowany. Jev ma fizyczne ograniczenia, które uniemożliwiają mu zwracanie wartości spoza z góry określonego zbioru, który wskazujesz z wyprzedzeniem. To nie jest zachowanie „zwykle zgodne z normami” — zwrócenie czegokolwiek poza tym zbiorom nie jest możliwe z powodu samej konstrukcji systemu. Kategoria wytworzona w wyniku halucynacji nie jest jedynie rzadka, lecz strukturalnie wykluczona z obszaru możliwych wyników. TypeSafe obiecuje 0-procentowy wskaźnik błędów w przypadku nieprawidłowo sformatowanego wyniku strukturalnego, a w odróżnieniu od większości danych z badań benchmarkowych, ten wskaźnik jest bezpośrednią konsekwencją architektury, a nie czymś zmierzonym empirycznie.

Czwartym punktem jest to, że sama niepewność jest traktowana jako rzeczywisty wynik, a nie czymś dodanym później. Każda odpowiedź typu „Wybór” lub „Ocena” zawiera wartość pewności obliczoną na podstawie ostrości szczytu odpowiadającej jej rozkładu prawdopodobieństwa. Rozkład równomiernie rozproszony wskazuje na prawdziwą niepewność modelu. Dzięki temu logika aplikacji może bezpośrednio reagować na poziom pewności – automatycznie działać, gdy przekroczy ona określony próg, przechodzić do interwencji człowieka, gdy spadnie poniżej innego progu, oraz ustalać surowsze wymagania dla działań o większym ryzyku niż dla tych o niskim ryzyku.

Ostatnia z tych funkcji jest chyba najcenniejsza. Błąd w pięciu procentach przypadków rzadko stanowił prawdziwą przeszkodę w tych systemach. Poważnym problemem było brak możliwości identyfikacji tych pięciu procent.

Co faktycznie mówią liczby z benchmarków

To jest część, w której uzasadniony jest pewien sceptycyzm, ponieważ materiały marketingowe w dużej mierze kształtują percepcję, a większość doniesień w internecie po prostu powtarza podane liczby bez głębszego analizowania.

TypeSafe przeprowadziło własne testy na czterech przypadkach użycia: reagowanie na incydenty bezpieczeństwa, możliwość śledzenia działań agentów, przetwarzanie faktur oraz obsługa klienta, łącznie około 711 przypadków testowych. Zamiast polegać na ludzkich weryfikacjach, odpowiedzi referencyjne zostały uzyskane poprzez średniowanie ocen modeli GPT 6 Astra i Claude Fable 5.1.

W porównaniu z tym zestawem referencyjnym Jev udawał się do odpowiedzi oczekiwanej w 67,8 procenta przypadków. GPT 5.6 Terra osiągnął niemal identyczny wynik – 67,9 procent – co na pierwszy rzut oka wygląda bardzo dobrze dla TypeSafe.

Ale jeśli przejrzysz dalej tabelę wyników, obraz się zmienia. GPT 5.6 Sol osiągnął dokładność 74,1 procenta, natomiast Claude Opus 5 – 73,1 procenta. Patrząc konkretnie na zadań związane z przetwarzaniem faktur, Jev uzyskał 61,8 procenta w porównaniu z 79,1 procentem Sol – różnica wynosi siedemnaście punktów, co nie jest małą różnicą, i dotyczy to dokładnie tego rodzaju zadań strukturyzowanego wydobywania informacji, w których wielu potencjalnych użytkowników oczekuje doskonałości tego modelu.

Tam, gdzie Jev wyraźnie dominuje, to koszt i szybkość. Koszt jego działania wynosi około 0,0004 dolara za przypadek przy opóźnieniu 0,4 sekundy, podczas gdy Terra kosztuje około trzech centów i ma opóźnienie dziesięciu sekund – różnica w obu tych aspektach wynosi mniej więcej dwa rzędy wielkości.

Szczerze mówiąc, Jev osiąga wyniki gdzieś pośrodku między dokładnością modeli najwyższej klasy, przy czym kosztuje od jednej czterdziestej do jednej czwartej tej kwoty i reaguje w ułamku sekundy. To, czy taka kompromisowa opcja ma sens, zależy wyłącznie od kosztu błędnego odpowiedzi. Przy klasyfikacji miliona zapytań wyszukiwawczych ten kompromis wydaje się doskonały. Przy automatycznym zatwierdzaniu zwrotu pieniędzy chciałoby się, aby mechanizm kontroli pewności wykonywał rzeczywiste, istotne filtrowanie.

Należy pamiętać o dwóch zastrzeżeniach. Są to liczby podane przez samego dostawcę, a do tej pory nie pojawiło się żadne niezależne, wielkoskalowe potwierdzenie tych wyników. Ponadto, ponieważ odpowiedzi referencyjne zostały wygenerowane przez modele OpenAI i Anthropic, całe porównanie jest niejako ukierunkowane na wyróżnianie zgodności właśnie z tymi dwoma rodzinami modeli.

Gdzie bym to użył

Rozważmy zespół odpowiedzialny za opracowanie funkcji analitycznych i handlowych dla platformy e-commerce zajmującej się artykułami spożywczymi i towarami powszechnego użytku, działającej na kilku rynkach Zatoki Perskiej. Oto w przybliżeniu, jak taki zespół mógłby ustalić priorytety dla projektu Jev w swojej liście zadań.

Rozumienie zapytań w skali całego katalogu zapewne będzie miało najwyższy priorytet. Platforma działająca na wielu rynkach i w różnych językach musi radzić sobie z ogromną liczbą zapytań wyszukiwawczych. Zadania takie jak klasyfikacja intencji, oddzielanie nazw marek od terminów kategorii i atrybutów oraz oznaczanie zapytań, które najprawdopodobniej przyniosą puste wyniki, są obecnie realizowane za pomocą zbiórki reguł, które z czasem tracą na skuteczności, oraz sporadycznych wywołań modeli językowych, których używanie przy tak dużej ilości zapytań jest zbyt kosztowne. Przy koszcie około 42 dolarów za miliard tokenów wejściowych, realizacja takiej klasyfikacji dla każdego zapytania codziennie staje się finansowo realna.

Kwalifikuje się również ocena jakości treści. Każdy wpis produktowy mógłby być oceniany pod kątem jasności tytułu, jakości zdjęć oraz kompletności atrybutów, a te o najniższych wynikach trafiałyby z powrotem do zespołu odpowiedzialnego za katalog w celu wprowadzenia poprawek. W istocie chodzi o powtarzanie jednego pytania typu ocena w skali milionów — zadania, które tradycyjnie jest zbyt kosztowne do przetworzenia za pomocą modeli językowych i zbyt złożone, by zostać sformułowane jako sztywne reguły.

Kryteria oceny istotności przy optymalizacji wyszukiwania to trzeci przypadek użycia. Zamiast kupować dane o istotności oznaczone przez ludzi lub płacić za drogie modele do ich generowania, pary zapytania-produkt mogą być oceniane masowo w celu stworzenia offline’owego zestawu danych o istotności. Własna dokumentacja TypeSafe na temat ponownego sortowania wskazuje na wzrost dokładności pierwszego wyniku z 5 procent do 18 procent w testach wyszukiwania dokumentów prawniczych – co jest obiecującym sygnałem, mimo że ten obszar ma niewiele wspólnego z wyszukiwaniem w e-commerce.

Na koniec, mechanizmy kontroli istniejących funkcji opartych na LLM są doskonałym rozwiązaniem. Sprawdzanie wprowadzanych danych i wyników dowolnej funkcji konwersacyjnej pod kątem prób obejścia zasad i naruszeń regulaminu wymaga szybkiej i niedrogiej weryfikacji, która sama nie powinna stać się wąskim gardłem – co dokładnie odpowiada charakterystyce Jev.

Gdzie bym go nie używał

Każda sytuacja wymagająca wyjaśnienia jest niemożliwa do rozpatrzenia. Jev nigdy nie przedstawia uzasadnień, koniec tematu. Gdy sprzedawca pyta, dlaczego jego oferta spadła w rankingu, powiedzenie mu „model przyznał jej 2,1 na 4” nie zadowala nikogo.

Zadania wymagające łączenia rozumowań w kolejnych krokach również nie nadają się do tego celu. TypeSafe jasno to stwierdza we własnej dokumentacji: podziel problem na odrębne pytania lub skorzystaj z innego narzędzia, ponieważ elementy zawarte w jednej prośbie nie mają dostępu do odpowiedzi na pytania dotyczące innych elementów.

Gdziekolwiek precyzja ma większe znaczenie niż szybkość przetwarzania, bądź ostrożny. Ten słaby punkt w obsłudze faktur to nie błahe zastrzeżenie – to prawdziwy sygnał ostrzegawczy.

Nie powinieneś go wdrażać nigdzie, gdzie nie możesz najpierw sprawdzić jego działania na własnych danych. Wynik 67,8 procenta w czterech zadaniach referencyjnych wykonanych przez kogoś innego niewiele mówi o tym, jak model poradzi sobie z arabskimi nazwami produktów lub sposobem klasyfikacji artykułów spożywczych na rynkach w Zatoce Perskiej.

Główna idea

Odstawiając na bok metryki z dnia premiery, istnieje podstawowe twierdzenie, które pozostaje aktualne niezależnie od tego, czy Jev konkretnie zostanie zwycięzcą w tej dziedzinie.

Tekst nigdy nie był odpowiednią interfejsem pomiędzy modelem a oprogramowaniem przeznaczonym do przetwarzania jego wyników. Używaliśmy go po prostu dlatego, że był dostępny w takim formacie, a potem spędziliśmy lata na tworzeniu parserów, walidatorów, mechanizmów ponawiania prób oraz narzędzi do sprawdzania schematów, by to nadrobić. Każda z tych warstw istnieje wyłącznie po to, by przetłumaczyć coś stworzonego dla ludzkiego odczytu na coś, co maszyna może bezpiecznie przetworzyć.

Jeśli większość zastosowań sztucznej inteligencji będzie odbywać się w ramach pipeline’ów oprogramowania, a nie interfejsów czatowych – co wydaje się prawdopodobnym kierunkiem rozwoju – to system wykonujący te zadania prawdopodobnie w ogóle nie powinien być optymalizowany pod kątem generowania czytelnych zdań. Sam TypeSafe szacuje, że automatyzacja na dużą skalę polega w przybliżeniu na 99 procentach na komunikacji maszyna-maszyna. Dokładna liczba jest sporna, natomiast ogólny kierunek rozwoju trudno podważyć.

Jev może okazać się nie tym modelem, który doprowadzi branżę do pożądanego stanu. Ma wąski zakres, jest jeszcze nowy, opiera się na danych dostarczanych przez użytkowników i ustępuje modelom najwyższej klasy pod względem dokładności. Jednak udało mu się przedstawić konkretne, sprawdzone twierdzenie dotyczące dokładnego miejsca występowania problemów w naszych obecnych systemach.

To właśnie to miejsce problemowe stanowi wyzwanie dla zespołów od chwili, gdy zaczęły wprowadzać funkcje oparte na sztucznej inteligencji. Byłoby miło zobaczyć, jak w końcu znika.

Literatura pokrewna

• Zrozumienie pamięci AI: kontekst, wkładki, RAG i masy modelu wyjaśnione — Ten artykuł szczegółowo opisuje, w jaki sposób systemy AI faktycznie przechowują informacje, omawiając okna kontekstowe, wkładki, bazy danych wektorowych, RAG oraz parametry modelu.
• Temperatura, Top-K i Top-P: praktyczny przewodnik po procesie wybierania danych w LLM — Dowiedz się, jak ustawienia temperatury, top-k i top-p wpływają na wyniki generowane przez LLM, z praktycznymi wskazówkami oraz typowymi pułapkami przy konfiguracji chatbotów, asystentów programistycznych i systemów RAG.

Fugu Ultra: Jak model orkiestratora AI rzuca wyzwanie GPT i Claude — Wyjaśnia, w jaki sposób Fugu Ultra v2 od Sakana AI kieruje zadania do specjalistycznych modeli zamiast do jednego ogromnego LLM, oraz jak radzi sobie pod względem testów porównawczych, cen i przejrzystości.