Jev de TypeSafe AI : un modèle sans fonction de chat pour des décisions structurées
Cet article explique comment le modèle Jev de TypeSafe AI évite complètement la génération de texte pour fournir plutôt des réponses typées calibrées, ainsi que dans quels cas cet équilibre s’avère vraiment avantageux.
Jev est le premier modèle de TypeSafe AI, une startup basée à San Francisco qui a fait son apparition le 15 septembre 2026, soutenue par un tour de financement initial de 40 millions de dollars mené par DCVC.
Contrairement à la plupart des systèmes d’IA qui font la une, Jev n’est pas un grand modèle de langage. Il ne peut ni produire des phrases, ni générer du code, ni rédiger des explications. Au lieu de cela, on lui fournit un aperçu de la situation, comme une demande d’assistance client ou une fiche produit, accompagné d’un ensemble de questions structurées et typées. En retour, il fournit des réponses typées, chacune associée à une distribution de probabilité et à un score de confiance. Il n’y a ni prose à interpréter, ni structure JSON à corriger par la suite.
TypeSafe qualifie cette approche de modèle « System One », entraîné grâce à une méthode qu’elle nomme Reinforcement Learning for Calibrated Decisions, ou RLCD. Selon l’entreprise, le temps de réponse varie de 70 à 500 millisecondes, et le prix s’élève à 0,042 dollar par million de tokens d’entrée, les tokens de sortie étant quant à eux gratuits.
Cette information sur le prix n’est pas une erreur. Les sorties sont gratuites simplement parce qu’il y a presque aucune sortie à proprement parler.
Qui a fondé TypeSafe AI
Le fondateur et PDG de l’entreprise, Diogo Almeida, a précédemment travaillé comme chercheur chez OpenAI, contribuant au développement de l’apprentissage par renforcement à partir des retours humains, d’InstructGPT, de ChatGPT et de GPT-4. Il est reconnu comme l’un des co-créateurs de RLHF, la technique qui a transformé les modèles linguistiques bruts en assistants conversationnels utilisables.
Le groupe de direction est complété par Erik Gafni en tant que CTO et Sasha Sheng en tant que COO. TypeSafe a été fondée en 2024 et a fonctionné de manière discrète pendant près de deux ans avant de devenir publique. Forbes a évalué la valeur de l’entreprise à environ 200 millions de dollars suite à ce tour de financement.
Il est intéressant de noter qu’Almeida a contribué à concevoir l’approche qui a permis de créer des modèles capables de répondre aux préférences humaines, mais il affirme désormais que satisfaire les humains n’a jamais vraiment été la même épreuve que de rendre le logiciel fiable. Lorsqu’une personne remet en question ce qui l’a rendue célèbre, c’est généralement un signe qu’elle a passé beaucoup de temps à reconsidérer le problème.
Le nom de l’entreprise fait référence à William Stanley Jevons, l’économiste du XIXe siècle connu pour le paradoxe de Jevons, qui observe que plus une technologie devient efficace, sa consommation globale a tendance à augmenter plutôt qu’à diminuer. Le pari sous-jacent est simple : rendre l’intelligence artificielle suffisamment bon marché pour que son utilisation explose.
L’aspect
Tout ceux qui ont mis en place des fonctionnalités d’IA pour le e-commerce ont probablement rencontré les mêmes difficultés récurrentes.
Pensez aux types de jugements que ces systèmes doivent effectuer : cette requête de recherche concerne-t-elle une marque ou une catégorie ? Cette photo de produit convient-elle à la page d’accueil ? Cette critique porte-t-elle sur des retards de livraison ou sur la qualité du produit ? Il s’agit de décisions mineures, du genre que un gestionnaire de catégorie compétent pourrait résoudre en quelques secondes.
Cependant, la solution standard consiste à faire passer ces questions par un modèle de langage. Celui-ci génère un paragraphe de texte, qui est ensuite forcé dans une structure JSON. Il faut alors créer un analyseur pour cette structure, ajouter de la logique de validation, mettre en place des mécanismes de tentative répétée, et définir une solution de secours en cas d’échec des tentatives. Finalement, en environnement de production, souvent au milieu de la nuit, le modèle renvoie une valeur de catégorie qui n’existe nulle part dans votre taxonomie, endommageant ainsi silencieusement une table de merchandising interne.
Le goulot d’étranglement n’a jamais été l’intelligence elle-même, mais plutôt l’interface qui l’entoure.
C’est précisément cette lacune que Jev est conçu pour combler.
L’affirmation principale n’est pas que ce modèle raisonne mieux que d’autres, mais plutôt que la forme de ses résultats correspond enfin à ce dont les applications ont réellement besoin.
Comment Jev fonctionne réellement
Toute l’interface API se compose de seulement trois types de questions.
Une question à choix permet au modèle de sélectionner une option parmi une liste que vous fournissez ; vous recevez alors l’élément choisi ainsi qu’une probabilité attribuée à chaque option et une valeur de confiance globale. Vous pouvez inclure jusqu’à 255 options dans une même liste.
Une question à notation fait évaluer par le modèle les données entrées selon une échelle de niveaux ordonnés que vous définissez vous-même, tels que la gravité d’une erreur, le degré de frustration perçu chez un client ou le niveau de finalisation d’une fiche produit. Le chiffre retourné peut se situer entre deux niveaux voisins plutôt que d’être exactement sur l’un d’eux, et la réponse inclut également la distribution complète derrière cette note.
Une question binaire représente une affirmation oui ou non. La réponse est un seul nombre compris entre 0 et 1, indiquant la probabilité que la réponse soit oui.
Ces trois types peuvent être combinés librement au sein d’une seule requête. Chaque question est évaluée en fonction du même état d’entrée, chacune est jugée de manière indépendante, et toutes s’exécutent en parallèle. Grâce à ce traitement parallèle, l’ajout de questions supplémentaires à une requête a à peine d’impact sur le temps de réponse. Chaque appel fonctionne dans un budget commun d’environ 32 000 tokens couvrant à la fois l’état et les questions.
Cette particularité liée au budget de tokens change la manière dont on aborde la conception d’un système autour de Jev. Étant donné que poser des questions supplémentaires ne coûte presque rien de plus, la stratégie recommandée est de poser toutes les questions que l’on peut imaginer avoir besoin, même celles dont les réponses ne sont pertinentes que pour certains entrées, puis de simplement éliminer ce que l’application n’utilise pas. TypeSafe qualifie ce schéma de « speculative fan-out ». Pour ceux qui sont habitués à un monde où chaque appel à un modèle supplémentaire entraîne des coûts et des retards, il faut un certain temps pour comprendre pleinement ce renversement des incitations.
En quoi Jev diffère d’un LLM
Quatre caractéristiques distinctes le distinguent d’un modèle de langage doté d’un formatage structuré des résultats.
Tout d’abord, l’objectif même de l’entraînement est différent. RLHF optimise un modèle afin qu’il fournisse des réponses que les humains évaluent positivement. RLVR vise à obtenir des réponses que un vérificateur peut contrôler, ce qui constitue la technique sous-jacente aux modèles de raisonnement. Jev, quant à lui, utilise ce qu’on appelle RLCD, qui entraîne le modèle à produire des décisions accompagnées d’estimations de probabilité honnêtes. Si Jev affiche 0,8 comme score de confiance, cela signifie implicitement que, sur un grand échantillon de réponses similaires, environ 80 pour cent seront en réalité correctes. La calibration n’est pas un sous-produit ici — c’est l’objectif principal du système.
Deuxièmement, l’échantillonnage s’effectue en parallèle plutôt qu’en séquence. Un modèle de langage typique génère du texte token par token, chaque nouveau token dépendant de tout ce qui a été généré précédemment. Jev, quant à lui, produit une réponse complète en une seule passe. C’est la source de sa vitesse, et c’est aussi pourquoi la génération du résultat ne coûte rien de supplémentaire — il n’y a pas de longue séquence de tokens à facturer un par un.
Troisièmement, le format de sortie n’est pas seulement encouragé, il est garanti. Jev est physiquement limité à renvoyer des valeurs issues d’un ensemble prédéfini que vous spécifiez à l’avance. Ce n’est pas un comportement « généralement conforme » — il est impossible, par conception, de renvoyer quoi que ce soit en dehors de cet ensemble. Une catégorie hallucinée n’est pas seulement rare, elle est structurellement exclue de l’espace des sorties possibles. TypeSafe affiche un taux d’erreur de 0 % pour les sorties structurées mal formatées, et contrairement à la plupart des chiffres de référence, celui-ci est une conséquence directe de l’architecture plutôt que quelque chose mesuré empiriquement.
Quatrièmement, l’incertitude elle-même est considérée comme une sortie réelle et non comme un élément ajouté ultérieurement. Chaque réponse de type choix ou score s’accompagne d’une valeur de confiance calculée en fonction de la netteté du pic de la distribution de probabilité sous-jacente. Une distribution étalée indique une véritable incertitude du modèle. Cela permet à la logique de votre application de réagir directement à ce niveau de confiance — en agissant automatiquement lorsque celui-ci dépasse un certain seuil, en faisant appel à une personne lorsqu’il tombe en dessous d’un autre, et en fixant des exigences plus strictes pour les actions à haut risque par rapport à celles à faible risque.
Cette dernière capacité est sans doute la plus précieuse. Se tromper 5 % du temps n’a que rarement été l’obstacle réel avec ces systèmes. Le problème récurrent a plutôt été l’impossibilité d’identifier quels sont ces 5 %.
Ce que disent réellement les chiffres de référence
C’est dans cette section que certains scepticismes sont justifiés, car les supports de marketing effectuent une grande partie du travail de présentation des informations, et une grande partie des articles en ligne se sont contentés de répéter les chiffres clés sans approfondir.
TypeSafe a mené ses propres tests sur quatre cas d’usage : la réponse aux incidents de sécurité, l’observabilité des traçages des agents, le traitement des factures et l’assistance client, pour un total d’environ 711 cas de test. Au lieu de s’appuyer sur des données vérifiées par des humains, les réponses de référence ont été générées en moyennant les jugements de GPT 6 Astra et Claude Fable 5.1.
Par rapport à cet ensemble de référence, Jev a donné la bonne réponse dans 67,8 % des cas. GPT 5.6 Terra a obtenu un résultat presque identique, à 67,9 % — un résultat qui semble excellent pour TypeSafe au premier abord.
Mais en examinant plus en détail le tableau des résultats, l’image change. GPT 5.6 Sol a atteint une précision de 74,1 %, tandis que Claude Opus 5 a atteint 73,1 %. En se concentrant spécifiquement sur la tâche de traitement des factures, Jev a obtenu 61,8 % contre 79,1 % pour Sol — une différence de dix-sept points, ce qui n’est pas négligeable, et cela concerne précisément le type de tâche d’extraction structurée que de nombreux utilisateurs potentiels attendraient de ce modèle qu’il maîtrise parfaitement.
Où Jev domine clairement, c’est en termes de coût et de vitesse. Il fonctionne à environ 0,0004 dollar par cas avec une latence de 0,4 seconde, contre environ trois cents et dix secondes pour Terra — une différence d’environ deux ordres de grandeur dans ces deux dimensions.
Honnêtement, Jev présente une précision située quelque part entre celle des modèles de pointe, tout en coûtant entre un quarantième et un quatre-centième moins cher et en répondant en une fraction de seconde. Le fait que cet équilibre soit judicieux dépend entièrement du coût d’une réponse incorrecte. Pour classifier un million de requêtes de recherche, cet équilibre semble excellent. En revanche, pour approuver automatiquement un remboursement, on souhaiterait que le mécanisme de filtrage basé sur la confiance effectue un véritable tri pertinent.
Deux points importants méritent d’être pris en compte. Il s’agit de chiffres fournis par le fournisseur lui-même, et aucune reproduction indépendante à grande échelle n’a encore été réalisée. De plus, comme les réponses de référence ont été générées par des modèles OpenAI et Anthropic, toute comparaison est implicitement biaisée en faveur de l’accord avec ces deux familles de modèles en particulier.
Où je l’utiliserais
Imaginons une équipe chargée de développer des fonctionnalités de découverte et de merchandising pour une plateforme d’e-commerce spécialisée dans les produits alimentaires et divers articles, opérant dans plusieurs marchés du Golfe. Voici approximativement comment une telle équipe pourrait hiérarchiser les tâches liées à Jev dans son backlog.
La compréhension des requêtes à l’échelle du catalogue serait probablement la première priorité. Une plateforme couvrant plusieurs marchés et langues fait face à un nombre énorme de requêtes de recherche. Des tâches telles que la classification des intentions, la séparation des noms de marques des termes et attributs de catégorie, ainsi que l’identification des requêtes susceptibles de ne pas donner de résultats, sont actuellement gérées grâce à un ensemble hétéroclite de règles qui s’usent avec le temps, en plus d’appels occasionnels à des modèles de langage grand public dont l’exécution est trop coûteuse pour un volume aussi important. Avec un coût d’environ 42 dollars par milliard de tokens d’entrée, il devient financièrement réalisable de mettre en œuvre ce type de classification pour chaque requête, tous les jours.
La notation de la qualité du contenu est un autre candidat sérieux. Chaque fiche produit pourrait être évaluée en fonction de la clarté du titre, des indicateurs de qualité des images et de l’exhaustivité des attributs, les produits ayant la note la plus basse étant renvoyés à l’équipe du catalogue pour correction. Il s’agit essentiellement d’une question de type notation posée à une échelle de plusieurs millions — une tâche qui a traditionnellement été trop coûteuse à traiter avec un LLM et trop nuancée pour être codée en règles rigides.
Le jugement de pertinence pour l’ajustement des recherches constitue un troisième cas d’usage. Au lieu d’acheter des données de pertinence étiquetées manuellement ou de payer un modèle coûteux pour les générer, il est possible d’évaluer en masse les paires requête-produit afin de créer un ensemble de données de pertinence hors ligne. La documentation propre à TypeSafe sur le réclassement mentionne une amélioration de la précision des premiers résultats, passant de 5 pour cent à 18 pour cent dans un test de récupération de documents juridiques — un signe prometteur, même si ce domaine a peu en commun avec les recherches en e-commerce.
Finalement, des mécanismes de contrôle autour des fonctionnalités existantes basées sur des LLM s’imposent naturellement. Vérifier les entrées et sorties de toute fonctionnalité conversationnelle en quête d’essais de contournement ou de violations des politiques exige un contrôle suffisamment rapide et peu coûteux pour ne pas devenir lui-même un goulot d’étranglement, ce qui correspond exactement au profil pour lequel Jev a été conçu.
Où je ne l’utiliserais pas
Toute situation nécessitant une explication est à écarter. Jev ne fournit jamais de raisonnement, point final. Lorsqu’un vendeur demande pourquoi sa fiche a été déclassée dans le classement, lui dire « le modèle lui a attribué 2,1 sur 4 » ne satisfait personne.
Les tâches qui exigent une chaîne de raisonnements entre différentes étapes sont également mal adaptées. TypeSafe l’indique clairement dans sa propre documentation : divisez votre problème en questions indépendantes ou optez pour un outil différent, car les éléments regroupés dans une seule demande ne permettent pas de connaître les réponses des autres.
Où que la précision prime sur le débit, soyez prudent. Ce point faible dans le traitement des factures n’est pas une simple remarque mineure — c’est un véritable signe d’alerte.
Et vous ne devriez pas le déployer n’importe où sans l’avoir d’abord validé à l’aide de vos propres données. Un score global de 67,8 % sur quatre tâches de référence appartenant à d’autres personnes ne vous dit presque rien sur la capacité du modèle à gérer les noms de produits en arabe ou la manière dont les denrées alimentaires sont classées sur les marchés du Golfe.
L’idée principale
En mettant de côté les métriques du jour du lancement, il existe une affirmation fondamentale qui reste valable, que Jev devienne ou non spécifiquement le gagnant dans ce domaine.
Le texte n’a jamais été l’interface adéquate entre un modèle et le logiciel destiné à traiter ses résultats. Nous l’avons finalement utilisé simplement parce que c’était le format disponible, puis nous avons passé des années à créer des analyseurs, des validateurs, une logique de tentative répétée et des vérificateurs de schéma uniquement pour compenser. Chacun de ces éléments existe exclusivement pour transformer quelque chose conçu pour être lu par des humains en quelque chose que une machine peut traiter sans risque.
Si la majeure partie de l’utilisation de l’IA a lieu finalement à l’intérieur de pipelines logiciels plutôt que via des interfaces de chat — et c’est bien la tendance actuelle — alors le système qui effectue ce travail ne devrait probablement pas être optimisé pour générer des phrases lisible en premier lieu. TypeSafe estime elle-même que l’automatisation à grande échelle se résume à environ 99 % de communications machine-à-machine. Le chiffre exact est discutable. La direction générale, en revanche, est beaucoup plus difficile à contester.
Jev pourrait ne pas s’avérer être le modèle capable de faire progresser l’industrie dans ce domaine. Son champ d’application est restreint, il est encore nouveau, il repose sur des chiffres fournis par les utilisateurs eux-mêmes, et il est inférieur aux modèles de premier plan en termes de précision brute. Cependant, ce qu’il a réussi à faire, c’est avancer une affirmation concrète et vérifiable concernant l’endroit exact où se situe le point de friction dans nos systèmes actuels.
Ce point de friction est quelque chose autour duquel les équipes conçoivent leurs fonctionnalités depuis qu’elles mettent en place des outils basés sur l’intelligence artificielle. Ce serait un changement bienvenu de le voir enfin disparaître.
Lectures complémentaires
- Comprendre la mémoire de l’IA : contexte, embeddings, RAG et poids des modèles expliqués — Cet article décrit en détail la manière dont les systèmes d’IA mémorisent réellement les informations, abordant les fenêtres de contexte, les embeddings, les bases de données vectorielles, le RAG et les paramètres des modèles.
- Temperature, Top-K et Top-P : un guide pratique pour l’échantillonnage des LLM — Découvrez comment les paramètres temperature, top-k et top-p contrôlent la sortie des LLM, avec des méthodes pratiques et des pièges à éviter pour ajuster les chatbots, les assistants de codage et les systèmes RAG.