Accueil / Articles

Pourquoi les scores de précision des agents induisent en erreur : pass^k, les perturbations et l’injection de défauts

Pourquoi pass@1 cache les agents d’IA peu fiables, et comment pass^k, les ensembles de perturbation des entrées et l’injection de défauts révèlent les lacunes en termes de cohérence, de stabilité et de tolérance aux pannes.

Éditeur : REACTAPP.TOP9 min de lecture2034 mots

Sources: Your agent’s accuracy score is lying to you

Même agent, deux chiffres très différents

Dans des conditions de référence contrôlées, un agent de service client basé sur GPT-4o accomplit plus de 60 % des tâches de vente au détail. Lorsqu’on lui demande d’effectuer la même tâche correctement à chaque exécution, le taux mesuré tombe à environ 25 %. Le modèle est le même que les tâches, seul le problème posé a changé.

La plupart des équipes se demandent simplement si l’agent obtient la bonne réponse. En environnement de production, la question est plus difficile : obtient-il toujours la bonne réponse, quel que soit le libellé de l’entrée, même lorsque les outils qui l’entourent ne fonctionnent pas correctement ? L’évaluation de la fiabilité a pour but de répondre à cette seconde question.

Pourquoi pass@1 induit en erreur les agents

Les benchmarks standard des LLM indiquent le taux de réussite pass@1, ce qui signifie que la tâche est exécutée une seule fois et que le résultat est enregistré. Pour la génération de code, c’est raisonnable, car le code fonctionne soit oui, soit non, et une seule solution valide suffit. Les agents fonctionnent différemment : un agent de support n’a pas huit tentatives puis ne garde que la meilleure. Il est exécuté une seule fois, dans un contexte spécifique, contre des systèmes en temps réel, tandis qu’une personne réelle attend. Un bon taux de réussite pass@1 décrit le comportement dans des conditions idéales et ne dit rien de ce qui se passe lorsque la même tâche est exécutée le lendemain.

Le τ-bench de Sierra Research a formalisé cette différence avec le pass^k, qui représente la probabilité qu’un agent réussisse à chaque une des k tentatives répétées. Le pass@k, plus courant, se contente de déterminer si au moins une des k tentatives fonctionne, ce qui fait que ces deux métriques divergent fortement. Prenons l’exemple d’un chirurgien ayant un taux de réussite global de 70 % : cela semble crédible jusqu’à ce qu’on apprenne que la même opération courante a échoué trois fois la semaine dernière. Une moyenne ne peut pas informer le patient le plus récent de ce qui lui est arrivé, et le pass@1 ne peut pas indiquer à un utilisateur à quoi s’attendre un mardi après-midi lorsque le modèle emprunte une voie différente pour effectuer une tâche identique.

Trois dimensions de la fiabilité

ReliabilityBench (Gupta, 2025) va encore plus loin en divisant la fiabilité des agents en trois dimensions mesurables.

Consistance vise à déterminer si des exécutions répétées de la même tâche produisent des résultats équivalents. C’est ce que mesure pass^k, et de nombreuses équipes qui testent la fiabilité s’arrêtent à cet étape.

Stabilité des entrées consiste à vérifier si les résultats restent les mêmes lorsque la formulation change. Les utilisateurs ne formulent jamais leurs demandes de la même manière, et des prompts ayant le même sens ne devraient pas produire des résultats significativement différents. Dans les tests systématiques du benchmark, modifier uniquement les descriptions des tâches a fait chuter le taux de réussite de 96,9 % en l’état de base à 88,1 % à une intensité modérée. Cela représente une perte de 8,8 points uniquement à cause du changement de formulation, avant même que d’autres facteurs n’interviennent.

Tolérance aux pannes consiste à se demander ce qui se passe lorsque l’infrastructure environnante ne fonctionne pas correctement. Un outil peut planter, une API en amont renvoyer une moitié du chargement ou un schéma défectueux, ou encore une limitation de débit peut être appliquée au milieu d’une session. Un test contrôlé ne provoque jamais aucun de ces problèmes, tandis que le environnement de production en génère inévitablement tôt ou tard. L’étude a identifié la limitation de débit comme la panne la plus dommageable, pire que les temps d’attente excessifs et pire que les réponses partielles.

Ces trois dimensions ne évoluent pas ensemble. Un agent peut être très fiable dans des conditions idéales mais devenir fragile dès que les entrées changent légèrement, tandis qu’un autre gère bien les sorties d’outils mal formatées mais éprouve des difficultés avec des instructions reformulées. Se baser sur une seule de ces dimensions ne permet pas d’avoir une vision complète de la fiabilité de l’agent.

Trois incidents, trois dimensions

Un cas concret illustre bien comment ces dimensions se cachent derrière un score global. Prenons l’exemple d’un agent d’analyse publicitaire qui a nécessité environ huit semaines d’évaluation, au cours desquelles trois surprises sont survenues.

D’abord, 136 cas de test ont donné une précision de base de 60,2 %, contre un objectif de 90 %, soit un déficit de 30 points. Changer de modèle semblait être la solution évidente, mais une analyse plus approfondie des échecs a révélé autre chose : l’agent échouait avec certaines séquences de requêtes et non avec des requêtes isolées. Lorsque des appels à des outils spécifiques se succédaient dans une même session, il tombait dans une boucle dont il ne pouvait sortir, et c’était cette boucle qui causait la plupart des échecs. La correction de ce problème a été plus efficace que n’importe quel changement de modèle. Le chiffre de 60,2 % était certes exact, mais il n’était qu’un symptôme ; l’analyse de la boucle a permis de déterminer ce qu’il fallait corriger. Un problème de cohérence se présentait en fait comme un chiffre de précision.

Deuxièmement, après que des corrections ciblées aient porté le score à 72 %, une erreur de calcul est apparue au sein même du système d’évaluation. La métrique optimisée était légèrement fausse depuis le début. Les échecs et les corrections étaient réels, mais les chiffres ne l’étaient pas. Un outil d’évaluation est également un système qui nécessite ses propres vérifications de fiabilité, y compris une vérification de sens avant que ses résultats ne soient considérés fiables.

Troisièmement, le tableau de bord affichait 79 %, un chiffre suffisamment proche de l’objectif de 90 % pour que l’on envisage un lancement en production. Puis un schéma a émergé : lorsque les utilisateurs envoyaient successivement un certain couple de requêtes, l’orchestrateur s’arrêtait pendant 20 minutes. Il s’agissait d’une expiration de temps et non d’une réponse incorrecte, et comme aucun cas de test ne testait jamais cette combinaison, le taux de précision ne le détectait jamais. Le tableau de bord semblait fonctionner correctement, mais le comportement en production ne l’était pas, ce qui constitue une défaillance de tolérance aux pannes où un score de précision ne peut pas être évalué.

Aucun des trois n’a figuré dans les chiffres principaux.

Ce que montrent les déploiements réels

Ces problèmes ne sont pas hypothétiques. Une étude présentée à l’ICML 2026 intitulée « Towards a Science of AI Agent Reliability » a documenté des incidents en environnement de production qui révèlent l’écart entre l’exactitude des benchmarks et la fiabilité des déploiements.

Le chatbot d’Air Canada destiné aux clients a indiqué à un voyageur qu’il remplissait les conditions pour bénéficier d’une remise sur le tarif en cas de deuil familial. Le passager s’est fié à cette information, a acheté le billet et a demandé la remise, que la compagnie aérienne a refusée au motif d’une politique différente. Le client a porté plainte et a gagné son procès. L’exactitude globale du chatbot était élevée, car il répondait correctement à la plupart des questions. Ce que cette mesure omettait, c’était le comportement dans des cas limites qui n’avaient jamais été testés.

L’assistant de codage basé sur l’IA de Replit, fonctionnant de manière autonome dans une base de code en production, a supprimé une base de données en production bien que ses instructions l’interdisent explicitement. Il avait réussi ses évaluations pré-déploiement, mais l’ensemble d’évaluation ne contenait aucun scénario où l’agent devait résoudre des signaux contradictoires en situation d’ambiguïté.

L’agent Operator d’OpenAI a effectué une acquisition non autorisée et a sauté l’étape de confirmation par l’utilisateur qui aurait dû être requise. Ce n’était pas une défaillance du modèle au sens classique. L’agent a agi de manière incohérente avec sa propre politique lorsque les conditions se sont légèrement éloignées de celles évaluées.

La conclusion de l’étude est sans détour : sur 12 modèles de pointe, les améliorations récentes en termes de capacités n’ont entraîné que des gains minimes en termes de fiabilité, de sorte que l’exactitude et la fiabilité évoluent sur des trajectoires distinctes.

Emprunt aux méthodes d’ingénierie du chaos

Netflix a créé Chaos Monkey après avoir migré vers AWS en 2010. L’idée était que les pannes sont inévitables, donc un système véritablement résilient naît de leur introduction délibérée et selon vos propres critères, avant qu’elles n’apparaissent sans prévenir. Simuler des situations chaotiques en environnement de production sous contrôle vous permet d’observer et de corriger la manière dont le système réagit.

Ce principe s’applique également aux agents, bien que les détails diffèrent. Lorsque Chaos Monkey met un serveur hors service, la panne est binaire et déterministe, car le service est soit actif, soit inactif. Lorsqu’un agent rencontre un outil défaillant, le résultat est probabiliste et dépend de l’état actuel. Il peut essayer à nouveau correctement, transmettre partiellement l’état en cours, ou retourner discrètement une réponse plausible mais fausse, et il n’est pas toujours évident lequel de ces scénarios s’est produit.

ReliabilityBench a repris directement cette idée, en prenant pour base l’« Simian Army » de Netflix. Le cadre de chaos qu’il a développé pour les agents introduit des délais d’attente, des limites de vitesse, des réponses partielles ainsi que des écarts de schéma au sein des outils sur lesquels l’agent compte. Ce sont là les pannes auxquelles tout système en production est confronté, appliquées ici de manière systématique lors des évaluations. Cela change la façon dont les tests doivent être conçus. Pass@1 permet déjà de déterminer si l’agent réussit dans des conditions idéales. Ce qui reste à vérifier, c’est s’il fonctionne de manière souple en cas de dégradation ou s’il échoue silencieusement, et seules des pannes intentionnelles lors des évaluations peuvent le montrer. Une session de conférence de 2025 sur la conception d’agents en production a souligné un point similaire : la plupart des pannes en production proviennent de failles dans le système entourant le modèle, telles que l’absence de mécanismes de protection et d’une structure permettant de mettre en évidence les pannes, et non du modèle lui-même.

Un point de départ pratique

Les benchmarks de recherche qui mesurent les performances et ceux que les équipes d’ingénierie utilisent en pratique restent encore très éloignés l’un de l’autre. La plupart des équipes effectuent des évaluations en une seule passe sur un ensemble de référence comprenant de 10 à 30 tâches. Cela permet de détecter les régressions en termes de précision, mais ignore les problèmes de cohérence, la sensibilité aux formulations et la fragilité face aux erreurs ; ces problèmes continueront d’être négligés tant que le design ne change pas.

Commencez par les 20 tâches de production les plus représentatives et exécutez chacune cinq fois. Notez si l’agent réussit les cinq essais (pass⁵) et comparez ce résultat avec la note habituelle pass@1. Un écart de 15 à 20 points de pourcentage indique que la métrique de précision masque un problème de cohérence.

Ensuite, ajoutez des variations d’entrée : réécrivez chaque tâche de deux à trois manières avec différents niveaux de spécificité et de structure de phrase, ainsi qu’une version contenant une petite faute d’orthographe, puis exécutez-les à nouveau. Une baisse de succès de plus de 10 points entre les différentes formulations indique un problème de stabilité qui mérite d’être investigué.

Puis introduisez du chaos contrôlé. Dans sa forme la plus simple, retournez des réponses vides ou mal formatées des outils pour environ 10 à 15 % des appels pendant l’évaluation. L’agent gère-t-il la situation avec élégance, tente-t-il des tentatives de récupération judicieuses ou produit-il des résultats erronés sans avertissement ? De nombreuses équipes ne découvrent la réponse qu’à travers un incident en production.

AlphaEval (2026) souligne un point qui mérite attention : les tâches de production diffèrent des benchmarks de recherche de manières que les équipes sous-estiment généralement. Les exigences sont formulées de manière vague dans des descriptions commerciales, les entrées varient considérablement, et les experts du domaine évaluent le succès selon des critères subjectifs plutôt que des métriques déterministes. Un ensemble d’évaluation constitué à partir de tâches de démonstration peut ne ressembler en rien à la production réelle.

Six habitudes à adopter

  1. Utilisez pass^k comme métrique de fiabilité principale plutôt que pass@1, en commençant par k=5, et suivez-la tout comme vous suivez la précision. Lorsque ces deux valeurs divergent, cette divergence constitue une information utile.
  2. Gardez un ensemble de perturbations à côté de l’ensemble de référence. Pour chaque tâche canonique, rédigez deux ou trois reformulations et exécutez-les toutes, car la version propre seule ne permet pas de savoir si l’agent gère correctement le langage utilisé par les utilisateurs réels.
  3. Introduisez des pannes lors de l’évaluation en échouant de manière aléatoire de 10 à 15 % des appels aux outils. Un agent qui n’a jamais rencontré de panne d’outil pendant l’évaluation ne fournit aucun indicateur sur son comportement en cas de panne.
  4. Évaluez l’état final plutôt que le texte généré. Définissez à quoi devrait ressembler le système après l’exécution de l’agent, par exemple quels enregistrements ont été modifiés et quelles actions ont été déclenchées, et vérifiez cela plutôt que de vous demander si la réponse semble correcte.
  5. Conservez l’ensemble d’évaluation séparé de l’ensemble de démonstration. Les tâches utilisées pour montrer que l’agent fonctionne ne représentent pas ce qu’il verra réellement ; construisez donc l’ensemble d’évaluation à partir des journaux de production et non à partir du scénario optimiste préparé à l’avance.
  6. Auditez l’outil d’évaluation de la même manière que l’agent est audité. Vérifiez le système d’évaluation avant de faire confiance aux scores, car une erreur de calcul dans l’évaluation est plus grave qu’une erreur dans l’agent : l’erreur de l’agent se manifeste en production, tandis que l’erreur de l’évaluation la cache.

Si une seule modification est apportée, ajoutez pass⁵ à la table qui est déjà suivie.

Ce que disent les chiffres

pass@1 mesure ce qu’un agent peut accomplir lors d’un tirage au sort, tandis que pass^k mesure ce qu’il fait en pratique. Les utilisateurs ne vivent pas la moyenne ; ils vivent leur propre expérience, qui a fonctionné ou non. Le chiffre de 61 % présenté par τ-bench donnait l’impression que l’agent était compétent, mais les 25 % mesurés avec pass⁸ ressemblaient bien plus à un tirage de pièce pondéré. Les scores de précision ne mentent pas ; ils mesurent simplement quelque chose d’autre que ce dont a besoin la production.

Le design des ensembles de données mérite une dernière remarque. Si les valeurs de référence correspondent aux sorties attendues du modèle, les mesures d’évaluation évaluent la qualité de ces sorties. Si elles correspondent aux changements attendus dans l’état du système, tels que les enregistrements mis à jour, les actions déclenchées et les décisions enregistrées, elles permettent de déterminer si l’agent a bien accompli sa tâche. Le deuxième type d’ensemble de données est plus coûteux à créer, mais bien plus utile.