Inférence causale dans la production : cinq étapes et les domaines où les agents d’IA sont utiles.

L’inférence causale a longtemps été rigoureuse mais rarement mise en œuvre. L’argument présent ici est spécifique : l’IA agente la rend pour la première fois gérable à l’échelle des entreprises. Il s’agit d’une affirmation technique, qui nécessite donc une approche technique, c’est-à-dire une analyse des cinq étapes requises pour mettre un modèle causal en production, une explication des raisons pour lesquelles chacune d’elles constituait un goulot d’étranglement avant l’apparition d’agents IA capables, ainsi que la description des changements survenant lorsque ces agents rejoignent le processus. Leurs modes de défaillance reçoivent une attention égale, car les faiblesses de cette architecture comptent autant que ses forces.

Ce n’est pas un tutoriel et il n’existe pas de méthode pas à pas. La valeur réside dans le raisonnement et dans la compréhension des raisons pour lesquelles la configuration diffère, et non simplement dans le fait qu’elle diffère.

Ce dont a besoin l’inférence causale

Avant d’examiner ce que modifient les agents, il est utile de déterminer précisément ce que la méthode exige. Le cadre utilisé est le Modèle Causal Structuré (MCS) de Judea Pearl, l’approche formelle de référence pour le raisonnement causal en statistiques et en apprentissage automatique. Un MCS décrit un système à l’aide de variables et d’une équation structurale par variable, chacune indiquant comment les causes de cette variable la déterminent. La structure est représentée sous forme de graphe acyclique orienté (GAO), avec des nœuds pour les variables et des arêtes orientées pour les liens causaux directs. Il s’agit d’un graphe acyclique car aucune variable n’est censée se causer elle-même au sein de la fenêtre temporelle pertinente.

L’opération de base est l’opérateur do, noté do(X = x). Il représente une intervention par laquelle la variable X est contrainte à prendre la valeur x, la coupant de ses causes normales. Le calcul do de Pearl, un ensemble complet de règles d’inférence, permet alors de calculer l’effet de telles interventions à partir de données observables une fois le graphe connu. C’est ce qui confère à ce cadre son pouvoir : la question « et si nous changeons X ? » trouve sa réponse sans avoir à mener d’expérience.

Le déploiement en production se déroule en cinq étapes, chacune ayant historiquement constitué un goulot d’étranglement majeur.

Étape 1 : choisir les variables

Décider quels éléments intégrer dans le modèle semble simple, mais ce n’est pas le cas. Dans un système financier, l’ensemble des variables potentiellement pertinentes est énorme : indicateurs macroéconomiques, états financiers des entreprises, métriques réglementaires, scores ESG, mesures de la microstructure du marché, signaux de sentiment, et bien d’autres encore. Trop de variables créent des relations artificielles et rendent le graphe impossible à identifier. Trop peu d’entre elles omettent des facteurs de confusion importants et faussent les estimations des effets.

La solution traditionnelle consiste en ateliers avec des experts, des actuaires, des responsables des risques et des gestionnaires de portefeuille, afin de débattre des variables qui comptent et pourquoi. Cela a de la valeur, mais c’est lent, coûteux et dépend des personnes présentes. Une variable évidente pour un expert peut ne jamais venir à l’esprit d’un autre.

Ce que ces agents modifient, c’est l’étendue de la première analyse. Ils permettent de traiter une grande quantité de documents pertinents, tels que des articles académiques, des directives réglementaires et des rapports sectoriels, afin de proposer des variables candidates accompagnées de citations. Ils peuvent identifier les variables que la littérature considère comme des facteurs déterminants d’un résultat, marquer celles qui sont généralement perçues comme des biais, et intégrer des connaissances inconnues des autres participants. L’expert passe alors de la compilation d’une liste à l’examen et au affinage d’une proposition issue de recherches, ce qui est plus rapide et dépend moins des connaissances d’une seule personne.

Une limite essentielle existe : ces agents ne peuvent que proposer des variables, mais pas les valider. Par conséquent, des experts du domaine qui comprennent bien le secteur doivent approuver la liste finale. La lecture de toute la littérature sur l’ESG et les performances ne fournit à un modèle aucune information sur les variables présentes dans votre infrastructure de données, ni sur celles que votre équipe de conformité accepterait dans une demande réglementaire.

Étape 2 : spécification de la structure causale

Il faut ensuite spécifier la structure causale : quelles variables causent lesquelles, et dans quelle direction. C’est l’étape la plus difficile et, historiquement, la plus coûteuse. Il existe deux grandes familles de méthodes. Les algorithmes basés sur des contraintes, tels que l’algorithme PC de Spirtes, Glymour et Scheines, infèrent la structure à partir de tests d’indépendance conditionnelle sur les données. Les méthodes basées sur des scores recherchent parmi les graphes candidats celui qui correspond le mieux à un critère de qualité de fit. Chacune présente des limites bien connues. Les approches basées sur des contraintes sont sensibles à l’hypothèse de fidélité et à la taille de l’échantillon, tandis que la recherche basée sur des scores constitue un problème combinatoire qui devient intraitable à mesure que le nombre de variables augmente. Aucune de ces méthodes ne produit un seul graphique unique à partir des données observées. Le meilleur résultat atteignable est une classe d’équivalence de Markov, c’est-à-dire des graphes que les statistiques ne peuvent pas distinguer.

Ainsi, la découverte automatisée permet de réduire le nombre de graphes plausibles, mais elle ne peut pas déterminer la structure finale sans des informations provenant du domaine concerné. La direction des arêtes, souvent la propriété la plus importante, ne peut fréquemment pas être déduite uniquement à partir des données et doit être fournie par un expert.

Ce que les agents modifient, c’est la vitesse d’itération. On peut exécuter plusieurs algorithmes de découverte, comparer leurs résultats, marquer les arêtes sur lesquelles les méthodes diffèrent et fournir à l’expert une liste structurée des choix possibles : les arêtes sur lesquelles toutes les méthodes s’accordent, les arêtes contestées, ainsi que les arêtes que les données soutiennent mais qui entrent en conflit avec des connaissances spécifiques au domaine. L’expert n’a plus besoin d’exécuter des algorithmes ni de lire des résultats bruts ; il peut plutôt formuler des demandes clairement définies. Le nombre de décisions reste inchangé, mais chacune coûte moins cher.

Le mode de défaillance à surveiller concerne un agent qui propose un seul graphique « optimal » tout en cachant l’incertitude. Les données ne permettent pas de déterminer de manière unique les graphes causaux ; par conséquent, tout système qui présente une structure comme un fait et non comme une hypothèse déforme la nature épistémique du problème.

Étape 3 : validation du graphique

Un graphique causal est un ensemble d’hypothèses. Chaque arête indique qu’une variable provoque directement une autre. Chaque arête manquante signifie que deux variables ne sont pas directement liées, une fois tous les autres éléments du graphique pris en compte. Ces affirmations peuvent être fausses, et le coût des erreurs peut être élevé.

La validation combine généralement une analyse du domaine, visant à déterminer si le graphe semble logique aux experts, et des tests statistiques pour vérifier si les indépendances conditionnelles impliquées par le graphe sont respectées dans les données. Ce dernier type de test repose sur la séparation d’ordre d’Erdős : un graphe indique que certaines paires de variables sont conditionnellement indépendantes étant donné d’autres variables, et ces implications peuvent être testées.

L’analyse de sensibilité pose une question similaire : dans quelle mesure les estimations des effets changent-elles si le graphe est modifié par l’ajout d’une arête, le changement de direction d’une arête ou l’introduction d’un facteur de confusion non mesuré ? Cela est important car un graphe est toujours une approximation de la réalité, et il est nécessaire de savoir quelles conclusions résistent à cette approximation et lesquelles sont fragiles.

Auparavant, cette étape nécessitait un statisticien spécialisé pour effectuer les tests, interpréter les résultats et les transformer en modifications graphiques, ce qui constituait un processus lent et itératif. Les agents automatisent cet ensemble de tests : on peut y exécuter tous les tests d’indépendance conditionnelle implicites, identifier les violations, déterminer quels arêtes chacune de ces violations concerne et générer un rapport structuré. Ils peuvent également effectuer des analyses de sensibilité en variant les poids des arêtes, en ajoutant des facteurs de confusion hypothétiques et en vérifiant la stabilité des estimations, avant de résumer les résultats. Le statisticien passe ainsi de l’exécution des tests à l’interprétation d’un rapport diagnostique structuré.

Étape 4 : requêtes interventionnelles

C’est ici que le modèle causal devient vraiment utile. Une requête interventionnelle demande la valeur attendue du résultat Y lorsque la variable X est fixée à la valeur x, ce que la notation de Pearl exprime ainsi :

Cela diffère de l’attente conditionnelle que l’on obtient avec une régression standard :

Le calcul des requêtes interventionnistes implique l’application du calcul do, qui se compose de trois règles permettant de réécrire les expressions contenant l’opérateur do en expressions calculables à partir de la distribution observationnelle, compte tenu du graphe. Pour des graphes simples, cela est direct. Avec de nombreuses variables, plusieurs cibles d’intervention et une structure en séries temporelles, cela peut nécessiter des calculs algébriques complexes.

Considérons une question commerciale du type « Que se passe-t-il avec notre taux de perte si nous changeons notre structure de tarification ? » Avant l’apparition des agents, quelqu’un devait la transformer en une requête interventionniste formelle et la calculer à partir du modèle, et seuls des spécialistes connaissant à la fois le domaine commercial et les mathématiques pouvaient le faire. Ce coût de conversion est la raison principale pour laquelle l’inférence causale est restée confinée aux universités.

Les agents modifient la couche de traduction. On peut prendre une question commerciale formulée en langage simple, identifier les variables concernées, écrire l’expression do correspondante, appliquer le calcul do pour aboutir à une valeur estimable et retourner un résultat accompagné d’une explication claire. L’expert du domaine n’a pas besoin de connaître le calcul do et doit simplement juger si sa question a été traduite correctement, ce qui représente un critère bien plus bas.

Le mode de défaillance : un agent qui répond à la mauvaise question avec assurance. Les formulations commerciales s’adaptent souvent soit à une interprétation conditionnelle, soit à une interprétation interventionniste. « Que se passe-t-il pour notre taux de perte lorsque les scores ESG sont élevés ? » peut signifier ce qui se produit dans les cas où les scores sont effectivement élevés (interprétation conditionnelle), ou ce qui se produit si les scores sont artificiellement élevés (interprétation interventionniste). Ces deux interprétations donnent des réponses différentes, donc un agent qui ne met pas en évidence cette ambiguïté et ne laisse pas l’utilisateur choisir constitue un risque.

Étape 5 : la trace d’audit

Dans les industries réglementées, le résultat d’une analyse n’est pas seulement la réponse. C’est la réponse accompagnée de toute la chaîne de raisonnement qui la sous-tend, et chaque hypothèse de modélisation, transformation de données et choix analytique doit être documenté et justifiable.

Les modèles causaux exigent encore plus. Un enregistrement complet couvre six éléments : les raisons pour lesquelles chaque variable a été choisie, la manière dont le graphique est organisé et ce qui soutient chaque arête, les tests de validation effectués et leurs résultats, les requêtes d’intervention précisément exécutées, ainsi que les décisions commerciales auxquelles chaque requête a donné lieu. Rédiger tout cela manuellement entraîne souvent des lacunes et des incohérences, et cela se produit généralement a posteriori.

Avec les agents, le suivi peut être automatique et effectué au fur et à mesure que les événements se produisent. Chaque action, qu’il s’agisse d’une recherche bibliographique, d’un exécution d’algorithme, d’une modification de graphe ou d’une requête, est enregistrée avec une date et heure, les entrées, les sorties et le raisonnement associés. La documentation devient ainsi un sous-produit du processus et non une tâche distincte. Pour une soumission réglementaire ou un audit interne, ce n’est pas un simple avantage mineur : cela permet de distinguer une analyse qui peut être défendue d’une autre qui ne peut pas être reconstituée.

Ce que les agents ne peuvent pas faire

Ces limites méritent d’être exposées clairement.

• Ils ne peuvent pas déduire une structure causale à partir uniquement des données. La direction des arêtes est souvent indéterminée par les données observables, et davantage de calculs ne change rien à cela. L’expertise sectorielle joue un rôle essentiel dans cette conception.
• Ils ne peuvent pas vérifier leurs propres traductions. Un agent peut transformer à tort une question commerciale en requête formelle, et le faire avec assurance. L’examen humain à l’étape 4 constitue la principale défense contre une catégorie d’erreurs qui ne se manifestent pas dans le résultat final mais affectent néanmoins la décision.
• Ils ne remplacent pas les données expérimentales. Le calcul do ne permet d’obtenir des effets d’intervention à partir de données observables que sous certaines hypothèses, principalement un graphe correctement spécifié et l’absence de facteurs de confusion non mesurés. Lorsque ces hypothèses ne sont pas remplies, les estimations peuvent être très erronées. Les agents ne peuvent pas déterminer quand ces hypothèses sont violées. Seuls les connaissances du domaine, et en dernier recours, des preuves expérimentales, le permettent.

Pourquoi cela reste important

Le argument en faveur de cette architecture n’est pas que l’inférence causale devienne facile. Ce n’est pas le cas. L’argument est qu’elle devient réalisable, car les barrières de coût qui ont empêché une méthodologie rigoureuse et bien établie d’être mise en œuvre pendant trente ans disparaissent.

La méthodologie n’est pas nouvelle, mais l’infrastructure l’est. Les organisations qui combinent les deux, avec des agents gérant la couche de traitement et des experts du domaine assurant la couche de jugement, créent quelque chose que l’IA basée sur les corrélations ne peut égaler : un modèle rigoureux, auditable et valable pour les interventions, des systèmes qu’elles exploitent. Dans les industries réglementées, cela vaut la peine d’être mis en place, et l’opportunité de le faire en premier est désormais disponible.