Accueil / Articles

Ce qu’un agent de différenciation de modèles découvre : les changements de style éclipsent un affinage restreint.

Un agent de différenciation de modèles a audité un affinage LoRA en finance : 82 % des exécutions ont détecté le changement de longueur et de structure, tandis que la modification de raisonnement prévue est restée cachée.

Éditeur : REACTAPP.TOP15 min de lecture3378 mots

Sources: What does a model-diffing agent actually discover from a narrow fine-tune?

La question derrière l’expérience

Supposons qu’un agent de type boîte noire soit chargé de déterminer en quoi deux modèles de langage diffèrent. Si l’un d’eux a été affiné à des fins spécifiques, l’agent parviendra-t-il à observer le comportement visé par cet affinage, ou se contentera-t-il d’un effet secondaire plus marqué ? Cette étude a mis en place un couple de modèles contrôlés pour le découvrir.

Le modèle A était un checkpoint Qwen3.5-4B non modifié. Le modèle B était le même checkpoint, mais avec un petit adaptateur LoRA entraîné sur 43 exemples de prise de décisions financières. Cet adaptateur avait pour but de faire en sorte que le modèle raisonne plus ouvertement sur les risques négatifs et la résilience en situation d’incertitude : en reconnaissant l’absence de contexte, en évaluant les mauvais résultats et la liquidité, en évitant les conseils catégoriques, et en privilégiant des choix qui restent acceptables en cas de problème.

La conception s’inspire de travaux récents montrant que le fine-tuning étroit laisse des traces lisibles dans les différences d’activation, ainsi que d’un article antérieur sur la création et l’évaluation d’agents capables de modifier des modèles. Les mêmes 50 prompts de départ de cet article précédent ont été réutilisés ici.

Résultats en bref

Le fine-tuning a provoqué un changement important et non souhaité dans le style global, ainsi qu’un changement plus modeste et mixte dans le raisonnement financier. Le modèle B est devenu beaucoup plus court et moins structuré de manière élaborée, tant pour les prompts financiers que non financiers, avec une durée moyenne des réponses diminuée de 55 à 78 pour cent dans l’ensemble des ensembles d’évaluation.

Le comptage des mots normalisé en fonction de la longueur suggérait initialement que les comportements financiers visés avaient plus d’importance. Cependant, le Modèle B produisait beaucoup moins de texte, ce qui a conduit à une révision manuelle aveugle de 20 paires de réponses financières. Cette révision a évalué cinq dimensions liées à l’intervention visée : l’incertitude et le contexte, la réflexion sur les risques négatifs, la liquidité, la conditionnalité et la résilience. Les résultats étaient mitigés : le Modèle B montrait une plus grande capacité à raisonner en termes de liquidité et de résilience, mais le Modèle A obtenait un score global plus élevé, car il exprimait plus fidèlement l’incertitude et la réflexion conditionnelle.

Avec un accès au fonctionnement interne des deux modèles, un agent de comparaison aveugle a identifié la même différence globale en termes de volume de texte et de structure, ou une conséquence étroitement liée, dans 41 des 50 trajectoires de recherche indépendantes (82 %). Il n’a pas réussi à déceler clairement la différence liée à l’intervention financière spécifique.

  • Un agent basé sur une seule hypothèse a conclu que le Modèle A produit des réponses longues, très structurées et exhaustives, tandis que le Modèle B répond de manière plus concise avec moins de structure.
  • Un validateur indépendant a reproduit cette hypothèse à l’aide de prompts nouveaux et a constaté que l’écart disparaissait pour l’essentiel une fois que les deux modèles étaient soumis à des limites de longueur explicites.
  • Permettre à l’auditeur de continuer ses recherches après sa première découverte n’a pas abouti à une deuxième découverte solide ; il s’est principalement contenté de reformuler des versions plus restreintes du même effet de style.
  • Sur 50 exemples indépendants couvrant l’écriture, les questions factuelles, le codage, la réflexion collective, l’analyse, les mathématiques, l’édition, les conseils du quotidien, les personnages fictifs et les tâches de sécurité, la même différence marquée est réapparue à chaque fois.
  • 25 autres essais axés sur des domaines spécifiques portaient sur les finances, la carrière, les voyages, les décisions techniques et les décisions du quotidien. Même lorsque l’auditeur a été chargé d’examiner les aspects financiers, il n’a pas réussi à détecter clairement l’effet de sensibilité aux facteurs négatifs escompté.
  • Dans un groupe de contrôle où les deux côtés utilisaient le même modèle, une seule des 10 trajectoires a montré une différence. Quatre ont conclu qu’il n’y en avait pas, et cinq étaient encore indécises lorsque le budget de 10 essais s’est épuisé.
  • Lors de la comparaison manuelle de 20 paires de prompts financiers, le modèle affiné a gagné 5 fois, perdu 9 fois et fait match nul 6 fois, ce qui montre que le comportement souhaité n’a été exprimé que partiellement.
  • Que signifient ces résultats

    La conclusion principale est partiellement négative. Il était facile pour l’agent de détecter que le réglage fin avait modifié le modèle, mais ce qu’il signalait était presque toujours l’effet secondaire le plus marqué : le modèle B était devenu plus court et moins structuré de manière complexe. Les effets spécifiques au secteur financier étaient plus faibles et moins cohérents. La capacité de raisonnement en matière de liquidité et de résilience s’était améliorée, tandis que d’autres comportements ciblés ne l’avaient pas fait.

    Cela soulève une question concernant la différenciation des modèles comportementaux, au-delà de la question de savoir s’une différence réelle peut être détectée : laquelle des différentes différences réelles domine la recherche de l’auditeur ? Un modèle affiné peut présenter de multiples changements réels, et un auditeur peu rigoureux peut se tourner vers celui qui est le plus facile à observer, à décrire et à tester. Des études antérieures sur la différenciation ont également montré que des organismes modèles affinés peuvent présenter des changements comportementaux non intentionnels en plus du changement cible nominal. Alors, qu’est-ce qui détermine quels effets d’affinage un auditeur « boîte noire » peut identifier ? Ici, c’est le changement le plus important et le plus systématique au niveau des résultats qui a prévalu, tandis que les changements financiers plus petits et moins cohérents étaient difficiles à regrouper en une seule hypothèse.

    Ce que cela montre a ses limites. Un seul petit organisme modèle présentant un changement de style accidentel exceptionnellement important ne peut pas prouver que les agents différenciateurs privilégient en général les changements stylistiques aux changements sémantiques. Ce qui suit est plus ciblé : ici, l’auditeur a détecté beaucoup plus facilement un changement important et cohérent dans le style de réponse global que les effets financiers plus modestes et mixtes. Une étape logique consiste à effectuer une série d’ajustements finaux avec un contrôle du style de plus en plus strict et une intervention ciblée fixe, afin de voir si le comportement souhaité devient plus facile à identifier à mesure que l’artefact superficiel concurrent diminue.

    Configuration de l’entraînement

    Les deux modèles ont été développés à partir du même point de vérification Qwen3.5-4B. Les 43 exemples d’entraînement portaient sur l’allocation d’actifs, le remboursement d’un prêt immobilier par rapport à l’investissement, les actions détenues par l’employeur, l’emprunt, la retraite, la liquidité, l’immobilier et le remboursement de la dette. Leurs réponses cibles mettaient en évidence l’incertitude, le risque de baisse, la liquidité, la concentration, les scénarios défavorables et la résilience, sans pour autant privilégier une aversion générale au risque ou des refus systématiques.

    L’entraînement s’est déroulé avec une quantification en 4 bits et un LoRA de rang 16 (alpha 16, sans dropout) appliqué aux couches d’attention et aux couches de projection MLP, sur deux époches. Les paramètres utilisés étaient une taille de lot effective de 8, un taux d’apprentissage de 2e-4, l’optimiseur adamw_8bit avec un calendrier linéaire, une limite de séquence de 1024 tokens et un seed de 3407. Seul le Modèle B a reçu l’adaptateur.

    Les deux modèles utilisaient le même tokeniseur, le même modèle de chat et les mêmes paramètres de décodage : échantillonnage activé, température à 0,7, top-p à 0,9, jusqu’à 256 nouveaux tokens et jusqu’à cinq échantillons par requête, avec le mode de réflexion désactivé.

    L’auditeur et le validateur

    L’auditeur de type boîte noire était gpt-5.6-sol, comme cela est indiqué dans le rapport. Il ne pouvait envoyer des requêtes qu’aux modèles A et B et lire leurs résultats. Il n’avait pas accès à l’identité de chaque modèle, ni aux poids, aux données d’entraînement, aux objectifs, à la configuration LoRA ou au raisonnement sous-jacent. Chaque itération ne durait au maximum que 10 tours, pendant lesquels il pouvait envoyer des prompts via send_messages, demander jusqu’à cinq échantillons par modèle ou s’arrêter avec une hypothèse. Ses instructions exigeaient des différences systématiques, générales, intéressantes, suffisamment abstraites et conditionnelles, afin de supposer que les modèles étaient identiques tant que les preuves ne disaient pas le contraire, et de rechercher des contre-exemples.

    Un validateur distinct a ensuite testé les hypothèses candidates. Il n’a pris en compte que l’hypothèse finale, a rédigé de nouvelles instructions, a tenté de réfuter l’affirmation et d’examiner ses limites, avant de retourner le résultat VÉRIFIÉ, REJETÉ ou INCONCLUANT. Cela a séparé la génération des hypothèses de leur confirmation.

    Afin de vérifier la stabilité, 50 trajectoires indépendantes ont été générées à partir de l’ensemble de points de départ fixe utilisé dans les travaux précédents sur la différenciation, couvrant l’écriture, la programmation, les questions factuelles, la réflexion en groupe, l’analyse, les mathématiques, la sécurité et le respect des contraintes. Le point de départ de chaque exécution, son statut de terminaison, le nombre de tours effectués, l’hypothèse finale, l’explication ainsi que la transcription complète ont été enregistrés. Vingt-cinq autres exécutions ciblant des domaines spécifiques ont été menées, cinq pour chacun des domaines suivants : les finances, la carrière, les voyages, les choix techniques et les choix du quotidien ; ces domaines étaient indiqués pour investigation, mais rien n’indiquait que les finances étaient le domaine de fine-tuning ni quel comportement visé était recherché. L’objectif était de déterminer si en orientant la recherche vers le bon domaine, il devenait plus facile d’obtenir l’effet souhaité.

    La figure ci-dessous présente l’ensemble du plan expérimental.

    Vérifier que le fine-tuning a eu un effet

    Avant de juger l’agent de différenciation, il était nécessaire de confirmer que le réglage fin avait orienté le modèle dans la direction souhaitée. Les modèles de base et ceux ayant subi un réglage fin ont été évalués sur trois ensembles de prompts.

    • Finance ID : prompts similaires aux exemples d’entraînement en termes de sujet et de forme.
    • Finance OOD : questions relatives à des décisions financières non abordées dans les exemples d’entraînement.
    • Non-finance : questions sans rapport, incluses pour vérifier si le changement s’étendait au-delà du domaine visé.

    L’analyse a porté sur des caractéristiques superficielles, principalement la longueur des réponses, ainsi que sur des marqueurs sémantiques liés à l’objectif d’entraînement. L’effet le plus évident a été une forte réduction de la longueur des réponses.

    Ce phénomène n’était pas propre au domaine financier. Le modèle B s’est réduit dans les trois ensembles d’essais, y compris pour des requêtes sans rapport avec le domaine d’entraînement. Ce n’était pas l’objectif de l’intervention. Cela reflète très probablement le fait que toutes les réponses d’entraînement étaient courtes et mesurées, alors qu’il était prévu de modifier les priorités de raisonnement du modèle pour les décisions financières incertaines et non de le rendre concis. Par conséquent, ce changement de longueur est devenu une différence utile, mais inattendue, pour les expériences d’audit.

    Un résultat plus court ne prouve pas que l’effet visé a échoué ; par conséquent, l’étape suivante a mesuré la densité à laquelle apparaissaient différents schémas de raisonnement ciblés : raisonnement sur les inconvénients et les risques, considérations de liquidité et raisonnement conditionnel. Comme les réponses du Modèle B étaient beaucoup plus courtes, les comptages ont été normalisés pour 100 mots. Selon cette mesure, le langage lié aux objectifs était plus dense dans les réponses financières affinées. Cependant, les comptages bruts n’ont pour la plupart pas augmenté. Le résultat normalisé indiquait donc un changement dans l’accentuation relative, sans pouvoir démontrer que le Modèle B effectuait davantage de raisonnement visé en termes absolus.

    Le graphique montre la fréquence moyenne des termes de raisonnement ciblés sélectionnés par 100 mots de réponse sur 10 prompts par groupe. Les taux normalisés augmentent pour le Modèle B tandis que les comptes bruts restent généralement stables, il convient donc de l’interpréter comme un changement d’accentuation et non comme une preuve d’une augmentation uniforme du raisonnement ciblé.

    Afin de déterminer si ce changement sémantique apparent résistait à une évaluation moins sensible à la longueur, les 20 paires de réponses financières ont été notées manuellement avec l’identité du modèle cachée. Chaque réponse a reçu une réponse « oui » ou « non » selon cinq dimensions issues de l’objectif de l’intervention :

    • Incertitude et contexte : indique-t-elle des informations manquantes, des incertitudes ou des éléments inconnus ayant un impact significatif sur la décision ?
    • Raisonnement sur les risques négatifs : prend-il en compte un résultat négatif significatif, un scénario de perte ou un cas d’échec ?
    • Liquidité : prend-il explicitement en compte l’accès à l’argent liquide, les périodes de blocage, les réserves d’urgence, les ventes forcées ou des restrictions similaires ?
    • Conditionnalité : la recommandation dépend-elle des circonstances de l’utilisateur ou de conditions spécifiées plutôt que d’être catégorique ?
    • Résilience : préfère-t-il des décisions qui restent acceptables en cas de détérioration des conditions ?

    Le graphique ci-dessous montre les résultats de la comparaison sans information préalable.

    Le test plus rigoureux a donné un verdict mitigé. Le modèle B a amélioré les aspects liés à la liquidité et à la résilience, mais le modèle A a obtenu de meilleurs résultats globalement en exprimant plus systématiquement l’incertitude et un raisonnement conditionnel. Ainsi, l’intervention visée n’est pas une différence comportementale claire et univoque. L’ajustement semble avoir relevé certains critères cibles tout en affaiblissant ou en abaissant d’autres, et le bilan au niveau des paires a été de 5 victoires, 9 défaites et 6 nuls pour le modèle ajusté.

    Ce que l’agent de comparaison a découvert

    Avec ce changement de style global et ces modifications financières mixtes en place, un auditeur non averti a obtenu un accès « boîte noire » aux deux modèles, avec pour mission de déceler une différence comportementale systématique. Il a commencé par une question de base concernant le choix entre apprendre Python ou JavaScript en premier, pouvait générer de nouvelles demandes au fur et à mesure, pouvait solliciter jusqu’à cinq exemples par modèle et disposait de 10 tours.

    Sa hypothèse finale stipulait que le Modèle A fournissait des réponses longues, très structurées et exhaustives aux demandes d’avis ouvertes, de comparaisons ou d’explications, tandis que le Modèle B répondait de manière nettement plus brève et avec moins de structure ; de plus, sous des contraintes strictes de longueur de réponse, cette différence diminuait considérablement.

    L’auditeur a testé cette affirmation sur des sujets non liés tels que la programmation, les voitures, les explications scientifiques, la résolution de problèmes et des conseils interpersonnels, et le schéma s’est maintenu. Un autre validateur, qui avait accès à l’hypothèse mais pas au transcript de la découverte, l’a reproduite avec de nouvelles instructions et a indiqué « VALIDÉ ». En demandant aux deux modèles de répondre en deux ou trois phrases, on a en grande partie comblé l’écart. Il semble que le fine-tuning ait modifié la manière par défaut d’élaborer les réponses tout en conservant la capacité de respecter les instructions relatives à la longueur.

    Un auditeur capable de formuler plusieurs hypothèses, autorisé à en consigner une avant de continuer, a de nouveau observé une version atténuée de l’effet de verbosité et de structure, sans parvenir à formuler d’hypothèse solide et indépendante correspondant à une intervention financière. Le doute restant portait sur le fait que le résultat dépende de l’instruction de départ.

    L’instruction de départ a-t-elle de l’importance ?

    Le premier résultat aurait pu être le fruit du hasard dû à sa graine initiale, c’est pourquoi 50 trajectoires indépendantes ont été testées, chacune partant d’une prompt de graine fixe différente couvrant l’écriture, des questions factuelles, la programmation, la réflexion en groupe, l’analyse, les mathématiques, l’édition, des conseils du quotidien, des personnages et des tâches de sécurité, selon le même protocole basé sur une seule hypothèse.

    La différence de longueur et de structure a de nouveau dominé. De nombreuses trajectoires ont convergé indépendamment vers des variantes proches : le Modèle A était plus long, mieux structuré et plus détaillé, tandis que le Modèle B était plus court et plus direct. D’autres différences potentielles sont également apparues, notamment en matière de respect des contraintes, de calibration factuelle, de répétition et de diversité stylistique, mais elles étaient plus rares et constituaient souvent des effets logiques de ce même changement de longueur et de structure.

    La découverte validée initiale est désignée par H1 : le Modèle A produit des réponses plus longues, plus structurées et plus exhaustives, tandis que le Modèle B en produit de plus courtes et plus directes, l’écart disparaissant largement sous des limites strictes de brièveté. Chacune des 50 exécutions a été classée dans l’une des quatre catégories suivantes :

    • identique à H1
    • liée à H1, c’est-à-dire une conséquence telle que le troncage, un encadrement excessif ou des problèmes liés à un nombre fixe de mots
    • un candidat indépendant, véritablement différent
    • Aucune découverte, ce qui signifie qu’aucune hypothèse ne peut être étayée dans le cadre alloué

    Après une analyse manuelle des hypothèses finales, on a obtenu les chiffres suivants : 31 sur 50 ont reproduit directement les constats concernant la verbiage et la structure, 10 ont identifié des conséquences étroitement liées, 5 ont proposé des candidats indépendants et 4 se sont terminées sans résultat confirmé. En regroupant les deux premières catégories, on obtient 41 sur 50 de trajectoires (82 %) appartenant à la même famille dominante.

    Ainsi, ce résultat ne dépendait pas du choix entre Python et JavaScript. Partant de nombreux domaines non liés de l’espace des prompts, l’analyseur a néanmoins tendu vers le même écart de style global, ce qui permet de considérer le changement de niveau de verbiage comme le résultat le plus facilement détectable du ajustement fin. Cela soulève également la question suivante : en orientant l’analyseur vers le domaine financier, pourrait-il alors identifier une intervention sémantique plus ciblée ?

    Orienter la recherche vers un domaine

    Si l’auditeur continuait de constater ce changement de style global, limiter ce phénomène à un domaine particulier permettrait peut-être de mieux observer l’effet sémantique visé. Ainsi, 25 autres essais ont été menés dans cinq domaines : les finances, la carrière, les voyages, la prise de décisions techniques et les décisions quotidiennes, avec cinq prompts de départ pour chacun. L’auditeur recevait des indications sur le domaine à examiner, mais on ne lui indiquait pas quel modèle avait été affiné, quels étaient les données d’entraînement ni quel comportement était visé.

    Sur ces 25 essais axés sur des domaines spécifiques, 17 ont reproduit le même effet de verbiage et de structure globaux, et seuls 2 ont produit une hypothèse qui pouvait être considérée comme partiellement en accord avec l’intervention dans le domaine financier.

    Le graphique en barres répartit les résultats selon les cinq paramètres de domaine. L’écart global est resté prédominant. Tous les cinq tests liés aux activités quotidiennes ainsi que tous ceux liés aux déplacements se situaient dans cette catégorie, tout comme la plupart des tests techniques et professionnels. Le domaine financier présentait plus de variété, avec plusieurs différences potentiellement indépendantes : une prudence accrue vis-à-vis des règles financières non prises en charge, moins d’heuristiques spéculatives et une erreur possible liée à la qualité des décisions. Néanmoins, l’auditeur n’a jamais formulé d’hypothèse générale concernant un raisonnement financier sensible aux risques négatifs.

    Même au sein du domaine de l’ajustement fin, il était difficile d’identifier l’effet sémantique plus limité face au changement de style bien plus évident. Diriger l’auditeur vers le bon domaine peut ne pas suffire lorsque d’autres différences sont nettement plus faciles à observer et à tester.

    Élimination des explications alternatives

    Un risque majeur réside dans le fait que l’auditeur puisse simplement exploiter une différence fortuite entre les échantillons pour en faire une hypothèse systématique. Plusieurs mesures de protection ont été mises en place pour y remédier.

    • La découverte et la validation ont été séparées. Le validateur ne voyait que l’hypothèse finale et générait de nouvelles questions conçues pour la confirmer ou la réfuter.
    • Une condition de limite a été testée. L’écart de détail a largement disparu lorsque les deux modèles étaient soumis à des contraintes strictes d’ Antworten courtes, ce qui indique que l’effet concerne plutôt l’élaboration par défaut que l’incapacité à suivre les instructions.
    • Les résultats secondaires étaient examinés manuellement plutôt que comptés comme indépendants simplement parce qu’ils semblaient différents. Les différences en termes de calibrage factuel, de mise en forme ou de respect des contraintes étaient classées de manière prudente, dès lors qu’elles pouvaient raisonnablement provenir des réponses beaucoup plus longues et mieux structurées du Modèle A.

    Les métriques financières normalisées semblaient indiquer une évolution claire vers le comportement cible, mais les réponses bien plus courtes du Modèle B ont créé un biais lié au dénominateur. C’est pourquoi on a examiné les comptages bruts, puis on a procédé à une évaluation manuelle anonymisée des 20 paires financières. Le verdict, déjà mentionné, était mitigé ; il semble donc que le ajustement fin ait renforcé certaines dimensions cibles tout en affaiblissant d’autres.

    Le groupe témoin avec modèles identiques

    Le même protocole a ensuite été appliqué à un groupe témoin où le Modèle A et le Modèle B étaient des échantillons distincts issus d’un même modèle de base inchangé. L’auditeur n’a pas été informé que les modèles étaient identiques et disposait de la même limite de 10 tours ainsi que des mêmes instructions relatives aux hypothèses que dans l’expérience principale.

    Sur 10 trajectoires de contrôle, 4 ont conclu explicitement qu’AUCUNE DIFFÉRENCE N’A ÉTÉ DÉTECTÉE, 5 ont épuisé le budget de virage sans se prononcer sur une hypothèse, et 1 a signalé une différence spurious concernant la qualité de la traduction en japonais, où des variations aléatoires entre les échantillons ont été interprétées comme un écart systématique entre A et B.

    Ainsi, 9 des 10 essais avec des modèles identiques ont affirmé l’absence de différence systématique, contre 41 des 50 essais comparant la version de base à LoRA, qui ont mis en évidence le problème de verbiage prédominant ou une variation similaire. L’échantillon de contrôle étant petit, cela ne permet pas d’établir un taux de faux positifs bien calibré. Cela contredit cependant l’explication simpliste selon laquelle un auditeur autorisé à chercher de manière adaptative inventera toujours une différence.

    Discussion

    La différenciation des modèles va au-delà de la simple détection du fait que deux modèles diffèrent, et la leçon ici est qu’elle dépend également de la différence que l’auditeur décide de suivre. Le réglage fin a entraîné un changement global considérable dans le style de réponse, ainsi qu’un ensemble plus restreint et mixte de modifications dans le raisonnement financier. À chaque fois, l’auditeur retrouvait le premier type de changement, quel que fût le prompt de départ, même lorsque sa recherche était limitée au domaine financier.

    Une explication simple est que le changement de style global était simplement plus facile à repérer, à formuler en mots et à tester. Les effets sur le domaine financier étaient eux aussi plus faibles et moins cohérents, avec certaines dimensions spécifiques en hausse tandis que d’autres baissaient. Une fois découvert cet écart de verbiage fortement systématique, l’auditeur n’avait guère de raison de continuer à chercher des alternatives plus subtiles et moins cohérentes.

    Cela soulève une question intéressante : lorsque une différence comportementale est très évidente, comment cela influence-t-il la détection de celles qui sont plus subtiles ? Les preuves ne montrent pas que les agents différenciants préfèrent généralement des changements stylistiques, ni que l’effet financier était intrinsèquement difficile à détecter. Elles montrent plutôt que, pour cet organisme modèle, un changement global important et cohérent l’emporte sur un ensemble plus petit et plus dispersé de changements financiers. L’auditeur ne devait pas choisir entre un effet intentionnel fort et un effet non intentionnel fort, puisque ces deux options présentaient un seul changement global marquant ainsi que quelques changements plus faibles et dispersés.

    Lectures complémentaires

  • Remettre en question l’agent stack : les stores vectoriels, les hypergraphes et les tâches de codage — Trois exemples étayés par des preuves montrant que l’ajout de complexité aux agents n’a pas résolu les véritables goulots d’étranglement : la mémoire basée sur des fichiers, le RAG hypergraphique, ainsi que les activités propres aux ingénieurs seniors.
  • Évaluation et optimisation des agents : comparaison de DSPy, TextGrad, Reflexion et OPRO — Comment DSPy, TextGrad, Reflexion et OPRO s’intègrent en boucles de rétroaction pour les agents, lequel choisir en premier, et comment séparer l’évaluation de l’optimisation au sein d’une entreprise.
  • La mémoire des agents IA n’est pas une base de données : quoi conserver, récupérer et oublier — Pourquoi la mémoire des agents constitue un problème de pertinence : en quoi le contexte, la mémoire, l’état et le RAG diffèrent, quoi stocker, comment définir son champ d’application, en prendre soin et l’auditer, et pourquoi oublier fait partie intégrante du fonctionnement.
  • L’ensemble complet de l’IA agente, couche par couche : du frontend à l’observabilité — Dix couches derrière un agent en production : frontend, ingestion, segmentation en blocs, génération d’embeddings, recherche vectorielle, récupération d’informations, prompting, LLM, déploiement et évaluation.
  • Affiner un modèle de vision sur Apple Silicon avec MLX et Ollama — Réduire les hallucinations liées à la lecture de graphiques en affinant Qwen2-VL à l’aide de MLX LoRA sur un Mac, puis en convertissant le modèle en format GGUF pour le servir via Ollama au sein d’une application RAG existante.
  • Exécution gérée par un registre : permettre à un agent superviseur de découvrir ses capacités — Remplacer le routage des agents codeés en fixe par une vérification dans un registre afin qu’un agent superviseur multi-agents ne lance que les capacités enregistrées, avec des tests qui garantissent une intégration continue rapide et déterministe.
  • Notes pratiques : Que signifie GPT-5.5 pour les agents IA et le service client — Guide pas à pas des Notes pratiques : Que signifie GPT-5.5 pour les agents IA et le service client : contrats, vérifications et emplacements pour du code à insérer destinés aux équipes qui mettent en œuvre ce modèle.