Prompt, Contexte, Mécanismes d’exploitation, Boucle : les quatre niveaux qui sous-tendent un agent d’IA

Une question fréquente : si un modèle de chat n’est rien d’autre que des mots en entrée et des mots en sortie, comment les agents d’IA peuvent-ils réserver des vols ou écrire du code ? La réponse se trouve en quatre niveaux, chacun étant nécessaire car le niveau inférieur ne suffit pas à expliquer seul le fonctionnement d’un agent. Une façon concise de les relier : un bon prompt sans contexte, c’est comme une belle phrase prononcée dans une pièce vide. Un excellent contexte sans cadre de contrôle, c’est un plan parfait sans mains pour l’exécuter. Un cadre complet sans mécanisme de feedback, c’est un travailleur compétent qui doit encore attendre que quelqu’un lui dise constamment « maintenant, la tâche suivante ».

Niveau un : le prompt

La unité de travail ici est une seule entrée. Le modèle ne se souvient de rien avant l’appel, donc le prompt doit contenir tout ce dont il a besoin : un rôle, un contexte, des instructions, des exemples et un format de sortie, le tout regroupé dans un seul message. Lorsque les résultats sont décevants, l’art réside dans la détermination de l’élément qui ne fonctionne pas et non dans la réécriture de tout.

Le kit d’outils est considérable :

• Le prompting zéro-shot demande directement sans exemples, en espérant que le modèle comprenne.
• Le prompting peu-échantillonné fournit deux ou trois exemples d’entrée-sortie, et le modèle en tire des schémas de correspondance.
• Le chain-of-thought demande au modèle de raisonner étape par étape d’abord, ce qui peut aider considérablement pour les problèmes de mathématiques, de logique ou à plusieurs parties.
• Le prompting par rôle, comme « vous êtes un éditeur senior » ou « vous êtes un réviseur sceptique », modifie le ton et le niveau de rigueur.
• Les incitations métas et la cohérence interne s’appuient sur ces éléments pour résoudre des problèmes plus difficiles.

Tout cela revient à fournir de bonnes instructions, à l’image d’un e-mail clair, et cela répond à une question précise : quels mots utiliser immédiatement pour cette demande ? Une incitation soigneusement rédigée pour un résumé de recherche peut produire un résultat précis, bien structuré et sans éléments superflus.

La faiblesse apparaît avec des demandes ultérieures. Si l’on pose une question dans la même conversation en faisant référence à un point situé trois messages en arrière, le modèle peut complètement l’ignorer et répondre avec assurance à une question légèrement différente. Il ne se souvient pas du contexte dans lequel il se trouve. Une bonne formulation s’avère nécessaire mais insuffisante, car quelque chose dans la phase préalable à l’incitation fait défaut.

Pourquoi ne pas continuer simplement à créer des prompts de meilleure qualité ? Parce que l’ingénierie des prompts a été conçue pour des tâches ponctuelles : poser une question, obtenir une réponse, c’est tout. Lorsque l’objectif exige des actions sur plusieurs étapes, la mémoire des événements, l’utilisation d’outils ou le fonctionnement sans que quelqu’un tape chaque instruction, la formulation astucieuse cesse d’être le goulot d’étranglement. Le goulot d’étranglement devient alors tout ce qui l’entoure. L’importance des prompts ne disparaît pas pour autant ; elle cesse simplement d’être l’élément central.

Deuxième niveau : le contexte

Ici, l’unité de travail correspond à ce qui reste à l’intérieur de la fenêtre du modèle à chaque étape. La fenêtre est finie tandis que les informations disponibles ne le sont pas, ce qui rend la sélection essentielle. Sans elle, des détails importants disparaissent sous les résultats obsolètes des outils et les anciennes discussions, ce qui détériore l’attention du modèle. Un curateur décide de ce qui reste, compresse ce qui est utile mais volumineux et jette le reste. L’art réside dans le savoir-faire pour savoir ce qu’il faut éliminer, et non dans tenter d’y inclure davantage.

La pièce dans laquelle se trouve le modèle a un nom : le contexte. Cela désigne tout ce que le modèle voit lors d’une appel donné, et non seulement le prompt : les instructions système, les documents récupérés, les définitions des outils, l’historique de la conversation, la mémoire à long terme ainsi que les résultats précédents des outils. L’ingénierie du contexte peut être résumée comme la sélection de ce que le modèle voit afin d’obtenir de meilleurs résultats. L’élaboration du prompt concerne le choix des mots à utiliser, tandis que l’ingénierie du contexte porte sur ce que le modèle sait à ce moment précis.

Une analogie tirée du bâtiment est utile. En engageant un entrepreneur pour une journée, on peut lui remettre une commande de travail parfaitement rédigée, mais sans plan d’ensemble, l’historique des permis et les notes de l’inspection d’hier, cette rédaction ne suffira pas à résoudre le problème. L’entrepreneur fera alors les mauvaises choses avec assurance. Cela reflète l’échec mentionné précédemment : le modèle n’était pas stupide, il était simplement mal informé. La plupart des échecs des agents sont dus à un manque de contexte, et non au modèle lui-même. Le modèle fonctionne bien, mais personne n’a fourni le plan d’ensemble.

La solution évidente consiste à lui fournir tout : toute la conversation, chaque document, chaque interaction antérieure. Plus d’informations, meilleure réponse. Les spécialistes ont constaté le phénomène inverse et lui ont donné un nom : la dégradation du contexte. Même les modèles dotés de fenêtres très larges se dégradent de manière mesurable lorsque celles-ci se remplissent de matériel à peine pertinent. Le modèle ne manque pas d’espace. Le signal se noie dans le bruit, et les détails irrelevants commencent à être considérés comme importants. L’instruction à suivre est de fournir le dossier approprié et non tout le classeur. En une phrase, la discipline à appliquer est la curatelle plutôt que l’accumulation : décider de ce qui doit entrer dans la « pièce » et, tout aussi important, de ce qui doit rester à l’extérieur.

Même avec une pièce parfaitement organisée, une deuxième limite apparaît rapidement. Un contexte sans défaut permet de définir un plan élégant pour la suite, puis le modèle s’arrête simplement. Il ne peut pas ouvrir le fichier, exécuter le code ni vérifier si le plan a fonctionné. C’est comme un entrepreneur disposant d’un plan parfait mais sans mains pour l’appliquer.

La troisième couche : le harnais

La unité de travail est désormais la machine elle-même. Un modèle pur ne génère que du texte. Le harnais le transforme en quelque chose capable d’agir, de vérifier son propre travail et de se remettre d’une panne, grâce à trois phases :

• Réunir : assembler ce qui est nécessaire.
• Agir : exécuter le modèle, appeler des outils ou des sous-agents.
• Vérifier : contrôler le résultat à l’aide de tests ou d’un juge.

En cas d’échec, tout le cycle est réessayé avec un contexte mis à jour. C’est cette différence qui distingue l’appel à une API de l’exécution d’un agent.

Une formule utile : agent = modèle + harnais. Tout ce qui entoure le modèle compte comme harnais, c’est-à-dire le code, la configuration ainsi que la logique d’exécution. Cela inclut les outils pouvant être appelés, la mémoire lisible et écrivable, les limites imposées aux actions autorisées, l’orchestration qui choisit l’étape suivante, ainsi que l’état qui persiste au-delà d’une session.

Le terme lui-même convient parfaitement. Un cheval est puissant, mais sans harnais il ne peut pas travailler dans une ferme, car des sangles et des rênes orientent sa force brute vers un travail utile. Remplacez le cheval par un modèle : il possède l’intelligence, mais sans outils, mémoire, contraintes et orchestration, cette intelligence n’a nulle part où s’exprimer.

Un élément permet de redéfinir la situation. Le harnais ne rend pas le modèle plus intelligent. En remplaçant le modèle par un meilleur, le harnais reste inchangé, car il s’agit d’une composante interchangeable en arrière-plan et non du cœur du système. Ce qu’il apporte, c’est de la structure : un modèle astucieux ne possédant pas d’état propre devient alors une composante au sein d’un système fermé qui prend des actions, vérifie les résultats et reprend exactement là où il s’était arrêté la veille.

Cela explique également ce que signifie le fait qu’une intelligence artificielle semble se souvenir de quelque chose entre différentes sessions. Le modèle ne se souvient pas ; l’outil de gestion a simplement noté cela quelque part avant de le restituer plus tard. Chaque appel au modèle commence à zéro, et l’outil de gestion simule la continuité en récupérant les notes d’hier, la liste des tâches d’aujourd’hui ainsi que l’état du système de fichiers, puis en les transmettant toutes comme contexte avant que le modèle ne commence à réfléchir. L’ingénierie du contexte et l’ingénierie de l’outil de gestion sont donc étroitement liées, car c’est l’outil de gestion qui décide quel contexte sera assemblé à chaque appel.

Quatrième couche : la boucle

Un modèle doté d’outils et de mémoire semble représenter le sommet. Que pourrait encore avoir besoin un agent ? Un rythme de fonctionnement. L’ingénierie des boucles constitue la couche la plus récente, dont le nom évolue au fur et à mesure que les gens la développent.

Voici l’écart. Même avec un harnais complet, quelqu’un doit toujours s’asseoir devant le clavier pour décider de ce que l’agent doit faire ensuite : taper une instruction, lire le résultat, choisir la prochaine instruction, et ainsi de suite. Il s’agit donc d’une intervention humaine à chaque étape, constamment.

Le génie des boucles remplace cet échange manuel par un système qui gère le cycle de manière autonome : réfléchir, agir, observer ce qui s’est passé, choisir la prochaine action, recommencer, sans qu’aucune personne n’ait à réécrire les instructions entre-temps. Cela ressemble à la différence entre conduire une voiture et mettre en place un régulateur de vitesse. La personne n’a plus besoin d’appuyer sur l’accélérateur à chaque seconde, mais a défini ce que signifient la vitesse de croisière et l’arrêt.

Un exemple concret rend cela plus clair. Un agent chargé de corriger une erreur lit le message d’erreur, élabore un plan, modifie le code et exécute le jeu de tests. Les tests échouent encore, alors il ajuste sa méthode, modifie à nouveau le code et réexécute les tests. Ce n’est que lorsque les tests réussissent, ou lorsqu’il a essayé suffisamment de fois pour conclure qu’il est bloqué, qu’il sollicite un humain. Chacun de ces cycles constitue la boucle, et personne n’a tapé « essayer à nouveau » entre-temps.

Qu’est-ce qui peut mal se passer ? Une boucle qui fonctionne sans surveillance peut également répéter la même erreur, plus rapidement, sans que personne ne s’en aperçoive pendant un certain temps. Des conceptions minutieuses intègrent donc un système d’évaluation dans la boucle : un point de contrôle, parfois un deuxième modèle agissant en juge, qui évalue les résultats selon des critères prédéfinis. Ce n’est qu’après avoir réussi ces critères que la boucle peut considérer la tâche terminée. Une fois que plus personne ne surveille chaque étape, la vérification cesse d’être optionnelle et devient partie intégrante des fonctions de la boucle.

Tous les quatre ensemble

La stimulation consiste à dire à quelqu’un ce qu’il doit faire, une seule fois. Le contexte consiste à s’assurer que le bon dossier se trouve sur son bureau avant qu’il ne commence. Le harnais lui fournit des mains, des outils et une mémoire qui perdure tout au long du week-end. La boucle signifie qu’il n’est plus nécessaire de regarder par-dessus son épaule : il travaille, vérifie son propre résultat, réessaie si c’est incorrect, et ne vient vous voir que lorsque le travail est vraiment terminé.

Quatre questions superposées, chacune non résolue par la précédente. Ensemble, elles forment ce que les gens appellent aujourd’hui simplement un agent, comme si c’était évident et que cela resterait toujours aussi simple. Ce n’était pas le cas. Chaque couche n’est devenue claire que parce que quelqu’un a continué à demander pourquoi jusqu’à ce que les limites de la couche précédente apparaissent.

Lectures complémentaires

• Prompt, Context, Harness, Loop : les quatre couches de l’ingénierie d’un agent IA — Quatre couches imbriquées déterminent le comportement d’un agent. Découvrez ce que contrôle chacune d’elles, un exemple concret de tri sur GitHub, et pourquoi il convient de développer d’abord les composants Harness et Loop.
• Notes pratiques : votre agent de programmation n’a pas besoin d’un meilleur prompt — Guide pas à pas des Notes pratiques : votre agent de programmation n’a pas besoin d’un meilleur prompt : contrats, vérifications et emplacements prévus pour du code à insérer, destinés aux équipes utilisant ce modèle.