Quinze concepts de LLM analysés à travers une seule demande de bot d’assistance

Le vocabulaire utilisé par les ingénieurs pour ces étapes (tokens, embeddings, inférence, RAG et autres) est facile à répéter mais aussi facile à mal utiliser. Ce guide présente quinze termes clés dans l’ordre de leur importance pour une demande donnée, regroupés en ce qui se passe avant même l’arrivée du client, pendant la génération de la réponse, et pour ce qui est nécessaire afin que le système puisse agir et soit fiable. Pour chaque concept, vous découvrirez ce qu’il représente, pourquoi il est important du point de vue de l’ingénierie, ainsi que le malentendu qu’il provoque le plus souvent. Considérez cette liste comme une base, et non l’ensemble du domaine ; pour une vue d’ensemble plus large des sujets à apprendre ensuite, consultez notre carte hiérarchisée des concepts d’ingénierie de l’IA.

Avant l’arrivée de la question : le modèle et sa méthode d’apprentissage

Tout ce qui se passe dans cette section s’est produit bien avant que le client n’ouvre la conversation. Cela détermine ce que l’assistant peut faire en général.

1. Modèle : une fonction d’entrée en sortie apprise

Dans le scénario de boutique, le modèle linguistique interprète la question et rédige la réponse. Cependant, le produit final comprend également une interface utilisateur, des sources de données et éventuellement des outils.

• Relevance en ingénierie : les modèles sont spécialisés. Un modèle capable d’écrire des textes fluides n’est pas automatiquement bon pour la prévision de la demande ou l’évaluation des risques de fraude.
• Erreur courante : assimiler « le modèle » à « l’application ». Le modèle n’est qu’un des composants parmi plusieurs.

2. Paramètres : les nombres qui codent le comportement

Un réseau neuronal contient un très grand nombre de valeurs ajustables appelées paramètres. Les poids en sont le type le plus souvent abordé ; les biais en constituent un autre. Ensemble, ils déterminent la manière dont les informations sont transformées au fur et à mesure qu’elles circulent dans le réseau.

Imaginez une table de mixage couverte de boutons : en les tournant, on modifie le son, et en changeant les paramètres, on modifie les sorties. L’entraînement est le processus qui permet de tourner ces boutons.

Ce qu’un modèle de langage a appris est réparti dans d’immenses tableaux numériques. Il n’existe généralement pas de lieu unique où se trouve l’information « Paris est la capitale de la France ». Certains textes d’entraînement peuvent être mémorisés mot pour mot, mais le modèle n’est pas un archive consultable des documents qu’il a vus.

• Relevance en ingénierie : le nombre de paramètres influence les besoins en stockage, en mémoire et en calcul, ainsi que les capacités du modèle. Un modèle plus grand n’est pas pour autant garanti meilleur pour une tâche spécifique.
• Erreur courante : imaginer que les paramètres constituent une base de données contenant des réponses enregistrées. Ce ne sont que des paramètres appris.

3. Entraînement : pratique avec retour d’information

L’entraînement ajuste les paramètres d’un modèle à l’aide de données et d’un objectif. Pour les modèles linguistiques, l’objectif standard est la prédiction du token suivant.

Prenons l’énoncé d’entraînement « La capitale de la France est Paris ». Le modèle voit le début du texte, produit une prédiction concernant ce qui vient ensuite, et le système d’entraînement mesure l’écart entre cette prédiction et le véritable token suivant. Les paramètres sont ensuite modifiés afin de réduire cette erreur. Répété sur un très grand nombre d’exemples, ce processus ressemble beaucoup plus à des exercices avec corrections qu’à la simple copie d’un livre dans un stockage.

Le modèle du magasin a été entraîné avant même l’arrivée de tout client. Cela lui a conféré des compétences linguistiques générales, mais rien ne garantit qu’il connaisse les règles de retour actuelles de ce magasin en particulier.

• Relevance en ingénierie : le choix des données et des formes objectives détermine à la fois ce que le modèle peut faire et les types d’erreurs qu’il commet.
• Erreur courante : supposer qu’un modèle ayant absorbé des schémas linguistiques a également vérifié les faits. Ce n’est pas le cas.

4. Transformer : l’architecture que partagent la plupart des modèles de langage

Un transformer est une conception de réseau neuronal qui combine l’attention avec d’autres couches de traitement pour transformer les représentations d’entrée en résultats utiles. Pensez à une chaîne de montage : chaque poste affine le travail qui lui est transmis plutôt que de reprendre à partir du texte brut.

Dans un modèle de langage basé sur des transformateurs, les représentations des tokens passent à travers une pile de couches répétées. L’attention fusionne les informations entre différentes positions, d’autres composants transforment la représentation de chaque position, et les informations de position permettent au modèle de distinguer « le chien mord l’homme » de « l’homme mord le chien ». La représentation finale est convertie en un score pour chaque token suivant potentiel, ces scores sont transformés en probabilités, et un token est choisi.

• Relevance en ingénierie : connaître l’architecture permet de relier les autres concepts entre eux. Les tokens alimentent le modèle, les embeddings les représentent, l’attention les relie entre eux, et la fenêtre de contexte détermine la quantité d’informations que le modèle peut prendre en compte.
• Erreur courante : confondre l’architecture avec un modèle entraîné. Un transformateur est un plan directeur ; un modèle entraîné est une instance spécifique dotée de paramètres appris.

Pendant la génération de la réponse : du texte aux tokens jusqu’à la sortie

Désormais, l’utilisateur appuie sur envoyer. Cette section décrit ce qui se passe lors de cette demande.

5. Inférence : exécution du modèle entraîné

L’inférence consiste à exécuter un modèle entraîné sur de nouvelles entrées afin d’obtenir une sortie. Si l’entraînement est de la pratique, l’inférence correspond à passer un examen.

Lorsque la question concernant les écouteurs arrive, le modèle effectue des calculs sur l’entrée fournie en utilisant les paramètres qu’il possède déjà. En mode normal, il ne se réentraîne pas à chaque message ; ses paramètres restent fixes pendant qu’il répond. Pour la génération de texte, l’inférence se déroule en boucle : on calcule les probabilités pour le token suivant, on en choisit un, on l’ajoute et on répète jusqu’à ce que la réponse soit complète. Le fonctionnement de cette étape de « choix » constitue un sujet à part entière, abordé dans notre guide sur la température, top-k et top-p.

• Relevance technique : l’inférence est le facteur déterminant de la latence et du coût de calcul par requête, ce qui influence à la fois l’expérience utilisateur et votre facture.

Erreur courante : supposer que tout ce qui est dit dans une conversation est mémorisé de manière permanente. Le modèle peut utiliser les informations du contexte actuel sans les enregistrer dans ses paramètres.

6. Token : l’unité de texte que le modèle voit réellement

• Relevance en ingénierie : le nombre de tokens détermine si l’entrée convient, la longueur possible des sorties et, fréquemment, le coût d’une appel API. Le même sens peut nécessiter un nombre différent de tokens selon les langues ou formats ; le JSON et le code, par exemple, sont souvent tokenisés différemment de la prose ordinaire.
• Erreur courante : confondre tokens et identifiants de tokens. Les tokens sont des fragments de texte ; les identifiants en sont les étiquettes numériques.

7. Embedding : le sens comme une position dans l’espace

Imaginez qu’on dispose une bibliothèque sur une carte de manière à ce que les livres traitant de sujets similaires soient proches les uns des autres. Une embedding attribue à chaque élément des coordonnées sur une telle carte, ce qui permet de mesurer la similarité. Un modèle d’embedding de recherche bien choisi pourrait placer « Comment cet article est-il renvoyé ? » à proximité de « Quelle est votre politique de retour ? », même si les deux ne partagent presque aucun mot.

Il est utile de distinguer ces deux utilisations. Au sein d’un modèle de langage, les embeddings des tokens font partie de la manière dont l’entrée est représentée. Dans un système de recherche, les embeddings des documents servent à trouver du matériel pertinent. Les idées sont liées, mais la représentation et même le modèle qui la génère diffèrent souvent.

• Pertinence technique : ce sont les embeddings qui permettent aux recherches et récupérations basées sur le sens de fonctionner.

Erreur courante : confondre la proximité avec la justesse. Le document le plus proche peut encore correspondre à une politique incorrecte, par exemple une version obsolète.

8. Prompt : les instructions et le matériel que vous fournissez

Un prompt est tout ce qui est donné au modèle pour guider sa réponse : des instructions, la question de l’utilisateur, des exemples et du texte de soutien.

Comparez deux demandes. « Expliquez les retours » est vague. « En utilisant la politique ci-dessous, déterminez si des écouteurs achetés il y a dix jours peuvent être retournés ; si un détail requis manque, demandez-le et ne créez pas de règles arbitraires » définit la tâche, les éléments de preuve et le comportement de secours. C’est la différence entre demander à un ami d’« aller chercher quelque chose au magasin » et de lui remettre une liste avec un budget.

Dans l’assistant, la requête finale est généralement constituée par l’application : des instructions pour le développeur, le message du client ainsi que du texte de politique récupéré à partir d’une base de connaissances.

• Relevance technique : des requêtes précises réduisent l’ambiguïté et permettent de tester le comportement attendu.
• Erreur fréquente : compter sur les instructions de la requête comme mesure de sécurité. Ces instructions influencent le comportement, mais elles ne garantissent pas l’application des permissions. Tout ce qui ne doit absolument pas se produire nécessite un mécanisme de contrôle en dehors du modèle.

9. Fenêtre de contexte : espace de travail limité

La fenêtre de contexte indique la quantité de données que le modèle peut prendre en compte d’un seul coup, mesurée en tokens. Pensez à un bureau : vous pouvez y disposer des notes pendant que vous travaillez, mais sa surface est limitée.

Ce qui occupe cet espace comprend les instructions du système, l’historique des conversations, les documents récupérés et les résultats des outils ; selon le système, la sortie générée compte également dans la limite imposée. Lorsqu’une conversation devient trop longue, l’application doit intervenir, par exemple en supprimant des échanges anciens, en les résumant ou en récupérant à nouveau des parties sélectionnées si nécessaire.

Le contexte et les paramètres sont des choses distinctes. Les paramètres ont été fixés lors de l’entraînement ; le contexte, quant à lui, est des informations fournies uniquement pour la tâche en cours.

• Relevance technique : il faut planifier délibérément l’espace disponible. Ajouter plus de texte ne signifie pas forcément fournir plus de texte utile, et des éléments irrelevants peuvent distraire le modèle.
• Erreur courante : considérer une grande fenêtre de mémoire comme illimitée, ou supposer que chaque détail qu’elle contient sera utilisé correctement.

10. Attention : relation entre les parties de l’entrée

L’attention correspond à la manière dont un modèle mélange les informations provenant de différentes parties de son entrée. Prenons par exemple un message indiquant que les écouteurs ont été livrés hier mais commandés dix jours auparavant. Pour une question de retour, le fait que le décompte commence à la livraison ou à l’achat peut être décisif, et c’est l’attention qui permet à la représentation de la question de refléter la relation entre la livraison, la commande et ces deux dates.

L’analogie courante est de relire les phrases pertinentes d’un texte avant de répondre à une question à son sujet. Techniquement, l’attention calcule des scores de pertinence numériques entre les différentes positions et les utilise pour créer des mélanges pondérés d’informations. Différents modules et couches peuvent détecter différents types de relations.

• Relevance en ingénierie : l’attention explique pourquoi le choix des mots, leur ordre et le texte environnant modifient la réponse, ce qui est important lors de la conception de prompts et du découpage des documents.
• Erreur fréquente : interpréter les poids d’attention comme une explication complète du raisonnement du modèle. Ce ne sont qu’un signal mathématique, et non un compte rendu transparent des raisons pour lesquelles une réponse a été produite.

Ancrage et adaptation du modèle

Le seul entraînement du modèle ne peut pas lui permettre de connaître la politique actuelle de cet atelier. Deux techniques comblent cette lacune de manières très différentes.

11. RAG : chercher l’information, puis répondre

La génération augmentée par la récupération d’informations consiste à trouver des données pertinentes au moment de la demande et à les intégrer dans le contexte du modèle afin que la réponse puisse s’y référer. Cela ressemble à un examen avec livre ouvert : le livre est disponible, mais l’étudiant doit néanmoins comprendre la question, localiser la bonne page et l’appliquer correctement.

Pour le vendeur, le flux se déroule généralement comme suit :

• La question du client arrive.
• L’application cherche dans les documents de politique des passages pertinents.
• Les passages les plus adaptés sont insérés dans l’instruction accompagnant la question.
• Le modèle rédige une réponse basée sur ces passages.

La récupération peut s’appuyer sur une recherche par mots-clés, des embeddings ou un mélange des deux. Ce qui est essentiel, c’est que cela ne modifie pas les paramètres du modèle. L’article existant RAG expliqué : comment les systèmes d’IA récupèrent des connaissances fraîches sur demande aborde plus en détail l’aspect de la récupération.

• Pertinence technique : RAG permet aux applications d’utiliser des documents privés, spécialisés ou en constante évolution sans avoir à reformerater le modèle.
• Erreur courante : penser que RAG rend les réponses correctes. Il diminue le nombre de réponses non étayées, mais le système peut encore sélectionner le passage incorrect ou interpréter à tort celui qui est correct.

12. Ajustement fin : entraînement supplémentaire sur une tâche plus ciblée

Le fine-tuning consiste à continuer l’entraînement d’un modèle déjà formé, généralement sur un ensemble de données plus petit et ciblé visant un objectif précis. C’est un peu comme un locuteur natif d’anglais qui s’exerce spécifiquement à rédiger des réponses concises pour le service client.

Une entreprise peut effectuer un fine-tuning à l’aide de paires de questions des clients et de réponses idéales afin d’enseigner un ton cohérent, un format de sortie ou un comportement adapté à une tâche spécifique. Contrairement à l’inclusion d’une politique dans le prompt, le fine-tuning modifie les paramètres appris ou ajoute des composants entraînés qui changent le comportement du modèle. Il peut également intégrer des connaissances sectorielles, mais c’est un mécanisme peu fiable pour les faits qui changent fréquemment, car chaque modification nécessiterait un nouvel entraînement.

• Pertinence en ingénierie : le fine-tuning s’avère utile lorsque l’on ne peut pas obtenir de manière fiable un comportement répétitif uniquement grâce aux prompts.

Erreur courante : considérer RAG et le fine-tuning comme des concurrents. RAG fournit du matériel de référence au moment de la réponse ; le fine-tuning influence le comportement grâce à l’entraînement. De nombreux systèmes utilisent les deux.

Lorsque le système agit, et comment savoir qu’il fonctionne

Le dernier groupe aborde les problèmes qui surviennent, les changements lorsque l’assistant peut effectuer certaines tâches, ainsi que la manière de mesurer l’ensemble du système.

13. Hallucination : fluide, assuré et sans fondement

Une hallucination correspond à une sortie fausse, inventée ou non étayée par des preuves pertinentes. Supposons que le magasin autorise les retours dans un délai de sept jours, et que l’assistant réponde avec assurance que tous les écouteurs peuvent être retournés dans un délai de trente jours. La phrase est plausible et bien formulée ; elle est cependant fausse.

La cause fondamentale réside dans le fait que les modèles de langage génèrent des continuations probables plutôt que de vérifier si les affirmations correspondent à la réalité. Une haute probabilité pour le token suivant ne dit rien sur le fait que l’énoncé complet soit vrai. Les hallucinations se manifestent sous forme de politiques inventées, de citations, de personnes, de chiffres et même de résultats de outils fabriqués.

• Relevance technique : une réponse erronée bien formulée peut causer des dommages réels, c’est pourquoi les systèmes ont besoin de preuves fiables, d’une validation des résultats et d’un moyen officiel d’admettre l’incertitude.
• Erreur courante : interpréter un style affirmé comme une fiabilité.

14. Agent : choisir et exécuter des étapes vers un objectif

• Lire l’objectif du client.
• Déterminer quelles informations manquent, comme le dossier de la commande.
• Appeler un outil de recherche de commandes fourni par l’application.
• Évaluer le résultat selon les règles en vigueur.
• Préparer le retour, poser une question pour plus de précisions ou transférer l’affaire à un humain.

Le modèle ne consulte jamais une base de données de sa propre initiative. L’application expose l’outil, vérifie les permissions et exécute l’opération ; le modèle se contente de proposer l’appel. L’autonomie varie considérablement, allant d’un simple appel à outil à de longues séquences multi-étapes, et tous les automatisations fixes ne méritent pas l’étiquette « agent ». Pour en savoir plus sur le cycle lui-même, consultez comprendre les agents IA : objectifs, outils, mémoire et le cycle de l’agent.

• Relevance en ingénierie : les actions nécessitent des limites, un traitement des erreurs et des points de contrôle pour l’approbation. Rédiger une demande de remboursement n’est pas la même chose que l’autoriser.
• Erreur courante : confondre la capacité d’agir avec l’autorisation d’agir sans supervision.

15. Évaluation : preuves que l’application fonctionne

L’évaluation consiste en une mesure systématique de l’efficacité avec laquelle un modèle ou une application d’intelligence artificielle complète accomplit sa tâche prévue. Pensez à un vélo : il doit passer des tests de freins, de direction et de roues dans diverses conditions avant que vous ne l’utilisiez en circulation, quel que soit son apparence.

Pour l’assistant aux remboursements, un ensemble de tests utile inclurait au moins :

• Un remboursement clairement éligible.
• Un remboursement demandé après la période autorisée.
• Une question omettant la date d’achat.
• Deux documents de politique qui se contredisent.
• Une recherche de commande qui échoue.
• Une tentative d’obtenir un remboursement auquel le client n’a pas droit.

Évaluer la justesse des réponses, savoir si celles-ci sont étayées par des preuves, si l’incertitude est exprimée de manière appropriée, si les outils sont utilisés en toute sécurité, ainsi que le temps de réponse et le coût. Prendre en compte également les cas qui n’ont pas été utilisés par l’équipe lors de la construction du système ; se limiter aux exemples familiers pour les tests surestime la qualité.

• Pertinence technique : une démonstration montre qu’un exemple fonctionne. L’évaluation indique avec quelle fréquence le système fonctionne et où il échoue.
• Erreur courante : juger le style de rédaction du modèle au lieu de tester l’application dans son intégralité, de bout en bout.

Points clés

• Le modèle n’est qu’une partie d’une application d’IA ; les sources de données, les prompts, les outils, les permissions et les tests déterminent la plupart des comportements dans le monde réel.

Les paramètres sont fixes au moment de l’inférence. Tout ce que le modèle doit savoir aujourd’hui, comme une politique en vigueur, doit être fourni via le contexte, généralement par récupération d’informations.

Les tokens et la fenêtre de contexte constituent des budgets limités. Il faut décider consciemment ce qui mérite d’y être inclus.

La similarité, la fluidité et la confiance ne correspondent pas à la correction ; c’est la validation et les preuves qui le font.

Les outils permettent à un système d’agir, mais l’autorité réside dans le code de l’application et les étapes d’approbation, et non dans les instructions fournies.

Évaluez l’ensemble du processus face à des cas réalistes et adversariaux avant de le confier aux clients.

Lectures complémentaires