Des articles pour ceux qui
livrent le stack
Textes sur React, Node.js, TypeScript et AI. Un corps traduit est affiché quand il existe. Sinon vous voyez le texte anglais et une note qui le dit.
Tag : NLP
Pourquoi RAG existe : la mémoire paramétrique, la récupération dense et l’article de 2020
Pourquoi RAG existe : les limites de la mémoire paramétrique, comment BM25 et les embeddings ont conduit à une récupération dense, et quels compromis RAG-Sequence et RAG-Token présentent dans l’article.
7 min de lectureConfirmations de commande d’audit que l’agent n’a jamais saisies : vérification des valeurs plutôt que du libellé
Comment créer un évaluateur de cohérence des demandes pour un agent de support qui passe des commandes réelles : partitionner les résultats par propriétaire, vérifier les identifiants à l’aide des résultats de l’outil.
16 min de lectureNettoyage des données pour RAG de production : encodage, OCR, suppression des doublons et traitement des PII
Comment transformer des documents d’entreprise analysés en texte prêt à être recherché : réparation de l’encodage, suppression des modèles standard et des doublons, identification des drapeaux OCR à risque, gestion des langues et masquage des données personnelles.
21 min de lectureComment RAG réduit les hallucinations des LLM : récupération de données, embeddings et utilisation dans les entreprises
Pourquoi les LLM répondent de manière erronée avec assurance et comment le RAG les ancre dans des données actuelles : l’architecture en deux parties, les embeddings, les compromis et les limites du fine-tuning.
9 min de lectureDes règles aux transformateurs : comment l’NLP a appris à gérer le contexte
Une brève histoire du traitement du langage naturel : systèmes basés sur des règles, N-grams, modèles de Markov, vecteurs de mots, RNN, mécanismes d’attention, Transformers et les grands modèles de langage qui en découlent.
7 min de lecturePourquoi les Transformers utilisent le sinus et le cosinus pour l’encodage positionnel
Une explication pas à pas de l’encodage positionnel sinusoïdal, de la raison pour laquelle l’attention ignore l’ordre des mots aux horloges à différentes vitesses, un exemple concret en 12 dimensions ainsi que la rotation.
8 min de lectureConstruire un Transformer à partir de zéro en PyTorch : attention, encodeur et décodeur.
Code étape par étape en PyTorch pour les composants principaux du Transformer : encodage positionnel, attention à produit scalaire et attention multi-têtes, couches feed-forward, pile d’encodeurs et bases du décodeur.
8 min de lecturePourquoi les langues indiennes génèrent plus de tokens dans les LLM et comment les tokeniseurs sont corrigés.
La même phrase nécessite 5 tokens en anglais et 34 en tamoul. Voir comment les données d’entraînement BPE en sont la cause, quels ajustements de rééquilibrage et quelles modifications de taille du vocabulaire interviennent, ainsi que le fonctionnement de l’expansion du vocabulaire.
8 min de lectureIngénierie des harnais : les fondements des agents d’IA fiables
Utiliser l’ingénierie des harness comme fondement d’agents IA fiables : ce qu’est un LLM, ce qui en fait un agent, et ce que les harness ajoutent au sein du cycle de l’agent lui-même.
11 min de lecture
À propos de ces articles
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.