Notes pratiques : LLM locaux pour l’extraction Graph RAG : le nouveau benchmark de mi-2026
Guide opérationnel des notes pratiques : LLM locaux pour l’extraction Graph RAG : le nouveau benchmark de mi-2026 ; contrats, vérifications et emplacements de code prêts à l’emploi pour les équipes qui mettent en œuvre ce modèle.
Sources: Local LLMs for Graph RAG Extraction: The Mid-2026 Re-Benchmark
Les notes suivantes reconstituent une approche pratique concernant « Local LLMs for Graph RAG Extraction: The Mid-2026 Re-Benchmark ». L’accent est mis sur les contrats, les vérifications et les placeholders de code à insérer, plutôt que sur une présentation motivante.
Cinq mois plus tard, vous relancez tout — et le fameux « plafond des 7B » s’avère être un artefact de décodage.
Lorsque vous travaillez sur l’étape « Cinq mois plus tard », notez d’abord le contrat : les entrées requises, le signal de succès et ce qui se passe en cas d’échec partiel. Cette liste de contrôle permet de rester honnête lors des modifications ultérieures du code. Documentez à la fois le parcours normal et celui de récupération. Les tentatives répétées, les contrôles humains et la gestion des messages non traités font partie du produit, et non d’une finition ultérieure. Cachez les instructions stables du système ainsi que les schémas des outils. Envoyer à nouveau un préambule identique est une source fréquente de gaspillage.
L’affirmation que vous vouliez remettre en question
Lorsque vous travaillez sur l’étape « The claim you wanted », notez d’abord le contrat : les entrées requises, le signal de succès, ainsi que ce qui se passe en cas d’échec partiel. Cette liste de contrôle permet de rester honnête lors des modifications ultérieures du code. Préférez des unités petites et testables à des scripts volumineux. Lorsqu’une étape échoue, l’échec doit pointer vers une seule responsabilité plutôt que vers un processus complexe et embrouillé. Cachez les instructions du système stables ainsi que les schémas des outils. Envoyer à nouveau un préambule identique est une cause fréquente de gaspillage.
Cela a fonctionné
Lors de la phase de conception, notez d’abord le contrat : les entrées requises, le signal de succès, ainsi que ce qui se passe en cas d’échec partiel. Cette liste de contrôle permet de rester honnête lors des modifications ultérieures du code. Considérez cette phase comme un contrat entre les entrées et les sorties validées. Donnez des noms aux artefacts, définez des vérifications de succès, et refusez les terminations partielles silencieuses. Cachez les instructions du système stable ainsi que les schémas des outils. Envoyer à nouveau un préambule identique est une cause fréquente de problèmes.
Phi-4-mini 3.8B Parse-OK rate Strict schema-valid
-------------------------------- --------------- ---------------------
Unconstrained, open extraction 22% 0%
Unconstrained, schema-guided 33% 0%
Constrained, open extraction 100% 100%
Constrained, schema-guided 100% 100%
Le piège dont personne ne m’a averti : le mode de pensée qui détruit les sorties structurées
Lorsque vous travaillez sur l’étape « The trap nobody warned », notez d’abord le contrat : les entrées requises, le signal de succès, ainsi que ce qui se passe en cas d’échec partiel. Cette liste de contrôle permet de rester honnête lors des modifications ultérieures du code. Enregistrez les temps d’exécution ainsi que le coût des tokens ou des requêtes à côté des résultats fonctionnels. Une visibilité précoce des coûts évite les factures inattendues lorsque le processus passe de la démonstration aux environnements partagés. Mémorisez les instructions du système stables et les schémas des outils. Envoyer à nouveau un préambule identique est une cause fréquente de gaspillage.
Qwen3.5-4B, schema-guided Parse-OK Output tokens/doc Median latency
--------------------------------- ---------- ------------------- ----------------
Thinking default, unconstrained 33% 10,142 94.0s
Thinking on, constrained 0% 649 6.3s
Thinking off, constrained 100% 599 5.8s
Les contraintes ne règlent pas seulement la validité — elles régulent le comportement
Lorsque vous travaillez sur les contraintes, ne vous contentez pas de préparer l’environnement : écrivez d’abord le contrat détaillant les entrées requises, le signal de succès et ce qui se passe en cas d’échec partiel. Cette liste de contrôle permet de garantir l’intégrité des modifications ultérieures du code. Gardez la configuration en dehors du code de l’application. Les fichiers d’environnement, les bases de données secrètes et les indicateurs fonctionnels doivent être regroupés en un seul endroit que les administrateurs peuvent auditer sans devoir lire l’ensemble du système. Mémorisez les instructions stables du système ainsi que les schémas des outils. Envoyer à nouveau un préambule identique est une cause fréquente de gaspillage. Lorsque vous travaillez sur les contraintes, ne vous contentez pas de préparer l’environnement : écrivez d’abord le contrat détaillant les entrées requises, le signal de succès et ce qui se passe en cas d’échec partiel. Cette liste de contrôle permet de garantir l’intégrité des modifications ultérieures du code. Préférez des unités petites et testables à des scripts complexes. Lorsqu’une étape échoue, l’échec doit permettre d’identifier une seule responsabilité plutôt qu’un processus embrouillé.
Le tableau financier
La phase de tableau financier fonctionne le mieux lorsqu’elle est considérée comme une surface mesurable. Capturez un exemple réussi, un cas d’échec ainsi que la note de réversion avant d’élargir le périmètre. Considérez cette phase comme un contrat entre les entrées et les sorties validées. Donnez des noms aux artefacts, définites des critères de succès et refusez toute mise en œuvre partielle silencieuse. Fixez un budget de tokens par tour et par session. Les outils agents élargissent l’échelle du contexte de manière importante ; des plafonds stricts empêchent que les démonstrations se transforment en factures inattendues.
Model med s/doc tok/s hrs/1k docs local electricity hosted-small API frontier API
------------------------ ----------- ------- ------------- ------------------- ------------------- --------------
Qwen3.5-4B (think off) 5.8 123 1.6 $0.17 $0.08 $9.73
Qwen3.5-9B (think off) 6.3 91 1.8 $0.18 $0.08 $8.72
Gemma 4 E4B 6.6 106 1.8 $0.19 $0.08 $9.75
Gemma 3 12B 8.4 79 2.3 $0.25 $0.08 $9.34
Mistral Small 3.2 13.6 52 3.8 $0.40 $0.14 $11.81
Phi-4-mini 3.8B 10.0 219 2.8 $0.29 $0.06 $6.28
Périmètre honnête et étapes suivantes
Le périmètre honnête et l’étape la plus adaptée lorsqu’il s’agit d’une surface mesurable. Capturez un transcript parfait, un cas d’échec et la note de réversion avant d’élargir le périmètre. Enregistrez les temps d’exécution ainsi que le coût des tokens ou des requêtes à côté des résultats fonctionnels. Une visibilité précoce des coûts évite les factures inattendues lorsque le processus passe de la démonstration aux environnements partagés. Fixez un budget de tokens par tour et par session : les outils agents élargissent lourdement le contexte ; des plafonds stricts empêchent que les démonstrations ne se transforment en factures inattendues.
Ce qui fonctionne réellement, édition mi-2026
La phase « Ce qui fonctionne réellement en 2026 » est optimale lorsqu’elle est considérée comme une surface mesurable. Capturez un exemple parfait, un cas d’échec et la note de réversion avant d’élargir le périmètre. Gardez la configuration en dehors du code de l’application. Les fichiers d’environnement, les bases de données secrètes et les indicateurs fonctionnels doivent être regroupés en un seul endroit que les opérateurs peuvent auditer sans devoir lire l’ensemble du système. Fixez des limites budgétaires par tour et par session. Les outils agents élargissent fortement le contexte ; des plafonds stricts empêchent que les démonstrations ne se transforment en factures inattendues. La phase « Ce qui fonctionne réellement en 2026 » est optimale lorsqu’elle est considérée comme une surface mesurable. Capturez un exemple parfait, un cas d’échec et la note de réversion avant d’élargir le périmètre. Préférez des unités petites et testables plutôt que des scripts complexes. Lorsqu’une étape échoue, l’échec doit pointer vers une seule responsabilité et non vers un processus embrouillé.
Références
Pour l’étape des références, définissez les entrées, le responsable de l’étape et les critères d’arrêt avant de modifier le code. Les opérateurs doivent pouvoir relancer l’étape à partir d’un point de contrôle connu sans deviner l’état caché. Considérez cette étape comme un contrat entre les entrées et les sorties validées. Donnez des noms aux artefacts, définites des vérifications de succès et refusez les terminations partielles silencieuses. Préférez des sorties structurées avec validation de schéma plutôt que du texte libre lorsque l’étape suivante consiste en du code ou une appel d’outil.
Liste de contrôle opérationnelle
Pour l’étape de la liste de contrôle opérationnelle, définissez les entrées, le responsable de l’étape et les critères d’arrêt avant de modifier le code. Les opérateurs doivent pouvoir relancer l’étape à partir d’un point de contrôle connu sans deviner l’état caché.
Dokumentez ensemble le parcours normal et le parcours de récupération. Les tentatives de réexécution, les contrôles humains et la gestion des messages non livrés font partie du produit, et non d’une mise en forme ultérieure.
Préférez des sorties structurées avec validation de schéma plutôt que du texte libre lorsque l’étape suivante consiste à générer du code ou à appeler une outil.
Évaluez le taux de rappel sur un ensemble fixe de questions avant d’ajuster les prompts. Changer fréquemment les prompts ne résout que rarement un système de récupération insuffisant.
Gelez un ensemble de référence avant de modifier les prompts ou les modèles. Modifier à la fois le système et les critères d’évaluation cache les dégradations de performance.
Ajoutez un test de base qui met à l’épreuve le parcours critique dans les processus d’intégration continue en utilisant des données de test, et non des API payantes en ligne, chaque fois que le budget le permet.
Au moment de promouvoir l’ensemble technologique, figez les versions, conservez une transcription de référence pour le parcours critique, et vérifiez les étapes de réversion. Les environnements partagés nécessitent des limites de fréquence d’accès, des vérifications d’attribution et un responsable clair pour la rotation des secrets. Préférez une fiabilité solide à des démonstrations brillantes mais ponctuelles.
Note de lot pour 5f36b3d19383 : éviter d’inclure les clés du fournisseur dans le répertoire, fixer une limite pour les tokens par session, et stocker les transcriptions à côté des fichiers d’évaluation afin que les remplacements ultérieurs de modèles restent comparables.
La note de renforcement au stade 0 fonctionne le mieux lorsqu’elle est considérée comme une surface mesurable. Capturez une transcription exemplaire, un cas d’échec et la note de rollback avant d’élargir le périmètre. Documentez ensemble le parcours normal et le parcours de récupération. Les tentatives répétées, les contrôles humains et la gestion des messages non traités font partie du produit, et non d’une mise en forme ultérieure.
Détail de renforcement 0/773 : mesurez le temps d’exécution, la catégorie de l’erreur et la consommation de tokens pour cette note, puis décidez si vous souhaitez conserver le changement en vous basant sur un ensemble de questions prédéfini plutôt que sur des observations subjectives.
Pour l’étape 0 de la note de renforcement, définissez les entrées, le responsable de l’étape et les critères de fin avant de modifier le code. Les opérateurs doivent pouvoir relancer l’étape à partir d’un point de contrôle connu sans deviner l’état caché. Enregistrez les temps d’exécution ainsi que le coût des jetons ou des requêtes à côté des résultats fonctionnels. Une visibilité précoce des coûts permet d’éviter des factures inattendues lorsque le processus passe de l’environnement de démonstration à des environnements partagés.
Détail de renforcement 0/792 : mesurez le temps d’exécution réel, la catégorie de l’erreur et la consommation de jetons pour cette note, puis décidez s’il convient de conserver la modification en vous basant sur un ensemble de questions prédéfini plutôt que sur des observations subjectives.
Lors de la réalisation de la première étape des notes de renforcement de sécurité, notez d’abord les éléments essentiels : les entrées requises, le signal de succès, ainsi que ce qui se passe en cas d’échec partiel. Cette liste de contrôle permet de rester honnête lors des modifications ultérieures du code. Documentez à la fois le parcours normal et le parcours de récupération. Les tentatives répétées, les contrôles humains et la gestion des messages non livrés font partie intégrante du produit, et non d’améliorations apportées ultérieurement.
Détail de renforcement 1/792 : mesurez le temps d’exécution, la catégorie de l’erreur et l’utilisation des tokens pour cette note, puis décidez si vous souhaitez conserver la modification en vous basant sur un ensemble de critères prédéfinis plutôt que sur des observations subjectives.