Des articles pour ceux qui
livrent le stack
Textes sur React, Node.js, TypeScript et AI. Un corps traduit est affiché quand il existe. Sinon vous voyez le texte anglais et une note qui le dit.
Tag : prompt-caching
Réduire les coûts des tokens d’agent : mise en cache, routage et hygiène du contexte.
Réduisez les coûts des agents LLM grâce au stockage en cache des prompts et au stockage sémantique, au chargement différé des outils, à l’acheminement et aux cascades de modèles, aux sous-agents, ainsi qu’à une gestion rigoureuse du contexte.
16 min de lectureIsoler un agent de codage et maintenir sa fenêtre de contexte légère
Sandbox un agent de codage équipé de Seatbelt ou de Bubblewrap, puis maintenez sa fenêtre de contexte légère grâce à des fichiers de déchet, des fichiers d’exemple, à la compression et à des injections adaptées au cache de préfixes.
10 min de lectureSurvivre au pliage : une échelle pour les sessions d’agents à long terme et la compactation
Pendant combien de temps les sessions d’agents restent abordables et cohérentes : la queue du cache en tant que loyer, cinq niveaux avant la compactation, la délégation en tant que limite mémoire, les coûts de reprise.
16 min de lectureLe récupération contextuelle pour RAG : ce que cache le chiffre de 67 %, son coût et les moments où il échoue.
La récupération contextuelle pour RAG : comment l’insertion de préfixes corrige les fragments orphelins, pourquoi le chiffre de 67 % reflète trois modifications, ce que l’affichage en mémoire économise, et quand cela échoue.
13 min de lectureUne fenêtre de contexte plus grande ne résoudra pas vos problèmes avec l’agent : budget d’attention et cacheage
Les fenêtres de contexte se comportent comme un budget d’attention. Apprenez comment fonctionne Lost in the Middle et quand utiliser la compression, les fenêtres glissantes, la compactation ou le cache de prompts.
11 min de lecturePrompts de système structurés pour les agents IA Rust : couches, mise en cache, vérifications de dérive.
Créer un prompt de système en couches pour un agent Rust : identité, instructions, règles de sortie, exemples et contexte actualisé, ainsi qu’une limite de cache et une empreinte digitale pour les tests d’intégration.
12 min de lectureUn chatbot de portfolio conçu pour dire « Je ne sais pas » plutôt que de deviner.
Comment un chatbot de portfolio reste honnête : un curseur d’honnêteté verrouillé, cinq notes manuscrites dans l’instruction au lieu de RAG, et une ligne de refus fixe qui sert également de détecteur de lacunes.
8 min de lectureErreurs de cache des prompts dans Claude Code : pourquoi un taux de réussite de 86 % masque le coût réel
Un modèle chiffré d’une session iOS-monorepo montre sept échecs du cache des prompts contre 33 succès, ainsi que les moyens de stabiliser les outils, les compétences et CLAUDE.md en tant que clés de cache.
6 min de lectureOù est passé notre facture d’API LLM et les changements architecturaux qui l’ont réduite
L’attribution des tokens au niveau des étapes, la hiérarchisation des modèles, le rétrécissement des prompts ainsi que les mécanismes de recul avec ajustement aléatoire réduisent les coûts d’API des agents de codage ; cela inclut des formules de calcul des coûts et les erreurs d’optimisation fréquentes.
8 min de lecture
À propos de ces articles
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.