Des articles pour ceux qui
livrent le stack
Textes sur React, Node.js, TypeScript et AI. Un corps traduit est affiché quand il existe. Sinon vous voyez le texte anglais et une note qui le dit.
Tag : routing
Ingénierie de la maîtrise : pourquoi les coûts des agents IA augmentent de façon exponentielle
Microsoft et Uber se heurtent à des limites de coûts avec les agents IA. Pourquoi ils consomment tant de tokens rapidement, et quatre tactiques de maîtrise : le routage, les seuils budgétaires, le broyage de données et la surveillance.
6 min de lectureRAG conscient du domaine avec des registres MLflow et un routage de modèles LLM
RAG conscient du domaine : classifier l’intention, charger le modèle d’incorporation approprié depuis un registre MLflow, rechercher la collection Qdrant correspondante, puis diriger la génération vers un LLM.
12 min de lectureWorkflows conditionnels LangGraph : création de branches sans enchevêtrements de prompts
Encodez le routage if-else de LangGraph en arêtes conditionnelles nommées, dotées de contrats d’état clairs et de mécanismes de récupération en cas de panne, au lieu d’intégrer les branches dans les prompts.
10 min de lectureRéduisez les dépenses liées aux LLM grâce à un routeur de tokens LiteLLM
LiteLLM se situe entre les applications et les fournisseurs, en dirigeant les requêtes courtes vers des modèles peu coûteux et celles de grande complexité vers Opus — ce qui permet d’économiser environ 28 % sur une période mensuelle simulée.
3 min de lectureArrêter les outils de manière conditionnelle : les artefacts l’emportent sur return_direct dans LangGraph
Arrêter ou continuer selon l’appel d’outil dans LangGraph en utilisant les artefacts d’outil, dans une boucle ReAct conçue manuellement et dans le middleware create_agent, lorsque return_direct ne peut pas prendre de décision.
11 min de lectureModèles de décision en mode texte versus appels à des LLM : latence et stabilité aux frontières
Une expérience de 240 appels comparant les probabilités natives de Jev avec celles auto-déclarées par un LLM, ainsi que la manière de transformer ce signal en un routeur de modèles LangChain.
12 min de lecturePièges de la mise à niveau vers Next.js 16 : valeurs par défaut des routes parallèles et middleware pour le proxy
Découvrez pourquoi les emplacements de routes parallèles de Next.js 16 nécessitent un fichier default.js, comment examiner un middleware.ts pour le déplacer en toute sécurité vers proxy.ts, et quels tests effectuer avant de confirmer que la mise à niveau est terminée.
6 min de lectureTarification d’un routeur de décision automatisé pour les appels aux modèles LLM Frontier
Comment modéliser le coût attendu du contrôle du trafic des LLM à l’aide d’un modèle de décision structuré comme Jev, définir des seuils de confiance et valider la qualité du routage avant de le mettre en production.
12 min de lectureUne source unique de vérité pour les chemins des routes dans les applications Next.js
Découvrez comment un module de routage centralisé par saisie remplace les chemins de chaînes de caractères dispersés dans Next.js, grâce à des fonctions d’aide pour les segments dynamiques et les exportations de routes groupées.
5 min de lecture
À propos de ces articles
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.