Des articles pour ceux qui
livrent le stack
Textes sur React, Node.js, TypeScript et AI. Un corps traduit est affiché quand il existe. Sinon vous voyez le texte anglais et une note qui le dit.
Tag : gateway
Streaming de modèles LLM résumables grâce à Redis Streams comme point de rencontre par tour
Flux continu d’LLM reprendable : publier les événements de l’agent dans un flux Redis spécifique à chaque tour afin que les clients puissent survivre aux déconnexions et aux pauses prolongées du outil pour reprendre ensuite.
9 min de lectureCodex CLI via le portail LiteLLM sur Bedrock Mantle
Diriger le Codex CLI via un gateway LiteLLM vers Amazon Bedrock Mantle afin d’accéder aux modèles OpenAI, avec des fonctionnalités de contrôle du gateway, des alias de modèles et des paramètres de fonctionnement par défaut raisonnables.
8 min de lectureLiteLLM en arrière-plan : plan de contrôle du guichet d’IA multi-locataires
Abstraction du fournisseur, hiérarchie des locataires, budgets, politique de modèle, comptes de service, routage, observabilité, agents/MCP, et pourquoi le gateway constitue la voie critique.
6 min de lectureCompressez chaque appel à un LLM au niveau du gateway LiteLLM avec Headroom
Headroom, en tant que mécanisme de protection préalable pour LiteLLM, comprime chaque appel à un LLM : compression réversible, conception en mode défaillance ouverte, déploiement par clé, ainsi que des économies de tokens mesurées.
7 min de lectureTransférer les outils MCP via LiteLLM : Guide pas à pas pour une passerelle bancaire de simulation
Outils MCP via un gateway LiteLLM : enregistrer une banque simulée fonctionnant sur HTTP streamable, comparer les boucles d’outils développées manuellement à une seule requête, prouver que les mécanismes de contrôle s’exécutent avant MCP.
16 min de lectureAgentgateway pour les LLM, MCP et A2A : Lorsque un plan de données IA unifié est utile
En quoi Agentgateway diffère des proxies basés uniquement sur des LLM : découverte MCP, suivi A2A, routage, sécurité, OpenTelemetry et gouvernance des coûts – ainsi que les moments où il convient de l’adopter ou de l’éviter.
7 min de lecture
À propos de ces articles
Devis en 24 h
Besoin du même stack en couche opérateur ? Envoyez le brief — devis sous 24 h.