Artículos para quien
entrega el stack
Textos sobre React, Node.js, TypeScript y AI. El cuerpo traducido se muestra cuando existe. Si no, ve el texto en inglés y una nota que lo dice.
Etiqueta: gateway
Transmisión de LLM resumible con Redis Streams como punto de encuentro por turno
Transmisión de LLM reanudable: publicar eventos del agente en un Redis Stream específico por turno para que los clientes sobrevivan a las desconexiones y pausas de varios minutos en la herramienta y puedan continuar.
9 min de lecturaCodex CLI a través de la pasarela LiteLLM en Bedrock Mantle
Dirigir Codex CLI a través de una pasarela LiteLLM hacia Amazon Bedrock Mantle para acceder a los modelos de OpenAI, con controles de pasarela, alias de modelos y valores predeterminados razonables.
8 min de lecturaLiteLLM en su interior: plano de control del portal de IA multiinquilino
Abstracción del proveedor, jerarquía de inquilinos, presupuestos, política de modelo, cuentas de servicio, enrutamiento, observabilidad, agentes/MCP, y por qué la pasarela constituye el camino crítico.
6 min de lecturaCompresión de todas las llamadas a LLM en la pasarela LiteLLM con Headroom
Headroom, como medida de protección previa a las llamadas de LiteLLM, comprime cada llamada a un LLM: compresión reversible, diseño de funcionamiento en caso de fallo, implementación por clave y ahorro de tokens medido.
7 min de lecturaConectar herramientas MCP mediante LiteLLM: Guía paso a paso para la pasarela bancaria de prueba
Herramientas MCP a través de una pasarela LiteLLM: registrar un banco simulado con streaming-HTTP, comparar los bucles de herramientas desarrollados manualmente con una sola solicitud, demostrar que las medidas de seguridad se ejecutan antes de MCP.
16 min de lecturaAgentgateway para LLMs, MCP y A2A: Cuando un plano de datos de IA unificado ayuda
En qué se diferencia Agentgateway de los proxies basados únicamente en LLM: descubrimiento MCP, rastreo A2A, enrutamiento, seguridad, OpenTelemetry y gobernanza de costos; además, cuándo adoptarlo o prescindir de él.
7 min de lectura
Sobre estos artículos
Presupuesto en 24 h
¿Necesitas el mismo stack en una capa de operador? Envía el brief — presupuesto en 24 h.