Artículos para quien
entrega el stack
Textos originales sobre React, Node.js, TypeScript y AI — de la misma práctica que nuestro software de operador. Cuerpo de los artículos en inglés.
Etiqueta: model-routing
Cómo recortar costes de LLM: caché, enrutamiento de modelos y prompts más cortos
Las facturas de LLM en producción crecen deprisa. Caché semántica, enrutamiento de modelos, prompts más ligeros, reranking en RAG, límites de salida y procesamiento por lotes para gastar menos sin perder calidad.
1824 palabrasLeerMover la caché KV entre modelos Qwen3 en lugar de repetir el prefill
Una investigación de NVIDIA traslada el estado de atención de Qwen3-14B a Qwen3-32B con un puente de regresión ridge. Qué significan las cifras de latencia, dónde falla y por qué importa a los agentes.
1817 palabrasLeerAdónde se iba nuestra factura de la API de LLM y qué cambios de arquitectura la recortaron
Atribución de tokens por paso, escalonado de modelos, prompts más cortos y backoff con jitter redujeron el gasto en API de un agente de programación; con fórmulas de coste y errores de optimización habituales.
1861 palabrasLeerNotas prácticas: Cómo optimizar el costo, la velocidad y la calidad del agente de IA con modelos
Guía práctica paso a paso: Cómo optimizar el costo, la velocidad y la calidad de los agentes de IA con modelos: contratos, verificaciones y espacios para código listo para usar destinados a los equipos que implementan este patrón.
3025 palabrasLeer
Sobre estos artículos
Presupuesto en 24 h
¿Necesitas el mismo stack en una capa de operador? Envía el brief — presupuesto en 24 h.