Artikel für Leute, die
den Stack ausliefern
Originale Beiträge zu React, Node.js, TypeScript und AI — aus derselben Praxis wie unsere Operator-Software. Artikeltexte auf Englisch.
Tag: gateway
LiteLLM im Inneren: Steuerungsplattform für ein multi-tenant-basiertes AI-Gateway
Anbieterabstraktion, Mieterhierarchie, Budgets, Modellrichtlinien, Servicekonten, Routing, Überwachbarkeit, Agenten/MCP – und warum das Gateway der kritische Weg ist.
1452 WörterArtikel lesenKomprimieren Sie jeden LLM-Aufruf am LiteLLM-Gateway mit Headroom.
Headroom als Schutzmechanismus vor Anrufen bei LiteLLM: umkehrbare Kompression, Fail-Open-Design, schrittweiser Rollout pro Tastenkombination sowie messbare Einsparungen an Tokens.
1510 WörterArtikel lesenAgentgateway für LLMs, MCP und A2A: Wenn ein einheitliches AI-Datenfluss-System hilft
Wie Agentgateway sich von Proxys mit nur LLM unterscheidet – MCP-Entdeckung, A2A-Tracking, Routing, Sicherheit, OpenTelemetry und Kostensteuerung – sowie wann man es verwenden oder auslassen sollte.
1605 WörterArtikel lesen
Über diese Artikel
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.