Artikel für Leute, die
den Stack ausliefern
Beiträge zu React, Node.js, TypeScript und AI. Ein übersetzter Text wird gezeigt, wenn er existiert. Sonst sehen Sie den englischen Text und einen Hinweis.
Tag: routing
Eindämmungstechnik: Warum die Kosten für KI-Agenten in die Höhe schießen.
Microsoft und Uber stoßen bei KI-Agenten an Kostenwände. Warum sie Tokens so schnell verbrauchen – und vier Eindämmungstaktiken: Routing, Budget-Trigger, Pruning, Überwachung.
6 Min. LesezeitDomänenbewusster RAG mit MLflow-Registern und LLM-Routing
Domain-konformes RAG: Absicht klassifizieren, den richtigen Embedder aus einem MLflow-Registry laden, die entsprechende Qdrant-Sammlung durchsuchen und anschließend die Generierung an ein LLM weiterleiten.
12 Min. LesezeitLangGraph bedingte Arbeitsabläufe: Zweigbildung ohne promptbedingtes Chaos
Codieren Sie das LangGraph-if-else-Routing als benannte bedingte Kanten mit klaren Zustandsvereinbarungen und wiederherstellbaren Fehlern, anstatt Verzweigungen in Prompts zu packen.
10 Min. LesezeitKürzen Sie die Ausgaben für große Sprachmodelle mit einem LiteLLM-Token-Router
LiteLLM fungiert als Brücke zwischen Apps und Anbietern, indem es kurze Anfragen an günstige Modelle und umfangreichere Anfragen an Opus leitet – was in einem simulierten Monat für Ingenieure etwa 28 Prozent Einsparung bedeutet.
3 Min. LesezeitBedingter Stopp von Tools: Artefakte überwiegen return_direct in LangGraph.
Stoppen oder fortsetzen je nach Tool-Aufruf in LangGraph unter Verwendung von Tool-Artefakten, in einem selbst erstellten ReAct-Loop sowie im create_agent-Middleware, wo return_direct keine Entscheidung treffen kann.
11 Min. LesezeitGetippte Entscheidungsmodelle gegen Anfragen an LLMs: Latenz und Stabilität an der Grenze
Ein 240-Anrufe umfassendes Experiment, das Jevs natürliche Wahrscheinlichkeiten mit den von einem LLM selbst gemeldeten vergleicht, sowie die Methode, dieses Signal in einen LangChain-Modell-Router umzuwandeln.
12 Min. LesezeitNext.js 16-Upgrade-Fallen: Standardwerte für parallele Routen und Middleware zum Proxying
Erfahren Sie, warum Next.js 16 parallele Route-Slots ein default.js erfordern, wie Sie sicher von middleware.ts zu proxy.ts wechseln können, und was Sie vor dem Aufruf von „Upgrade done“ testen sollten.
6 Min. LesezeitPreisgestaltung eines typisierten Entscheidungs-Routers vor Frontier LLM-Aufrufen
Wie man die erwarteten Kosten für das Steuern von LLM-Datenverkehr mit einem typisierten Entscheidungsmodell wie Jev modelliert, Vertrauensschwellenwerte festlegt und die Routing-Qualität vor der Bereitstellung überprüft.
12 Min. LesezeitEine einzige Quelle der Wahrheit für Routenpfade in Next.js-Anwendungen
Erfahren Sie, wie ein zentrales Routing-Modul verschachtelte String-Pfade in Next.js ersetzt, zusammen mit Hilfsfunktionen für dynamische Segmente und gruppierte Route-Exporte.
5 Min. Lesezeit
Über diese Artikel
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.