Artikel für Leute, die
den Stack ausliefern
Beiträge zu React, Node.js, TypeScript und AI. Ein übersetzter Text wird gezeigt, wenn er existiert. Sonst sehen Sie den englischen Text und einen Hinweis.
Tag: prompt-caching
Senkung der Kosten für Agent-Token: Caching, Routing und Kontextpflege.
Senken Sie die Kosten von LLM-Agenten durch Prompt-Caching und semantisches Caching, verzögert geladene Tools, Modell-Routing und -Kaskaden, Subagenten sowie durch einfache Kontextpflege.
16 Min. LesezeitSandboxing eines Programmier-Agenten und Beibehaltung eines kompakten Kontextfensters
Erstellen Sie einen Code-Agenten in einer Sandbox mit Seatbelt oder Bubblewrap und halten Sie sein Kontextfenster durch das Verwenden von Überlaufdateien, Stubs, Komprimierung sowie injectionen, die den Prefix-Cache berücksichtigen, übersichtlich.
10 Min. LesezeitÜberleben des Faltenvorgangs: Eine Leiter für langlaufende Agentensitzungen und Kompression
Wie lange bleiben Agentensitzungen erschwinglich und kohärent: Der Cache-Endbereich als Puffer, fünf Stufen vor der Kompression, Delegation als Speichergrenze, Wiederaufnahme der Kosten.
16 Min. LesezeitKontextbasiertes Abrufen für RAG: Was die 67%-Zahl verbirgt, was sie kostet und wann sie versagt.
Kontextbasierte Abrufmethode für RAG: Wie Präfixe fehlende Teilbereiche beheben, warum die 67%-Zahl drei Änderungen darstellt, was durch Prompt-Caching eingespart wird und wann es versagt.
13 Min. LesezeitEin größeres Kontextfenster wird Ihr Agentenproblem nicht lösen: Aufmerksamkeitsbudget und Caching
Kontextfenster verhalten sich wie ein Aufmerksamkeitsbudget. Erfahren Sie, wie „Lost in the Middle“ funktioniert und wann Kompression, schräg verlaufende Fenster, Kompaktion oder Prompt-Caching eingesetzt werden sollten.
11 Min. LesezeitStrukturierte Systemprompts für Rust-KI-Agenten: Schichten, Caching, Abweichungsprüfungen
Erstelle einen schichtbasierten Systemprompt für einen Rust-Agenten: Identität, Anweisungen, Ausgaberegeln, Beispiele und frischer Kontext, zusätzlich eine Cache-Grenze sowie ein Fingerabdruck für CI.
12 Min. LesezeitEin Portfolio-Chatbot, der „Ich weiß es nicht“ sagt, statt zu raten
Wie ein Portfolio-Chatbot ehrlich bleibt: ein gesperrter Ehrlichkeitsregler, fünf handgeschriebene Notizen im Prompt statt RAG und ein fester Ablehnungssatz, der zugleich als Lückendetektor dient.
8 Min. LesezeitPrompt-Cache-Misses in Claude Code: Warum eine Trefferquote von 86 % die Kosten verschleiert
Ein bepreistes Modell einer iOS-Monorepo-Sitzung zeigt, dass sieben Prompt-Cache-Misses 33 Treffer überwiegen – und wie man Tools, Skills und CLAUDE.md als Cache-Schlüssel stabilisiert.
6 Min. LesezeitWohin unsere LLM-API-Rechnung floss und welche Architekturänderungen sie senkten
Token-Zuordnung pro Schritt, Modell-Tiering, schlankere Prompts und Backoff mit Jitter senkten die API-Kosten eines Coding-Agents; mit Kostenformeln und typischen Optimierungsfehlern.
8 Min. Lesezeit
Über diese Artikel
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.