Artikel für Leute, die
den Stack ausliefern
Beiträge zu React, Node.js, TypeScript und AI. Ein übersetzter Text wird gezeigt, wenn er existiert. Sonst sehen Sie den englischen Text und einen Hinweis.
Tag: optimization
Acht React-Rendering-Verbesserungen, die die Neuberechnungen um 80 Prozent reduzieren, ohne dass ein Neuschreiben erforderlich ist.
Zuerst das Profil erstellen und anschließend Memo, useMemo, useCallback, Übergänge, virtuelle Liste, Code-Splitting sowie eng gefasste Selektoren einsetzen, um eine große React-Dashboard-Anwendung zu beschleunigen.
5 Min. LesezeitWiederholte Prompt-Kosten mit einer Zeile Prompt-Caching um 90% senken
Automatisches Prompt-Caching mit einem einzigen Feld aktivieren, Treffer im usage-Block prüfen und die Präfix-Fehler und Mindestlängen-Fallen vermeiden, die Einsparungen still zunichtemachen.
4 Min. LesezeitDer KV-Cache ist die unsichtbare Datenbank, die im Decodieren von LLMs GPU-Speicher verbraucht.
Der KV-Cache verbraucht während der LLM-Infersion leise den GPU-Speicher: Vorausfüllen versus Dekodieren, KV-Mathematik, GQA und MQA, PagedAttention, Quantisierungs- und Ausschließungsrichtlinien.
9 Min. LesezeitSpekulative Dekodierung, frühzeitiger Ausstieg und Quantisierung: Schnellere Dekodierung von LLMs
Wie spekulative Dekodierung und frühzeitiger Ausstieg die Latenz bei der Inferenz von LLMs verringern, wann sich die vorläufige Akzeptanz auszahlt, und wie sie mit Quantisierung sowie KV-Cache-Paging zusammenwirken.
8 Min. LesezeitDie Leistung von JavaScript dreht sich um weniger Arbeit, nicht um weniger Zeilen.
Leistungsoptimierung bedeutet, zu entscheiden, welche Berechnungen nicht ausgeführt werden sollen, die Core Web Vitals ehrlich zu messen und die am stärksten belasteten Abläufe zu beheben, anstatt aus reiner Gewohnheit die Anzahl der Quellzeilen zu verringern.
12 Min. Lesezeit
Über diese Artikel
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.