Engineering-Notizen
Artikel für Leute, die
den Stack ausliefern
Originale Beiträge zu React, Node.js, TypeScript und AI — aus derselben Praxis wie unsere Operator-Software. Artikeltexte auf Englisch.
Tag: vLLM
Qwen3.8-27B wird auf einer RTX 3090 mit einem gepatchten vLLM und DFlash2 ausgeführt.
Wie ein gepinnter vLLM 0,28,0-Branch mit neu quantisierten Embeddings und DFlash2-Spekulationen ein 27-Billionen-Modell auf einer Karte mit 24 GB ausführt – und wo ein langer Kontext die Leistung verlangsamt.
3193 WörterArtikel lesen
FAQ
Über diese Artikel
Ja. Jeder Text ist ein originales englisches Rewrite für diese Site. Struktur und Code folgen der Quelle; Prosa wird neu geschrieben und auf Überlappung geprüft.
Technische Posts zuerst auf Englisch, damit Code und APIs exakt bleiben. Die Site-Chrome gibt es in allen neun Sprachen.
Neue Entwürfe kommen nach der Redaktion in die Queue. Der Site-Import nimmt nur neue oder geänderte Slugs — ohne Duplikate.
Beispiele sind illustrativ. Prüfen Sie Stack und Lizenzen vor Produktion. Für Umsetzung den Brief senden.
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.