Artikel für Leute, die
den Stack ausliefern
Originale Beiträge zu React, Node.js, TypeScript und AI — aus derselben Praxis wie unsere Operator-Software. Artikeltexte auf Englisch.
Tag: moe
Ein lokales Coding-Modell mit llama.cpp betreiben und in VS Code einbinden
Token-Rechnungen durch ein lokales MoE-Modell ersetzen: Quantisierung wählen, llama-server-Flags für kleine GPUs einstellen, Cline oder Kilo Code anbinden und die Sicherheit dicht machen.
1882 WörterArtikel lesenOrnith-1.0-35B: Die Qualität eines dichten 27B als MoE auf dem MacBook
Wie sich ein 35B-Mixture-of-Experts-Modell mit 3B aktiven Parametern gegen Qwen3.6 schlägt, was es unter llama.cpp braucht und wo es glänzt oder zurückfällt.
956 WörterArtikel lesenHardware-Überprüfung für den lokalen Betrieb von 100B-Klassen-Modellen
Die Spärheit der Modellgewichte, die Quantisierung sowie die Rechenanforderungen an den VRAM bestimmen, ob Gewichte im 100-Milliarden-Faktor-Bereich auf einer Workstation untergebracht werden können – nicht das Marketing mit Parametern.
2477 WörterArtikel lesen
Über diese Artikel
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.