Artikel für Leute, die
den Stack ausliefern
Originale Beiträge zu React, Node.js, TypeScript und AI — aus derselben Praxis wie unsere Operator-Software. Artikeltexte auf Englisch.
Tag: mlx
Lokale LLMs auf dem Mac: MLX statt der Standard-Engine llama.cpp
Wann Apples MLX auf Apple Silicon schneller ist als llama.cpp – mit Benchmark-Spannen nach Modellgröße, drei Wegen zum Umstieg und den Fallstricken, die Sie vermeiden sollten.
1117 WörterArtikel lesenLohnt sich ein größeres LoRA? Genauigkeit gegen Kosten messen statt nach Gefühl
Ein kleines Test-Harness, das LoRA-Rezepte als Daten behandelt und Genauigkeit, Trainingszeit, Latenz und Speicher ausgibt, damit Entscheidungen über Rang und Iterationen auf Zahlen beruhen.
1242 WörterArtikel lesenLoRA-Feinabstimmung lokal ausführen: Überprüfen, kombinieren und stille Fehler vermeiden
Beweisen, dass ein LoRA-Adapter tatsächlich ein kleines Modell verbessert hat, es mit anderen Komponenten verknüpfen und hinter einer lokalen, OpenAI-kompatiblen API bereitstellen, sowie die Fehler aufspüren, die zu zuverlässig falschen Ausgaben führen.
2671 WörterArtikel lesen
Über diese Artikel
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.