Artikel für Leute, die
den Stack ausliefern
Beiträge zu React, Node.js, TypeScript und AI. Ein übersetzter Text wird gezeigt, wenn er existiert. Sonst sehen Sie den englischen Text und einen Hinweis.
Tag: LoRA
Schulung von Unternehmens-KI-Agenten: Auswahl zwischen SFT, DPO, GRPO und RAG
Schulung von KI-Agenten für Unternehmen: Wann SFT, DPO, GRPO, LoRA oder einfaches RAG verwendet werden sollten und wie das Ergebnis als fixierte, überprüfte und rückgängig machbare Version bereitgestellt werden kann.
50 Min. LesezeitWas ein Modell-Differenzierungs-Agent herausfindet: Stiländerungen überlagern eine feine Anpassung.
Ein Modell-Differenzierungs-Agent überprüfte eine Finanz-LoRA-Feinabstimmung: 82 Prozent der Durchläufe erkannten die Änderung in Länge und Struktur, während die beabsichtigte Veränderung im Denkprozess verborgen blieb.
15 Min. LesezeitLoRA und QLoRA erklärt: Ein 7B-Modell feintunen ohne 100 GB VRAM
Warum vollständiges Fine-Tuning 80 bis 100 GB braucht, wie Low-Rank-Adapter die trainierbaren Gewichte auf 1,6 % senken, wie man Rang und Ziel-Layer wählt und was QLoRA hinzufügt.
5 Min. LesezeitAcht Ideen der linearen Algebra hinter Embeddings, LoRA und PCA
Vektoren, Matrizen, Eigenvektoren, Kosinus-Ähnlichkeit, Normen, SVD und Rang, erklärt an kleinen Beispielen mit Hauspreisen und an den KI-Techniken, die darauf aufbauen.
7 Min. LesezeitWie QLoRA große Modelle auf kleinen GPUs feintunt: 4-Bit-Grundlagen
QLoRA von Grund auf verstehen: warum volles Fine-Tuning teuer ist, wie LoRA-Adapter und 4-Bit-Quantisierung zusammenspielen und wann der Ansatz zu Ihrem Projekt passt.
8 Min. LesezeitLohnt sich ein größeres LoRA? Genauigkeit gegen Kosten messen statt nach Gefühl
Ein kleines Test-Harness, das LoRA-Rezepte als Daten behandelt und Genauigkeit, Trainingszeit, Latenz und Speicher ausgibt, damit Entscheidungen über Rang und Iterationen auf Zahlen beruhen.
5 Min. LesezeitZwei LLM-Arbeitslasten auf einer GPU: vLLM LoRA, Agenten und Azure ML-Fine-Tuning
Bieten Sie interaktiven und batchbasierten Agentenverkehr von einer einzigen Karte an – mit Demand LoRA, ClickHouse-Analysen, Blob-Artefakten sowie Unsloth-Training, das in MLflow erfasst wird.
8 Min. LesezeitLoRA-Feinabstimmung lokal ausführen: Überprüfen, kombinieren und stille Fehler vermeiden
Beweisen, dass ein LoRA-Adapter tatsächlich ein kleines Modell verbessert hat, es mit anderen Komponenten verknüpfen und hinter einer lokalen, OpenAI-kompatiblen API bereitstellen, sowie die Fehler aufspüren, die zu zuverlässig falschen Ausgaben führen.
12 Min. Lesezeit
Über diese Artikel
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.