Artikel für Leute, die
den Stack ausliefern
Beiträge zu React, Node.js, TypeScript und AI. Ein übersetzter Text wird gezeigt, wenn er existiert. Sonst sehen Sie den englischen Text und einen Hinweis.
Tag: Fine-Tuning
Schulung von Unternehmens-KI-Agenten: Auswahl zwischen SFT, DPO, GRPO und RAG
Schulung von KI-Agenten für Unternehmen: Wann SFT, DPO, GRPO, LoRA oder einfaches RAG verwendet werden sollten und wie das Ergebnis als fixierte, überprüfte und rückgängig machbare Version bereitgestellt werden kann.
50 Min. LesezeitWas ein Modell-Differenzierungs-Agent herausfindet: Stiländerungen überlagern eine feine Anpassung.
Ein Modell-Differenzierungs-Agent überprüfte eine Finanz-LoRA-Feinabstimmung: 82 Prozent der Durchläufe erkannten die Änderung in Länge und Struktur, während die beabsichtigte Veränderung im Denkprozess verborgen blieb.
15 Min. LesezeitAGI ist ein Lernproblem, kein Speicherproblem.
Ein Argument, dass kontinuierliches Lernen und nicht größere Gewichte das fehlende Element der KI darstellt, zusammen mit einer Skizze eines sich selbst aktualisierenden Zyklus, der jede kleine Veränderung überprüft.
7 Min. LesezeitRAG, Feintuning oder Agenten: Die richtige Schicht sowie die richtige Reihenfolge bei der Implementierung auswählen
RAG gegen Feintuning gegen KI-Agenten: Was jede Methode leistet, Kosten, Latenzzeiten und Fehlermöglichkeiten, Faustregeln sowie ein HR-Assistent, der die Reihenfolge zur Implementierung zeigt.
12 Min. LesezeitDas Feintunen ist jetzt günstig geworden, doch die Agenten benötigen weiterhin eine Kontrolle für die Gewichte.
Wie man die gespeicherten Lektionen eines Agenten mithilfe von On-Policy-Selbstdestillation in Gewichte umwandelt, vier Förderkriterien sowie warum die Wiederholung des Zyklus dreimal zu seinem Scheitern führt.
9 Min. LesezeitPrompting, RAG oder Feinabstimmung: Diagnosieren Sie die jeweilige Ebene, bevor Sie wählen.
Eine praktische Methode, um im Jahr 2026 zwischen Prompting, RAG und Feinabstimmung zu wählen, unter Verwendung von drei Fragen, einem Entscheidungsfluss, Kostenstrukturen, Aktualität sowie häufigen Fehlern.
9 Min. LesezeitVon der Vorhersage des nächsten Tokens zur Befolgung von Anweisungen: Feinabstimmung eines GPT-Modells
Wie ein vortrainiertes GPT lernt, Anweisungen zu befolgen: Formatierung von Datensätzen, Etikettverschiebung, Padding-Masken, der Trainingszyklus, Bewertungsgrenzen und der Schritt hin zu DPO-Präferenzen.
9 Min. LesezeitSoft-Label-Destillation für einen 0.8B SQL Agent: Warum ein schwächerer Qwen-Lehrer gewann
Das LoRA-Fine-Tuning mit top-k-Weichetiketten aus gefrorenen Spuren brachte einen 0,8B-SQL-Agenten auf 55 von 220 Aufgaben, und ein schwächerer Qwen-Lehrer übertraf das stärkere GPT-Modell.
20 Min. LesezeitErklärung zur Feinabstimmung von GRPO: Wie man einem lokalen LLM das Denken beibringt
GRPO gibt den Kritiker von PPO auf und lernt durch Vergleiche mit anderen Gruppen. Es wird auf die fünf zentralen Größen, die Belohnungsfunktionen sowie ein kurzes Trainingsskript für Unsloth und TRL eingegangen.
11 Min. Lesezeit
Über diese Artikel
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.