Qwen 3.8-27B im Test: Benchmarks, Urteil der Community und Hardware-Realität

Am 14. August veröffentlichte Alibaba Qwen 3.8-27B als Open Weights unter der Apache-2.0-Lizenz. Als 4-Bit-Quant belegt es rund 17 GB, und Bildverständnis ist inklusive. Selbst auf einem Laptop, fernab jedes GPU-Racks, lässt sich das Modell herunterladen und über llama.cpp betreiben, und das Ergebnis ist besser als „beeindruckend für seine Größe“. Es überlegt länger als andere lokale Modelle, erwischt Randfälle, die ein früheres Alltagsmodell übersehen hat, und liefert Arbeit, für die man früher eine kostenpflichtige Frontier-API brauchte.

Im Folgenden geht es um drei Fragen. Wie schlägt es sich gegen Opus 4.6, GLM 5.2 und DeepSeek V4 Flash 0731? Was sagten Nutzer nach zwei Wochen echter Arbeit? Und was braucht es an Hardware, das keine Benchmark-Tabelle zugibt?

Was Sie tatsächlich bekommen

Qwen 3.8-27B ist ein dichtes Modell mit 27 Milliarden Parametern, die bei jedem Token alle aktiv sind. Es ist kein spärliches Mixture-of-Experts, das sich als kleines Modell verkleidet. Spannend ist die Attention. Die meisten Schichten nutzen einen günstigen linearen Mechanismus (Gated DeltaNet), und nur jede vierte Schicht wendet volle Attention an. Diese Mischung von drei zu eins erlaubt einen nativen Kontext von 262K Tokens, ohne den Speicher aufzufressen, und laut Qwen lässt sich das Fenster auf 1M Tokens strecken.

Es verarbeitet außerdem Bilder und Videos. Vor allem aber denkt es standardmäßig nach. Die höchste Reasoning-Stufe ("xhigh") ist ab Werk aktiv, sodass jeder Prompt eine lange interne Debatte auslöst, bevor eine Antwort erscheint. Dieser Denkmodus entscheidet darüber, ob sich das Modell großartig oder frustrierend anfühlt, und er taucht weiter unten wieder auf.

Vergleiche

Gegen Opus 4.6: stärker bei der Arbeit, schwächer in den Prüfungen

Hier die Übersicht nach den eigenen veröffentlichten Zahlen der Anbieter:

| Benchmark          | Qwen3.8-27B | Opus 4.6 Max | GLM-5.2   |
|--------------------|-------------|--------------|-----------|
| SWE-bench Pro      | 61.7        | 53.4         | 62.1      |
| Terminal-Bench 2.1 | 73.0*       | 78.2         | 81.0*     |
| GPQA Diamond       | 89.2        | 91.3         | 91.2      |
| HLE                | 30.8        | 40.0         | 40.5      |

Jeder Anbieter nutzt ein eigenes Test-Harness, die Werte sind also als Richtung zu verstehen.

Auf gut Deutsch: Qwen gewinnt dort, wo Agenten echte Arbeit leisten. SWE-bench Pro heißt, echte Bugs in realen Repositories zu beheben, und dort liegt Qwen mehr als 8 Punkte vor Opus. Es gewinnt auch beim Befolgen von Anweisungen (IFBench 79,5 gegen 62,5) und bei allem Visuellen: Der OSWorld-Wert für Computerbedienung stieg von 63,9 beim alten Qwen auf 84,3 und schlägt damit Opus mit 72,7.

Opus behält die Führung bei den härtesten Reasoning-Sets: GPQA mit naturwissenschaftlichen Fragen auf Graduiertenniveau und HLE, auch „Humanity's Last Exam“ genannt. Das ist Terrain der Frontier-Mathematik, und eine 17-GB-Datei reicht dort noch nicht heran.

Eine Warnung, bevor Sie die Tabelle irgendwo zitieren: Jede Zahl stammt aus der eigenen Modellkarte und dem eigenen Harness des Anbieters. Alibaba ließ SWE-bench Pro mit dem Claude-Code-Harness laufen und bewertete HLE mit GPT-4o. Lesen Sie die Werte als Obergrenze, nicht als Untergrenze, auch wenn es die beste verfügbare Karte bleibt.

Gegen DeepSeek V4 Flash 0731: gleicher Wert, ein Bruchteil der Hardware

DeepSeek V4 Flash ist ein MoE mit 284 Milliarden Parametern, davon 13B aktiv pro Token. Im unabhängigen Index von Artificial Analysis, bei dem jedes Modell dieselben neun Evaluierungen durchläuft, kommt Qwen 3.8-27B auf 52, exakt so viel wie DeepSeek V4 Flash 0731.

Gleicher Wert, unterschiedliche Ansprüche. Das eine läuft auf einer einzigen 24-GB-Karte und versteht Bilder. Das andere will fünf RTX 3090, und sein Prefill ist im Vergleich quälend langsam.

Gegen GLM 5.2: knapp, mit Fußnote

Zhipus GLM-5.2 steht unter MIT-Lizenz, hat einen soliden 1M-Kontext und ist auf dem Papier der engste Rivale: 62,1 gegen Qwens 61,7 bei SWE-bench Pro und 81 gegen 73 bei Terminal-Bench mit dem eigenen Harness. Qwen bekommt aus zwei Gründen den Zuschlag: Es bringt Bildverständnis mit und passt auf eine Karte, die viele schon besitzen.

Die Fußnote: Zhipu veröffentlichte GLM-5.3 am 18. August, zwei Tage nach Qwen. Es erreicht 60 im selben Index, in dem Qwen auf 52 kommt, das Duell wird also bereits neu ausgetragen.

Reaktionen der Community

Nach zwei Wochen gab es auf r/LocalLLaMA Hunderte Threads und auf Hacker News eine Diskussion mit 375 Punkten. Die Meinungen teilen sich in drei Lager und eine weitere Gruppe.

Lager eins: Frontier-Intelligenz zu Hause. Die Formulierung ist ein echter Hacker-News-Kommentar. Ein Nutzer mit einer 5090 schrieb im Release-Megathread, dass über 80 % seiner Arbeit Claude nicht mehr brauchen. Ein langer Community-Test bezeichnete es als Sonnet-Niveau mit Luft nach oben bis zu Opus-Ergebnissen. Simon Willison, der LLMs professionell testet, nannte es hervorragend, steuerte damit seinen eigenen Coding-Agenten und staunte, dass eine 17-GB-Datei all das kann.

Ein externes Ergebnis sticht heraus. Harveys Benchmark für Rechtsagenten simuliert eine Kanzlei mit über 100M Tokens, verteilt auf rund 10.000 Dokumente. Ein angepasstes Qwen3.8-27B schnitt dort besser ab als Claude Opus 4.8, bei etwa $0.13 pro Anfrage gegenüber $1.32. Vorsicht bei der Einordnung: Das angepasste Modell hatte den Korpus dieser Kanzlei vorher gelernt, was die Wirkung von Domain-Tuning bei einem 27B-Modell zeigt, über die Standardgewichte aber wenig aussagt. Trotzdem ist es ein erster Hinweis darauf, dass die Fähigkeiten über Alibabas eigene Testaufbauten hinaus tragen.

Lager zwei beklagt die Grübelsteuer. Mit xhigh als Standard kann sich eine Aufgabe, die ohne Denken zweieinhalb Minuten dauert, auf 21 Minuten ziehen. Simon Willisons Pelikan-Test zeigt es: Er bat um einen einfachen SVG-Pelikan, und das Modell verbrauchte über 22.000 Reasoning-Tokens für 3.200 Tokens Endausgabe. Die Zeichnung wurde gut, kostete ihn aber 21 Minuten. Über verschiedene Aufgaben erzeugt das Modell etwa doppelt so viele Tokens wie Qwen 3.6-27B, und auf Consumer-Hardware heißt das: warten.

Lager drei: Außerhalb von Code halluziniert es. Das schmerzt, weil es stimmt. Der Wert für Weltwissen (AA-Omniscience) rutschte leicht unter Qwen 3.6, Erinnerung wurde gegen Fähigkeit getauscht. Nutzer berichten von selbstsicheren falschen Antworten zu allgemeinen Fakten, und bei einem hing es über eine Stunde in einer Schleife bei einer CLI-Aufgabe fest, die eine Websuche gelöst hätte.

Und dann sind da die Leute, die es beschleunigt haben, und auf sie kommt es am meisten an. Innerhalb weniger Tage brachte die Community NVFP4-Quants zusammen mit MTP-Speculative-Decoding zum Laufen, und eine einzige RTX 5090 schaffte über 200 Tokens pro Sekunde bei voll geladenem 262K-Kontext. Langsamkeit lässt sich tunen, wer es also träge findet, sollte zuerst das Setup verdächtigen und nicht das Modell.

Erste Eindrücke: Es bleibt am Problem dran

Gegenüber Qwen 3.6-27B ist die auffälligste Veränderung nach einer Woche täglicher Nutzung die Beharrlichkeit. Qwen 3.6 war schnell, kompetent und ein wenig faul und lieferte Antworten, die den Happy Path abdeckten und dann aufhörten. Qwen 3.8 wägt Randfälle ab, die niemand erwähnt hat: eine leere Eingabe, eine API, die beim zweiten Aufruf eine 500 liefert, eine Datei, die in Schritt vier nicht mehr existiert. Die Ausgabe kommt vollständiger zurück, und Antworten nach dem Motto „passt schon“ sind fast verschwunden.

Nutzer fanden auch heraus, wie man es lenkt. Ein beliebter Trick ist, eine Zeile wie "you have 12K tokens of thinking budget per turn" („du hast pro Runde 12K Tokens Denkbudget“) in das Reasoning des Modells einzuschleusen und dann Erinnerungen zu wiederholen, wenn die Hälfte und drei Viertel des Budgets verbraucht sind. So wird xhigh von einer festen Steuer zu einem Regler. In einem Agenten-Harness sollten Sie entweder die Effort-Stufe steuern oder ein Budget vorgeben. Sagt man dem Modell, es solle sein Nachdenken abschließen, ist es knapp genug, von sich aus bietet es das aber nie an.

Worauf es laufen sollte

Eine Überraschung auf Apple Silicon: Mit llama.cpp auf einem MacBook Pro mit M4 Max machte MTP die Inferenz langsamer statt schneller. Willison maß etwa 72 % Gewinn durch MTP-Speculative-Decoding, aber auf dem CUDA-Pfad. Auf dem Mac betreiben Sie es ohne und nehmen das Tempo hin.

Die Architektur hat an der Rechnung nichts geändert. Es bleibt ein dichtes 27B-Modell, also gilt, was für diese Klasse gilt. Eine praktische Übersicht:

• RTX 3090 oder 4090 (24 GB): Q4 passt bequem, Q8 läuft auf zwei GPUs. Der Alltagseinsatz fühlt sich allmählich echt an, und Community-Berichte über 40 bis 70 tok/s mit MTP unter CUDA entsprechen den Erwartungen für diese Kartenklasse.
• RTX 5090 (32 GB): derzeit der Sweet Spot. NVFP4 plus MTP schaffen über 200 tok/s für einen einzelnen Stream mit vollem Kontext. Wer 2026 eine Karte nur für lokale KI kauft, nimmt diese.
• DGX Spark oder MacBook Pro: Es läuft und macht Spaß beim Zusehen, ist für die tägliche Arbeit aber noch zu langsam. Betrachten Sie es als Reisemodell.

Zauberei gibt es hier nicht. Ist ein Laptop Ihr einziger Rechner und brauchen Sie täglich Frontier-Denkleistung, lautet der ehrliche Rat: eine GPU mieten oder eine Chipgeneration abwarten. Die Intelligenz passt in Ihre Tasche. Die Geduld nicht.

Der Weg zu diesem Modell

Opus 4.6 Anfang 2026 war der Anstoß, der einen selbst gehosteten Agenten lohnend erscheinen ließ: Wenn ein Abo das kann, sollte dieselbe Fähigkeit auf eigener Hardware laufen. Qwen 3.5-27B machte einen solchen Agenten lokal nutzbar, dann übernahm Qwen 3.6-27B, das noch immer rund 90 % der täglichen Arbeit abdeckt. Randfälle rutschten aber weiterhin durch, genau die, bei denen ein schnelleres, flacheres Modell aufgibt oder rät.

Diese Lücke führte zu DeepSeek V4 Flash 0731, das die Intelligenz des Agenten stark verbesserte und als erstes lokales Modell über eine Codebasis nachzudenken schien, statt nur Muster abzugleichen. Es braucht allerdings alle fünf RTX 3090, und sein Prefill ist so langsam, dass sich lange Sessions ziehen.

Dann kam Qwen 3.8-27B, und die Rechnung ging endlich auf: Intelligenz auf DeepSeek-V4-Flash-Niveau auf einer Karte, mit Bildverständnis. Jedes Modell erfüllte eine Aufgabe. Opus zeigte, was möglich ist, DeepSeek zeigte, wie gut ein Agent denken kann, und Qwen 3.8 ist das erste, das ohne horrende Stromrechnung auf dem Schreibtisch bleiben kann.

Was als Nächstes kommt

Der Trend ist jetzt offensichtlich: Lokale KI ist kein Spielzeug und kein Zusatz mehr, und sie kommt an zwei Fronten zugleich voran. Kleine Modelle werden schneller besser, als irgendwer vorhergesagt hat. Dieses sprang innerhalb einer Generation von einem gewöhnlichen 27B zu Sonnet-Ergebnissen in einem Agenten-Harness, und 200 tok/s auf einer einzigen Karte gab es wenige Tage nach dem Start. Auch die Hardware holt auf. Gleich am ersten Tag testete AMD dasselbe Modell auf seinem Laptop-Prozessor Ryzen AI Max+ und erreichte 24,5 Tokens pro Sekunde, Leistung der RTX-3090-Klasse wandert also Richtung Mobilgeräte.

Kombiniert man beides, ist die Prognose nicht abwegig: Intelligenz auf DeepSeek-V4-Flash-Niveau in der Hosentasche, auf einem Chip, der klein genug für ein Smartphone ist.

Wo Sie mehr lesen können

Die offizielle Modellkarte enthält Spezifikationen und Lizenz, und Simon Willisons Test ist der beste Praxisbericht zu den Kompromissen des Denkmodus. Artificial Analysis veröffentlicht die unabhängigen Indexwerte, und Zhipu dokumentiert GLM-5.2 und GLM-5.3 im eigenen Blog.