Огляд Qwen 3.8-27B: бенчмарки, вердикт спільноти й реальні вимоги до заліза

14 серпня Alibaba випустила Qwen 3.8-27B із відкритими вагами за ліцензією Apache 2.0. У 4-бітному кванті модель займає близько 17 ГБ, і зір іде в комплекті. Навіть на ноутбуці, далеко від будь-якої GPU-стійки, її можна завантажити й запустити через llama.cpp, і результат кращий, ніж просто «вражає як на свій розмір». Вона думає довше за інші локальні моделі, ловить граничні випадки, які пропускала попередня робоча конячка, і видає те, для чого раніше потрібен був платний фронтирний API.

Нижче — відповіді на три запитання. Як вона виглядає проти Opus 4.6, GLM 5.2 і DeepSeek V4 Flash 0731? Що сказали користувачі після двох тижнів реальної роботи? І яке залізо їй справді потрібне — те, у чому не зізнається жодна таблиця бенчмарків?

Що ви отримуєте насправді

Qwen 3.8-27B — щільна модель на 27 мільярдів параметрів, і всі вони активні на кожному токені. Це не розріджена суміш експертів, замаскована під маленьку модель. Найцікавіше — увага. Більшість шарів використовують дешевий лінійний механізм (Gated DeltaNet), і лише кожен четвертий шар застосовує повну увагу. Саме таке співвідношення три до одного дає їй змогу виходити з нативним контекстом на 262K токенів, не пожираючи пам'ять, а за словами Qwen, вікно можна розтягнути до 1M токенів.

Вона також працює із зображеннями й відео. І головне — за замовчуванням вона думає. Найвищий рівень міркувань ("xhigh") увімкнено з коробки, тож кожен промпт запускає довгу внутрішню суперечку, перш ніж з'явиться відповідь. Саме режим міркувань вирішує, чи модель захоплюватиме, чи дратуватиме, і ми ще до нього повернемося.

Порівняння

Проти Opus 4.6: сильніша в роботі, слабша на іспитах

Ось зведена таблиця за опублікованими цифрами самих розробників:

| Benchmark          | Qwen3.8-27B | Opus 4.6 Max | GLM-5.2   |
|--------------------|-------------|--------------|-----------|
| SWE-bench Pro      | 61.7        | 53.4         | 62.1      |
| Terminal-Bench 2.1 | 73.0*       | 78.2         | 81.0*     |
| GPQA Diamond       | 89.2        | 91.3         | 91.2      |
| HLE                | 30.8        | 40.0         | 40.5      |

У кожного розробника свій тестовий стенд, тож сприймайте цифри як орієнтир.

Якщо по-простому, Qwen перемагає там, де агенти роблять реальну роботу. SWE-bench Pro — це виправлення справжніх баґів у реальних репозиторіях, і тут Qwen випереджає Opus більш ніж на 8 пунктів. Вона ж виграє у виконанні інструкцій (IFBench 79,5 проти 62,5) і в усьому візуальному: результат OSWorld із керування комп'ютером зріс із 63,9 у старої Qwen до 84,3, обійшовши Opus із його 72,7.

Opus зберігає лідерство на найважчих наборах для міркувань: GPQA з науковими запитаннями рівня аспірантури та HLE, яку прозвали «Останнім іспитом людства». Це територія фронтирної математики, і файлу на 17 ГБ туди поки не дотягтися.

Застереження, перш ніж цитувати таблицю: кожна цифра взята з картки й стенда самого розробника. Alibaba проганяла SWE-bench Pro на стенді Claude Code, а HLE оцінювала за допомогою GPT-4o. Вважайте це стелею, а не підлогою, хоча кращої мапи все одно немає.

Проти DeepSeek V4 Flash 0731: той самий бал за частку заліза

DeepSeek V4 Flash — це MoE на 284 мільярди параметрів із 13B активних на токен. У незалежному індексі Artificial Analysis, де всі моделі проходять ті самі дев'ять тестів, Qwen 3.8-27B набирає 52 — рівно стільки ж, скільки DeepSeek V4 Flash 0731.

Бал однаковий, вимоги різні. Одна працює на одній карті з 24 ГБ і розуміє зображення. Іншій потрібні п'ять RTX 3090, а її префіл порівняно з цим болісно повільний.

Проти GLM 5.2: близько, але із застереженням

GLM-5.2 від Zhipu поширюється за MIT, має солідний контекст на 1M і на папері є найближчим суперником: 62,1 проти 61,7 у Qwen на SWE-bench Pro та 81 проти 73 на Terminal-Bench на їхньому стенді. Qwen виграє з двох причин: у ній є зір, і вона вміщується на карту, яка в людей уже є.

Застереження в тому, що 18 серпня, через два дні після Qwen, Zhipu випустила GLM-5.3. У тому самому індексі, де в Qwen 52, вона набирає 60, тож це протистояння вже розігрується наново.

Реакція спільноти

Через два тижні на r/LocalLLaMA були сотні тредів, а на Hacker News — обговорення на 375 балів. Думки поділяються на три табори й ще одну групу.

Табір перший: фронтирний інтелект удома. Це дослівний коментар із Hacker News. Користувач із 5090 написав у мегатреді про реліз, що понад 80% його роботи більше не потребує Claude. В одному довгому огляді від спільноти модель назвали рівнем Sonnet із запасом до результатів рівня Opus. Саймон Віллісон, який професійно оглядає LLM, назвав її чудовою й запустив на ній власного агента для програмування, дивуючись, що файл на 17 ГБ здатен на таке.

Один зовнішній результат вирізняється. Бенчмарк юридичних агентів від Harvey імітує юридичну фірму з понад 100M токенів приблизно в 10 000 документів. Донавчена Qwen3.8-27B обійшла там Claude Opus 4.8 за ціною близько $0.13 за запит проти $1.32. Ставтеся до цього обережно: донавчена модель заздалегідь вивчила корпус цієї фірми, що показує силу доменного налаштування на моделі 27B, але мало каже про стандартні ваги. І все ж це перший натяк на те, що здібності переносяться за межі тестових стендів самої Alibaba.

Табір другий скаржиться на податок за надмірні роздуми. З xhigh за замовчуванням задача, яка без міркувань займає дві з половиною хвилини, може розтягнутися до 21 хвилини. Це видно з тесту з пеліканом Саймона Віллісона: він попросив простого пелікана в SVG, і модель витратила понад 22 000 токенів міркувань на 3200 токенів підсумкової відповіді. Малюнок вийшов добрим, але коштував 21 хвилину. У середньому за задачами модель видає приблизно вдвічі більше токенів, ніж Qwen 3.6-27B, а на споживчому залізі це перетворюється на очікування.

Табір третій: поза кодом вона галюцинує. Це прикро, бо правда. Її оцінка знань про світ (AA-Omniscience) трохи опустилася нижче Qwen 3.6 — пам'ять обміняли на здібності. Користувачі описують упевнені хибні відповіді про загальні факти, а в одного вона понад годину ходила по колу на задачі з CLI, яку розв'язав би вебпошук.

І нарешті ті, хто її пришвидшив, — вони найважливіші. За кілька днів спільнота змусила NVFP4-кванти працювати разом зі спекулятивним декодуванням MTP, і одна RTX 5090 видала 200+ токенів за секунду з повністю завантаженим контекстом на 262K. Повільність налаштовується, тож якщо модель здається млявою, спершу підозрюйте конфігурацію, а не модель.

Перші враження: вона не відпускає задачу

Порівняно з Qwen 3.6-27B головна зміна після тижня щоденної роботи — наполегливість. Qwen 3.6 була швидкою, тямущою й трохи лінивою: її відповіді покривали щасливий шлях і на цьому закінчувалися. Qwen 3.8 продумує граничні випадки, про які ніхто не казав: порожнє введення, API, що повертає 500 на другому виклику, файл, якого на четвертому кроці вже немає. Результат приходить повнішим, а відповіді «і так зійде» майже зникли.

Користувачі також з'ясували, як нею керувати. Популярний прийом — вставити в міркування моделі рядок на кшталт "you have 12K tokens of thinking budget per turn" («у тебе 12K токенів на міркування за хід»), а потім повторювати нагадування, коли витрачено половину й три чверті бюджету. Так xhigh перетворюється з фіксованого податку на регулятор. Усередині агентного стенда або керуйте рівнем зусиль, або видавайте їй бюджет. Якщо сказати моделі закруглятися з міркуваннями, вона стає достатньо лаконічною, але сама ніколи цього не пропонує.

На чому запускати

Сюрприз на Apple Silicon: з llama.cpp на MacBook Pro з M4 Max увімкнення MTP не пришвидшило, а сповільнило виведення. Віллісон наміряв приблизно 72% приросту від спекулятивного декодування MTP, але це було на шляху CUDA. На Mac запускайте без нього й змиріться з темпом.

Архітектура не змінила арифметики. Це все ще щільна модель на 27B, тож до неї застосовне все, що правдиве для цього класу. Практична мапа:

• RTX 3090 або 4090 (24 ГБ): Q4 вміщується із запасом, Q8 працює на двох GPU. Щоденна робота починає здаватися реальною, а повідомлення спільноти про 40–70 ток/с із MTP на CUDA відповідають очікуванням для карт цього класу.
• RTX 5090 (32 ГБ): золота середина наразі. NVFP4 плюс MTP дають понад 200 ток/с в одному потоці з повним контекстом. Якщо у 2026 році брати одну карту під локальний ШІ, то цю.
• DGX Spark або MacBook Pro: працює, і дивитися на це цікаво, але для повсякденної роботи поки що надто повільно. Вважайте це моделлю для подорожей.

Магії немає. Якщо ноутбук — ваша єдина машина, а фронтирне мислення потрібне щодня, чесна порада — орендувати GPU або дочекатися наступного покоління чипів. Інтелект уміщується в сумку. Терпіння — ні.

Шлях до цієї моделі

Opus 4.6 на початку 2026 року став поштовхом, після якого власний агент на своєму залізі здався вартою справою: якщо передплата вміє таке, те саме має працювати й на власному обладнанні. Qwen 3.5-27B зробила такого агента робочим локально, потім її змінила Qwen 3.6-27B, яка досі закриває близько 90% щоденної роботи. Але граничні випадки й далі прослизали — ті, де швидша й поверхневіша модель здається або вгадує.

Ця прогалина підштовхнула до DeepSeek V4 Flash 0731, яка суттєво підняла інтелект агента й стала першою локальною моделлю, що, здавалося, міркувала про кодову базу, а не просто зіставляла шаблони. Але їй потрібні всі п'ять RTX 3090, а префіл такий повільний, що довгі сесії тягнуться.

Потім з'явилася Qwen 3.8-27B, і цифри нарешті зійшлися: інтелект рівня DeepSeek V4 Flash на одній карті, та ще й із зором. Кожна модель зробила свою справу. Opus показав, що можливо, DeepSeek — наскільки добре може думати агент, а Qwen 3.8 — перша, яка може стояти на столі без страшних рахунків за електрику.

Що далі

Тренд тепер очевидний: локальний ШІ більше не іграшка й не доповнення, і він рухається вперед одразу на двох фронтах. Маленькі моделі покращуються швидше, ніж будь-хто передбачав. Ця за одне покоління стрибнула від звичайної 27B до результатів класу Sonnet в агентному стенді, а 200 ток/с на одній карті з'явилися за лічені дні після запуску. Залізо теж підтягується. Уже першого дня AMD протестувала ту саму модель на своєму ноутбучному процесорі Ryzen AI Max+ і отримала 24,5 токена за секунду, тож продуктивність класу RTX 3090 рухається до мобільних пристроїв.

Складіть одне з іншим, і прогноз не здається божевільним: інтелект рівня DeepSeek V4 Flash у кишені, на чипі, достатньо маленькому для телефона.

Де почитати докладніше

В офіційній картці моделі — характеристики й ліцензія, а огляд Саймона Віллісона — найкращий практичний розбір компромісів режиму міркувань. Artificial Analysis публікує незалежні бали індексу, а Zhipu описує GLM-5.2 і GLM-5.3 у власному блозі.