Qwen3.8-Flash-Next: un modelo de 177B que corre en una sola GPU de 24 GB
Cómo Qwen3.8-Flash-Next mete un mixture-of-experts de 177B en hardware modesto: 6B de parámetros activos, una tabla de n-gramas, atención híbrida y sus huecos en los benchmarks.
Por qué un modelo de 177B importa a quien tiene una sola GPU
Qwen3.8-Flash-Next, publicado por el equipo Qwen de Alibaba, tiene la capacidad de conocimiento de un sistema de frontera y el cómputo por token de un modelo de 6B lo bastante pequeño para un teléfono. Según varias mediciones, ya supera a Claude Opus 4.6 en programación agéntica. Descargar más de 100 GB de pesos en lugar de llamar a una API solo tiene sentido cuando entiendes qué es el modelo, así que aquí se explica qué es, por qué sale ahora, cómo se compara con sus rivales y cómo consigue funcionar en una sola GPU de 24 GB.
El momento del lanzamiento y la etiqueta «Next»
Qwen3.8-Flash-Next llegó el 26 de agosto de 2026, el tercer lanzamiento de Qwen en tres semanas:
| Model | Released | Role | API price (per M tokens) |
|--------------------|----------|--------------------------------|--------------------------|
| Qwen3.8-Max | Aug 3 | Frontier flagship, 2.4T MoE | $2.00 / $6.00 |
| Qwen3.8-27B | Aug 14 | Dense model for local use | self-hosted |
| Qwen3.8-Flash-Next | Aug 26 | Cost tier + architecture probe | $0.16 / $0.47 |
Lo que más confunde es el sufijo «Next». Es la marca que Qwen usa para sus previews de investigación. El Qwen3-Next original, de septiembre de 2025, introdujo un diseño de atención híbrida que acabó impulsando todos los lanzamientos de Qwen durante el año siguiente. Flash-Next cumple la misma función para lo que viene después, que es Qwen4. El blog del lanzamiento dice que el equipo publica pronto los cambios de arquitectura para que la comunidad pueda examinarlos antes de que toda la familia Qwen4 se construya encima.
Esa declaración pesa más que cualquier benchmark. Muchos laboratorios publican sus papers meses después de los pesos, si es que los publican. Qwen entrega primero pesos que funcionan, deja que todo el mundo los rompa y construye la siguiente generación con lo que sobrevive.
«Flash» es la marca del nivel de coste. Flash-Next cuesta $0.16 por millón de tokens de entrada y $0.47 por millón de tokens de salida, unas 12 veces menos que Qwen3.8-Max en ambos casos. Según Qwen, entrenarlo costó aproximadamente una novena parte de lo que necesitó el anterior modelo del nivel Plus. ¿Por qué ahora, entonces? La arquitectura está lista, las cuentas salen y la comunidad ve antes de tiempo el esqueleto de Qwen4.
Qué es, en pocas palabras
Sobre el papel tiene 125B de parámetros principales, una tabla de «n-gram embedding» de 51B y una cabeza de multi-token prediction de 4B, unos 180B almacenados en total. Por cada token generado, solo unos 6B hacen cálculos. Imagina una biblioteca con 177 gigabytes de libros donde la bibliotecaria abre seis páginas por pregunta. El edificio es enorme y el trabajo por respuesta, pequeño.
Conviene separar tres cifras, porque Qwen vende esto oficialmente como un modelo de 125B: unos 180B almacenados, una red de 125B y 6B activos por token. Los aproximadamente 180B son todo lo que hay en disco, es decir, la red de 125B, la tabla de búsqueda de 51B (Qwen cuenta ambas juntas en unos 176B) y una pequeña cabeza de anticipación. Solo los 125B son «el modelo» en el sentido habitual de pesos que calculan.
La tabla de 51B no hace ninguna aritmética. Es memoria congelada, representaciones ya hechas de patrones de palabras frecuentes que se recuperan por dirección. Más estanterías hacen la casa más grande sin sumar habitantes.
Tres piezas hacen que esto funcione.
El cerebro principal (125B, mixture-of-experts). Cada capa contiene 512 expertos, pero un token solo despierta a 10, cerca del 2 % del total. Aquí es donde ocurre el razonamiento de verdad.
La chuleta (la tabla de n-gramas de 51B). De las tres, es la que más atención ha recibido. En vez de aprender cada frase desde cero, el modelo guarda 20 millones de búsquedas precalculadas para patrones de palabras comunes. Una búsqueda casi no cuesta cómputo, porque la dirección se conoce antes de que aparezca el token, así que el hardware puede traerla por adelantado mientras trabaja el cerebro principal. Los usuarios lo han resumido como una gran chuleta para frases cortas frecuentes, que permite al pequeño núcleo activo dedicar su esfuerzo a pensar lo difícil.
La cabeza de anticipación (MTP de 4B). Este módulo pequeño predice varios tokens futuros a la vez y acelera la generación cuando un framework de serving lo usa para decodificación especulativa. El soporte en runtimes locales como llama.cpp todavía está llegando.
Luego está la atención, es decir, cómo recuerda el modelo lo que le has dicho, y aquí Flash-Next se pone ingenioso:
- Las capas Gated DeltaNet (36 de 48) comprimen todo lo visto hasta el momento en un resumen continuo de tamaño fijo. Es como mantener al día una sola nota adhesiva en lugar de releer toda la conversación, y la memoria no crece con la longitud del contexto.
- Las otras 12 capas usan Qwen Sparse Attention, que busca con exactitud, aunque solo en un conjunto limitado de bloques y no en toda la secuencia.
El blog del lanzamiento lo resume en una línea: GDN «recuerda» con eficiencia, mientras QSA «recupera» con precisión.
El resultado es que la caché KV, la devoradora de memoria que hunde la inferencia con contexto largo en los modelos normales, se mantiene diminuta incluso con 262K tokens. Esa longitud está soportada de forma nativa, y YaRN puede estirarla hacia 1M. Es la primera razón por la que este modelo corre en hardware que no debería poder contenerlo.
Hardware en el que funciona
Tamaños oficiales: BF16 necesita 335 GB, FP8 necesita 173 GB y un GGUF de 4 bits ocupa entre 82 y 111 GB, según la cuantización. La lista de Unsloth va desde un IQ1_S de 72,5 GB hasta un Q4_K_XL de 111 GB.
Según Qwen, una versión de 4 bits está pensada para máquinas de la gama de 128 GB (Mac Studio, DGX Spark, Strix Halo), con la tabla de n-gramas en la RAM normal del sistema. Hay una pega. En el lanzamiento, la forma oficialmente soportada de descargar esa tabla solo funcionaba en NVIDIA, así que quienes usan Apple Silicon tuvieron que recurrir a versiones de la comunidad.
| Setup | Quant | What fits where |
|----------------------------------|---------|------------------------------------------|
| DGX Spark / Mac Studio (128GB) | 4-bit | Weights split, n-gram in unified RAM |
| Single RTX 3090 + big system RAM | 2-4 bit | Attention on GPU, experts + table in RAM |
| Multi-GPU server (72GB+ VRAM) | 4-bit | Most weights in VRAM, table in RAM |
La fila de una sola GPU suena imposible y tiene su propia sección más abajo.
Benchmarks: una pelea a tres
Primero, una advertencia. El modelo tenía nueve días cuando se escribió esto, casi todas las cifras de benchmarks las da el propio fabricante y la verificación independiente todavía va por detrás. Tómalo todo como provisional.
Los contendientes son Flash-Next, su hermano menor Qwen3.8-27B (un modelo denso), DeepSeek V4 Flash 0731 (su rival directo en el mismo nivel de precio) y Claude Opus 4.6 (la referencia de frontera):
| Benchmark | Flash-Next | Qwen3.8-27B | DeepSeek V4F | Claude Opus 4.6 |
|---------------|------------|-------------|--------------|-----------------|
| SWE-bench Pro | 62.5 | 61.7 | 56.0 | 53.4 |
| DeepSWE 1.1 | 58.7 | 42.2 | 54.4 | - |
| NL2Repo-Bench | 48.1 | 42.3 | 54.2 | 47.6 |
| CoWorkBench | 73.9 | 70.7 | 45.1 | 68.2 |
| GPQA Diamond | 91.7 | 89.2 | 90.8 | 91.3 |
| HLE | 35.9 | 30.8 | 33.8 | 40.0 |
La tabla se lee mejor en tres pasadas.
Primero, la sorpresa. SWE-bench Pro mide ingeniería de software agéntica real: leer repositorios, escribir parches, ejecutar tests e iterar. Un modelo que cuesta $0.16 por millón de tokens saca 62,5 frente a 53,4 de Claude Opus 4.6. Esa diferencia de nueve puntos está en el benchmark que más importa para los agentes de código, y se la lleva el modelo más barato del grupo.
Segundo, las derrotas. Hay dos, siendo honestos. En NL2Repo-Bench, que evalúa la generación de código a nivel de repositorio a partir de lenguaje natural, DeepSeek gana 54,2 a 48,1. En HLE, la prueba de razonamiento de frontera, Opus va por delante 40,0 a 35,9. Así que es un especialista con dos huecos visibles, no un sustituto universal.
Tercero, la confirmación independiente, que es la cifra en la que más hay que confiar. Artificial Analysis le da al modelo un Intelligence Index de 56, frente a 50 de DeepSeek V4 Flash. Incluso sin las cifras de Qwen, el liderazgo en el nivel barato de pesos abiertos ha cambiado de manos.
En velocidad, DeepSeek sigue ganando al servir por API, con unos 108 tokens por segundo frente a unos 88 de Flash-Next. La comunidad cree que el stack de inferencia de Flash-Next simplemente aún no está afinado y que la diferencia debería cerrarse en pocos meses.
Lo que cuenta la comunidad
Los elogios se agrupan en tres: el salto en programación agéntica (DeepSWE 1.1 subió de 16,5 a 58,7 respecto al anterior modelo Plus de Qwen, una mejora de 3,6 veces), la relación entre precio y rendimiento y un diseño pensado para uso local. Un usuario lo resumió bien: puedes llevar 50 GB de la tabla PLE a NVMe, y en tamaño frente a rendimiento gana Qwen.
Las quejas son igual de reveladoras:
- Piensa mucho. En la tarea de un usuario, «hazme un juego», necesitó unos 80 minutos en hardware modesto, frente a 22 minutos de Qwen3.8-27B en la misma máquina. Más razonamiento y una decodificación más lenta hacen que el tiempo real pueda sorprenderte.
- La cuantización le afecta más que a sus rivales. En un solo DGX Spark con pocos bits, varios testers vieron a DeepSeek por delante, porque la arquitectura todavía no está optimizada para inferencia cuantizada.
- El uso del ordenador sigue siendo una moneda al aire. La tasa de éxito completo en OSWorld 2.0 es del 19,4 %. Avanza en la mayoría de las tareas y rara vez las termina limpiamente, así que no lo dejes solo en tu escritorio.
- La licencia no es Apache 2.0. Este checkpoint se distribuye bajo
qwen-community-1.0, que vale para uso personal, pero lee las condiciones antes de cualquier despliegue comercial.
Es demasiado bueno para ser una simple preview y demasiado tosco para ser un producto final, que es justo lo que debe ser una sonda de arquitectura.
¿De verdad funciona en una sola GPU de 24 GB?
A primera vista parece imposible. Un modelo de unos 177B parámetros no cabe en 24 GB de VRAM, ni siquiera con la cuantización más pequeña, de unos 72 GB. Aun así, hay gente que dice que le funciona:
| Setup | Quant | Result |
|--------------------------------|---------|---------------------------------|
| Single RTX 3090 + 256GB RAM | Q4_K_XL | ~25 tok/s at short context |
| RTX 5070 Ti (16GB) + 85GB RAM | IQ3_XXS | ~20 tok/s decode, 130 prefill |
El mecanismo es el diseño anterior llevado al límite.
Solo 6B parámetros están activos por token. El trabajo de la GPU, la atención más unos pocos expertos, cabe en 16 a 24 GB. Todo lo demás puede estar en otro sitio sin romper nada, porque en ese momento no hace ningún cálculo.
La chuleta de 51B vive en la RAM del sistema o en el SSD. Las búsquedas son deterministas. Como cada dirección se puede calcular antes que el token, las entradas se traen en segundo plano mientras la GPU está ocupada calculando. En llama.cpp basta un solo flag para fijar esa tabla en la memoria de la CPU.
Los expertos inactivos también se quedan en la RAM. Un offload al estilo --n-cpu-moe deja fuera de la VRAM a los expertos no seleccionados, y solo se tocan los unos 10 elegidos por token.
La caché KV es pequeña porque 36 de las 48 capas guardan un resumen de tamaño fijo en lugar de claves y valores que crecen con el contexto. Un tester contó que usaba solo 16 GB de VRAM con el contexto completo de 262K.
La pega es el ancho de banda de la RAM del sistema. La DDR5 de doble canal mueve unos 90 gigabytes por segundo, mientras que el bus de memoria de una RTX 3090 mueve 936. En cuanto parte de los pesos activos está en la RAM del sistema, ese tubo más lento marca el techo, y por eso estas configuraciones se quedan en unos 7 a 25 tokens por segundo, usables pero nada espectaculares.
Piensa en la GPU como el cocinero y en la RAM del sistema como la despensa. Este modelo necesita muy pocos ingredientes por plato, y la mayoría puede ir a buscarlos sin prisa.
Qué vigilar
Quien ejecute modelos en local debería seguirlo de cerca. La versión IQ4_XS pesa unos 90 GB. Preguntas abiertas para probarlo a fondo: el rendimiento con distintas longitudes de contexto, la calidad de las respuestas comparada directamente con Qwen3.8-27B y si el tiempo extra de pensamiento compensa en el trabajo diario y no solo en baterías de benchmarks. El diseño apunta a la dirección que están tomando los modelos baratos en todas partes: menos cómputo por token, más conocimiento almacenado por byte y unas necesidades de memoria que una estación de trabajo normal puede cubrir.