OpenVINO 2026.4: MTP, DFlash, ASR en Node.js y nuevos modelos

La versión 2026.4 de OpenVINO de Intel llega en un momento en que las cargas de trabajo de IA no dejan de cambiar y la inferencia eficiente y flexible está más demandada que nunca. Los equipos lanzan productos cada vez más variados, desde asistentes multimodales hasta pipelines de voz en directo, y la oferta de modelos que ejecutar crece cada mes. Esta versión responde con tres cosas: una larga lista de nuevos modelos compatibles, una inferencia más rápida gracias a dos funciones de aceleración y ASRPipeline para Node.js. Tanto si el objetivo es un servicio en producción en un AI PC como un experimento en una NPU o un primer vistazo a OpenVINO, aquí hay algo que te sirve.

Las secciones siguientes tratan primero la decodificación más rápida, después el pipeline de voz para JavaScript y, por último, la lista de modelos nuevos.

Generación más rápida: MTP y DFlash

Multi-Token Prediction

OpenVINO GenAI ya admite decodificación especulativa con Multi-Token Prediction (MTP) para Gemma 4, Qwen 3.5 y Qwen 3.6, tanto en CPU como en GPU.

Conviene un poco de contexto. La decodificación especulativa habitual usa un modelo borrador pequeño e independiente. El borrador propone varios tokens candidatos y el modelo principal los comprueba todos en una sola pasada hacia delante. Así se reduce el número de llamadas al modelo completo necesarias para producir una secuencia.

MTP cambia el origen de las conjeturas. No hace falta un modelo borrador aparte. Unas cabezas de predicción integradas en el propio modelo generan varios tokens a la vez de forma especulativa. Como esas cabezas se entrenan junto con el modelo principal, sus conjeturas suelen ser más acertadas. Una tasa de aceptación más alta significa más tokens confirmados en cada pasada. El resultado es más rendimiento y menos latencia, sin sacrificar la calidad de la salida y sin tocar las configuraciones de pipeline existentes.

DFlash para Qwen en GPU de Intel

La aceleración DFlash para modelos Qwen llega como versión preliminar a OpenVINO GenAI. Está pensada para las GPU de los procesadores Intel Core Ultra Series 3. La función reúne varias optimizaciones de GPU con soporte de tokens visuales para cargas multimodales, lo que reduce la latencia de los pipelines de GenAI que combinan texto e imágenes como entrada. Quien construya pipelines de visión y lenguaje, o cualquier carga que exprima Qwen en GPU de Intel, puede esperar un tiempo hasta el primer token más corto y un mejor rendimiento global.

Reconocimiento de voz para Node.js

ASRPipeline apareció por primera vez en la versión 2026.3 como interfaz común para modelos de reconocimiento automático de voz. Evita a los desarrolladores lidiar con las convenciones de entrada y salida propias de cada modelo. Con esta versión, el mismo pipeline llega a Node.js y queda al alcance de los muchos desarrolladores de JavaScript que escriben aplicaciones de IA de servidor y de escritorio.

La versión para Node.js funciona con modelos como Whisper y Qwen3-ASR. Ofrece las mismas funciones básicas que las versiones de C++ y Python: transcripción en streaming, métricas de rendimiento y una API de pipeline limpia que oculta los detalles de bajo nivel.

El streaming merece atención. En lugar de acumular toda la entrada de audio antes de devolver nada, un pipeline en streaming entrega el texto en cuanto está disponible. De eso dependen los subtítulos en directo, los asistentes de voz y cualquier otra aplicación en la que los usuarios notan la latencia.

La configuración resultará familiar a quien ya haya usado otros pipelines de OpenVINO GenAI en Node.js. Hay un ejemplo completo en el directorio samples del proyecto, en la rama de la versión 2026.4, y a continuación va un fragmento breve:

import { ASRPipeline } from 'openvino-genai-node';

import { readFileSync } from 'node:fs';

import { decode } from 'node-wav';



const pipeline = await ASRPipeline(modelDir, "CPU");

const rawSpeechBuffer = readFileSync(audioFilePath);

const rawSpeech = decode(rawSpeechBuffer).channelData[0];

const result = await pipeline.generate(rawSpeech);

console.log(result.texts[0]);

Nuevos modelos compatibles

La versión añade un amplio grupo de modelos de síntesis de voz, visión y lenguaje, reconocimiento de voz y generación de imágenes.

En CPU y GPU

• Gemma-3n procede de Google DeepMind y continúa la familia Gemma. Está diseñado para una inferencia multimodal eficiente, equilibra capacidad y consumo de recursos y encaja en asistentes en el dispositivo y aplicaciones de visión y lenguaje con poca memoria.
• Kokoro-82M es un modelo compacto de texto a voz que produce voces de sonido natural con una fracción del tamaño de los sistemas TTS más grandes. Sus 82 millones de parámetros son lo bastante pocos como para generar voz en tiempo real en CPU o GPU, sin el lastre de un modelo de tamaño completo.
• Qwen3-VL-4B con Eagle 3 combina el modelo de visión y lenguaje de Alibaba con Eagle 3, un componente de decodificación especulativa, de modo que las cargas multimodales generan tokens más rápido sin configuración adicional.
• Qwen3-ASR lleva el reconocimiento de voz a la familia Qwen3. Es un modelo de transcripción solvente para funciones guiadas por voz como subtítulos, transcripción y asistentes con voz.
• Gemma 4 12B, también de Google DeepMind, ocupa el centro de la gama Gemma 4. Tiene 12 000 millones de parámetros y acepta texto, imagen y audio como entrada. Está pensado para desarrolladores que necesitan un razonamiento y unos resultados multimodales más sólidos que los de los modelos ligeros para edge, sin dejar de poder ejecutarlo de forma práctica en local o en entornos con recursos ajustados.
• Hy-MT2-1.8B es un pequeño modelo de traducción automática ajustado para una inferencia multilingüe rápida. Con 1800 millones de parámetros, ofrece traducción especializada entre muchos idiomas con muy pocos recursos. Piensa en pipelines de localización, traducción en directo dentro de una aplicación o dispositivos edge donde un traductor dedicado supera a un LLM de propósito general.
• DeepSeek OCR-2 se ocupa de la comprensión de documentos y el reconocimiento óptico de caracteres. Está hecho para extraer información de documentos escaneados, formularios, facturas y maquetaciones complejas, convirtiendo imágenes de páginas en datos que el procesamiento y la automatización posteriores pueden aprovechar.
• Granite 4.0 H Micro es el pequeño modelo híbrido de IBM, que mezcla capas Mamba-2 con capas transformer para lograr una inferencia eficiente y de baja latencia. IBM lo orienta a flujos de trabajo agénticos y despliegues locales con hardware limitado.

En la NPU

• Kokoro-82M también llega a la NPU, lo que da a los AI PC de Intel una síntesis de voz eficiente en consumo y libera a la CPU y la GPU de la demanda de memoria y energía.
• FLUX.2-Klein-4B, un modelo de Black Forest Labs, añade generación de imágenes ligera en la NPU, de modo que la síntesis de imágenes en tiempo real se convierte en un objetivo realista con hardware limitado.

Soporte desde el día 0

El proyecto dice que quiere seguir el ritmo de la comunidad, y esta versión lo respalda con soporte desde el día 0 para Muse Glimmer y Qwen 3.8 27B. Los experimentos en hardware de Intel pueden empezar en cuanto salgan esos modelos. Para más modelos optimizados y listos para desplegar, con sus benchmarks, conviene mirar el OpenVINO Model Hub.

Por dónde empezar

El primer experimento adecuado depende del hardware que tengas. En una CPU o GPU que ya sirve Gemma 4 o un modelo Qwen reciente, MTP es el cambio que menos esfuerzo exige, porque la configuración del pipeline se queda como está. Una máquina con GPU Core Ultra Series 3 que ejecuta cargas de visión y lenguaje con Qwen es el sitio para probar la versión preliminar de DFlash. Un backend en JavaScript que necesite transcripción puede adoptar ASRPipeline con Whisper o Qwen3-ASR, y si la latencia importa a los usuarios, lo primero que hay que evaluar es la salida en streaming. En un AI PC, las novedades para NPU hacen que Kokoro-82M y FLUX.2-Klein-4B merezcan una prueba cuando el límite lo pone el consumo energético y no la velocidad pura.

Resumen de la versión

Los nuevos modelos abarcan CPU, GPU y NPU, así que hay más que construir y más sitios donde ejecutarlo. MTP y DFlash exprimen rendimiento de inferencia adicional del hardware que ya tienes. ASRPipeline en Node.js abre a los desarrolladores de JavaScript una vía hacia el reconocimiento de voz. El paquete ya está disponible para descargar.