Artículos para quien
entrega el stack
Textos sobre React, Node.js, TypeScript y AI. El cuerpo traducido se muestra cuando existe. Si no, ve el texto en inglés y una nota que lo dice.
Etiqueta: Qwen
TensorFold vs llama.cpp en un Mac Studio M5 Ultra: 1,84 veces más rendimiento en trabajos reales con JSON
Realicé pruebas de rendimiento de TensorFold 1.2.0 frente a llama.cpp en un Mac Studio M5 Ultra con Qwen3.8-27B y 80 solicitudes JSON reales: un rendimiento 1.84 veces mayor con 8 procesos concurrentes.
9 min de lecturaPor qué dos tarjetas RTX 3090 alcanzan 55 tok/s en lugar de 220 con SGLang y DFlash2.
Una explicación práctica sobre cómo ejecutar Qwen3.8-27B en dos tarjetas 3090 con SGLang, y cómo los enlaces PCIe x4, la falta de P2P, una caché KV limitada y picos de energía redujeron la velocidad anunciada.
7 min de lecturaToolCallingAgent vs CodeAgent en modelos locales de Qwen2.5 de 14B.
ToolCallingAgent vs CodeAgent en smolagents en una Mac M4: velocidad y precisión en el enrutamiento con modelos locales Qwen2.5 14B de instrucción y codificación a varias temperaturas.
4 min de lecturaCómo la abliteración de LLM elimina las negativas editando pesos, no entrenando
Un recorrido técnico por la abliteración: encontrar la dirección de negativa con la diferencia de medias, automatizarlo con Heretic, ejecutar Qwen3-4B en local y su impacto en la seguridad.
8 min de lecturaAgents-A1: un modelo de 35B pensado para el trabajo de agentes a largo plazo
Agents-A1 es un fine-tune de 35B que escala el horizonte del agente, no los parámetros. Vea cómo puntúa en SEAL-0, IFBench y BrowseComp y dónde conseguir las versiones GGUF.
5 min de lecturaDuplicar la velocidad de decodificación de Qwen3.8-Flash-Next con MTP en GPU RTX
Aprenda a compilar un fork de llama.cpp con decodificación especulativa MTP y los flags adecuados para duplicar más o menos la velocidad de generación de Qwen3.8-Flash-Next en equipos con varias RTX.
5 min de lecturaMover la caché KV entre modelos Qwen3 en lugar de repetir el prefill
Una investigación de NVIDIA traslada el estado de atención de Qwen3-14B a Qwen3-32B con un puente de regresión ridge. Qué significan las cifras de latencia, dónde falla y por qué importa a los agentes.
8 min de lecturaQwen3.8-Flash-Next: un modelo de 177B que corre en una sola GPU de 24 GB
Cómo Qwen3.8-Flash-Next mete un mixture-of-experts de 177B en hardware modesto: 6B de parámetros activos, una tabla de n-gramas, atención híbrida y sus huecos en los benchmarks.
9 min de lecturaOrnith-1.0-35B: calidad de un 27B denso con MoE en un MacBook
Cómo se compara un modelo mixture-of-experts de 35B con 3B de parámetros activos frente a Qwen3.6, qué necesita para funcionar con llama.cpp y dónde brilla o se queda atrás.
4 min de lectura
Sobre estos artículos
Presupuesto en 24 h
¿Necesitas el mismo stack en una capa de operador? Envía el brief — presupuesto en 24 h.