Artículos para quien
entrega el stack
Textos originales sobre React, Node.js, TypeScript y AI — de la misma práctica que nuestro software de operador. Cuerpo de los artículos en inglés.
Etiqueta: gguf
Agents-A1: un modelo de 35B pensado para el trabajo de agentes a largo plazo
Agents-A1 es un fine-tune de 35B que escala el horizonte del agente, no los parámetros. Vea cómo puntúa en SEAL-0, IFBench y BrowseComp y dónde conseguir las versiones GGUF.
1235 palabrasLeerDuplicar la velocidad de decodificación de Qwen3.8-Flash-Next con MTP en GPU RTX
Aprenda a compilar un fork de llama.cpp con decodificación especulativa MTP y los flags adecuados para duplicar más o menos la velocidad de generación de Qwen3.8-Flash-Next en equipos con varias RTX.
1248 palabrasLeerModelos locales para programar en una RTX 3060 de 12 GB con un planificador de modelos
Cómo elegir modelos que quepan en una GPU de 12 GB y por qué alternar entre backends GGUF y SafeTensors detrás de un único endpoint compatible con OpenAI se convierte en un problema de planificación.
1256 palabrasLeerQwen3.8-Flash-Next en un MacBook de 64 GB: archivos, cuantizaciones y flags de llama.cpp
Cómo correr un MoE de 180.000 millones de parámetros en un M4 Max o M1 Max sin descarga a CPU: qué GGUF elegir, cómo se reparte la tabla de n-gramas en shards y el comando exacto de llama-server.
2060 palabrasLeer
Sobre estos artículos
Presupuesto en 24 h
¿Necesitas el mismo stack en una capa de operador? Envía el brief — presupuesto en 24 h.