Artículos para quien
entrega el stack
Textos sobre React, Node.js, TypeScript y AI. El cuerpo traducido se muestra cuando existe. Si no, ve el texto en inglés y una nota que lo dice.
Etiqueta: MLX
Hy-MT2-7B en cinco entornos locales: ¿Cuál debería usarse para tareas de traducción en una Mac?
Se probó la carga de Hy-MT2-7B en llama.cpp, LM Studio, mlx-lm, Ollama y MLX-Serve en dos máquinas Mac Studio M5 Ultra: rendimiento, escalabilidad, determinismo, memoria.
9 min de lecturaEjecutar agentes de codificación locales en una Mac con oMLX: Explicación del caché KV respaldado en disco
oMLX almacena los prefijos de comandos en SSD para que los agentes de codificación locales mantengan una alta velocidad en Apple Silicon. Instálalo y conéctale Claude Code, Codex, Cursor y OpenCode.
9 min de lecturaDentro de un LLM: Inferencia en Python puro para Qwen3-0.6B en MLX
Construcción paso a paso de la inferencia de LLM en unas 200 líneas de Python con MLX: tokenizador, RMSNorm, RoPE, atención a consultas agrupadas, SwiGLU, caché KV y muestreo.
13 min de lecturaEjecutar agentes de IA en una MacBook: por qué oMLX supera a MLX en su forma original.
Raw MLX necesitaba unos 20 segundos para manejar un contexto de agente de 8.7 mil tokens en un M1 Max. oMLX lo redujo a aproximadamente 3 segundos gracias al procesamiento por lotes y a un caché KV escalonado. Números y razones.
5 min de lecturaEjecuta LLM locales en un Mac con MLX en lugar del motor llama.cpp por defecto
Cuando MLX de Apple supera a llama.cpp para un LLM local en Apple Silicon, con rangos de velocidad según el tamaño del modelo, tres formas de pasar de Ollama y errores que evitar.
5 min de lectura¿Merece la pena un LoRA más grande? Mide la precisión frente al coste, no por intuición
Un pequeño banco de pruebas que trata las recetas de LoRA como datos y reporta precisión, tiempo de entrenamiento, latencia y memoria, para que la elección de rango e iteraciones se base en números.
5 min de lecturaEjecutar un ajuste fino de LoRA localmente: verificar, fusionar y evitar fallos silenciosos
Demuestre que un adaptador LoRA realmente mejoró un modelo pequeño, fusione y sirva dicho modelo a través de una API local compatible con OpenAI, y detecte los fallos que generan resultados incorrectos pero presentados como correctos.
12 min de lectura
Sobre estos artículos
Presupuesto en 24 h
¿Necesitas el mismo stack en una capa de operador? Envía el brief — presupuesto en 24 h.