Artículos para quien
entrega el stack
Textos originales sobre React, Node.js, TypeScript y AI — de la misma práctica que nuestro software de operador. Cuerpo de los artículos en inglés.
Etiqueta: mlx
Ejecuta LLM locales en un Mac con MLX en lugar del motor llama.cpp por defecto
Descubre cuándo MLX de Apple supera a llama.cpp en Apple Silicon, con rangos de benchmarks por tamaño de modelo, tres formas de cambiar y los errores que conviene evitar.
1117 palabrasLeer¿Merece la pena un LoRA más grande? Mide la precisión frente al coste, no por intuición
Un pequeño banco de pruebas que trata las recetas de LoRA como datos y reporta precisión, tiempo de entrenamiento, latencia y memoria, para que la elección de rango e iteraciones se base en números.
1242 palabrasLeerEjecutar un ajuste fino de LoRA localmente: verificar, fusionar y evitar fallos silenciosos
Demuestre que un adaptador LoRA realmente mejoró un modelo pequeño, fusione y sirva dicho modelo a través de una API local compatible con OpenAI, y detecte los fallos que generan resultados incorrectos pero presentados como correctos.
2671 palabrasLeer
Sobre estos artículos
Presupuesto en 24 h
¿Necesitas el mismo stack en una capa de operador? Envía el brief — presupuesto en 24 h.