Notas de ingeniería
Artículos para quien
entrega el stack
Textos sobre React, Node.js, TypeScript y AI. El cuerpo traducido se muestra cuando existe. Si no, ve el texto en inglés y una nota que lo dice.
Etiqueta: vram
¿Cuánta memoria se necesita para la IA local? Velocidades desde 16 GB hasta 512 GB.
Se midió la velocidad y calidad local de los LLM en máquinas de 16, 32, 128, 256 y 512 GB, qué puede ejecutar cada categoría, y qué GPUs, Macs y mini PCs son adecuados para cada caso.
5 min de lecturaRevisión práctica de los requisitos de hardware para ejecutar modelos de clase 100B localmente
¿Puede una estación de trabajo ejecutar localmente un LLM de clase 100B? La escasez en MoE, la cuantización, el tamaño del caché KV y los cálculos de VRAM son los factores decisivos, no la cantidad de parámetros mencionada en los titulares.
11 min de lectura
FAQ
Sobre estos artículos
Sí. Cada texto es un rewrite inglés original para este sitio. Estructura y código siguen la fuente; la prosa se reescribe y se revisa el solapamiento.
El inglés es la fuente. Otro idioma aparece solo si existe ese cuerpo traducido. Una traducción ausente sigue en inglés, también en una dirección localizada.
Los borradores entran en cola tras la edición. El import solo toma slugs nuevos o cambiados — sin duplicados.
Ejemplos ilustrativos. Valida stack y licencias antes de producción. Para un encargo, envía el brief.
Presupuesto en 24 h
¿Necesitas el mismo stack en una capa de operador? Envía el brief — presupuesto en 24 h.