Artículos para quien
entrega el stack
Textos originales sobre React, Node.js, TypeScript y AI — de la misma práctica que nuestro software de operador. Cuerpo de los artículos en inglés.
Etiqueta: interpretability
Superposición en redes neuronales: modelos simplificados, SAEs y fusión de características
Cómo las redes almacenan más características que dimensiones, cuáles son los costos de interferencia y por qué los autoencoders dispersos pueden fusionar características que los datos no pueden separar.
19 min de lecturaLo que encuentra un agente de diferenciación de modelos: los cambios de estilo eclipsan un ajuste fino limitado.
Un agente de model-diffing auditó un ajuste fino LoRA financiero: el 82% de las ejecuciones detectaron el cambio en la longitud y estructura, mientras que el cambio en el razonamiento pretendido permaneció oculto.
15 min de lecturaFuncionan solos, fallan en grupo: fragilidad contextual en tokens que superan una prueba de copiado aislado.
Prueba de ocho modelos de peso abierto para identificar tokens que se copian correctamente de forma aislada pero son descartados o modificados en contexto, con verificaciones de la geometría de los embeddings, la preservación de la tarea y el uso de herramientas.
32 min de lecturaTokens frágiles y sustitución silenciosa: una explicación geométrica de algunas alucinaciones
Algunas alucinaciones provienen de tokens dañados o frágiles que son reemplazados por vecinos cercanos antes de que comience el razonamiento. Ejemplos, tasas por modelo y una prueba sencilla.
7 min de lectura
Sobre estos artículos
Presupuesto en 24 h
¿Necesitas el mismo stack en una capa de operador? Envía el brief — presupuesto en 24 h.