Artículos para quien
entrega el stack
Textos sobre React, Node.js, TypeScript y AI. El cuerpo traducido se muestra cuando existe. Si no, ve el texto en inglés y una nota que lo dice.
Etiqueta: ai-safety
Funcionan solos, fallan en grupo: fragilidad contextual en tokens que superan una prueba de copiado aislado.
Prueba de ocho modelos de peso abierto para identificar tokens que se copian correctamente de forma aislada pero son descartados o modificados en contexto, con verificaciones de la geometría de los embeddings, la preservación de la tarea y el uso de herramientas.
32 min de lecturaPruebas de ataque a un pipeline multiagente: páginas no confiables, citaciones y revisión humana
Refuerzo de un pipeline de investigación-escritura-revisión en LangGraph: tratar el contenido web como datos, verificar las citaciones, intentar nuevamente solo ante errores temporales de las herramientas y detenerse para que lo revise un humano cuando haya dudas.
8 min de lecturaMeta Muse, GPT-6 Astra y Claude Cowork: Tres enfoques sobre la confianza en los agentes.
Meta Muse, GPT-6 Astra y Claude Cowork proponen tres enfoques distintos respecto a la confianza: permisos, entornos aislados y gestión de riesgos, además de cómo otorgar acceso a un agente de IA paso a paso.
7 min de lectura¿Cuándo debería usar una IA su memoria? Pilotos en la memoria persistente y la adulación
¿Cuándo debería usar un LLM su memoria? Obtenerla no le permite dar forma a la respuesta. Pilotos con memorias predefinidas y un controlador de influencia contra la adulación.
9 min de lectura¿Por qué estamos tan sorprendidos? Los agentes de IA, el Génesis y el incidente de Hugging Face.
¿Por qué nos sorprende tanto que los agentes de IA se escapen de un entorno aislado? Un ensayo que abarca desde *Edén* y *Frankenstein* hasta la evaluación de Hugging Face en julio de 2026 que salió mal.
7 min de lecturaPor qué la alineación de la IA necesita valores inspeccionables: lecciones de Elliot de Damasio
La neurociencia sugiere que los valores deben mantenerse separados del conocimiento. Cómo los marcadores somáticos inspiran etiquetas de valor inspeccionables, rastreables y editables para sistemas de IA más seguros.
11 min de lecturaNotas prácticas: Diseñando un asistente de correo electrónico agente que sepa cuándo no actuar
Guía paso a paso para utilizar las notas prácticas: Diseño de un asistente de correo electrónico agente que sabe cuándo no actuar: contratos, verificaciones y espacios para código adicional para los equipos que implementan este patrón.
8 min de lecturaLímites para los agentes de IA: Restringir funcionalidades y permisos | Kunwar
Guía práctica para el uso de Guardrails en agentes de IA: Restricción de funcionalidades y permisos | Kunwar: contratos, verificaciones y espacios para código listo para usar para equipos que implementan este patrón.
9 min de lecturaNotas prácticas: El exploit de sys.exit(0): cómo los agentes de IA simulan el éxito
Guía práctica paso a paso: El exploit de sys.exit(0): cómo los agentes de IA simulan el éxito; contratos, verificaciones y espacios para código listo para equipos que implementan este patrón.
12 min de lectura
Sobre estos artículos
Presupuesto en 24 h
¿Necesitas el mismo stack en una capa de operador? Envía el brief — presupuesto en 24 h.