Raíces de los grafos de conocimiento en la IA agente: FIPA, la Web Semántica y los agentes LLM

Al leer suficiente escritura actual sobre la IA agente, surge una sensación extraña: gran parte de ello suena como algo de una conferencia de 2003. Agentes que describen sus capacidades de forma legible por máquinas. Agentes que se encuentran entre sí a través de un directorio. Vocabularios compartidos para que dos sistemas estén de acuerdo sobre el significado de un mensaje. Protocolos estándar para la negociación. Todo eso ha vuelto, con un nuevo vocabulario y funcionando en un motor muy diferente.

Este texto analiza esa superposición. Rastrea los trabajos anteriores sobre agentes y la web semántica, los compara con lo que se está implementando actualmente y pregunta qué partes representan una continuidad real y cuáles son solo similitudes. También examina el área donde las dos épocas divergen con mayor intensidad, que es la seguridad.

Así es la ola actual

Un puñado de avances de los últimos años marcan el escenario.

Los investigadores en seguridad han publicado pruebas de adversidad que demuestran que los agentes de vanguardia pueden ser llevados a comportamientos dañinos con demasiada facilidad cuando se los somete a pruebas intencionadas. Microsoft lanzó POML, un lenguaje de marcado inspirado en XML para orquestar agentes de LLM. Google introdujo el protocolo Agent2Agent (A2A), anunciando decenas de organizaciones asociadas en su lanzamiento, con el objetivo de estandarizar la forma en que los agentes se comunican entre sí. NVIDIA ha sostenido que combinar modelos de lenguaje con grafos de conocimiento ayuda a reducir las alucinaciones.

Cada uno de esos elementos habría sido reconocible para un investigador de hace veinte años. Alrededor del 2006 ya había algunas personas que abogaban por el mismo conjunto de soluciones: marcado estructurado para describir el comportamiento de los agentes, protocolos de comunicación estandarizados y significados anclados en ontologías. Un artículo de ese año sobre XML e inteligencia artificial sostenía que las máquinas necesitarían exactamente esto para hacer frente a la enorme cantidad de información en la web. La redacción era rudimentaria según los estándares actuales, pero la dirección era clara: agentes de software que se desplazaban por una web abierta y caótica, negociando en nombre de las personas, lo cual requería un lenguaje estructurado y compartido para cooperar a gran escala.

La industria tomó otro camino. Las redes neuronales se convirtieron en el núcleo cognitivo. Ahora los problemas relacionados están regresando, junto con algunos de los errores antiguos.

El ambiente de 2006

Para comprender cuán anticuada era la visión basada en agentes y ontologías, imagine ese momento: era la época de apogeo de Web 2.0. La atención se centraba en las interfaces AJAX, las plataformas sociales y el contenido creado por los usuarios. Google acababa de pagar 1.65 mil millones de dólares por YouTube. Facebook se abría a todos, y Twitter era algo nuevo.

La narrativa dominante sostenía que la web se trataba de que las personas publicaran y compartieran contenido, no de que las máquinas se coordinaran por sí solas. Las ideas relacionadas con la web semántica, los sistemas de agentes y las ontologías formales parecían a muchos observadores meros pasatiempos académicos, demasiado complejos para su uso en el mundo real; además, los comentaristas se preguntaban abiertamente si alguien fuera de las universidades utilizaría RDF u OWL en entornos de producción.

Aun así, una minoría sostenía que la web eventualmente se convertiría en un entorno donde se publicarían servicios e información para que los software los encontraran y combinaran. Si se elimina la formulación obsoleta de esa descripción, suena exactamente como lo que la gente describe hoy en día sobre los sistemas LLM multiagente y las “mallas de agentes”.

La antigua caja de herramientas

La visión no era vaga; se basaba en estándares y plataformas concretas.

FIPA, la Fundación para Agentes Físicos Inteligentes, definió un lenguaje de comunicación entre agentes que incluye 22 actos de habla: informar, solicitar, proponer, acordar, rechazar, consultar, confirmar, desconfirmar y otros más. No se trataba simplemente de un formato de mensaje, sino de un marco comunicativo con semántica formal basada en la teoría de los actos de habla, lo que permitía a los agentes negociar, formar coaliciones y hacer un seguimiento de los compromisos, obligaciones y permisos a lo largo de intercambios de múltiples pasos. Grandes empresas como IBM, HP y BT apoyaron plataformas compatibles con FIPA.

OWL-S, un perfil de lenguaje de ontologías web para servicios, permite a los agentes localizar, llamar y combinar servicios web a partir de descripciones semánticas de entradas, salidas, condiciones previas y efectos. La demostración estándar era un agente de viajes que encontraba por sí mismo vuelos, hoteles y coches de alquiler, los combinaba en un itinerario y lo ejecutaba para el usuario, sin necesidad de integraciones programadas a mano.

AIML, un lenguaje de marcado XML para el comportamiento conversacional, sirvió de base al chatbot ALICE, que ganó el Premio Loebner en tres ocasiones.

RDF y OWL proporcionaron a los agentes la posibilidad de compartir significado y no solo sintaxis, respaldados por almacenes de triplets y motores SPARQL para el razonamiento distribuido.

Los facilitadores de directorios funcionaban como páginas amarillas para los agentes. Dentro del diseño de gestión de agentes de FIPA, un agente podía registrar lo que ofrecía mediante una descripción estructurada y buscar pares según sus capacidades, de forma similar al descubrimiento de servicios en las infraestructuras modernas.

El desarrollador que trabajaba en esto no contaba con transformadores ni clústeres de GPU. Lo que tenía era una intuición compuesta por tres partes: la web crecería demasiado y demasiado rápido como para que las personas la gestionaran directamente; serían necesarios agentes capaces de percibir, razonar y actuar en nuestro nombre; y esos agentes requerirían protocolos, representaciones y semántica comunes.

Donde reaparecieron los patrones, desde el marcado hasta los grafos de conocimiento

Para 2025, gran parte de esto había regresado, pero en una forma diferente.

Primero, el marcado estructurado. POML utiliza etiquetas similares a XML para definir flujos de trabajo complejos de agentes, y se ha integrado en las herramientas de VS Code. El Agent Script de Salesforce define comportamientos, roles y coordinación mediante una sintaxis declarativa al estilo de marcado. Incluso los consejos habituales sobre cómo formular solicitudes ahora indican que se deben encerrar los pasos de razonamiento, el contexto y las restricciones de salida dentro de etiquetas. Un esqueleto típico de una solicitud se ve así:

(`<context>`, <instructions>, <examples>, <output>)

Es algo pequeño, pero se trata del mismo instinto que el antiguo enfoque de marcado para agentes: proporcionarle al modelo una estructura que no pueda interpretar erróneamente.

A continuación, la coordinación basada en roles. AutoGen y CrewAI asignan funciones especializadas como planificador, crítico, ejecutor e investigador, y los agentes comunican entre sí mediante mensajes estructurados. Eso es, una vez más, la visión de FIPA: agentes heterogéneos con capacidades declaradas, que se coordinan a través de un registro central. La especialización en roles, los directorios de capacidades, la coordinación basada en mensajes y la orquestación en múltiples pasos son los mismos patrones.

Luego están los protocolos. A2A permite a los agentes describir sus capacidades, descubrirse mutuamente y cooperar más allá de las fronteras de la empresa. La cifra de lanzamiento incluye los compromisos de los socios, no la adopción en producción, la cual aún no se ha publicado. El Agent Network Protocol utiliza Identificadores Descentralizados de W3C y JSON-LD para proporcionar a los agentes descripciones legibles por máquinas que abarcan sus habilidades, credenciales de confianza y preferencias de coordinación. El estándar Agent Communication Protocol de la Linux Foundation estandariza los formatos de mensaje entre los agentes. Funcionalmente, estos corresponden al sistema de facilitación de directorios y gestión de agentes de FIPA, adaptado para un mundo basado en JSON-LD y LLMs.

Finalmente, los grafos de conocimiento. NVIDIA, Franz Inc. y otros recomiendan combinar los LLM con grafos de hechos verificados para fundamentar el razonamiento, limitar las alucinaciones y hacer que las inferencias sean explicables. Estudios sobre sistemas neuro-simbólicos indican que los híbridos suelen superar a los sistemas puramente neuronales en tareas que requieren precisión factual, razonamiento lógico y generalización a nuevas combinaciones. Las reducciones en las alucinaciones reportadas varían ampliamente según el dominio y la prueba de referencia, por lo que se debe tener cautela con cualquier porcentaje concreto. La dirección de la evidencia es más fiable que cualquier cifra en particular.

Qué se equivocó la visión de 2006

La antigua previsión falló en varios aspectos, y algunas de esas fallas fueron reales.

Se suponía que XML sería el sustrato dominante para los agentes y que DOM sería una interfaz compartida. Eso no ocurrió. Los medios por defecto resultaron ser JSON, gRPC, Protobuf y embeddings vectoriales. El enfoque pasó primero al aprendizaje profundo, luego a los transformers y, finalmente, a los LLM. Los grafos de conocimiento sobrevivieron, pero como un componente más dentro de un enfoque neuro-simbólico más amplio.

También hubo un error conceptual claro: la idea de que XML en sí mismo proporcionaba semántica. No lo hace. XML ofrece sintaxis y estructura en forma de árbol. Incluso en aquel entonces, los investigadores serios en la web semántica insistían en que se necesitaban ontologías compartidas y semántica formal como capa adicional, por lo que el campo estaba por delante de los entusiastas en este aspecto.

Así, se previó el esquema general, pero se subestimó gravemente la cantidad de elementos del antiguo conjunto de tecnologías que se tendrían que descartar, así como la cantidad de nuevas matemáticas, hardware e ingeniería necesarios.

Cinco problemas que nunca han cambiado

A lo largo de aproximadamente veinticinco años en el diseño de agentes, desde FIPA a principios de los 2000 hasta la IA agentes moderna, cinco problemas de diseño siguen apareciendo una y otra vez. Si se comparan, la relación es sencilla:

ARCHITECTURAL PATTERN EVOLUTION: 2006 → 2025 ## Structured Markup 2006: XML for agent behaviour 2025: POML, Agent Script, XML-tagged prompts Status: Vindicated ## Discovery/Directory Services 2006: FIPA Directory Facilitator 2025: Agent Description Protocol (ANP), A2A directories Status: Vindicated ## Semantic Grounding 2006: RDF/OWL ontologies 2025: JSON-LD, schema.org, KG-LLM integration Status: Transformed but persists ## Communication Protocols 2006: FIPA-ACL 22 performatives 2025: MCP, A2A pragmatic protocols (fewer acts) Status: Simplified but core idea persists ## Perception-Action Loops 2006: FIPA observe-reason-act 2025: ReAct (Observe-Think-Act), tool-use frameworks Status: Fully realised

El marcado estructurado es la opción más adecuada. El XML utilizado en 2006 para el comportamiento de los agentes se convirtió en POML, scripts de agente y comandos entretejidos con etiquetas, por lo que esta solución regresó casi literalmente.

El descubrimiento ocupa el segundo lugar. El facilitador de directorios de FIPA realizaba la función que ahora desempeñan los directorios A2A y las descripciones de agentes en ANP: publicar las capacidades de uno mismo para que otros puedan buscarlas.

El anclaje semántico cambió de forma más que los demás. Las ontologías RDF y OWL dieron paso a JSON-LD, vocabularios schema.org y grafos de conocimiento integrados en modelos de lenguaje grande. La capa formal compleja disminuyó, pero la necesidad de un significado compartido no desapareció.

Los protocolos de comunicación se simplificaron. FIPA-ACL contaba con 22 performativos. MCP y A2A funcionan con muchos menos tipos de mensajes y una actitud mucho más pragmática, pero siguen existiendo por la misma razón: dos programas de proveedores diferentes deben ponerse de acuerdo sobre el propósito de un mensaje.

El ciclo percepción-acción es el que regresó completamente formado. El ciclo observar, razonar, actuar de FIPA corresponde al observar, pensar, actuar de ReAct, además de un marco de uso de herramientas alrededor de él.

Cambiaron las sintaxis, los formatos de serialización y los motores encargados del razonamiento cambiaron por completo. Las preguntas se mantuvieron estructuralmente iguales: cómo un agente se describe a sí mismo, cómo los agentes se encuentran entre sí, cómo se coordinan, cómo se componen los servicios y cómo se mantiene intacto el significado compartido.

Existe una advertencia importante. La continuidad y la adaptación posterior son cosas distintas. Tanto un esquema XML como uno JSON describen datos estructurados, pero las filosofías que los sustentan difieren: una formal y rigurosa, y la otra más ligera y pragmática. Muchos desarrolladores actuales también están redescubriendo estos patrones por su cuenta, sin recurrir a FIPA ni a la web semántica. Se trata de una evolución convergente bajo las mismas restricciones, lo cual dice poco sobre su origen.

La IA agente, tal como se define actualmente

Las encuestas modernas describen a la IA agente como sistemas en los que los agentes basados en LLM perciben, planifican, actúan y aprenden con cierta autonomía. Las empresas hablan de mallas agente, redes distribuidas de agentes que abarcan herramientas, fuentes de datos y flujos de trabajo. La encuesta de McKinsey de 2025, realizada con unas 1,100 organizaciones, indicó que poco más de la mitad utilizaba la IA agente en producción de alguna forma. El problema es que por “producción” se entienden aquí pruebas piloto e implementaciones limitadas, por lo que no significa un despliegue completo en toda la empresa.

Planificación

La planificación muestra con mayor claridad esta convergencia. Una encuesta de 2024 sobre la planificación basada en LLM clasifica los métodos en cinco categorías:

1. Descomposición de tareas, que divide un objetivo grande en subobjetivos.
2. Búsqueda de planes, que explora secuencias alternativas de acciones.
3. Planificadores externos, que integran sistemas clásicos PDDL o redes jerárquicas de tareas.
4. Feedback y reflexión, que perfeccionan un plan a partir de los resultados de su ejecución.
5. Planificación basada en la memoria, que recupera y adapta planes anteriores.

Cada uno de estos enfoques tiene su equivalente en la literatura sobre agentes de la década de 2000, bajo nombres como planificación HTN, razonamiento basado en casos y reparación de planes. Las dificultades subyacentes también son compartidas: explosión combinatoria, información incompleta y entornos cambiantes. Lo que difiere es el sustrato. Los LLM ahora redactan y perfeccionan planes en lenguaje natural en lugar de mediante planificadores simbólicos, y las llamadas a herramientas y los bucles de retroalimentación sirven de base para ello.

El patrón ReAct de Yao y sus colegas hace explícita esta relación. El agente observa, escribe un rastro de razonamiento, elige una acción, observa el resultado y repite el proceso. Ese es el antiguo ciclo de percibir, razonar y actuar en torno al cual se construyeron las arquitecturas FIPA. El motor de razonamiento es nuevo, pero el ciclo no.

Orquestación versus coreografía

También ha resurgido un argumento de la era de los servicios web. La orquestación utiliza un controlador central para dirigir las interacciones, al igual que lo hacían los flujos de trabajo BPEL. La coreografía permite a los participantes coordinarse entre sí mediante protocolos compartidos y compromisos mutuos. La literatura sobre coreografía de BPEL y servicios web de 2005 a 2010 debatió este tema en profundidad, y la misma discusión se está repitiendo ahora, solo que esta vez con los LLM como núcleo cognitivo en lugar de motores de reglas y plataformas de agentes en Java.

Modelos pequeños para tareas rutinarias

Un descubrimiento reciente cambia la idea sobre qué necesita un agente. Los investigadores de NVIDIA sostienen que muchos trabajos rutinarios de agencias no requieren modelos de vanguardia. Los modelos con de uno a diez mil millones de parámetros pueden manejar la invocación de herramientas, la validación de entradas, el formato de salidas y el enrutamiento simple, con una supuesta ventaja de costo de diez a treinta veces en tareas específicas donde igualan a modelos más grandes. La ventaja disminuye a medida que las tareas se vuelven más complejas, por lo que no es universal.

Por lo tanto, el patrón que surge es mixto: los modelos pequeños se encargan de las operaciones rutinarias, las llamadas a API, las verificaciones de datos y el enrutamiento simple, mientras que los modelos grandes se reservan para el razonamiento complejo, la ambigüedad y los problemas desconocidos. Esto recuerda la división de la década de 2000 entre agentes reactivos ligeros para trabajos rutinarios y agentes deliberativos con planificadores potentes para una coordinación difícil.

Donde la comparación se vuelve incómoda

La seguridad y la gobernanza son los aspectos en los que la visión moderna difiere más de la visión anterior, ya que se han desarrollado mucho más lentamente que las capacidades.

AgentHarm, un estándar de referencia creado por Andriushchenko y sus coautores, evalúa hasta qué punto se puede manipular a los agentes de LLM para que realicen acciones dañinas. Incluye 110 tareas distribuidas en 11 categorías, como fraude, ciberdelincuencia, acoso, desinformación y otros abusos. Al probarlo con los modelos más avanzados, los agentes completaron muchas de las tareas dañinas incluso cuando estaban activadas las medidas de protección. Los estudios de pruebas de penetración realizados por Anthropic revelaron debilidades similares: los ataques de tipo jailbreak que no funcionan contra chatbots comunes pueden surtir efecto en agentes, ya que un sistema que utiliza herramientas en múltiples pasos expone una superficie de ataque más amplia. OS-Harm, dirigido a agentes que utilizan sistemas operativos directamente, detectó altas tasas de comportamiento inseguro cuando se inducía intencionadamente a los modelos a realizar acciones como la extracción de datos o el acceso no autorizado.

Mantenga el encuadre recto. Se trata de pruebas de adversidad diseñadas para provocar fallos, por lo que se esperan altas tasas de error. Sin embargo, la facilidad con la que se puede realizar inyección de prompts básicos, y la disposición a atender solicitudes maliciosas sin necesidad de ataques sofisticados, indican que los mecanismos de seguridad son inmaduros en comparación con los avances en capacidades.

Compare eso con la era de FIPA. Las especificaciones abarcaban políticas de control de acceso, modelos de confianza y protocolos de interacción con autenticación, autorización y registros de auditoría. Los agentes operaban dentro de dominios de confianza delimitados, con restricciones explícitas sobre lo que podían hacer, y la capa de la web semántica incluía políticas formales en lenguajes de reglas. Esos sistemas eran mucho menos capaces que los modelos actuales, pero la gobernanza se diseñó desde el principio en lugar de añadirse posteriormente.

Cualquiera que haya observado cómo han pasado tres oleadas (la IA simbólica clásica, los agentes web distribuidos con la web semántica, y ahora los agentes impulsados por LLM) notará que los eslóganes cambiaron cada vez, pero los problemas arquitectónicos no. La identidad, los permisos y la auditoría eran problemas difíciles en 2005, y siguen siéndolo hoy, solo que ahora con agentes que pueden gastar dinero de verdad.

El patrón actual es preocupante. Las capacidades han explotado: los agentes pueden navegar, ejecutar código y realizar pagos. Los métodos formales para verificar su comportamiento o para mantener sus acciones dentro de regiones seguras siguen siendo escasos.

Neuro-simbólico: agentes LLM más grafos de conocimiento

Una forma útil de enmarcar todo este proceso es como tesis, antítesis y síntesis.

• La década de 2000 fue simbólica: ontologías formales, razonamiento basado en lógica y reglas creadas manualmente. Sus fortalezas eran la explicabilidad, la verificación formal y una semántica precisa. Sus debilidades eran la fragilidad, una mala capacidad de generalización y la imposibilidad de manejar el lenguaje natural de manera fiable.
• La década de 2010 estuvo marcada por los enfoques neuronales: aprendizaje profundo, embeddings y entrenamiento de extremo a extremo. Sus fortalezas eran el reconocimiento de patrones, la capacidad de manejar el lenguaje con fluidez y la generalización a partir de datos. Sus debilidades eran la opacidad, las alucinaciones, una lógica inestable y dificultades en tareas composicionales.
• La década de 2020 apunta hacia híbridos que combinan modelos neuronales con grafos de conocimiento, restricciones lógicas y métodos formales, con el objetivo de mantener la fluidez al mismo tiempo que se añaden hechos fundamentados, un razonamiento sólido y mayor explicabilidad.

Cada vez más investigaciones neuro-simbólicas respaldan esta idea. Las encuestas describen varios patrones de integración, como la inyección de conocimiento simbólico en modelos neuronales, permitir que los componentes neuronales guíen el razonamiento simbólico y refinar los resultados al alternar entre ambos. Los sistemas que combinan ambos enfoques suelen superar a los basados únicamente en redes neuronales o en métodos puramente simbólicos cuando es importante la precisión factual y el razonamiento lógico.

La integración de AllegroGraph de Franz Inc. con modelos de lenguaje grande es un ejemplo concreto. Un almacén de triples RDF almacena datos estructurados, el modelo de lenguaje interpreta las preguntas y escribe las respuestas, y el resultado puede citar los triples específicos que sustentan una afirmación, lo que brinda fluidez y verificabilidad al mismo tiempo.

Los modos de fallo de los agentes basados únicamente en LLM están bien documentados. Estudios sobre la respuesta a preguntas médicas y tareas legales han revelado que los modelos inventan contraindicaciones, dosis e incluso casos judiciales, con tasas que dependen en gran medida del dominio y del diseño del estudio. Esos no son casos extremos raros; surgen de la forma en que funcionan los modelos: son detectores de patrones entrenados en texto, no razonadores con acceso a hechos verificados. Los grafos de conocimiento ofrecen tríos verificados, metadatos de procedencia y restricciones lógicas, lo que permite a un sistema distinguir entre una afirmación que suena plausible y una que es verificable.

Qué pueden aprender los desarrolladores

Si hoy en día está diseñando un sistema de agentes, la historia sugiere algunas prácticas que cuestan poco y son eficaces a largo plazo.

Escribe cómo se describe cada agente. Una descripción de capacidades que otro sistema pueda leer, con entradas, salidas y condiciones previas, es el descendiente moderno de un perfil de servicio, y es lo que hace posible la detección y composición en general. Sin ella, cada integración sería algo único e irrepetible.

Decide desde temprano cómo se compartirá el significado. Cuando dos agentes intercambian un campo llamado “status” o “customer”, algo debe establecer qué abarcan esas palabras. Un esquema es lo mínimo necesario. Cuando las consecuencias son más graves, una pequeña ontología o un grafo de conocimiento al que ambas partes tengan acceso evita que cada agente asuma silenciosamente una definición diferente, lo que causaría desviaciones graduales.

Elija intencionalmente un estilo de coordinación. Un orquestador central es más fácil de comprender, auditar y depurar. La coreografía punto a punto se puede escalar entre organizaciones y evita un único punto de fallo, pero es más difícil de observar. La comunidad de servicios web aprendió esto a costa de dificultades, y la lección sigue siendo válida sin cambios.

Trate la gobernanza como parte de la arquitectura. La identificación de cada agente, los permisos definidos por niveles de acceso, un registro de auditoría para cada acción y una forma de verificar su comportamiento son mucho más económicos de diseñar desde el principio que de implementarlos posteriormente tras un incidente. Las plataformas de agentes antiguas solían contar con estos elementos, ya que sus creadores esperaban que los agentes operaran más allá de los límites de confianza desde el primer día.

Finalmente, ajuste el modelo al trabajo. Reserve el costoso motor de razonamiento para las tareas que lo necesitan y deje que los componentes pequeños y económicos se encarguen de las partes rutinarias. Eso hace que los sistemas sean más rápidos y menos costosos, y también limita lo que puede hacer cada componente por separado.

No es un triunfo

Nada de esto tiene como objetivo romantizar el pasado. La web semántica nunca se convirtió en algo común en la industria, y las razones eran válidas. Era complicada, lenta, carecía de masa crítica, y los estándares prometían más de lo que la práctica caótica podía ofrecer. Los modelos de lenguaje lograron algo que esos sistemas nunca pudieron hacer: manejar el lenguaje natural de manera fiable y a gran escala. Eso distingue a las herramientas especializadas de la infraestructura capaz de cambiar el mundo.

La conclusión sensata no es que los primeros defensores tuvieran razón y todos los demás llegaran tarde. Está más cerca de esto:

• El núcleo cognitivo ha cambiado, pasando de la lógica y las reglas creadas manualmente a modelos neuronales que aprenden de los datos.
• Los problemas de infraestructura no han cambiado.
• La interoperabilidad, la semántica, la coordinación, la seguridad y la gobernanza siguen requiriendo un diseño ingenieril explícito.

Estar a la vanguardia y tener razón de manera útil son cosas diferentes. Un intento en 2006 buscó crear una interfaz de inteligencia artificial entre diferentes patrones de lenguaje machine y humano utilizando XML. Hoy en día esa tarea recaería en esquemas JSON, almacenes vectoriales, grafos de conocimiento y un protocolo compartido como A2A o MCP. El instinto no ha cambiado: lograr una interfaz adecuada.

Puntos ciegos que merecen ser mencionados

Las revisiones de diseño y los foros de arquitectura de hoy contienen afirmaciones que recuerdan a lo que se decía sobre la web semántica veinte años atrás. Existe un progreso real del que hablar: transformadores, agentes autónomos capaces y implementaciones a gran escala. También existen las mismas deficiencias conocidas:

• Estrategias de interoperabilidad débiles o inexistentes.
• Poca atención a la semántica formal u ontologías.
• La gobernanza tratada como un revestimiento en lugar de una capa arquitectónica.

Tres escenarios plausibles muestran qué sucede si esas deficiencias persisten. Ninguno de ellos es una predicción, solo una extrapolación a partir de la trayectoria actual.

El primero es la Torre de Babel. Cada proveedor desarrolla sistemas de agentes propietarios, por lo que los agentes de una empresa no pueden comunicarse con los de otra ni utilizar sus herramientas. La TI empresarial se convierte en un mosaico de plataformas incompatibles donde cada conexión entre pares requiere una integración personalizada, lo que genera un costo de integración mucho mayor, la pérdida de ganancias en productividad y que los consultores se lleven las tarifas.

El segundo es una crisis de seguridad. Una flota de agentes de producción en una firma financiera es comprometida mediante inyección de comandos y ejecuta transacciones no autorizadas por valor de millones. No existe un registro de auditoría, ya que se consideró que la verificación formal era demasiado costosa e innecesaria dada la sofisticación de los LLM. Como consecuencia, se imponen multas regulatorias, se pierde la confianza de los clientes, los ejecutivos renuncian y hay una reacción negativa en toda la industria.

El tercer problema es el desastre de las alucinaciones. Los profesionales de la salud recomiendan tratamientos basados en artículos de investigación que nunca existieron y contraindicaciones inventadas, sin que exista un grafo de conocimiento que las respalde. Los pacientes resultan perjudicados, las demandas por mala praxis describen a los sistemas basados únicamente en IA como inherentemente poco fiables, y la adopción de la IA médica pierde años.

Nada de esto es exagerado. Pruebas de rendimiento como AgentHarm demuestran cuán fáciles son de comprometer los sistemas actuales, y las alucinaciones en entornos médicos están bien documentadas. La oportunidad de construir una infraestructura adecuada es ahora, antes de que un gran fracaso público force la atención sobre el problema.

Ciclo de ideas, planos intactos

Las ideas circulan en un ciclo continuo: fracasan, vuelven a surgir y finalmente se materializan cuando el entorno circundante está listo. Lo que antiguamente se describía como agentes que intercambiaban información del tipo “paquete procesado” para generar respuestas de alto valor para los humanos, hoy se explica en términos de modelos de lenguaje grandes, bases de datos vectoriales y marcos multiagente. Los detalles han cambiado, pero el esquema fundamental permanece igual.

Las ideas antiguas solo rinden frutos cuando alguien las descubre y las examina detenidamente.

Fuentes que vale la pena consultar

• El benchmark AgentHarm para medir el comportamiento dañino de los agentes.
• OS-Harm para garantizar la seguridad de los agentes utilizados en computadoras.
• La IA neuro-simbólica en 2024: una revisión sistemática.
• Comprensión de la planificación en los agentes de modelos de lenguaje grandes, según la encuesta sobre planificación mencionada anteriormente.
• Ficciones legales a gran escala sobre la alucinación jurídica.
• ReAct, de Yao y sus colaboradores.

Especificaciones FIPA para los estándares originales de comunicación entre agentes.

Lección relacionada

• El análisis agente es más que texto a SQL: lecciones de Anthropic: Qué dice el artículo de Anthropic sobre capas semánticas, habilidades, evaluaciones y fundamentos de datos, y por qué el texto a SQL por sí solo genera una falsa sensación de precisión.
• Ingeniería agente en cinco capas: desde especificaciones y agentes paralelos hasta reglas y supervisión: Karpathy habla del cambio respecto al código basado en intuiciones. Conoce las cinco capas de la ingeniería agente: especificaciones, orquestación, reglas codificadas, revisión humana y observabilidad, además de un plan semanal.