Inferencia causal en la producción: cinco etapas y en qué aspectos los agentes de IA son útiles.

La inferencia causal siempre ha sido rigurosa pero rara vez se ha aplicado en la práctica. El argumento aquí es específico: la IA con capacidad de acción la hace manejable a escala empresarial por primera vez. Se trata de una afirmación técnica, por lo que se aborda desde un enfoque técnico, lo que implica analizar las cinco etapas necesarias para poner un modelo causal en producción, explicar por qué cada una representaba un cuello de botella antes de la existencia de agentes de IA capaces, y detallar qué cambios ocurren cuando estos agentes se integran en el proceso. Sus modos de fallo reciben la misma atención, ya que las debilidades de esta arquitectura son tan importantes como sus fortalezas.

No se trata de un tutorial ni existe una guía paso a paso. El valor radica en el razonamiento y en comprender por qué la configuración es diferente, y no solo en el hecho de que lo sea.

Qué necesita la inferencia causal

Antes de analizar qué elementos modifican los agentes, es útil determinar primero qué exige el método. El marco utilizado es el Modelo Causal Estructural (SCM) de Judea Pearl, el enfoque formal más importante para el razonamiento causal en estadística y aprendizaje automático. Un SCM describe un sistema a través de variables y una ecuación estructural por cada variable, donde cada una indica cómo sus causas determinan su valor. La estructura se representa como un Gráfico Acíclico Direccional (DAG), con nodos para las variables y aristas dirigidas para las conexiones causales directas. Es acíclico porque no se supone que ninguna variable cause a sí misma dentro del período de tiempo relevante.

La operación central es el operador do, escrito como do(X = x). Representa una intervención en la que la variable X se fuerza a tomar el valor x, separándola de sus causas normales. El cálculo do de Pearl, un conjunto completo de reglas de inferencia, calcula entonces el efecto de tales intervenciones a partir de datos observacionales una vez que se conoce el grafo. Eso es lo que le da poder al marco: se puede responder a la pregunta “¿y si cambiamos X?”, sin necesidad de realizar ningún experimento.

La implementación en producción consta de cinco etapas, y históricamente cada una de ellas ha sido un grave cuello de botella.

Etapa 1: elegir las variables

Decidir qué elementos se incluyen en el modelo parece sencillo, pero en realidad no lo es. En un sistema financiero, el conjunto de variables potencialmente relevantes es enorme: indicadores macroeconómicos, estados financieros de las empresas, métricas regulatorias, calificaciones ESG, medidas de la microestructura del mercado, señales de sentimiento y mucho más. Demasiadas variables generan caminos espurios y hacen que el gráfico sea irreconocible. Demasiado pocas omiten confundidores importantes y distorsionan las estimaciones de los efectos.

La solución tradicional es un taller con expertos, en el que actuarios, responsables de riesgos y gestores de carteras debaten qué variables son importantes y por qué. Es valioso, pero lento, costoso y depende de quienes asisten. Una variable obvia para un experto podría nunca ocurrírsele a otro.

Lo que modifican los agentes es cuán amplio puede ser el primer análisis. Es posible procesar una gran cantidad de material relacionado con el área, como artículos académicos, directrices regulatorias e informes del sector, y proponer variables candidatas junto con sus citaciones. Pueden identificar las variables que la literatura siempre señala como factores determinantes de un resultado, marcar aquellas que suelen considerarse confusoras y aportar conocimientos que nadie más posee. El experto pasa de compilar una lista a revisar y perfeccionar una propuesta basada en la investigación, lo cual es más rápido y depende menos del conocimiento de una sola persona.

Existe un límite fundamental: los agentes pueden proponer pero no validar, por lo que los expertos del área que comprenden el negocio deben aprobar el conjunto final. Leer toda la literatura sobre ESG y rendimiento no le dice al modelo nada sobre qué variables forman parte de su infraestructura de datos, ni cuáles aceptaría su equipo de cumplimiento en un documento regulatorio.

Etapa 2: especificación de la estructura causal

Luego se debe especificar la estructura causal: qué variables causan qué y en qué dirección. Es la etapa más difícil y, históricamente, la más costosa. Existen dos familias generales de métodos. Los algoritmos basados en restricciones, como el algoritmo PC de Spirtes, Glymour y Scheines, infieren la estructura a partir de pruebas de independencia condicional en los datos. Los métodos basados en puntuaciones buscan los grafos candidatos que mejor se ajusten a un criterio de adecuación. Cada uno tiene limitaciones bien conocidas. Los enfoques basados en restricciones son sensibles a la suposición de fidelidad y al tamaño de la muestra, mientras que la búsqueda basada en puntuaciones es un problema combinatorio que se vuelve intratable a medida que aumentan las variables. Ninguno de ellos produce un único grafo a partir de datos observacionales. El mejor resultado alcanzable es una clase de equivalencia de Markov, es decir, grafos que las estadísticas no pueden distinguir.

Así, el descubrimiento automatizado puede reducir las posibles estructuras, pero no puede determinar la estructura final sin información del dominio. La dirección de las aristas, que suele ser la propiedad más importante, con frecuencia no puede obtenerse únicamente a partir de los datos y debe provenir de un experto.

Lo que cambian los agentes es la velocidad de iteración. Se pueden ejecutar varios algoritmos de descubrimiento, comparar sus resultados, marcar las aristas en las que los métodos difieren y entregar al experto una lista estructurada de opciones: aristas sobre las que todos los métodos están de acuerdo, aristas que son objeto de controversia, y aristas que los datos respaldan pero que entran en conflicto con conocimientos específicos del dominio. El experto ya no ejecuta algoritmos ni lee resultados brutos, sino que realiza solicitudes bien definidas. La cantidad de decisiones se mantiene igual, y cada una cuesta menos.

El patrón de fallo que hay que evitar es el de un agente que ofrece un único gráfico “mejor” y oculta la incertidumbre. Los datos no determinan de manera única los gráficos causales, por lo que cualquier sistema que presente una estructura como un hecho y no como una hipótesis tergiversa la epistemología del problema.

Etapa 3: validación del gráfico

Un gráfico causal es una colección de suposiciones. Cada arista indica que una variable causa directamente a otra. Cada arista faltante indica que dos variables no están conectadas directamente una vez se han tenido en cuenta todos los demás elementos del gráfico. Esas afirmaciones pueden ser erróneas, y el costo del error puede ser alto.

La validación suele combinar la revisión del dominio, es decir, determinar si el grafo tiene sentido para los expertos, con pruebas estadísticas para verificar si las independencias condicionales impuestas por el grafo se cumplen en los datos. Esta segunda opción se basa en la separación d: un grafo implica que ciertas parejas de variables son condicionalmente independientes dadas otras, y esas implicaciones son verificables.

El análisis de sensibilidad plantea una pregunta relacionada: ¿hasta qué punto cambian las estimaciones de los efectos si el grafo se modifica al agregar un arco, invertir una dirección o introducir un confundidor no medido? Esto es importante porque un grafo siempre es una aproximación de la realidad, y es necesario saber qué conclusiones resisten dicha aproximación y cuáles son frágiles.

En el pasado, esta etapa requería a un estadístico especialista para realizar las pruebas, leer los resultados y convertirlos en ediciones de gráficos, un proceso lento e iterativo. Los agentes automatizan la batería de pruebas. Es posible ejecutar todas las pruebas de independencia condicional implícita, marcar las violaciones, determinar qué aristas implica cada violación y generar un informe estructurado. También pueden realizar análisis de sensibilidad al variar los pesos de las aristas, añadir confundidores hipotéticos y verificar cuán estables son las estimaciones, para luego resumir los hallazgos. El estadístico pasa de realizar pruebas a interpretar un informe diagnóstico estructurado.

Etapa 4: consultas intervencionistas

Es aquí donde el modelo causal resulta útil. Una consulta intervencionista solicita el valor esperado del resultado Y cuando la variable X se establece en el valor x, lo cual la notación de Pearl expresa como:

Esto difiere de la expectativa condicional que estima una regresión estándar:

Calcular consultas intervencionistas implica aplicar el cálculo do, tres reglas que reescriben las expresiones que contienen el operador do en otras que pueden calcularse a partir de la distribución observacional, dada la gráfica. En gráficas simples, el proceso es directo. Con muchas variables, varios objetivos de intervención y estructura de series temporales, puede requerir cálculos algebraicos complejos.

Considere una pregunta empresarial como “¿qué sucede con nuestra tasa de pérdidas si cambiamos nuestra estructura de precios?”. Antes de la existencia de los agentes, alguien tenía que convertirla en una consulta intervencionista formal y calcularla a partir del modelo, y solo un especialista que conociera tanto el negocio como las matemáticas podía hacerlo. Este costo de conversión es la razón principal por la cual la inferencia causal permaneció dentro de las universidades.

Los agentes modifican la capa de traducción. Se puede tomar una pregunta empresarial en lenguaje sencillo, identificar las variables involucradas, escribir la expresión do correspondiente, aplicar el cálculo do para llegar a algo estimable y devolver un resultado junto con una explicación clara. El experto en el área no necesita conocer el cálculo do y solo debe determinar si su pregunta fue traducida correctamente, lo cual representa un estándar mucho más bajo.

El modo de fallo: un agente que responde a la pregunta incorrecta con seguridad. La redacción empresarial a menudo permite una interpretación condicional o una interpretación intervencionista. “¿Qué ocurre con nuestra tasa de pérdidas cuando las calificaciones ESG son altas?” puede referirse a lo que sucede en casos en que las calificaciones resultan ser altas (condicional), o a lo que ocurre si se fuerzan las calificaciones a ser altas (intervencionista). Estas interpretaciones dan respuestas diferentes, por lo que un agente que no evidencia la ambigüedad y no deja que el usuario elija representa un riesgo.

Etapa 5: el rastro de auditoría

En las industrias reguladas, el resultado de un análisis es más que solo la respuesta. Se trata de la respuesta junto con toda la cadena de razonamiento que la sustenta, y cada suposición de modelado, transformación de datos y elección analítica debe estar documentada y justificable.

Los modelos causales elevan aún más los estándares. Un registro completo abarca seis aspectos: por qué se eligió cada variable, cómo está organizado el gráfico y qué sustenta cada arista, qué pruebas de validación se ejecutaron y cuáles fueron sus resultados, exactamente qué consultas de intervención se llevaron a cabo, y qué decisiones empresariales se tomaron a partir de cada consulta. Redactar todo esto manualmente tiende a dejar lagunas e inconsistencias, y generalmente ocurre después de haber realizado el trabajo.

Con los agentes, el seguimiento puede ser automático y se registra a medida que ocurren los eventos. Cada acción, ya sea una búsqueda bibliográfica, la ejecución de un algoritmo, un cambio en el grafo o una consulta, se registra con una marca de tiempo, entradas, salidas y razonamiento. La documentación se convierte en un subproducto del proceso y no en una tarea separada. Para una presentación regulatoria o una auditoría interna, eso no es una simple comodidad; permite distinguir un análisis que puede defenderse de uno que no puede reconstruirse.

Lo que no pueden hacer los agentes

Los límites merecen ser expuestos claramente.

• No pueden derivar una estructura causal únicamente a partir de los datos. La dirección de las aristas suele quedar indefinida con los datos observacionales, y más capacidad de cálculo no cambia eso. La experiencia en el área tiene una importancia real en este diseño.
• No pueden revisar sus propias traducciones. Un agente puede convertir incorrectamente una pregunta comercial en una consulta formal, y hacerlo con confianza. La revisión humana en la Etapa 4 es la principal defensa contra un tipo de errores que aún no se reflejan en el resultado pero afectan la decisión.
• No reemplazan los datos experimentales. El cálculo do solo permite obtener efectos intervencionistas a partir de datos observacionales bajo ciertas suposiciones, principalmente que el grafo esté correctamente especificado y no haya confundidores no medidos. Cuando estas suposiciones no se cumplen, las estimaciones pueden ser muy erróneas. Los agentes no pueden detectar cuándo se violan esas suposiciones. Solo el conocimiento del dominio y, al final, la evidencia experimental pueden hacerlo.

Por qué sigue siendo importante

El argumento a favor de esta arquitectura no es que la inferencia causal se vuelva sencilla. Eso no ocurre. El argumento es que se vuelve viable, ya que desaparecen las barreras de costo que impidieron que una metodología rigurosa y bien establecida llegara a la producción durante treinta años.

La metodología no es nueva, pero sí lo es la infraestructura. Las organizaciones que combinan ambas, con agentes encargados de la capa de procesamiento y expertos en el área que se ocupan de la capa de toma de decisiones, están creando algo que la IA basada en correlaciones no puede igualar: un modelo riguroso, auditable y válido desde el punto de vista de las intervenciones, de los sistemas que operan. En industrias reguladas, esto merece ser desarrollado, y ahora existe la oportunidad de hacerlo primero.