causal-inference ai-agents structural-causal-models do-calculus regulated-ai

Kausale Inferenz in der Produktion: Fünf Phasen und wo KI-Agenten helfen.

Wie Pearls strukturelle kausale Modelle in regulierten Branchen eingesetzt werden können: fünf Phasen, welche Akteure die Prozesse beschleunigen, wo sie versagen und warum Experten weiterhin eingebunden bleiben.

Verlag: REACTAPP.TOPAuf dieser Website hinzugefügt 28. Okt. 20268 Min. Lesezeit1869 Wörter

Quellen: How Agentic AI Finally Makes Causal Inference Deployable

Die kausale Inferenz war schon immer streng wissenschaftlich fundiert, wurde aber nur selten eingesetzt. Der hier vorgebrachte Ansatz ist spezifisch: KI-Agenten machen sie erstmals in unternehmensweiter Skala handhabbar. Das ist eine technische Behauptung, weshalb sie technisch behandelt wird – das bedeutet, die fünf Phasen des Einsetzens eines kausalen Modells in die Produktion zu durchgehen, zu erläutern, warum jede dieser Phasen ohne fähige KI-Agenten zu Engpässen führte, und genau aufzulisten, welche Veränderungen eintritt, wenn Agenten in den Prozess eingebunden werden. Auch ihre Fehlermöglichkeiten erhalten gleiche Aufmerksamkeit, denn die Schwächen dieser Architektur sind genauso wichtig wie ihre Stärken.

Es handelt sich nicht um ein Tutorial, und es gibt kein schrittweises Anleitungsmaterial. Der Wert liegt im logischen Denken sowie im Verständnis dafür, warum die Konfiguration anders ist – und nicht nur darin, dass sie tatsächlich anders ist.

Was die kausale Inferenz benötigt

Bevor man untersucht, was die Agenten ändern, ist es hilfreich, zunächst klarzustellen, was die Methode erfordert. Das verwendete Rahmenwerk ist Judea Pearls Strukturelles Kausales Modell (SCM), der führende formale Ansatz für kausales Denken in Statistik und maschinellem Lernen. Ein SCM beschreibt ein System durch Variablen sowie eine strukturelle Gleichung pro Variable, wobei jede Gleichung angibt, wie die Ursachen dieser Variable sie bestimmen. Die Struktur wird als gerichteter azyklischer Graph (DAG) dargestellt, wobei die Knoten die Variablen und die gerichteten Kanten die direkten kausalen Verbindungen darstellen. Er ist azyklisch, weil innerhalb des relevanten Zeitraums nicht angenommen wird, dass eine Variable sich selbst verursacht.

Die zentrale Operation ist der do-Operator, der als do(X = x) geschrieben wird. Er repräsentiert eine Intervention, bei der die Variable X auf den Wert x gezwungen wird, wodurch sie von ihren normalen Ursachen getrennt wird. Pearls do-Kalkül, ein vollständiges Set an Schlussfolgerungsregeln, berechnet anschließend aus Beobachtungsdaten – sobald der Graph bekannt ist – die Auswirkungen solcher Interventionen. Das verleiht dem Rahmen seine Stärke: Die Frage „Was wäre, wenn wir X ändern?“ kann ohne Durchführung eines Experiments beantwortet werden.

Die Implementierung in der Praxis durchläuft fünf Phasen, von denen jede historisch gesehen ein ernsthafter Engpass war.

Phase 1: Auswahl der Variablen

Die Entscheidung darüber, welche Faktoren in das Modell aufgenommen werden, klingt einfach, ist es aber nicht. In einem Finanzsystem ist die Anzahl der möglicherweise relevanten Variablen enorm: makroökonomische Indikatoren, Unternehmensfinanzen, regulatorische Kennzahlen, ESG-Werte, Messgrößen zur Marktstruktur, Sentiment-Signale und vieles mehr. Zu viele Variablen führen zu falschen Zusammenhängen und machen das Diagramm unlesbar. Zu wenige Variablen lassen wichtige Störfaktoren unberücksichtigt und verfälschen die Schätzungen der Effekte.

Die traditionelle Lösung ist ein Expertenworkshop, bei dem Aktuare, Risikomanager und Portfoliomanager darüber diskutieren, welche Variablen wichtig sind und warum. Das ist wertvoll, doch es ist langwierig, teuer und hängt davon ab, wer teilnimmt. Einem Experten offensichtliche Variablen können einem anderen überhaupt nicht in den Sinn kommen.

Was die Agenten verändern, ist die Breite der ersten Analysephase. Man kann große Mengen an Fachmaterial wie wissenschaftliche Artikel, regulatorische Leitlinien und Branchenberichte durchgehen und mit Quellenangaben potenzielle Variablen vorschlagen. Sie können Variablen identifizieren, die in der Literatur stets als Treiber eines Ergebnisses bezeichnet werden, jene markieren, die üblicherweise als Störfaktoren gelten, sowie Erkenntnisse einbringen, die niemand sonst besitzt. Der Experte geht von der Erstellung einer Liste über zur Überprüfung und Verfeinerung des recherchierten Vorschlags – was schneller geht und weniger von den Kenntnissen einer einzelnen Person abhängt.

Eine wichtige Einschränkung besteht darin, dass die Agenten nur vorschlagen, aber nicht validieren können. Daher müssen Fachexperten, die das Geschäft verstehen, die endgültige Auswahl bestätigen. Das Durchlesen der gesamten Literatur zu ESG und Leistungskennzahlen sagt einem Modell nichts darüber aus, welche Variablen in der Dateninfrastruktur vorhanden sind oder welche von dem Compliance-Team in einer regulatorischen Meldung akzeptiert würden.

Phase 2: Angabe der kausalen Struktur

Dann muss die kausale Struktur festgelegt werden: Welche Variablen verursachen welche und in welche Richtung. Es handelt sich um die schwierigste Phase und historisch gesehen auch um die kostspieligste. Es gibt zwei große Methodengruppen. restriktionsbasierte Algorithmen, wie der PC-Algorithmus von Spirtes, Glymour und Scheines, schließen die Struktur aus Tests auf bedingte Unabhängigkeit in den Daten ab. schwellenwertbasierte Methoden suchen nach Kandidatengraphen, die am besten zu einem Kriterium der Passgenauigkeit passen. Jede Methode weist bekannte Grenzen auf. restriktionsbasierte Ansätze sind empfindlich gegenüber der Annahme der Treue sowie der Stichprobengröße, während die schwellenwertbasierte Suche ein kombinatorisches Problem darstellt, das mit zunehmender Anzahl der Variablen unlösbar wird. Keine dieser Methoden liefert aus Beobachtungsdaten einen eindeutigen Graphen. Das beste erreichbare Ergebnis ist eine Markov-Äquivalenzklasse, das heißt Graphen, die von Statistiken nicht unterschieden werden können.

Durch automatisierte Entdeckungsmethoden können plausible Graphen eingegrenzt werden, doch ohne Eingaben aus dem jeweiligen Bereich lässt sich die endgültige Struktur nicht bestimmen. Die Richtung der Kanten, die oft die wichtigste Eigenschaft ist, lässt sich häufig nicht allein aus den Daten ermitteln und muss von einem Experten festgelegt werden.

Was die Agenten verändern, ist die Geschwindigkeit der Iterationen. Man kann mehrere Entdeckungsalgorithmen ausführen, ihre Ergebnisse vergleichen, die Kanten markieren, bei denen sich die Methoden unterscheiden, und dem Experten eine strukturierte Liste mit Optionen übergeben: Kanten, bei denen sich alle Methoden einig sind, umstrittene Kanten sowie Kanten, die zwar von den Daten unterstützt werden, aber mit bestimmten fachlichen Kenntnissen im Widerspruch stehen. Der Experte muss nicht mehr Algorithmen ausführen und Rohdaten lesen, sondern kann stattdessen gut formulierte Anfragen stellen. Die Anzahl der Entscheidungen bleibt unverändert, und jede einzelne kostet weniger.

Der zu beachtende Fehlermodus besteht darin, dass ein Agent nur ein einziges „bestes“ Diagramm anbietet und die Unsicherheiten versteckt. Daten bestimmen Kausaldiagramme nicht eindeutig, weshalb jedes System, das eine Struktur als Fakt und nicht als Hypothese darstellt, die Erkenntnismöglichkeiten des Problems falsch darstellt.

Phase 3: Überprüfung des Diagramms

Ein Kausaldiagramm ist eine Sammlung von Annahmen. Jede Kante besagt, dass eine Variable eine andere direkt verursacht. Jede fehlende Kante besagt, dass zwei Variablen voneinander nicht direkt verbunden sind, sofern alles andere im Diagramm berücksichtigt wurde. Diese Annahmen können falsch sein, und die Kosten für Fehler können hoch sein.

Die Validierung kombiniert in der Regel eine Prüfung des Domänenkontexts – also die Überprüfung, ob das Diagramm für Experten sinnvoll erscheint – mit statistischen Tests, um zu prüfen, ob die durch das Diagramm implizierten bedingten Unabhängigkeiten in den Daten gelten. Letztere stützen sich auf die d-Trennung: Ein Diagramm impliziert, dass bestimmte Variablepaare unter Berücksichtigung anderer Variablen bedingte Unabhängigkeit aufweisen, und diese Implikationen sind überprüfbar.

Die Sensitivitätsanalyse beantwortet eine damit verbundene Frage: Wie stark ändern sich die Effektabschätzungen, wenn sich das Diagramm durch Hinzufügen einer Kante, Ändern der Richtung oder Einführung eines unermessenen Störfaktors verändert? Das ist wichtig, weil ein Diagramm stets die Realität nur annähert, und man muss wissen, welche Schlussfolgerungen der Annäherung standhalten und welche fragil sind.

Zuvor benötigte diese Phase einen spezialisierten Statistiker, der die Tests durchführte, die Ergebnisse auswertete und sie in grafische Darstellungen umwandelte – ein langsamer, iterativer Prozess. Agenten automatisieren diese Testreihe. So können alle möglichen Tests zur Prüfung der bedingten Unabhängigkeit durchgeführt werden, Verstöße markiert, ermittelt werden, welche Kanten durch jeden Verstoß betroffen sind, und anschließend ein strukturiertes Bericht erstellt werden. Zudem können Sensitivitätsanalysen durchgeführt werden, indem die Gewichte der Kanten variiert, hypothetische Störfaktoren hinzugefügt und überprüft wird, wie stabil die Schätzungen sind; danach werden die Erkenntnisse zusammengefasst. Der Statistiker wechselt dabei von der Durchführung von Tests zur Interpretation eines strukturierten Diagnoseberichts.

Phase 4: Interventionelle Abfragen

Hier zeigt sich der Nutzen des kausalen Modells. Eine interventionelle Abfrage fragt nach dem erwarteten Wert des Ergebnisses Y, wenn die Variable X auf den Wert x gesetzt wird, was in Pearls Notation wie folgt dargestellt wird:

Das unterscheidet sich von der bedingten Erwartung, die eine Standardregression schätzt:

Die Berechnung interventiver Abfragen bedeutet die Anwendung des do-Kalküls – drei Regeln, die Ausdrücke, die den do-Operator enthalten, in solche umschreiben, die anhand der Beobachtungsverteilung und unter Berücksichtigung des Graphen berechnet werden können. Bei einfachen Graphen ist dies unkompliziert. Bei vielen Variablen, mehreren Interventionzzielen und einer Zeitreihenstruktur kann dies jedoch umfangreiche algebraische Verarbeitungen erfordern.

Betrachten wir eine geschäftliche Frage wie „Was passiert mit unserem Verlustratio, wenn wir unsere Preistruktur ändern?“ Bevor es Agenten gab, musste jemand diese Frage in eine formale interventive Abfrage umwandeln und sie aus dem Modell berechnen – und das konnten nur Spezialisten, die sowohl mit dem Geschäft als auch mit der Mathematik vertraut waren. Diese Umwandlungsarbeit ist der Hauptgrund dafür, dass die kausale Inferenz weiterhin in Universitäten blieb.

Agenten ändern die Übersetzungsebene. Man kann eine Frage aus dem Geschäftsalltag in alltäglicher Sprache nehmen, die beteiligten Variablen ermitteln, die entsprechende do-Expression schreiben, den do-Kalkül anwenden, um zu einem abschätzbaren Ergebnis zu gelangen, und schließlich ein Ergebnis mit einer einfachen Erklärung liefern. Der Fachexperte muss den do-Kalkül nicht kennen und muss lediglich beurteilen, ob seine Frage korrekt übersetzt wurde – ein weitaus niedrigeres Anforderungsprofil.

Der Fehlermodus: Ein Agent, der mit Überzeugung die falsche Frage beantwortet. Geschäftliche Formulierungen passen oft entweder auf eine bedingte oder auf eine intervenierende Interpretation. „Was passiert mit unserem Verlustrisiko, wenn die ESG-Werte hoch sind?“ kann bedeuten, was in Fällen eintritt, in denen die Werte zufällig hoch sind (bedingt), oder was geschieht, wenn die Werte künstlich hoch gesetzt werden (intervenierend). Das führt zu unterschiedlichen Antworten, weshalb ein Agent, der die Mehrdeutigkeit nicht aufzeigt und den Benutzer nicht zur Auswahl zwingt, ein Risiko darstellt.

Phase 5: die Audit-Spur

In regulierten Branchen ist das Ergebnis einer Analyse mehr als nur die Antwort. Es handelt sich um die Antwort zusammen mit der vollständigen Begründung dahinter, wobei jede Modellannahme, Datenumwandlung und analytische Entscheidung dokumentiert und nachvollziehbar sein muss.

Kausale Modelle setzen höhere Anforderungen. Eine vollständige Dokumentation umfasst sechs Aspekte: warum jede Variable ausgewählt wurde, wie das Diagramm gestaltet ist und was jede Verbindung stützt, welche Validierungsprüfungen durchgeführt wurden und wie deren Ergebnisse ausfielen, genau welche Eingriffsanfragen ausgeführt wurden und welche Geschäftsentscheidungen durch jede Anfrage beeinflusst wurden. Die manuelle Dokumentation neigt dazu, Lücken und Inkonsistenzen zu hinterlassen, und geschieht in der Regel erst im Nachhinein.

Mit Agenten kann die Aufzeichnung automatisch erfolgen, sobald Ereignisse stattfinden. Jede Aktion – sei es eine Literatursuche, ein Algorithmuslauf, eine Änderung im Graphen oder eine Abfrage – wird mit einem Zeitstempel, Eingaben, Ausgaben sowie der Begründung protokolliert. Die Dokumentation entsteht somit als Nebenprodukt des Prozesses und nicht als separate Aufgabe. Für regulatorische Einreichungen oder interne Audits ist das keine unbedeutende Erleichterung – es ermöglicht es, Analysen, die verteidigt werden können, von solchen zu unterscheiden, die nicht rekonstruiert werden können.

Was Agenten nicht können

Die Grenzen sollten klar benannt werden.

Sie können keine kausale Struktur allein aus Daten ableiten. Die Richtung der Kanten ist oft aufgrund von Beobachtungsdaten unbestimmt, und mehr Rechenleistung ändert daran nichts. Fachwissen aus dem jeweiligen Bereich spielt in dieser Konzeption eine entscheidende Rolle.

Sie können ihre eigenen Übersetzungen nicht überprüfen. Ein Agent kann eine geschäftliche Frage fälschlicherweise in eine formelle Anfrage umwandeln und das selbstsicher tun. Die menschliche Überprüfung in Phase 4 ist der wichtigste Schutz gegen eine Art von Fehlern, die sich zwar noch nicht im Ergebnis zeigen, die Entscheidung aber beeinflussen.

Sie ersetzen keine experimentellen Daten. Der do-Kalkül liefert nur unter bestimmten Annahmen – insbesondere einer korrekt definierten Struktur und dem Fehlen unermessener Störfaktoren – interventionelle Effekte aus Beobachtungsdaten. Wenn diese Annahmen nicht erfüllt sind, können die Schätzungen stark abweichen. Agenten können nicht erkennen, wenn die Annahmen verletzt werden. Nur fachliches Wissen sowie letztendlich experimentelle Belege können das.

Warum es weiterhin wichtig ist

Der Vorteil dieser Architektur besteht nicht darin, dass kausale Schlussfolgerungen einfacher werden – das ist nicht der Fall. Der Vorteil liegt vielmehr darin, dass sie praktikabel wird, da die Kostenbarrieren, die eine strenge, etablierte Methodik dreißig Jahre lang von der Anwendung abhielten, zurückgehen.

Die Methodik selbst ist nicht neu, doch die Infrastruktur schon. Organisationen, die beides kombinieren, wobei Agenten die Prozessschicht übernehmen und Fachleute für das jeweilige Gebiet die Entscheidungsschicht steuern, entwickeln etwas, was korrelationsbasierte KI nicht erreichen kann: ein strenges, überprüfbares und interventionell valides Modell der von ihnen betriebenen Systeme. In regulierten Branchen lohnt es sich, so etwas zu entwickeln, und die Möglichkeit, dies zunächst umzusetzen, steht jetzt zur Verfügung.