Inferencja przyczynowa w produkcji: pięć etapów oraz w jakich sytuacjach agenci AI są pomocni.

Wnioskowanie przyczynowe od dawna jest rygorystyczne, ale rzadko stosowane. Argument w tym tekście jest konkretny: sztuczna inteligencja o charakterze agenty po raz pierwszy umożliwia jego praktyczne zastosowanie na skalę przedsiębiorstw. Jest to twierdzenie techniczne, dlatego zostaje przedstawione w sposób techniczny, co oznacza omówienie pięciu etapów wdrażania modelu przyczynowego do produkcji, wyjaśnienie, dlaczego każdy z nich stanowił wąskie gardło przed pojawieniem się zdolnych agentów AI, oraz określenie, jakie zmiany następują, gdy agenci dołączają do procesu. Ich tryby awarii otrzymują takie samo uwzględnienie, ponieważ słabości tej architektury mają takie samo znaczenie jak jej zalety.

To nie jest tutorial, ani nie ma tu krok po kroku instrukcji. Wert leży w rozumowaniu i w zrozumieniu, dlaczego takie ustawienie jest inne, a nie tylko w fakcie jego odmienności.

Czego potrzebuje wnioskowanie przyczynowe

Zanim przyjrzymy się temu, co zmieniają agenci, pomocne jest określenie, czego wymaga ta metoda. Wykorzystywana jest tu strukturalna model matematyczna przyczynowo-skutkowa Judei Pearla (SCM), najważniejszy formalny podejście do rozumowania przyczynowo-skutkowego w statystyce i uczeniu maszynowym. SCM opisuje system za pomocą zmiennych oraz jednego równania strukturalnego na każdą zmienną, z których każde wskazuje, w jaki sposób przyczyny danej zmiennej ją określają. Struktura ta jest przedstawiana jako skierowany graf acykliczny (DAG), w którym węzłami są zmienne, a krawędziami skierowanymi bezpośrednie związki przyczynowo-skutkowe. Jest on acykliczny, ponieważ nie zakłada się, że żadna zmienna może powodować samą siebie w ramach danego okna czasowego.

Podstawową operacją jest operator do, zapisywany jako do(X = x). Reprezentuje on interwencję, w której zmienna X jest zmuszana do przyjęcia wartości x, oddzielając ją od jej normalnych przyczyn. Kalculus do Pearla, będący kompletnym zestawem reguł wnioskowania, oblicza wtedy skutek takich interwencji na podstawie danych obserwacyjnych, gdy już zna się graf. To właśnie nadaje temu frameworkowi jego moc: na pytanie „a co, jeśli zmienimy X?” można odpowiedzieć bez przeprowadzania żadnych eksperymentów.

Rozwój w środowisku produkcyjnym przebiega w pięciu etapach, a każdy z nich historycznie stanowił poważny wąskie gardło.

Etap 1: wybór zmiennych

Decydowanie o tym, które elementy powinny trafić do modelu, wydaje się proste, ale w rzeczywistości nie jest. W systemie finansowym liczba potencjalnie istotnych zmiennych jest ogromna: wskaźniki makroekonomiczne, dane finansowe firm, metryki regulacyjne, oceny ESG, wskaźniki mikrostruktury rynku, sygnały nastrojów i wiele innych. Zbyt wiele zmiennych tworzy fałszywe zależności, przez co graf nie może być zidentyfikowany. Zbyt mało zmiennych powoduje pominięcie ważnych czynników zakłócających, co wpływa na błędne oceny efektów.

Tradycyjnym rozwiązaniem jest spotkanie ekspertów, podczas którego aktuary, specjaliści od ryzyka i menedżerowie portfeli dyskutują o tym, które zmienne są istotne i dlaczego. Jest to metoda wartościowa, ale powolna, kosztowna i zależna od uczestników. Zmienna oczywista dla jednego eksperta może w ogóle nie przyszła do głowy innemu.

To, co zmieniają te agenty, to zakres pierwszego przeglądu. Można przetworzyć dużą ilość materiałów z danej dziedziny, takich jak artykuły naukowe, wytyczne regulacyjne i raporty branżowe, oraz zaproponować kandydatów na zmienne wraz z odnośnikami. Mogą one wyróżnić zmienne, które w literaturze naukowej są określane jako czynniki wpływające na wynik, oznaczyć te zwykle traktowane jako czynniki zakłócające oraz wprowadzić wiedzę, której nikt wcześniej nie posiadał. Ekspert przechodzi od tworzenia listy do analizy i dopracowywania opracowanej propozycji, co jest szybsze i mniej zależy od wiedzy pojedynczej osoby.

Jest jedna kluczowa ograniczenie – agenci mogą tylko proponować, a nie weryfikować, dlatego eksperci z danej dziedziny, którzy rozumieją specyfikę biznesu, muszą zatwierdzić ostateczną listę. Przeczytanie całej literatury na temat ESG i wyników działalności nie mówi modelowi nic o tym, które zmienne znajdują się w infrastrukturze danych ani które zostałyby zaakceptowane przez zespół ds. zgodności w dokumentacji regulacyjnej.

Etap 2: określenie struktury przyczynowo-skutkowej

Następnie należy określić strukturę przyczynowo-skutkową: które zmienne powodują które i w jakim kierunku. Jest to najtrudniejszy etap i historycznie najdroższy. Istnieją dwie główne rodziny metod. Algorytmy oparte na ograniczeniach, takie jak algorytm PC opracowany przez Spirtesa, Glymoura i Scheinesa, wyciągają strukturę na podstawie testów niezależności warunkowej danych. Metody oparte na ocenie szukają grafów najbardziej odpowiednich pod kątem kryterium dopasowania. Każda z tych metod ma dobrze znane ograniczenia. Podejścia oparte na ograniczeniach są wrażliwe na założenie wierności oraz rozmiar próby, natomiast poszukiwania oparte na ocenie stanowią problem kombinatoryczny, który staje się nierozwiązywalny w miarę mnożenia się zmiennych. Żadna z tych metod nie generuje jedynego, unikalnego grafu na podstawie danych obserwacyjnych. Najlepszym możliwym wynikiem jest klasa równoważności Markowa, czyli grafy, których statystyka nie jest w stanie odróżnić.

Zautomatyzowane odkrywanie może zawęzić listę możliwych struktur grafów, ale nie może ustalić ostatecznej struktury bez informacji pochodzących z danej dziedziny. Kierunek krawędzi, który często jest najważniejszą właściwością, nierzadko nie może zostać ustalony wyłącznie na podstawie danych i musi pochodzić od eksperta.

To, co zmieniają agenci, to szybkość iteracji. Można uruchomić kilka algorytmów odkrywania, porównać ich wyniki, zaznaczyć krawędzie, co do których metody się nie zgadzają, oraz przekazać ekspertowi uporządkowaną listę opcji: krawędzie, co do których wszystkie metody się zgadzają, krawędzie sporne oraz krawędzie poparte danymi, ale sprzeczne z określoną wiedzą z danej dziedziny. Ekspert nie musi już uruchamiać algorytmów i czytać surowych wyników, lecz składa dobrze sformułowane zapytania. Liczba podejmowanych decyzji pozostaje niezmienna, a każda z nich kosztuje mniej.

Najgroźniejszym modelem awarii jest ten, w którym agent przedstawia jeden „najlepszy” graf, ukrywając przy tym niepewność. Dane nie określają w sposób jednoznaczny grafów przyczynowo-skutkowych, więc każdy system, który przedstawia daną strukturę jako fakt, a nie jako hipotezę, błędnie interpretuje aspekty epistemiczne problemu.

Etap 3: weryfikacja grafu

Graph przyczynowo-skutkowy to zbiór założeń. Każda krawędź wskazuje, że jedna zmienna bezpośrednio powoduje inną. Każda brakująca krawędź oznacza, że dwie zmienne nie są ze sobą bezpośrednio połączone, biorąc pod uwagę wszystko inne w grafie. Te założenia mogą być błędne, a koszt błędu może być wysoki.

Walidacja zazwyczaj łączy analizę domeny, polegającą na sprawdzeniu, czy graf ma sens z punktu widzenia ekspertów, z testami statystycznymi w celu ustalenia, czy warunkowe niezależności wynikające z grafu zachodzą w danych. Drugi podejście opiera się na d-separacji: graf wskazuje, że określone pary zmiennych są warunkowo niezależne przy założeniu istnienia innych zmiennych, a te implikacje można przetestować.

Analiza wrażliwości stawia powiązane pytanie: o ile zmieniają się szacunki efektów, jeśli graf ulegnie zmianie poprzez dodanie krawędzi, zmianę kierunku lub wprowadzenie niewymierzonego czynnika zakłócającego? Jest to istotne, ponieważ graf zawsze jest tylko przybliżeniem rzeczywistości, więc trzeba wiedzieć, które wnioski przetrwają to przybliżenie, a które są kruche.

W przeszłości na tym etapie potrzebny był specjalista od statystyki, który miał przeprowadzać testy, analizować wyniki i przekształcać je w edycje wykresów – to było powolne, iteracyjne procesy. Agenty automatyzują serię testów. Można wtedy przeprowadzić każdy z testów warunkowej niezależności, zaznaczyć przypadki ich naruszenia, określić, które krawędzie są z nimi powiązane, oraz stworzyć ustrukturyzowany raport. Mogą one również przeprowadzać analizy wrażliwości poprzez zmianę wag krawędzi, dodawanie hipotetycznych czynników zakłócających i sprawdzanie stabilności oszacowań, a następnie podsumować uzyskane wyniki. Statystyk przechodzi od przeprowadzania testów do interpretacji ustrukturyzowanego raportu diagnostycznego.

Etap 4: zapytania interwencyjne

Tutaj model przyczynowo-skutkowy pokazuje swoją wartość. Zapytanie interwencyjne polega na wyznaczeniu wartości oczekiwanej wyniku Y, gdy zmienna X przyjmuje wartość x, co w notacji Pearla jest zapisywane jako:

To różni się od oczekiwania warunkowego, które szacuje standardowa regresja:

Obliczanie zapytań interwencyjnych polega na zastosowaniu kalkulu do, czyli trzech reguł, które przepisują wyrażenia zawierające operator do na takie, które można obliczyć na podstawie rozkładu obserwacyjnego, biorąc pod uwagę graf. W przypadku prostych grafów jest to proste. Gdy występuje wiele zmiennych, kilka celów interwencji oraz struktura serii czasowych, może to wymagać skomplikowanych operacji algebraicznych.

Rozważmy pytanie biznesowe typu „co się stanie z naszym wskaźnikiem strat, jeśli zmienimy strukturę cenową?”. Zanim pojawiły się agenty, ktoś musiał je przekształcić w formalne zapytanie interwencyjne i obliczyć je na podstawie modelu, a mogło to zrobić tylko specjalista znający zarówno aspekty biznesowe, jak i matematykę. Ten koszt konwersji jest głównym powodem, dla którego inferencja przyczynowa pozostała w uniwersytetach.

Agenci zmieniają warstwę tłumaczenia. Można wziąć zwykłe pytanie biznesowe sformułowane językiem potocznym, zidentyfikować zaangażowane zmienne, napisać odpowiadającą mu wyrażenie do, zastosować kalkul do, aby uzyskać coś mierzalnego, i zwrócić wynik wraz z prostym wyjaśnieniem. Ekspert od danej dziedziny nie musi znać kalkulu do i musi jedynie ocenić, czy jego pytanie zostało prawidłowo przetłumaczone – co stanowi znacznie niższy standard.

Możliwy błąd: agent, który z pewnością siebie odpowiada na niewłaściwe pytanie. Sformułowania biznesowe często mogą być interpretowane albo warunkowo, albo w kontekście interwencji. „Co się dzieje z naszym wskaźnikiem strat, gdy oceny ESG są wysokie?” może oznaczać to, co występuje w przypadkach, gdy oceny faktycznie są wysokie (interpretacja warunkowa), lub to, co następuje, jeśli oceny zostaną celowo podniesione (interpretacja interwencyjna). To daje różne odpowiedzi, więc agent, który nie ujawnia tej niejednoznaczności i nie pozwala użytkownikowi wybrać, stanowi zagrożenie.

Etap 5: ślad audytowy

W branżach regulowanych wynik analizy to nie tylko odpowiedź. To odpowiedź wraz z pełną sekwencją rozumowań, które ją uzasadniają, a każde założenie modelowe, transformacja danych oraz wybór analityczny muszą być udokumentowane i uzasadnione.

Modele przyczynowo-skutkowe podnoszą standardy. Kompletny zapis obejmuje sześć elementów: powód wyboru każdej zmiennej, sposób układu grafu oraz to, co podtrzymuje każdą krawędź, które testy walidacyjne zostały przeprowadzone i jakie były ich wyniki, dokładnie które zapytania interwencyjne zostały wykonywane oraz jakie decyzje biznesowe zostały podjęte na podstawie tych zapytań. Ręczne sporządzanie takich dokumentów często prowadzi do luk i nieścisłości, zwykle po fakcie.

W przypadku agentów śledzenie może odbywać się automatycznie, w miarę jak zachodzą różne wydarzenia. Każda akcja – czy to wyszukiwanie w literaturze, uruchomienie algorytmu, zmiana w grafie czy zapytanie – jest rejestrowana wraz z datą i godziną, danymi wejściowymi, wyjściowymi oraz uzasadnieniem. Dokumentacja staje się produktem ubocznym procesu, a nie oddzielnym obowiązkiem. Przy składaniu dokumentacji regulacyjnej lub przeprowadzaniu wewnętrznej audytu nie jest to drobna wygoda – pozwala to odróżnić analizę, którą można obronić, od tej, której nie da się odtworzyć.

Czego agenty nie potrafią

Te ograniczenia należy jasno sformułować.

• Nie mogą one wywnioskować struktury przyczynowo-skutkowej wyłącznie na podstawie danych. Kierunek krawędzi jest często niedokładnie określony na podstawie danych obserwacyjnych, a większa moc obliczeniowa tego nie zmienia. W tym podejściu dużą rolę odgrywa wiedza specjalistyczna z danej dziedziny.
• Nie mogą sprawdzać własnych tłumaczeń. Agent może błędnie przekształcić pytanie biznesowe w formalne zapytanie i robić to z przekonaniem. Ludzka weryfikacja na etapie 4 stanowi główną ochronę przed rodzajem błędów, które jeszcze nie są widoczne w wyniku, ale wpływają na decyzję.
• Nie zastępują one danych eksperymentalnych. Kalkul do-calculus daje efekty interwencyjne na podstawie danych obserwacyjnych tylko przy spełnieniu określonych założeń, głównie poprawnie zdefiniowanego grafu i braku niewymierzonych czynników zakłócających. Gdy te założenia nie są spełnione, szacunki mogą być bardzo błędne. Agenci nie potrafią stwierdzić, gdy założenia zostały złamane. Tylko wiedza z danej dziedziny oraz, ostatecznie, dowody eksperymentalne mogą to zrobić.

Dlaczego to nadal ma znaczenie

Argumentem za tą architekturą nie jest to, że wnioskowanie przyczynowe staje się łatwe – tak nie jest. Argumentem jest to, że staje się ono wykonalne, ponieważ bariery kosztowe, które przez trzydzieści lat uniemożliwiały użycie rygorystycznej, dobrze ugruntowanej metodologii w praktyce, znikają.

Metodologia nie jest nowa, natomiast infrastruktura tak. Organizacje, które łączą je ze sobą, wykorzystując agenty do obsługi warstwy procesowej oraz ekspertów z danej dziedziny do podejmowania decyzji, tworzą coś, czego sztuczna inteligencja oparta na korelacjach nie może dorównać: rygorystyczny, poddawalny audytowi i sprawdzalny model systemów, które zarządzają. W branżach regulowanych warto to robić, a możliwość pierwszego stworzenia takiego rozwiązania jest już dostępna.

Literatura pokrewna

• Tradycyjna AI, AI generatywna i AI agencyjna: w czym się różnią — Przewidywanie, tworzenie, działanie: prosty porównanie tradycyjnej, generatywnej i agencyjnej AI w języku zrozumiałym dla laików, wraz z przykładami z zakresu wsparcia, nauki o danych i rekrutacji oraz wskazówkami, kiedy używać każdej z nich.
• Praktyczne notatki: Qwen 3.8 wreszcie jest dostępny, agencyjne programowanie poziomu Opus z lokalnymi zasobami — Szczegółowy przewodnik po Praktycznych notatkach: Qwen 3.8 wreszcie jest dostępny, agencyjne programowanie poziomu Opus z lokalnymi zasobami: umowy, sprawdzania oraz miejsca na kod do wstawienia dla zespołów wdrażających ten model.