Висновки про причинність у виробництві: п’ять етапів та те, де допомагають штучні інтелектуальні агенти.
Як моделі структурної причинності Перл можна застосовувати в регульованих галузях: п’ять етапів, що прискорює процес, де вони зазнають невдач та чому експерти залишаються в процесі.
Джерела: How Agentic AI Finally Makes Causal Inference Deployable
Інференція причинності давно залишалася складною для застосування та рідко використовувалася на практиці. Аргумент тут конкретний: штучний інтелект у формі агентів уперше робить її придатною для використання в корпоративних масштабах. Це технічне твердження, тому воно розглядається з технічної точки зору, що означає розгляд п’яти етапів впровадження моделі причинності в експлуатацію, аналіз причин, чому кожен з цих етапів був ускладненням до появи здатних агентів ШІ, та опис змін, які відбуваються після їхнього включення до процесу. Способи їхньої несправності також отримують однакову увагу, адже слабкості цієї архітектури мають таке ж значення, як і її сильні сторони.
Це не навчальний посібник, і тут немає поетапної інструкції. Цінність полягає у логічних міркуваннях та розумінні причин, чому конфігурація відрізняється, а не просто у самому факті її відмінності.
Що потрібно для інференції причинності
Перш ніж розглядати, що саме змінюють агенти, корисно з’ясувати, що вимагає цей метод. Використовувана модель — це Структурна причинно-наслідкова модель (SCM) Джуді Перл, провідний формальний підхід до причинно-наслідкового міркування в статистиці та машинному навчанні. SCM описує систему за допомогою змінних та по одному структурному рівнянню на кожну змінну, кожне з яких визначає, як причини цієї змінної впливають на неї. Структура зображується у вигляді орієнтованої ациклічної графіки (DAG), де вузли позначають змінні, а орієнтовані ребра — прямі причинно-наслідкові зв’язки. Вона є ациклічною, оскільки не припускається, що якась змінна може спричинити себе протягом відповідного часового проміжку.
Основною операцією є оператор do, який записується як do(X = x). Він представляє втручання, під час якого змінна X примушується набувати значення x, відокремлюючись від своїх звичайних причин. До-калькул Перл — це повний набір правил виведення, який дозволяє обчислювати ефект таких втручань на основі спостережуваних даних після того, як граф вже відомий. Саме це надає цій системі її сили: на запитання «а що, якщо ми змінимо X?» можна отримати відповідь без проведення жодних експериментів.
Впровадження в практику проходить через п’ять етапів, і кожен з них історично був серйозною перешкодою.
Етап 1: вибір змінних
Вирішення того, які параметри включити до моделі, здається простим, але насправді це складно. У фінансовій системі кількість потенційно значущих змінних є величезною: макроекономічні показники, фінансові дані компаній, регуляторні метрики, оцінки ESG, показники мікроструктури ринку, сигнали настроїв та багато іншого. Занадто багато змінних створюють хибні зв’язки та роблять граф нерозпізнаваним. Занадто мало змінних призводить до пропуску важливих факторів, що впливають на результати, та спотворює оцінки ефектів.
Традиційним рішенням є проведення семінару експертів, під час якого актуарії, спеціалісти з управління ризиками та менеджери портфелів обговорюють, які змінні є важливими та чому. Це корисно, але цей процес є повільним, дорогим та залежить від того, хто бере участь. Змінна, яка є очевидною для одного експерта, може зовсім не спалитися в голові іншого.
Те, що змінюють ці агенти, — це ступінь розгорненості першого аналізу. Вони можуть обробити велику кількість матеріалів з певної галузі, таких як наукові статті, нормативні рекомендації та звіти галузі, та запропонувати кандидатські змінні з посиланнями. Вони можуть виокремити змінні, які в літературі постійно називаються факторами, що впливають на результат, позначити ті, які зазвичай вважаються змінними-забруднювачами, та внести знання, яких не мав ніхто з присутніх. Експерт переходить від складання списку до перегляду та уточнення дослідженої пропозиції, що є швидшим та менш залежним від знань окремої особи.
Є одна важлива обмеження: агенти можуть лише пропонувати, але не підтверджувати, тому експерти галузі, які розуміють бізнес, повинні схвалити остаточний набір змінних. Читання всієї літератури про ESG та продуктивність нічого не говорить моделі про те, які змінні є частиною вашої інфраструктури даних чи які ваша команда з дотримання нормативів прийме у регуляторній звітності.
Етап 2: визначення причинно-наслідкової структури
Далі необхідно визначити причинно-наслідкову структуру: які змінні спричиняють які, та в якому напрямку. Це найскладніший етап, який історично є також найбільш витратним. Існують дві основні групи методів. Алгоритми, засновані на обмеженнях, такі як алгоритм PC від Spirtes, Glymour та Scheines, виводять структуру на основі тестів умовної незалежності даних. Методи, засновані на оцінках, шукають найкращі графи відповідно до критерію відповідності. Кожен з цих підходів має відомі обмеження. Підходи, засновані на обмеженнях, чутливі до припущення про вірність та розміру вибірки, тоді як пошук за оцінками є комбінаторною проблемою, яка стає нерозв’язною зі збільшенням кількості змінних. Жоден з цих підходів не дає єдиного графа на основі спостережуваних даних. Найкращим досяжним результатом є клас еквівалентності Маркова, тобто графи, які статистика не може розрізнити.
Отже, автоматизоване виявлення може звузити коло можливих графів, але не може визначити остаточну структуру без інформації з конкретної галузі. Напрямок ребра, який часто є найважливішою властивістю, часто не може бути визначений лише на основі даних і мусить бути встановлений експертом.
Те, що змінюють агенти, — це швидкість ітерацій. Можна запустити кілька алгоритмів виявлення, порівняти їхні результати, позначити ребра, щодо яких методи не погоджуються, та надати експерту структурований список варіантів: ребра, щодо яких усі методи згодні, ребра, щодо яких існують суперечки, та ребра, які підтверджуються даними, але суперечать певним знанням галузі. Експерт більше не запускає алгоритми та не читає необроблені результати, а натомість робить чітко сформульовані запити. Кількість рішень залишається незмінною, причому кожне з них коштує менше.
Схема помилки, на яку варто звернути увагу, — це коли агент пропонує єдину „найкращу“ графіку та приховує невизначеність. Дані не визначають причинно-наслідкові графіки унікально, тому будь-яка система, яка представляє певну структуру як факт, а не як гіпотезу, неправильно описує епістемологію проблеми.
Етап 3: перевірка графіку
Причинно-наслідковий графік — це сукупність припущень. Кожна ребро свідчить про те, що одна змінна безпосередньо спричиняє іншу. Кожне відсутнє ребро свідчить про те, що дві змінні не пов’язані безпосередньо, якщо врахувати все інше в графіку. Ці твердження можуть бути хибними, а вартість помилки може бути високою.
Перевірка зазвичай поєднує аналіз домену, тобто запитання про те, чи має сенс граф для експертів, зі статистичним тестуванням того, чи справджуються у даних умовні незалежності, які передбачає граф. Другий підхід ґрунтується на принципі d-розділення: граф свідчить про те, що певні пари змінних є умовно незалежними за наявності певних інших змінних, і ці припущення можна перевірити.
Аналіз чутливості ставить пов’язане запитання: наскільки змінюються оцінки ефектів, якщо граф змінюється шляхом додавання ребра, зміни напрямку чи введення невимірюваного фактора, що впливає на результати? Це важливо, тому що граф завжди є апроксимацією реальності, і потрібно знати, які висновки залишаються стійкими після цієї апроксимації, а які є крихкими.
Раніше на цьому етапі був потрібен спеціаліст-статистик для проведення тестів, аналізу результатів та їх перетворення на зміни у графіках — це був повільний, ітеративний процес. Агенти автоматизують набір тестів. Вони можуть провести кожен з тестів умовної незалежності, позначити порушення, визначити, які ребра пов’язані з кожним порушенням, та створити структурований звіт. Вони також можуть проводити аналізи чутливості, змінюючи ваги ребер, додаваючи гіпотетичні фактори змішування та перевіряючи стабільність оцінок, а потім узагальнювати результати. Статистик переходить від проведення тестів до інтерпретації структурованого діагностичного звіту.
Етап 4: інтервенційні запити
Саме тут проявляється користь каузальної моделі. Інтервенційний запит вимагає значення результату Y при тому, що змінна X має значення x, що в нотації Перла записується так:
Це відрізняється від умовної очікуваної величини, яку оцінює стандартна регресія:
Обчислення інтервенційних запитів означає застосування докалькулусу — трьох правил, які переписують вирази з оператором do у такі, що можна обчислити на основі спостережуваної розподілу з урахуванням графа. Для простих графів це пряме процедура. Однак при наявності багатьох змінних, кількох цілей інтервенції та структури часових рядів це може вимагати складних алгебраїчних операцій.
Розгляньмо бізнес-запитання на кшталт: «Що станеться з нашим коефіцієнтом збитків, якщо ми змінимо структуру ціноутворення?» До появи агентів хтось мусив перетворити його на формальний інтервенційний запит та обчислити його за допомогою моделі, і це міг зробити лише фахівець, який розумів як бізнес, так і математику. Саме ця витрата на перетворення є основною причиною того, чому каузальні висновки залишалися в межах університетів.
Агенти змінюють шар перекладу. Можна взяти бізнес-запитання, сформульоване простою мовою, визначити відповідні змінні, написати відповідний do-вираз, застосувати do-калькул для отримання оцінки та повернути результат із простим поясненням. Експерту в галузі не обов’язково знати do-калькул — йому достатньо оцінити, чи було запитання правильно перекладено, що є значно простішою вимогою.
Спосіб збою: агент, який з упевненістю відповідає на неправильне запитання. Бізнес-формулювання часто дозволяють тлумачення як умовне, так і втручальне. „Що відбувається з нашим коефіцієнтом збитків, коли оцінки ESG високі?“ може означати те, що відбувається у випадках, коли оцінки справді високі (умовне тлумачення), або те, що відбувається, якщо оцінки були силоміць підняті високо (втручальне тлумачення). Це дає різні відповіді, тому агент, який не виявляє неоднозначності та не дає користувачеві можливості вибору, є джерелом ризиків.
Етап 5: історія аудиту
У регульованих галузях результат аналізу — це не просто відповідь. Це відповідь разом із повною послідовністю міркувань, які її підтримують, причому кожна припущення моделювання, операція перетворення даних та аналітичний вибір мають бути задокументовані та обґрунтовані.
Каузальні моделі підвищують вимоги. Повна записна інформація включає шість аспектів: чому була обрана кожна змінна, як складено граф та що підтримує кожну діаграму зв’язків, які тести валідації були проведені та які результати вони дали, саме які запити були виконані та які бізнес-рішення були прийняті на основі кожного з них. Ручний запис цієї інформації часто призводить до прогалин та неузгоджень, і це зазвичай відбувається пізніше.
З використанням агентів відстеження може відбуватися автоматично під час виникнення подій. Кожна дія — чи то пошук у літературі, запуск алгоритму, зміна графа чи запит — фіксується з часовою міткою, вхідними та вихідними даними та обґрунтуванням. Документування стає побічним продуктом процесу, а не окремим завданням. Для подання звітів регуляторам чи внутрішнього аудиту це є важливою зручністю; це дозволяє відрізнити аналіз, який можна обґрунтувати, від того, який неможливо відтворити.
Що не можуть робити агенти
Ці обмеження варто чітко сформулювати.
- Вони не можуть вивести структуру причинно-наслідкових зв’язків лише на основі даних. Напрямок ребер у графі часто не визначається достатньо точно за допомогою спостережуваних даних, і більше обчислень це не змінює. У цій схемі велике значення має експертиза у конкретній галузі.
Чому це все ще має значення
Аргумент на користь такої архітектури полягає не в тому, що інференція причинно-наслідкових зв’язків стає простою. Це не так. Аргумент полягає у тому, що це стає життєздатним, оскільки бар’єри витрат, які протягом тридцяти років заважали використанню суворої, добре встановленої методології, зникають.
Сама методологія не є новою, але інфраструктура — так. Організації, які поєднують їх, при цьому агенти керують рівнем процесів, а експерти в галузі здійснюють оцінку, створюють щось, з чим не може зрівнятися ШІ, заснований на кореляціях: сувору, підлягаючу аудиту, ефективну з точки зору втручання модель систем, якими вони керують. У регульованих галузях це варте створення, і зараз є можливість зробити це першими.
Пов’язана література
- Традиційний ШІ, генеративний ШІ та агентний ШІ: у чому їхні відмінності — Прогнозування, створення, дія: простий для розуміння порівняння традиційного, генеративного та агентного ШІ з прикладами підтримки, науки про дані та найму, а також коли використовувати кожен з них.
- Практичні нотатки: Qwen 3.8 нарешті вийшов, агентне програмування рівня Opus із локальним використанням — Детальний огляд Практичних нотаток: Qwen 3.8 нарешті вийшов, агентне програмування рівня Opus із локальним використанням: контракти, перевірки та шаблони коду для команд, які впроваджують цю модель.