Причинно-следственные выводы в производстве: пять этапов и в чём помогают искусственные интеллектуальные агенты.
Как модели структурной причинно-следственной связи Перл могут применяться в регулируемых отраслях: пять этапов, что ускоряет процесс, где возникают сбои и почему эксперты остаются вовлеченными.
Источники: How Agentic AI Finally Makes Causal Inference Deployable
Инференция причинно-следственных связей долгое время оставалась строгой по методологии, но редко применялась на практике. Здесь рассматривается конкретный аспект: искусственный интеллект в форме агентов впервые позволяет эффективно использовать этот подход в масштабах предприятий. Это техническое утверждение, поэтому оно рассматривается с технической точки зрения, что подразумевает рассмотрение пяти этапов внедрения причинно-следственной модели в производственную среду, анализ причин, по которым каждый из этих этапов был узким местом до появления способных ИИ-агентов, а также определение изменений, происходящих при включении агентов в работу системы. Способы их сбоев получают столь же пристальное внимание, поскольку слабые стороны данной архитектуры имеют такое же значение, как и её сильные стороны.
Это не учебное пособие и здесь нет пошаговой инструкции. Ценность заключается в логических рассуждениях и понимании причин, по которым структура системы отличается, а не просто в самом факте её отличия.
Что необходимо для инференции причинно-следственных связей
Прежде чем рассматривать, что изменяют агенты, полезно определить, что требует сам метод. Используемая модель — структурная причинно-следственная модель (SCM) Джудеи Перл, ведущий формальный подход к причинно-следственному рассуждению в статистике и машинном обучении. SCM описывает систему с помощью переменных и по одному структурному уравнению на каждую переменную; каждое из этих уравнений указывает, как причины данной переменной определяют её значение. Структура представляется в виде ориентированной ациклической графики (DAG), где узлы обозначают переменные, а ориентированные рёбра — прямые причинно-следственные связи. Граф является ациклическим, поскольку не предполагается, что какая-либо переменная может вызывать себя в рамках соответствующего временного окна.
Основной операцией является оператор do, записываемый как do(X = x). Он представляет собой вмешательство, при котором переменная X принудительно приводится к значению x, отрываясь от своих обычных причин. Калькул do Перл, представляющий собой полный набор правил вывода, затем вычисляет эффект таких вмешательств на основе наблюдательных данных после того, как структура графа становится известна. Именно это придает данной системе её мощность: вопрос «а что, если мы изменим X?» получает ответ без необходимости проведения каких-либо экспериментов.
Развертывание в производственных условиях проходит через пять этапов, каждый из которых на протяжении времени был серьезным узким местом.
Этап 1: выбор переменных
Определение того, какие показатели включить в модель, кажется простым, но на деле таковым не является. В финансовой системе количество потенциально значимых переменных огромно: макроэкономические показатели, финансовая отчетность компаний, регуляторные метрики, оценки ESG, показатели микроструктуры рынка, сигналы настроений и многое другое. Чрезмерное количество переменных приводит к появлению ложных связей и делает граф неразличимым. Недостаточное количество же приводит к упущению важных факторов, влияющих на результаты, и искажает оценки эффектов.
Традиционным решением является проведение семинара с участием экспертов — актуариев, специалистов по управлению рисками и менеджеров портфелей, которые обсуждают, какие переменные имеют значение и почему. Этот подход ценен, но он медленный, дорогой и зависит от участников. Показатель, очевидный для одного эксперта, может вообще не прийти в голову другому.
Агенты влияют на то, насколько обширным может быть первоначальный анализ. Они могут изучить большой объём материалов по конкретной области — таких как научные статьи, регуляторные рекомендации и отчёты отрасли — и предложить кандидатов в переменные с соответствующими цитатами. Они могут выделить переменные, которые в литературе постоянно называются факторами, влияющими на результат, отметить те, что обычно считаются смешивающими факторами, а также включить знания, которыми не обладали другие участники. Эксперт сначала составляет список, затем рассматривает и уточняет полученные предложения, что делается быстрее и меньше зависит от знаний одного конкретного человека.
Существует одно важное ограничение: агенты могут только предлагать варианты, но не проверять их корректность, поэтому эксперты в данной области, понимающие специфику бизнеса, должны утвердить окончательный набор переменных. Ознакомление со всей литературой по ESG и показателям эффективности ничего не говорит модели о том, какие переменные присутствуют в инфраструктуре данных компании или какие из них будет принять команда по соблюдению нормативов при подаче отчётов.
Этап 2: определение причинно-следственной структуры
Затем необходимо определить причинно-следственную структуру: какие переменные вызывают какие другие и в каком направлении. Это самый сложный этап, который исторически сопровождался наибольшими затратами. Существуют две основные группы методов. Алгоритмы, основанные на ограничениях, такие как алгоритм PC, разработанный Спиртесом, Глимуром и Шайнсом, выводят структуру на основе тестов условной независимости данных. Методы, основанные на оценках, ищут наиболее подходящие графы согласно критерию соответствия. У каждого из этих подходов есть хорошо известные ограничения. Подходы, основанные на ограничениях, чувствительны к предположению о верности данных и к размеру выборки, в то время как поиск с использованием оценок представляет собой комбинаторную задачу, которая становится решаемой только в ограниченных случаях при увеличении количества переменных. Ни один из этих подходов не позволяет получить единственный граф на основе наблюдаемых данных. Лучшим достижимым результатом является класс эквивалентности Маркова, то есть графы, которые статистика не может различить.
Таким образом, автоматизированное обнаружение может сузить круг возможных графов, но не может определить окончательную структуру без информации из конкретной области. Направление рёбер, которое часто является самым важным свойством, зачастую невозможно восстановить только на основе данных, и его необходимо определить с помощью эксперта.
Что меняют агенты, так это скорость итераций. Можно запустить несколько алгоритмов обнаружения, сравнить их результаты, отметить рёбра, по поводу которых методы расходятся, и передать эксперту структурированный список вариантов: рёбра, по которым все методы согласны, спорные рёбра, а также рёбра, которые подтверждаются данными, но противоречат определённым знаниям из конкретной области. Эксперт больше не запускает алгоритмы и не читает сырые результаты, а вместо этого делает чётко сформулированные запросы. Количество принимаемых решений остаётся прежним, но каждое из них стоит меньше усилий.
Опасный способ восприятия — это когда агент предлагает единственную «лучшую» структуру графа и скрывает неопределенность. Данные не позволяют однозначно определить причинно-следственные связи, поэтому любая система, представляющая ту или иную структуру как факт, а не как гипотезу, искажает эпистемологический аспект проблемы.
Этап 3: проверка графа
Причинно-следственный граф представляет собой совокупность предположений. Каждая ребро указывает на то, что одна переменная напрямую влияет на другую. Каждое отсутствующее ребро означает, что две переменные не связаны напрямую при учете всех остальных элементов графа. Эти утверждения могут быть неверными, и последствия ошибки могут быть серьезными.
Проверка корректности обычно включает анализ структуры графа с точки зрения экспертов, чтобы определить, имеет ли он смысл, а также статистическое тестирование того, соблюдаются ли в данных условия условной независимости, предполагаемые графом. Второй подход основан на принципе d-разделения: граф указывает на то, что определённые пары переменных являются условно независимыми при наличии других переменных, и эти связи можно проверить.
Анализ чувствительности ставит связанный вопрос: насколько меняются оценки эффектов, если граф изменяется путём добавления ребра, изменения направления или введения неизмеренного фактора, влияющего на результаты? Это важно, поскольку граф всегда является приближением к реальности, и необходимо знать, какие выводы остаются валидными при этом приближении, а какие являются хрупкими.
Ранее на этом этапе требовался специалист-статистик для проведения тестов, анализа результатов и преобразования их в графические представления — медленный итеративный процесс. Агенты автоматизируют выполнение набора тестов. Они могут применить все возможные тесты на условную независимость, отметить нарушения, определить, какие рёбра связаны с каждым нарушением, и сгенерировать структурированный отчёт. Кроме того, они могут проводить анализы чувствительности путём изменения весов рёбер, добавления гипотетических факторов, влияющих на результаты, и проверки стабильности оценок, после чего обобщать полученные данные. Статистик переходит от выполнения тестов к интерпретации структурированного диагностического отчёта.
Этап 4: интервенционные запросы
Именно здесь проявляет свою ценность каузальная модель. Интервенционный запрос предназначен для определения ожидаемого значения исхода Y при установке переменной X в значение x, что в нотации Перла записывается следующим образом:
Это отличается от условного ожидания, которое оценивается в стандартной регрессии:
Расчёт интервенционных запросов подразумевает применение докалькуляса — трёх правил, преобразующих выражения с оператором do в такие, которые можно вычислить на основе наблюдаемого распределения с учётом графа. Для простых графов это делается напрямую. Однако при наличии множества переменных, нескольких целей интервенции и структуры временных рядов это может потребовать сложных алгебраических операций.
Рассмотрим бизнес-вопрос вроде «Что произойдёт с нашим коэффициентом убытков, если мы изменим структуру ценообразования?» До появления агентов кто-то должен был преобразовать его в формальный интервенционный запрос и вычислить его с помощью модели, и только специалист, знающий как бизнес, так и математику, мог с этим справиться. Именно эта стоимость преобразования является основной причиной того, что каузальный вывод оставался в рамках университетов.
Агенты изменяют уровень перевода. Можно взять обычный деловой вопрос, определить связанные с ним переменные, написать соответствующее выражение do, применить декалкул do, чтобы получить что-то оценяемое, и вернуть результат с простым объяснением. Эксперту в данной области не обязательно знать декалкул do — ему достаточно определить, был ли вопрос правильно переведен, что является гораздо более низким стандартом.
Возможная проблема: агент, уверенно отвечающий на неверный вопрос. Формулировки в деловой сфере часто могут трактоваться как условные или интервенционные. Вопрос «Что происходит с нашим коэффициентом убытков, когда показатели ESG высоки?» может означать то, что происходит в случаях, когда показатели действительно высоки (условный сценарий), или то, что произойдет, если показатели будут искусственно повышены (интервенционный сценарий). Это приводит к разным ответам, поэтому агент, который не выявляет неоднозначность и не позволяет пользователю сделать выбор, представляет собой риск.
Этап 5: трек аудита
В регулируемых отраслях результат анализа — это не просто ответ. Это ответ вместе с полной цепочкой рассуждений, лежащих в его основе, причем каждое предположение моделирования, каждая трансформация данных и каждый аналитический выбор должны быть задокументированы и иметь обоснование.
Каузальные модели повышают стандарты. Полная запись включает шесть аспектов: почему была выбрана та или иная переменная, как строится граф и что подтверждает каждую ребро, какие тесты проверки были выполнены и каковы их результаты, какие именно интервенционные запросы были выполнены и какие бизнес-решения были приняты на основе каждого из них. Ручная запись такой информации часто приводит к пробелам и несоответствиям, и это обычно происходит уже после завершения работы.
При использовании агентов ведение записей может происходить автоматически по мере возникновения событий. Каждое действие — будь то поиск в литературе, запуск алгоритма, изменение графа или запрос — фиксируется с указанием временной метки, входных данных, выходных данных и логики принятия решений. Документация становится побочным продуктом процесса, а не отдельной задачей. Для подачи заявки в регулирующие органы или внутренней аудиторской проверки это не незначительное удобство; это позволяет отличить анализ, который можно обосновать, от того, который невозможно воссоздать.
Чего не могут сделать агенты
Эти ограничения следует четко описать.
- Они не могут вывести структуру причинно-следственных связей исключительно на основе данных. Направление рёбер в графе часто не определяется полностью на основе наблюдаемых данных, и увеличение вычислительных мощностей этого не меняет. В такой архитектуре большое значение имеет экспертиза в данной области.
Почему это всё ещё важно
Аргумент в пользу такой архитектуры заключается не в том, что выводы о причинно-следственных связях становятся простыми. Это не так. Аргумент в том, что такой подход становится жизнеспособным, поскольку снижаются барьеры в виде затрат, которые на протяжении тридцати лет мешали использованию строгих, хорошо отработанных методологий в практике.
Сама методология не нова, но инфраструктура — да. Организации, сочетающие их, при которых агенты обрабатывают процессные аспекты, а эксперты в данной области принимают решения, создают что-то, с чем не может сравниться ИИ, основанный на корреляциях: строгую, поддающуюся аудиту и проверке модель систем, которыми они управляют. В регулируемых отраслях это имеет смысл, и сейчас появилась возможность создать такие модели в первую очередь.
Связанные материалы
- Традиционный ИИ, генеративный ИИ и агентный ИИ: в чём разница — Прогнозирование, создание, действие: простой для понимания сравнение традиционного, генеративного и агентного ИИ с примерами использования в области поддержки, науки о данных и найма, а также с указанием ситуаций, когда следует применять каждый тип ИИ.
- Практические заметки: Qwen 3.8 наконец выпущен, агентное программирование уровня Opus с локальным выполнением — Подробное руководство по использованию Практических заметок: Qwen 3.8 наконец выпущен, агентное программирование уровня Opus с локальным выполнением: шаблоны контрактов, проверки и готовые фрагменты кода для команд, внедряющих эту технологию.