Прычынны вывад у прадакшне: пяць этапаў і дзе дапамагаюць AI-агенты
Як разгортваць структурныя прычынныя мадэлі Перла ў рэгуляваных галінах: пяць этапаў, што агенты паскараюць, дзе яны памыляюцца і чаму эксперты застаюцца ў цыкле.
Крыніцы: How Agentic AI Finally Makes Causal Inference Deployable
Інферэнція прычын-наследкав працавала строга ўсё час і рэдка была выкарыстоўвана. Аргумент тут спецыфічны: штучны інтэлект у форме агентаў упершыню робіць яе прыемной для вікорыстання у масштабах падпрыемства. эта тэхнічная тэза, таму яна розглядаецца з тэхнічной точкі зору, што значыць неабходнае працаванне з пяцьма стадыямі стварэння каузальнай мадэлі для практычнага вікорыстання, аналіз прычын, чаму кожная з гэтых этапаў была перакосам да часу появы здатных агентоў штучнага інтэлекту, а таксама чытальнае апісанне тых змян, якія вырабляюцца, калі агенты прыўлікаюцца да працэсу. Іхнія спосабы неудач таксама атрымоўваюць адпаведную увагу, адтолькі слабасі гэтай архітэктуры маюць такое ж значэнне, як і яе сілы.
Гэта не інструкцыя, і няма пасляпасовага алгорытму. Ценнасць крыўціцца ў логіцы разумовых працоў і ў розумеўцы прычын, чаму настройкі разлічаюцца, а не проста ў тым, што яны разлічаюцца.
Што патрэбна для інферэнціі прычын-наследкав
Перш чым розглядаць, калікі параметры зміняюць агенты, корыстна ўточніць, калікі вімагае сам метод. Выкарыстоўваная структура — гэта Структурная прычынна-наследковая мадэль (SCM) Джуды Перл, якая ўважаецца лідарным формальным падходам да прычынна-наследковага аналізу ў статыстыцы і машыннам навчанні. SCM опісвае сістэму за дапамогою змэнных і адной структурнай рэвалюцыі на кожную змэнную, пры чым кожная з іх паказвае, як прычыны данай змэнной вплываюць на ёе значэнне. Структура прадстаўляецца як Усмераваныя ацыклічныя графы (DAG), у якіх вузлы апавядаюць пра змэнныя, а усмераваныя рэшткі — пра прымыткі прычынна-наследковых звязкаў. Яна ўважаецца ацыклічной, таму што не прыпускаецца, што якая-небудзь змэнная можа вплываць на сябе самую ў вялікім часовым прыметку.
Основным элементам ўраджання ёсць аператар do, які пісаецца як do(X = x). Ён выражае втручанне, пад час якога зменная X прымуе значэнне x, адсоедзіваючы яе ад своіх звычайных прычын. Калкул do Пэрл, які ўскладнены з комплекту правіл адгукнення, пасля таго вырахоўвае адрас эфекта такіх втручанняў на аднойчы знаных дадзенах спазірвання. Гэта і дае ўраджанню яго сілу: на запытанне «што, як мы змянімо X?» можна атрымаць адпаведзь без адкрыцьця жадных эксперыментаў.
Развертванне ўраджання адбываецца за пяць стадзій, і кожная з іх історычна была серьёзным вузкам местам.
Стадзія 1: выбір зменных
Адзінакавленне ў тым, каліякія паказнікі будуць уключаныя ў модэль, здаецца простым, але на самай працэ ён такім не ўсега. У фінансовай сістэме колькасць можлівых значымых змянных вельмі вяліка: макрэканамічныя паказнікі, фінансавая сітуацыя компаній, норматыўныя показатары, рэйтынгі ESG, паказнікі мікраструктуры рынку, сігналы настрою і іншыя. Занадта многія змянныя ствараюць неправдападобныя зв’язкі і робяць граф абсолютна нерозбірным. Занадта малая колькасць змянных прыводзіць да прыховвання важлівых фактораў, якія вплываюць на рынак, і спакшваець адліквідацыю рэальных эфектаў.
Традыцыйны спосаб — групавая праця экспертаў, у якой актуары, спецыялісты з рызыкаў і менеджэры портфеляў обгавароўваюць, каліякія змянныя маюць значэнне і чаму. Гэта цінна, але працэс ўсё ж медленны, дорогі і залежыць ад таго, хто берае удзел. Змянная, якая ўсведамлена аднаму эксперту, можа зовсім не спадзяцца іншаму.
Тое, што зменяюць такі агенты, — гэта шырыню першага аналізу. Яны можу обработаць вялікі об’ём матэрыялу з паводзярэйнай сферы, такога як акадэмічныя працы, норматыўныя рэкамендацыі і аналітычныя звярненні, і запропанаваць кандыдатавакія зменныя з цітатамі. Яны можу выявіць зменныя, якія ў літэратурэ завжды называюць факторамі, якія вплываюць на рэзультат, пазначыць тыя, якія зазвычай вважаюцца факторамі парадоксу, і прынесці інформацыю, якой не мелі ніхто з учаснікаў. Эксперт пераходзіць ад складання спісу да перагляду і адчысцення доследжанага працэўніка, што яе робіць быстрэй і менш залежыць ад знанняў адзінаго чалавека.
Ёсць адна важлівая мерыябудова. Агенты можу толькі запропанаваць, але не параболіць, таму эксперты з паводзярэйнай сферы, якія розумеюць бізнес, должны затвердзіць фінальны набор. Чытанне всей літэратуры пра ESG і эфектывнасць нічога не паведамляе модэлю пра тое, якія зменныя ў вашай інфраструктурэ дадзеных, чыія зменныя ваша команда з дапамогі ў супакоранні будзе прыняць у норматыўным даследжэнні.
Этап 2: адактуванне структуры прычыны-наследку
Потым неабяжна адактуваць структуру прычыны-наследку: якія зменныя вызвалі якія, і якім кірунку. Гэта самы сложны этап і, за історыяй, самы дорогі. Існуе два большыя класы методаў. Алгорытмы, заснованыя на абмежэннях, такія як алгорытм PC ад Spirtes, Glymour і Scheines, выводзяць структуру на аднойчынку тэстаў умовнай незалежнасці на дадзеннях. Методы, заснованыя на рэйтынгу, шукаюць кандыдатскія графы, якія наілепша падходзяць па крэтэрыю якосці падходжання. Кожны з іх мае вядомыя меры. Падходы, заснованыя на абмежэннях, чулкавыя да прыпуску аб правадзімасці і розмеру выборкі, тады як пошук, заснованы на рэйтынгу, ўскладнены комбінатарным прыемам, які стае неразрэшальным, калі колькасць зменных зростае. Жадны з іх не дае аднаго ўнікальнага графа на аднойчынку спазірных дадзенняў. Найлепшы можлівы рэзультат — клас эквівалентнасці Маркова, тыябо графы, якія статыстыка не можа адзін ад другога адразніць.
Такі автаматызаваныя методы адкрыцця можа скармалёваць можлівыя структуры, але не можа вылучыць апошню структуру без інфармацыі з конкрэтнай галіны. Напрамацце рэгуляў, якая часта ёсць найважлівейшай характэрыстыкай, часта не можа быць выявлена толькі на адной падставе дадзеных і павінна надацца эксперту.
Тое, што зміняюць агенты, — гэта швальц адыходжэння. Можна запусціць калькуляры адкрыцця, параболіць іх рэзультаты, пазначыць рэгуляў, па якім методы не пагоджуюцца, і перэдаць эксперту структураваныя спісы варыянтав: рэгуляў, па якім усі методы пагоджуюцца, рэгуляў, якія ў вызначэнні, і рэгуляў, якія падтрымваюцца дадзенымі, але суперасункуюцца з конкрэтнымі знаннямі галіны. Эксперт больш не запускае калькуляры і не чытае неапранутыя рэзультаты, а замест таго выдваіць чытка сформульаваныя запіты. Колькасць рашэнняў застаецца незменнай, а кожна з іх коштае менш.
Небяспечным спосабам аналізу ёсць тыя, які прысвячаюць увагу адзінам „найкрашчым“ графам і скрываюць неяснасці. Даныя не візначаюць каузальныя графы адносна ўнікальна, таму будзь-якая сістэма, якая прыставляе певную структуру як факт, а не як гіпотэзу, неправальна адбывае епістэміку проблемы.
Этап 3: параболка графа
Каузальны граф — гэта сукупнасць прыпускаў. Кожная рэшка стварае прыпуск пра тое, што адна зменная безпосерэдзя вялічыць іншую. Кожная відсутняя рэшка стварае прыпуск пра тое, што две зменныя не з’яўляюцца у безпосерэдніх зв’язках, калі ўсе іншае ў графе ужо узятае ў расчыт. Гэтыя прыпускі могу быць некарэктныя, а цена памылкі можа быць вялікая.
Адміністрацыя зазвычай спаўнаеся з перагляду домэны, калі спытваюцца эксперты, чы рэшэння, якія дае граф, маюць сэнс, і з статыстычнымі тэстамі, якія пераканальваюць, чы у дадзэннях справдзяюцца умовныя незалежнасці, якія прымуткавае граф. Другі падход апыягаецца прынцыпам d-розліку: граф парадкавае, што певныя пары зменных ёсць умовна незалежнымі за адзінаковых іншых, і гэтыя прымуткі можна пераканаць.
Аналіз чутлівасці ставі супаўнае пытанне: на сколькі змінююцца оцэнкі эфектаў, калі граф змяніцца за счэт дадагаўцы рэшткі, змены напрамку аб адналажэння незмеранага фактора, які паўтарае вплыв? Гэта мае значэнне, таму што граф завжды ўявляе рэальнасць у апрыксімацыі, і трэба ведаць, якія выводы застаюцца стойкімі пасля гэтай апрыксімацыі, а якія ёсць кранкімі.
Раней на этым этапе быў неабходны спецыяліст-статыстык, які б адрабатваў тэсты, чытаў рэзультаты і ператвараў іх у графічныя візуалізацыі — гэта быў медленны, ітэратыўны працэс. Агенты автаматызуюць цэй вялікі комплекс тэстаў. Можна адрабатваць усі тэсты на умовную незалежнасць, пазначаць наявныя нарушэння, выявляць, якія рэшткі графа ўплываюць на кожнае нарушэння, і ствараць структураваны атлас. Таксама можна адрабатваць аналізы чутлівасці, змінюючы вагі рэштак, дадаючы гіпотэтычныя факторы парадоксу і пераканальваючыся, насколькі стабільныя ўзлёты, а пасля падсумаваць атрыбуты. Статыстык пераходзіць з адрабаткі тэстаў да інтэрпрэтавання структураванага дыягнастычнага атласа.
Этап 4: інтэрвенцыйныя запыты
Сюды і прыносіць практычную паўэрку каузальнага модэлю. Інтэрвенцыйны запыт запрашвае ачакваную значэнню наследку Y, калі зменная X задана значэннем x, што у пазначэнні Перла пішацца так:
Гэта не адаптаваецца да умовнай адзёчкі, якую вырачоўвае стандартная рэгрэсія:
Расчытанне інтэрвэнцыйных запытанняў значыць застосоўванне калкулусу do — трохоў правілаў, якія перапісваюць выразы, ў якіх ўжоўцяўся оператор do, у такія, якія можна вырачыць на адзе ад спостэрагальнага распаду, з урахоўваннем графа. Для простых графаў гэта працюе прымітна. Калі ж існуе многа змянных, калькі інтэрвэнцыйных цэлей і структура часовых серый, гэта можа захадзіць сложную алгебру.
Разглядзім бізнесовае запытанне на кшталт: «Што будзе з нашым калярэкцыяйным паказнікам, якшо мы змянім структуру цэнаў?» Аднако да появы агентаў хтось трэба было перакануць яго ў формальнае інтэрвэнцыйнае запытанне і вырачыць яго на адзе ад модэлю, і толькі спецыяліст, які ведаў і бізнес, і матэматыку, могаў гэта зрабіць. Гэтыя затраты на перакануць являюцца галоўной прычыной таго, чаму каузальныя выводы застаўся ў межах універсітэтаў.
Агенты зменяюць шар перакладу. Можна взяць простае бізнес-запітанне, выявіць усі неабяцковыя элементы, напісаць відпаведную do-выразу, застосаваць do-калкул, каб дася ўзяць якісь оценкі, і вернуць рэзультат разам з простым поясненнем. Эксперту ў галузі не трэба ведаць do-калкул, яму проста трэба ацэніць, чыі запітанне было правільна перакладзена, што ёсць значна простыяя вімога.
Форма абэрэнціі: агент, які з упэўненасцю адпавядае на неправільна запітанне. Фразы, вжываныя ў бізнесе, часта можна тлумачыць як у умовнай, так і ў інтэрвенцыйнай форме. Запітанне «Што будзе з нашым коефіцыентам збытка, калі рэйтынгі ESG будуць высокімі?» можа означаць тое, што відбываецца, калі рэйтынгі справды высокія (умовная тлумачэнне), або тое, што будзе, калі рэйтынгі будуць прымусова падняты (інтэрвенцыйная тлумачэнне). Гэтыя тлумачэнні даюць разныя адпаведзі, таму агент, які не паказвае гэтую неодназначнасць і не дазваляе корыстніку самаму выбраць, ёсць джэрэлам рызыку.
Этап 5: летап аўдыту
У рэгулююцыхся галузях рэзультат аналізу — гэта не проста ўтварэнне. Гэта ўтварэнне разам з усім ланцугам аргументацыі, якая яго падтрымляе, прычым кожная з гіпотэз мадэлявання, ператворэнне дадзейнаў і аналітычны выбар должны быць задокументаваныя і магчымая для абяснення.
Каузальныя мадэлі паднімаюць стандарты. Полны летап павінен абарачваць шасць аспектаў: чаму была выбрана кожная зменная, як складзіцца граф і што падтрымляе кожную рэшотку, якія тэсты на перакананне былі адбыты і якія ў яных былі рэзультаты, адночасова якія запыткі былі выкананы і якія бізнес-рашэнні былі заснованы на кожным з іх. Ручная рэўізія такіх дакументаў часта залешае прасочыні і нэпасоўнасці, і гэта зазвычай выканана пасля факту.
За дапомогою агентаў логіка працы можа быць автаматычной і фіксавацыя падзеяў вядзецца ў рэальны час. Кожная дзеянне — будзь то пошук у літаратурэ, запуск алгорытму, змяна графа чы запіт — фіксуецца з пазначэннем часу, вхіднымі і выхіднымі данымі, а таксама аргументацыяй. Дакументацыя стае падпродуктом працэсу, а не окрэмым заваднікам. Для подання дакументаў рэгуляторным органам чы внутрашняй аўдыт усё гэта не ўсё такі вялікі канэкс. Гэта дазволяе адзеліць аналіз, які можна захістыць, ад таго, які нельга восстановіць.
Чаго не можуць рабіць агенты
Меры ўскладненняў трэба чытна адзначыць.
- Яны не можуць вывесты калязныя структуры толькі на адной падставе даных. Напрамоўка рэшэткі часта не візначаецца чыста на адной падставе абсервacyjных даных, і больш вычыслювальных моцаў гэта не змяніць. У такім дзялеўніку рэальны значэнь надае экспертыза ў данай галіне.
Чаму гэта яшчэ мае значэнне
Аргумент на падзець гэтай архітэктуры не ў тым, што аналіз прычын-наследкав ператвараецца ў просты. Ён такім не стае. Аргумент у тым, што такой падход стае рэалізаваным, адколі бар’еры з боку віткоў, якія прымусілі строгую, добра апрацаваную методалогію застацца пахаванай прыблізна трыдцаць гадоў, зменшуюцца.
Сама методалогія не ў новасці, а інфраструктура — так. Арганізацыі, якія спаўнаюць гэтыя два элементы, калі агенты керуюць працэсамі, а эксперты ў данай галіні выдаюць рашэнні, ствараюць тое, чаго не можа досягнуць ІІ на адной падставе кораляцыі: строгі, практычна перапрацоўваны, эфектыўны з точкі зору втручання модэль сістэм, якімі яны керуюць. У рэгулююцыяных галузях гэта мае сэнс, і зараз ёсць можласць першымі такі модэлі стварыць.