AI-архітэктура для прадакшн-агентаў: сцэнарыі збояў і ўзроўні кантролю

Чаму застаюцца пратэтыпы

Сістэмы AI для працы ў прадакшэне рэдка калі зламваюцца праз слабыя мадэлі. Яны зламваюцца таму, што архітэктура, якая іх падтрымлеў, ніколі не прыйняла недэтэрмінізм як абмежэння пад час праектавання. Тры протыярыстыя факторы вплываюць на практычна ўсе рашэнні: можлівасці проты кантролю, затрымкі проты точнасці, а таксама автономнае функцыянаванне проты можлівасці аўдыту.

Хорашыя архітэктары спачатку запытаюцца «чаму», а ўжо пасля — «што». Без філасофіі праектавання спіс компонентаў ёст маўчыма спіскам задач. З яе наявнасцю ён стае канструкцыяй, якая таксама включае рашэнні ў справах, з якімі ніхто ўсё шчэ не стаўкаўся.

Гэта філасофія перакручвае звычную падзейку. Традыцыйная архітэктура выклікае, каб компаненты выпалоўвалі ровна тое, што працавае ў ўказаных іх спэкыфікацый, чыяму архітэктар стае задачай планавання траекторыі, масштабавання і стойкасці да бядаў. У гэтым случае сам компанент ёсць прычыной неяснасці, таму апошнія сістэма павінна ўсасваляць, мерыць і обмежваць яе на кожным роўні.

Як насправды гінуць сістэмы AI

Большасць неудач у практычнай експлуатацыі выходзяць з таго, што верагатлівасловную сістэму спрыяюць як дэтэрміністычны API. Характарыстыка спосабоў, якімі ён можа паспяліць, прыводзіцца ніжэй.

Галюцынацыі як проблема адзысквання інфармацыі

Людзі частаўна атрыбутуюць галюцынаціі падысквелам качэння модэлі. З точкі зору архітэктуры гэта ўсуненне прычыны, памылка у кантролі вікна кантэксту або неудача ў калібраванні рэверынгу довяры. Калі папросіць модэль аналізаваць 200-сторонні документ, куды пасвячаецца толькі 4 000 токэнаў, яна не можа зразумець, што ёй бракуе, таму выдумвае рэштку. Рашэнне крыўціцца ў самай сістэме: тачны рэверынг, ліміт для кантэксту і чыткае паказанне нявярымасці праз запросы сістэмы і схему выходных даных.

Тры відменнасці драйву

Команды часта об’еднуюць разом тры рызні аспекты. Дрэйф мадэлі вінікае, колі постачальнік оновлюе базову мадэль, і іі поведынка змінюецца, навіць калі з вашого боку нічого не встановлювалося. Дрэйф даных вінікае, колі змінююцца вхідні даныя – напрыклад, колі співробітнік підтрымкі, які ранішэ ефектывно вірышував запіты, пов’язані з продуктамі до 2024 року, почынае маты трудношчы з новімі запітаннямі. Дрэйф знань вінікае, колі світ розвіваецца, а тыя, чого навчылася мадэль, стае застарылім. Кожэн з цых віпадків вімагае свого способу віявлення і усунення.

Помілкі, які перэтынаюць межы агентаў

Сістэмы з калькольнікамі ствараюць ўжо болей сложную проблему. Калькольнік А дае адносна некарэктны рэзультат, калькольнік Б спрыяе яго як факту, а калькольнік В выкарыстоўвае гэты некарэктны расчынак для выканання невярнага дзеяння. Калі адкрываецца памылка, знайсці ў чым яна выйшла стае практычна немагчымым. Дапамагаюць тры захоўнікі: калькольнікі адмэняюцься памерамі довяры, перадача даных, калі яна ніжэй за паказаную грань, актывае захоўнік, а кожны калькольнік запісвае свою дзейнароўку толькі для дадаўання новых даных.

Забрудненне кантэксту

Дзяўныя розмовы і велікія колькасці історыі вызываў заполняюць вікно кантэксту матэрыялам, які пагаршае працэс выканання задач. Увага распадзяляецца між вельмі большым колам інформацыі, а ключавыя інструкцыі прасуваюцца да серэдзіны, дзе увага ўсё слабей. Архітэктары патрабуюць цялеспрамованаг цыклу жыццёвага ціклу кантэксту: механізмы для стварэння апускання, стратэгіі для складзення інформацыі, а таксама чыстаг разліку межы рабочай памяці і дальнэйшай памяці.

Ціклы павтарэння

Агенты, якія располагаюць інструментамі, можу падаць у стан паталагічных павтарэнняў. Пошук вярта неодназначныя рэзультаты, агент перапісвае запіт, новы запіт таксама застаецца неодназначным, і цыкл продовжваецца пакуль не будзе выкарана вся інформацыя або не будзе дасканалена ліміт частоты. Як толькі шар керавання не будзе мяць функцыю выклікання адчування цыклу, ліміты на колька крокаў і умовы завершэння, сістэмы з агентамі рэгулярна вітрачаюць токены, час і грошы на падзаданні, якія нельга ўрадзіць.

Введэнне праз зовнішній кантэнт

Агент, які чытае электронныя пісьмы, обрабоцвае дакументы або пераглядае Інтэрнэт, можа зустрэць кантэнт, які несе ворагоўскія інструкцыі, мэтай якіх ёго захапіць. Гэта не пытанне безпекі мадэлі. Гэта класычны атака ін’екцыі на межы межу між доверлівымі і недоверлівымі дадзеннямі. Захопнікі ўжоўсткія: выкананне ў «песочнай яме», строгая разліка межу плошчынай інструкцый і плошчынай дадзенняў, а таксама перакананне выходных дадзенняў па адмежаванай схеме пры выкананні будзь-якіх дальнейшых дзеянняў.

Няма стацыонарной ацэнкі

Найпашыльнейшая прычына таго, чаму сістэмы паступова выключваюцца, — гэта абсенцыя слоя стацыонарной ацэнкі. Команда выпускае мадэль, святкуе дэманстрацыю, а потым ставіцца да яе як да статычнага API. Кожны апдэйт прадаўцы, кожная змяна схемы ў корпусе RAG і кожны змена аўдытарыю выкаліканых корыстуначоў можа зламаць ўсё, і без ацэнкі першы сігнал — гэта працоўка корыстунача.

Платформа як скупчэнне

Платформа AI для падчорганоў не ёсць моналітам. Гэта кластэр сістэм, кожная з якіх мае своія завадзібы, умовы інтэрацыі і спосабы выключэння. Праектаванне павінна охватваць весь цыкл жыцця запіта (прыйманне, складанне кантэксту, запуск мадэлі, выканання інструментаў, перакананне адпаведнасці рэспонсу, можлівасць абзярнага стэруджэння) пры тым, калі прыймаецца, што будзь-які слой можа выключыцца.

Адзысканне — гэта канал

Працэс генеравання з адаптаваннем на базе выкарыстоўвання дадзеных ёсць болей сложным, чым можа здавацца з назвы. Сістэма для практычнага выкарыстоўвання — гэта не проста вставкі дакументаў, запытанні да вектароў і прыкладзенне кантэксту. Гэта канвейер з прынеймна пяцью стадзіямі, кожная з якіх можа выйсці з ладу: прыём і разбіўка на часткі, выбор модэлю для вставкі дадзеных і версіяванне, стварэнне індэксаў і частота ўтрымання ў актуальным стане, ранжыраванне выкарыстоўванням гібрыдных методаў ўжыцоўвання і рэдкага стану, а таксама складанне кантэксту з урахоўваннем праграм рэлевантнасці. Кожная стадзія патрабуе сваёй справы, і змена ў одной можа пагаршыць працу іншых, не прывабіўшы жадной увагі.

Чатыры рэвеню памяці агента

Памяць агента следуе раздзеліць на чатыры рэвеню:

• Рабочая памяць — гэта вікна кантэксту ў межах адной сесіі.
• Эпізодычная памяць зберагае кантракты пакананняў, якія можна выкарыстоўваць у межах той самай сесіі.
• Семантычная памяць — гэта корпаратыўныя знанні, якія ёсць часткаю шара RAG.

Працэзуальная памяць зберагае выучаныя шаблоны вікорыстання інструментаў і гіюрыстыкі для рашэння задач у певной галіне.

Змешанне эйх ступеняў ёсць частым вынікам забруднення кантэксту і нестацыонарнай поведынкі агентаў з сесіі ў сесію.

Сістэмы з калькама агентаў і перадача задач

У невялікіх масштабах адзін агент ўжо рашае задачу. Дызайн сістэм з калькама агентаў ёсць складным напраменнем, дзе проблемы выступаюць у вачынку надтрымкі коордынацыі, адпаведнасці спакушаных станоў, распространення бягаў і падыходжанняях, якія не апісалі бы сабе адзіні агенты.

Самым занедбанным элементам ёсць протакол перадачы, тое значнае правіла ўзаемнай перадачы інформацыі между агентамі. Мінімальны набор пакетаў мячы стан задачы, значэнне доверлівасці, выконаныя крокі для усунення дуплікацый, паказанні на актуальны кантэкст (не весь кантэкст, калі б гэта прывела да перапоўнення памяці) і ўсе обмежэнні, якія з’яўляюцца па дарозе. Без стандартызаванага шэмы агенты перадаюць інформацыю у вольнай форме наявной мовы, і прымушчальнік вынужданы зноў аналізаваць ўмесце, што являецца галоўным джэрэлам адхылэнняў і паўтарных канфузій.

Команды таксама должны выявіць, як агенты дзелююцца мемарыяй. Зберагчы мемарыю прыватной для кожнага агента, легча ўсвядомляць і перагледваць яго повадкі, але гэта прыводзіць да дублявання працэса выкарыстоўвання мемарыі і да таго, што стан агентаў можа разніцца. Аднальная дошка падтрымляе коордынацію, але для ўсьго гэтага трэбуе кантролі паралельнай працы, версіявання і логікі анулювання. Рэкамендаваны стандартны варыянт — прыватная мемарыя, пры якой версіяваны, чыста выражаны запускавыя заўданні перадаюць рэзультаты у аднальны хранілнік пасля завершэння задачы.

Рэгламенты — гэта структура

Рэгламенты не ўжо функцыя, якая прыўязваецца да працоўнага AI-сістэмы. Гэта структурная характэрыстыка. Сістэма, якой не хапае шароўдных рэгламентаў, — гэта не проста AI-сістэма без функцый безпекі. Гэта іншы тып сістэмы, якая не паслужыць у корпоратыўнай асяроддзі.

Поступовыя экстрэнныя абставалі

Кожная працоўная сістэма патрэбуе больш, чым проста адна кнопка абставалу. Ій трэба спектр розных рэакцый:

• Абсалютна меры лімітавання сповольнюе працэс, але не зупіняе яго.
• Зніжэнне кантэкстуальных можаўсцей выключае доступ да інструментаў і пераводзіць працэс у рэжым толькі для абтрымування інфармацыі.
• Ручная рутаванне направляе всі запіты да людзкіх агентаў.
• Заканчэнне сесіі чыста завершае актыўныя сесіі агентаў, захоўваючы стан аўдыту.
• Полная зупінка незменна выключае усё і фіксуе стан для фарэнзічнага аналізу.

Кожны з гэтых методаў павінен быць можлівым для тэставання ў рэальных умовах, калі таму што экстрэная зупінка ніколі не тэставалася, яе не можна вважаць такой.

Найбольш важлівае — можласць адворачэння

Большая частка увагі прагне даць безпецы контэнту, але ўжо важлівейшым пытаннем яе ёсць тое, чы можна адкінуць певную дзеянне. Калі агент надась не той электронны ліст, выдаліць рэкорд у базе дадзеных, здась платэж або запусціць інфраструктуру, нічога не можа гэта адмёнуць. Кожны інструмент патрабуе оцэнкі за шкалай адкінуемасці, пры чым рэвень вяроўнайнасці падыходзіць у вышыню, калі адкінуць дзеянне стае сложней: чым больш перманентным ёст мае дзеянне, тым большая павінна быць вяроўнайнасць сістэмы, прычым яна будзе выканана без участку чалавека.

Слой ацэнкі

Багатыя корпаратыўныя праекты на паперы задовольняюць прынцыпы „наяўных стандартаў“, але на практыцы нічога не досягаюць. Квартальныя людзкія перагляды 50 прыкладоў выходных дадзеных — гэта тэатральная форма безпекі, а не рэальная сістэма ацэнкі. Рэальная ж працюе безперыяно, автаматычна і ўзаўсёды з’яеднана з механізмамі назірання за працай сістэмы.

Іспользованне модэлю як судды

Настаўленне другой мадэлі мовы на аналіз выходных даных першай ў настоўчы час являецца найболей масштабаваным спосабам для стацыонарнай пераконтроўкі якосці, і ёна можа ацэніваць выходныя даны з відкрытым фарматам, якіх не можа зробіць метод падбору строк. Аднак у гэтам падходзе таксама ёсць своія проблемы. Суддзі практыкуюць пазіцыйны уперакошэння, фаварызуючы дłuжэйшыя або ранейшыя адпаведзі. У яных таксама ёсць самападабленне — напрыклад, Claude вышэй ацэнівае выходныя даны у стылі Claude. Кроме таго, яны можу спрычыніць каскадную галюцынацыю, прызначаючы выходныя даны за фактычныя, калі гэта не так. Эфектывныя рэалізацыі вікорыстоўваюць адварсарскія наборы тэстаў, рэгулярна калібруюцься за адпаведнамі людскімі оцэнкамі і прыкладзаюць значэнні нявернасці да сабеўласных вердыктаў суддзяў.

Ацэнкі ў рамках працэсу развёртвання

Ацэнка не павінна быць эпазодычным дадзенням. Кожная зміна модэлі, правкі запросаў, абнаўленні корпуса даных і змены схемы інструменту павінны запускаць аўтаматызаваны набор для ацэнкі, а выяўленне рэгрэсій у ключовых показніках павінна перакрыць выпуск продукту. Гэта значыць наявнасць мінімальных прагаў па кожным показніку, якія лягаюць у межы даговору пра адстаўку. Мікросервіс, які не прымусіў сваіх тэстаў на елементарны працу, не выклікаецца, так сама як і AI-сістэма, якая не прымусіла сваіх тэстаў на ацэнку.

Возможнасць спостэрагання, калі прастор стану ўсвободжаны

Спостэраганне за AI-сістэмай адрозніваецца ад спостэрагання за мікросервісам у аднай галоўной пункт: прастор стану не мае меж. Мікросервіс альбо правільна апрацоўвае запіт, альбо нея. Адпаведны AI-адказ знаходзіцца на якомусь месцы на неперывной шкале якосці, і тое, чы рэзультат ўжо хорашы, можа залежаць ад крэатарыў, якія можна вымерыць толькі за дапамогою ўтварэння іншага запіта да модэлі. Гэта выклеквае абсалютна іншы дызайн для можлівасці спостэрагання.

Для кожнага запіту до ШЫ ёсць мінімальній корысній запіс, які включае:

• повній запіт, пасля апрацоўкі за шаблоном і до обрызання
• отрыманій кантэкст разом із яго джэрэламі
• точній тэкст адказы мадэлі, до постобробкі
• розбівку вікорыстання токенів
• час затрымкі на кожному етапі (отрымання даных, праца мадэлі, постобробка)
• оцінкі якосты, калі яны обчыслююцца сінхронно
• кожэн віклік інструменту і яго відповідзь
• сігналі про рывень впевненосты або невізначэнісць, калі мадэль іх вказуе
• псевдонімізовані ідэнтыфікаторы сеансу і корыстувача
• ідэнтыфікаторы версій кожнага елемента: мадэлі, шаблону запіту, індэксу і схемі інструменту

Ідэнтыфікаторы версій маюць найвішчэ значэння. Без ніх прыв’язка рэгрэсіі якосты до конкрэтноі зміні ёсць прыпушчэнням.

Тры сігналі зміні

Адказваець на змяну параметраў значыць адзіночна стазіралаць на тры сігналы. Чаго стосуецца змяны распаду вхідных даных, то пытанне заключаецца у тым, чы розкід прыходзячых запітоў статыстычна разлічаецца ад таго, на чым была настроена сістэма; гэта можа быць выявлена за дапамою відстані ў прасторэ укладання, напрыклад за дапамою косінусовай схожасці з адным з базовых корпусаў, пры чым якось раней за падвышэнням якосці. Чаго стосуецца змяны якосцы выходных даных, то пытанне — чы спадаюць рэйтынгі ацэнкі, для чаго патрэбна стацыонарная ацэнка, а не толькі перыядычныя перагляды. Чаго стосуецца змяны паведання модэлю, то пытанне — чы апробавальнік таямна змяніў модэль; таму для кожнага модэлю павінен рэгламентавана праходзіць тэст на апробованы набор дадзеных, пры чым павінны выдацца апавешчэнняя, калі разлік перасягне заданы порог.

Косць — гэта архітэктура

Кошты — гэта тыя аспекты, якія частаеўш застаюцца без увагі пад час разговораў пра архітэктуру ШЫ, і гэта адна з першых прычын, якія выступаюць перакосам на рэвэлюшнай скалярозе. Сістэма, якая задовольняе всі тэхнічныя трэбаванні, але коштуе 4 долары за кожны запіт, не перазьявіцца пасля першага аптэктывацыйнага адзінака. Следавайце да коштам як да архітэктурнага обмежэння, а не як да паслядзейнага элемента расчытання.

Маршрутызацыя да найдэшавейшага падходжальнага модэлю

Найбольшым факторам ў падтрымцы эконамічнае эфектыўнасці ёсць інтэлектуальная маршрутызацыя модэляў, якая направляе кожны запіт да найдэшавейшага модэлю, які ўсё ж задовольняе стандарты якосці. Для гэтага трэбуецца функцыя маршрутызацыі, якая класіфікуе сложнасць (просты пошук фактов, багатаэтапныя маневры аб генераванне коду), прыкладзе кожную класу да певнага рангу модэлю і забезпечыць альтэрнатыўу, калі маршрутызацыя не выйдзе. Сам маршрутаўчык можа быць невялікім, швыракім класіфікаторам, а яго кошты зазвычай вяртаюцца пасля таго, як запіт успешна будзе направлены да дэшавейшага рангу.

Семантычны кэшаванне

Звычныя методы кэшавання парадоксальная способнае працаваць з прыкладнамі на адміністрацыю большых мов, адколькі запыткі з аднаковым значэннем рэдка калі падходзяць адно да аднаго як строкі. Семантычныя методы кэшавання індэксуюць адпаведныя адказы па ступеню ўзаемнай блізосці ў прасторэ эмбедынга, а не па точным тэксту, даскладваючы рэшты знаходжэння адказа на рэвэрсе 30-60 процэнтав у сітуаціях з вялікім об’ёмам заданняў, пры чым застаюцца непазначальнымі для слоя прыкладнага програмнага забезпечэння. Для іх функцыянальнасці неабходны быстрыя апрыксамаваныя індэксы найбліжэйшых суседаў, праграма па выявлэнню прагрэсу схожасці, па якім пад час перасягнуць яго значэння прымуецца рашэнне пра няверненне адказа, а таксама правілы TTL, якія ўзгоджваюцца з швальнасцю старэння інформацыі.

Бюджэты токэнаў

У працэйнай суперактыўнасці адпаведна 60-80 процэнтам расходу токенаў зазвычай выклікаецца сістэмнымі запросамі, схемамі інструментаў і атрыбутамі кантэксту, якія былі запрашаны, а не паведамленнямі корыстувальнікаў чы рэспансамі мадэлі. Таму калектываванне бюджэту трэба адбываць на стадыі стварэння: дынамічна скорачаць сістэмныя запросы так, каб уключаліся толькі тыя часткі, якія стосуюцца тыпу запіту; завантажаць схемы інструментаў толькі тады, калі цэльнае планаванне гэта патрэбуе; а таксавацыя вікна кантэксту так, каб часткі з высокай значымасцю застаўаліся ў главным кантэксце, а тыя з нізкаю значымасцю паказваліся як стыснутыя апісанні.

Нулявая доверлівасць для агентаў

Канцэпцыя нулявай доверлівасці была створана для людзкіх корыстувальнікаў і статычных сервісаў. Яе прыменэнне да агентаў значыць пашырэнне гэтай канцэпцыі, каб яна павярнулася на дынамічныя наборы можаў, разную ступень доверлівасці і можнасць дзеяння за корыстувальнікаў без явнага затверджэння для кожнай дзеянні.

Ідэнтыфікацыя кожнага агента

Кожны агент у працэсе вырабаткі трэбуе сабе ўласную крыптаграфічную ідэнтычнасць, якая не падобнаяся ні ідэнтычнасці корыстувальніка, для якога ён працюе, ні ідэнтычнасцям іншых агентоў. Крэдытныя даныя павінны быць прыязначаныя для конкрэтнай сесіі і выгасаць, калі яна завершыцца. Яны таксама павінны быць обмежаныя па можлівасцях, тады крэдытныя даныя маюць кодаваць тое, што агент можа робіць, а не толькі тое, каму ён належыць. Кроме таго, кожна выдача і анулювання крэдытных даных павінны быць зафіксаваныя без можлівасці змены. Гэта дазволяе летак аўдыту адпаведзаць на пытанне, які агент, пад якімі крэдытнымі данымі, здзейсніў якія дзеянні для якога корыстувальніка і калі, — пытанне, якое стае важлівым пад час расследавання інцыдэтаў.

Разлучыце інструкціі з дадзеннямі

Найважнейшым элементам абярання безпекі в агентных AI ёсць раздзелэнне інструкцыяў і дадзеных на аднальныя рэвэры. Недазверлівыя джэрэлы ніколі не павінны заражаць запыткі сістэмы. Конкрэтна, зовнішнія дадзеныя праходзяць праз слой санітаравання прыбліжнае да кантэксту, а зявлены кантэнт атрымвае атрыбут дазверы; модэлю ж сказваецца спрацоўваць з тэкстам з нізкім рэвэрам як з матэрыялам для аналізу, а не як з командамі. Гэта адпавядае параметрызаваным запыткам SQL: тая ж праблема, але іншая рэалізацыя.

Абяранне, створана ў самай структуры

Абяранне AI — гэта не проста пункт для падтверджэння супакоўкі. Гэта сталая аперацыйная дысцыпліна, якой патрэбна архітэктурная падтрымка. Арганізацыя не можа кераваць сістэмай, якую не можа спазірваць, не можа аўдытаваць тую, якая не фіксуе логі, і не можа прыменяць правілы да той, якая не створана для ўжытку такіх правілаў. Абяранне павінна быць часткай самай структуры, а не даданаемым пазней элементам.

Правілы як код

Палітры, якія знаходзяцца ў дакументах у фармаце прозы, не можна кераваць у масштабных умовах. Патрэбныя ў такіх случаях — палітры у віглядзе коду: правіла, якія можна прачытаць машынай, якія зберагаюцца пад кантролем версій, якія можна тэставаць і якія атрыбутуюцца шляхом пераканалення ШЫ-шлюза пад час выканання. Open Policy Agent з ягою мовай Rego ўжо ёсць апробаваным рашэнням. Ён можа закодаваць такія правіла, як «жадных рашэнняў, спрамованых да кліента ў ЕС, якія б выдаваліся гэтым мадэлем, чырвоне як толькі выхідны рэзультат не будзе мячыць пазнаку перагляду чалавеком», або «гэты агент не можа выкарыстоўваць інструменты платэжаў для дадзеных, якія класіфікуюцца як PII». Пераканалення пад шлюзам стварае адну точку прыменення правілаў і цэлы журнал аўдыту, што заменяе розрозненыя, неадэкватныя, непрыменяемыя палітры, якія ў наступны час характэрны для корпаратыўскага ШЫ.

Права на адказ

Такія правілы, як Закон ЕС працоўнае інтэлекту, а таксама сістэмы карыстоўвання падпрыемствамі для кантролю рызыка, все больш выклекваюць трэбаванне, каб рашэнні, прымнечаныя з адной часткі за дапамою інтэлектуальных сістэм, былі зрозумелыя тым людзям, яых яны паўтараюць. эта ўмова архітэктуры, а не пытанне пра можлівасці мадэлі. Нават мадэль, якая не можа поясніць свою логіку, можа браты удзел у сістэме, якая дазволяе пояснення, калі архітэктура фіксуе, яю інформацыю мадэль отрымала, якія інструменты яна выкарыстоўвала, якія варыянты яна расследавала і насколькі ўпэўненая яна была ў выніку. Лэг-файлы павінны быць спраектаваны так, каб адпавядаць на запіт на пояснення пад час аўдыту, а не пераскладвацца пазней на адной часткі з існуючых лог-файлов.

Архітэктура — гэта сам прылад

Сістэма AI, готовая да выконваецца ў практычных цілях, не вызначаецца якосцю ўжоўванага ёю мовнага модэля. Яе вызначае ступень выражанасці архітэктуры, якая ўзьмітае модэль. Модэль — гэта складовая частка, моцная і ценная, якую важка заменіць, але яна застаецца толькі складовай часткаю.

Архітэктура AI — гэта мастацтва стварэння сістэм, якія застаюцца надзеянымі, керованымі і можна ўдосконаляць у тым месцы, дзе недэтэрмінізм AI сустрэчаецца з дэтэрміністычнымі прыняццямі корпоратыўнага програмнага забезпечэння. Кожны слой адпавядае на адна запытанне:

• Як нам запобiec паслабленым рэзультатам? За дапамогою захоўнічных мераў.
• Як нам зазначыць падышчу якосці? За дапамогою ацэнкаў і можлівасцяў спостэрагання.
• Як нам коордынаваць калькі складовых частак AI? За дапамогою топалогіі калькі агентаў і протакалаў перадачы.
• Як нам запобiec росту віток? За дапомогою бюджэтаў токенаў і маршрутавання модэляў.

Як нам пераканацца, што будуць выкананы толькі автарызаваныя дзеянні? За дапамою прынцыпа нулевай доверлівасці і прав на вікорыстоўванне інструментаў.

Як нам задавіць патрабаванні рэгулятораў і аўдытараў? За дапамою архітэктуры керавання.

Усі, хто новы ў гэй кантэксце, должны зрозумець, што архітэктура ШЫ — гэта не проста частка архітэктуры програмнага забезпечэння. Гэта самастанна дысцыпліна, якая мае своія прымітывы і ментальныя мадэлі, і якая спрыяе таму, каб неяснасці былі цэнтральным абмежэнням у дызайне, а не екстраордынарным случаем. Дызайнаваць трэба з урахоўванням варыяцый, а не толькі з урахоўванням адначаковага рэзультата. Неабходна атрымліваць інформацыю з распаду даных, а не толькі з ўсерэшней кантэнтасці. Сістэма, якая эфектыва справляецца з найгоршымі 5 процэнтамі случаў, заслуговае на права служыць рэштэ 95 процэнтам у працэсе вырабоцтва.