Архітэктура AI для падчынных прэдпрыемстваў: RAG выкарыстоўваецца для пошуку, LLM-ы выконваюць логічныя раследавання, а мадэлі прыняцьча рашэння.
Чаму самаўыкарыстанне інформацыі і мовныя расчункі недастатковы — як GraphRAG, агенты і мадэлі прынятка рашэння тыпу System 1, такія як Jev, аддзеляюць знання, кантэкст, расчункі, прыняцця рашэння і ўжоўвядзенне.
Крыніцы: The Emerging Architecture of Enterprise AI — RAG Finds, LLMs Reason, Jev Decides.
Пошук фактов і ўзгадванне прычын на іх аднойчын больш не ўважаецца рэдкай навукой. Проблема адкрытага дызайну заключаецца у стварэнні шырокага спектру быстрых, обмежаных вароў, якімі можа паверыць бізнес-програмнае забезпечэнне — без ператварэння кожнага мікракрока ў генераванне тэксту свабоднага фармата.
Дыскусіі ў галузі праходзілі па знайомай сэрыі: фундаментальныя мадэлі, падкрэпленне праз пошук, пошук з падкрэпленнем графамі, а потым агенты. Кожны наступны етап закрыў іншую прасоцу. Однак засталася незадовольна розвіятае направленне — прыняццё рашэнняў: не дыялогавая думка і не ўзгадванне тэксту, а запісаны, обмежаны рэзультат, які можа выконваць прыкладнэ програма.
Сістэмы для прыняцця рашэнняў у стыле System 1, такія як Jev (TypeSafe AI), робяць гэты слой матэрыяльным. Яны натыкаюць на тое, што у продакшн-схемах можа знадобіцца спецыяльны шлях прыняцця рашэнняў паштоўна да пошуку і лінгвістычнага аналізу.
Эвалюцыя корпоратывных AI
Спроставаны часовы лінійкі дапамагае паказаць нехватную частку.
1. LLM-ы: «Какі тэксты можна стварыць?»
Мадэлі-фундаменты зробілі машыны спроможнымі чытаць і пісаць на натуральнай мове. Тое, «што яны знаюць», все ўсё завісіць ад прадзялованняе плюс апаратуры кантэкста, якая надаецца пад вычысленням.
У компаніях гэты прыемак стае зразу ж відчутным. Крытычна экспертыза рэдкая час знаходзіцца ў вагах мадэлі. Яна прымае форму дакументаў, хранілішчаў, API, баз дадзеных, правілаў, інструкцый, заявок, пісьменнай перадачы, бізнес-правілаў, вікі і дапытак.
Гэты тыск прывёў да пераходу на наступны роўень.
2. RAG: «Дзе знаходзіцца матэрыял?»
Тэхналогія Retrieval-Augmented Generation дазволяе мадэлям абмеркаваць корпоратыўныя хранілішчы. Уместо таго, каб выкарыстоўваць всю інформацыю з вагаў мадэлі, практычныя схемы запошчаюць неабходны матэрыял і прыўязуюць яго як рабочы кантэкст.
Схема стала такой:
Корпоратыўныя хранілішчы → Запошчанне → Рабочы кантэкст → Мовная мадэль → Адпаведзь
Гэты прыск дапомог значна. RAG яшчэ сталкнуўся з структурным бар’ерам: пошук сэрагаблікаў дакументаў не ёсць тым самым, што розумеўстваванне спосабу асоціявання фактов компаніі.
Разглянем прыклад спарчы ў звязку з пакрыццем:
«Што стало прычыной адхілення ад гэтага клеймента, і чы рэальна ўзнікненне проблемы на вышэйшам роўні?»
Каб даць адказ, можа знадобіцца праследаванне:
Кліент → Палітыка → Продукт → Пакрыцце → Клеймент → Дыягназ → Аўтаксацыя → Пункт палітыкі → Норматывны правіл
Гэта не проста проблема пошуку за ключоўымі словамі. Гэта проблема асоціявання і логічных вывадаў.
3. GraphRAG: «Якія зв’язкі межу цымі элементамі?»
Пасля гэтага з’явіліся графы і GraphRAG. У протывес аіслараваным фрагментам, такія платформы мадэлююць аб’екты і ўзаемныя зв’язкі межу ямі. Напрыклад:
Customer
│
├── owns → Policy
│ │
│ ├── covers → Product
│ │
│ └── governed by → Rule
│
└── submitted → Claim
│
├── relates to → Diagnosis
│
└── evaluated against → Coverage
Працэс перасканавання заменяецца выкарыстоўваннем „наібліжэйшага параграфа“. Гэта якраз той шар корпоратыўных знанняя, які стоіць за структураванымі знаннямі, работай у стыле OKF і эксперыментамі GraphRAG.
Нават тады застаецца ўсё тая ж запітанне. Калі кантэкст зрозумелы і прааналізаваны: што на самай справе павінен зрабіць сістэма?
4. Агенты: „Што павінна стаць далей?“
У праектаванні агентаў мовны мадэль выступае як дырэктар. Яна можа розмышляць, выбіраць інструменты, вызываць API, аналізаваць рэзультаты, выбіраць наступны крок, запускаць іншы інструмент і продаваць так далей, пакуль задача не будзе завершаная.
Гэтая можлівасць стварае архітэктурны тычок: ад таго ж універсальнага модэля чакаюць, што ён будзе відпаведальны за кожны этап:
Understand
↓
Reason
↓
Choose
↓
Route
↓
Decide
↓
Call API
↓
Inspect result
↓
Decide again
↓
Call another API
Пасля гэтага выліваюцца некомфортныя запітанні. Чы не кожны мікравыбор агента патрабуе велікага модэля для расчынання? Чы мовны мадэль, які ў працоўных цілях выступае першым, павінен прыймаць рашэнні на кшталт:
«Куды направіць гэты тыкет — к командзе А чы ў командзу Б?» «Продаваць гэты працэс далей?» «Чы патрэбна участка чалавека?» «Каторая з пяці запрацоўваных загадзя дзеянняў паслужыць?» «Чы гэтае пераказанне праходзіць за прагам адкласавання?»
Гэта часта ёсць проблемы прынятка рашэння, а не проблемы стварэння мовы.
Мадэлі прынятка рашэння System 1
Тут важліва Jev. TypeSafe AI адносі яе да модэлі System 1. Канцэптуальна разліка простая:
- LLM насамперад оптымізавана для стварэння мовы («Какія словы падходзяць?»).
- Модэль прынятка рашэння абрабатвае структураваны стан і дае адпаведныя на запітанні структураваныя адказы («Каторая з програмных рашэнняў паслужыць?»).
У публічных матэрыялах Яў опісваецца як супрацоўнік, які выдае запрашаныя адпаведзі і прадстаўляе вярыгу на адпаведнасць стану спільнага дапаможнага прылада, ставячы швальнасць вышэй за дэталізаваныя тэксты. Такое раздзеленне дазволяе стварыць болей чыстую архітэктуру.
Вяскраваючы слой
АІ для корпаратыўных цэлаў не павінен выглядаць толькі так:
Enterprise Data
↓
RAG
↓
LLM
↓
Agent
↓
Actions
Болей выразна аддзельны дызайн выглядае так:
Enterprise Systems
↓
Knowledge Engineering
↓
Enterprise Knowledge Layer
↓
Context Engineering
↓
┌──────────────┬──────────────┐
│ │ │
▼ ▼ ▼
Reasoning Decision Rules
LLM Model Engine
│ │ │
└──────────────┴──────────────┘
↓
Agent Control
↓
Deterministic Code
↓
APIs / Workflows
Адпаведная адпаведальнасць стае болей зрозумелай.
LLM-ы не павінны робіць усё
Разглянем прыклад працэсу атрыбутавання страховага пакета. Кліент пішаць:
“Этае заявка на страхавую компенсацыю за госпіталізацыю была адхоўнутая, але, здаецца, патрабуе падтрымкі.”
Платформа спачатку павінна выявіць кантэкст. Яна можа запрашаць даныя кліента, дэталі полісы, настройкі продукту, параметры страхавання, даныя заявкі, інформацыю пра лікарню, абставіны, якія не пакрываюцца, клазузы полісы і норматыўныя правілы. Самэлькі тут і стае неабходным корпаратыўны слой знанняй і GraphRAG.
Тады LLM можа выконваць разумаванне:
«Адклэянне, вядома, зв’язана з адключэнням X. Пункт Y можа стварыць адзінак у пад з’явою умовы Z.»
Далей выконваюцца обмежаныя выборы:
Does this require human review?
→ YES
Which workflow?
→ Claims InvestigationPriority?
→ HighAdditional evidence required?
→ YESCustomer communication template?
→ Coverage Review
Гэта структураваныя рашэнні, а не безканальна генеравання — саме тут падходзіць такі мадэль рашэння, як Jev.
Архітэктура пачынае выглядаць інако
Корпаратыўныя AI-сістэмы можна прэдставіць як адзінаковыя канцэпты кагнітывных задач.
Шар знанняў
Какія факты ведае компанія?
OKF — графы знанняў — дакументы — код выканання — API-і — базы дадзэнняў.
Шар кантэксту
Яя інфармацыя ёсць значным для гэтай проблемы?
RAG, GraphRAG, інжынерыя кантэксту.
Шар разумавання
Што означае гэтая інфармацыя?
LLM-і і мадэлі разумавання.
Шар рашэння
У такій сітуацыі, што ж павінна зрабіць платформа?
Мадэлі прыемкі рашэння, такія як Jev.
Слой выканання
Як павінна быць выканана гэтае рашэння?
API, рабочыя практыкі, правілы бізнесу, дэтэрміністычныя програмы.
Разлік мае значэнне: інтэлект не выкалікаеся з адной вялікай мадэлі, якая робіць усё.
І гэта зміняе спосаб, якім мы павінны думаць пра корпатыўныя знанні
Інфраструктура знанняў компаніі — гэта не проста апгрэйд для пошуку. Яна можа стаць основай для прыемкі рашэнняў машынамі.
Уявіце граф, які мае:
Customer
Policy
Product
Claim
Agent
Branch
API
Business Rule
Regulation
Risk
Transaction
з такімі зв’язкамі, як:
Customer → owns → Policy
Policy → belongs to → ProductPolicy → covers → BenefitClaim → relates to → PolicyClaim → triggered by → EventProduct → governed by → RuleRule → derived from → Regulation
Сістэма больш не проста шукае “дакументы пра заявы”. Яна стварае структураваны відблік стану бізнесу, які можна вікорыстоўваць разнымі прыемкамі інтэлекту:
- LLM для разумавання
- Мадэль прыямоў для абмежаных выбораў
- Правілы для дэтэрміністычных абмежэнняў
- Код для выканання
Такая структура ўтрымвальней, чым адзін вялікі запіт.
Інтэрэсная частка: доверыя стае архітэктурным прымітывам
Мадэлі прыямоў таксама паказваюць ступень доверыя. Багатыя AI-праграмы зупіняюцца на тым, што «мадэль выдала X». Аператары таксама патрабуюць: насколькі вяліка ўпэўненасць у рышчы, і што будзе выканана, калі доверыя занадта нізкае?
Уявіце сабе:
Decision
↓
Confidence
↓
┌───────────────┐
│ │
High Low
│ │
▼ ▼
Auto Human
execute review
Прагі неабходна налаштаваць па кожнаму кейсу выкарыстоўвання, але гэты патэрн ёсць моцным. Спрыяйце выходу AI як прыямоў з неяснасцю, а потым закодавайце політыку автонамнага керавання:
High confidence
↓
Autonomous execution
Medium confidence
↓
Secondary validationLow confidence
↓
Human intervention
Індустрыі, якія падлягаюць рэгулюванню, особліва патрабуюць такой падход.
Гэта таксама можа змяніць эканоміку AI
Калі кожны мікраспакт выбору агента спрачывае большое вычыслювальна сілу, то на рэгле флота — тыячах чы або мільйонах вызоваў — падвышаюцца віткі і затрымкі. Калі багато выбораў ёсць вузькія і павтаральныя, спецыялізаваны прымушчык можа зменіць крывую віткоў і затрымакоў.
Гэта дае можлівасць стварыць ўтрохтуючы шар:
Complex reasoning
↓
LLM
Bounded decision
↓
Decision ModelDeterministic rule
↓
Rule EngineExecution
↓
Code
Мэтай не ёсць заменіць LLM-ы. Важлівае — гэта прыняць рашэнне перастаць выкарыстоўваць іх для задач, якія ў iх няма прынуднае выкарыстоўвання.
Гэта таксама змінюе спосаб нашага адліквавання AI
Панелі керування сёньня часта фіксуюць корыстувачаў, запіты, токены, выкарыстоўванне модэляў, затрымкі, ступень апрацоўкі і віткі. Гэтыя показнікі застаюцца корыстнымі. Калі AI будзе прынімаць оператывныя рашэнні, з’явіцца ўтрохтуючы шар іншых метрыкаў.
Метрыкі інтэлекту прымушчання
| Метрыка | Што яна нам паведамляе |
|---|---|
| Об’ём прымушчання |
Гэта перакідае дыялог з вжывання ШЫ на эканаміку інтэлекту ШЫ.
І існуе важны застэрэжанне
Jev — гэта абсалютна новы продукт. Важна паўза: прыступ да ўжывання для грамадскасці запланаваны на верасень 2026 года, таму незалежных доказаў яшчэ мала. Таму прыйманне Jev-а, або будзь-каго іншага новага прыемніка рашэння, як апробаванага заменніка LLM, было б прытарплена.
Корыстны эксперыментальны вопыт звучыць так:
У якіх случаях спецыяльна створаны прыемнік рашэння перамагае мовны мадэль, класычны двухэлементны механізм або сумешаны падход?
Гэта варта змерыць, а не проста выдвагаць прыпускі.
Эксперымент, які варта адрабатваць
Выберыце адну практычную корпоратывную схему абработкі задач — на прыклад Скераванне запітаў на адказ — і падайце той самы кантэкст у кілька розных падходаў.
Падход 1
LLM → структураваны выхід → логіка прыемніка
Падход 2
Двухэлементны механізм → дэтэрміністычнае рашэння
Падчынны 3
Модэль прыемкі → тыпаваная прыемка
Падчынны 4
Гібрыдны:
Rules
↓
Decision Model
↓
LLM when ambiguity requires reasoning
↓
Human when confidence is insufficient
Потым вымераюцца точнасць, калібраванне паверыння, затрымка, выклік, выкарыстоўванне токенав, шчыльнасць эскалірацыі, пояснення, адтрымліванасць, способы збою і рынковы рэзультат.
Такі эксперымент перамагае іншыя табелі лідэраў, якія ствараюць вражанне, што модэль проста “лепшая”. Мета не ў тым, каб узнакаміцыць Jev. Мета — з’ясаваць, якая прымітыва інтэлекту паслужыць для чаго.
З RAG да разумавання і прыемкі рашэння
Яшчэ раз паглядзім на лесвіцу:
RAG запытаў:
“Дзе знаходзіцца матэрыял?”
Графы знанняў запытаў:
“Якім чынам гэтыя элементы з’ѐднаны?”
GraphRAG запытаў:
“Які маршрут кантэксту трэба праследаваць?”
LLMs запытаў:
“Што означае гэты кантэкст?”
Агенты запытаў:
“Што трэба зрабіць далей?”
Мадэлі прыемкі рашэння дадаюць:
Інтэлігэнцыя прыемкі рашэння спытвае:
«У данай сітуацыі, які обмежаны спосаб дзеяння павінна выбраць платформа?»
Гэта значымая архітэктурная разліка.
Таму корпаратыўны стак AI можа стаць канцэптуальным, а не толькі тэхнічным
Команды часта адрабатваюць архітэктуру AI як складовыя:
LLM
Vector DB
Embedding Model
RAG
Orchestrator
API Gateway
Guardrails
Падход, які акцэнтаваеся на канцэптуальной адпаведнасці, выглядае так:
ENTERPRISE AI
│
┌────────────┴────────────┐
│ │
KNOWLEDGE CONTEXT
│ │
KG / OKF / Data RAG / GraphRAG
│ │
└────────────┬────────────┘
│
┌─────────┴─────────┐
│ │
REASONING DECISION
│ │
LLM/SLM Jev / similar
│ │
└─────────┬─────────┘
│
ORCHESTRATION
│
GUARDRAILS
│
HUMAN-IN-LOOP
│
EXECUTION
│
APIs / Workflows
Дызайн AI компаній адступае ад ідэі аднай мадэлі, якая керуе всім і прыбліжаецца да комплексу прымітываў інтэлігэнцыі — кожны з якіх налаштаваны для адной-другой канцэптуальнай задачы.
Большая карціна
Паўтараючыся тэма ў дызайне корпаратыўнага AI:
Будуччына можа не быць вялікай мерой таго, хто володзіць самай большай модэллю. Яе можа вялікая мера таго, хто стварыць найкрашчую сістэму на адной з гэтых модэляў.
Даўнейшая дыферэнціяцыя выклікаецца сумешчаннем эксклюзыўных знаёмасцей, адносаў між німі, інжынерыі кантэксту, розгляду праблем, інтэлігэнцыі пры вынячэнні рашэнняў і кераванага выканання. Следавае, LLM ёсць толькі аднай з складовых.
Наступная эвалюцыя выглядае так:
Мадэлі генеравання будуць заменяваны сістэмамі розумеўння, потым — сістэмамі разумовага мышлэння, пасля — сістэмамі вынячэння рашэнняў, а ўжо пасля — сістэмамі дзеяння.
Такім чынам, стойкая перадчыннасць можа крычацца не столькі ў якомнебудзь адзіном элеменце, сколькі ў супэрнетварцы, якае спаўнаюе зв’язак між знаёмасцямі, кантэкстам, разумовым мышлэнням, рашэннямі і дзеянням — гэта сложнейшая інжынерная задача, чым проста падбір колькасці параметраў.