Калі падобнае не значыць рэлевантнае: карпаратыўны RAG за межамі вектарнага пошуку

Вектарныя пошукавальныя сістэмы чырпаюць тэксты, якія нагадваюць запыт, выключна эфкаўна. Аднак сэмантычная супадзімасць і практычная корыстнасць — гэта разныя рычыны, і самэ ў гэтым разліку часта выклікаюць проблэмы у корпаратыўных рашэннях на адной базе вектараў.

Даскледжаны дакумент можа выкорыстоваць той самы слоўнік, што і корыстнік, але ўсё раве быць застарэлым, недоступным, непаштоўным чы проста неактуальным для данай бізнес-сітуацыі. Тым часам дакумент, які насправды мог бы адпаведаць на запыт, можа быць сформульаваны інакш і мець ніжэйшы рэйтынг. Проблема зазвычай не ў самай модэлі інкапсулявання чы вектарной базе дадзеных. Яна крыўціцца ў перакананні, што сэмантычная супадзімасць ёсць паўныя паказнікі рэлевантнасці, хоча гэта не так.

У компаніі значэнне залежыць не толькі ад формуліравання. Няўзабавнасць, аўтарытэт, геаграфія, тып дакумента, правыя корыстувальніка, статус рабочага працэса, дагаворныя звязкі і асоцыяцыі між бізнес-элементамі таксама маюць значэнне. Надзеяны сістэма павінна аналізаваць усі гэтыя факты разам і не спрыяць таму, каб блізкасць у вектарнам прасторэ стала канечным рашэннем.

Як вектарны пошук стаў стандартам

Пошук за ключоўымі словамі сільна залежыць ад точных тэрмінаў. Людзі, якія шукаюць "палітыку пакідання працавальніка", могу працягнуць файл пад назвай "Працэдура завершэння працавання працавальніка", таму што ў яных няма спанулярных слоў.

Пошук на векторах стаў рашэннем гэтага слабаса. Дакументы ператвараюцца ў эмбедынгі — чысловыя аналогі ўсьмыслу дакументаў, а запіт корыстніка таксама ператвараецца ў вектар такога ж тыпу. Сістэма пасля чаго вяртае тыя фрагменты, вектары якіх знаходзяцца як можна бліжэй да вектара запіту. Матэрыялы, связаныя па канцэпцыі, можна знайсці нават тады, калі запіт і выхідны матэрыял выкладзеныя рознымі словамі.

Гэта робіць пошук на векторах падходзямым для некалькіх задач: обработкі запытанняў на нейтаральнай мове, пашуку сінанімав і парафраз, пошуку неструктураваных дакументаў, падтрымкі канверсацыйных або багатыязычных запытанняў, а таксама скорачэння вялікага калекцыі да короткага спіску кандыдатаў.

Гэтыя прыямоці прымусілі базы вектарных дадзейнаў стаць цэнтрам ранніх праектаў RAG, і стандартны пракцэс выглядаў апрантны. Дакументы дзеліліся на часткі, кожная частка атрымвала вектарны прэдставленні, і гэтыя вектары зберагаліся. Калі з’яўлялася запытка, яна таксама ператваралася на вектар, апрашваліся найбліжэйшыя часткі і перэдаваліся мовнаму модэлю, які пісаў адпаведны адказ.

Дэманстрацыі і маленькія базы знання працуюць нормальна за гэтым падходам. Аднак у корпаратыўных срэдах пачынаюць з’яўляцца проблемы.

Падобнасць — адна з кантрольных паметак

Уявіце менеджэра з закупаў, які пытаецца: "Якія умовы платэжа дыяюць па нашай ныячай угодзе з Northstar Components?"

Сістэма, якая выкарыстоўвае толькі вектары, могла б складацца з кантракту з ныякім постаўчыкам, выканчэванага кантракту з тым самым постаўчыкам, шаблона з стандартнымі умовамі платэжаў, пісьма пра запрошэнне да змены, політыкі закупкаў, якая згадвае платэжы постаўчыкам, і кантракту з іншай дочорганай структурой Northstar.

Кожны з гэтых элементаў сэмантычна блізкі да пытання, але можа толькі адзін або два маюць значэнне з практычнай точкі зору. Правільны выбор значыць неабходнасць адпаведных дальнейшых запытанняў: якая прававая аб’ектнасць павінна быць інтэрпрэтаваная як „наша“? Калькі компанія Northstar участвуе? Чыя правіла ўсё шчэ дзейна, і чы не зменілі поправкі первісныя умовы? Калькі юрысдыкцыя рэгулюе гэты кантракт? Чы мае гэты корыстнік права на яго адзіроўванне? Чы існуе падпісаная версія, і калькі джэрэла маюць наўбольшую автантычнасць?

Эмбеддынг не мае вбудованага розумення такіх абмежэнняў. Ён вылічвае блізкасць у выучанай сэмантычнай прасторы. Ён не можа сказаць, які дакумент ёсць прававаючым або эксплуатацыйная ўпрыемным.

Самэ так высокі рэйтынг сэроднечы выклікае хыбную абыяковасць. Сістэма запрашвае правдападобны тэкст, мовны мадэль ператварае яго на апрацоўаны адказ, а гладкая проза закрывае памылку у пошуку.

Сэмь спосабоў, якімі чыстая сэроднеча выклікае проблемы

Некалькі паўтараючыхся патэранаў абыякавасці робяць пошук толькі на адной базе вектараў рызыкавым.

Старыя матэрыялы. Старыя дакументы часта выглядаюць як сучасныя. Выпусканая палітрыка можа падабяцца на сваю заменуцююся версію, за выключэннем аднаго крытэрыю, даты чыста правіла затверджэння. З-за велікай колькасці спакульнанага тэксту обе версіі маюць высокі рэйтынг. Без кантролю версіі чыста даты набытая чыннасці, сістэма можа практыкуваць застарэлыя рэкамендаціі, што ўсё бол небяспечна ў рэгулююцымыя сферах, дзе нават незначныя змяны палітрыкі можу парадкаваць ў сувяршэнні правілаў, адчытнасці чыста стаўленні да кліянтаў.

Абсалютная паведамлівасць да адміністрацыі. Запіс з сэансу генеравання ідэй, внутршній электронны ліст і затверджаная політыка можу прыкрываць адну тэму, а неформальны документ можа стаць прыорытэтным проста таму, што яго формулаванне супадае з пытаннем. Корпаратыўныя знанні — гэта не дэмакратыя. Падпісаны контракт зазвычай мае перавагу над праектам, затверджаны алгорытм — над протаколам зустрэчы, а апрацаваны документ, паданы для рэгуляторнага разгляду, — над нотаткамі аналітыка. Для падтверджэння актуальнасці неабходна іерархія доказаў.

Связі, які розрываюцца па часткі. Чырабоўваючы тачнасць і адпаведнасць з актуальным кантэкстам, сістэмы RAG дзеляюць дакументы на маленькія фрагменты, што можа аддзеліць факты ад связей, якія надаюць ім значэння. Одна частка можа паказаць обавязак па адплатацы, іншая — назву прадавца, а трэця — парадакты, якія змянююць первісныя пункты. Кожны фрагмент сам по сабе ёсць непашырэным, і выкарыстоўванне найболей падобнага абзацу не гарантуець воссастанавлення полнага картынкі.

Проблемы з точнымі ідэнтыфікаторамі. Эмбеддынгі оптымізаваны для значэння і частаючы разлічна паслужаюць для точнага прэдставлення буквальных стрынгаў. Тыповыя жэртвы — номеры артыкулаў, номеры рахункоў, апісанні пунктав, коды лекаў, ідэнтыфікаторы абяцэй і номеры версій. Пошук „Model AX-1047“ не павінен вяртаць „AX-1041“, калі толькі ўпісы падобныя. У бізнес-пошуку часта патрабуецца як семантычная, так і буквальная точнасць.

Негатыўныя абмежэннія. Людзі часта спытваюць пра тое, чаго няма: якія кліянты не завершылі процедуру паўтарной перапрацоўкі дакументаў, якія прыстроі не падпадаюць пад дэскартаваны даговор пра тэхнічную падтрымку, якія рахункі-фактуры застаюцца неплатнымі пасля 60 дзён, якія тэставаныя сайты не надалі неабходных дакументаў. Такія запытанні базуюцца на відсутнасці, адключэнні чыя-небудзь элементаў або паўстанавленні аналагій між запісамі. Пошук аналагій дазволяе знайсці тэкст, які стосуецца данай канцэпцыі, але не можа надзеясніць, чаго саме не хапяе.

Няма панявы пра статус аб’екта. Об’ект у прэдпрыемстве пераходзіць праз такія статусы, як праект, паданы, затверджаны, прызначаны на паузу, выйшыў з часовага раёну дзеяння і архіваваны. Два дакументы пра адны і той жа об’ект можу выглядаць практычна ідэнтычна, калі знаходзяцца ў розных статусах, і саме нынешні статус можа вяліць за сабой рашэнне пра тое, чы рэлевантны ўсё-такі дакумент.

Адміністрацыя сама па сабе недастычна. Найболей сэмантычна значымы дакумент можа быць тым, які корыстнік не мае права бачыць. Контроль даступу не можа быць проста інструкцыяй у запытэ. Заблокаваныя контэнты трэба адчыніць прытым, як толькі яны прабяжуць у кантэкст модэлі, інакшы сістэма рызыкуе выдаты чутлівыя дакументы безпосерэдна або дазволіць модэлі вывяліць іх паўзалік.

Значымасць мае многа вімэраў

У корпаратыўных рашэннях тыпу RAG значымасць лепей спрыяглядаць як суму разных сігналоў: сэмантычная супадзімасць, значымасць за ключоўымі словамі аб точным падабенствам, автантыятэт джэральніка, часовая дэйснасць, адпаведнасць бізнес-правілам, наявнасць прав, а таксама значымасць у зв’язку або графе. Формула ранжыравання магчымае сумаваць іх усе, кожны з якіх мае свой вага.

Значэнні ваг залежаць ад сферы прыменення. Внутршній асістэнт з даследаванняў можа надаць важлівага значэння сэмантычнай супадзімасці. Апарат для адпаведзення на запыткі ў контрактах можа больш акцэнтаваць увагу на датах пачатку дзеяння і автантычнасці джэрэла. Платформа для расследаванняў можа быць спрывязаная галоўная ўзаўсёды з адносамі межа людзьмі, падзеямі, месцамі і актываўмі.

Нічога з гэтага не значыць, што кожная арганізацыя патрабуе складнага матэматычнага модэлю ранжыравання. Гэта значыць, што рэлевантнасць трэба яшчэ раз чытаючы адзначыць, а не перадаць як стандартны бал вектарнай базы дадзэнняў.

Як выглядае болей надзеяная архітэктура адналёгчэння

Надзеяны RAG зазвычай праходзіць праз калькі этапаў адналёгчэння і парадзяроўкі.

1. Розумеў запытку

Перад пошукам сістэма выявляе, працоўнае запіт. Гэта можа значыць выявленне намеру і ўсіх іменаваных аб’ектаў, дыяпазонаў часу, тыпаў дакументаў, юрыдычных тэрытарыяў, ідэнтыфікатораў кліента аб продукту, бізнес-ўзелаў і неабходнага рэвэрансу, а пасля — адліквідацыю, чы трэба выконваць пошук, вычысленні, параджанне аб пераследаванне графа.

Возьмімо запіт «Што змянілася ў нашай палітыцы зберагачэння дакументаў у Европе ў гэты год?» Ёго не трэба обрабляць як звычны семантычны пошук. У ём укладзеныя рэгіон, катэгорыя дакумента, часовы прыметак і параджанне версій. Розумеўніе запіту ператварае неструктураваныя выразы на структураваны план адшукаў.

2. Фільтрацыя метададаў

Метаданы сужаюць прастор пошуку яшчэ до або пад час адчынення дакументаў. Серэд значных паказначыкаў — рэгіон, власнік, аддзел бізнесу, даты, калі дакумент стае чынным і заканчывае сваю дзейнасць, статус затверджэння і версія, тып дакумента, класыфікацыя дадзэнняў, семья продуктам, ID кліента або прадавца, а таксама атрыбуты, якія вікорыстоўваюцца для кантролю доступу.

Застосавленне фільтраў не дазволяе кандыдатам, якія явна не падходзяць, конкуруваць з тымі, якія падходзяць. Гэта таксама ператварае якасць метаданаў у складовую якасці RAG: калі дакументы адчынываюцца без надзеяных дат, власнікаў, статусу версіі аб атрыбутаў доступу, працэс адчынення застаеўся нестабільным, незалежна ад таго, які модэль укладання вікорыстоўваецца.

3. Гібрыдны спосаб адчынення

Гібрыдны спосабы адзыскання спалююць сэмантычны пошук з лексычным пошукам. Вектары разглядаюць значэнне і парафразы, тады калі лексычныя методы, такія як BM25, займаюцца точным тэрмінологіям, ідэнтыфікаторамі і рэдкімі тэрмінамі. Гібрыдная сістэма можа зрозумець, што „працэўна процедура завершэння“ асоціюецца з „палітыкай завершэння працавання“, але ўсё ж заставіць выконаць точнае падпаданне для „HR-OPS-204.“

Рэзультаты можна з’едыніць за дапамою суворэння рангаў або функцыі оцэнкі, прызначанай для конкрэтнага домэна. Для багато падпрыемств гэта ўзначальна з метаю практычнага апдэйта сістэмы, якая выкарыстоўвае толькі вектары.

4. Адзысканне структураваных дадзеных

Фрагменты дакументаў — гэта неправільны істочнік для дзеякіх запытанняў. Усё, што стосуецца колькасцей, сум, праг, статусаў чы порэванняў, часта лепя падходзіць да SQL-запытанняў, індэксаў пошуку, API, складоў дадзеных, баз знанняў, сістэм мастэр-дадзеных чы механізмаў правілаў.

Калі хтась запытаецца: «Скількі відкрытых прэтэнзій у гэтым квартале перасягнуло 5 лакха?», правым крокам ёсць запыт у структураваным істочніке, які зберагае даны прэтэнзій. Тэкст, які проста ўзмаўляе прэтэнзіі, не можа даць колькіснага падсчыту. Зрэлы дызайн направляе кожны запыт таму механізму, які яму падходзіць.

5. Графы знанняў і адзыскванне з урахоўваннем адносаў

Дзеякі запыты за сваёй сутнасю стосуюцца адносаў. Граф знанняў можа мадэляваць кліентаў, прадавцоў, продукты, контракты, месцы, інцыдэнты і правілы, а таксама зв’язкі між ямі.

Якшо аналітык рызыка хочаць з’ясавіць, якія актыўныя прадавцы выступаюць адносамі з санкцыйнымі аб’ектамі праз структуру власнасці, то адзін параграф, верагатывацельна, не будзе міцыць неабходных доказаў. Ён мусіць пераходзіць па зв’язках у запісах прадавцоў, даных пра корпаратыўную власнасць, рэзультатах перагляду і статусе контрактаў. За дапамогою аналізу графаў можна выявіць сетка аб’ектаў, участраждзілых у гэтым, а векторны пошук памагае знайсці супарадныя фрагменты тэксту пра гэтыя аб’екты і з’ўязкі, якія ён адкрывае.

Гэтыя методы часта называюць GraphRAG, хоць іх рэалізацыі разніцяцца. Іхня цэннасць не ў тым, што графы ўжо болей прыгодныя за векторы, а ў тым, што графы зберагаюць явныя адносы, якія векторныя методы зводзяць да статыстычнай блізкасці.

6. Пераранжаванне

Прыткая адаптацыя павінна спрыяць выявленню рэлевантных дакументаў: неабходна збіраць шырокі набор можлівых кандыдатаў. Пасля чаго спецыяльны механізм ранжыравання аналізуе іх болейш адказна ў співваротнасці з усім запітам. Крос-кодэраў, спецыялізаваныя мадэлі ранжыравання чы ўсё тэ ж аднойчыны на базе LLM можу ацэніць, чы дакумент даслівна адпавядае на запыт.

Серэд сігналаў, якія можна выкарыстоўваць, — ступень прымальнага адпаведання дакумента, сувязь з элементамі запыту, аўтарытэт, свежасць, полнота, спецыфічнасць, суперсчытанні чы бізнес-правіла. Галоўная мета — адзначыць дакументы, якія ўзьязначаюць з тэмай, ад тых, якія ўзьязначаюць для адпаведнага запыту.

7. Складанне кантэксту

Перадача пяці найважлівейшых частак тэксту да LLM не ўскладнюе стратэгію кантэксту. Доказы можа знадобіцца групаваць па дасягах, ранжаваць за часовым порадкам, расшырваць за дапамою суседніх раздзелаў, даваць звязкі на вызначэнні або табелі, усунваць дублікаты, з’едынаць з парадкамі, адносіць да разных версіяў, ставіць атрыбуты для выкладчыка і адпаведальнага асобы, а таксама стыскаць, не выкарыстоўваючы методы, якія адкідаюць асаблівыя кейсы.

Мета — захаваць структуру, неабходную для логічных выводам. Для пункту кантракту гэта значыць включыць ў той жа кантэкст яго вызначэнні, асаблівыя умовы і історыю парадакоў. Для клінічнай процедуры можа знадобіцца інформацыя пра супаканяючыя засцярогі. Для фінансавых рэзультатаў — перыод звярнення справаздачнасці і прынцыпы бухгалтэрскага уліквідавання.

8. Аправарэнне доказаў

Перад тым, як напісаць заканчальную адказ, сістэма павінна пераканацца, чы рэшэння падтрымваецца дастатковымі доказамі. Чы джэрэла безпасебна падтрымваюць адказ, і чы яны ў часе? Чы аўтарытэтныя джэрэла не схваляюць яго? Чы не хватае неабходнага дакумента? Чы адказ апоўнены непадтрыманымі вывадамі? Чы корыстнік можа фактычна ачыніць кожны цітаваны фрагмент?

Калі доказаў недастатнек, найбезпечнейшы адказ можа быць тое, што пра гэта сказаць, папросіць уточнэнняў або перавесты справу на вышэйшы рэвэну. Сістэма Enterprise RAG павінна быць створаная для утрыманняся ад адказу, а не толькі для яго даўання.

Бізнес-правілы маюць рэальную значымасць

Значны частка памятак узнавання не будзе падлегла лепшым эмбедынгам, адколі рэлевантнасць вызначаецца організацыяй. Тыповыя правіла: выбіраць найновейшую затвердзілуюся політыку, калі толькі не дыяе рэгіональная; прыменяць параграфы даговора ў тым парадку, у яком яны былі выконаны; вярнучыся да аўдытаваных фінансовых дакументаў працоўнікам управління; ісключаць праекты рэгуляторных дакументаў; ідэнтыфікуваць кліента па юрыдычнай аб’ектацыі, а не па торговым назыве; і вяртаць толькі запісы, якія належаць тэрытарыі, да якой можа адразувацца корыстнік.

Этыя правіла патрабуецца ў кодзе для узнавання, ранжыравання або коордынацыі. Надзея, што LLM зможа вывяліць іх з кантэксту, ёсць ненадзеямайна і не залешае нічога для аўдыту. У такім случае корпаратыўны RAG ператвараецца на задачу інжынерыі сістэм, а не на выбір модэлі.

Адзінаковая ацэнка за межамі точнасці адпаведзення

Сістэма можа даць правы адказ з неправыя прычыны, выкарыстоўваючы слабыя доказы і спакоюючыся на пярэдніх знаннях модэлі. Яна таксама можа выглядаць точной пад час тэставання, але паспяліць, калі змянююцца дакументы. Таму для ацэнкі неабходна пераглянуць кожны слой ціклу апрацоўкі.

Выкарыстоўванне доказаў. Пераканацца, чы роўнасці неабходных доказаў былі знайдзены: recall@k, precision@k, сярэдній вярнага рангу і нормалізаваныя скорачаныя кумулятывныя прагрэсы, а таксама як часта знаходзяцься точныя ідэнтыфікаторы і як часта рэзультаты ўсталяваныя і автантыфікованыя.

Кантэкст. Пераканацца, чы зібраны матэрыял можна выкарыстоўваць: полнота доказаў, рэдунданцыя, ступень суперасункоў, рэлевантнасць кантэксту, зберэжэнне структуры табелей і зв’язкаў між раздзеламі, а таксама адпаведнасць версій.

Гэнераванне. Абгледзіце заканчальны адказ: аддакнечнасць да дапаможных дакументаў, правільнасць цітатаў, полнота, частка непадтрыманых твэрджэнняў, належны абстракцыянізм, а таксама салідарнасць з разрэшэннямі і правіламі.

Рынковыя рэзультаты. Следзіце за эканамічной цэннаю: колькі гадзін было заўсёды, як часта справы прагромаджваюцца, сколькі зусіль заставаецца на перагляд, насколькі серьёзныя ўпадкі, насколькі быстра рашаюцца проблемы, чы робіцца на корыстку інструменту, якія інцыдэнты салідарнасці, і насколькі шырока ён адбіраецца ў рабочыях практыках. Лепшыя показнікі семантычнага адшукаўніка малая значэння, якшо яшчэ існуюць выцягнутыя контракты аб недоступныя дакументы.

Памылкі, якія рабяць каманды, пераходзячы да вектарнага пошуку

Арганізацыі часта бачаць меры RAG, які выкарыстоўвае толькі вектары, і пасля таго дадаюць сложнасць без чыстага модэлю рэлевантнасці.

Адаптаванне ўсіх тэхнік адразу — гэта адна з аднойчых памылак. Граф знанняў, прыстрой для пераранкінгу і агентны патэрн работы не зможу выправіць нехватку метаданых чыракія карыстоўвання дакументамі.

Другая памылка — прызначэнне LLM універсальным арбітрам. Мадэлі добра падходзяць для адгуквання запытак і ранкінгу доказаў, але правілы, якія павінны быць точныя, такія як кантроль даступу, даты і ID-ы ентытаў, зазвычай трэба заліць у вялікі код, які дастае аднаковыя рэзультаты.

Трэцяя памылка — налагоджэнне толькі па крытэрыях тэстаў. Рэальныя корыстувальнікі ставяць нечыстыя, частковыя, наполненыя кантэкстам запыткі, таму тэстовыя даныя патрабуюць справжніх крайніх кейсаў, застарэлых дакументаў, суперсучасных джэрэлаў і меж дазволаў.

У канцэ пэўныя команды спрыяванне інформацыі спачатку спрыяваюць як пакупку інфраструктуры. Выбір вектарнай базы дадзеных — толькі адна з багацькох рашэнняў, адколькі рэлевантнасць таксама залежыць ад таго, як прыймаюцца і структуруюцца дакументы, якія метаданы прыўязаны, як адлучаюцца ідэнтыфікаторы, а таксама ад таго, як адбываецца ранжыраванне, коордынацыя і карыстаўне кераванне.

Практычны паход

Ёсць нецярплівае заменіць існуючую платформу RAG, каб павысіць рэлевантнасць. Яе можна развіваць пашагоўна.

Пачніце з непаспелых запытанняў і класіфікуйце кожную памылку у спрыяванні інформацыі. Чы не было правільных доказаў, чы яны мелі занадта нізкі ранг, чы былі неправямо фільтраваны, чы былі раздзелены на калькі, чы іх перакрыў застарэлы істочнік?

Далей чытка адзначыце, што значыць рэлевантнасць для конкрэтнага працэсу работы, выбравшы, якія істочнікі маюць аўтарытэт, якія поля метаданых маюць значэнне і якія бізнес-правіла керуюць ўзгоднасцю.

Потым трэба дадзіць простэйшы механізм, які падходзіць для кожнага збою. Для точных ідэнтыфікатораў патрэбны лексычныя пошукі. Даты, рэгіоны і тыпы дакументаў выклікаюць патрэбу ў фільтрах метададзэйна. Некалькаслабыя адлічэнні пытання-дакумент выклікаюць патрэбу ў перэранкеры. Фрагменты, якім не хапае кантэксту, выклікаюць патрэбу ў атрыманні суседніх частак. Аналітычныя запытанні належаць да структураваных баз дадзэйна. Адпаведзі, якія залежаць ад адносаў энтытаў, выклікаюць патрэбу ў праходзе па графе. Перад атрыманнем дадзэйна трэба дэтэрміністычна пераканацца ў наявнасці прав, а непачатковыя доказы должны спрычыніць застосаванне правіл утрымання.

На завершанне трэба стварыць набор для ацэнкі з рэальных запытанняў і рэальных збоў корыстувачаў, і аднарава перацягнуць тэстыванне атрымання і генеравання, каб праграсы ў аднам слое не маскавалі проблемы ў іншым.

Точны доказ проты падобнага тэксту

Вектарныя пошукавыя сістэмы застаюцца ціннымі і адлейнае ў вышукванні абзацоў на схожыя тэмы. Аднак яны самыя па сабе не можуць выбраць, які абзац ёсць актуальным, автантыпным, дазволеным, полным чы ўсунасць у конкрэтной бізнес-сітуацыі.

Патрэбна шырэйшая архітэктура рэлевантнасці, якая спалюе сэмантычны пошук з пошукам з точным падабраннем, метаданнымі, бізнес-правіламі, структураванымі джэрамі, адносінамі ў графе, перэранкінгам і перакананнем у правядзібнасці доказаў.

Наступныя пакеты сістэм RAG не будуць выграўцамі, якія проста збіраюць больш падабелых тэкстаў. Выграўцамі будуць тые, якія вярнуць правыя доказы для правага корыстувальніка, у правым кантэксце, у правы момент.