Галоўная / Артыкулы

Ад прататыпа да прадакшн-RAG: гібрыдны пошук, агенты і ацэнка

Эталонная архітэктура прадакшн-RAG на .NET: разбіўка на фрагменты, гібрыдны і графавы пошук, пераранжаванне, планаванне запытаў, тыпізаваны вывад і бесперапынная ацэнка.

Выдавец: REACTAPP.TOP8 хв чытання1936 слоў

Крыніцы: Why Production RAG Needs More Than Vector Search

Дзеяныя пратыпы RAG выглядаюць завершанымі пасля пяці крокаў: завантажэнне дакументаў, вычысленне імбеддынгаў, зберэжчык вектараў, запрашэнне калькі частак і стварэнне запіту для модэлі. Ёжыце падтверджэння гэтай концэпцыі не трэба больш часу. Проблемы пачынаюцца пазней, калі корпус дакументаў расшыроўваецца, запіты стаюць непрадбачальнымі, адпаведзь трэба шукаць у калькі джэрэлаў, або хтось прасіць прыклады цыфраў, якія паказваюць павышэнне карыстнасці сістэмы. Гэтая архітэктура, паказаная праз прыклад прыемлівання .NET і Blazor, пакрывае тое, што дадае прыменне ў рэальных умовах. Яна пачынаецца з прыемлівання і разбівкі дакументаў на часткі, пасля чаго пераходзіць да процэса пошуку, які выкарыстоўвае ключавыя словы, вектары і графычныя сігналы, палягання рэнкінгу, агента, які плануе запіты, структураванага выходу і непаставальнага адліквідавання.

У першым дыяграме прадстаўлены пратып у працэсе пошуку, ранкінгу, адліквідавання і адліквідавання, якія неабходны ў рэальных умовах.

Тры спосабы падаць модэлі вашы даны

Мадэль адаптуецца на адказах на адпрацаваных яе даных, а таксама на інфармацыі, яку вы даеце пад час запытку. Внутрэшнія атласы, контракты, заявкі на падтрымку, правілы і дакументы праекта дапамагаюць толькі тады, калі прыстаўка можа знайсці адпаведныя часткі і уключыць іх у кантэкст модэлі. Гэта проста, пакуль колькасць дадзеных не перавышае меры аднае запыткі, і тады існуе тры стандартныя падходы.

Самы просты — гэта вікна кантэксту: вы выкалываеце тэкст файла, вставляеце яго ў запытку і ставіце запыт. Гэты падход падходзіць для невялікай колькасці контэнту і короткачасных задач, але стае неэфектываў, калі той самы большы контэнт надсылаецца знова і знова або калі прыстаўка павінна шукаць у багацько дакументаў.

Другі падход — гэта запам’ятованне праекта або сесіі. Прыстаўка зберагае меньшы набор дадзеных, які можна вярнуць для паўтаральных семантычных пошукоў, што падходзіць для асістэнта, прычысленага да аднаго праекта, рабочага прастору або актыўнай сесіі.

Трэці варыянт — генераванне з аддытывным выкарыстоўваннем дадзеных, скаратка RAG. Аплікацыя загадзя стварае індэкс, а праз кожны запіт выкарыстоўвае толькі неабходныя фрагменты, замест таго каб перадаць усё корпус дадзеных модэлю. У апісанні RAG ад Microsoft таксама паказана тая ж сутнасць: слой выкарыстоўвання дадзеных забезпечвае неабходныя даныя, калі прыходзіць запіт, і модэлю ніколі не трэба ператрэнаваць.

Наступны дыяграма параганяе гэтыя тры варыянты па меры дзеяння, трымце і колькасці дадзеных, якія можа обрабоцваць кожны з іх.

Што на самай працэ выкарыстоўвання дадзеных

Большая частка інжынерных рашэнняў крыюцца за тэрміном «пошук». Лексычны пошук ўспэльваецца, калі корыстнік знае точны тэрмін: коды продуктав, імены кліянтаў і номеры страховых полісаў добра рэагуюць на падбіранне ключоўых слоў. Вектарны пошук рашае іншую задачу — знаходзіць фрагменты, якія выражаюць тое ж самае іншымі словамі. Механізм гэтага прост: мадэль умяшчэння ператварае тэкст у чысловыя вектары, запыт праходзіць праз тую ж мадэль, а шар пошуку вяртае найбліжэйшыя фрагменты.

Як ператварыць тэкст у вектар — гэта сложнейшая задача. Одны вектар для цэлага длугага дакумента часта ўсё ж занадта грубы для точных пошукоў. У працэсах апрацоўкі дакументаў іх дзелюць на меньшыя, самодостатнія часткі, даўаючы певную перакрыццю, каб кантэкст не згубіўся на межах, і прыкладзаючы метаданы вучоркі, каб кожную знайдзеную частку было можна прыцягнуць да вучоркі.

Такім чынам, прыем даных адбываецца праз цэлы ланцоўку, а не праз адзін вызов API. Кожны файл аналізуецца, нормалізуецца, дзеліцца, уключаецца і індэксуецца, і, залежна ад дыяграматыкі, гэты працэс таксама можа выявіць метаданы, поля, энтытэты і зв’язкі.

Наведзены ў ніжыні дыяграма паказвае, як вучоркі файлы праходзяць праз выкарыстоўванне тэксту, яго разбіўку на часткі, стварэнне эмбедынгаў, выкарыстоўванне метаданаў і стварэнне індэксаў для пошуку.

Адна з рашэнняў прыносіць плоды пазней: трэба зберагаць достатню колькасць метаданаў, каб кожна адпаведзь могла паказаць свой вучорак. Сістэма RAG для прымененняяў должна дазволіць чытачу прыгледзецца да будзь-яго твэрджэння ў дакуменце і да частак, якія стояць за ям.

Спалучэнне стратэгій выкарыстоўвання даных

Пошук на адрэсах вектараў ёсць корыстны, але не ўсюды аднаравочна эфектыўны для кожнага запіту. Сэмантычная супадзімасць дапамагае, калі змініцца формулюванне. Точная падпаданне ключоўых слоў застаецца цінным для імен, дат, кодаў, акронімаў і спецыялізаванай тэрміналогіі. Адзысканне па графах дае ўтрохтуючы сігнал, калі адпаведзь залежыць ад адносаў між аб’ектамі, а не ад супадзімасці пасункоў. Таму адзысканне лучша рассматрываць як сумешанне стратэгій, а не як адзін запіт на пошук.

Пошук за ключоўкамі спрыяе лексычнай тачнасці, а пошук векторамі — сэмантычнаму выкарыстоўванню інформацыі. Гібрыдны пошук адмашчвае методы, якія ранжуюць рэзультаты, і з’едынае іх спіскі. Azure AI Search выкарыстоўвае метод Reciprocal Rank Fusion (RRF) для з’едынэння ранжаваных рэзультатаў паралельных пошукоў. Пошук па графах ідзе ўсё далей: сістэма выкарыстоўвае выявленыя ентытэты і адносы, каб пераходзіць па зв’язках між кантэнтамі, што дапамагае у запытаннях, да якых адпаведзь розпылена між кількама дакументамі.

Пасля чаго сэмантычны ранжавальнік можа пераранжаваць кандыдатавіць на адпаведнасць з запытам і падняць найболей адпаведныя рэзультаты на першыя месцы. Гэты другі этап мае важнае значэнне, адколі з’едынэнне ранжаваных спісакоў не паведамляе, які рэзультат найкрашча адпавядае запыту.

На следуючым дыяграме паказаны, як пошук за ключоўкамі, пошук векторамі і пошук па графах з’едынаюцца за дапамогою RRF і пераранжуюцца, прычым выбраныя фрагменты прайшлі да модэлю.

Планаванне запыту

Фіксаваны праграмны канал прыпускае, што адна пошукаванне ўсё, чым і ўзгоджуюцца багатыя рэальныя запытанні. Уявіце сабе, калі корыстнік спытаецца, як старая політыка разлічаецца ад новай і што гэта значыць для падрадчыкаў. Унутры ціх процэсаў крыюцца калькі заведамацтваў: трэба знайсці два дакументы, выявіць актуальныя часткі з кожнага з іх, аналізаваць апрынтакі, а пасля напісаць сінтэзу.

Агентны спосаб адзыскання інфармацыі перакладае гэты планавання ў сам працэс адзыскання. Агент аналізуе запыт, дзеліць яго на конкрэтныя падзапытанні, выкарыстоўвае історыю кансэртацый для кантэксту, адбывае пошукаванні паралельна, перэранжуе рэзультаты і з’едынае апрынтакі ў адну обосаваную адпаведзь. Архітэктурная разліка заключаецца ў тым, што адзыскання інфармацыі больш не ёсць адзінам складаннем, якое завжды дзеяе аднакова. Програма сама вяршыць, сколькі пошукаванняў патрэбны і якія апрынтакі трэба збіраць прычыму пачатку стварэння адпаведзі.

Ніжчэй паказан прыем планавання, які дзельніць адна складная запітанне на паралельныя задачы пошуку і спаўнюе атрыбуты ў адпаведны адказ.

Ацэнка

Сістэма RAG можа даць граматычна правільны адказ нават тады, калі пошук быў слабы, таму перыядычныя ручныя перагляды не можу быць ўсім процэсам контролю якосці. Тры окрэмыя запытанні дапамагаюць:

  • Якосць пошуку: чы рэзультаты пошуку маюць сувязь з запытаннем?
  • Апарэнне ў рэальнасці: чы гэтыя рэзультаты падтрымліваюць створаны адказ?
  • Сувязь: чы фінальны адказ адпаведае таму, што было запытана?

Адныя з іх выдэляюць разныя прычыны абэкцэў. Слабы пошук нельга выправіць перапісвам фінальнага адказу, адказ, апарэнны ў рэальнасці, можа ўсё раве не адпавядаць сутнасці запытання, а адказ, сувязанный з тэмай, можа міцыць не падтрыманыя тверджэнні. Microsoft Foundry прысвячае ацэнкавальныя інструменты для гэтых аспектаў якосці RAG.

Наступны ўзорак паказвае, як тры методы ацэнююць разныя пункты абяцкі ў адпаведзі RAG.

У працэйнай суперактуальнасці ацэнка ведзецца без перапынку: скупляюцца рэйтынгі, і выдаецца апавешчэнне, калі яны падыходзяць ніжэй за планаваны рэ벨. Тады якасць перастае быць експрэс-тэстам і стае часткай можлівасцяў назірання за прыемліваннем дапамогі.

Аб’еднанне элементаў

Калі адпаведальнасці раздзелены, сістэму легча разумець. Выдзеляюцца тры тэчкі:

  • Офлайн-тэчка: падготавляе корпус па мэты разбіркі выканаў, ўкладкавання іх, дадавання метадаў чы адносаў між ентытамі, а пасля запісвае все ў індэксы для пошуку
  • Онлайн-тэчка: адпавядае на запіт, пры чым планавальнік выбірае, што шукаць, пошук ведзецца за дапамогою адпаведных стратэгій, кандыдаты зліваюцца і пераранжуюцца, а выбраныя доказы надаюцца модэлю
  • Цыкл адзынакоўвання: ацэнюе якасць выкарыстоўвання дадзэнняў, ўзгадванасць і рэлевантнасць, паказваючы, як змяны ў прыеме дадзэнняў, ранжыраванні, запытках чыста дадзэнняў або самых дадзэннях паўтараюцца на корыстувальніках
  • Кансэпт і напамінак па адзынакоўванні рашэнняў RAG ад Microsoft раздзеляе іх на аднальныя задачы дызайну, што ўтрымлівае працэс стварэння рашэння.

    Далей паказана цэлысная картына, якая включае прыему дадзэнняў па афлайн-шляху, выкарыстоўвання дадзэнняў па онлайн-шляху і стварэнне рэзультатаў, а таксама стацыонарнае адзынакоўвання.

    Такое раздзеленне таксама паказвае, чаму практычнае выкарыстоўвання пераходзіць за межы таго, што можа парадзіць пратэтап. У сістэме ёсць парсінг дакументаў, індэксы, вектарныя і лексычныя пошукі, звязкі між графамі, ранжыраванне, вызовы модэляў, цітаты, адзынакоўвання і інтэрфейс корыстувальніка. Управляемыя службы чыста платформы можу запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запроста запрост

    Для прыткага выкорыстання архітэктуры ў прыкладнай програме фінансавыя звясткі ўтвараюць хорашы матэрыял. У іхах з’яўляюцца дугія дакументы, точныя цыфры і паўтараючыся тэрміны, таму неправільная цыфра адразу стае зрозумелай.

    У прыкладнай програме ёсць чатыры шары. Фронтэнд Blazor Server выкарыстоўвае Telerik UI for Blazor для чата, графікаў, сітак і планування. Ён запоўнюе Nuclia .NET SDK для запрашэння дадзеных, а сервіс RAG адпавядае за ўваходжэння дадзеных, гібрыднае і графічнае запрашэння, перыяркаванне і ацэнку.

    Шары паказаны на гэтым дыяграме: Blazor Server, Telerik UI, Nuclia SDK і сервіс RAG.

    Фінансавыя PDF-файлы былі обработаны так, каб можна было выявіць пошукаваемы контэнт і структураваныя поля. Чыгульнае для дадзейнаў было два спосабу перакантролю: стандартны адзысканне для запытанняў на натуральны язык і структураваны выхід для значэнняў, прызначаных для інтэрфейса. Тэст, які запытваў пра чысты выручку за фінансавы год, вярнуў цяжэнню разам з інформацыяй пра ўзорак. Фінансавыя адказы патрабуюць апісання так сама, як і самага адказу, калі ўжо таму, што гэта паказвае корыстніку безпосерэдна, дзе знаходзіцца даныя.

    Дзяржава прыкладнае програма павярнуецца на механізм AskAsync SDK, і ўжо таму, што адказ можа быць не толькі тэкстам, гэта ёй ўдобна. Разам з запытам прыкладзаецца тып C# пад назвай ChartAugmentedAnswer. SDK ператварае яго ў схему JSON, а агент адзыскання выкарыстоўвае гэтую схему пад час адказвання, а JSON, які ён вяртае, пасля чаго ператвараецца на об’ект C# з адпаведным тыпам.

    Этот дыяграма паказывае шырок пацёгу ад тыпу C# да схемы, пасля — адзыяванне доказаў, а потым — адзыяванне дакументацыі графіка.

    Гэта адзяляе ненадзеяны крок. Не трэба парсаваць тэкст, каб з’ясавіць, якія даныя патрабуюцца для графіка. Тэкст і структураваныя значэнні прыходзяць у аднам об’екце, і компанента графіка безпосерэдна ўз’яўляе з іх даныя.

    Выбіранне правага рэвэля

    Маленькі, короткачасовы істочнік можа быць обработан толькі кантэкстным вікнам. Большы корпус з прымітнымі фактычнымі запытамі обрабатваецца за дапамогою класычнага падходу RAG як базовая мадэль: граматычна разбівка, пошук за вектарамі і ключовымі словамі, цітаты і ацэнка. Багатыя, дыялогавыя запыты або тые, якія залежаць ад звязкаў між істочнікамі, вымагаюць планавання запыту і агентскага адзыявання дакументаў. Пошук у графах стае прыдатным, калі у запыце ёсць вопыты пра адносы між ентытамі, але ён дадае сложнасці, таму сама толькі наявнасць такога падходу не ёсць праблемай для яго адпрацоўкі.

    То ж самае стосуецца кераваных платформ. Яны скрашчуюць колькасць элементаў сістэмы пошуку, якія трэба падтрымваць, тады як самастая стварэнне служб дае большую контроль над індэксаваннем, оркестрацыяй, ранжыраваннем і інтэграцыяй. Правы выбар залежыць ад таго, які слой команда хочаць контролаваць.

    Адна частка не можа чакаць: ацэнка. Калі корыстувальнікі пачынаюць павергацца адпаведным адпаведзям, неабходна наяўнасць способу, які дазволяе пераверыць, чы праца сістэмы пошуку і генеравання даных застаецца такой, як і чакалася.

    Пратэтып паказвае, што адзысканне можа работаць. У прымэннай працы трэба паказаць штось сложнейшае: правыя доказы продовжваюць з’являцца ў віглядзе дадзэнняў, калі змінююцца запытанні і корыстувальнікі. Гэта стае можлівым, калі адпаведныя абавескі будуць раздзелены. Створыце адлагоджаны канал прыемы дадзэнняў, зберагаюце цітаты і метаданы выканаў, сумешайце методы адзыскання, калі аднаго сігналу недастатнь, перарангаваце рэзультаты пры ўтворэнні тэксту, планаваце запытанні, калі для ўтварэння адпаведнай адпаведзі трэба кілька пошукоў, і сачыце за якасцю, адпаведнасцю і значэннем адзысканых дадзэнняў, каб змяны былі відны як прамеры, а не як простыя здагадкі. Розумны парадак стварэння: пачніце з самага простага патэрна адзыскання, які рашае сягоднішню проблему, і дадзіце наступны слой толькі тады, калі прыкладнасць пакажае, што ён неабходны. Такія рэзультаты лёгкаяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяя

  • RouteRAG: Як навучыць маленькі мадэль калі і як выкарыстоўваць RL для адналёгчэння пошуку — Як RouteRAG выкарыстоўвае дваэтапную падготовку GRPO для перэкіду между пошукам у фармаце пасажаў, графаў і гібрыдных фарматах, чым скрачвае колькасць крокаў пошуку і дапамагае маленькім мадэлям у багатоэтапных задачах аналізу запытанняў.
  • Практычныя нотаткі: Пошук вектараў, семантычны пошук і RAG: Як AI знаходзіць — Паследовы апіс практычных нотатак: Пошук вектараў, семантычны пошук і RAG: Як AI знаходзіць: контракты, перакананні і шаблоны коду для команд, якія впрыменяюць гэты падход.