Пошук і суддзя для RAG: чаму пошуку патрэбны асобны этап пераранжавання
RAG патрабуе пошуку і суддзі: эмбедынгі знаходзяць кандыдатаў, але не ацэньваюць рэлевантнасць. Двухэтапная схема з RRF, крос-энкодэрамі, ColBERT і LLM-пераранжавальнікамі.
Большое колька команд сталкаецца з тым жа проблемам пад час выкарыстоўвання генеравання з падтрымкай адзысквання інфармацыі. На дошцы зместоў сістэма выглядае проста: вводзіцца запіт, паўпаралельна вырахоўваюцца вектары, найлепшыя рэзультаты перэдаюцца модэлю, і атрымліваецца адпаведнае адказа. У рэальных умовах жа быстра з’яўляюцца проблемы: пропускаюцца значымыя дакументы, прасачуюцца незначымы фрагменты, нават незначна зменены запіт можа зменіць адказ, а галюцынацыі застаюцца нават тады, калі адзысквання інфармацыі, здаецца, працавала правільна.
Звычныя рашэнні — заменіць модэль эмбедынгу на крашчую, падняць размернасць вектараў або налаштаваць параметры top-k і размер фрагментаў. Гэтыя заходы ўзрэшальныя, але яны налаштовваюць не тую частку сістэмы. Глыбэйшая проблема — архітэктурная. Канвэнцыйны прайсепт прасіць ад однага механізму, адпаведнага для вырахоўвання сэмабільнасці эмбедынга, выконваць два абсалютна разныя заведаменні: знаходзіць кандыдатаў і выбіраць, якія з іх ёсць значнымі.
Рашэнь — раздзеліць заведамы. Нейтрыбуецца шуканне патэрана і адзынакоўкі: дваэтапны дызайн, у яком стварэнне кандыдатаў і ацэнка ўзаемнасуязу ёсць аднальныя інжынерныя задачы, якія рашаюцца за дапамой аднальных інструментаў.
Чаму сама тыпаўнасць недастаткова
Naive RAG ператварае запыт у эмбеддынг, выбірае K найбліжэйшых фрагментаў з базы знаёмых дадзенняў, прыкладвае іх да запыту і дазваляе модэлю дааць адказ. Неазначаная прыпуск — што блізкасць равнася узаемнасуязу, таму спіс з K элементаў спакойна прыймаецца без жадной перакананні. У гэтым падходзе ёсць чатыры проблемы.
Падобнае не значыць тое ж, што і рэлевантнае. Абстанцыя імбеддынгу ўособлівае апрыксуванне топічнай блізкасці. Два тэксты можу стаць падалей адзін ад другога, але ні адзін з іх не можа адпаведаць на запытанне, якое ставіць другі. Тэкст пра правіла лечэння гіпертэнзіі і тэкст пра методыкі тэставання кардыяваскулярных прыемных засобаў могу знаходзіцца падалей адзін ад другога, пры тым толькі першы можа дапамогчы людзі, якая вяршыць выбор, як лечыць паціѐента.
Прабортакцыя ў слабым стане. Вектарная абстанцыя — гістэрычны метод, а не функцыя ранжыравання, створаная так, каб пазіцыя відображала рэлевантнасць. Разлік межа трэцім і сьпявам рэзультатам у косайнавай сістэме ранжыравання часта ёсць шумам.
Кантэкст стае фрагментаваным. Разбіўка на чакі разрывае звязкі, іерархію і прычыну-наследак. Чак, якая апісвае дозуванне, можа апынуцца окола чакі, якая опісвае протыпаказванні, і ні адна з іх сама по сабе не ёсць цэлым.
Рэзультаты ўстойчывыя ня ўсё. Незначныя змены формулюванняў могу змяніць скупку элементаў top-K. Запыт пра побачныя эфекты метформіну паўстацельна да неблагопрыятных рэакцыяў на метформін можа даць разныя кандыдаты, і заканчоўны адказ можа змяніцца ў залежнасці ад іх. Гэта являе сабою дыфект надзеямнасці, а не дэталь налаштавання.
Корача кажучы, пошук дае кандыдатыв. Ён не гарантуе правільнасць.
Двухэтапны дызайн
Уместа таго, каб адна сістэма шукала і ацэнівала, створыце два этапы, кожны з якіх налаштаваны для сваёй меты.
Першы этап — пошук, выкорыстоўвае намерна шырокі метод. Выбіраецца ад 50 да 200 кандыдатыў, што ў дзесяткі разоў больш, чым можна было бы паказаць модэлю, таму што мета тут — вярнайшае знаходжэнне. Правія дакументы проста павінны быць дзе-небудзь у гэтым наборэ, нават калі ён наполнены шумамі.
Другі ўраджэнні, суддзі, выкарыстоўваюць набліжна сільнейшыя крытэрыя. Як правілу, гэта ўстройства тыпу крос-кодэра-рэранкера, якія чытаюць запіт і кожны з кандыдатаў разам і вырахоўваюць адпаведны бал рэлевантнасці. Яны зменшаюць колькасць варыянтав до пяці-дэсяці аб’ектаў з высокай доверлівасцю. Лячынальна толькі тады зібраны кантэкст падае на мовны мадэль.
Што на самай працэ прадаюць эмбеддынгі
Неправільнае разумеўце ролі эмбеддынгаў ўскладнюе ўжыцце іх командамі. Уявіце бібліятэкара, які не чытае кожную кнігу, але прызначае кожнай калякі ключовыя тэмы. Калі прыходзіць запіт, бібліятэкар перакладае яго на адпаведныя тэгі і выбірае кнігі, чыяя тэгі наіболей падходзяць. Гэта шырока і зазвычай дапамагае знайсці карысны матэрыял, але гэта відбываецца на адзінстве тэм, а не на глыбокам разумеўце, таму дзеякія кнігі можаць быць супаўзаемыя, але не тыя, якія вам трэбаецца.
Паслядкі: ваша мадэль укладання ёсць асабліваннем вашага пошуковага паведання. Яна выбірае, што будзе знайдзена, а што — працягнуцца. Яна не выбірае, што ў правілі, і гэта ўжо ролі этапы суддзі.
Таму выбір мадэлі укладання — гэта рашэнне, якое вплывае на рывень вярнага асаблівання. Вы выбіраеце „лянцэ“, праз якую першая стадыя бачыць корпус даных. Узважайце такі паказнікі эфектыўнасці, як MTEB і BEIR, абсяг падтрымваных мов, розмер мадэлі у супараванні з вашым апаратным забезпечэннем, вектарную размеру, максымальную дужыну вхідных даных і швальнасць вычыслення. Усе гэта стосуецца рывня вярнага асаблівання.
Варыянты суддзі і калі кожны з іх падходзіць
Суддзя — гэта ролі ў архітэктурэ. Яе можа выпалваць калькілявання, пры чым існуюць разныя компрэсіі ў аспектах тачнасці, затрымкі, складнасці і косту.
Рэкіпрыкальная фюзія рангаў
RRF ўзагалі не ацэнюе рэлевантнасць. Ён з’едынае спісы дакументаў, ранжаваныя з калькольных джэрэл, напрыклад, за дапамогою пошуку за ключоўымі словамі і семантычнага пошуку, у адны парадак. Для кожнага дакумента ён дадае значэнне 1 / (k + ранг), дзе k — сталя, якая зазвычай станавіць 60, і якая зменшае вялікі вплыв дакументаў, якія знаходзяцца на самых высокіх пазіцыях. Дакументы, якія маюць высокі ранг у калькольных спісах, падымаюцца вышэй.
Гэты метод ўздоўжны, дэтэрміністычны, не выклікае неабходнасці інферэнціі модэлю і практычна не стварае затрымакаў. Паколькі ён выкарыстоўвае пазіцыі рангу, а не чыстыя балы, ён ухіляецца ад несувярэннасці межу БМ25 і косай схожасці, таму няма патрэбы ў нормалізацыі.
Ягоя мерыя — гэта тое, што ён ведае толькі парадакс. Якшчынае калькуляторы сцанавляюць дакумент як важлівы, RRF прыймае, што ён, верагацей, такі і ёсць. Гэта разумная гістэрычная метода, але застаецца гістэрычная. Ён не можа аднаходзіць рэлевантны дакумент, які працяглівалі всі калькуляторы, і не можа аддзеліць дакумент, які знаходзіцца поблізу па тэме, ад таго, які адпавядае на запытанне.
Іспользуйце яго для гібрыднага пошуку, калі вам патрэбны простыя способы з’едынэння спісаў. Ён належыць да этапы пошуку як спосаб павышэння якосці кандыдатаў, і ён не заменяе адпаведальнага адналежнага.
Крос-кодэраў
Крос-энкодэр працюе з запітам і адзінам кандыдатам, практыкуючы іх разам як адну секвэнцыя ў модэлі, і вяртае рэйтынг адносовай значымасці. Бі-энкодэры інкорпоруюць запіт і дакумент окалічна адзін ад другога, тады калі тут кожны токэн запіта можа взаімацься з кожным токэнам тэксту. Такім чынам модэл можа аналізаваць, як конкрэтныя фразы ў запытанні адносуюцца да конкрэтных фраз у тэксце. Тыповыя прыклады — модэлі Sentence Transformers, такія як cross-encoder/ms-marco-MiniLM-L-12-v2, сервісы для пераранкінгу і крос-энкодэры, налаштаваныя на медычныя, правовыя або научныя даны.
Іхня сіла — тачнасць. На тэстах ранкінгу яны зазвычай перамагаюць іншыя падходы, таму што ўловляюць дробныя взаімадзеянні, якіх не можа даць толькі аналіз сэмантычнай супарадненасці. Гэта максымальна мерка таго, чы рэальна дакумент адпавядае запытанню, без неабяжнага выкорыстання цэлага LLM.
Кошт складаецца з адзінольнага вычыслення для кожной пары запіту і кандыдата. Калі ёсць 100 дакументаў, то для кожнага запіту трэба адкрыць 100 модэляў, таму час адпаведзення расце лінейна з розмерамі калекцыі, а большыя модэлі паглыбляюць гэтую проблему.
Яны ўжо ўсталеныя выбары там, дзе главны прыорытэт — якасць адпаведзення: охорона здароў’я, права, састаноўчасць, фінансавы аналіз, любая сфера, дзе неправільны выбар мае наследкі. Калі бюджэт на час адпаведзення дазволяе прыблізна 50–200 мілісекунд на пераранжаванне, што можа сабе парадзіць большасць нерэаль-таймовых сістэм, пачніце з іх.
ColBERT і пазнія взаімадзея
ColBERT, які ўскорочанне назва для contextualized late interaction over BERT, знаходзіцца між бі-энкодэрамі і крос-энкодэрамі. Ён незалежна адзін адзін кодуе запіт і дакумент у вектары на кожны токен, а пасля оцінюе іх па адпаведнасці токенав запіта і токенав дакумента. Паколькі вектары дакумента можна прадзеясніць загадзя, ў час запіта ўжыцце яго значна дэшавае, чым у крос-энкодэра, пры тым як ён зберагае больш дакладнасці, чым адзін об’еднаны вектар. Недзея гэтага — большы індэкс, адколькі кожны токен атрымлеў вектар. Ён падходзіць для сістэм, якім патрэбны лепшыя рангі, чым у звычных эмбедынгаў, і вышы праўільнасць апрацоўкі, чым можа даць крос-энкодэр.
LLM як суддзя
Звычны мадэль мовы можа безпасабліва ацэніць кандыдатаў. Яна справляецца з нюансаваным, багатаслоўным паказаннем рэлевантнасці, напрыклад, выявляе, што дакумент пра взаіе медзынскіх прыемакоў стосуецца пытання пра безпеку лечэння, нават калі слоўнік не перакрываецца. Яна таксама можа следаваць чыста выказаным крэтэрыям рэлевантнасці ў запытанні, што робіць яе прыстосованай да домен-спецыфічных значэнняў рэлевантнасці.
Гэта таксама, без сумневу, найдорожэйшы варыянт. Адна вызова для перэранківання можа зайняць ад однаго да пяці секунд і коштаць у дзесяць-ста разоў больш, чым праходжанне праз крос-кодэр. Рэйтынгі можа разлічвацца між разнымі запускамі, а мадэлі паказваюць уперакошанне па пазіцыі, прабліжваючы дакументы, якія паказаны раней у запытанні. Мадэлі, якія хостуюцца, дадаюць зовнішню залежнасць.
Эта практыка ўсуненая ў двух сцэнарыях: калі праця ведэцца офлайн або у пакетных заданнях, дзе затрымкі не маюць значэння, напрыклад, пад час стварэння рэтэльна падготавленых баз знанняў, ацэнкі працэсу пошуку пад час розрабоцы або стварэння дадзеных для навчання спецыяльных алгорытмаў ранжыравання; і ў інструментах з высокай значамасцю, але малым об’ёмам дадзеных, дзе цэннасць правільнай адпаведзі ўсуненая перакрыць вартасць апрацоўкі кожнага запіту, напрыклад, пад час медычных або правовых доследжэнняў на рэвалідаваным рэвэрсе.
Выбір модэляў для кожнага этапу
Розумеўце патэрнаў — адна спраба, а выбір модэляў — іншая. Архітэктура дае вам два варыянты выбору, кожны з якіх залежыць ад задачы.
Пачніце з задачы
Адказванне на клінічныя запытанні, анаіз дакументаў і саработа з прававымі нормамі выклікаюць разныя патрабаванні. Контроль ясносцы трэбуе высокай тачнасці пры малым колькасці дакументаў. Анаіз аддае значэнне шыроце і разнаўтнасці. Саработа з прававымі нормамі выклікае патрабаванні да дэтэрміністычнага, перагляджальнага аднаходжэння інфармацыі з мінімумам хыбна-негатыўных рэзультатаў. Профіль задання вплывае на кожны наступны выбор.
Мадэль уя়кладання задае верхнюю межу вашага вярнага аднаходжэння
Яна вялічына выявляе, што сістэма можа знайсці прычым да таго, як будзе выдана адпаведнае рашэнне. Рэлевантны дакумент, які ніколі не патрапляе ў спіс, не можа быць аднаходзены ніякім іншым методам ранжыравання. Пораўняйце кандыдатаў па гэтым пунктам:
- Бенчмаркі. Абдзірайце рэзультаты MTEB і BEIR для тыпу задання, які ў большай меры супадае з вашым, напрыклад, аднаходжэнне аблакаў тэкста або адказванне на запытанні, а не толькі сумарную оцэнку.
- Языкі і сфера прыменення. Багатыязычныя мадэлі жэртвуюць часткай тэчнасці моноязычных модэляў за шыроту, тады як мадэлі, налаштаваныя для певной сферы, робяць працоўнае працэса. Пераканайцеся, што ваша тэрміналогія пакрываецца.
- Размер і інфраструктура. Большыя мадэлі зазвычай даюць лепшыя рэзультаты, але коштаюць дорожэ у масштабе. Акцэнтавайце увагу на об’ёме індэксавання, працэсае запытанняў і вартосці вікорыстоўвання GPU працоўнае CPU. Модэль, якая на 3 процэнты крашчая па певным крытэрыям, але для якой трэба вдвое большых вычыслювальных рэсурсаў, можа віявіцца паслабленым варыянтам.
- Векторная размернасць. Большая колькасць векторных размернасцей дазволяе зафіксаваць большую колькасць нюансаў, але паўзычвае запасы на зберагачы і збільшае затрымкі. Багатыя мадэлі прыменяюцься у розных размерах, таму пераканайцеся, чы розніца між 768 і 1536 размернасцямі справды варта дадатковых зусілляў.
- Максымальная дужына вхідных дадзенняў. Гэта обмежвае можлівасці ўкладання дадзенняў у часткі. Ліміт у 512 токенав прымушвае ствараць маленькія часткі, што прыводзіць да большай фрагментацыі, тады як 2048 або 8192 токенав дазволяюць зберагчы больш кантэксту ў кожной частцы.
- Скорасць. Час запуску процэсу вбудоввання мае значэнне як пад час стварэння індэкса, так і пад час адказу на запіт. Меншыя мадэлі можаць забезпечыць хорашы рэзультат пад значна ніжэйшым часам запуску, калі ёсць строгіяя тэрміны адпаведнасты.
Прынцып: налаштовваць мадэль вбудоввання па крытыю і скорасць, а не па тачнасць. Тачнасць — гэта задача судды.
Рэранкер выканае заканчоўную пераканальванне
Гэта апошні фільтр пры перадачы даных да LLM, таму яго якасць безпасебна вплывае на тачнасць адказу. Ацэніце яго па:
- Тачнасць ранкіравання. Галоўны показнік. Пераканальвайце nDCG, MRR і MAP на тэстах, якія адпавядаюць вашай галузі. Нават незначныя падышкі тут можаць значна зменшыць галюцынаціі ў вынікавых адказах.
- Час запуску. Рэранкер запускаецца аднае разы па кожны кандыдат, таму 100 кандыдатаў значыць 100 запускаў. Час за адны запуск і загальны час ёсць важлівымі лімітамі пад час працы.
- Салідарнае выкорыстанне домэнаў. Звычныя прыстроі для перраэнкіга добра справляюцца з шырокім адшуканнем, але домэны з высокымі выкарыстаннемымі патрабаваннямі часта отрымаюць выгоду ад прыстроёў, налаштаваных на падставе дадзэнняў прыналежнасці домэнаў. Пррыстрой для перраэнкіга, навучаны на медычной літэратурэ, лепшая адпавядае на клінічныя запытанні, чым звычны пррыстрой, нават якшы той паказвае вышыя рэзультаты на загальных крытэрыях.
- Пропускная здатнасць. Пад вялікім трафікам пррыстрой для перраэнкіга можа стаць вузкім месцам. Абдумайце можлівасць групавага апрацоўкі, паралелізма модэляў і тое, чы не дастае легкія альтэрнатыва — структураваны крос-энкодэр аб модэль з пазнейшай інтэраакцыяй — прыемныя показнікі тачнасці пры значна вышай пропускной здатнасці.
Інвестуйце ў аба.
Самыя эфектывныя сістэмы не выбіраюць между хорашым алгорытмам уявлення даных і хорашым алгорытмам перэранкіравання, таму што гэтыя два алгорытмы выконваюць незалежныя задачы. Хорашы алгорытм уявлення даных у поўнэй залежнасці ад слабог алгорытму перэранкіравання дае высокі рэгрэт і некалькісныя фінальныя рэзультаты. Слабы алгорытм уявлення даных у поўнэй залежнасці ад хорашог алгорытму перэранкіравання дае точную аранжаванне сярод непূরнага калекцыі кандыдатаў. Ні адны з гэтых алгорытмов сам по сабе недастатковы.
Секрэт успеху — гэта шырокі пошук з высокім рэгрэтом плюс сільны, точны механізм адліквідацыі ранкі. Падберыце алгорытм уявлення даных па вашым патрэбам да рэгрэту, а алгорытм перэранкіравання — па патрэбам да точнасці, а потым налаштавайце розмер калекцыі кандыдатаў між стадыямі, каб сбалансаваць ступень пакрыцча і час выканання перэранкіравання.
Прыклад працы
Уявіме сабе клінічнага асістэнта, якога запыталі, чы можа паціўент, які прыемліе адпаведны прызначак проты дыябету, безбедна прыемліць ўтварожны прызначак. На стадыі пошуку паралельна выкананы запыт на ключовыя словы і векторны запыт, якія з’едынаюцца за дапамою методу RRF і залішаюць 100 кандыдатаў. Серэд іх знаходзяцца мануалы па кожным прызначку, статты пра падходы да рандамайзаваных доследжэнняў, загальныя інструкцыі па харчуванні і калькуляторы взаімадзеясцей прызначакаў. Лячыльнае значэнне сама по сабе можа паставіць артыкул пра доследжэнне і інструкцыі па харчуванні вышэй за калькулятор взаімадзеясцей, таму што ўжотыя ў іхіх тэкстах словы болей адпавядаюць запытанню.
На стадыі судды чытаець запытанне пад кожным з ста абзацоў і ацэнюе, чы рэальна абзац разглядае каляўкавое выкарыстоўванне. Табеля взаімадзеяў і адпаведны параграф пра пратыямкі падыходзяць да верху, лістак падыходзіць ніжэй, і модэль атрымлеў шасць абзацоў замест шумных дзесяці. Той самы корпус, тыя ж эмбеддынгі, аднынешній рэзультат — таму што другі компанент прымеў рашэнне, якога першы ніколі не быў створаны прымець.
Настройка пераходу між стадыямі
Размах аплікантава кантэйнера ўсё чыгунны элемент. Калі ён занадта маленькі, суддзя ніколі не бачыць правільнага тэксту, што обмежвае рэкалі для всія сістэмы. Калі ж ён занадта вялікі, час і вартасць пераранжавання зрастаюць без значных выгод. Практычны спосаб прызначэння такога кантэйнера — запісаць на пазначанай прыкладзе ранг, у якім правільны тэкст з’яўляецца на першым этапе, а потым выбраць кантэйнер, які пакрывае майжэ ўсе такія прыклады. Калі правільны тэкст рэгулярна знаходзіцца за рангам 150, проблема, верагодна, лежыць у этапе пошуку — трэба вікорыстаць лепшы алгорытм уключэння, гібрыдны спосаб адналёгчэння або паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць паспрабаваць
Спрыяйце гэтаму як гіпотэзе, якую трэба перапрацаваць на савойных даных, а не як гаранцыю, адтолькі што рэзультаты залежаць ад домэна і ад таго, насколькі слабкі быў выхідны рывень.
Вывад
Надзеяны RAG не атрымліваецца праз пошук лепшых эмбедынгаў. Ён даходзіць праз раздзелэнне пошуку і адгукі: адна стадыя максымізуе охват, а другая — точнасць.
Цяны змін являюцца перадусім концэптуальнымі, а не тэхнічнымі. Перастаньце спрыяваць топ-K як фінальнай адпаведзі і спрыяйце як набору кандыдатаў. Перастаньце спрыяваць сэмабільнасць як правду і спрыяйце як гіпотэзе, якую трэба перапрацаваць. Пашукайце шырока, а потым адгукайце тачна.
Супаўязаныя матэрыялы
- Развітыя тэхнікі RAG на Milvus: гібрыдны пошук, HyDE, перапісваць запіты і пераранжаванне — Пашагоўна стварэнне пайплайна RAG на Milvus: вектары тыпу dense і BM25, гібрыдны пошук RRF, фільтры метадаў, перапісваць запіты, тэхніка HyDE, дэкомпанаванне і пераранжаванне за дапамою крос-кодэра.
- Практычныя заўважэнні: AI-агенты больш не патрабуюць вектарнага пошуку: усё пра архітэктуру Agentic — Пашагоўны апіс практычных заўважэнняў: AI-агенты больш не патрабуюць вектарнага пошуку: усё пра архітэктуру Agentic; замена тэхнікі RAG у 2026 годзе: контракты, перакананні і готовы код.