Артыкулы для тых, хто
выводзіць стэк у прод
Матэрыялы пра React, Node.js, TypeScript і AI. Перакладзены тэкст паказваецца, калі ён ёсць. Калі не — вы бачыце англійскі тэкст і пазнаку пра гэта.
Тэг: reranking
Тры спосабы, якімі ламаецца RAG у прадакшне: разарваны кантэкст, дрэйф і памылковае выкарыстанне
Тры збоі RAG у прадакшне: разарваны праз разбіўку кантэкст, дрэйф па меры росту базы ведаў і памылковае выкарыстанне нават пры добрым пошуку — з выпраўленнямі на кожным узроўні.
11 хв чытанняПераранжаванне ў RAG: крос-энкодэры супраць LLM-суддзяў і іх затрымка
Як другі этап пераранжавання выпраўляе парадак кандыдатаў у RAG: параўнанне крос-энкодэраў з LLM-суддзямі, кошт затрымкі, тыповыя збоі і спосабы ацэнкі.
14 хв чытанняПашыраны RAG на Milvus: гібрыдны пошук, HyDE, перапісванне запытаў і пераранжаванне
Пакрокавы RAG-канвеер на Milvus: шчыльныя і BM25-вектары, гібрыдны пошук з RRF, фільтры па метаданых, перапісванне запытаў, HyDE, дэкампазіцыя і пераранжаванне крос-энкодэрам.
18 хв чытанняАдладка пошуку ў RAG: Recall@K, BM25, гібрыднае зліццё і пераранжаванне
Невялікі эксперымент з RAG-канвеерам, які ставіў патрэбны фрагмент чацвёртым: як разбіўка, BM25, зліццё рэйтынгаў і пераранжаванне мяняюць Recall@3 і MRR.
11 хв чытанняАд наіўнага да прадакшн-RAG на справаздачах SEC 10-K: разбіўка і гібрыдны пошук
Чаму падручнікавы RAG не справіўся з 300-старонкавымі 10-K і што дапамагло: фрагменты з улікам раздзелаў, гібрыдны пошук, пераранжаванне крос-энкодэрам, валідацыя і цытаты з метаданых.
8 хв чытанняЧаму пераранжаванне — найтаннейшае вялікае паляпшэнне RAG-канвеера
Знайсці 50, пакінуць 5: як пераранжаванне крос-энкодэрам выпраўляе парадак у RAG, якога выйгрышу і затрымкі чакаць, калі ад яго адмовіцца і што выкаткваць.
8 хв чытанняЧаму RAG усё яшчэ дае памылковыя адказы: гібрыдны пошук, пераранжаванне і Recall@K
Чыстыя фрагменты не гарантуюць добрых адказаў. Дзе вектарны пошук памыляецца і як гэта выпраўляюць зліццё рэйтынгаў, крос-энкодэр, HyDE і вымярэнне Recall@K.
6 хв чытанняГібрыдны пошук для RAG: BM25, зліццё рэйтынгаў і пераранжаванне перамагаюць вектары
Чысты вектарны пошук прапускае дакладныя тэрміны. BM25 разам з эмбедынгамі, Reciprocal Rank Fusion і крос-энкодэр далі гэтай наладзе RAG 91% дакладнасці пошуку.
6 хв чытанняДзесяць ціхіх памылак пошуку ў прадакшн-RAG і як выправіць кожную
Ад памеру і перакрыцця фрагментаў да гібрыднага пошуку, RRF, пераранжавання, выбару эмбедынгаў і ацэнак у CI: дзесяць памылак пошуку за няправільнымі адказамі RAG і іх выпраўленні.
16 хв чытання
Пра гэтыя артыкулы
Ацэнка за 24 гадзіны
Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.