Артыкулы для тых, хто
выводзіць стэк у прод
Матэрыялы пра React, Node.js, TypeScript і AI. Перакладзены тэкст паказваецца, калі ён ёсць. Калі не — вы бачыце англійскі тэкст і пазнаку пра гэта.
Тэг: Reranking
Тры прычыны невялікай эфектыўнасці систем RAG у практычным выкарыстоўванні: фрагментаваны контэкст, змены ў структуре даных і неправільнае ўжыццё.
Тры ўзгляды, калі система RAG для вырабоцтва не функцыонуе: фрагментаваны контэкст унаследаваныя з процесу разбівання на часткі, зміны ў якасці з ростам базы знанняў, а таксама неправильнае выкарыстоўванне нават праз эфективнае аднаходжэнне інфармацыі, з можлівасцю выправлення на рэвэльнай ступені.
11 хв чытанняПереранжаванне ў RAG: крос-кодэраў проты суддзяў на базе LLM і іх затрымка
Як дваэтапны ранжэраўчык выправляе порядак кандыдатаў у RAG, паўстанавляючы ўпорядкаванне, а таксама порэванае выкорыстоўванне крос-кодэраў з суддзямі на базе LLM, выкладкі затрымак, спосабы выключэння і як іх ацэніць.
14 хв чытанняРазвітыя технікі RAG у Milvus: гібрыдны пошук, HyDE, перапісво запитаў і ўпорядкуванне занова.
Параграф за параграфам створыце канал Milvus RAG: вектары типу dense і BM25, гібрыдны пошук RRF, фільтры метаданых, перапісво запитаў, HyDE, дэкомпанаванне і переранжаванне за дапамогою крос-кодэра.
18 хв чытанняДыягностыка процеса адгутавання RAG: Recall@K, BM25, гібрыдныя методы фюзыі і перыякораванне
Маленькі эксперыменты з трубопрацэўнай сэткі RAG, якія пасунулі правы фрагмент на чэтвёртае месца, паказваюць, як фрагментаванне, BM25, спаўненне рангаў і паўтарна класыфікацыя вплываюць на Recall@3 і MRR.
11 хв чытанняАд простага падходу да прыменення RAG у документах SEC 10-K да ўпрацоўкі ў реальных умовах: часткаванне, гібрыдны пошук.
Чаму праграма RAG у падробніках зазнала невдачы пад час обробкі 300-сторонніх документаў 10-K, і способы ўсунення проблем: часткаванне з урахоўваннем роздзелаў, гібрыдны пошук, переранжаванне за дапамогою крос-кодэра, перакананне і цітаты метаданых.
8 хв чытанняЧаму пераранкінг — гэта самая дешавая «вялікая перамога» у працэсе RAG
Адаптавацыя 50 элементаў і ўпорядакоўка іх у 5: як крос-энкодеры для пераранкінгу выправляюць порядак у праграмнай схеме RAG, якія є прыбыткі і затрымкі, якія можна спакаваць, калі ўзяць гэта за звычку, і што самэ трэба выдаты.
8 хв чытанняЧаму RAG яшчэ дае некоректныя адказы: гібрыдны пошук, переранкаванне і Recall@K
Чыстыя фрагменты не гарантуюць хорашых адказоў. Паглядзіце, дзе збываецца аблікаванне вектараў, і як фюзыя, крос-кодэр для переранкавання, HyDE і метрыка Recall@K гэта выправляюць.
6 хв чытанняГібрыдны метод аднаходжэння даных для RAG: BM25, фюзыя рангу і переранжавання перавышаюць эфектывнасць вектарных пошукавальнікаў.
Чыстыя методы пошуку вектора не знаходзяць точных тэрмінаў. За дапамогай BM25 плюс эмбедынгі, методу сынтэзы рангу і крос-кодэра точнасць адналокавання ў гэтым распадзе RAG дасягла 91%.
6 хв чытанняДзесяць памылак у выкарыстоўванні дадзеных у працуючых системах RAG і способы ўсунення кожнай з іх.
Адзін ад розмеру частака і перакрыцця да гібрыднага пошуку, RRF, переранкінгу, выбору імбеддінгу і ацэнкі CI: дзесяць памылак у выкарыстоўванні дадзеных, якія ствараюць некоректныя адпаведзі RAG, і способы ўсунення іх.
16 хв чытання
Пра гэтыя артыкулы
Ацэнка за 24 гадзіны
Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.