Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: Reranking
Три причины сбоев в производственных системах RAG: фрагментированный контекст, дрейф и неправильное использование.
Три причины неудач работы систем RAG в производственных условиях: фрагментированный контекст из-за разбиения на чанки, ухудшение качества по мере расширения базы знаний и неправильное использование системы несмотря на эффективный поиск информации, а также способы устранения этих проблем на уровне слоев.
11 мин чтенияПереранжировка в RAG: кросс-кодеры против судей на основе LLM и их задержка
Как второй этап ранжирования улучшает порядок кандидатов в RAG, сравнение кросс-кодеров с судьями на основе LLM, затраты на задержку, способы сбоев и способы их оценки.
14 мин чтенияРасширенные возможности RAG в Milvus: гибридный поиск, HyDE, переписывание запросов и переранжирование.
Постройте пайплайн Milvus RAG пошагово: плотные и BM25-векторы, гибридный поиск RRF, фильтры метаданных, переписывание запросов, HyDE, декомпозиция и переранжирование с помощью кросс-кодера.
18 мин чтенияОтладка процесса извлечения данных в RAG: Recall@K, BM25, гибридное объединение и повторная классификация
Небольшой эксперимент с пайплайном RAG, в котором правильный фрагмент занял четвертое место, демонстрирующий, как разбиение на фрагменты, алгоритм BM25, слияние рангов и повторная оценка влияют на показатели Recall@3 и MRR.
11 мин чтенияОт простого подхода к производственному решению RAG для отчетов SEC 10-K: разбиение на фрагменты, гибридный поиск.
Почему пайплайн RAG в учебнике потерпел неудачу при обработке 300-страничных отчетов 10-K и как это исправить: разбиение на фрагменты с учетом структуры разделов, гибридный поиск, переранжирование с использованием кросс-кодеров, проверка качества и использование метаданных.
8 мин чтенияПочему переранкинг — самый экономичный способ добиться значительного прогресса в пайплайне RAG
Загрузка 50 элементов, их переранжирование до 5: как переранжирование с использованием кросс-энкодера исправляет порядок в пайплайне RAG, ожидаемые преимущества и задержки, когда его стоит пропустить, и что следует включить в релиз.
8 мин чтенияПочему RAG всё ещё даёт неверные ответы: гибридный поиск, переранжирование и Recall@K
Чистые фрагменты не гарантируют качественных ответов. Рассмотрим, где терпит неудачу поиск векторов, и как методы фьюжн, кросс-кодер для переранжирования, HyDE и метрика Recall@K это исправляют.
6 мин чтенияГибридный поиск для RAG: BM25, методы Rank Fusion и переранжирования превосходят векторные подходы.
Чистый векторный поиск упускает точные термины. Использование BM25 в сочетании с эмбеддингами, метода слияния рангов по принципу обратных взаимосвязей и кросс-кодера для переранжирования позволило добиться точности поиска 91% в этой схеме RAG.
6 мин чтенияДесять скрытых ошибок поиска в производственных системах RAG и способы устранения каждой из них.
От размера блоков и перекрытия к гибридному поиску, RRF, переранкингу, выбору эмбеддингов и оценке CI: десять ошибок поиска, приводящих к неверным ответам RAG, и способы их устранения.
16 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.