Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: Retrieval
Три причины сбоев в производственных системах RAG: фрагментированный контекст, дрейф и неправильное использование.
Три причины неудач работы систем RAG в производственных условиях: фрагментированный контекст из-за разбиения на чанки, ухудшение качества по мере расширения базы знаний и неправильное использование системы несмотря на эффективный поиск информации, а также способы устранения этих проблем на уровне слоев.
11 мин чтенияПереранжировка в RAG: кросс-кодеры против судей на основе LLM и их задержка
Как второй этап ранжирования улучшает порядок кандидатов в RAG, сравнение кросс-кодеров с судьями на основе LLM, затраты на задержку, способы сбоев и способы их оценки.
14 мин чтенияПочему существует RAG: параметрическая память, плотный поиск и статья 2020 года.
Почему существует RAG: ограничения параметрической памяти, как BM25 и эмбеддинги привели к плотному поиску, и какие компромиссы существуют между RAG-Sequence и RAG-Token в данной статье.
7 мин чтенияОтладка процесса извлечения данных в RAG: Recall@K, BM25, гибридное объединение и повторная классификация
Небольшой эксперимент с пайплайном RAG, в котором правильный фрагмент занял четвертое место, демонстрирующий, как разбиение на фрагменты, алгоритм BM25, слияние рангов и повторная оценка влияют на показатели Recall@3 и MRR.
11 мин чтенияСемь архитектур RAG, выходящих за рамки наивного подхода, и ситуации, когда каждая из них подходит.
Наивный RAG ломается предсказуемыми способами. Семь архитектур — от контекстуальных заметок до многопроцессорных решений и восстановления информации из памяти — с их преимуществами и недостатками, а также ситуациями, когда следует использовать каждую из них.
9 мин чтенияПочему переранкинг — самый экономичный способ добиться значительного прогресса в пайплайне RAG
Загрузка 50 элементов, их переранжирование до 5: как переранжирование с использованием кросс-энкодера исправляет порядок в пайплайне RAG, ожидаемые преимущества и задержки, когда его стоит пропустить, и что следует включить в релиз.
8 мин чтенияПочему RAG всё ещё даёт неверные ответы: гибридный поиск, переранжирование и Recall@K
Чистые фрагменты не гарантируют качественных ответов. Рассмотрим, где терпит неудачу поиск векторов, и как методы фьюжн, кросс-кодер для переранжирования, HyDE и метрика Recall@K это исправляют.
6 мин чтенияMultiDocFusion: метод иерархической сегментации для работы RAG с длинными PDF-документами.
MultiDocFusion сохраняет контекст разделов в каждом фрагменте длинного PDF: обнаружение макета, OCR, использование дерева заголовков и группировка с помощью LLM и DFS, что обеспечивает на 8–15% лучшую работу поиска RAG.
7 мин чтенияПошагово: разработка настоящей системы поиска данных RAG для ИИ-агентов
Спланируйте пайплайн RAG с использованием контрактов SourceDocument и DocumentChunk, функций разбиения на части, генерации эмбеддингов и ChromaDB; всё это должно работать через RetrievalService, обеспечивающий стабильность агента.
10 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.