Семь моделей RAG, выходящих за рамки базовых чат-ботов, и ситуации, когда подходит каждая из них.
Руководство по простым, гибридным, корректирующим, саморефлексивным, многократным, графовым и контекстуальным методам RAG: какая проблема решается каждым из них, их составляющие и способы выбора.
Источники: Beyond the Chatbot: The Sophisticated Maturation of RAG Architectures
Метод генерации с усилением на основе поиска вышел за рамки экспериментальной фазы. Изначально он заключался в загрузке PDF-файла в векторную базу данных и запросе у чат-бота краткого резюме. Сейчас отрасль движется к комплексным ИИ-системам, в которых процесс поиска является частью многоуровневой когнитивной архитектуры, а не отдельным шагом. В корпоративных масштабах примитивный подход продолжает давать сбои с точки зрения точности, задержек и многократного обработки информации, в связи с чем появился набор специализированных подходов. Здесь приведена карта таких подходов и способ их выбора.
Почему количество таких решений продолжает расти
Базовый вариант RAG разделяет документы на фиксированные фрагменты, встраивает их, выбирает лучшие k фрагментов по коэффициенту косинусного сходства и передает их в нейросеть. Этого достаточно для простых часто задаваемых вопросов. Однако такой подход не справляется с точными идентификаторами, длинными отчетами, полными неоднозначных местоимений, вопросами, охватывающими несколько документов, а также в критически важных областях, где галлюцинации недопустимы.
Каждая новая версия направлена на устранение одного или нескольких из этих недостатков:
- Низкая точность поиска при использовании буквальных терминов, таких как идентификаторы политик, номера деталей или ссылки на разделы.
- Попадание в модель шумных или несвязанных с темой фрагментов.
- Отсутствие альтернативы, когда во внутреннем корпусе данных нет ответа.
- Отсутствие самопроверки на то, основаны ли результаты поиска или генерация на реальных данных.
- Отсутствие возможности проводить логические выводы, опираясь на несколько документов в несколько этапов.
- Потеря контекста на уровне документа внутри небольших фрагментов.
Базовая версия: примитивный RAG
Эта схема служит отправной точкой и уже снижает риск галлюцинаций по сравнению с моделями, работающими исключительно на встроенных данных, путем связывания ответов с извлечённым текстом.
Документы делятся на фрагменты фиксированного размера, например по 512 токенов. Такие плотные модели, как bge-large или text-embedding-3-large, встраивают эти фрагменты, а полученные векторы сохраняются в хранилищах вроде Qdrant, Weaviate или Pinecone. При выполнении запроса вектор запроса сравнивается с векторами фрагментов с помощью косинусного сходства, и три–пять лучших фрагментов передаются вместе с вопросом в LLM.
Этот подход подходит для внутренних баз знаний с одной тематикой, простого поиска в FAQ и прототипов, где скорость важнее точности. Обычно используется разбиение на фрагменты фиксированного размера с минимальным или отсутствующим перекрытием, один индекс плотных векторов, отсутствие или наличие простого механизма переранжирования, а также генератор, настроенный с учётом инструкций.
Слабые стороны этого подхода предсказуемы: точные запросы с ключевыми словами и аббревиатуры мешают ему, границы фрагментов лишают его контекста, и ничто не позволяет выявить проблемы с поиском до начала генерации.
Гибридный поиск с использованием кросс-кодера для переранжирования
Один плотный индекс упускает слишком много информации, когда запросы сочетают нечеткие формулировки с буквальными идентификаторами, такими как номера политик, идентификаторы разделов, SKU или цитаты из нормативных документов. Результаты тестов показывают, что гибридный метод поиска в сочетании с нейронным алгоритмом переранжирования превосходит одноэтапные методы при обработке документов, содержащих как текст, так и таблицы.
Два спаниеля бегут рядом. Редкостный лексический метод, такой как BM25 или SPLADE, сопоставляет точные термины. Плотный семантический метод позволяет определять концептуальное сходство. Их ранжированные списки объединяются с помощью метода Reciprocal Rank Fusion или калиброванной взвешенной схемы. Самые лучшие из пятидесяти–ста объединенных кандидатов затем передаются в кросс-кодер для повторного ранжирования, который оценивает каждую пару запроса и фрагмента совместно и возвращает более точный список из пяти–десяти лучших результатов. Эти фрагменты вместе с запросом и метаданными цитирования поступают в большую языковую модель.
Он подходит для документов, требующих соблюдения регламентов, где важны точные ссылки на разделы, для технических руководств, содержащих номера деталей и коды ошибок, для финансовых документов с таблицами и точными числовыми вопросами, а также для любых производственных систем, где качество поиска влияет на качество ответов. Типичные компоненты включают фиксированное или семантическое разбиение на части с метаданными, алгоритмы BM25 или SPLADE в сочетании с плотным двойным кодером, методы RRF или обучаемое слияние данных, кросс-кодеры вроде bge-reranker, Cohere Rerank или Jina Rerank, а также ЯЗЫК ИСКУССТВЕННОГО ИНТЕЛЛЕКТА для выполнения команд, поддерживающий цитирование.
Корректирующий RAG
Цель здесь — не позволять системе давать уверенные ответы на основе слабых или нерелевантных фрагментов информации. После поиска применяется контроль качества, а при недостатке данных из внутреннего корпуса существует резервный механизм.
После получения данных легкий оценщик анализирует фрагменты по отношению к запросу и выдает метку уверенности: правильно, неоднозначно или неправильно. Затем маршрутизатор принимает решение: правильные результаты передаются на этап генерации. Неоднозначные результаты приводят к переписыванию запроса, его разбиению или использованию другой стратегии поиска. Неправильные результаты запускают поиск в Интернете или использование других внешних источников, так что некачественные фрагменты никогда не используются.
Служба поддержки клиентов — это естественная среда, в которой отсутствие информации не должно превращаться в выдумку. Ещё одним примером являются часто обновляемая техническая документация с пробелами. Также к этой категории относятся все сферы, где честный ответ «Я не знаю» с контекстом из Интернета лучше, чем уверенный неверный ответ. Компоненты такой системы включают гибридный или мощный поисковик, небольшой классификатор или модель, обрабатывающая запросы для оценки релевантности, маршрутизатор на основе правил или больших языковых моделей, резервный вариант в виде API поиска в Интернете или вспомогательного хранилища, а также генератор, которому предписано указывать источники и признавать неопределённость.
Саморефлексивный RAG
В этой конструкции процессы поиска информации и проверки её достоверности интегрируются непосредственно в процесс генерации ответа. Модель учится определять, когда необходимо искать информацию, является ли найденный материал релевантным и подкреплён ли её собственный ответ доказательствами.
Он функционирует как циклическая петля, управляемая специальными токенами или структурированными запросами. Модель определяет, требуется ли вообще поиск информации, оценивает релевантность найденных документов, составляет ответ на их основе, анализирует этот ответ с точки зрения обоснованности и полноты, после чего либо корректирует его, либо отказывается отвечать, если доказательств недостаточно. Обучение или специальные указания побуждают её отдавать предпочтение обоснованным утверждениям и выделять необоснованные заявления.
Анализ юридических контрактов и сравнение их положений имеют применение. То же касается кратких сводок медицинских отчетов, клинических рекомендаций, аудитов и проверок соответствия, которые должны быть отслеживаемыми, а также любых ситуаций, когда недостоверное утверждение приводит к значительным потерям. К компонентам относятся гибридный или специализированный по домену поисковик, генератор, обученный или настроенный на самокритику, при необходимости — внешний верификатор, проверяющий цитаты по сравнению с полученными фрагментами, а также показатели оценки обоснованности, точности и соблюдения правил.
Агентный мультихоповый и субзапросный RAG
Некоторые вопросы невозможно ответить за один проход поиска: сравнение показателей между компаниями и годами, выявление взаимосвязей между документами или сбор данных из нескольких отделов.
Агент получает сложный запрос и разделяет его на несколько подзапросов. Каждый из них обрабатывается с помощью механизма поиска последовательно или параллельно. Затем агент устраняет противоречия, объединяет полученные данные и формирует окончательный ответ; при наличии пробелов в промежуточных результатах он может снова выполнить цикл обработки.
Типичные сферы применения включают сравнение отчетов 10-K с результатами телефонных конференций по финансам, анализ политик, описанных в различных документах, расследования, охватывающие несколько отделов крупной компании, а также помощников по исследованиям, которые собирают данные из множества источников. Системе требуется агент-планировщик, который разбивает запросы на части, один или несколько индексов с возможно разными диапазонами поиска, краткосрочная память для хранения промежуточных результатов, синтезатор для объединения подответов, а также, по желанию, механизм проверки их согласованности.
GraphRAG
Получение плоских фрагментов текста пропускает связи, охватывающие несколько элементов, такие как связь подозрительных счетов в работе по борьбе с отмыванием денег, следование клиническому алгоритму лечения или понимание сложной цепочки поставок.
Нейросеть большого размера или система извлечения данных находит в документах сущности и связи между ними. Эти данные помещаются в граф знаний, созданный с использованием Neo4j или во внутреннюю память. Затем запросы проходят по этому графу для нахождения многократных связей, например того, что определенная сущность лечит конкретное заболевание в той или иной клинике. Полученные подграфы объединяются с фрагментами текста и передаются нейросети большого размера.
Он находит применение в обнаружении мошенничества и соблюдении норм финансовой преступности, в поддержке клинических решений, при создании карт организаций или цепочек поставок, а также в любой области, где связи между сущностями имеют такое же значение, как и сам текст. Основными компонентами являются извлекатель сущностей и связей, хранилище графов вроде Neo4j, NetworkX или управляемая база данных графов, механизм поиска, сочетающий обход графа с необязательным векторным поиском по описаниям узлов, и генератор, учитывающий как текстовый, так и графический контекст.
Контекстуальное или позднее разбиение на фрагменты
Фрагмент, оторванный от своего окружения, может потерять смысл. Фраза «доход вырос на 15 процентов» не указывает, о какой компании, году или сегменте идет речь.
Решение заключается в том, чтобы LLM добавлял перед каждым фрагментом до пятидесяти–ста токенов контекста всего документа перед его включением в модель. Этот заголовок может содержать название документа, раздел, финансовый год, имя субъекта и другие важные метаданные. Каждый дополненный фрагмент затем включается в модель и индексируется, так что получаемые фрагменты поступают вместе со своим контекстом, что снижает необходимость в догадках со стороны генератора.
Это оправдано при работе с длинными PDF-отчетами, содержащими таблицы, графики и неоднозначные местоимения, многолетней финансовой отчетностью и регуляторными документами, а также техническими стандартами с повторяющимися структурами разделов. Короче говоря, любым корпусом текстов, в котором фразы вроде «компания», «это условие» или «они» встречаются без четкого локального обозначения. Составляющие такой системы включают инструмент разбиения на фрагменты, работающий с помощью LLM или на основе правил, добавляющий заголовки; гибридный или интенсивный поисковик; необязательный кросс-кодер для переупорядочивания результатов; и генератор, способный использовать дополнительные токены контекста.
Выбор шаблона
Рассматривайте приведенное ниже как отправную точку, затем корректируйте под результаты оценки.
- Простой внутренний поиск и прототипы: используйте традиционный подход RAG.
- Промышленные системы, особенно при поиске точных терминов и таблиц: переходите к гибридному поиску с использованием кросс-кодера для переупорядочивания результатов.
Зрелые системы обычно сочетают несколько из этих методов. Сильная, распространенная структура в 2026 году объединяет гибридный поиск с фьюзией RRF, переранжирование с помощью кросс-кодеров и контекстуальное разбиение на части, а также слой коррекции для запросов с низкой уверенностью.