Главная / Статьи

Почему существует RAG: параметрическая память, плотный поиск и статья 2020 года.

Почему существует RAG: ограничения параметрической памяти, как BM25 и эмбеддинги привели к плотному поиску, и какие компромиссы существуют между RAG-Sequence и RAG-Token в данной статье.

Издатель: REACTAPP.TOP7 мин чтения1677 слов

Источники: What Is RAG? The Story Behind Retrieval-Augmented Generation and Why It Changed AI Forever

Не существует единственного правильного способа создания системы RAG. Каждая бизнес-задача требует собственной архитектуры для масштабирования, а у каждой стратегии поиска есть свои компромиссы, поэтому дизайн, подходящий для чат-бота поддержки, может не сработать при юридических исследованиях. Эта область также развивается очень быстро. В 2020 году, когда впервые появилась технология Retrieval-Augmented Generation, языковые модели были гораздо слабее, чем сейчас. С тех пор значительно улучшились способности к логическим рассуждениям, выполнению инструкций, мультимодальному пониманию, работе с контекстными окнами и использованию инструментов. RAG по-прежнему остается ключевой техникой для надежных ИИ-приложений, поскольку даже самая мощная модель не может знать всё или всегда иметь доступ к самой свежей информации. Получение релевантных знаний из внешних источников снижает вероятность галлюцинаций и обеспечивает, что ответы основаны на достоверных данных.

Сегодня эта технология лежит в основе платформ поддержки и корпоративных чат-ботов, помощников по программированию, инструментов для юридических исследований, клинических приложений, финансовых систем и внутренних помощников с знаниями. Тем не менее многие учебные материалы сразу переходят к векторным базам данных, эмбеддингам или коду LangChain, не объясняя, зачем вообще был создан RAG. Ответ на этот вопрос начинается с первоначальных исследований и переходит к инженерным решениям, лежащим в основе современных производственных систем, включая причины принятых решений, их стоимость и то, как они изменились.

Границы знаний модели

Когда модели в стиле GPT впервые продемонстрировали выдающееся понимание языка, многие предположили, что они способны отвечать на практически любые вопросы. В определённой степени это действительно так. Обучение на огромных наборах данных научило их фактам из истории, науки, программирования, математики и литературы. Однако всё, что знала модель, было зафиксировано в её параметрах во время обучения, и по окончании обучения эти знания «замерзли».

Люди работают в целом похожим образом. Эксперты не полагаются только на память. Кардиолог, сталкивающийся с редким заболеванием или новоутвержденным методом лечения, сначала изучает актуальные клинические рекомендации или медицинскую литературу. Опытный разработчик на Python, к которому обращаются с просьбой перенести крупное приложение на Java, не знает автоматически всех Java-фреймворков или лучших практик для этого без ухудшения производительности или пользовательского опыта. Он читает документацию к Java, выбирает фреймворк, такой как Spring, в зависимости от масштабов приложения, и постоянно обращается к руководствам по миграции и документации проекта. Навыки уже имеются, а внешние материалы предоставляют необходимый контекст для точного решения проблемы.

У моделей языка существует аналогичная проблема. Их общие знания велики, но если задать вопрос о чем-то, что появилось после окончания процесса обучения — например, о внутреннем корпоративном документе или новой политике организации — у них нет ничего, на что можно было бы опираться. Что ещё хуже, там, где человек признал бы свою неуверенность, модель часто дает плавный, уверенный, но фактически неверный ответ, что сейчас широко называется галлюцинацией.

Переобучение при появлении новой информации также было нереалистичным, поскольку современные модели требуют огромных вычислительных ресурсов, средств и времени. Исследователям был нужен способ, позволяющий модели получать соответствующую внешнюю информацию в момент ответа без необходимости переобучения. Именно эта потребность привела к появлению технологии Retrieval-Augmented Generation и заложила основу для многих современных методов работы с контекстом, направленных на предоставление модели правильной информации в нужное время.

Два вида памяти

Чтобы понять, почему RAG был важен, полезно различать два типа памяти. Параметрическая память — это знания, хранящиеся в изученных параметрах модели: шаблоны, концепции, языковые навыки и факты, полученные в процессе обучения. У неё есть реальные ограничения:

  • Её нельзя легко обновлять.
  • Она может устаревать.
  • Редкие факты могут забываться.
  • Ни одна модель не может запомнить каждый когда-либо написанный документ.

RAG добавил непараметрическую память: знания, хранящиеся вне модели, в документах, базах данных или индексированных корпусах, которые ищутся во время ответа модели. Вместо того чтобы опираться только на то, что было запомнено месяцы назад, модель загружает необходимые материалы по мере необходимости перед тем, как написать ответ. Эта простая идея изменила способ, которым ИИ-системы могут обрабатывать постоянно меняющиеся знания.

Поиск информации до появления языковых моделей

Методы поиска существовали ещё до появления больших языковых моделей. Поисковые системы давно сталкивались с аналогичной проблемой: среди миллионов документов какие из них наиболее релевантны запросу пользователя? Ранние системы сопоставляли слова, подсчитывая частоту их появления в документе. TF-IDF (Частота терма — Обратная частота документа) улучшил этот подход, уделяя больший вес информативным словам и меньший — распространённым. Позже BM25 стал отраслевым стандартом для ранжирования благодаря более совершенной функции оценки, учитывающей как частоту термов, так и длину документа; он по-прежнему является ключевой частью многих промышленных поисковых систем.

Эти методы хорошо справляются, когда в документе присутствуют точные ключевые слова. Однако они терпят неудачу, когда два текста выражают одну и ту же идею разными словами, и именно это привело к появлению семантического поиска.

По мере совершенствования нейронных сетей исследователи начали представлять текст в виде плотных векторов, известных как эмбеддинги. Эмбеддинг — это числовое представление слова, предложения или документа в высокомерноменной пространстве, часто называемом пространством эмбеддингов или скрытым пространством. Отдельные числа по отдельности мало что значат. Вместе они передают смысл, поэтому тексты с схожим смыслом находятся рядом, а не связанные между собой концепции — далеко друг от друга. Благодаря такой кластеризации поиск может осуществляться на основе смысла, а не строгого совпадения ключевых слов.

Возьмём пользователя, который спрашивает, как улучшить производительность нейронной сети. Благодаря эмбеддингам такой запрос всё равно может найти документ с названием «Техники оптимизации моделей глубокого обучения», хотя в нём отсутствуют ни термины «нейронная сеть», ни «производительность». После того как как запросы, так и документы преобразуются в эмбеддинги, поиск превращается в поиск векторов документов, наиболее близких к вектору запроса. Именно эта идея легла в основу метода Dense Passage Retrieval (DPR), представленного в 2020 году. DPR показал, что плотный семантический поиск превосходит традиционный поиск по ключевым словам во многих тестах на ответы на вопросы в открытых доменах, и стал одним из элементов, сделавших возможным подход RAG.

Семантическое поиск представляет собой лишь половину решения задачи. Люди не хотят получать список документов, они хотят ответов, и это приводит к появлению ответов на вопросы в открытой области. Система с замкнутой областью черпает ответы из фиксированной базы знаний или набора данных. Система для ответов в открытой области должна просмотреть миллионы документов в поисках полезного материала перед тем, как дать ответ. При поступлении вопроса вроде «Кто выиграл Нобелевскую премию по физике в 2024 году?» система сначала сканирует огромную коллекцию в поисках наиболее достоверных данных, а затем формирует ответ на их основе.

Это приводит к двухэтапной процедуре:

  1. Поиск наиболее релевантных документов.
  2. Формирование ответа на основе этих документов.

Эта схема «поиск-затем-генерация» является концептуальной основой современных технологий RAG. Статья 2020 года Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks сформулировала её, объединив плотный механизм поиска и модель генерации последовательностей в единую концепцию от начала до конца. Основная идея была простой: не просите языковую модель отвечать исключительно на основе своих внутренних параметров. Сначала получите наиболее релевантные внешние документы, затем используйте эти фрагменты в качестве условий для генерации. Механизм поиска не заменил языковые модели — он усилил их, обеспечив более высокую точность фактов, лучшие результаты в задачах, требующих глубоких знаний, а также возможность обновления знаний путем замены набора документов без переобучения модели.

RAG-Sequence против RAG-Token

В статье были предложены две стратегии поиска информации. RAG-Sequence загружает фиксированный набор релевантных документов один раз, до начала генерации, и они остаются неизменными на протяжении всего ответа. Этот подход эффективен с точки зрения вычислительных ресурсов и прост в реализации; он лежит в основе большинства промышленных систем RAG.

RAG-Token более динамичен. Модель может запрашивать разные документы по мере генерации различных частей ответа, что теоретически позволяет ей получать свежую информацию каждый раз, когда требуется дополнительный контекст, и способствует формированию более точных ответов.

Изображение, изображающее процесс написания исследовательского отчета. С помощью RAG-Sequence вся справочная информация собирается до первого предложения. С помощью RAG-Token автор может прервать работу над отчетом в любой момент, чтобы найти необходимую информацию при возникновении нового вопроса. Второй подход более гибкий, но требует гораздо большего количества операций по поиску, затрачивает больше вычислительных ресурсов и увеличивает задержку. Именно поэтому большинство производственных систем выбирают более простую схему RAG-Sequence и сосредотачивают усилия на самом механизме поиска, используя гибридный поиск, переранжирование, переписывание запросов и фильтрацию метаданных.

В чем проявились недостатки первоначальной схемы

Несмотря на свою революционность, первоначальная архитектура имела недостатки, которые проявились при ее применении в реальных условиях:

  • Качество генерируемого текста ограничивалось качеством поиска информации.
  • Некорректное разделение текста на фрагменты снижало точность поиска.
  • Окна контекста ограничивали объем информации, который можно было предоставить.
  • Метод густого поиска иногда упускал важные совпадения с точными терминами.
  • Поиск выполнялся до генерации текста, что увеличивало задержку.
  • Поддержка структурированных, табличных и мультимодальных данных была ограничена.

Эти проблемы стали основой для многолетних последующих исследований, и за последние пять лет технология RAG претерпела значительные изменения. Языковые модели стали гораздо более мощными, модели эмбеддингов улучшились, а векторные базы данных созрели. Гибридные методы поиска сочетают лексический и семантический поиск, а инструменты переранжирования с использованием кросс-кодеров позволяют более точно выбирать документы. Более современные системы включают фильтрацию метаданных, переписывание запросов, сжатие контекста, адаптивный поиск и агентные рабочие процессы; кроме того, исследователи предложили такие подходы, как GraphRAG, Self-RAG, Corrective RAG (CRAG), RAPTOR и мультимодальный поиск. Все эти усовершенствования исправляют многие ошибки ранних версий технологии, но ни одно из них не заменяет ключевой этап поиска информации.

Современные производственные архитектуры сильно отличаются от простой схемы 2020 года, однако они сохраняют её основной принцип: сначала необходимо найти соответствующие знания, прежде чем формулировать ответ.

Изменение подхода

Самое примечательное заключается в том, что RAG не столько сделал языковые модели умнее, сколько изменил способ их использования. Вместо ожидания от модели запоминания постоянно растущего объема знаний RAG рассматривает внешнюю информацию как ресурс, который можно получить по мере необходимости. Благодаря этому изменению стало возможным создавать системы, которые более точны, надежны и способны справляться с постоянно меняющейся информацией.

Знание происхождения RAG — это не просто урок истории. Оно объясняет, почему современные системы выглядят именно так, и почему определенные архитектурные решения имеют значение в процессе эксплуатации. Команда, понимающая первоначальные мотивы, может определить, какие новые техники решают реальные проблемы, а какие лишь увеличивают сложность.

Связанная литература

  • Восемь идей линейной алгебры, лежащих в основе эмбеддингов, LoRA и PCA — векторы, матрицы, собственные векторы, косинусное сходство, нормы, разложение SVD и ранг объясняются на примерах цен на жилье и технологий искусственного интеллекта, основанных на них.