Главная / Статьи

За пределами поиска по сходству: фильтрация метаданных для RAG с векторами S3

Фильтрация метаданных для RAG в Amazon S3 Vectors: откуда берутся значения фильтров, когда классификатор занимает своё место, и метаданные, подлежащие фильтрации, и те, что не подлежат.

Издатель: REACTAPP.TOP6 мин чтения1277 слов

Источники: Beyond Similarity Search: Metadata Filtering for RAG with Amazon S3 Vectors

Семантический поиск — это лучшая черта технологии RAG. Людям не нужно формулировать вопросы так, как это делается в документах. Система сопоставляет смыслы и выводит контент, связанный с поставленной темой. Однако подобное не всегда соответствует желаемому результату.

Представьте онлайн-магазин, база знаний которого охватывает продукты, доставку, гарантии, возвраты, оплату и учетные записи. Покупатель спрашивает, можно ли вернуть поврежденный товар через 30 дней. Несколько документов упоминают повреждения, возвраты средств, гарантии или сроки, и все они кажутся релевантными для векторного поиска, однако только некоторые отвечают на вопрос. Здесь помогает фильтрация метаданных, но сначала необходимо определить источник значений фильтра.

Источник фильтра

Иногда приложение уже знает ответ. Клиент, задавший этот вопрос на странице помощи по возвратам, бесплатно предоставляет категорию без необходимости дополнительных запросов к модели.

User Question +Known Application Context
      ↓
category = returns
      ↓
Vector Search

Выбранный продукт, регион, язык или раздел приложения могут выполнять ту же функцию.

В других системах имеются только слова пользователя. Обычный чат-бот открывается пустым, и ничто не указывает ему на то, что правильная категория — returns. В небольшой, сфокусированной базе знаний это нормально: достаточно использовать простой семантический поиск без фильтров.

User Question
      ↓
Query Embedding
      ↓
Vector Search
      ↓
Relevant Results

По мере роста базы данных темы начинают перекрываться. Вопросы, связанные с возвратами, гарантиями, возмещением средств и поврежденными товарами, становятся нечеткими. В таких случаях помогает небольшой этап понимания запроса или его классификации перед поиском информации. Система уже знает собственные категории (возвраты, гарантия, доставка, оплаты), и простая модель, правила или большая языковая модель могут определить наиболее вероятные варианты.

User Question
      ↓
Query Understanding
      ↓
returns
      ↓
Vector Search
      ↓
category = returns

Этот шаг требует времени и денег, поэтому не добавляйте его в каждое приложение типа RAG только потому, что существует фильтрация. Если обычный семантический поиск уже работает, сохраняйте простоту процесса.

Ещё одно предупреждение: когда классификатор не уверен, не заставляйте его присваивать категорию. Повреждённый товар может относиться как к возврату, так и к гарантии, поэтому ищите информацию по обоим вариантам или пропустите фильтрацию. Неправильный фильтр может скрыть тот самый документ, в котором находится ответ. Цель не в том, чтобы фильтровать всё, а в том, чтобы применять фильтрацию только при наличии надёжной причины.

Хранение метаданных с векторами

Фильтрация будет работать только в том случае, если метаданные хранятся вместе с векторными представлениями. Фрагмент из политики возвратов может содержать название документа, категорию, регион и статус.

{
  "document_name": "Return Policy",
  "category": "returns",
  "region": "us",
  "status": "active",
  "chunk_text": "Damaged products can be returned within the allowed return period."
}

Эти два метода выполняют разные функции. Метод встраивания позволяет улавливать смысл, поэтому фразы «отправить предмет обратно» и «вернуть товар» оказываются рядом друг с другом. Метаданные указывают на то, к какой категории относится контент: здесь — возвраты, регион США, активный документ.

Фильтрация запроса

Обычный запрос Amazon S3 Vectors находит наиболее близкие векторы во всем индексе.

const result = await s3Vectors.send(
  new QueryVectorsCommand({
    vectorBucketName: "rag-demo-vectors",
    indexName: "store-knowledge",
    queryVector: {
      float32: queryEmbedding,
    },
    topK: 5,
    returnMetadata: true,
    returnDistance: true,
  })
);

Если вы точно знаете, что поиск должен оставаться в результатах, укажите это условие непосредственно в запросе.

const result = await s3Vectors.send(
  new QueryVectorsCommand({
    vectorBucketName: "rag-demo-vectors",
    indexName: "store-knowledge",
    queryVector: {
      float32: queryEmbedding,
    },
    topK: 5,
    filter: {
      category: "returns",
    },
    returnMetadata: true,
    returnDistance: true,
  })
);

Теперь запрос объединяет оба сигнала.

(Meaning of the Question + category = returns)
        ↓
Amazon S3 Vectors
        ↓
Relevant Return Information

S3 Vectors оценивает условия метаданных вместе с степенью сходства, поэтому он ищет похожие векторы, которые также соответствуют критериям, вместо того чтобы сначала брать наиболее близкие результаты и отбрасывать нежелательные. Это полезно, когда база содержит множество связанных тем.

Поля, подлежащие фильтрации, и поля без фильтров

Не все поля должны быть доступны для поиска. Категория, регион и статус являются хорошими фильтрами, поскольку с их помощью удается сузить диапазон поиска.

{
  "category": "returns",
  "region": "us",
  "status": "active"
}

В S3 Vectors метаданные по умолчанию фильтруемы, если только вы не указали иное. Большие фрагменты текста и подобный контекст лучше оставлять нифильтруемыми, поскольку вы хотите получить их вместе с результатом, но никогда не фильтровать их.

{
  "chunk_text": "Damaged products can be returned within the allowed return period."
}
metadataConfiguration: {
  nonFilterableMetadataKeys: ["chunk_text"],
}

Текст всё равно возвращается при запросе метаданных. Способ запомнить это: фильтруемые метаданные сужают диапазон поиска, а нифильтруемые метаданные возвращают именно то, что вам нужно позже.

Более одного условия

Часто достаточно одного условия. Если вы знаете больше, объедините их, например, только активный контент возврата из США.

filter: {
  $and: [
    {
      category: {
        $eq: "returns",
      },
    },
    {
      region: {
        $eq: "us",
      },
    },
    {
      status: {
        $eq: "active",
      },
    },
  ],
}

Если вопрос касается возврата или гарантии, используйте $in.

filter: {
  category: {
    $in: ["returns", "warranty"],
  },
}

S3 Vectors также предоставляет операторы $or, $exists и несколько операторов сравнения. Большинству приложений типа RAG достаточно одного или двух условий.

Метаданные при загрузке

Метаданные гораздо удобнее использовать, если задумываться о них во время загрузки документов. Для примера хранилища может быть достаточно небольшой структуры.

{
  "document_name": "Return Policy",
  "category": "returns",
  "region": "us",
  "status": "active",
  "chunk_text": "..."
}

Вам не нужны все возможные детали для каждого вектора. Спросите себя, действительно ли тот или иной параметр может помочь при поиске позже. Если он не позволяет сузить круг поиска, скорее всего, его не нужно делать фильтруемым.

Как сочетаются эти два элемента

Метаданные не заменяют семантический поиск. Показатель сходства отражает смысл вопроса, а метаданные помогают определить рамки поиска, когда известно, откуда должен поступить ответ.

User Question
      ↓
(Semantic Similarity + Reliable Metadata Context)
      ↓
Amazon S3 Vectors
      ↓
More Focused Results

Ключевым словом здесь является надежность. Если приложение уже знает категорию, регион или продукт, фильтрация происходит просто и эффективно. Если у него есть только вопрос, сначала необходимо определить, достаточно ли самой похожести. Для более больших или «шумных» баз данных система понимания запросов может сначала найти полезные метаданные, а неопределенные результаты лучше обрабатывать с помощью более широкого поиска, чем с использованием неверного фильтра.

Есть практический тест, который помогает решить, действительно ли вам нужен классификатор: соберите двадцать реальных вопросов, протестируйте их с использованием фильтра по категории и без него, а затем вручную сравните лучшие результаты. Если ответы без фильтра почти всегда указывают на правильный документ, можно пропустить этот дополнительный шаг. Если связанные категории продолжают мешать друг другу, это сигнал к добавлению фильтрации, и те же двадцать вопросов станут набором для последующих изменений.

## Заключение

Похожесть векторов имеет большое значение, поскольку люди редко используют точные слова из документа, но настоящие базы знаний содержат множество связанных видов информации, а метаданные предоставляют дополнительный контекст для семантического поиска. Не каждый запрос требует фильтра или дополнительного вызова модели. Используйте известные метаданные напрямую и добавляйте классификацию только тогда, когда это оправдано. Речь идет не об увеличении сложности, а о поиске, который ищет в правильном месте, когда у вас есть достаточно информации, чтобы определить его местоположение.