RAG的混合检索方法:结合关键词搜索、向量搜索和图搜索。
如何在RAG中结合BM25、向量搜索和图检索:采用RRF进行排名融合,借助GraphRAG,并构建检索、融合、扩展、重新排名的架构。
来源: Hybrid Retrieval for RAG: Combining Graph, Vector, and Keyword Search
没有一种检索方法能够解决所有问题。关键词搜索最适合精确匹配文字,向量搜索擅长理解语义,而图检索则用于处理事物间的关联。实际问题往往需要同时运用这三种方法,正因如此,现在的搜索平台与GraphRAG系统倾向于结合词汇、语义及图结构相关的检索技术,而非依赖某一种技术来承担全部任务。
为何单一方法不够用
关键词搜索依然至关重要,因为它与数据中实际出现的术语直接相关。传统的信息检索方法通过字典和词条列表构建倒排索引,而BM25之类的评分机制则通过考虑词频和文档长度来优化单纯的术语匹配。词汇引擎还提供了语义系统无法自然实现的控制功能:引号包裹的短语、布尔运算符、字段约束、标记分析器以及可预测的匹配方式。当确切的用词与含义同样重要时,这些控制功能便显得尤为有用。
嵌入技术解决了相反的缺陷。文本被映射为向量,查询时会找到与之最接近的结果,即便表述与问题完全不同。DPR论文用数据证明了这一点:在几组开放领域问答数据集中,以前20个结果的正确率作为评估标准时,密集检索的得分比经过优化的Lucene BM25基准高9到19分。在实际应用中,几乎所有系统都使用近似最近邻索引,通常是HNSW,因此查询响应时间可在毫秒级完成。
图结构提供了另外两种方式所不具备的要素:明确的结构。节点可代表实体,边可代表实体间的关系,而社区、主张以及多文档路径则进一步叠加在这些结构之上。关于GraphRAG的综述指出,实体级结构带来了精确性与完整性。微软的实现方案将针对单个实体的查询的本地搜索与针对整个语料库的查询的全局搜索分开处理。KG²RAG则展示了另一种应用方式:通过语义匹配的初始片段作为起点,知识图谱会将其扩展为一系列连贯且多样的支持性证据。
“图”一词的两种含义
此处“图”这一概念被过度使用了。HNSW作为应用最广泛的近似最近邻搜索方法之一,本身也是一种图结构,其设计目的便是让搜索能够快速定位到相近的向量。Neo4j的向量索引文档中介绍了相关设置,即vector.hnsw.m和vector.hnsw.ef_construction。
当人们讨论将图搜索、向量搜索和关键词搜索结合使用时,实际上涉及两种不同的图结构。一种是用于加速相似性搜索的内部索引结构,另一种则是用于描述真实实体及其之间关联的外部知识图谱。前者有助于快速找到相似的向量,而后者则支持对相关事实进行推理。将两者混淆会导致对架构设计的理解出现混乱。
混合检索在实践中的运作方式
通常的起始方式是同时进行两种搜索:一种是基于词汇的,另一种是基于语义的。Weaviate将这种方法称为混合搜索:既执行向量查询也执行关键词查询,然后将两者的结果集合并。OpenSearch则通过搜索管道在返回结果之前对分数进行标准化处理或按排名进行合并。Neo4j的HybridRetriever会查询向量索引和全文索引,再将两者整合为一份按排名排序的列表。这种方式能够弥补彼此的缺陷——关键词查询能找到完全匹配的内容,而嵌入向量查询则能找到用不同词汇表达相同含义的段落。
合并列表
下一个需要决定的问题是如何组合这些排名。互反排名融合(RRF)是一个很好的默认选择,因为它基于排名位置而非原始分数来运算。Elastic的文档指出,这种方法几乎不需要调整,也不要求分数尺度具有可比性。这一点很重要,因为BM25分数与嵌入向量相似度通常处于完全不同的数值范围。
如果需要更多控制权,标准化加权融合是一个可选方案。Weaviate支持基于分数的融合,而OpenSearch则同时提供基于标准化的处理方式与基于排名的融合方法。Elastic还指出,如果权重设置得当,线性组合的效果可能优于RRF,但这需要仔细进行标准化处理和实验。
图谱的作用
图层通常在第一阶段检索之后加入。Neo4j的HybridCypherRetriever体现了这一思路:候选项来自向量搜索和全文搜索,随后通过图遍历获取其周围的更多上下文信息。
Microsoft的GraphRAG本地搜索采用类似路径,将图中的上下文与原始文本结合。全局搜索则走另一条路线,通过预先计算好的社区报告来回答涉及整个数据集的问题。这便是“BM25加上嵌入向量”之外的进阶方式:先找到合适的节点或文本片段,再向外扩展以收集匹配段落中未曾包含的事实。
GraphRAG何时物有所值
当问题涉及事物之间的关联而非单个段落时,基于图结构的检索方法能发挥显著作用。微软的文档明确了各种检索方法的区别:针对特定实体的本地搜索、用于整个数据集推理的全局搜索、结合社区上下文扩展的本地推理方法DRIFT,以及对于那些单纯通过向量检索就能很好解答的问题则采用基础搜索。在用户希望系统能够串联信息点、追踪依赖关系、总结主题或追溯多层证据链时,图结构最为有用。
不过,它们并非免费的关联度提升方案。一篇较新的GraphRAG基准测试论文直接探讨了图结构在何种情况下有用,并发现,在许多实际任务中,GraphRAG的表现甚至不如传统的RAG。该论文的核心观点是:只有当工作负载确实需要分层检索、基于关系的推理或广泛的上下文综合能力时,图结构才能发挥优势。对于简单的本地查询,构建图结构、遍历它并对其进行总结可能几乎没有任何好处。因此,理想的混合设计应是有所选择的,而非尽可能全面覆盖。
参考架构
准备工作是首要的。先将文档拆分,提取有价值的实体与关联信息,同时为每个拆分部分与其所涉及的图结构对象建立清晰的映射关系。这样就会形成三种并列的结构:用于匹配词条的词汇索引、用于理解含义的向量索引,以及用于遍历或扩展社区结构的图层。
查询过程包含四个步骤:检索、融合、扩展和重新排序。首先进行词汇和向量搜索,然后将搜索结果进行融合。只有最可靠的匹配结果才会通过图结构进一步扩展,之后由重新排序器对处理后的证据进行排序,再呈现给生成器。这样一来,成本得以控制,同时召回率和上下文质量也能得到保障。
未来的发展方向
供应商和研究人员正逐渐转向集成式技术栈。Elastic、Weaviate、OpenSearch和Neo4j都将混合检索作为标准功能而非临时解决方案提供。Milvus记录了一种基于BGE-M3模型的混合架构,相关论文指出该模型能够从一个网络输出密集型、稀疏型及多向量型结果。这一趋势表明,独立的检索模式会越来越少,更多系统会从相同数据中提取多种相关性信号,并在接收到查询时将它们融合在一起。
实用建议
最大的错误是将混合检索视为单一算法。其实它是一种策略:
- 首先结合关键词精确度与语义召回率。
- 当评分标准不匹配时采用RRF方法。
- 在建立好评估数据后转为加权融合方式。
- 仅在关系重要的情况下进行图结构扩展。
相关性并非唯一的限制因素。向量索引会占用大量内存并增加延迟,而Neo4j的操作指南指出,其基于Lucene的向量索引严重依赖操作系统的文件系统缓存。懂得何时采用简单方案也是设计的一部分。
混合检索方式之所以有效,是因为它反映了人们获取知识的方式。有时人们能记住确切的短语,有时只能记住大致概念,还有时则需要通过一系列关联来理解两个事实之间的联系。关键词检索、向量检索和图检索分别满足这些不同的需求,最强大的搜索系统会刻意将它们结合起来使用。
相关阅读
- 向量 RAG 与关键词 RAG:何时使用哪种,以及为何混合方案更优 —— 对基于嵌入的检索方式与 BM25、SQL 和图搜索在 RAG 应用中的表现进行比较:每种方法的运作原理、缺陷所在,以及如何通过重新排序实现混合检索。
- 大规模场景下的向量数据库选择:用于 RAG 的 Weaviate 与 Pinecone 对比 —— 针对日益复杂的 RAG 系统,对 Weaviate 和 Pinecone 进行实际对比:混合搜索机制、租户隔离功能、内存使用权衡、部署选项以及基准测试方法。