首页 / 文章

超出基础聊天机器人的七种RAG模式及适用场景

关于朴素型、混合型、校正型、自我反思型、多跳型、图结构型和上下文型RAG的指南:每种类型能填补哪些空白、其构成要素以及如何选择。

发布者:REACTAPP.TOP阅读约 7 分钟1602 词

来源: Beyond the Chatbot: The Sophisticated Maturation of RAG Architectures

检索增强生成技术已超越了实验阶段。早期,人们只需将PDF文件放入向量数据库,再让聊天机器人生成摘要即可。如今,行业正朝着复合型AI系统发展,在这类系统中,检索是一个分层的认知架构,而非单一步骤。在企业级应用中,简单的处理方法在准确性、延迟以及多步推理方面持续存在缺陷,为此出现了一组专门的解决方案。以下是这些方案的概览以及选择方法。

为何设计方案不断增多

基础的RAG技术会将文档切割成固定大小的片段,将其嵌入模型,通过余弦相似度选出排名靠前的k个片段并传递给大语言模型。对于简单的常见问题解答来说已经足够。但它无法处理精确的标识符、充满模糊代词的冗长报告、涉及多份文档的问题,以及那些容不得错误答案的高风险领域。

每一代新版本都在针对上述一个或多个缺陷进行改进:

  • 对政策编号、零件序号或章节引用等确切术语的召回率较低。
  • 含有噪声或偏离主题的片段会传入模型。
  • 当内部语料库中没有答案时没有备用方案。
  • 无法自行检查检索或生成的内容是否具有依据。
  • 无法通过多轮操作在多份文档之间进行推理。
  • 小片段中会丢失文档级的上下文信息。

基准方案:简单的RAG

这种模式是一个起点,通过将答案与检索到的文本关联起来,相比闭卷模型已能减少幻觉现象。

文档会被分割成固定大小的块,比如512个标记。像bge-large或text-embedding-3-large这样的密集模型会对这些块进行嵌入处理,生成的向量会被存储在Qdrant、Weaviate或Pinecone等数据库中。查询时,通过余弦相似度将查询嵌入与各块嵌入进行比较,排名靠前的三到五个块会随查询一起传递给大语言模型。

该方法适用于单主题的内部知识库、简单的常见问题查询,以及那些更注重速度而非精确度的原型系统。其典型构成包括固定大小的块分割且重叠较少或没有重叠、一个密集向量索引、无需重排器或仅使用简单的重排器,以及经过指令微调的生成模型。

这些缺陷是可预见的。精确的关键词查询和缩写词会使其出错,分块边界会导致其丢失上下文,而且在生成开始之前没有任何机制能够检测到不良的检索结果。

结合交叉编码器重排器的混合搜索

当查询中同时包含模糊含义与政策编号、章节ID、SKU或法规引用等字面标识符时,单一的密集索引会遗漏太多信息。基准测试表明,混合检索方式结合神经网络重排器在处理混合文本和表格文档时,性能优于单阶段方法。

两只检索犬并排奔跑。一种基于词汇的稀疏模型,如BM25或SPLADE,用于匹配精确术语;另一种基于语义的密集模型则能捕捉概念上的相似性。这两种模型的排序结果会通过互逆排名融合方法或经过校准的加权方案进行合并。随后,融合后的前50到100个候选项会被送入交叉编码器重新排序,该编码器会对每一组查询与片段进行综合评分,从而得出更精准的前5到10名结果。这些片段及查询内容会连同引用元数据一起传递给大语言模型。

它适用于那些需要精确章节引用的合规性文件、充斥着零件编号和错误代码的技术手册、包含表格及精确数值问题的财务文档,以及任何以检索质量决定答案质量的生产系统。典型组件包括带有元数据的固定或语义分块、BM25或SPLADE以及密集型双编码器、RRF或学习型融合模型、诸如bge-reranker、Cohere Rerank或Jina Rerank之类的交叉编码器,以及能够支持引用的指令型大语言模型。

纠错RAG

其目的是防止系统基于薄弱或无关的信息块给出自信的答案。在检索之后会设置质量检测环节,当内部语料库不足时还有备用方案可供使用。

检索完成后,一个轻量级评估器会针对这些片段与查询进行评分,并给出置信度标签:正确、模糊或错误。随后路由器会作出相应处理——正确结果将进入生成阶段;模糊的结果会触发查询重写、分解或其他检索策略;错误的结果则会启动网络搜索或调用其他外部资源,这样有问题的片段就永远不会被使用。

客户支持领域正是这样的典型场景:缺失的信息绝不能被随意编造。同样属于这种情况的还有那些内容会频繁更新但仍有漏洞的技术文档。凡是诚实地说“我不知道”并附上网络上的相关依据,比给出看似正确的错误答案更可取的领域,都适用这一原则。该系统由混合式或密集检索器、用于评估相关性的小型分类器或提示式模型、基于规则或大型语言模型的路由器、备用方案如网络搜索API或辅助存储,以及被要求注明信息来源并承认不确定性的生成器组成。

自我反思型RAG

这种设计将检索与事实核查功能整合到生成过程之中。模型能够学会何时进行检索、所检索的内容是否相关,以及自身的答案是否有证据支撑。

它以循环方式运行,由特殊标记或结构化提示驱动。模型会判断查询是否需要检索信息,评估所检索文档的相关性,根据这些文档撰写答案,再对答案的依据充分性与完整性进行审视;若支撑信息不足,则要么修改答案,要么拒绝作答。训练或提示会引导它倾向于给出有依据的陈述,并标出缺乏支持的主张。

法律合同分析与条款比对十分适用。需要可追溯性的医疗报告摘要、临床指南、审计及合规审查,以及任何提出不实主张会带来高昂代价的场景也同样适用。其组成部分包括混合型或领域专用检索器、经过训练或能进行自我批判的生成器,可选的外部验证器用于将引用内容与检索到的信息片段进行比对,以及用于评估合理性、准确性及回避行为的指标。

代理式多跳与子查询RAG

有些问题无法通过单次检索来解决:比如跨公司和年份对比指标、追踪文档间的依赖关系,或是整合多个部门的输入信息。

智能体接收复杂的查询并将其拆分为多个子查询。这些子查询会按顺序或并行方式提交给检索系统进行处理。随后,智能体会协调其中的矛盾、整合各种证据并生成最终答案;如果中间结果存在遗漏,它可能会再次循环处理。

其典型应用包括将10-K年度报告与业绩电话会议内容进行对比、分析不同文档中的政策条款、跨大型企业各部门开展的调查,以及汇总多来源信息的科研助手。该系统需要一个能够分解查询的规划智能体、一个或多个范围可能不同的索引、用于存储中间结果的短期记忆机制、一个用于整合各子答案的合成器,以及可选的用于检查各结果一致性的环节。

GraphRAG

平面块检索无法识别跨越多个链接的关系,例如在反洗钱工作中关联可疑账户、追踪临床治疗路径或理解复杂的供应链。

大型语言模型或提取流程可在文档中识别实体与关系,这些信息会被存储到 Neo4j 中的知识图谱或内存结构中。随后通过查询在图谱中查找多跳关联,比如某个实体在特定诊所治疗某种疾病。检索到的子图会与文本块结合后传递给大型语言模型。

它适用于欺诈检测与金融犯罪合规、临床决策支持、组织结构或供应链分析,以及任何实体间的关联与文本本身同样重要的领域。其基本构成包括:实体关系提取器、如Neo4j、networkx这样的图存储系统或托管型图数据库、结合节点描述遍历与可选向量搜索的检索器,以及能够同时考虑文本和图结构上下文的生成器。

上下文感知的分块

脱离上下文的文本片段往往会失去意义。例如“营收增长了15%”这句话并未说明涉及的是哪家公司、哪一年或哪个业务板块。

解决方案是在对每个数据块进行嵌入之前,让大语言模型在整份文档的上下文前添加50到100个标记。这些标记可以包含文档标题、章节、财年、实体名称以及其他关键元数据。每个经过补充的信息块都会被嵌入并建立索引,这样检索出来的数据块就会附带相应的上下文,从而减少生成器的猜测工作。

这种方法适用于那些包含表格、图表及含义模糊的代词、多年度的财务报表和监管文件,以及具有重复结构模式的技术标准的长篇PDF报告。简而言之,就是任何出现“该公司”“此条件”或“他们”等短语却缺乏明确指代对象的语料库。系统由基于LLM或规则的文本分块器、用于添加标题的组件、混合式或密集型检索器、可选的交叉编码器重排器,以及能够利用额外上下文令牌的生成器组成。

选择模式

可将以下内容作为起点,再根据评估结果进行调整。

  • 简单的内部搜索和原型系统:采用基础的RAG方案。
  • 生产环境系统,尤其是需要精确匹配术语和表格的场景:升级为带有交叉编码器重排功能的混合搜索方案。
  • 存在缺失内容且错误答案会带来实际经济损失的场景:需加入纠错层。
  • 需要严格依据的法律、医疗或审计工作:应选择具备自我反思功能的RAG技术。
  • 涉及多份文档且需多步处理的查询:应使用代理式多跳检索技术。
  • 取决于实体之间关联关系的任务:应采用GraphRAG技术。
  • 长文档中含糊的引用会降低质量:需进行上下文分块处理。
  • 成熟的系统通常会结合多种此类技术。2026年较为常见的强大方案是将混合检索与RRF融合、交叉编码器重排序及上下文分块技术相结合,同时对置信度较低的查询提供纠错机制作为备用。