实用笔记：什么是RAG？检索增强生成背后的故事

以下内容围绕“什么是RAG？检索增强生成背后的故事以及它为何彻底改变了人工智能”这一主题，梳理出一条实用的实现路径。重点在于契约、校验机制以及可直接插入的代码占位符，而非激励性陈述。 在完成概览阶段时，首先明确契约内容：所需输入、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 同时记录正常流程与异常恢复路径。重试机制、人工审核环节以及错误处理都属于产品功能的一部分，而非后续的优化工作。

引言

在“引入阶段”，若能将其视为可度量的对象，效果会更好。在扩大范围之前，先记录一个成功的案例、一个失败案例以及回滚说明。 相较于庞大的脚本，应优先选择小型且可测试的单元。当某个步骤失败时，故障应能指向单一的责任主体，而非复杂的流程链。 应将分块策略与检索策略分开。当质量指标发生变化时，修改其中一项不应迫使重新编写另一项。

为什么大型语言模型需要外部知识？

将“大型语言模型为何有效”这一阶段视为可测量的对象来处理效果最佳。在扩大范围之前，先记录一个成功的案例、一个失败案例以及回滚说明。 把这一阶段视为输入与经过验证的输出之间的契约。为相关成果命名，明确成功标准，绝不允许出现无声无息的半完成状态。 为每轮对话和每次会话设定token预算。智能工具往往会过度扩展上下文；设置上限可避免演示过程变成意外的费用账单。

参数化记忆与非参数化记忆

将参数化内存与非参数化阶段视为可测量的对象来处理时，效果最佳。在扩大范围之前，需记录一份理想的处理结果、一个故障案例以及回滚说明。 在功能结果旁同时记录处理时间以及令牌或查询成本。提前了解成本情况，可避免在系统从演示环境过渡到共享环境时出现意外费用。 应将分块策略与检索策略分开。当质量指标发生变化时，调整其中一个不应迫使重新编写另一个。 将参数化内存与非参数化阶段视为可测量的对象来处理时，效果最佳。在扩大范围之前，需记录一份理想的处理结果、一个故障案例以及回滚说明。 需同时记录正常处理路径和异常恢复路径。重试机制、人工审核环节以及死信处理都是产品本身的组成部分，而非后续需要补充的功能。

RAG出现之前：信息检索的演变

在“RAG演进之前”阶段，应在修改代码之前明确输入内容、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。相比冗长的脚本，更应采用小型且可测试的单元。当某个步骤失败时，故障原因应能指向单一责任主体，而非复杂的流程链。必须引用实际作为答案依据的段落；没有引用的话，操作人员就无法区分幻觉内容与索引缺失的问题。

密集段落检索（DPR）：超越关键词限制

在密集段落检索DPR阶段，修改代码之前需明确输入内容、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 将此阶段视为输入与经过验证的输出之间的契约。为相关成果命名，定义成功判定标准，并拒绝默许的半完成状态。 必须注明实际作为答案依据的段落。若没有引用，操作人员就无法区分幻觉内容与索引缺失问题。

开放领域问答

在开放领域问答阶段，修改代码之前需明确输入内容、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 在功能结果旁记录执行时间以及令牌或查询成本。提前显示成本可避免在系统从演示环境切换到共享环境时出现意外费用。 需注明实际用于生成答案的对应段落。没有引用的话，操作人员就无法区分是幻觉内容还是索引缺失导致的错误。 在开放领域问答阶段，修改代码之前需明确输入内容、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 需同时记录正常流程和异常恢复流程。重试机制、人工审核环节以及错误处理方式都是产品功能的一部分，而非后续需要补充的内容。

完善。

原始RAG论文（2020年）

在处理原始RAG论文阶段时，首先列出相关约定：所需输入、成功标志以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 优先选择小型、可测试的单元，而非庞大的脚本。当某个步骤失败时，故障应指向单一责任点，而非复杂的流程链。 在调整提示词之前，先使用固定的问题集来衡量召回率。仅仅更换提示词很难解决检索效果不佳的问题。

RAG-Sequence与RAG-Token

在处理RAG-Sequence与RAG-Token阶段时，首先需明确合同条款：所需输入、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 将这一阶段视为输入与验证后输出之间的契约。为相关成果命名，定义成功判定标准，并杜绝无声的半完成状态。 缓存稳定的系统指令和工具架构。重复发送相同的开头信息是造成资源浪费的常见原因。

原始RAG架构的局限性

在处理“原始版本的局限性”这一阶段时，首先需明确相关约定：所需的输入参数、成功标志以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 在记录功能结果的同时，还需标注处理时间以及令牌或查询成本。提前了解成本情况，可避免在系统从演示环境过渡到共享环境时出现意外费用。 在调整提示词之前，应先使用固定的问题集测试系统的召回率。仅仅更换提示词往往无法改善较差的检索效果。 在处理“原始版本的局限性”这一阶段时，首先需明确相关约定：所需的输入参数、成功标志以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 需同时记录正常流程与异常恢复流程。重试机制、人工审核环节以及错误消息处理都是产品不可或缺的部分，而非后续才需要补充的功能。

RAG的发展历程

将“RAG的演变历程”这一环节视为可度量的对象来处理效果最佳。在扩大范围之前，先记录一份优秀的示例文本、一个失败案例以及回滚说明。 优先选择小型且可测试的单元，而非庞大的脚本。当某个步骤出现故障时，故障应能指向单一的责任主体，而非复杂的流程链。 将分块策略与检索策略分开。当质量指标发生变化时，修改其中一项不应迫使重新编写另一项。

总结

“最终思考”阶段若被视为可度量的工作面，效果最佳。在扩大范围之前，先记录一份优秀的成果案例、一个失败案例以及回滚说明。将此阶段视为输入与已验证输出之间的契约，为相关成果命名、明确成功标准，并杜绝默许的半完成状态。应将分块策略与检索策略分开，当质量指标发生变化时，修改其中一项不应强制重新编写另一项。

操作检查清单

对于“操作检查清单”阶段，在修改代码之前需明确输入内容、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。配置信息应置于应用程序代码之外，环境文件、密钥存储及功能标志应集中存放于一个位置，以便操作人员无需查看整个系统结构即可进行审计。

请引用那些真正作为答案依据的段落。没有引用的话，操作人员就无法区分是幻觉还是索引缺失导致的错误。

在关注质量的同时，还要跟踪成本和延迟。一个稍差一些但成本只有前者十分之一的答案，可能才是合适的实际应用方案。

锁定依赖版本，并记录用于演示的图像摘要。可重复性比经验知识更为重要。

将这一阶段视为输入与经过验证的输出之间的契约。为相关成果命名，明确成功标准，绝不允许出现无声的半完成状态。

在推广该技术栈之前，先冻结版本，为关键流程保存标准记录，并确认回滚步骤。共享环境需要设置速率限制、进行租户检查，同时明确密钥轮换的负责人。与其追求花哨的一次性演示，不如注重扎实的可靠性。

关于6509361cde71的批量处理说明：不要将提供者密钥放入代码仓库，为每个会话设置令牌使用上限，并将转录内容存储在评估测试用例的旁边，以便后续更换模型时仍能保持可比性。

强化措施的第0阶段若被视为可测量的指标，则效果最佳。在扩大范围之前，先记录一份理想的转录样本、一个故障案例以及回滚说明。配置应置于应用程序代码之外，环境文件、密钥存储和功能开关应集中存放于一处，以便操作人员无需查看整个系统结构即可进行审计。

强化措施细节0/770：针对此条说明，需测量运行时间、错误类型以及令牌使用量，然后依据固定的评估标准而非主观判断来决定是否保留该变更。

在强化措施的第一阶段，应在修改代码之前明确输入参数、该步骤的负责人以及完成标准。操作人员应能够从已知的检查点重新执行该步骤，而无需猜测隐藏状态。相比冗长的脚本，更应采用小型且可测试的单元。当某个步骤失败时，故障原因应能指向具体的责任主体，而非复杂的流程问题。

强化措施细节 1/770：需记录该步骤的运行时间、错误类型以及令牌消耗情况，然后依据固定的评估标准而非主观判断来决定是否保留该变更。

在处理强化措施的第2阶段时，首先写下相关约定：所需的输入参数、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在系统从演示环境过渡到共享环境时出现意外费用。

强化措施细节2/770：为该环节测量实际执行时间、错误类型以及令牌消耗情况，然后依据固定的评估标准而非个人经验来决定是否保留该修改。

将强化措施的第3阶段视为可测量的对象来处理效果最佳。在扩大范围之前，先记录一个理想运行案例、一个失败案例以及回滚说明。 同时记录正常流程和故障恢复流程。重试机制、人工审核环节以及错误处理方式都是产品本身的组成部分，而非后续需要补充的内容。

强化细节 3/770：测量该笔记的处理时间、错误类型以及令牌消耗情况，然后依据固定的问题集而非个人经验来决定是否保留该变更。