实用指南：RAG、微调与AI智能体——实际AI系统中何时该选用哪种技术
《实用笔记》操作指南：RAG、微调与AI智能体——在现实世界的AI系统中何时该使用哪种技术：为团队提供的模板、检查清单及可直接插入的代码片段。
以下内容为“RAG与微调、AI智能体：现实世界AI系统中何时该用哪种技术”这一主题提供了实用解决方案。重点在于明确契约、检查项以及可直接插入的代码占位符，而非强调动机层面。
“应该使用RAG还是对LLM进行微调？”
在探讨“应该使用RAG还是对LLM进行微调？”这一问题时，首先需明确契约内容：所需输入、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 将此阶段视为输入与验证后输出之间的契约。为相关成果命名，定义成功检查标准，并杜绝无声的半完成状态。 缓存稳定的系统指令和工具结构。重复发送相同的前置内容是导致资源浪费的常见原因。
1. 各概念的简单解释——以及实际发生的过程
在学习“1. 每个概念的简单解释——以及实际发生的情况”这部分内容时，首先需列出相关契约：所需输入、成功信号，以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外费用。 在调整提示词之前，先使用固定的问题集测试召回率。仅仅更换提示词往往无法改善较差的检索效果。
RAG（检索增强生成）
在处理 RAG（检索增强生成）时，首先明确相关规范：所需输入、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 将配置信息置于应用程序代码之外。环境文件、密钥存储和功能开关应集中存放，以便操作人员无需查看整个系统结构即可进行审计。 在调整提示词之前，先使用固定的问题集来测试召回率。仅仅更换提示词往往无法解决检索效果不佳的问题。
微调
在进行微调时，首先写下相关规范：所需的输入参数、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 同时记录正常流程和异常恢复流程。重试机制、人工审核环节以及错误消息处理都是产品本身的一部分，而非后续需要补充的功能。 在调整提示词之前，先使用固定的问题集来衡量召回率。仅仅更换提示词往往无法解决检索效果不佳的问题。
AI智能体
在开发 AI 智能体时，首先需明确契约内容：所需输入、成功标志以及部分失败时的处理方式。这份清单能确保后续的代码修改保持透明可溯。 优先选择小型、易于测试的单元，而非冗长的脚本。当某一步骤失败时，故障应指向单一责任模块，而非复杂的流程链。 在调整提示词之前，先使用固定的问题集测试召回率。仅仅更换提示词很难解决检索效果不佳的问题。 在开发 AI 智能体时，首先需明确契约内容：所需输入、成功标志以及部分失败时的处理方式。这份清单能确保后续的代码修改保持透明可溯。 除了功能结果外，还需记录执行时间以及令牌或查询成本。提前了解成本情况，可避免从演示环境过渡到共享环境时出现意外费用。
2. 对比表
- 将对比表视为可度量的对象使用效果最佳。在扩大范围之前，先记录一个成功的案例、一个失败案例以及回滚说明。 将配置置于应用程序代码之外。环境文件、密钥存储和功能开关应集中存放，以便操作人员无需查看整个系统结构即可进行审计。 将分块策略与检索策略分开。当质量指标发生变化时，修改其中一项不应迫使重新编写另一项。
3. 实际应用场景（深入探讨）
- “实际应用场景（深入分析）”这一模块若作为可度量的对象来处理，效果会更好。在扩大范围之前，先记录一个成功的用例、一个失败案例以及回滚说明。 同时记录正常流程和恢复流程。重试机制、人工审核环节以及死信处理都是产品本身的一部分，而非后续需要补充的内容。 将分块策略与检索策略分开。当质量指标发生变化时，修改其中一项不应强制要求重新编写另一项。
4. 架构：它们究竟是如何结合的
- 架构：实际组合方式的最佳处理方式是将其视为可度量的对象。在扩大范围之前，先记录一个理想案例、一个故障场景以及回滚说明。 优先选择小型且可测试的单元，而非庞大的脚本。当某一步骤出现故障时，故障应指向单一责任点，而非复杂的流程链。 将分块策略与检索策略分开。当质量指标发生变化时，修改其中一项不应迫使重新编写另一项。
- 架构：实际组合方式的最佳处理方式是将其视为可度量的对象。在扩大范围之前，先记录一个理想案例、一个故障场景以及回滚说明。 除了功能结果外，还需记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外费用。
User Query
↓
Agent (decides what needs to happen — plan the steps)
↓
RAG (retrieves relevant knowledge, if the step needs facts)
↓
LLM (fine-tuned, if tone/format/behavior consistency matters)
↓
Action (respond to user, call a tool, trigger a downstream workflow)
↓
Agent (evaluates result → loop again or stop)
5. 成本对比明细
关于第5点：成本对比分析，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。配置信息应置于应用程序代码之外，环境文件、密钥存储及功能标志应集中存放于一个操作人员可审核的位置，无需阅读整个系统结构。必须引用实际作为答案依据的段落；若没有引用，操作人员就无法区分是虚假信息还是索引缺失所致。
6. 决策框架
对于第6点“决策框架”，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新执行该步骤，而无需猜测隐藏状态。 需同时记录正常流程和异常恢复流程。重试机制、人工审核环节以及错误处理都是产品本身的组成部分，而非后续需要补充的内容。 必须引用实际作为答案依据的段落。如果没有引用，操作人员就无法区分是幻觉内容还是索引缺失导致的错误。
简单的流程图版本
对于简单的流程图版本，应在修改代码之前明确输入项、该步骤的负责人以及退出标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。相比冗长的脚本，更应采用小型且可测试的单元。当某个步骤失败时，故障原因应指向单一责任点，而非复杂的流程链。需引用实际作为答案依据的段落；没有引用的话，操作人员就无法区分是幻觉内容还是索引缺失所致。
Does the answer depend on information that changes often?
YES → RAG
NO ↓
Does the model need to consistently behave/sound a certain way,
and prompting alone isn't holding that consistency?
YES → Fine-tuning
NO ↓Does the task require multiple steps, tool calls, or real actions
(not just answering a question)?
YES → Agent (likely combined with RAG, and fine-tuning if voice matters)
NO → A single well-prompted LLM call is probably enough
7. 一个小型项目示例
对于第7点——迷你项目示例，在修改代码之前需明确输入内容、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 将此阶段视为输入与已验证输出之间的契约。为相关成果命名，定义成功判定标准，并拒绝默许的半完成状态。 需引用实际作为答案依据的段落。没有引用的话，操作人员就无法区分是幻觉还是索引缺失所致。
8. 常见错误
关于第8点：常见错误。在修改代码之前，应明确输入参数、该步骤的负责人以及结束标准。操作人员应当能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。应在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外费用。需注明实际作为答案依据的段落。如果没有引用，操作人员就无法区分是幻觉内容还是索引缺失导致的错误。
9. 未来发展方向
对于第9点“未来发展方向”，在修改代码之前需明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。
操作检查清单
在制定操作检查清单时，同样需要在修改代码之前明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。
将此阶段视为输入与经过验证的输出之间的契约。为相关成果命名，明确成功标准，绝不允许出现无声的半完成状态。
必须引用实际作为答案依据的段落。没有引用的话，操作人员就无法区分幻觉内容与索引缺失的问题。
在成本较高的步骤之后设置检查点。当操作人员重新尝试后续节点时，恢复流程不应再次调用相同的大型语言模型。
锁定依赖项的版本，并记录用于演示的图像摘要。可重复性比经验知识更为重要。
同时记录正常流程与故障恢复流程。重试机制、人工审核环节以及错误处理方式都是产品的一部分，而非后续需要补充的内容。
在推广该技术栈之前，应先冻结版本，为关键流程记录标准输出日志，并明确回滚步骤。共享环境需要设置速率限制、租户验证机制，以及负责密钥轮换的明确责任人。与其展示花哨的一次性演示，不如追求扎实的可靠性。
关于214485303f34的批量处理说明：请将服务提供商密钥移出代码仓库，设定单会话令牌使用上限，并将日志存储在评估用示例文件旁，以便后续模型更换时保持数据可比性。
在处理强化安全措施的第0项时，首先需明确相关规范：所需输入参数、成功标识，以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改始终符合要求。同时要在功能测试结果旁记录处理时间以及令牌或查询成本。提前了解成本情况，可避免从演示环境过渡到共享环境时出现意外费用。
强化细节 0/667：测量该记录的墙钟时间、错误类型以及令牌消耗情况，然后依据固定的问题集而非个别案例来决定是否保留该变更。
强化笔记1作为可度量的对象处理时效果最佳。在扩大范围之前，需记录一份理想的操作流程、一个故障案例以及回滚说明。同时记录正常流程和恢复流程。重试机制、人工审核环节以及死信处理都是产品本身的组成部分，而非后续的优化内容。
强化细节 1/667：测量该记录的墙钟时间、错误类型以及令牌消耗情况，然后依据固定的问题集而非个别案例来决定是否保留该变更。
针对强化措施2，在修改代码之前需明确输入参数、该步骤的负责人以及完成标准。操作人员应能够从已知的检查点重新执行该步骤，而无需猜测隐藏状态。应将此阶段视为输入与验证后输出之间的契约：为相关成果命名，定义成功判定标准，并拒绝默许部分完成的情况。
强化措施细节2/667：需统计该措施的耗时、错误类型以及令牌消耗情况，然后依据固定的评估标准而非主观判断来决定是否保留该变更。
在处理强化措施第3条时，首先写下相关约定：所需的输入参数、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 应将配置信息与应用程序代码分开存放。环境文件、密钥存储以及功能开关应集中于一个位置，这样操作人员无需查看整个系统结构即可进行审计。
强化措施细节3/667：针对该条要求，需测量执行时间、错误类型以及令牌消耗情况，然后依据固定的评估标准而非个人经验来决定是否保留该修改。