实用提示：长时间运行的智能体——为何大多数智能体仅能运行一次会话后便失效

以下笔记围绕“长运行智能体：为何大多数智能体仅能运行一次会话（以及真实系统如何持续运行）”这一主题，提供了一条实用的实施路径。重点在于契约、校验机制以及可插入的代码占位符，而非动机性阐述。

为何大多数AI智能体显得短暂存在

在探讨“为何大多数AI智能体如此”这一阶段时，首先需明确契约内容：所需输入、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 将配置信息置于应用程序代码之外。环境文件、密钥存储及功能开关应集中存放于一个位置，以便操作员无需查看整个系统结构即可进行审计。 在耗时较高的步骤之后设置检查点。当操作员重新尝试后续节点时，恢复流程不应再次调用相同的大型语言模型。

从简单开始：什么是长运行智能体？

在完成“从简单开始：什么是”这一阶段时，首先写下相关契约：所需的输入参数、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 同时记录正常流程和异常恢复流程。重试机制、人工审核环节以及死信处理都是产品本身的组成部分，而非后续需要补充的功能。 在成本较高的步骤之后设置检查点。当操作员重新尝试某个后续节点时，恢复流程不应再次调用相同的大型语言模型。

三个基本问题（障碍）

在处理“三个基本问题”阶段时，首先写下相关约定：所需的输入参数、成功标志，以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 优先选择小型、可测试的单元，而非庞大的脚本。当某个步骤失败时，故障应指向单一的责任模块，而非复杂的流程链。 在成本较高的步骤之后设置检查点。当操作员重新尝试后续节点时，恢复流程不应再次调用相同的大型语言模型。

从基础模式迈向实用模式

在从基础阶段过渡到更高阶段时，首先写下相关契约：所需的输入参数、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 将这一阶段视为输入与经过验证的输出之间的契约。为相关成果命名，明确成功判定标准，杜绝无声的半完成状态。 在成本较高的步骤之后设置检查点。当操作员重新尝试后续节点时，恢复流程不应再次调用相同的大型语言模型。

有助于理解的心智模型

在完成“构建思维模型”这一阶段时，首先需写下相关约定：所需的输入参数、成功标志以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 在功能结果旁记录执行时间以及令牌或查询成本。提前明确成本信息，可避免在从演示环境过渡到共享环境时出现意外费用。 缓存稳定的系统指令和工具结构。重复发送相同的开头信息是导致资源浪费的常见原因。 在完成“构建思维模型”这一阶段时，首先需写下相关约定：所需的输入参数、成功标志以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 同时记录正常流程和故障恢复流程。重试机制、人工审核环节以及错误消息处理都是产品本身的组成部分，而非后续需要补充的功能。

当智能体变为长运行进程时会发生什么变化

将“当 Agent 执行任务时会发生什么变化”这一概念视为可测量的指标最为有效。在扩大范围之前，先记录一份优秀的执行日志、一个失败案例以及回滚说明。 优先选择小型且可测试的单元，而非庞大的脚本。当某个步骤失败时，故障应能指向具体的责任主体，而非复杂的流程链。 保持图结构的状态简洁且具有类型定义。嵌套的数据块会掩盖哪个节点修改了哪个字段的信息，还会在流程中断后导致无法继续执行。

迈向真正的生产环境模式

将“进入实际生产阶段”视为一个可度量的指标会更为有效。在扩大范围之前，先记录一份优秀的测试用例、一个故障案例以及回滚说明。把这一阶段视为输入与经过验证的输出之间的契约，为相关成果命名，明确成功标准，绝不允许出现悄无声息的半完成状态。要保持图表状态的简洁性与类型一致性，嵌套的数据块会掩盖是哪个节点修改了哪个字段，还会在中断后导致无法继续处理。

模式1：检查点与恢复（最为重要的一种）

模式1：检查点与恢复。将该阶段视为可度量的对象来处理效果最佳。在扩大范围之前，需记录一份理想运行案例、一个故障案例以及回滚说明。 在功能结果旁同时记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在从演示环境过渡到共享环境时出现意外费用。 保持图表状态简洁且类型明确。嵌套的数据块会掩盖哪个节点修改了哪个字段的信息，还会在出现中断后导致无法恢复。 模式1：检查点与恢复。将该阶段视为可度量的对象来处理效果最佳。在扩大范围之前，需记录一份理想运行案例、一个故障案例以及回滚说明。 需同时记录正常流程与恢复流程。重试机制、人工审核环节以及死信处理都是产品本身的组成部分，而非后续需要补充的功能。

模式2：模型之外的内存

对于模式2的记忆阶段，在修改代码之前需明确输入内容、该步骤的负责人以及退出标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。相比冗长的脚本，更应采用小型且可测试的单元。当某个步骤失败时，故障原因应能指向单一责任主体，而非复杂的流程链。如果后续步骤是代码或工具调用，相比自由形式的文字描述，结构化且经过模式验证的输出更为合适。

模式3：将生成与评估分开

在模式3的独立生成阶段，应在修改代码之前明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏状态。 将此阶段视为输入与经过验证的输出之间的契约。为相关成果命名，定义成功判定标准，并拒绝默许的半完成状态。 对于涉及资金支出或修改生产数据的操作，必须经过人工审批。编译时的连接方式并不等同于业务上的完整性。

模式4：正确实施的人工干预机制

在模式4的“人工干预完成”阶段，修改代码之前需明确输入参数、该步骤的负责人以及退出标准。操作人员应能够从已知的检查点重新执行该步骤，而无需猜测隐藏状态。 在功能结果旁记录处理时间以及令牌或查询成本。提前显示成本可避免在流程从演示环境转向共享环境时出现意外费用。 对于会产生费用或更改生产数据的操作，必须经过人工审批。编译时的连接方式并不等同于业务功能的完整性。 在模式4的“人工干预完成”阶段，修改代码之前需明确输入参数、该步骤的负责人以及退出标准。操作人员应能够从已知的检查点重新执行该步骤，而无需猜测隐藏状态。 需同时记录正常流程和异常恢复流程。重试机制、人工审核环节以及错误处理方式都是产品的一部分，而非附加内容。

进行最终润色。

模式5：舰队/多智能体协调

在处理模式5的舰队多智能体阶段时，首先列出相关约定：所需输入、成功信号以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 优先选择小型、可测试的单元，而非庞大的脚本。当某个步骤失败时，故障应指向单一责任点，而非复杂的流程链。 在成本较高的步骤之后设置检查点。当操作员重新尝试后续节点时，恢复流程不应再次调用相同的LLM接口。

生产环境架构通常的构成

在处理“生产堆栈通常如何构建”这一阶段时，首先需写下相关契约：所需的输入、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 将这一阶段视为输入与经过验证的输出之间的契约。为相关成果命名，明确成功判定标准，并杜绝无声的半完成状态。 在成本较高的步骤之后设置检查点。当操作员重新尝试后续节点时，恢复流程不应再次调用相同的大型语言模型。

实用的设计规则

在处理“实用设计规则”这一阶段时，首先需明确合同条款：所需输入、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况，可避免在系统从演示环境过渡到共享环境时出现意外费用。 在耗时较高的步骤之后设置检查点。当操作员重新尝试后续节点时，恢复流程不应再次收取相同的LLM调用费用。 在处理“实用设计规则”这一阶段时，首先需明确合同条款：所需输入、成功信号以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 需同时记录正常流程和故障恢复流程。重试机制、人工审核环节以及死信处理都是产品的一部分，而非后续需要补充的功能。

其余限制

“剩余限制”阶段若被视为可度量的界面，效果最佳。在扩大范围之前，先记录一份理想的实现方案、一个失败案例以及回滚说明。 优先选择小型且可测试的单元，而非庞大的脚本。当某一步骤失败时，故障应能指向单一责任模块，而非复杂的流程链。 保持图表状态简洁且具有类型定义。嵌套的数据块会掩盖哪个节点修改了哪个字段的信息，还会在中断后导致无法继续处理。

总结

“最终思考”阶段若被视为可度量的工作面，效果最佳。在扩大范围之前，先记录一份优秀的处理结果、一个失败案例以及回滚说明。将此阶段视为输入与已验证输出之间的契约，为相关成果命名、明确成功标准，杜绝默许的半完成状态。需保持图结构简洁且类型明确，嵌套的数据块会掩盖具体节点负责编写哪些字段的信息，还会在中断后导致无法继续处理。

操作检查清单

在“操作检查清单”阶段，修改代码之前需明确输入内容、该步骤的负责人以及退出标准。操作人员应能够从已知的检查点重新运行该步骤，而无需猜测隐藏的状态信息。配置文件应置于应用程序代码之外，环境文件、密钥存储及功能开关都应集中存放于一个位置，以便操作人员无需查看整个图结构即可进行审计。

对于会花费资金或修改生产数据的操作，必须经过人工审批。编译时的配置并不等同于业务功能的完整性。

编写一份简短的操作手册：说明如何轮换密钥、如何清空队列、以及如何回滚上一次的导入操作。

同时记录正常流程和故障恢复流程。重试机制、人工审核环节以及死信处理都是产品不可或缺的部分，而非后续才需要补充的功能。

对于会花费资金或修改生产数据的操作，必须经过人工审批。编译时的配置并不等同于业务功能的完整性。

在升级技术栈之前，应先冻结版本，为关键流程保存完整的操作记录，并确认好回滚步骤。共享环境需要设置速率限制、进行租户身份验证，同时要明确负责密钥轮换的人员。与其追求花哨的一次性演示，不如注重扎实的可靠性。

569b38bcfae5的批处理说明：不要将提供者密钥放入仓库中，设定单会话令牌上限，并将转录内容存储在评估测试用例的旁边，以便后续更换模型时仍能保持可比性。