Agent Loop Engineering——从概念到实战AI的完整博客指南
用于生产级AI智能体的循环工程:从为大型语言模型提供工具,发展到设计智能体自身的循环结构,以及各阶段所需的架构。
来源: Agent Loop Engineering : A Complete Blog to Production AI Agent Architecture — Part-2
本指南将逐步构建从原材料到可运行系统的完整流程,内容来自《Agent Loop Engineering:从博客到生产级AI智能体架构的完整指南——第二部分》。重点在于可操作的步骤、明确的检查点,以及可直接放入代码仓库的代码,无需猜测其用途。 在概览阶段,应在修改代码之前明确输入参数、该步骤的负责人以及完成标准。操作人员应能够从已知的检查点重新运行该步骤,而无需猜测隐藏的状态。 建议使用小型、可测试的单元而非庞大的脚本。当某个步骤失败时,故障应能指向单一的责任模块,而非复杂的流程链。
第二部分:循环工程
在完成第二阶段的循环工程时,首先写下相关契约:所需的输入参数、成功信号以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 将这一阶段视为输入与经过验证的输出之间的契约。为相关成果命名,明确成功判定标准,杜绝无声的半完成状态。 在成本较高的步骤之后设置检查点。当操作员重新尝试后续节点时,恢复流程不应再次调用相同的大型语言模型。
从为智能体提供工具到推动其改进
在“为执行代理提供工具”阶段工作时,首先需写下相关契约:所需输入、成功标志以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 在功能结果旁记录执行时间以及代币或查询成本。提前了解成本情况,可避免在从演示环境过渡到共享环境时出现意外账单。 需为每次调用记录工具名称、参数哈希值、延迟时间以及最终结果。没有这些记录,调试代理循环将会耗费大量时间。
但存在一个问题。
在处理“但存在某个阶段”这类问题时,首先要明确相关规范:所需的输入参数、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 应将配置信息与应用程序代码分开存放。环境文件、密钥存储以及功能开关应集中管理,这样操作人员无需查看整个流程就能进行审计。 在耗时较长的步骤之后设置检查点。当操作人员重新执行后续节点时,恢复流程不应再次调用相同的大型语言模型。 在处理“但存在某个阶段”这类问题时,首先要明确相关规范:所需的输入参数、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持一致性。 相比复杂的脚本,更应优先使用小型且可测试的单元。当某个步骤失败时,故障应能指向具体的责任模块,而非整个混乱的流程。
你。什么是循环工程?
“你是什么”循环阶段若被视为可度量的对象,效果最佳。在扩大范围之前,先记录一份优秀的处理结果、一个失败案例以及回滚说明。 将此阶段视为输入与已验证输出之间的契约。为相关成果命名,明确成功标准,绝不允许出现无声的、不完整的处理过程。 保持图结构的状态简洁且具有类型定义。嵌套的数据块会掩盖哪个节点修改了哪个字段,还会在中断后导致处理无法继续。
II. 为何每个AI智能体都需要循环结构
为何将每个人工智能阶段视为可测量的对象才能发挥最佳效果?在扩大范围之前,先记录一份理想的运行结果、一个失败案例以及回滚说明。在功能结果旁还需记录执行时间以及令牌或查询成本。提前了解成本情况,就能避免在从演示环境过渡到共享环境时出现意外费用。要保持图结构的状态简洁且类型明确,嵌套的数据块会掩盖具体是哪个节点修改了哪个字段,还会在进程中断后导致无法继续运行。
1. 基本智能体循环
将“1个基础代理循环阶段”视为可度量的对象来处理时效果最佳。在扩大范围之前,先记录一份理想的执行日志、一个故障案例以及回滚说明。 配置应置于应用程序代码之外。环境文件、密钥存储和功能标志应集中存放于一个位置,以便操作人员无需查看整个架构就能进行审计。 保持架构状态的简洁性与类型化。嵌套的数据结构会掩盖是哪个节点修改了哪个字段,还会在中断后导致无法继续执行。
while not goal_reached:
result = agent.act()
evidence = evaluate(result)
if evidence.success:
break
agent.learn(evidence.feedback)
将“1个基础代理循环阶段”视为可度量的对象来处理时效果最佳。在扩大范围之前,先记录一份理想的执行日志、一个故障案例以及回滚说明。 相比庞大的脚本,更应优先使用小型且可测试的单元。当某个步骤出现故障时,故障原因应能明确指向某个具体的责任模块,而非复杂的流程链。
示例:编码代理
在示例编码代理阶段,应在修改代码之前明确输入内容、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤,而无需猜测隐藏状态。 将此阶段视为输入与经过验证的输出之间的契约。为相关成果命名,定义成功检测标准,并拒绝默许的半完成状态。 对于涉及资金支出或修改生产数据的操作,必须经过人工审批。编译时的连接并不等同于业务上的完整性。
III. 设计良好的循环结构解析
在修改代码之前,对于“舞台的解剖结构III”而言,需明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤,而无需猜测隐藏状态。应在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况,可避免在从演示环境过渡到共享环境时出现意外费用。对于那些会耗费资金或修改生产数据的操作,必须经过人工审批。编译时的配置并不等同于业务功能的完整性。
一个良好的循环包含几个明确定义的组成部分:
一个良好的循环应当有明确的阶段划分,在修改代码之前先确定输入参数、各步骤的负责人以及退出条件。操作人员应能够从已知的检查点重新执行相应步骤,而无需猜测隐藏的状态。 配置信息应置于应用程序代码之外。环境文件、密钥存储以及功能开关都应集中存放,这样操作人员只需查看这些内容即可,无需阅读整个流程图。 对于涉及资金支出或修改生产数据的操作,必须经过人工审批。仅靠编译时的配置并不足以保证业务的完整性。
1. 触发条件
在1号触发阶段,应在修改代码之前明确输入参数、该步骤的负责人以及终止条件。操作人员应能够从已知的检查点重新运行该步骤,而无需猜测隐藏状态。 需同时记录正常流程和异常恢复流程。重试机制、人工审核环节以及错误处理都是产品本身的组成部分,而非后续需要补充的功能。 对于涉及资金支出或修改生产数据的操作,必须经过人工审批。仅靠编译时的配置并不能保证业务的完整性。
2. 目标
在“2个目标”阶段,应在修改代码之前明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤,而无需猜测隐藏状态。 优先选择小型、可测试的单元,而非庞大的脚本。当某个步骤失败时,故障应指向单一责任点,而非复杂的流程链。 对于涉及资金支出或修改生产数据的操作,必须经过人工审批。编译时的连接方式并不等同于业务功能的完整性。
"All unit tests must pass."
"Make it better."
3. 状态
在第三阶段,应在修改代码之前明确输入参数、该步骤的负责人以及结束标准。操作人员应能够从已知的检查点重新运行该步骤,而无需猜测隐藏状态。 将此阶段视为输入与已验证输出之间的契约。为相关成果命名,定义成功判定标准,并拒绝默许的半完成状态。 对于涉及资金支出或修改生产数据的操作,必须经过人工审批。编译时的连接方式并不等同于业务上的完整性。
4. 操作策略
在“4个行动策略”阶段,应在修改代码之前明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤,而无需猜测隐藏状态。除了功能结果外,还需记录执行时间以及令牌或查询成本。提前了解成本情况可以避免在从演示环境过渡到共享环境时出现意外账单。对于会耗费资金或修改生产数据的操作,必须经过人工审批。编译时的配置并不等同于业务功能的完整性。
智能体被允许执行哪些操作?
在“什么是代理阶段”这一环节中,应在修改代码之前明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤,而无需猜测隐藏状态。 配置信息应置于应用程序代码之外。环境文件、密钥存储以及功能开关应集中存放于一个位置,以便操作人员无需查看整个流程即可进行审计。 对于涉及资金支出或修改生产数据的操作,需经过人工审批。编译时的连接方式并不等同于业务流程的完整性。 在“什么是代理阶段”这一环节中,应在修改代码之前明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤,而无需猜测隐藏状态。 相较于庞大的脚本,更应优先使用小型且可测试的单元。当某个步骤出现故障时,故障原因应能明确指向某个具体的责任模块,而非整个复杂的流程。
5. 证据
在处理“5个证据”阶段时,首先写下合同条款:所需的输入、成功标志以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 将此阶段视为输入与验证后输出之间的契约。为相关成果命名,明确成功检测标准,并杜绝无声的半完成状态。 在成本较高的步骤之后设置检查点。当操作员重新尝试后续节点时,恢复流程不应再次调用相同的LLM接口。
6. 反馈
在完成6个反馈阶段时,首先写下相关约定:所需的输入参数、成功标志,以及部分失败时的处理方式。这样的清单能确保后续的代码修改保持一致性。 在功能结果旁记录执行时间以及令牌或查询成本。提前了解成本情况,可避免在从演示环境过渡到共享环境时出现意外费用。 在耗时较高的步骤之后设置检查点。当操作员重新尝试后续节点时,恢复流程不应再次收取相同的LLM调用费用。
"Try again."
"Three tests failed because the API returns a string where an integer is expected."
7.停止规则
在实施“7个停止规则”阶段时,首先需明确合同条款:所需的输入参数、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持透明可追溯。 应将配置信息与应用程序代码分开存放。环境文件、密钥存储以及功能开关应集中于一个位置,以便操作员无需查看整个流程即可进行审计。 在成本较高的步骤之后设置检查点。当操作员重新执行后续节点时,恢复流程不应再次调用相同的大型语言模型。 在实施“7个停止规则”阶段时,首先需明确合同条款:所需的输入参数、成功标志以及部分失败时的处理方式。这样的检查清单能确保后续的代码修改保持透明可追溯。 相比庞大的脚本,更应优先使用小型且易于测试的单元。当某个步骤失败时,故障应能指向具体的责任模块,而非整个复杂的流程。
IV. 以证据为驱动的循环与以信心为驱动的循环
在将“证据驱动”与“信心驱动”阶段视为可度量的层面时,其效果最佳。在扩大范围之前,先记录一份完美的转录文本、一个失败案例以及回滚说明。 把这一阶段视为输入与已验证输出之间的契约。为相关成果命名,明确成功标准,绝不允许默默地仅完成部分工作。 保持图结构的状态简洁且类型明确。嵌套的数据块会掩盖哪个节点编写了哪个字段的信息,且在中断后会导致无法继续处理。
"The code looks correct."
"The tests pass, the type checker passes, and the API returns the expected response."
V. 常见循环模式
将V Common Loop Patterns阶段视为可度量的对象来处理效果最佳。在扩大范围之前,先记录一份理想的测试用例、一个失败案例以及回滚说明。在功能结果旁同时记录执行时间以及令牌或查询成本。提前了解这些成本信息,就能避免在从演示环境过渡到共享环境时出现意外费用。要保持图结构的层次简单且类型明确,嵌套的数据块会掩盖是哪个节点修改了哪个字段,还会在出现中断后导致流程无法继续。
1. 重试循环
将“1次重试循环”阶段视为可度量的对象来处理效果最佳。在扩大范围之前,先记录一份理想的操作日志、一个故障案例以及回滚说明。 配置应与应用程序代码分开存放。环境文件、密钥存储和功能开关应集中于一个位置,以便操作人员无需查看整个系统结构即可进行审计。 保持系统状态的结构简洁且类型明确。嵌套的数据结构会掩盖哪个节点修改了哪个字段的信息,还会导致在中断后无法继续执行。 将“1次重试循环”阶段视为可度量的对象来处理效果最佳。在扩大范围之前,先记录一份理想的操作日志、一个故障案例以及回滚说明。 相比复杂的脚本,更应采用小型且可测试的单元。当某个步骤出现故障时,故障原因应能明确指向某个具体的责任模块,而非整个错综复杂的流程。
2. 反思循环
在第二个反射循环阶段,应在修改代码之前明确输入参数、该步骤的负责人以及终止标准。操作人员应能够从已知的检查点重新运行该步骤,而无需猜测隐藏状态。 将此阶段视为输入与经过验证的输出之间的契约。为相关成果命名,定义成功判定标准,并拒绝默许的半完成状态。 对于涉及资金支出或修改生产数据的操作,必须经过人工审批。编译时的连接方式并不等同于业务上的完整性。
3. 评估循环
4. 自我修正循环
def solve_problem(problem):
for _ in range(5):
solution = agent.generate(problem)
result = run_tests(solution)
if result.passed:
return solution
problem = agent.analyze_failure(
problem,
result.errors
)
raise RuntimeError("Unable to solve the problem")
VI. 实际应用案例
1. 编码智能体
示例:编码智能体
代码片段:基于证据的编码循环
for attempt in range(MAX_RETRIES):
code = agent.generate()
result = run_tests(code)
if result.passed:
return code
agent.update(result.errors)
raise RuntimeError("Could not produce a valid solution")
2. 研究智能体
代码片段:
MAX_ITERATIONS=6
def research_agent(topic):
state = {
"sources": [],
"gaps": [topic]
}
for _ in range(MAX_ITERATIONS):
# 1.Search
results=search_web(state["gaps"])
# 2.Read
documents=read_sources(results)
# 3.Evaluate
useful_sources=evaluate_sources(documents)
state["sources"].extend(useful_sources)
# 4.Identify gaps
state["gaps"]=find_knowledge_gaps(
topic,
state["sources"]
)
# 5.Stop when enough evidence exists
if not state["gaps"]:
break
# 6.Synthesize
return synthesize_report(
topic,
state["sources"]
)
3. 内容生成
代码片段
def content_agent(topic, requirements):
draft = generate_draft(topic)
for _ in range(3):
evaluation = evaluate(
draft,
requirements
)
if evaluation.passes:
return draft
draft = revise(
draft,
evaluation.feedback
)
raise RuntimeError("Could not satisfy requirements!")