首页 / 文章

马具工程:让人工智能智能体具备可靠性的环境。

驾驭工程是人工智能智能体所处的环境:六个组成部分、三大支柱、该术语在2026年如何流行起来,以及九项生产原则。

发布者:REACTAPP.TOP阅读约 6 分钟1450 词

来源: Harness Engineering in 2026: The Discipline Making AI Agents Production-Ready

如果让一位出色的工程师在没有工具、没有文档、没有安全检查机制且无法验证结果的情况下完成任务,其产出将是不可预测的。作为智能体的原始大型语言模型就处于这种境地。工程化方法正是为解决这一问题而存在的:它涉及设计智能体运行的整个环境,包括工具、内存、约束机制、反馈回路以及执行沙箱。

其核心公式为:智能体 = 模型 + 支撑框架。模型负责推理与决策,其余所有内容都属于支撑框架:包括工具的集成方式、内存管理、沙箱环境、安全约束、上下文筛选、规划结构,以及确保生产环境中的智能体可靠且安全的反馈机制。Databricks这样阐述:没有支撑框架,模型虽能回答问题,却无法独立可靠地运行代码、调用API、访问文件、记住之前的工作或完成多步骤工作流。

这一理念代表了发展进程中的第三步。提示工程关注的是该说些什么,上下文工程关注的是提供哪些信息,而支撑框架工程则关注的是要构建怎样的系统。

支撑框架的六个组成部分

行业相关论述大致都涵盖了以下几部分:

  1. 工具集成,通过定义好的协议将模型与外部 API、数据库、代码运行工具及定制工具相连。
  2. 内存与状态管理,将工作上下文、会话状态和长期记忆分层处理,使其能跨越单个上下文窗口持续存在。
  3. 上下文与提示词管理,能够动态决定每次模型调用时显示的内容。
  4. 规划与分解,引导模型按结构化顺序逐步处理任务,而非一次性要求其完成所有内容。
  5. 验证与约束机制,包括有效性检查、格式验证、安全过滤以及自我修正循环。
  6. 模块化设计,意味着各组件可独立开启、关闭或替换。

其重要性

智能体正在各个领域普及,从客服机器人到财务分析助手,再到自动编码工具。大多数在实际应用中失败的原因在于其框架过于脆弱、不安全或难以预测,而非底层大语言模型本身性能不足。以下是四个值得关注的原因:

  • 它将工作方式从凭运气转向工程化。相比随意编码和寄希望于运气,结构化的约束条件与确定的反馈机制能让结果更具可预测性和可重复性。
  • 它减轻了审核负担。优秀的框架能提高首次尝试就正确的概率,同时还能在人工介入前自动修复尽可能多的问题。
  • 它实现了真正的自主性。没有这样的框架,智能体不过是功能更强的聊天机器人;有了它,智能体就能运行代码、调用API、读取文件、记住之前的操作,并完成多步骤的工作流程。
  • 它能让智能体达到生产级标准。Birgitta Böckeler在Martin Fowler的网站上撰文,描述了两种控制方式:引导机制,即在前置控制中在智能体行动之前为其指明方向;以及传感器,即反馈控制,在智能体行动后帮助其进行修正。正是这种组合将演示用智能体与生产环境中的智能体区分开来。
  • 核心循环

    大多数智能体的运作都围绕“推理、行动、观察”这一循环展开:

    1. 推理:模型读取上下文中的所有信息(任务、内存、之前的结果),并选择下一个行动。
    2. 行动:执行框架负责实施该行动,例如调用工具、在隔离的沙箱中运行代码、访问API或将数据保存到存储中。
    3. 观察:执行框架捕获结果,并将其作为新的上下文反馈给模型。
    4. 重复上述过程,模型利用该结果再次做出选择。

    核心设计原则是明确划分职责。模型负责提出建议,而框架则负责执行,并检查模式、权限、预算及安全规则。模型从不直接调用工具:它会返回结构化的调用请求,框架会对该请求进行验证、授权、执行,最后注入结果。正是由于这种职责分离,各组件才能保持安全且可审计:所有操作都会被记录,失败情况也会产生结构化结果,同时风险等级会决定执行路径。

    该术语的由来

    其历史并不悠久。

    • 2022年至2024年是提示词时代。开发者花费大量时间在措辞、结构及示例上,以获得更好的输出结果。
    • 2025年中,人们的注意力转向了上下文。模型所看到的内容与提问方式同样重要,因此信息检索、压缩以及上下文窗口管理变得至关重要。
  • 2026年2月5日,HashiCorp联合创始人、Terraform的创建者Mitchell Hashimoto发表了一篇文章,描述了自己的一个习惯:每当某个代理出现错误时,他都会在其环境中构建永久性的修复方案,使得同样的错误根本无法再次发生。他将此称为“设计防护机制”,大致意思是:每当代理出错时,都要花时间设计解决方案,确保它不会再以那种方式出错。
  • 2月11日,OpenAI发布了一篇关于如何在没有手写代码的情况下构建并发布产品的重大工程回顾文章,进一步验证了这一理念。
  • 3月,Anthropic发布了后续文章,介绍了完整的三代理防护机制架构,而Thoughtworks、Databricks、Red Hat、LangChain等公司也发布了详细的指南。这个术语就此流行开来。
  • 始终有效的原则

    1. 模型负责提出方案,执行模块负责落实。绝不能让大型语言模型直接调用工具。这种分离是构建安全智能体设计的基础。
    2. 每次工具调用都会产生结果,即便失败也不例外。无论是成功、权限被拒还是超时,都应以结构化观测的形式传递给智能体。无声的失败会威胁到其自主性。
    3. 风险会改变处理流程。至少需要设置三个层级:可自主运行的只读操作、不会产生外部副作用的模拟工作流程,以及需要审批的外部写入操作。
    4. 逐步整合上下文,而非一次性全部呈现。不要在每轮对话中都输入全部内容,而应分层呈现:系统级策略、针对特定任务的指令,以及即时获取的运行时提示。对不可信数据需明确标注。
  • 为复杂任务设定预算限制。每个循环都需要对步骤数、实际耗时、令牌数量(每轮及累计)以及美元成本加以约束。
  • 将反复出现的故障转化为工具的功能优化点。如果某个工具持续返回格式错误的响应,仅调整提示语并非正确解决方案,应在工具框架中编写验证器来进行根本性修复。
  • 结合计算型传感器与推理型传感器使用。代码检查工具、类型检查器及测试运行工具能够提供快速且可靠的反馈,而人工智能代码审查功能及以大语言模型作为评判标准的机制则可处理确定性工具无法解决的语义问题。最成功的团队会优先考虑那些能提供保障的确定性约束条件。
  • 控制系统熵增。人工智能生成的代码会随着时间推移逐渐变得混乱,因此需要定期运行清理工具,以确保文档一致性、检测约束违反情况、强制遵循特定模式以及进行依赖关系审计。
  • 从简单开始。Philipp Schmid的建议是避免复杂的控制流,而是提供可靠的原子化工具,让模型自行制定计划,并设置防护机制、重试机制和验证机制。一个惨痛的教训是:2024年还需要大量手工编码的流程,到了2026年往往只需一个提示词就能处理,因此应当构建这样的框架,以便在模型能力提升后能够立即移除那些过时的巧妙逻辑。
  • 三大支柱

    一些从业者选择以三大支柱而非六个组件来组织工作:

    • 上下文工程:在恰当的时间为智能体提供正确的信息,将静态文档与实时可观测数据相结合。
    • 架构约束:通过分层依赖关系、代码检查工具、结构测试以及提交前钩子等功能,由机器强制确保代码质量。
    • 熵值管理:通过定期清理防止由人工智能生成的代码库逐渐恶化。

    低成本却效果显著的技巧

    LangChain指出,仅通过框架层面的调整,其在该测试平台上的得分就从52.8%上升至66.5%,从而从排名前30名跃升至前5名。这一调整采用了“推理三明治”策略:在规划和验证阶段需要较高的推理强度,而在实现阶段则只需中等强度的推理。模型本身并未被修改,这充分体现了仅通过框架调整所能带来的显著效果。目前顶尖的编程智能体在框架使用深度上存在很大差异。

    总结

    问题已从如何设计更好的提示语转变为该构建何种系统。模型不再是核心产品,而框架才是。将令人印象深刻的演示与能在现实世界中运行的生产系统区分开来的正是框架,因此2026年任何开发智能体的人都需要它。一个实际的第一步是依据上述六个组件和九项原则对现有架构进行审计,找出缺失的部分并将其整合到框架中。

    相关阅读

  • 对编程智能体进行沙箱隔离并保持其上下文窗口简洁 — 为智能体添加安全沙箱,通过溢出文件、占位符、数据压缩以及适合前缀缓存的延迟注入机制来管理上下文。
  • React中的D3.js:数据绑定、SVG以及useEffect所有权规则 — 了解D3的真正含义,掌握进入/更新/离开绑定机制的运作方式,理解为何SVG适合与D3结合使用,以及如何划分DOM控制权,从而使D3和React在柱状图中协同工作。