您的智能体辅助框架可能设计过度:哪些部分应该被剔除?
您的代理框架可能设计得过于复杂。随着模型性能的提升,这些辅助结构反而变成了负担。如何控制评审内容的冗余与上下文成本,以及哪些部分应该删减。
随着智能体越来越聪明,有价值的工作转向了从它们身上提取信息。这与团队过去一年大多数的做法背道而驰,因为那时的做法是不断为智能体添加更多技能和功能。
迄今为止,智能体取得的几乎所有进展都依赖于各种支撑结构:规划步骤、验证循环、技能、记忆机制以及接口。在模型能力较弱的阶段,这种做法是合理的,因为这些支撑结构可以弥补模型单独无法完成的任务。问题在于,一旦模型能力提升,就没人愿意拆除这些支撑结构。一旦出现局限性,人们就会构建临时解决方案,而这种解决方案往往会长期存在。这就是智能体特有的技术债务,它常常会导致效果变差。
当支撑结构与模型产生冲突时
设想一种针对模型系列第4.5代和第4.6代进行优化的配置。它会先制定计划、检查自己的工作,还会在给出答案前进行多次复核,这在当时算是合理的做法。但将同样的配置应用到更新一代的模型上时,反而会适得其反。该模型在没有提示的情况下就已经会以那种方式思考,然而控制框架仍要求它自我怀疑、重新审视一切并重新开始。它先制定计划,却又重新考虑这个计划;先执行操作,却又质疑执行结果;先验证数据,却又与验证结果争论。很快,这个智能体就会陷入分析瘫痪,耗费大量计算资源去质疑本已合理的决策。这看似前进了一步,实则后退了一步,更多的推理非但无法得到更好的答案,有时甚至会得出更差的结论。
到目前为止那还只是一种感觉,下面是可量化的例子。有位工程师长期使用一份经过多次修改的推送前审查提示清单。它最初只有22行,现在已增至37行,审查类型也从两种变成了三种。清单上的内容从未被删除过,每一次添加的都是新规则,而这些规则都是因为在某个拉取请求中真的出现了问题才被加入的。从内部视角来看,这就是冗余代码的由来。良好的初衷反而导致了工具的臃肿。每一次修改都在当时解决了实际问题,但却缺少了后续步骤:没人会回头检查这些规则是否依然有效,也没人在不断优化这些规则。
Anthropic也遇到了同样的问题。其在2026年4月发布的关于扩展管理型智能体的技术文章指出,这些工具会编码关于模型无法独立完成哪些任务的假设,而随着模型性能的提升,这些假设会变得过时。他们以Sonnet 4.5为例,当该模型感知到上下文限制即将达到时就会提前终止工作,他们将这种行为称为“上下文焦虑”。为了解决这个问题,他们加入了上下文重置功能。而在Opus 4.5中,这种行为消失了,重置功能也变成了无用之物。
由此衍生出一个实用习惯:每当有新模型出现时,应先让它在承担新任务之前对自己的现有工具进行审计。
更多的分析并不等于更多有效信息
要求智能体进行额外分析会悄悄消耗有效信息,而且这种情况发生的频率比人们预想的要高。
代码审查很好地体现了这一点。将某些代码交给智能体,让它查找问题,它就会返回这些问题。其中一些问题较为重要,另一些则是风格上的琐碎问题、假设性的边缘情况,或是技术上虽正确但与主题无关的陈述。智能体在这里并没有出错,因为你要求它找出问题,而它也确实提供了问题。有些发现显然是错误的,这本身就是它的问题,但最麻烦的是那些正确却无关紧要的发现。
问题在于这些发现不断积累。当有十个看似合理的问题存在时,问题就不再是每个问题是否成立,而是哪些问题真正重要。因此,审查系统可能会同时向你提供更多信息,但也包含更多干扰信息。
一个实际案例可以说明问题。有一张工单要求接口在返回409状态码时能正常工作,但实际上却返回了500状态码。最简单的修复方案只需在单个文件中修改两行代码。然而回传的拉取请求却涉及三个服务中的13个文件,共计近500行代码。其中大部分是测试代码,所以并非完全浪费,但工作量依然巨大。有六名专门的审查人员分别检查了这些改动,每个人都发现了真正的问题,而主审查人员又将所有问题都纳入了修复方案,导致拉取请求的规模不断膨胀。后来有人发现了这种臃肿的情况,写出了仅两行的修复代码,该版本随即被合并,那个庞大的拉取请求也就被关闭了。
没有哪位审查人员犯错。13个文件绝非由一个人就能决定的,而是13项各自合理的决定,只是没人把它们汇总起来。每位审查人员都只询问代码是否正确,却没人去考虑这些代码是否有存在的必要。
放弃现有审阅者并非解决办法。团队反而给新的审阅者下达了相反的指示:将差异视为本不应存在的内容,要求作者为保留每个文件进行辩护。默认设置是CUT,它只会显示一个比率——即提交的文件数量与最低要求之间的比例,通过这个数值就能判断修改的规模是否合适。
批量分析无需任何成本。真正稀缺的是信号数据,而更强大的模型也不会免费提供这些信号数据。
Anthropic 也遇到了类似问题。其在2026年3月发布的关于长时运行应用开发工具设计的文章中解释了为何要将编码智能体与其评估器分开。当让智能体评判自己生成的作品时,即便人类认为其质量平平,它们也往往会自信地给予高度评价。独立的评估器可以被设定为持怀疑态度,而自我评估的智能体则无法做到这一点。不过,这种评估器的价值取决于具体任务——在简单任务中它会成为负担,而在复杂任务中则能真正起到提升作用。
一旦智能体全天候运行,其“忙碌”与“有用”之间的差距就会越来越大。
全天待命的智能体不应一直处于思考状态
使用专为轮值值守设计的自动化工具。它会监控工程团队使用的频道,将所有值班人员需要了解的信息呈现出来。这些频道上的消息非常多,而且没有人在值班时能全部阅读,因此能够全天候运行的自动化工具可以捕捉到人类可能遗漏的信息。
最初的版本功能过于复杂:包含了维护窗口管理工具、服务自检功能、升级策略查询功能,以及关于何时使用这些功能的操作手册。开发者将其称为“on-call maxxing”,但最终只开发到一半就停止了。实际上只需要实现两个功能:快速确认故障,避免有人被紧急呼叫;同时密切关注这些频道,以便尽早发现真正的问题。确认故障只需要一个不带参数的命令即可,其余功能既没有作用又被删除了。
不久之后,同样的问题出现在更低层的架构中。定时器在每个班次间隔十分钟触发一次循环,每次循环都会继续收集上下文信息。因此,每次处理都会重新读取那份不断变长的文本记录,这些读取操作被计为Opus缓存读取次数;到班次结束时,文本长度已超过15万个标记。据统计,在该时间段内,该账户的缓存读取总量达到了21亿个标记,按照团队的定价标准,其价值约为1,050美元。虽然采用固定费率制无需直接付费,但即便有50%的优惠,每周的读取限额也即将被用尽。通过追踪消耗情况,最终找到了问题的根源。
更精确的提示词并非解决方案,不同的设计才是。现在,循环在每次迭代时都会生成一个寿命短暂的Sonnet智能体,它的任务很简单:读取任何新内容,将每个频道的最后出现时间记录在一个小文件中,然后返回一行结果。由于循环本身的会话保持简单,只有当小型智能体无法处理任务时,才会启动成本较高的模型。从代码层面来看,这减少了79行代码以及一个完整的组件。接下来的轮班中没有遗漏任何重要内容,监控工作仍在继续。
最初的预估是,常规迭代后的成本将从大约0.25美元降至0.03美元左右。通过对比旧设计下的433次迭代与新设计完整轮班的情况,得出了不同尺度下的准确比例:之前每次迭代约为1.85美元,之后约为0.19美元,便宜了大约十倍。问题的性质被正确判断,但其规模却被低估了。
同样,成本并非由该处理步骤导致。原始设计在实际数据读取时已使用了廉价的Haiku模型,而该模型所处理的缓存读取量还不到1%。真正的成本在于父会话在每次循环时都要重新读取不断增长的记录内容。廉价的模型完成了工作,而昂贵的模型却不得不重新读取所有数据。
由此可得出两点教训:首先,要确保昂贵的模型不会重复廉价模型已经完成的工作;其次,在高频但风险较低的任务中,更强大的模型几乎没有任何优势,只有在对复杂的实际问题进行深入分析时,它才能发挥价值。最聪明的模型并不一定就是最繁忙的模型。
上下文并非免费
随着上下文窗口的扩大,过度设计的冲动也会随之增强。在上下文资源匮乏时,人们不得不进行选择性处理。如今人们很容易将上下文视为存储空间:把对话内容、文档、工具描述、历史记录以及所有可能有帮助的技能都塞进去,然后让模型自行分类处理。但模型并不会把上下文当作存储空间——这一切都是需要解决的问题的组成部分。每条指令都是需要解读的内容,每种工具也都是模型可能需要调用的资源。一个更聪明的智能体,就像一个更聪明的人一样,需要的是更集中的注意力,而非更多的输入信息。
这就引出了一个可以问任何智能体的问题:有什么方法能在不使情况变糟的情况下取得改进?与其编写新的功能,不如删除现有的功能。在感觉不够安全的情况下也继续运行。去掉验证环节,降低查询频率。让结果自行说明问题。如果性能没有下降,那么这个智能体的运行成本降低了,而且由于模型需要处理的数据减少了,性能很可能也有所提升;如果性能下降了,那就说明这个功能对于当前模型来说并非必需。
从追求极致性能到智能体工程
这一切的背后其实都源于一个习惯:各团队都擅长追求极致——更多的令牌、上下文、技能、工具、内存、钩子、推理能力、验证机制以及子代理。不断增加各种元素似乎意味着进步,因为系统会变得更加复杂,但复杂与实用并非同义词。到了某个阶段,你实际上已经在代理周围构建了一套官僚体系,而官僚体系往往会造成浪费。
可以把安全带的每一部分都视作一种假设,例如:
- 这种技能能让代理写出更好的代码。
- 这个钩子可以防止真正的故障发生。
- 再次审查能发现主代理遗漏的错误。
- 更多的子代理能让工作更快完成。
所谓有用的方法其实只是对系统功能的推测,并非事实。不可避免的便是繁琐的实验过程——需要分别测试有该功能与没有该功能的情况,以及有相应钩子机制与没有该机制的情况,再通过数据加以衡量。
Anthropic在其支架设计相关文章中直接阐述了这一原则:支架中的每个组件都包含着对模型单独处理无法完成的任务的推测,而这些推测都需要经过压力测试。他们的团队先构建了一个功能正常的复杂支架,然后逐个移除其中的组件,以确定哪些部分是必要的。由于Opus 4.6版本的改进,有充分理由认为模型可以直接承担相关任务,因此便不再采用迭代分解的方法。
这比“简单智能体能获胜”这样的口号更有意义。应将框架视为需要测量和调整的对象。有些组件会变得多余,而另一些则仍需保留,因为模型尚无法完成相应任务。移除某个组件并证明没人因此受到影响,比添加一个组件更为困难,而这正是“追求一切最大化”与“智能体工程”之间的分界线:前者追求系统功能的最大化,后者则追求每消耗一个标记所能获得的有效信息量的最大化。
磨利斧头
随着模型不断改进,需要移除的元素列表也会越来越长。过去需要辅助工具才能完成的工作逐渐能直接实现,审查循环也不再需要为其成本找借口,而那些看似不可或缺的部分,最终可能只是为了修复已经过时的模型。框架永远没有完成之时。只需判断某个组件是否仍能提升该模型在当前任务中的表现,对其进行测量,若有必要则予以移除,只有当有证据表明它仍然重要时才重新引入。
有一句常被归于林肯的话是:如果给六小时时间去砍倒一棵树,他会用前四小时来磨斧头。先磨好斧头。
相关阅读
- 为何语音助手听起来像机器人:级联处理、轮次检测与TEN框架 —— 级联的STT-LLM-TTS流程如何造成沉默与不良中断,语音助手的四种类型,以及TEN框架如何处理轮次检测与并行图结构。
- 为何AI助手需要治理层而非更好的提示词 —— 提示词仅能影响单次交互,无法构建完整工作流程。通过规则、限定上下文、权限限制及完成度验证构成的治理层,如何让编程型助手更加可靠。