仅靠提示工程不够:多智能体系统的上下文工程
多智能体系统很少在单一步骤内出现故障,故障通常发生在步骤之间,即当错误的上下文传入时。如何在LangGraph中设计状态与交接机制。
来源: Prompt Engineering Is Dead for AI Agents — Here Is What Actually Works — Context Engineering
“上下文工程”这一术语被定义为一种为下一步处理精准填充上下文窗口中所需信息的技巧。对于那些见过多智能体系统在实际应用中出现故障的人来说,它为此前未曾被明确命名的现象提供了一个名称。
典型的故障模式在所有场景中都如出一辙:提示语没有问题,模型功能完备,笔记本中的逻辑也看似合理。但当系统投入实际应用后却会出故障,问题并不出在单个步骤内部,而是出现在步骤之间的衔接处。想象一个医疗摘要智能体,它能准确检索到所需的文档;随后在流程图中,另一个智能体接收到经过简化处理的状态对象,却试图构建出实际上位于三个节点之前的患者病史。模型本身并未出故障,出问题的是上下文的传递方式。即便花费数周时间调整系统与提示语,也无法解决本就不是提示语问题导致的故障。
简单来说,提示工程负责调整问题本身,而上下文工程则负责调整问题得到解答时的环境条件。智能体在各个步骤中通常不会出错,问题出在步骤之间的衔接上,因为每个节点掌握的信息都是错误的。
一种在造成后果前毫无名状的难题
大多数团队构建首个多智能体系统的方式都是一样的。他们把精力集中在系统提示上,包括明确的任务描述、输出格式规则以及几个示例,这样单个智能体的表现就会很好。但当加入三个智能体后,系统质量就会下降。第二个智能体不知道第一个智能体做出了什么决定,第三个智能体则补充了第二个智能体从未生成过的上下文,到了第四步时,虽然答案看似很有把握地被输出,但实际上却是完全错误的,因为上游实际发生的情况根本没有传递到它那里。
这就好比传递接力棒时没有告诉下一位选手比赛已经进行到哪一步或该跑哪条跑道。选手的能力没问题,问题出在交接环节。
这也不仅仅是模型能力的问题。Chroma在2025年7月发表的一项研究测试了18种大型语言模型,包括Claude 4、GPT-4.1和Gemini 2.5,结果发现即便在极其简单的检索任务中,随着上下文量的增加,模型性能也会出现不均衡的下降。注意力分配是有成本的——进入模型处理范围的信息以及被排除在外的信息,几乎决定了最终输出的所有内容。提示工程从未解决过这个问题,也并非为此而设计。一个精心设计的系统提示会明确说明该做什么,而上下文工程则负责为模型提供当前完成任务所需的信息。
这一领域的真正内涵
明确的定义:设计动态系统,以便在恰当的时间以正确的格式为模型提供所需信息,使其拥有进行下一步操作所需的一切。这属于基础设施层面的工作,而非语言处理工作。其目标并非让句子更美观,而是对每次状态转换时在智能体图中传递的信息进行精确控制。
在 LangGraph 项目中,最大的改进往往来自 AgentState TypedDict,而非任何提示词。不要再把状态视为临时记录区,而应将其视为一份契约,其中每个节点都会声明自己读取了什么以及负责写入什么。这样一来,后续的智能体就不会再凭猜测行事,因为所有信息都以结构化且可检索的形式存储在状态中。
在实际应用中,三层结构至关重要。
持久上下文是智能体应当始终掌握的信息:用户的目标、约束条件、会话早前的决策以及领域规则。在医疗保健流程中,这对应患者的背景信息、监管限制与风险阈值,这些信息在流程启动时被注入一次,之后便不会被丢弃。
时效性上下文则是当前有效但会变化的信息:检索到的文档、当前工具的输出结果、API响应以及最新推理步骤的产出。RAG属于这一范畴,它是更大架构中的一层组件,而非最终答案本身。信息检索是相对简单的部分,难点在于决定哪些检索到的内容需要继续使用、应以何种方式压缩以及采用何种格式呈现。
临时上下文是指当前步骤需要而下一步不再需要的内容:原始的 API 请求数据、冗长的中间推理过程以及工具调用日志。应当主动丢弃这些内容而非将其积压,因为每一个不必要的标记都会与真正重要的标记争夺注意力。
生产环境中的错误通常属于以下三类之一:从未提供持久层数据、时间敏感层在步骤之间过期失效,或是临时层未被清除从而影响后续推理。
LangGraph 流水线中的上下文
这是一种简化后的多智能体研究流水线状态结构方式。代码本身不如其背后的设计原则重要。
from typing import TypedDict, Optional, List
from langgraph.graph import StateGraph
class ResearchAgentState(TypedDict):
# Persistent context — set once, never overwritten
user_goal: str
domain_constraints: List[str]
session_id: str
# Time-sensitive context — updated by retrieval/tool nodes
retrieved_docs: List[str]
current_findings: str
last_tool_result: Optional[str]
# Transient context — cleared after use
raw_api_payload: Optional[str] # cleared after parsing
intermediate_reasoning: Optional[str] # cleared after synthesis
每个节点都会接收到该状态,并仅更新自己负责的那部分数据,而顶层的协调器则决定哪些子代理会被激活以及它们能接收哪些状态数据。这就是上下文路由机制。负责编码的子代理无需领域专家获取的医学文献,负责总结的子代理也不需要数据获取工具提供的原始数据。如果给每个代理提供所有信息,就如同在每次会议前向整个团队通报所有情况:从技术上来看虽已完备,但从操作层面而言却会带来灾难性后果。通过角色来划分上下文路由不仅能减少令牌的使用,更重要的是能降低专业型代理的幻觉现象,因为它们不会再被无关信息干扰,从而在有限的时间内更专注地工作。
模型上下文协议正在加速这一进程。据报道,到2025年底,公共MCP服务器的数量已超过10,000台,这是一种标准接口,允许智能体以结构化方式查询工具、数据库及外部系统。从架构上看,它将上下文来源置于智能体之外,使其能够按需获取所需信息,而非接收预先加载的所有内容。这就好比图书馆与简报文件的区别:智能体会去书架查找特定书籍,而无需随身携带整个图书馆。
质量比数量更重要
2026年的一项调查显示,82%的IT和数据领域负责人认为仅靠提示词工程已不足以支撑生产级人工智能的发展,95%的数据团队计划在当年投资于上下文工程能力。然而,大多数讨论仍集中在数量上:更长的上下文窗口、更多检索到的内容片段、更多工具。真正的瓶颈在于质量。
过时的上下文比没有上下文更糟糕。智能体若依据昨日获取的文档自信地行事,却未意识到该文档已被替换,就会产生看似合理的错误结果。在自然语言转SQL的流程中,模式漂移是个常见问题:生成的SQL虽然正确,但却是针对已不存在的数据库模式。提示语本身没有问题,问题出在上下文上。
缺乏管控的上下文也会带来安全问题。如果智能体能够访问系统中的所有数据,包括其他用户的数据、之前的会话记录以及敏感工具的输出,那么上下文泄露只需一次提示注入即可发生。采用最小权限原则设计上下文是必要的,而据报道有86%的首席信息安全官缺乏针对智能体访问权限的管控政策,因此上下文管理很可能是下一波企业AI安全事件的发源地。
局限性
上下文工程无法消除底层的注意力限制。Chroma实验结果表明,即便上下文结构良好,随着输入长度的增加,系统的可靠性也会下降;因此,更优质的上下文只能提升系统的可靠性,而非实现无限可靠的性能。当上下文规模 truly巨大时,比如自主智能体需要运行数小时,或需处理数百份文档的合成任务,就需要结合高效的摘要生成、分层检索以及明确的记忆管理机制。上下文工程负责决定哪些内容纳入处理窗口,而内存架构则负责解决窗口容量不足时的问题。
它也无法替代评估功能。一个结构虽完美但始终检索到错误文档的流程必然会频繁出错,因此检索层、记忆层和路由逻辑各自都需要独立的评估机制,且这种评估应与输出质量分开考量。它更适合那些需求明确、上下文稳定的任务。而对于那些相关上下文无法提前确定的开放式探索型智能体,能够向模型传递不确定性信号的动态检索方式更为合适。
从何处开始
打开AgentState的定义,然后思考三个问题:每个节点假设哪些内容已经存在于状态中?它实际接收到了什么?有哪些内容在需要之前就被丢弃了?假设与现实之间的差距正是当前智能体出错的原因,而并非系统提示语的问题。
对于已经在运行的多智能体系统而言,最好的升级方式往往并非采用更新型号的模型,而是对每一步的处理内容进行审查:移除不合适的元素,确保剩余内容保持最新、结构清晰,并且仅限于接收智能体所需的信息。从单个节点开始,审查其输入数据,可靠性便会迅速提升并持续增强。
相关阅读
- 四种多智能体架构对比:子智能体、技能、任务交接与路由器:对四种核心多智能体架构进行了实际对比,分析了每种架构的成本、适用场景,以及如何选择以避免过度设计。