2026年的AI智能体记忆技术:Mem0、Letta、Zep与各类云平台的对比分析。
2026年智能体记忆技术概览:CoALA记忆类型、Mem0、Letta、Zep,云服务产品、基准测试、数据污染风险,以及何种设计适用于何种任务。
来源: AI Agent Memory in 2026: How Mem0, Letta, and Zep Cut Tokens 90% (and Rakuten Cut Errors 97%)
与大多数人工智能助手开启新会话时,你面对的都像是一个陌生人。它不知道你的名字,也不知道你在开发什么,更不会记得昨天曾与你一起花了一小时去解决同一个问题。以往的解决办法是将之前的对话记录粘贴到新的提示中,但这始终是一种负担:需要更多令牌,回复速度更慢,准确率也更低。到了2026年,这种负担变得过于沉重,于是专门设计的记忆层应运而生,取代了原有的方式。
一些数据展现了这一变革的规模。Mem0的第三代算法在LongMemEval测试中的得分达到94.4,每次查询大约需要7,000个标记;而使用完整历史记录时则需要25,000个标记或更多。其p95延迟时间降低了91%,从17.12秒降至1.44秒。Zep的时间知识图在Deep Memory Retrieval测试中的得分为94.8%,高于MemGPT的93.4%,且响应时间大约快了90%。2026年4月23日,Anthropic为Claude Managed Agents推出了公共测试版的持久内存功能,早期采用者Rakuten报告称,用于长时间运行任务的任务代理的首次处理错误率降低了97%,成本下降了27%,延迟时间减少了34%。AWS和Microsoft也将同样的理念应用到了各自的云产品中。2026年5月,OWASP启动了专门的Agent Memory Guard项目,因为会在会话之间持续存储数据的机制已成为攻击者的目标。
接下来将带您了解这一领域:记忆究竟是什么,核心系统是如何构建的,基准测试能告诉您什么、不能告诉您什么,记忆会在何处出现故障,以及它将走向何方。
遗忘问题
在过去几年中推出过智能体的人都知道这一难题。在单次会话中,模型的表现十分出色;但跨会话时,它的表现却如同金鱼一般。每次登录都需从零开始,所有偏好设置都需要重新询问,关于用户、项目或工作流程的每一条信息都必须从原始记录中重新整理,或被塞进系统提示词中,直到上下文处理成本占据部署总成本的绝大部分。
消费级产品试图弥补这一差距。OpenAI在2024年9月将ChatGPT Memory功能推出到所有付费版本,2025年4月进一步扩展该功能以保留所有历史对话记录,2025年6月则将其开放给免费用户使用。Anthropic在2025年10月为Claude添加了自动记忆功能,2026年3月使其对所有人免费,并为Claude Managed Agents推出了程序化记忆工具的公开测试版,该工具可创建在会话之间依然存在的持久性/memory目录文件。这些都是实用的功能,但均不属于可直接嵌入自家智能体的组件。
对于开发者而言,在演示环境中重复处理每次调用时的完整历史记录这一粗暴方案看似可行,但一旦规模扩大就会不堪重负。2024年NeurIPS会议上针对聊天助手记忆能力的基准测试LongMemEval对此进行了量化分析。当历史记录长度达到约115K个标记时,即便是最先进的长上下文模型,其绝对准确率也会比直接获得相关证据的“神谕模型”低30到60个百分点。而GPT-4o在读取全部历史记录后的准确率仅在60.6%到64%之间,而“神谕模型”的最高准确率可达87%至92%。即便历史记录长度达到百万个标记,也无济于事——它只会为模型提供更大的搜索空间,让模型更难找到正确答案。
到2026年,这一领域形成了更清晰的认知:内存是一种独立的组件。它既不是上下文窗口的技巧,也不是基于聊天记录的RAG索引或提示词模板,而是一种拥有独立写入路径、淘汰规则、检索API、安全模型及基准测试的一流存储机制。相关开发活动正在四个领域同时展开:
- 开源SDK:Mem0、Letta、搭配Graphiti的Zep、Cognee、LangMem以及Memori。
- 大型云服务商产品:AWS的Bedrock AgentCore Memory、Microsoft Foundry的用户级内存功能,以及Anthropic的Claude Managed Agents内存系统。
- 研究项目:A-MEM、HippoRAG 2、MemoryOS、支持多模态输入的M3-Agent、用于自进化智能体的MemRL、AgeMem,以及Meta的Sparse Memory细调技术。
Mem0发布的《2026年AI智能体内存现状报告》将这一成果称为“内存工程”:这是一门拥有自身基准标准、权衡因素及操作惯例的实用学科,其发展路径与提示工程走向上下文工程的轨迹如出一辙。本文其余部分将沿用这一术语,相关依据包括Mem0的ECAI 2025论文及其2026年4月的更新版本、Zep论文、LongMemEval与LoCoMo基准测试、CoALA框架、MemGPT与Letta系列研究、HippoRAG 2、MemoryOS、M3-Agent、Claude Managed Agents产品,以及AgentCore Memory和OWASP的指导文件。
上下文窗口、RAG和聊天记录并非内存
在几乎所有“让我们增加内存”的讨论中都会出现三种误解,在理解相关架构之前有必要先澄清这些误解。
上下文窗口并非内存。该窗口存在时间短暂、易变,且每轮对话都会重新填充内容。而内存则会在不同会话之间持续存在,拥有独立的存储层级、演化规则以及遗忘机制。二者相辅相成,互不替代。LongMemEval的研究表明,即便那些拥有百万token上下文窗口的顶尖模型,在没有内存层的情况下尝试回忆先前会话中的事实时,其准确率也会下降超过30%。
RAG并非记忆。传统的检索增强生成模型会搜索静态的语料库,即在智能体与任何人交流之前就已存在的文档。而记忆则存储着智能体自身的过往信息:消息内容、工具调用记录、用户所述的事实以及由此衍生的总结。2026年的关键区别在于写入机制——RAG索引基本上是只读且无状态的,而记忆会随时间变化,可能包含同一事实的不同版本,出错时需要修正,并且由智能体自身进行写入。
聊天记录并非记忆。文字转录会保留所有内容,包括无关信息。真正的记忆应当存储经过提炼的事实,比如“用户偏好公制单位”、“第三季度截止日期改为11月14日”或“Stripe API密钥已于2026-04-12更换”,每条事实都需标注来源与有效期限,而非8万条闲聊内容。通过高召回率实现压缩,并通过API公开以便代理程序与安全团队共同审核,这就是记忆层的全部功能。
以下所有系统都在追求同一个目标:代理程序应表现得仿佛拥有数月的共享历史记录,但处理成本不能超过完整上下文重放的级别;代理程序不得编造关于用户的事实;同时也不应允许任何人将错误数据混入其记忆中。
CoALA提供的共享词汇表
目前几乎所有的框架,无论是Mem0、Letta、LangMem、Cognee、Memori还是AgentCore,都采用相同的分类体系。这一分类源自2023年普林斯顿大学和卡内基梅隆大学发表的关于语言智能体认知架构的CoALA论文,该论文将人类四种记忆类型映射到了大语言模型智能体上:
- 工作记忆指的是当前的上下文窗口,即当前决策周期中使用的变量,其内容具有易变性。
- 情景记忆用于存储带有时间和具体情节的特定过去经历:“用户于3月4日询问了Stripe webhook的相关问题,遇到了X错误。”
- 语义记忆则存储通用事实:“用户喜欢简短的回答”,“ACME公司的财年截止日为9月30日。”
这种分类很重要,因为不同供应商的实现方式各不相同。Mem0主要以语义记忆为主。Zep在知识图谱的基础上实现了情景记忆和时间-语义记忆功能。Letta则提供覆盖这四种类型的虚拟内存机制。LangMem分别提供独立的语义记忆、情景记忆和程序性记忆存储模块。A-MEM通过类似Zettelkasten的链接方式将情景记忆与语义记忆融合在一起,而Memori则将所有内容序列化为SQL格式。了解系统优化的重点类型就能帮助做出一半的架构决策。
Mem0:先提取,再更新
Mem0(由Y Combinator W24项目支持,2025年10月从Basis Set、Peak XV、GitHub Fund及Kindred Ventures获得了2400万美元融资)在2026年成为了默认的开源内存层,就如同两年前pgvector成为默认的向量索引一样:它仅需三行Python代码即可处理80%的常规场景,并且在实际生产环境中表现稳定。到2026年中,该项目的GitHub星标数已超过41,000个,下载量超过1400万次,开发者注册人数达80,000人,API调用次数也从2025年第一季度的3500万次上升到了第三季度的1.86亿次。
其设计刻意保持简洁。Mem0位于模型与向量存储之间,会在每次对话轮次中执行两步处理流程:
- 提取。最新的用户与助手对话内容以及之前的上下文会被送入LLM提取器,该工具会生成候选事实,同时在此处进行数据压缩。
ADD(新增事实)、UPDATE(补充现有事实)、DELETE(候选内容与已存储事实矛盾)或NOOP中选择一个。版本3的变更之处
2026年4月14日合并的v3算法使Mem0成为标准选择。其中三次重大改进起到了关键作用:
- 单次提取且仅添加新内容。与以往模型每轮都要在ADD、UPDATE、DELETE和NOOP中选择、从而需要两次LLM调用并消耗大量令牌不同,v3仅进行一次提取操作,仅输出新事实,并将智能体生成的事实视为与用户所述事实具有同等效力。去重和实体关联工作则在之后进行,不会影响主要处理流程。
{collection}_entities向量集合中,每行包含一个linked_memory_ids列表。这种中心辐射式结构在保持图结构大部分功能的同时,大幅降低了运行成本。测试结果:
- LoCoMo:整体得分92.5,在处理时间相关问题时比全上下文模式高出29.6分,在处理多跳查询问题时高出23.1分。
- LongMemEval:总分为94.4,其中单会话助手问题得分+53.6,时间推理得分+42.1,知识更新得分+16.7。
- BEAM在100万和1000万令牌时的表现:分别为64.1和48.6。
- 令牌成本:每次检索调用约需7,000个令牌,而获取完整上下文则需要25,000个或更多令牌,成本降低了近90%。
- p95延迟:为1.44秒,而完整上下文下的延迟为17.12秒,降低了近91%。
- 与OpenAI Memory的对比:在以LLM作为评判标准的整体评分中,该系统的得分为66.88%,而OpenAI Memory为52.90%,相对提升了26%。
实际应用中的表现
Mem0的集成文档列出了21种涵盖Python和TypeScript领域的框架与平台,其中包括LangChain、LangGraph、LlamaIndex、CrewAI、AutoGen、Vercel AI SDK、AgentOps和Raycast,以及20种向量存储后端,如Qdrant、Chroma、Weaviate、Pinecone和pgvector。它还可以作为MCP服务器运行,从而使Claude Code、Cursor或任何其他支持MCP的客户端能够与其交互。语音助手是其天然的应用场景,该工具为ElevenLabs Conversational AI(通过函数调用提供异步的addMemories和retrieveMemories功能)、LiveKit和Pipecat提供了专门的集成方案。
被引用最多的客户案例是RevisionDojo,这是一家教育平台,它将原有的全上下文个性化技术栈替换为Mem0,结果令代币成本下降了40%,同时实现了更好的个性化学习效果。Mem0称,从初创公司到财富500强企业,都有数千个团队在实际环境中使用该技术,但公开的大公司名称却寥寥无几。
Letta:作为虚拟内存操作系统的记忆系统
如果说Mem0扮演的是插件API的角色,那么Letta则相当于操作系统。它于2024年从伯克利的Sky Computing Lab分离出来,作为MemGPT论文(arXiv:2310.08560)的实用化继任者,它将模型的上下文窗口视为RAM,并有意识地控制信息的存取。Letta明确分为三个层级:
- 核心内存相当于RAM:是一小块始终处于上下文中的存储区域,用于保存身份信息、角色设定以及当前任务的状态。
三项设计选择让Letta区别于其他所有同类产品。
自我编辑记忆。智能体在循环处理过程中通过core_memory_append、archival_memory_insert和memory_replace等工具来维护自身的记忆。没有独立的提取器在后台运行,模型会在推理时决定哪些信息值得保留。
睡眠模式计算。你可以附加一个独立的睡眠模式代理,在主代理空闲时异步运行。该代理会分析对话历史、生成的文件以及工具运行轨迹,提炼出简化的学习上下文块,供主代理在下一轮处理时加载。睡眠模式代理可以运行与主代理不同的、通常规模更大的模型,这样在提供服务时成本较低,而在整合信息时则需投入更多资源。这与自回归推理的常规扩展方式相反,也类似于大脑在睡眠中将片段记忆整合为语义记忆的过程。
Agent File (.af)。 Letta 推出了某种序列化格式,可将系统提示、可编辑的内存块、工具代码与架构以及模型设置整合到一个文件中。这类文件可以用于创建检查点、进行版本控制,并在兼容的运行时之间传输,这在该领域中相当于有状态智能体的 Docker 镜像。在导出时,机密信息会被移除。
Letta Code 及其 Terminal-Bench 评分
2025 年底,Letta 发布了 Letta Code,这是一种基于其有状态智能体 SDK 开发的开源命令行编程智能体。其优势在于,像 Cursor、Aider 或 Cline 这类基于会话的工具每次都需要从头开始,而有状态智能体则能够积累关于项目结构、用户偏好、之前的调试记录以及团队规范的知识。每个项目对应一个智能体,且它的存在时间与项目本身一致。
该基准测试的结果十分明确。在Terminal-Bench上,Letta Code在模型无关的开源智能体中以42.5%的总分位居第一(在整个排名中位列第四,在由Claude 4 Sonnet驱动的智能体中则位列第二),而且其代码在SDK基础上还不到200行。它能够在保持记忆完整的情况下在Claude、GPT、Gemini、GLM和Kimi之间切换,而这正是Agent File设计时所考虑的场景。
Zep与Graphiti:一种时间型知识图谱
Mem0和Letta都将向量存储视为核心基础。而Zep(arXiv:2501.13956)则采取了相反的思路,将记忆建模为时间型知识图谱。其开源核心引擎Graphiti则基于三层子图结构以及一个双时间模型,该模型能够分别记录某件事发生的时间以及系统得知该信息的时间。
- 对话子图会保留原始的高保真数据(对话消息、JSON文档、交易快照),每条数据都会标注原始事件发生的时间,且绝不会被重新写入。
- 语义实体子图存储着提取出的实体与事实,这些内容以1024维向量的形式存在,并通过带类型标注的关系相互关联;每个实体还带有有效时间区间。
- 社群子图通过标签传播型社群检测算法在实体层之上形成更高阶的集群,该算法会像Leiden算法不同之处在于能够逐步更新。
双时间模型是单纯使用向量存储最难复制的部分——Graphiti中的每条边都包含四个时间戳:
t_valid : when this fact started being true in the world
t_invalid : when it stopped being true (open if still true)
t'_created : when the system first learned the fact
t'_expired : when the system superseded or removed it
该设计使得Zep能够同样轻松地回答“上周二智能体相信什么?”这样的问题,也能回答“当前什么才是正确的?”合规团队以及任何为过去智能体的决策辩护的人恰恰需要这样的功能。如果用户更换雇主,旧的数据并不会被删除:之前的记录会用t_invalid标记关闭,新的记录会被添加,且两者都仍可被检索。
Zep相关论文报告的测试结果显示:在深度记忆检索方面,其准确率为94.8%,而MemGPT的准确率为93.4%;在LongMemEval测试中,其准确率高出18.5%,且延迟比完整上下文检索低约90%。独立对比显示,包括Graphiti在内的图式检索在多跳关系查询的精确度上比仅基于向量的检索高出约35%。
更多开源选项
这三种方案并非仅此而已,还有其他几种设计也值得关注。
Cognee
Cognee(到2026年中其GitHub星标数约为12,000个)通过单一API整合了图数据库、向量存储和关系型存储。数据导入需经过六阶段的“cognify”处理流程,随后是自我优化的“memify”步骤,该步骤会删除过时的节点,根据边的使用频率调整其权重,并添加衍生事实。该系统提供14种检索模式,从简单的向量相似度搜索到基于思维链的图遍历,同时还内置了MCP服务器。
LangMem
LangChain的SDK在两个集成点提供内存功能:一是智能体在每轮处理过程中调用的同步工具所使用的快速路径,二是异步执行数据提取、整合和去重操作的背景管理器。它拥有首屈一指的语义存储、事件存储和程序存储功能,同时也是唯一将“当用户说‘尽快’时提升优先级”这类程序记忆视为核心功能的主要SDK。
Memori
Memori(Memori Cloud于2026年3月2日推出)将内存数据存储在SQLite或Postgres数据库中,而非向量数据库。这样既能让你完全掌控数据所有权,又无需额外基础设施;该项目声称,仅通过SQL提取相关上下文,就能将推理成本降低80%至98%。只需一行Python代码,就能为OpenAI、Anthropic或LangChain的智能体添加持久化内存功能。
A-MEM
A-MEM(NeurIPS 2025,arXiv:2502.12110)将每条记忆转化为具有结构化属性的原子级Zettelkasten风格笔记。新生成的笔记会与旧笔记建立关联,并根据新信息更新其属性,从而使网络持续演化。它是现有研究文献中最“活跃”的架构,在六种基础模型上的LoCoMo任务表现均优于当前最先进的技术。
HippoRAG 2
HippoRAG 2(ICML 2025,arXiv:2502.14802)能从文本段落中提取开放的知识图谱三元组,并将同义词相互关联,从而形成作者所称的人工海马体索引。在查询时,它会从起始节点出发运行个性化PageRank算法,模拟海马体的模式补全过程。该架构在关联记忆任务上的表现比最强的密集型基线模型高出7%,并且越来越多地被用作Zep风格和Cognee风格架构中的检索层。
MemoryOS
MemoryOS(EMNLP 2025口头报告,arXiv:2506.06326)是Letta的研究版本。它将个人记忆分为短期、中期和长期三个层级,并制定了明确的转换规则:从短期到中期采用先进先出机制,从中期到长期则采用分页组织方式。四个模块(存储、更新、检索、生成)在各个层级之间协同工作。在基于GPT-4o-mini的LoCoMo基准测试中,它的F1值提升了48.36%,BLEU-1值提升了46.18%,这是2025年所有相关论文中在该基准测试上取得的最大提升幅度。预计中期分页功能将在2026年投入实际SDK应用。
MemRL
MemRL(2026年1月)是当前最值得关注的新方向。它将记忆视为强化学习的底层基础,每一次交互都会被记录为(意图, 经验, 效用性)三元组,其中效用性是指该经验在服务于类似意图时的学习所得Q值。通过两阶段检索机制,可以找到当前任务中最有用的过往经验,而Q值则会随着智能体的运行不断更新。这样,智能体的记忆不仅容量会增加,其智能程度也会提升,这几乎是在不修改模型权重的情况下实现从经验中学习的最佳方式。
SuperLocalMemory
SuperLocalMemory(arXiv:2603.02240)则采取相反方向,将计算从云端移至设备端。这一以本地优先为设计理念的多智能体系统基于SQLite与FTS5全文搜索功能,利用Leiden算法对知识图谱进行聚类,通过事件驱动层实现各智能体的溯源管理,并借助贝叶斯信任评分机制防止数据污染,整个过程无需依赖云端,且在检索环节也不涉及大语言模型调用。结合将推理、检索、内存管理、数据分析及同步功能整合于同一文件的SQLite-AI技术栈,它为个人智能体、受监管的工作场景以及边缘设备部署提供了可靠的隐私保护方案。
AgeMem
AgeMem(2026版)将Mem0的四种更新操作扩展为六种工具,即ADD、UPDATE、DELETE、RETRIEVE、SUMMARY和FILTER,同时还加入了TTL规则以确保旧记忆会过期。它的目标正是该领域今年才开始重视的问题:一个持续不断扩张的记忆存储系统最终会自我破坏。
超大规模云服务提供商纷纷入局
2026年最重大的进展在于云服务提供商不再旁观。三大主要云厂商都在大约六个月内将内存功能作为核心产品推出。
AWS Bedrock AgentCore Memory
AgentCore Memory于2025年在AWS纽约峰会上首次亮相,并在2026年持续完善,它是亚马逊的标准化产品版本:
- 短期记忆用于记录会话中的逐步骤状态。
Microsoft Foundry的用户级内存
Microsoft Foundry的持久内存层在2026年Build大会上宣布正式可用,其架构有所不同:
- 按用户划分。每位用户的内存都存储在独立的Azure Cosmos DB容器中,根据身份进行分区,从而使不同上下文相互隔离并可单独管理。
- 精心筛选的长期有效信号,如用户偏好、重复出现的意图以及汇总后的结果,而非原始对话记录。原始对话记录仍保存在服务器端的对话存储中,只有经过压缩的信号才会成为持久化的记忆。
- DevUI,这是一种基于浏览器的本地调试工具,可实时查看智能体的执行过程、内存读写操作以及协调行为。
- 评估工具集,具备跟踪功能、回放测试能力,还能对智能体的决策路径进行自动红队测试,这一点非常重要,因为基于用户上下文的内存会带来特定于用户的故障模式。
微软的策略很明确:在存储层将短期会话上下文与长期用户记忆分开存储,从而避免因一个存储系统需承担两项功能而导致的性能下降问题。
Anthropic Claude 托管智能体的内存
Anthropic提供了当年产量最高的案例研究。Claude Managed Agents的记忆功能于2026年4月23日进入公开测试阶段。该功能的持久化形式为文件系统中的文件,代理或您可以通过API或Claude控制台来导出、编辑和管理这些文件。
早期采用者的成果尤为显著:
- Rakuten利用记忆功能让长时间运行的任务代理避免重复过去的错误,据报告,在工作空间范围内,首次处理时的错误率降低了97%,成本下降了27%,延迟减少了34%。这是2026年关于记忆功能带来实际收益的最常被引用的数据。
- Netflix能够在不同会话之间保留上下文,包括多轮对话中的洞察以及人工审核员在对话过程中所做的修改,从而取代了手动更新提示词的需求。
Anthropic还展示了名为“dreaming”的研究功能:这是一种离线反思过程,托管代理会重放过去的任务结果以提炼出有价值的经验。这一理念与Letta的睡眠时计算功能类似,只是在超大规模平台上得到了商业化应用。
将这三种产品联系在一起的是:内存已不再是一种SDK选项,而变成了平台功能。这一变化改变了开源供应商的处境,因为Mem0、Letta和Zep现在不得不与客户已使用的云服务竞争。它们的优势分别体现在可移植性(Agent File)、专业化功能(Zep的双时间模型)以及成本优势(Memori的SQL原生方案)上。
能看能听的内存
上述所有系统都假设内存是文本形式。但2026年这一假设被打破,同年下半年,图像、视频和语音内存逐渐发展成独立的研发领域。
字节跳动的M3-Agent(arXiv:2508.09736)是当前最先进的参考设计。它能够接收实时的视觉和听觉输入,并构建以实体为中心的多模态记忆图:每个人、物体或地点都成为一个节点,该智能体会将面部识别ID和语音识别ID关联到同一个节点上。这样一来,诸如“上周莎拉旁边的那个男人对项目说了什么?”这样的问题就能得到解答,而仅基于文本构建的系统则无法做到这一点。该系统运行两个进程:一个记忆循环持续从流式音频和视频中提取面部特征、语音信息以及语义事实并将其纳入记忆图中,另一个独立的控制循环则通过对记忆图的分析来回答各种问题。
为测试这类系统,该团队发布了M3-Bench,其中包含100段新录制的机器人视角视频以及929段来自网络的视频,涵盖多种场景;这些视频配有问答对,用于检验人类的理解能力、通用知识提取能力以及跨模态推理能力。在M3-Bench-robot、M3-Bench-web和VideoMME-long三个测试集上,M3-Agent分别以6.7分、7.7分和5.3分的优势超越了最强大的视觉语言模型基准模型(Gemini 1.5 Pro和GPT-4o)。
相关研究不断涌现。M2A提供了双层混合记忆机制,以实现个性化的多模态交互。VideoAgent将一般事件描述与被跟踪物体的状态保存在一起,而WorldMM则在视频流上分层存储情节记忆、语义记忆和视觉记忆。Mem-Gallery(arXiv:2601.03515)是一个用于衡量在长时间多模态对话中记忆如何被保留、组织及演变的基准测试。
实际意义很简单。网络摄像头、共享屏幕、语音通道或满是数据的文档都能向智能体发出信号,表明仅依靠文本的信息存储方式远远不够。大约一年后,各大SDK应该会提供多模态记忆构建模块,而M3-Agent提出的以实体为中心的图结构似乎最有可能成为标准模板。
基准测试的衡量标准
大多数比较都基于四个基准测试。
- LongMemEval(NeurIPS 2024,arXiv:2410.10813)包含500道测试题,涵盖五种能力,这些题目被嵌入不同长度的聊天记录中:S版本大约有11.5万个标记,M版本则在500次会话中总计约150万个标记。该测试的主要发现是,商业助手在跨会话记忆方面的准确率会下降30%,而在最难的类别中这一比例甚至可高达60%。
现在也有几项较新的评测标准被纳入考量。BEAM在100万和1000万个标记的条件下对模型内存能力进行测试,其中Mem0 v3的得分分别为64.1和48.6。Letta在2026年提出的Context-Bench用于评估模型的情境工程能力,即模型是否知道该在何时将何种内容纳入自身情境中。MemoryAgentBench(ICLR 2026,arXiv:2507.05257)是最重要的新评测标准。该标准的测试方法是一次性注入一份文档,然后反复对其进行查询:长文本会被分割成512或4096个标记的片段,通过多轮对话的形式输入模型。另外还有两个专门设计的数据集——EventQA和FactConsolidation,用于检测信息的检索能力、测试时的学习效果以及模型处理矛盾事实的能力。MemBench(arXiv:2506.21605)则从有效性、效率及容量三个维度对模型进行评分,同时分别评估模型的事实记忆与反思记忆能力,以及是主动参与还是仅被动观察。到2026年底,这两项评测标准很可能会成为行业默认的标准。
要了解内存系统真正的功能,以及LongMemEval在2025年对聊天功能的作用,可以这样问。
需注意:各供应商都会选择最能凸显其架构优势的配置来进行测试,因此应查看分类明细而非标题内容。在实际应用中,令牌成本和延迟与准确率同样重要。完全重新处理所有内容是一种合理的基准,任何无法同时在这两方面超越这一基准的内存层都应感到羞愧。到2026年,所有主流系统都已达到这一标准。
各设计的对比
逐项对比如下:
- 底层存储结构。Mem0采用带有实体中心辐射式连接的向量存储方式。Letta使用分层的虚拟内存结构,Zep则在Neo4j上构建时序知识图谱,Cognee则整合了图存储、向量存储和关系型存储,Memori SQL也属于此类。AgentCore在Bedrock框架内管理,Microsoft Foundry使用用户分区的Cosmos DB,而Anthropic的托管智能体则依赖文件系统。
- 支持的记忆类型。Mem0涵盖语义记忆和实体信息。Letta支持CoALA定义的四种记忆类型。Zep能够处理情景记忆、时序语义记忆和社群记忆。LangMem拥有语义存储、情景存储和程序存储功能,Memori在SQL中实现语义记忆和情景记忆的存储,AgentCore用于结构化情景数据,而Foundry仅支持长期存在的信号数据。
.af标准,Anthropic支持文件系统导出功能,而其他产品则提供特定于厂商的导出方式。当内存成为攻击面
2026年5月,智能体内存不再仅仅是影响准确率和成本的因素,还成为了安全方面的关键问题。
今年早些时候就已经出现了相关警示信号。2026年2月,Microsoft Security撰文介绍了“AI推荐投毒”这一行为,即为谋取利益而操纵助手的记忆。随后Radware提出了名为ZombieAgent的概念验证方案:通过邮件中的陷阱文件,在与受害者邮箱相连的ChatGPT助手中植入特定记忆,此后每次交互都会触发这些被污染的记忆内容,并通过URL编码的侧信道泄露数据。有记录显示,在某企业案例中,被劫持的财务分析助手接受了被篡改的中间结果,随即启动了工作流,在任何人进行审核之前就擅自转移了资金。
与普通的提示词注入不同,记忆投毒存在三个方面的差异:
- 持久性。提示注入只会破坏一次响应,而被污染的内存则会破坏之后所有使用该受影响键值的响应。
- 隐蔽性高。被污染的条目看起来与正常的存储上下文毫无区别。
- 自主性。智能体通过工具调用操作内存,因此被污染的内存可在无人干预的情况下引发现实世界的副作用。
防御措施很快便出现了。OWASP将内存污染列为2026年智能体应用十大风险之一,编号为ASI06(内存与上下文污染),并于2026年中发布了Agent Memory Guard参考实现:
- 基于不可变内存键值(如
identity.user_id)的SHA-256基准检测,可识别任何外部篡改行为。
允许、遮蔽、隔离或阻止。今年任何内存部署方案都应至少包含以下要素:TTL设置、有效期限制、每次写入时记录的来源信息、身份密钥的加密基准、定期的对抗性测试,以及在对涉及资金或敏感数据的内存操作进行工具调用之前必须经过人工审批。关于攻击与防御的参考论文为arXiv:2601.05504,而微软的Agent Governance Toolkit现已包含明确的ASI06缓解措施。
尚未被解决的问题
即便有了完善的安全机制,仍有许多问题亟待解决:
- 过期内存。今天还正确的信息,明天就可能出错,而只读存储也会逐渐失效。虽然TTL和有效期限制可以解决这一问题,但它们尚未成为默认设置。
- 会话间的身份识别。判断两个会话是否属于同一个人或同一个项目是最棘手的未解子问题,尤其是在拥有数千个身份标识的多租户Mem0命名空间中。
- 检索上限。检索到的内存块数量在三到五个时准确率最高,之后便会下降。目前的生产环境通常会结合向量、关键词、实体及最新性信号来提高准确率,这也是Mem0 v3采用多信号处理方式的原因。
根据场景选择
2026年的实用参考指南:
- 消费者个性化服务及语音智能体:Mem0。它部署速度快,拥有覆盖13种框架、20个向量存储库及3个语音平台的成熟SDK。
- 需要长期运行的个人智能体与教练:Letta。其操作系统层级结构及休眠状态下的计算能力非常适合处理持续数周的任务。
- 在私有代码库上运行的编码智能体:Letta Code,每个项目对应一个有状态智能体。
- 需要审计的受监管企业:Zep搭配Graphiti,其双时间模型是其核心优势。
- 希望实现图结构控制的研发团队:Cognee,或底层使用的HippoRAG 2。
- 已经在使用LangGraph的团队:LangMem,集成成本最低,且是唯一具备一流程序记忆功能的方案。
- 仅需SQL功能的团队:Memori。
- 使用AWS的团队:Bedrock AgentCore Memory,采用按使用量付费模式,提供常规可用版本及流式通知功能。
- Microsoft相关服务:Azure AI Foundry提供的用户级内存功能,具备Cosmos DB分区、DevUI调试以及内置评估工具。
- Claude平台上的Teams功能:Claude Managed Agents提供的内存服务,可以文件形式传输,并拥有2026年迄今为止最出色的用户反馈。
- 具备视觉或语音功能的多模态智能体:采用以实体为中心的图结构,将面部识别信息和语音识别信息关联起来的M3-Agent模式。目前尚无现成的生产级SDK,需自行开发。
- 法律、医疗或金融领域需要高度安全性的应用:Zep或Cognee,再加上OWASP Agent Memory Guard策略、时间到寿命限制以及审计追踪功能。绝不能使用仅支持追加操作的存储方式。
内存技术的未来发展方向
展望2026年剩余时间以及2027年,有几大趋势尤为突出。
- 内存被纳入架构设计之中。DeepSeek V4的Engram便是最佳例证:它采用基于哈希的O(1)检索方式,处理100万个标记的代价仅相当于处理128万个标记时的成本,且在相同规模下的“大海捞针”测试中准确率可达97%。其双路径设计将静态知识检索与动态工作内存计算分开,这是目前最接近将内存视为架构要素而非仅作为上下文窗口临时解决方案的先进模型。
实际启示
在大型语言模型时代的大部分时间里,内存管理都只是临时拼凑的解决方案:要么是隐藏的系统提示词,要么是对旧对话的检索增强技术,又或是每次请求需支付5美元且仅能处理百万个标记长度的文本,却依然无法准确给出答案。到了2026年,内存管理已发展成独立的完整体系,拥有专门的供应商、云产品、评估标准、数据写入路径、安全模型以及故障处理机制。
如果你的智能体在周一仍要求输入用户姓名,那你就不仅放弃了准确性,还继续为获取完整上下文支付费用,而这样的结果其实7000个标记的记忆查询就能超越。同时,你还会留下一个未经管理的攻击面,而Mem0 v3、Letta睡眠模式智能体、Zep的时序图技术、AgentCore、Foundry的Cosmos分区记忆系统以及Claude托管智能体等竞争对手早已在节省成本。乐天科技97%/27%/34%的组合已成为记忆功能实现自我盈利的新标杆,RevisionDojo则通过减少40%的标记使用量提供了适合小团队的解决方案。M3-Agent展示了在视觉和语音处理方面的应用路径,OWASP智能体记忆保护机制则起到了安全保障的作用,而Meta的稀疏记忆微调技术则暗示了记忆与权重最终将如何融合。
下一年的智能体设计不会依赖于新的基础模型,而是会将记忆视作一个系统:像其他任何生产级软件一样进行编写、评估、管理、防护、整合与改进。获胜的智能体不会是那些拥有最大处理窗口的,而是那些真正能够记忆、跨模态记忆且安全存储记忆的智能体。