论文标题:Memory in the Age of AI Agents
论文地址:https://arxiv.org/abs/2512.13564
论文时间:2025.12
核心亮点:提出了首个针对 AI 智能体(Agent)记忆机制的统一分类体系,从形式、功能和动态三个维度解构了记忆模块,并厘清了 Agent Memory 与 RAG、Context Engineering 的边界。
关键词:AI Agent、Memory Systems、Taxonomy、Large Language Models
01. 引言
(这篇论文综述真的写得不错,内容很详实,有大量配图供理解,完全可以当做Agent Memory论文检索目录来看。)
随着大模型(LLM)从单纯的“聊天机器人”向能够独立规划、执行任务的“智能体(Agent)”进化,记忆(Memory) 已经成为区分 LLM 和 Agent 的核心标志。一个具备长期记忆的 Agent 才能在复杂任务中保持状态、积累经验并实现个性化进化。
尽管相关研究呈井喷式增长,但当前领域面临着严峻的碎片化问题。学术界对“记忆”的定义极其混乱,常常将 RAG(检索增强生成)、Context Engineering(上下文工程)与 Agent Memory 混为一谈。
传统的“长/短期记忆(LSTM)”分类法已无法涵盖现代基于 Transformer 的 Agent 记忆系统,而且不同论文的实现方式(如向量数据库 vs 模型微调)和评估协议差异巨大,导致难以横向对比。
本文提出了一套全新的 Agent Memory 统一分类体系(Unified Taxonomy)。作者不通过简单的时长划分,而是从形式(Forms)、功能(Functions)和动态(Dynamics) 三个正交维度对记忆进行了重构,为未来设计具备类人记忆能力的智能体提供了理论基石。

02. 问题痛点
目前的 Agent 记忆实现五花八门。有的仅仅是将对话历史存入 List(Token-level),有的使用向量数据库(Vector Store),有的则尝试通过微调(Parametric)来“记住”知识。缺乏一个统一框架来描述这些不同技术栈的优劣。
大多数现有研究只关注“如何存储”和“如何检索”(Read/Write),却忽略了记忆的演化(Evolution)。人类记忆会遗忘、会合并、会重构,而目前的 Agent 记忆大多是静态的“堆积”,导致随着时间推移,噪声积累严重,检索效率下降。
现在Memory大多都无法区分“事实性知识”(如:法国首都是巴黎)和“体验性记忆”(如:用户昨天说他喜欢喝咖啡)。混淆这两者会导致 Agent 在长期交互中出现逻辑错乱。
03. 方案细节
本文就是一篇Memory综述,而且写得非常好!作者旨在通过解耦(Decoupling) 记忆的物理实现(Forms)和认知作用(Functions),解决上述痛点。其核心动机是建立一套通用的“记忆语言”,使得研究人员可以明确讨论:“我们需要一个以参数化形式存储的体验性记忆”,而不是笼统地说“加个 Memory”。
本文的核心贡献在于提出了 Agent Memory 的“三维统一视角”,以下详细解析这三个维度:

3.1 形式视角
这部分回答了“记忆存在哪里?”的问题。
Token-level Memory (令牌级记忆) :
- 机制:将记忆直接作为文本(Tokens)保留在上下文窗口中,或通过 RAG 检索后以 Token 形式注入 Prompt。
- 特点:可读性强,易于操作,但受限于 Context Window 长度和推理成本。

Parametric Memory (参数化记忆) :
- 机制:将信息编码进模型的权重中。不仅指预训练知识,更包括通过微调(SFT)、LoRA 或模型编辑(Model Editing)技术更新模型参数。
- 特点:读取速度极快(隐式调用),由于权重固定,更新成本高(难以实时写入)。

Latent Memory (潜在/隐空间记忆) :
- 机制:存储的是中间层的激活向量(Activations)或压缩后的隐藏状态(Hidden States),而非明文 Token。例如 MemGPT 或 Compressive Transformer 中的压缩单元。
- 特点:信息密度极高,比 Token 更节省空间,但缺乏可解释性。

3.2 功能视角
这部分回答了“记忆用来做什么?”的问题,借鉴了认知心理学模型。
Factual Memory (事实记忆) :
- 定义:关于世界的客观真理和通用知识(Semantic Memory)。
- 作用:帮助 Agent 理解查询中的实体和概念。通常由 Parametric Memory 主导。
Experiential Memory (体验/情景记忆) :
- 定义:Agent 在过去交互中积累的具体事件记录(Episodic Memory)。
- 作用:实现个性化。例如记住用户的偏好、过去的错误决策等。通常存储在 Vector Database 中。

Working Memory (工作记忆) :
- 定义:当前任务执行过程中的临时缓冲区。
- 作用:用于存储推理过程中的中间变量、Scratchpad 内容。任务结束后通常会被清空或选择性转化为长期记忆。

3.3 动态视角
这部分回答了“记忆如何随时间变化?”的问题。
Memory Formation (形成/写入) :
- 并非所有感知到的信息都进入记忆。涉及筛选机制(Attention Selection),决定哪些短期观察值得转化为长期存储。

Memory Evolution (演化/整理) :
- 这是当前系统最欠缺的部分。包括遗忘(Forgetting)(移除不再重要的信息)、合并(Consolidation)(将多个碎片事件总结为一条规律)和重构(Reconstruction)(修正错误的记忆)。
- 数学原理:可以用信息论中的压缩率来衡量演化质量:
其中 代表互信息,目标是在最小化存储量 的同时最大化保留关键信息。
- Memory Retrieval (检索/读取):不仅是简单的 Cosine Similarity,还涉及联想检索(Associative Retrieval),即通过当前上下文触发相关的潜在记忆。



04. 实验结果
由于这是一篇综述(Survey)论文,其“实验”部分主要体现在对现有 基准(Benchmarks) 和 框架(Frameworks) 的梳理与对比。
文章梳理了目前用于评估 Agent Memory 的主要数据集,指出现有 Benchmark 多局限于 Retrieval Accuracy(检索准确率),即“能否找到相关文档”比较单一的指标。
作者指出,目前极度缺乏对 Memory Coherence(长期一致性) 和 Evolution Efficiency(演化效率) 的评估。例如,Agent 是否会因为记忆冲突(新旧信息矛盾)而产生幻觉。
实验总结显示,Token-level 记忆在处理快速变化的短期信息时表现最优(Accuracy 高),但在长周期任务中会导致推理延迟(Latency)呈 甚至 增长。
如果引入了外部向量数据库,虽然解决了容量问题,但增加了 100ms~500ms 的网络 IO 和检索延迟。还有分析了不同记忆形式的 Token 消耗,指出 Latent Memory 是未来降低 API 成本的关键方向。
这篇论文我觉得意义在于彻底厘清了 Agent Memory 的定义,将其从笼统的 RAG 中剥离出来,确立为独立的研究实体。提出了“形式-功能-动态”三维框架,为后续研究者设计新架构提供了标准模板。认真看了一下这篇论文综述后,觉得写得真不错,后续检索Memory相关内容可以当做一个工具书来用。