长期记忆
Agent记忆机制的组成部分,指跨会话持久化存储的信息,如用户偏好、历史交互习惯等,通常存储在外部数据库或向量库中,通过检索动态调入上下文,支持个性化服务
核心事实
时间轴 (近 90 天)
长期记忆涉及隐私与数据存储期限的合规问题,是产品设计中无法回避的约束。
陪伴型AI硬件的技术关键包括长期记忆、情感化语音合成以及主动发起交互的策略设计。
长期记忆按用户隔离的常见做法包括在向量数据库中按用户 ID 做元数据过滤、为每个用户建立独立集合、或在检索层强制注入租户约束。
值得持久化的信息通常包括三类:用户偏好与习惯、任务中的关键结论和决策、外部知识;不值得写入长期记忆的包括中间推理过程、工具返回的原始日志和闲聊内容。
完整的记忆模块按三个阶段运转:任务开始前读取记忆并注入System Prompt,任务执行中使用短期记忆追加消息序列,任务结束后将新信息写回持久化存储并清空短期记忆。
长期记忆的两个默认实践:提取应异步放在回复路径之外(因为本次对话事实已在本次历史中);每次对话开始时给记忆拍快照(记忆块放在历史之前,中途更新会破坏缓存)。
长期记忆的风险包括:错误事实被永久保存、过期事实、记忆投毒(用户粘贴网页诱导提取器保存恶意指令,形成永久prompt注入)、隐私问题和过度个性化。
跨对话长期记忆需要一条管道:提取 → 合并 → 存储 → 注入。提取用独立的LLM调用从对话中抽取持久事实;合并时通过检索相似记忆让LLM决定ADD、UPDATE、DELETE或NOOP。
具备长期记忆的智能体打破了传统Web应用安全模型假设的会话边界清晰性,昨天的恶意输入可能成为今天的隐藏指令。
生产级代理记忆架构可分为三层:工作记忆(活跃上下文)、持久状态(检查点与恢复)和长期记忆(跨会话检索),每层具有不同的存储、保留和访问模式。
还有 23 条时间轴事件
全部知识事实 (20)
Agent的长期记忆可细分为情景记忆、语义记忆和程序性记忆三类
80%已验证Agent的记忆机制通常分为短期记忆和长期记忆两大类,长期记忆需借助向量数据库、关系型数据库、图数据库等外部持久化存储
80%已验证长期记忆Agent通常基于RAG(检索增强生成)技术构建,通过向量数据库将信息转化为高维向量并持久化存储
80%已验证长期记忆通常借助向量数据库(如Chroma、Pinecone、Weaviate、Milvus等)来实现语义检索
80%已验证Agent Skills 具备上下文感知、可组合性和自描述性三个关键特征
80%已验证LoCoMo和LongMemEval等对话回忆基准测量的是对对话历史的问答能力,而非记忆是否改变了工具使用智能体的实际行为
75%已验证企业级Agent系统通常会引入外部记忆模块(如向量数据库)来存储长期记忆,以突破上下文窗口限制
75%已验证LangGraph支持短期记忆(单次会话上下文)和长期记忆(跨会话持久化存储)两种存储模式
75%已验证RAG(检索增强生成)是一种结合信息检索与生成式大模型的架构范式,模型生成答案前先根据用户查询从外部知识库检索最相关的文档片段,再将其作为上下文注入模型
70%已验证长期记忆存储必须跨会话、跨运行存活的持久事实,如项目决策、环境配置、边界情况
65%已验证对话记忆以记忆摘要形式存储会随对话增多产生偏差,而全局个性化指令硬编码进每次请求的系统提示词,不受记忆衰减影响
65%已验证作者自建了一个 Memory Layer 用来处理短期与长期记忆,并持续优化增删查改算法
65%已验证错误的记忆检索可能比没有记忆更糟糕
65%已验证AI没有真正的长期记忆,每次对话都是全新的,只能靠外接数据库解决
65%已验证长期记忆的业界主流方案包括基于embedding的向量检索、基于知识图谱的结构化存储,以及两者的混合架构
65%已验证记忆投毒攻击的目标是在Agent的持久化记忆中埋入恶意指令,使其在未来交互中执行非预期操作,与提示注入的即时劫持不同
65%已验证持久化记忆通常分为短期工作记忆、情节记忆和语义记忆三个层次
65%已验证大模型缺乏真正的长期记忆,每次对话都是全新起点,只能借助外部数据库如RAG检索增强生成来弥补
65%待验证长期记忆涉及隐私与数据存储期限的合规问题,是产品设计中无法回避的约束。
50%待验证陪伴型AI硬件的技术关键包括长期记忆、情感化语音合成以及主动发起交互的策略设计。
50%