SumOne：即插即用的智能体记忆摘要器

长周期语言模型智能体在运行中会积累大量的交互历史，导致上下文膨胀，影响执行效率。现有的上下文压缩方法通常依赖下游任务结果或求解器行为，训练与特定任务或智能体耦合。为此，研究者提出 SumOne，一个独立的摘要器，通过掩码重建训练来保留智能体历史中的信息。给定过期历史摘要后，一个冻结的重建器恢复原始轨迹中随机掩码的部分；重建质量与长度惩罚结合，为使用 GRPO 优化摘要器提供了任务无关的奖励。这种自监督方法直接从原始轨迹中学习，无需参考摘要或下游任务执行。推理时仅保留轻量级摘要器，实现即插即用的上下文压缩，而不改变原有智能体。在长周期搜索和软件工程任务上的系统评估显示，SumOne 在 DeepSearchQA 和 SWE-bench Verified 上分别降低约 78% 和 75% 的推理成本（与全上下文相比），绝对性能下降仅 0.04。同一检查点无需额外微调即可跨下游模型和智能体框架迁移。

核心方法：掩码重建与 GRPO 优化

SumOne 的核心创新在于将摘要器的训练与下游任务解耦。传统方法需要依赖任务反馈来优化摘要，而 SumOne 仅利用原始轨迹本身：对于一个过期的历史片段，摘要器生成摘要，然后一个冻结的重建器尝试从摘要中恢复原始轨迹中被随机掩码的部分。重建质量越高，说明摘要保留的信息越完整；同时加入长度惩罚，避免摘要过长。这个奖励信号通过 GRPO 直接优化摘要器，无需任何参考摘要或任务执行。

这种自监督方式使 SumOne 能够从海量无标注的智能体交互数据中学习，且训练出的摘要器具有通用性。实验中，同一检查点在不同下游模型和智能体框架上均有效，无需微调，体现了即插即用的特性。

GRPO（Group Relative Policy Optimization，组相对策略优化） 是一种面向大语言模型策略优化的强化学习算法，最早由 DeepSeek^广告 团队提出，用于替代 PPO 中独立训练的批评家（critic）网络。其做法是对同一输入采样一组（group）候选输出，以组内奖励的均值与标准差对每个样本的奖励做归一化，得到相对优势，再据此更新策略。这种组内相对比较省去了价值网络，显著降低了训练显存与计算开销，且对奖励尺度不敏感。在 SumOne 中，摘要器即被视作策略模型，重建质量与长度惩罚构成的奖励经组内归一化后直接驱动摘要器更新，使训练无需可微的重建目标或人工标注的参考摘要。

掩码重建（masked reconstruction） 借鉴了 BERT 式掩码语言建模的思想：对原始轨迹随机遮盖部分 token，要求模型仅凭摘要恢复这些被遮盖内容。它构成一种信息瓶颈式的自监督信号——若摘要遗漏关键信息，重建器便无法还原掩码片段，奖励随之下降。因此重建保真度可充当摘要信息完整性的代理指标，而无需人工撰写参考摘要或运行下游任务来评估摘要好坏。

性能评估：大幅降低推理成本

研究者在长周期搜索和软件工程任务上对 SumOne 进行了系统评估。在 DeepSearchQA 数据集上，与使用全上下文相比，SumOne 将估计推理成本降低约 78%；在 SWE-bench Verified 上降低约 75%。同时，绝对性能下降仅为 0.04，几乎可以忽略不计。这意味着智能体在保持近乎相同表现的同时，显著减少了计算开销。

有意思的是，这种成本降低并非以牺牲任务成功率为代价。由于摘要器仅保留轻量级结构，推理时只需加载摘要器，原有智能体无需修改，即可实现上下文压缩。这对于需要处理长历史的任务（如多轮搜索、代码修复）尤其有价值。

文中提到的 DeepSearchQA 与 SWE-bench Verified 分别代表两类长周期智能体评测。DeepSearchQA 面向深度搜索问答，要求智能体进行多轮检索、交叉验证并综合多源信息后作答，交互轮次多、上下文增长快，是检验长历史压缩的典型场景。SWE-bench Verified 则是 SWE-bench 的人工校验子集，从真实 GitHub 仓库的 issue 出发，要求智能体定位缺陷、修改代码并通过隐藏测试，任务跨度涉及大量文件读取、命令执行与试错迭代，轨迹极长。二者共同覆盖了“信息检索密集型”和“工具调用密集型”两类长周期负载，因此在该两套基准上同时报告成本与性能，能较全面地说明压缩方法的通用性。需要注意的是，文中的“推理成本降低约 78%/75%”指与全上下文（full-context）基线相比的估计成本，而“绝对性能下降仅 0.04”表明压缩几乎未损及任务成功率。

即插即用与跨框架迁移

SumOne 的另一个优势是即插即用。智能体无需改变自身架构或训练流程，只需在上下文管理环节接入 SumOne 摘要器，即可获得压缩后的历史表示。此外，同一检查点在不同下游模型（如不同基座语言模型）和不同智能体框架（如不同工具调用方式）上均表现出良好的迁移性，无需额外微调。这降低了部署门槛，使得 SumOne 可以作为一种通用的上下文压缩组件，广泛应用于各类智能体系统。

总结与展望

SumOne 通过掩码重建和 GRPO 优化，实现了任务无关的智能体历史摘要训练，在显著降低推理成本的同时保持性能。其即插即用的特性使其易于集成到现有智能体系统中。未来，这种自监督摘要方法有望进一步扩展到更多类型的智能体任务和更长的时间跨度，为构建高效、可持续的智能体系统提供基础。