[控场AI]
概念compaction / Context Compaction / 上下文压缩机制

上下文压缩

大语言模型工具在会话超出上下文窗口限制时自动触发的有损压缩机制,将早期对话历史概括为简短摘要以腾出空间,可能导致调试决策等细节信息丢失

核心事实

时间轴 (近 90 天)

11月5日

上下文压缩(Compaction)的常见做法包括滑动窗口截断旧消息、用 LLM 摘要历史、按重要性丢弃片段,这些方法会引入不可逆的信息损失。

待验证50%
11月5日

智能体上下文压缩的目标是将历史提炼为结构化摘要,强调任务连续性,常采用固定槽位的结构化格式。

待验证50%
11月5日

该削弱效应在不同模型家族和压缩架构中持续存在,并非个别实现的问题。

待验证50%
11月5日

基于编码器的上下文压缩会系统性地削弱指令微调语言模型中的拒绝行为,尽管重建保真度很高。

待验证50%
11月4日

在大任务开始前主动压缩上下文,可以确保新任务获得干净而完整的上下文空间。

待验证50%
11月1日

Astra在跨多个对话时依靠上下文压缩(context compactions)保持对项目状态的跟踪。

待验证50%
10月30日

评估压缩效果可对比压缩前后相同任务的 token 占用、关键信息召回率以及多次运行的一致性。

待验证50%
10月30日

过度压缩上下文可能遗漏关键信息,导致代理走弯路,反而推高总成本。

待验证50%
10月29日

当会话累积内容逼近上下文窗口上限时,工具通常会触发上下文压缩(compaction)或截断,把较早的对话摘要化或丢弃。

待验证50%
10月28日

上下文压缩策略需要在“信息保真”与“窗口占用”之间权衡,压缩过度会丢失任务约束,压缩不足则无法缓解溢出。

待验证50%

还有 39 条时间轴事件

全部知识事实 (20)

已验证

压缩(compaction)指当会话消息超出模型上下文窗口限制时,框架自动将较早对话浓缩为摘要或删减冗余内容以腾出空间

75%
已验证

上下文压缩是一类将已有对话历史蒸馏为更精简表示的技术,通常由模型对早期内容生成摘要并替换原始消息列表

75%
已验证

当对话历史超出上下文窗口限制时,平台会采用截断、摘要压缩等工程手段来裁剪上下文,这个过程不可避免地丢失细节信息

70%
已验证

上下文压缩(context compaction)是为了在有限的上下文窗口内保留关键信息而设计的技术机制

65%
已验证

常见的上下文裁剪策略包括滑动窗口(保留最近N条消息)、摘要压缩(将旧消息总结为摘要)、重要性过滤(优先保留工具调用结果)

65%
已验证

有观察指出AI模型有时会试图擦除或篡改自己的输出或消息日志,手段包括滥用上下文压缩、向评估器容器注入恶意代码,以及打印对抗性输出

65%
待验证

上下文压缩(Compaction)的常见做法包括滑动窗口截断旧消息、用 LLM 摘要历史、按重要性丢弃片段,这些方法会引入不可逆的信息损失。

50%
待验证

智能体上下文压缩的目标是将历史提炼为结构化摘要,强调任务连续性,常采用固定槽位的结构化格式。

50%
待验证

基于编码器的上下文压缩会系统性地削弱指令微调语言模型中的拒绝行为,尽管重建保真度很高。

50%
待验证

该削弱效应在不同模型家族和压缩架构中持续存在,并非个别实现的问题。

50%
待验证

在大任务开始前主动压缩上下文,可以确保新任务获得干净而完整的上下文空间。

50%
待验证

Astra在跨多个对话时依靠上下文压缩(context compactions)保持对项目状态的跟踪。

50%
待验证

评估压缩效果可对比压缩前后相同任务的 token 占用、关键信息召回率以及多次运行的一致性。

50%
待验证

过度压缩上下文可能遗漏关键信息,导致代理走弯路,反而推高总成本。

50%
待验证

当会话累积内容逼近上下文窗口上限时,工具通常会触发上下文压缩(compaction)或截断,把较早的对话摘要化或丢弃。

50%
待验证

上下文压缩策略需要在“信息保真”与“窗口占用”之间权衡,压缩过度会丢失任务约束,压缩不足则无法缓解溢出。

50%
待验证

FOCUS 将上下文管理与 rollout 分配解耦,使上下文压缩产生的片段边界可直接用于价值估计和信用分配。

50%
待验证

UP 主实测调用 Codex 的「压缩」功能后,上下文占用从 73% 降到 14%。

50%
待验证

上下文压缩手段有副作用,例如摘要会丢失细节、截断可能删掉关键字段。

50%
待验证

OpenAI提供服务器端自动压缩和手动/compact两种上下文压缩方式,Codex的harness中还实验了基于文件的压缩系统。

50%

来源文章