上下文管理
上下文管理是指在信息处理或对话系统中，对相关背景信息（上下文）进行维护、存储与调度的机制和策略集合。其核心目标是确保系统在处理请求时能够访问必要的历史信息与状态数据，常见手段包括上下文缓存、压缩与摘要、历史记录维护及生命周期控制等，广泛应用于编程语言运行时、操作系统及AI对话系统等领域。
时间轴 (近 90 天)
Agent运行时间越长，工具结果和历史记录越多，若全部塞入上下文，最初的任务要求和操作限制可能在截断压缩时丢失，关键约束需在每一轮运行时都能被读取
大模型的 API 请求对单次数据量有严格上限，未经截断的错误日志可能超出该限额导致对话不可用
上下文压缩有三种常见策略：裁剪（只保留最近若干条消息）、过滤（丢弃无关消息）、摘要（把久远对话压缩成一句话）
在工程实践中，组合使用裁剪、过滤和摘要策略是常见做法：对最近几轮保留原文，对更早对话生成摘要，对寒暄内容直接过滤
生产环境中使用简单列表做消息堆叠会引发阻塞问题，上下文管理应采用更严谨的队列或状态机设计
使用长上下文模型时应精简输入上下文，避免把整个代码库塞进prompt，精准筛选相关文件既节省Token又提升输出质量
课程教授在压缩(compact)、清空(clear)、交接(handoff)三种上下文管理操作之间做决策
实践数据表明经过良好压缩的上下文能将token消耗降低50-80%，并能提升回答准确率
全部知识事实 (8)
Agent运行时间越长，工具结果和历史记录越多，若全部塞入上下文，最初的任务要求和操作限制可能在截断压缩时丢失，关键约束需在每一轮运行时都能被读取
50%待验证大模型的 API 请求对单次数据量有严格上限，未经截断的错误日志可能超出该限额导致对话不可用
50%待验证上下文压缩有三种常见策略：裁剪（只保留最近若干条消息）、过滤（丢弃无关消息）、摘要（把久远对话压缩成一句话）
50%待验证在工程实践中，组合使用裁剪、过滤和摘要策略是常见做法：对最近几轮保留原文，对更早对话生成摘要，对寒暄内容直接过滤
50%待验证生产环境中使用简单列表做消息堆叠会引发阻塞问题，上下文管理应采用更严谨的队列或状态机设计
50%待验证使用长上下文模型时应精简输入上下文，避免把整个代码库塞进prompt，精准筛选相关文件既节省Token又提升输出质量
50%待验证课程教授在压缩(compact)、清空(clear)、交接(handoff)三种上下文管理操作之间做决策
50%待验证实践数据表明经过良好压缩的上下文能将token消耗降低50-80%，并能提升回答准确率
50%