概念Long Context / 长上下文
长上下文处理
指大语言模型单次推理可处理的token数量上限能力,使模型能在一次推理中对照多份长文档,减少分段检索的信息割裂
时间轴 (近 90 天)
9月28日
早期大模型的上下文窗口通常只有数千个token,处理复杂电子表格时需要将文档切片并分批送入模型
待验证50%
9月28日
50个标签页的税务工作簿是对模型长上下文能力的压力测试,既考验数据容纳规模也考验长距离依赖推理精度
待验证50%
指大语言模型单次推理可处理的token数量上限能力,使模型能在一次推理中对照多份长文档,减少分段检索的信息割裂
早期大模型的上下文窗口通常只有数千个token,处理复杂电子表格时需要将文档切片并分批送入模型
50个标签页的税务工作簿是对模型长上下文能力的压力测试,既考验数据容纳规模也考验长距离依赖推理精度