[控场AI]
概念bounded replay

有界重放

推理引擎处理滑动窗口注意力层时的优化机制,只为窗口范围内的有限历史保留KV缓存,避免为窗口外Token浪费显存并在预填充阶段减少重复计算

时间轴 (近 90 天)

10月25日

DeepSeek 的有界重放(bounded replay)把活跃对话记忆只放在本地 RAM 里约三分钟,RAM 清空后服务器只重读最后约 140 词。

待验证50%
9月11日

有界重放的滑动窗口只重放最近128个Token,接受近似误差以解决缓存落盘难题

待验证50%

全部知识事实 (2)

来源文章