SWA 有界重放

DeepInfer 整合了 DeepSpark 投机解码与一致性调度验证、SWA 有界重放、异步零开销调度以及结构化输出等机制。

SWA 有界重放指在滑动窗口注意力机制下对窗口外历史上下文进行有界长度的重放或保留，以在有限显存与计算预算内维持长上下文的一致性。

DeepSeek 的部分模型层使用滑动窗口注意力，只关注最近的 128 个 token；SWA 有界重放只重放提示末尾的短窗口，据称几乎消除总预填充工作量。