CopyLoop
一种针对循环Transformer的免训练解码加速方法，通过从上下文中复制候选后缀、浅层循环深度筛选和连续循环调度来减少全深度计算的次数，从而提升解码速度并保持输出分布一致。
时间轴 (近 90 天)
CopyLoop是一种免训练的解码加速算法，通过结合低成本上下文复制提议、浅层筛选与连续循环调度来加速循环Transformer的解码。
CopyLoop的工作流程分为提议与筛选两个阶段：先从上下文中复制多个候选后缀，再在浅层循环深度上快速评估候选。
CopyLoop的浅层筛选利用循环Transformer的 anytime 特性，在低深度上对复制候选打分，淘汰低概率候选，保留少数进入全深度验证。
CopyLoop的连续循环调度将循环深度视为可重叠的流水线阶段，允许较晚的块在较早的块仍在推进时基于浅层结果开始处理。
论文消融实验证实，浅层筛选与连续循环调度之间存在强协同效应，单独使用任一技术都不如两者结合的效果显著。
研究团队在Ouro、Raven和Huginn三个模型家族的六个检查点上评估了CopyLoop，任务覆盖代码生成和多步数学推理。
在Base模型上，CopyLoop相比全深度自回归解码实现了2.98倍到10.70倍的解码加速。
在Thinking模型上，CopyLoop相比全深度自回归解码实现了2.74倍到3.52倍的解码加速。
在所有评估任务上，CopyLoop要么优于所有竞争基线，要么与其表现非常接近。
CopyLoop只需要轻量级的模型校准，不需要重新训练。
还有 3 条时间轴事件
全部知识事实 (13)
CopyLoop是一种免训练的解码加速算法，通过结合低成本上下文复制提议、浅层筛选与连续循环调度来加速循环Transformer的解码。
50%待验证CopyLoop的工作流程分为提议与筛选两个阶段：先从上下文中复制多个候选后缀，再在浅层循环深度上快速评估候选。
50%待验证CopyLoop的浅层筛选利用循环Transformer的 anytime 特性，在低深度上对复制候选打分，淘汰低概率候选，保留少数进入全深度验证。
50%待验证CopyLoop的连续循环调度将循环深度视为可重叠的流水线阶段，允许较晚的块在较早的块仍在推进时基于浅层结果开始处理。
50%待验证论文消融实验证实，浅层筛选与连续循环调度之间存在强协同效应，单独使用任一技术都不如两者结合的效果显著。
50%待验证研究团队在Ouro、Raven和Huginn三个模型家族的六个检查点上评估了CopyLoop，任务覆盖代码生成和多步数学推理。
50%待验证在Base模型上，CopyLoop相比全深度自回归解码实现了2.98倍到10.70倍的解码加速。
50%待验证在Thinking模型上，CopyLoop相比全深度自回归解码实现了2.74倍到3.52倍的解码加速。
50%待验证在所有评估任务上，CopyLoop要么优于所有竞争基线，要么与其表现非常接近。
50%待验证CopyLoop只需要轻量级的模型校准，不需要重新训练。
50%待验证在生成长度较长且上下文可复用的场景下，CopyLoop的加速效果更为明显。
50%待验证CopyLoop的加速效果依赖于上下文中存在可复用的片段，对于完全开放域的生成任务，提议的命中率可能下降。
50%待验证浅层筛选的阈值设置可能需要针对不同模型进行调整，论文中提到的轻量级校准正是为了解决这个问题。
50%