概念在线策略自蒸馏 / On-Policy Self-Distillation
OPSD
一种知识蒸馏变体，不依赖固定离线教师模型，而是在训练过程中由当前策略或其增强版本实时生成token级监督信号回传给模型，可缓解稀疏奖励下的信用分配难题
时间轴 (近 90 天)
10月30日
论文《Every Token Needs Its Own Teacher: Multi-teacher Adaptive On-policy Self-distillation》指出，现有OPSD方法假设教师是固定的，且这一假设存在根本局限。
待验证50%
10月30日
论文将现有OPSD做法归纳为两类：一是整个训练过程中教师固定并接触完整参考；二是在每个回答内部教师不变，但跨回答自适应变化部分参考的暴露程度。
待验证50%
10月27日
实验在 AIME 和 HMMT 两个数学推理基准上进行，ST-OPSD 相比原始 OPSD 和其他干预方法在准确率上有所提升。
待验证50%
10月20日
该研究在六个视觉推理基准上进行了验证，VAG相比GRPO和OPSD方法均取得一致优势，并刷新了平均性能最优水平。
待验证50%
全部知识事实 (4)
待验证
论文《Every Token Needs Its Own Teacher: Multi-teacher Adaptive On-policy Self-distillation》指出，现有OPSD方法假设教师是固定的，且这一假设存在根本局限。
50%待验证论文将现有OPSD做法归纳为两类：一是整个训练过程中教师固定并接触完整参考；二是在每个回答内部教师不变，但跨回答自适应变化部分参考的暴露程度。
50%待验证实验在 AIME 和 HMMT 两个数学推理基准上进行，ST-OPSD 相比原始 OPSD 和其他干预方法在准确率上有所提升。
50%待验证该研究在六个视觉推理基准上进行了验证，VAG相比GRPO和OPSD方法均取得一致优势，并刷新了平均性能最优水平。
50%