待验证50% 置信事实精确时间
CoRD 的设计使替换强度随训练自动退火：随着学生逐渐学会教师偏好的 token，两个分布趋于一致，替换自然减少。
1
来源数
50%
置信度
长期有效
时效性
2026/11/6
首次发现
来源
涉及实体
相关事实
待验证D²-OPD通过自适应加权组合教师模型的后训练偏移和初始学生-教师差距来确定外推方向。73% 相似待验证现有少步蒸馏方法大致分为两类：一类依赖额外的 score 模型来估计教师分布，另一类引入对抗损失来拉近学生与教师的输出分布。71% 相似待验证论文《CoRD: Coupled Rollouts Fill the Blind Spot of On-Policy Distillation》提出了耦合轨迹蒸馏（CoRD）方法，旨在不放弃在线损失的前提下把训练状态的分布主动推向教师一侧。69% 相似待验证在RL后训练场景下，教师模型的输出分布会随训练不断变化，蒸馏监督信号变为'教师策略的相对变化量'而非绝对输出。68% 相似待验证传统DMD训练中，批评者被要求建模一个与步数无关的学生输出混合分布。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1141704API
curl https://kongchang.com/api/v1/knowledge/claims/1141704MCP
get_claim(id=1141704)