待验证50% 置信事实精确时间

传统DMD训练中，批评者被要求建模一个与步数无关的学生输出混合分布。

1

来源数

50%

置信度

长期有效

时效性

2026/11/2

首次发现

来源

DMD蒸馏新突破：批评者模型需与教师模型同步缩放

涉及实体

DMDconcept 批评者模型concept

相关事实

待验证对于使用学习率调度器的DPO训练流程，峰值学习率与预热步数也需要随模型规模相应调整。73% 相似待验证模型需要针对问题分布进行训练，若实例分布变化剧烈，可能需要重新训练。70% 相似待验证RM-OPD的关键机制是在学生自己生成的critique上施加token级密集监督，使监督分布与学生当前策略分布一致，缓解训练与推理分布错配问题。69% 相似已验证LLM-as-a-judge评判模型对与自身训练数据风格相近的输出打分更高，即自我偏好偏差69% 相似待验证DPT 的贡献在于将并行思维的问题定位到训练信号层面，而非仅在推理阶段增加采样数量。68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1125604

API

curl https://kongchang.com/api/v1/knowledge/claims/1125604

MCP

get_claim(id=1125604)