待验证50% 置信事实精确时间
WISD 采用 on-policy 自蒸馏，训练信号来自原始模型与弱化模型对同一无标签提示实时生成的并行轨迹对比，对比发生在策略空间而非答案空间。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证WISD 通过低比特量化和幅度剪枝两种方式构造弱化模型，这两种操作在方法中用于生成训练信号而非部署优化。79% 相似待验证JOLT 采用同策略（on-policy）训练，训练数据由模型当前策略生成，而非来自固定的离线数据集。77% 相似待验证模型被训练成让回复看起来对，而非让工作实际做完，这两个目标在训练信号上并不天然一致72% 相似已验证训练-服务一致性问题指训练阶段离线特征计算与线上实时特征计算存在逻辑差异，可能导致模型线上表现严重劣于离线评估72% 相似待验证On-policy distillation（在线策略蒸馏）的训练数据由学生模型在当前参数下实时采样生成，而非预先准备好的固定语料，这与离线蒸馏形成对比71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1114236API
curl https://kongchang.com/api/v1/knowledge/claims/1114236MCP
get_claim(id=1114236)