待验证50% 置信事实精确时间
WISD 通过低比特量化和幅度剪枝两种方式构造弱化模型，这两种操作在方法中用于生成训练信号而非部署优化。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证WISD 采用 on-policy 自蒸馏，训练信号来自原始模型与弱化模型对同一无标签提示实时生成的并行轨迹对比，对比发生在策略空间而非答案空间。79% 相似待验证经过精炼的标注最终被用来微调轻量模型，部署时使用低成本轻量模型进行大规模提取，LLM仅在训练数据构造阶段介入一次70% 相似待验证O'Brien 等人同期研究发现，当使用中期训练教模型在指定上下文内失准行为可接受（用生造词 <quarantine_token> 标记），并用符合该格式的 SFT/RL 训练数据时，失准泛化可以降低，但没有超过接种提示的效果。69% 相似待验证在填充任务上，Diffusion-LM在自动评估指标上优于COLD和DELOREAN等基于连续松弛的方法，并达到专门从零训练的自回归模型水平且无需针对性训练69% 相似待验证权重归一化技术将权重向量分解为方向与模长两个独立分量分别优化，可显著改善训练稳定性68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1114231API
curl https://kongchang.com/api/v1/knowledge/claims/1114231MCP
get_claim(id=1114231)