待验证50% 置信解决方案精确时间
改进伪标签质量的常见方向包括置信度过滤、引入语言模型重打分(LM rescoring)以及集成多个教师模型
1
来源数
50%
置信度
长期有效
时效性
2026/9/24
首次发现
来源
涉及实体
相关事实
待验证非自回归机器翻译通过知识蒸馏解耦策略使用自回归教师模型生成的伪标签训练,将BLEU分数提升幅度超过10个点,同时推理保持并行解码75% 相似待验证经过指令微调和RLHF训练的模型在遵循格式规范方面表现更好,有时反而会生成格式更完美的虚假引用72% 相似待验证传统知识蒸馏通常使用教师模型输出的软标签来传递类别间相似性等暗知识67% 相似待验证受限解码在保证格式正确性的同时,可能改变模型实际采样分布,导致语义质量的次优选择66% 相似待验证论文《Diffusion-LM Improves Controllable Text Generation》将扩散模型迁移到离散文本上以实现可控生成,被公认为扩散语言模型方向的开山之作66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/948101API
curl https://kongchang.com/api/v1/knowledge/claims/948101MCP
get_claim(id=948101)