已验证65% 置信事实精确时间
模型蒸馏技术由Geoffrey Hinton团队于2015年提出，最初用于模型压缩，通过让学生模型拟合教师模型的软标签输出
3
来源数
65%
置信度
长期有效
时效性
2026/7/17
首次发现
来源
相关事实
已验证模型蒸馏（Knowledge Distillation）最初由 Hinton 等人于2015年提出，核心思想是让小模型学习大模型的软标签而非硬标签78% 相似待验证硬蒸馏是指学生模型直接学习教师模型的最终输出标签或生成文本，软蒸馏则要求学生模型学习教师模型输出的完整概率分布（logits）73% 相似已验证模型蒸馏是一种将大型教师模型能力迁移到更小学生模型的技术，可能被用于扩散危险能力71% 相似已验证知识蒸馏由Hinton等人于2015年提出，原指用大模型的软标签输出训练小模型70% 相似待验证模型蒸馏是指用大型教师模型的输出训练更小的学生模型，仅需调用API获取输出，不涉及权重复制，其法律边界模糊，全球尚无先例性司法判决明确定性66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/538841API
curl https://kongchang.com/api/v1/knowledge/claims/538841MCP
get_claim(id=538841)