待验证50% 置信事实精确时间
GPT-4o-mini通过知识蒸馏技术压缩模型规模，用大模型的输出作为软标签来训练小模型
1
来源数
50%
置信度
长期有效
时效性
2026/7/23
首次发现
来源
相关事实
待验证可利用大模型（如GPT-4）基于领域文档自动生成合成训练数据，降低标注成本79% 相似待验证许多开源模型使用GPT-4、Claude等商业模型生成的高质量输出作为训练数据，即知识蒸馏训练范式77% 相似待验证用轻量模型如GPT-4o-mini、GLM-4-Flash处理简单任务，仅在瓶颈处调用旗舰模型可平衡质量与成本76% 相似待验证主流大模型（包括GPT-4、DeepSeek、Claude等）均基于静态语料库训练，存在明确的知识截止日期76% 相似待验证Agent Tuning研发流程为：用GPT-4调通流程、构建训练数据、微调小模型、替换GPT-4完成闭环，即知识蒸馏路径76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/602606API
curl https://kongchang.com/api/v1/knowledge/claims/602606MCP
get_claim(id=602606)