待验证50% 置信事实精确时间
预训练+微调范式源自NLP和计算机视觉领域，其核心是大规模数据预训练学到通用底层特征，下游任务用少量标注数据适配
1
来源数
50%
置信度
长期有效
时效性
2026/8/31
首次发现
来源
涉及实体
相关事实
部分验证预训练模型是指在大规模数据集上预先训练好的模型，用户可以直接微调或调用来完成特定任务80% 相似待验证「预训练 + 轻量下游头」的模式正在成为NLP、计算机视觉、地球观测等跨领域的共同实践78% 相似待验证Pre-train & Fine-tune是当前大模型的核心训练范式，预训练完成通用知识学习后，微调阶段只需少量数据和计算资源即可适配不同任务78% 相似待验证主流训练框架如Megatron-LM、DeepSpeed在分布式训练过程中会生成详细的检查点（Checkpoint）和数据加载记录76% 相似待验证自监督学习是预训练阶段的核心范式，模型通过下一个词预测任务从数据本身构造训练信号75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/829031API
curl https://kongchang.com/api/v1/knowledge/claims/829031MCP
get_claim(id=829031)