待验证70% 置信事实精确时间

论文发现对于固定的算力预算，训练一个更小的模型训练更长时间，往往比训练大模型效果更好，这与Chinchilla定律相悖

2

来源数

70%

置信度

长期有效

时效性

2026/8/13

首次发现

来源

预训练与RL的Scaling Law：国际象棋实验揭示后训练算力分配规律

相关事实

已验证Chinchilla定律指出在固定计算预算下，适当缩小模型规模并增加训练数据量往往能获得更好的性能79% 相似待验证一个参数更少但用更多Token充分训练的模型，虽然训练时看似过度训练，却能在推理阶段显著降低成本，因为推理开销主要由参数量决定78% 相似待验证DeepMind的Chinchilla研究指出此前的模型普遍过大而欠训练，即参数量过多但训练数据不足77% 相似已验证微调通常只需原始训练成本的百分之一甚至更少，便能获得接近专用模型的领域表现76% 相似待验证对于代码错误代价极高且高质量训练语料稀缺的领域，针对性训练的中小模型可能比调用最强通用模型更划算可靠76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/742559

API

curl https://kongchang.com/api/v1/knowledge/claims/742559

MCP

get_claim(id=742559)