待验证50% 置信事实精确时间
DeepMind的Chinchilla定律(源自2022年论文《Training Compute-Optimal Large Language Models》)表明模型性能取决于参数量和训练token数的最优配比,最优训练量约为参数量的20倍
1
来源数
50%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
已验证DeepMind的Chinchilla研究(2022)指出最优训练应让数据量与参数量保持大致1:1的比例增长77% 相似待验证Chinchilla缩放定律指出最优训练token数应与模型参数量成正比,参数翻倍时训练数据和计算成本至少翻倍76% 相似待验证根据Chinchilla定律及其后续研究,模型性能与训练计算量之间存在幂律关系75% 相似待验证DeepMind的Chinchilla研究指出此前的模型普遍过大而欠训练,即参数量过多但训练数据不足74% 相似待验证论文发现对于固定的算力预算,训练一个更小的模型训练更长时间,往往比训练大模型效果更好,这与Chinchilla定律相悖73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/893365API
curl https://kongchang.com/api/v1/knowledge/claims/893365MCP
get_claim(id=893365)