待验证50% 置信事实精确时间
研究者在单GPU上对比了不间断训练与中途终止再恢复的运行,两者完成8次优化器更新后可训练参数和训练状态逐位一致,30个检查问题上的重载概率完全相同。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至:2027/1/16
来源
涉及实体
相关事实
待验证NPU训练和GPU训练之间,损失轨迹相关系数达到0.99,衡量的是训练动态相似度,不代表吞吐量对等或速度能追上GPU。72% 相似待验证在受控单次预训练对比实验中,使用Edu-QuRating筛选混合集训练的模型在九项基准测试上的整体观测准确率高于FineWeb-Edu基线模型,且性能提升集中在特定任务上71% 相似待验证批次归一化在训练模式使用当前批次统计量,在推理模式使用训练过程中累积的移动平均值70% 相似待验证使用相关系数而非简单比较最终损失值,是因为它能捕捉训练全程的动态一致性,比单一终点指标更能证明训练过程的数值有效性。70% 相似待验证Grokking指模型在训练集上早已达到近乎完美拟合后,测试集性能长时间停留在随机水平,直到经过大量额外训练步数后泛化能力才突然提升的现象69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1064022API
curl https://kongchang.com/api/v1/knowledge/claims/1064022MCP
get_claim(id=1064022)