待验证80% 置信事实时间未知

MUON优化器替代了沿用多年的AdamW优化器，通过引入矩阵正交化步骤使训练曲线更加平滑

1

来源数

80%

置信度

长期有效

时效性

2026/5/31

首次发现

来源

DeepSeek V4深度解析：万亿参数开源模型碾压闭源对手

bilibili马士兵学堂

涉及实体

MUONconcept AdamWconcept

相关事实

待验证AdamW、LAMB等优化器变体专门针对大批量训练和大模型微调进行优化70% 相似已验证Adam优化器结合了动量（Momentum）和自适应学习率两大思想，已成为大模型训练的标配70% 相似已验证Adam优化器于2014年提出，融合动量与自适应学习率，成为当今最广泛使用的优化器67% 相似待验证权重归一化技术将权重向量分解为方向与模长两个独立分量分别优化，可显著改善训练稳定性65% 相似待验证Adam、RMSProp等自适应学习率优化器在SGD基础上进一步改进了收敛速度和稳定性64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/13901

API

curl https://kongchang.com/api/v1/knowledge/claims/13901

MCP

get_claim(id=13901)