已验证75% 置信事实精确时间

在MoE模型中，存储成本由总参数决定，计算成本（FLOPs）由激活参数决定

3

来源数

75%

置信度

长期有效

时效性

2026/8/19

首次发现

来源

Scaling Law再思考：参数不是唯一答案

twitterjietang2026/8/19

涉及实体

相关事实

已验证在MoE模型中总参数量主要决定内存占用，每token激活参数量主要决定速度和成本80% 相似待验证MoE模型在推理延迟和计算成本上往往优于同参数规模的Dense模型，但代价是需要更大显存加载全部专家权重73% 相似待验证每一次模型参数量的跃升，背后都对应着存储、计算与能耗成本的增加73% 相似待验证MoE模型所有专家参数必须同时驻留显存，空载开销是MoE架构工程部署的主要成本来源72% 相似待验证推理阶段的计算开销主要由模型参数加载到显存的内存带宽消耗以及前向传播中的矩阵运算量构成72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/796930

API

curl https://kongchang.com/api/v1/knowledge/claims/796930

MCP

get_claim(id=796930)