已验证75% 置信事实精确时间
Mistral Large 4总参数量达到1万亿,采用混合专家(MoE)架构,激活参数为490亿
3
来源数
75%
置信度
长期有效
时效性
2026/10/7
首次发现
来源
涉及实体
相关事实
待验证根据DeepMind在2022年提出的Chinchilla缩放定律,一个700亿参数的模型需要约1.4万亿token才能达到计算最优74% 相似待验证一个千亿参数级别旗舰模型每次推断所需GPU资源可能比百亿参数模型高出10至20倍73% 相似待验证Mixtral 8x7B 总参数量约 467 亿,但每次推理只激活 2 个专家,实际计算量相当于约 130 亿参数的模型71% 相似待验证模型在第1层和第14层放置n-gram查找表,24个哈希各索引约1600万行,总计1960亿参数,超过模型权重的三分之一70% 相似待验证1000亿参数的模型处理单次推理请求需约80GB显存,百亿参数级别模型仅需约20GB69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/984129API
curl https://kongchang.com/api/v1/knowledge/claims/984129MCP
get_claim(id=984129)