已验证65% 置信事实精确时间
Mistral AI的Mixtral 8x7B采用MoE架构,总参数量约47B,但每次推理实际激活的参数仅约13B
3
来源数
65%
置信度
长期有效
时效性
2026/7/13
首次发现
来源
AI成本失控:企业遏制飙升账单的实战策略
hackernewshackernews2026/7/11
相关事实
待验证MoE架构中Mixtral 8x7B模型总参数46.7B,但每个token仅激活约12.9B参数(2个专家),推理成本接近13B参数的稠密模型,性能可媲美70B级别77% 相似待验证Mistral AI的7B模型在发布时性能超越了两倍参数量的Llama 2 13B75% 相似已验证Mixtral 8x7B模型拥有8个专家,每个Token只激活2个,总参数量达到47B,但单次推理的计算量仅相当于一个13B参数的稠密模型75% 相似已验证Mistral Large 4采用稀疏混合专家(MoE)架构,每次推理实际激活参数为490亿(49B)71% 相似待验证Mixtral-8x7B 的实际总参数量为 46.7B,而 8×7=56B 的命名乘法会误导硬件规划约 20%。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/501325API
curl https://kongchang.com/api/v1/knowledge/claims/501325MCP
get_claim(id=501325)