待验证50% 置信观点精确时间
Multi-View MoE 目前只在 10B-A1B 规模上验证，更大模型和更多路由器数量下的收益是否保持仍有待观察。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/30
首次发现
有效期至：2027/1/28
来源
涉及实体
相关事实
待验证在 24 层、10B-A1B 的模型上使用 708B token 训练后，完整 Multi-View MoE 在九个下游任务的平均分上比基线提升 1.18 个百分点。73% 相似待验证MoE模型中所有专家的权重仍需加载到显存中待命，因此尽管计算量接近49B密集模型，显存占用却接近完整1T模型的量级64% 相似待验证MoE 模型的显存占用仍与总参数量成正比，虽然算得快但模型文件本身仍然很大63% 相似待验证MoE模型每个token只激活512个专家中的约10个，有效激活参数量约20-30B级别60% 相似待验证Reviser目前验证的规模仍停留在百兆参数级别，能否扩展到主流大模型规模有待观察59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115296API
curl https://kongchang.com/api/v1/knowledge/claims/1115296MCP
get_claim(id=1115296)