#AI模型架构

多视图MoE：让每个路由器重塑专家计算

Multi-View MoE提出多路由器与路由偏好复用机制，在不增加激活专家数和FLOPs的前提下改进专家选择。在10B-A1B模型上，九任务平均提升1.18个百分点。