待验证50% 置信事实精确时间
MoE架构历史可追溯至1991年Jacobs等人的原始论文,Google于2017年将其应用于序列到序列模型并显著提升性能
1
来源数
50%
置信度
长期有效
时效性
2026/7/22
首次发现
来源
相关事实
已验证MoE(混合专家)的核心思想可追溯至1991年Jacobs等人提出的早期混合专家框架,谷歌2021年的Switch Transformer将其推入大规模语言模型时代75% 相似已验证MoE架构最早由Jacobs等人在1991年提出,近年来被Google的Switch Transformer和Mixtral等模型重新带入主流74% 相似待验证MoE概念最早由Jacobs等人于1991年提出,谷歌2017年将其规模化至语言模型,Mistral的Mixtral系列将稀疏MoE带入开源社区74% 相似已验证Google在2017年的Sparsely-Gated MoE论文中系统化了混合专家架构设计71% 相似待验证谷歌于2017年通过Shazeer等人的Sparsely-Gated MoE论文将MoE规模化至语言模型70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/593726API
curl https://kongchang.com/api/v1/knowledge/claims/593726MCP
get_claim(id=593726)