待验证60% 置信事实精确时间
2023年Gu和Dao提出Mamba,引入输入依赖的选择性机制(selective scan),在保持线性时间复杂度的同时获得与Transformer相当甚至更优的语言建模性能
2
来源数
60%
置信度
长期有效
时效性
2026/8/6
首次发现
来源
相关事实
待验证Mamba通过输入依赖的选择性机制和硬件感知的并行扫描算法,将序列建模复杂度降至线性时间,同时保持对长程依赖的建模能力。72% 相似待验证两款模型都采用混合专家(MoE)与混合 Mamba-Transformer 架构,面向推理、长上下文理解与智能体工作负载。71% 相似待验证Mamba状态空间模型由Albert Gu和Tri Dao于2023年提出,推理时计算复杂度和显存占用均为O(1)68% 相似待验证Mamba推理时的内存占用保持恒定,不会随序列长度线性增长,在语言建模任务上缩小了与Transformer的差距66% 相似待验证Mamba 类状态空间模型与 Transformer 的融合正在从论文走向可用的开源权重。64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/697005API
curl https://kongchang.com/api/v1/knowledge/claims/697005MCP
get_claim(id=697005)