模型Ling 3.0 Flash
Ling 3.0 Flash
InclusionAI 推出的混合 MoE 大语言模型,采用 KDA 与 MLA 分组混合注意力架构,解码器按五比一比例组合轻量与全局注意力层
时间轴 (近 90 天)
10月15日
InclusionAI 的 Ling 3.0 Flash 采用混合 MoE 设计,解码器将五个 Kimi Delta Attention(KDA)层与一个 Multi-head Latent Attention(MLA)层分组,已在 Transformers 中原生支持,加载类为 BailingHybridForCausalLM。
待验证50%
9月12日
vLLM v0.28.0 新增支持 Muse Glimmer、Ling 3.0 Flash、Dots3 NOTE、Interns2mobius 等模型
待验证50%