[控场AI]
模型Ling 3.0 Flash

Ling 3.0 Flash

InclusionAI 推出的混合 MoE 大语言模型,采用 KDA 与 MLA 分组混合注意力架构,解码器按五比一比例组合轻量与全局注意力层

时间轴 (近 90 天)

10月15日

InclusionAI 的 Ling 3.0 Flash 采用混合 MoE 设计,解码器将五个 Kimi Delta Attention(KDA)层与一个 Multi-head Latent Attention(MLA)层分组,已在 Transformers 中原生支持,加载类为 BailingHybridForCausalLM。

待验证50%
9月12日

vLLM v0.28.0 新增支持 Muse Glimmer、Ling 3.0 Flash、Dots3 NOTE、Interns2mobius 等模型

待验证50%

全部知识事实 (2)

来源文章