模型DeepSeek V2 Lite
DeepSeek-V2-Lite
DeepSeek-V2 的轻量版 MoE 大语言模型,总参数约 16B,激活参数约 2.4B,采用 MLA 注意力与细粒度专家设计
时间轴 (近 90 天)
11月2日
研究在DeepSeek-V2-Lite和Qwen3-30B-A3B两个模型上进行了验证。
待验证50%
11月2日
DeepSeek-V2-Lite是DeepSeek-V2的轻量版MoE模型,总参数约16B,激活参数约2.4B,采用MLA注意力与细粒度专家设计。
待验证50%