[控场AI]
模型

Mistral Large 3

Mistral Large 3是由法国人工智能公司Mistral AI开发的大型语言模型,属于其旗舰级模型系列。该模型具备强大的多语言处理能力,支持复杂推理、代码生成与长文本理解,适用于企业级自然语言处理任务。其设计注重高性能与高效率的平衡,可通过API及本地部署方式使用,面向开发者和商业应用场景提供服务。

时间轴 (近 90 天)

10月31日

Mistral Large 4 的前代 Mistral Large 3 参数规模约在 6500 亿到 7000 亿区间。

待验证50%
10月12日

Mistral Large 3 采用 128 个细粒度专家构成的 MoE 架构,每个 token 动态激活其中 8 个专家。

待验证50%
10月12日

Mistral Large 3 总参数量为 4200 亿,解码阶段仅需承担 680 亿活跃参数的计算成本和延迟。

待验证50%
10月12日

Mistral Large 3 支持 512,000 token 的原生上下文窗口,结合块稀疏注意力与硬件校准的旋转位置编码(RoPE)。

待验证50%
10月12日

在 Needle In A Haystack 测试中,Mistral Large 3 在半个百万 token 窗口的任意深度象限都实现了 99.8% 的检索精度。

待验证50%
10月12日

Mistral Large 3 权重以 FP8/BF16 格式开放下载,可在本地主权云或完全离线的气隙环境中部署。

待验证50%
10月12日

在 SWE-bench Verified 基准测试中,Mistral Large 3 达到 53.8% 的得分。

已过期50%
10月12日

Mistral Large 3 的分布式并行策略建议使用专家并行(EP=8 或 16)和张量并行(TP=4 或 8),并要求 InfiniBand / RoCE v2 + RDMA 网络每端口至少 400 Gbps。

待验证50%
10月12日

当上下文接近 512K token 时,预填充与解码解耦架构可确保用户在读取整本规格书后仍能在 800 毫秒内收到首个响应 token。

待验证50%
10月12日

在 Terminal-Bench 4.0 基准测试中,Mistral Large 3 取得 65.2% 的得分,排名全球第二。

已过期50%

还有 4 条时间轴事件

全部知识事实 (10)

来源文章