NVIDIA Blackwell
NVIDIA 推出的 GPU 架构系列,支持 NVFP4 四位量化推理,包含 B200 等型号,面向大规模 AI 训练与推理
核心事实
时间轴 (近 90 天)
DeepInfer 仅支持 NVIDIA Blackwell 架构和华为 Ascend 芯片。
判断 DeepInfer 是否适合,只需回答三个条件:是否有 Blackwell 或 Ascend 硬件、是否只跑 V4.1-Flash、是否是离线场景;三者均为“是”则值得一试。
DeepInfer 为 Blackwell 和 Ascend 两套 ISA 分别维护了算子实现。
DeepInfer 支持 NVIDIA SM100 GPU 和华为昇腾 950 NPU 两类硬件。
Nemotron 3.5 Bolt 部署走 vLLM,支持 NVIDIA Ampere(A100)、Hopper(H100-80GB)和 Blackwell 平台。
Blackwell通过硬件级别对MX块级缩放的原生支持,使缩放因子可以与矩阵乘运算融合执行,这是FA4 MX8性能数字无法直接迁移到Hopper的根本原因
OpenAI已开始在其推理服务中大规模部署采用NVLink互联技术的NVIDIA Blackwell架构GPU
全部知识事实 (9)
DeepInfer 支持 NVIDIA SM100 GPU 和华为昇腾 950 NPU 两类硬件。
70%待验证sm_103是NVIDIA Blackwell架构的CUDA计算能力标识符
85%待验证NVIDIA Blackwell架构理论AI算力相比Hopper提升约2.5倍
75%待验证判断 DeepInfer 是否适合,只需回答三个条件:是否有 Blackwell 或 Ascend 硬件、是否只跑 V4.1-Flash、是否是离线场景;三者均为“是”则值得一试。
50%待验证DeepInfer 仅支持 NVIDIA Blackwell 架构和华为 Ascend 芯片。
50%待验证DeepInfer 为 Blackwell 和 Ascend 两套 ISA 分别维护了算子实现。
50%待验证Nemotron 3.5 Bolt 部署走 vLLM,支持 NVIDIA Ampere(A100)、Hopper(H100-80GB)和 Blackwell 平台。
50%待验证Blackwell通过硬件级别对MX块级缩放的原生支持,使缩放因子可以与矩阵乘运算融合执行,这是FA4 MX8性能数字无法直接迁移到Hopper的根本原因
50%待验证OpenAI已开始在其推理服务中大规模部署采用NVLink互联技术的NVIDIA Blackwell架构GPU
50%