GB200 NVL72
GB200 NVL72是NVIDIA推出的一款高密度AI计算系统，采用Blackwell架构，将多颗GB200超级芯片（GPU与CPU组合）集成于单一机架单元中。该系统通过NVLink高速互联技术将各计算节点紧密连接，形成统一的大规模并行计算平台，主要面向大型语言模型训练、推理及高性能科学计算等密集型AI工作负载场景。
时间轴 (近 90 天)
Prime Intellect于2025年10月2日上线Prime Inference，并在GB200 NVL72上实现相同GPU数量承载75%更多请求的生产数据
vLLM 对 NVIDIA Vera Rubin NVL72 提供 day-0 支持，报告相对 GB200 NVL72 每 GPU 7.8 倍吞吐（AgentX）和相对 GB300 的 3.7 倍 VLM 吞吐（MLPerf v6.1），配有面向 MoE 路由调优的 locality domains。
NVIDIA GB200 NVL72 采用约 130TB/s 通信带宽的液冷机架，系统工程壁垒极高
NVIDIA推出了GB200 NVL72等机架级系统
全部知识事实 (16)
NVLink Switch的拓扑并非完全扁平，经过不同层级Switch的通信路径在延迟和有效带宽上存在差异
90%待验证Slurm支持拓扑感知作业调度功能，可用于优化GB200 NVL72系统的工作负载放置
90%待验证GB200 NVL72在FP8精度下的AI算力可达1.44 ExaFLOPS
90%待验证整个NVL72系统的总显存容量超过13TB
90%待验证传统Slurm调度器以节点为基本单位分配资源，在NVL72架构下会导致资源碎片化和通信效率下降问题
85%待验证Slurm的topology plugin可以将NVL72的NVLink拓扑信息注入调度器，实现拓扑感知的分配决策
85%待验证GB200 NVL72的72块GPU可以按照NVLink拓扑结构划分为不同粒度的块，包括9个8-GPU块、4个18-GPU块、2个36-GPU块或1个72-GPU块
85%待验证GB200 NVL72是面向超大规模AI训练和推理场景的旗舰级计算平台
85%待验证装满B200芯片的机架功率可达120千瓦，是传统服务器机架的十倍以上
80%待验证GB200 NVL72将NVLink互联从单节点内部扩展到了整个机架级别，机架内任意两块GPU之间都能通过NVLink直接通信
70%待验证GB200 NVL72中的72颗GPU通过NVLink Switch芯片实现全互联
70%待验证NVIDIA GB200 NVL72在单个机架内集成了72颗Blackwell GPU
70%待验证NVIDIA GB200 NVL72 采用约 130TB/s 通信带宽的液冷机架，系统工程壁垒极高
50%待验证NVIDIA推出了GB200 NVL72等机架级系统
50%待验证Prime Intellect于2025年10月2日上线Prime Inference，并在GB200 NVL72上实现相同GPU数量承载75%更多请求的生产数据
50%待验证随着AI模型参数量持续膨胀，单个训练作业跨越多个NVL72机架将成为常态
75%