Grace Blackwell
NVIDIA推出的高性能AI加速芯片,集成Grace CPU与Blackwell GPU架构,专为大规模AI训练与推理工作负载设计,广泛应用于数据中心
核心事实
时间轴 (近 90 天)
通过重新设计调度策略,可以在不增加硬件采购的前提下,从同一组机架中多获得 27% 的可用 GPU 资源。
当 Grace Blackwell 这类紧耦合架构成为主流,调度器的设计哲学需要从“分配设备”转向“编排协同”。
Hacker News 上有一篇关于 Grace Blackwell 调度需求的技术讨论,获得 42 分。
Grace Blackwell 节点内部资源拓扑呈现更强的异构亲和性:某些任务在 CPU 与 GPU 紧耦合路径上通信开销更低,跨 GPU 通信依赖 NVLink 交换网络。
新一代Grace Blackwell实现了100%液冷,而上一代仅有80%采用液冷
新一代Grace Blackwell的组装时间从上一代的两小时缩短到五分钟
英伟达在GTC大会上宣布Grace Blackwell产品已正式进入全面量产阶段(officially in full production)
ML4的训练在欧洲完成,使用了约3800块NVIDIA Grace Blackwell GPU
Grace Blackwell是NVIDIA面向大规模AI训练的新一代GPU平台,Grace负责CPU侧、Blackwell负责GPU侧,通过高带宽互连组成超级芯片
Le Chonk的训练使用了欧洲本地数据中心的3800块英伟达Grace Blackwell GPU
还有 11 条时间轴事件
全部知识事实 (20)
GB10 Grace Blackwell超级芯片将ARM架构的Grace CPU与Blackwell GPU通过NVLink-C2C片间互联技术融合在同一封装中
75%已验证Mistral Large 4 的训练使用了自建数据中心内的 3800 块英伟达 Grace Blackwell GPU,公开预览版也运行在同一套基础设施上
70%已验证DGX Spark是NVIDIA面向个人开发者和小团队推出的紧凑型AI工作站,搭载Grace Blackwell芯片
65%已验证英伟达GB300 Blackwell Ultra GPU集成两颗GPU芯片与一颗Grace CPU,通过NVLink-C2C互联,内存带宽可达8TB/s以上,推理性能相比H100提升4至5倍
65%待验证DGX Spark基于NVIDIA的Grace Blackwell架构,采用Grace CPU与Blackwell GPU的紧密耦合设计
90%待验证通过重新设计调度策略,可以在不增加硬件采购的前提下,从同一组机架中多获得 27% 的可用 GPU 资源。
50%待验证Grace Blackwell 节点内部资源拓扑呈现更强的异构亲和性:某些任务在 CPU 与 GPU 紧耦合路径上通信开销更低,跨 GPU 通信依赖 NVLink 交换网络。
50%待验证新一代Grace Blackwell实现了100%液冷,而上一代仅有80%采用液冷
50%待验证新一代Grace Blackwell的组装时间从上一代的两小时缩短到五分钟
50%待验证ML4的训练在欧洲完成,使用了约3800块NVIDIA Grace Blackwell GPU
50%待验证Grace Blackwell是NVIDIA面向大规模AI训练的新一代GPU平台,Grace负责CPU侧、Blackwell负责GPU侧,通过高带宽互连组成超级芯片
50%待验证Le Chonk的训练使用了欧洲本地数据中心的3800块英伟达Grace Blackwell GPU
50%待验证Mistral Large在欧洲数据中心完成训练,使用了3800块英伟达Grace Blackwell芯片,模型权重与许可证将在月底公布
50%待验证Grace Blackwell是英伟达面向AI训练与推理的最新一代芯片平台,相较于上一代H100在能效和互联带宽上均有显著提升
50%待验证Grace Blackwell平台目前主要通过CUDA 12.x及对应的cuDNN、NCCL版本提供支持,PyTorch和JAX已有针对该架构的优化内核
50%待验证GB300是NVIDIA Grace Blackwell架构的最新迭代,前一代为GB200
50%待验证GB300超级芯片基于NVIDIA的Grace Blackwell架构,将CPU与GPU通过高带宽互联整合,形成统一的内存寻址空间
50%待验证DGX Spark的Grace Blackwell架构采用CPU与GPU共享统一内存池设计,模型权重不需在系统内存和显存间复制,但两个大型模型无法同时驻留内存
50%待验证Hacker News 上有一篇关于 Grace Blackwell 调度需求的技术讨论,获得 42 分。
50%待验证当 Grace Blackwell 这类紧耦合架构成为主流,调度器的设计哲学需要从“分配设备”转向“编排协同”。
50%