InfiniBand
高性能计算领域的网络通信标准，以微秒级超低延迟和高达400Gb/s以上的极高带宽著称，广泛应用于超算中心和大规模AI训练集群的节点互联，是当前主流高性能互联方案之一。
核心事实
时间轴 (近 90 天)
Spectrum-X的核心卖点是自适应路由与拥塞控制，用以在RoCEv2环境下逼近InfiniBand的尾延迟表现。
业界常见的高速互联方案包括InfiniBand和RoCE，前者性能更优但成本更高。
实际部署中常把张量并行和流水线并行组合使用，并配合跨节点显存统一寻址或高速互联（如NVLink、InfiniBand或高速以太网）。
企业私有集群栈需要从应用编排层、动态模型服务（vLLM/TensorRT-LLM）、Kubernetes与GPU Operator/Slurm编排，贯通到800Gbps NDR InfiniBand/RoCEv2网络结构与高密度液冷硬件。
私有部署需专用RoCEv2或NVIDIA Quantum-2 InfiniBand交换机，搭配NVMe-oF存储节点，顺序读取速度至少达到50GB/s。
GPU集群依靠NVLink和InfiniBand实现高带宽低延迟通信，NCCL库对此做了深度优化；NPU设备的互联拓扑往往不同，如华为昇腾的HCCL、TPU的ICI。
通信优化手段包括梯度压缩为低精度（如 FP16 或 INT8）、将 All-Reduce 拆分为 Reduce-Scatter 与 All-Gather 并与反向计算重叠、以及采用分层通信（节点内 NVLink 聚合，跨节点 InfiniBand 交换）
RoCE和InfiniBand是常见的RDMA实现。
InfiniBand是一种高吞吐、低延迟的网络互连标准，广泛应用于超算和AI训练集群。
AMD的ROCm生态通过支持RDMA over Converged Ethernet（RoCE）实现RDMA能力，与InfiniBand方案形成竞争
还有 20 条时间轴事件
全部知识事实 (20)
NVLink 4.0的双向带宽可达900GB/s，而跨节点InfiniBand HDR仅约50GB/s，差距近20倍
80%已验证AI训练通常需要数千块高端GPU协同工作数周甚至数月，对带宽、延迟和计算一致性要求极高，目前几乎只能在集中式数据中心完成
65%待验证传统DGX集群中，8块GPU组成一个节点，节点内走NVLink，节点间走InfiniBand
90%待验证当前主流的NDR InfiniBand提供400Gbps的端口速率
90%待验证大语言模型训练背后需要精密的数据中心电源分配单元、液冷或风冷散热系统、高速互联网络（NVLink、InfiniBand）以及UPS不间断电源保障
90%待验证在大规模训练集群中，节点内通信（NVLink）与节点间通信（InfiniBand或RoCE）的性能差异可达一个数量级
80%待验证数据中心内部的GPU互联带宽通常在100-400 Gbps量级（通过InfiniBand HDR/NDR或NVSwitch），而数据中心之间的广域网带宽可能仅有1-10 Gbps
70%待验证NVIDIA通过收购Mellanox获得了InfiniBand技术
70%待验证Spectrum-X的核心卖点是自适应路由与拥塞控制，用以在RoCEv2环境下逼近InfiniBand的尾延迟表现。
50%待验证业界常见的高速互联方案包括InfiniBand和RoCE，前者性能更优但成本更高。
50%待验证实际部署中常把张量并行和流水线并行组合使用，并配合跨节点显存统一寻址或高速互联（如NVLink、InfiniBand或高速以太网）。
50%待验证企业私有集群栈需要从应用编排层、动态模型服务（vLLM/TensorRT-LLM）、Kubernetes与GPU Operator/Slurm编排，贯通到800Gbps NDR InfiniBand/RoCEv2网络结构与高密度液冷硬件。
50%待验证私有部署需专用RoCEv2或NVIDIA Quantum-2 InfiniBand交换机，搭配NVMe-oF存储节点，顺序读取速度至少达到50GB/s。
50%待验证GPU集群依靠NVLink和InfiniBand实现高带宽低延迟通信，NCCL库对此做了深度优化；NPU设备的互联拓扑往往不同，如华为昇腾的HCCL、TPU的ICI。
50%待验证通信优化手段包括梯度压缩为低精度（如 FP16 或 INT8）、将 All-Reduce 拆分为 Reduce-Scatter 与 All-Gather 并与反向计算重叠、以及采用分层通信（节点内 NVLink 聚合，跨节点 InfiniBand 交换）
50%待验证RoCE和InfiniBand是常见的RDMA实现。
50%待验证InfiniBand是一种高吞吐、低延迟的网络互连标准，广泛应用于超算和AI训练集群。
50%待验证AMD的ROCm生态通过支持RDMA over Converged Ethernet（RoCE）实现RDMA能力，与InfiniBand方案形成竞争
50%待验证GPU之间通过InfiniBand或RoCE协议传输梯度数据，带宽可达每卡400Gbps乃至更高
50%待验证张量并行通常只在同一节点内的NVLink互联卡之间使用，跨节点部署会因InfiniBand带宽不足而严重拖慢训练吞吐
50%