待验证83% 置信决策规则时间未知
多卡显存池化(如把两张卡当48GB用)需要NVLink硬件桥接，而非普通PCIe互联；注意RTX 40系消费卡已取消NVLink，仅RTX 6000 Ada前的Ampere专业卡(A6000/A100)支持，选卡前确认NVLink支持情况
1
来源数
83%
置信度
中期 (~90 天)
时效性
-
首次发现
来源
涉及实体
相关事实
待验证GB300 搭载 NVLink 第五代互联技术，单机8卡的卡间带宽达到1.8TB/s79% 相似待验证RTX 4090显存24GB但不支持NVLink，无法做多卡显存池化，多卡训练时每张卡显存独立，大模型分布式训练效率不如A100/H100系列77% 相似待验证USB扩展卡/网卡等低速扩展卡插在PCIe x1插槽即可，不要占用x16显卡插槽；而M.2 NVMe扩展卡需要x4以上，二者带宽需求差异巨大75% 相似待验证A100 80GB支持NVLink多卡互联带宽600GB/s，适合模型并行；消费级RTX 4090不支持NVLink，多卡训练走PCIe通信成为瓶颈，大模型分布式训练效率明显下降73% 相似待验证两张RTX 3090通过NVLink互联时合计48GB显存可以全精度FP16运行27B模型，若没有NVLink则只能依赖PCIe通信遭遇带宽瓶颈71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/468486API
curl https://kongchang.com/api/v1/knowledge/claims/468486MCP
get_claim(id=468486)