科学计算显卡

多卡训练大模型时，SXM接口版本（通过NVLink/NVSwitch全互联，带宽达900GB/s级）显著优于PCIe版本（PCIe 5.0约128GB/s，NVLink桥仅点对点），8卡以上集群强烈建议SXM整机方案

被动散热的计算卡（如A100 PCIe无风扇版）必须部署在有强制风道的服务器机箱中，塞进普通PC机箱会因散热不足而降频甚至过热保护，工作站/DIY用户应选主动散热版或涡轮风扇版

A100 80GB采用HBM2e显存，带宽约2039GB/s；H100 SXM采用HBM3，带宽约3.35TB/s，FP64 Tensor Core算力约67 TFLOPS，是A100（约19.5 TFLOPS）的3倍以上

显存容量决定能加载的模型/数据规模，带宽决定计算吞吐；对于大模型推理，显存容量是硬门槛（放不下就跑不了），HBM带宽次之；对于访存密集型HPC，带宽比容量更关键

纯AI训练/推理（FP16/BF16/FP8为主）不应为FP64算力付溢价，H100的FP64虽强但AI任务用不到；此类场景应关注Tensor Core的低精度算力和显存带宽，而非双精度指标

NVIDIA消费级显卡的驱动协议不允许在数据中心大规模部署（EULA限制），机构级采购须使用专业计算卡以合规，且专业卡提供企业级驱动长期支持和保修

科学计算显卡选型路径：①明确精度需求（FP64重则选专业卡，低精度AI可考虑消费卡）→②计算显存需求（模型+数据+激活）→③确定单卡还是多卡（多卡看互联带宽）→④确认软件生态（CUDA vs ROCm）→⑤匹配部署环境（散热/接口/供电）

AMD Instinct系列（MI250/MI300）在FP64算力和显存容量上有优势且性价比高，但生态依赖ROCm；若代码栈深度绑定CUDA（PyTorch自定义算子、CUDA库），迁移成本极高，应优先NVIDIA

单机预算有限的个人研究者，不建议直接购买SXM整机（需专用服务器主板和供电，无法拆用），应选PCIe版本专业卡或考虑云GPU租用

需要大规模双精度计算（如CFD、量子化学、气候模拟）时，应选择FP64与FP32算力比为1:2的专业卡（如A100/H100的FP64 Tensor Core），消费级RTX卡FP64被阉割至1:64，实际FP64性能不足专业卡的1/30

涉及长时间不间断计算或结果精度关键的科研任务，必须选择支持ECC显存的显卡，ECC可纠正单比特错误、检测多比特错误，避免宇宙射线导致的计算静默错误；消费级显卡（如RTX 4090）不支持ECC