A100
核心事实
时间轴 (近 90 天)
2022年10月及2023年10月的两轮出口管制更新,逐步将英伟达A100、H100及后续特供型号纳入限制范围。
英伟达的AI芯片(如H100、A100等)自2022年起被美国商务部工业与安全局(BIS)纳入出口管制清单,依据是《出口管理条例》(EAR)。
A100的CUDA生态成熟、显存容量仍能满足多数推理场景,因此在二手市场仍有较高残值。
超大规模数据中心的供电和散热容量是稀缺资源,腾出300个机架空间用于部署H100/H200集群的经济回报远高于保留A100。
当大型算力租赁商集中出售设备时,短期内供给曲线右移,价格往往出现超调;但二手卡面临保修失效、驱动支持周期和能效比落后等问题,买家群体有限,流动性远低于新卡。
智算平台通过GPU租赁方式提供A100、V100等专业卡,按小时计费。
不同 GPU 架构的 SM 数量、Tensor Core 代际、显存带宽与 L2 缓存规模各不相同,同一个 tactic 在 A100 与 H100 上的相对优劣可能完全相反。
幻方量化自2021年起囤积上万张A100 GPU,建成萤火集群。
NVIDIA 的 MIG 技术通过在硬件层将 A100 等型号切分为多个独立实例,提供接近原生的隔离能力,但并非所有 GPU 型号都支持且切分粒度固定。
对于中小规模任务,单卡A100或RTX 4090可能比H100更具性价比;而对于超大规模并行训练,H100的优势才真正显现。
还有 40 条时间轴事件
全部知识事实 (20)
美国自2022年起对中国实施先进半导体出口管制,限制高端AI训练芯片如NVIDIA A100/H100及其后续产品的出口
90%已验证训练一次GPT-4级别的模型需要数万块A100/H100 GPU协同工作数月
90%已验证NVIDIA A100每个SM拥有65536个32位寄存器
80%已验证RTX 4090的GDDR6X显存接口带宽高达1008 GB/s
80%已验证NVIDIA的MIG技术可在A100/H100等高端GPU上实现硬件级别的资源隔离
80%已验证业界估算GPT-4的训练成本超过1亿美元,涉及数万块A100 GPU、数月的持续运算和PB级别的训练数据
80%已验证1750亿参数模型仅模型权重(BF16精度)就需350GB存储,Adam优化器需维护一阶矩和二阶矩两份状态,合计超过1TB
75%已验证70B级别的模型即便经过量化,往往也需要40GB以上显存或多卡配置
75%已验证2022年10月,拜登政府首次出台针对先进计算芯片的出口管制,限制NVIDIA A100、H100等高端GPU对华出口
75%已验证支持128K上下文的70B参数模型的KV Cache满负荷时可能需要数百GB显存,超过单张H100的80GB显存容量
70%已验证NVLink 4.0(用于H100)单向带宽可达900 GB/s
70%已验证配备192GB统一内存的Mac Studio M4 Ultra理论上可以运行完整的70B甚至更大参数的模型
70%已验证MIG利用Ampere架构的GPC物理隔离能力,在硬件层面将GPU计算单元、L2缓存和显存带宽切分为独立分区,提供真正的硬件级隔离
65%已验证美国商务部自2022年将A100、H100等高端GPU纳入出口管制清单
65%待验证NVIDIA MIG仅支持A100/H100等高端卡且切分粒度有限,vGPU方案需要额外购买商业许可证
85%待验证NVIDIA MIG仅A100/H100支持
85%待验证单卡RTX 4090即可运行GPT-OSS 20B,单卡A100即可运行GPT-OSS 120B
80%部分验证NVIDIA的H100/A100 GPU占据AI市场约80%份额
75%待验证部署DeepSeek-R1 671B MoE模型需要至少数张高端GPU(如H100或A100),显存需求超过320GB
75%部分验证NVIDIA A100专业训练卡拥有40GB或80GB HBM2e显存,单卡售价超过1万美元
65%