B200
NVIDIA推出的旗舰数据中心GPU,基于Blackwell架构,面向大规模AI训练和推理,代表当前最高性能级别
时间轴 (近 90 天)
按官方口径折算,DeepInfer一张卡一小时营收38美元,而B200市场租金大约8美元,相差四倍多,但这是营收对租金,未扣除电费、折旧、存储等成本。
H100和B200这类产品单价通常在数万美元量级,且受产能与出口管制影响,交货周期长、渠道加价严重。
B200属于Blackwell架构,采用双芯片封装。
当大模型训练和推理的需求持续膨胀,而专业级加速卡(如H100、B200系列)产能有限、价格高昂时,采购方会把目光投向消费级旗舰卡。
SM100对应英伟达Blackwell架构中计算能力10.0的GPU,如B200、GB200等,它是一个架构标识而非具体显卡型号。
官方数据显示,在单张 B200 上,LFM2.5-1.2B 在 RIPL 上的 p95 延迟比 Qwen3.5-0.8B 在 vLLM 上低 14.4 至 28.4 倍。
DeepInfra 的内核是为 NVIDIA 数据中心 Blackwell 芯片(如 B200)编写的,无法直接在 DGX Spark 等使用不同 Blackwell 芯片的设备上开箱即用。
单个集群一天处理155万亿个Token,平均每张卡每小时收入38美元。
A100在4K token prefill期间浪费超过97%的HBM带宽;HBM占A100制造成本的18%,在B200上高达45%
Reddit讨论者引用的TTT-Discover配方使用Qwen3-8B并开启thinking模式,跑在两块B200上。
还有 33 条时间轴事件
全部知识事实 (20)
英伟达最新的B200芯片单卡热设计功耗达1000瓦
90%待验证装满B200芯片的机架功率可达120千瓦,是传统服务器机架的十倍以上
80%待验证图像模型在卸载时可保持 INT8 或 FP8 精度,Z-Image 生成耗时在 10 GiB 显存上限的 B200 上从 38.4 秒降至 2.3 秒
70%待验证在B200上,Qwen3.5-9B的LoRA SFT训练每步耗时从0.84秒降到0.77秒
70%待验证单个集群一天处理155万亿个Token,平均每张卡每小时收入38美元。
60%待验证NVIDIA的A100、H100以及最新的B200 GPU已经成为AI训练和推理的事实标准
60%待验证按官方口径折算,DeepInfer一张卡一小时营收38美元,而B200市场租金大约8美元,相差四倍多,但这是营收对租金,未扣除电费、折旧、存储等成本。
50%待验证H100和B200这类产品单价通常在数万美元量级,且受产能与出口管制影响,交货周期长、渠道加价严重。
50%待验证当大模型训练和推理的需求持续膨胀,而专业级加速卡(如H100、B200系列)产能有限、价格高昂时,采购方会把目光投向消费级旗舰卡。
50%待验证B200属于Blackwell架构,采用双芯片封装。
50%待验证SM100对应英伟达Blackwell架构中计算能力10.0的GPU,如B200、GB200等,它是一个架构标识而非具体显卡型号。
50%待验证官方数据显示,在单张 B200 上,LFM2.5-1.2B 在 RIPL 上的 p95 延迟比 Qwen3.5-0.8B 在 vLLM 上低 14.4 至 28.4 倍。
50%待验证DeepInfra 的内核是为 NVIDIA 数据中心 Blackwell 芯片(如 B200)编写的,无法直接在 DGX Spark 等使用不同 Blackwell 芯片的设备上开箱即用。
50%待验证A100在4K token prefill期间浪费超过97%的HBM带宽;HBM占A100制造成本的18%,在B200上高达45%
50%待验证Reddit讨论者引用的TTT-Discover配方使用Qwen3-8B并开启thinking模式,跑在两块B200上。
50%待验证同一先进制程产线的产能需要在数据中心GPU(如H100/B200系列)、消费级旗舰与中端型号之间分配。
50%待验证AI训练所需的高端GPU如NVIDIA H100、B200均依赖台积电的5纳米、3纳米乃至更先进节点生产。
50%待验证8×B200上DiffusionGemma 26B MoE + ORL在NVFP4精度下达到7,708 tokens/s(单请求解码)。
50%待验证LMSYS博客提到的RadixArk/Qwen3.8-Flash-Next-NVFP4是一个SGLang checkpoint,使用训练后量化,只量化路由专家,用128篇截断到512 tokens的CNN/DailyMail文章做校准,在GB300和B300上验证,报告B200 TP4加MTP时batch size 1达到540 tok/s。
50%待验证在 Kimi Linear、8 卡 B200 并发 8 的测试中,cached-prefix 吞吐提升约 10.9 倍
50%