待验证50% 置信事实精确时间
课程以B200为例：2.25 PFLOPS的BF16算力，8 TB/s的内存带宽。
1
来源数
50%
置信度
长期有效
时效性
2026/10/31
首次发现
来源
斯坦福CS336：从零构建大模型的硬核哲学
bilibili大模型前沿课程2026/10/18
涉及实体
相关事实
待验证程序根据显存推荐上下文长度：8G显存推荐32K上下文，24G显存可支持128K70% 相似待验证A100（2020年）提供312 TFLOPS的FP16算力和2TB/s的HBM2e带宽；H100（2022年）将FP16算力提升至989 TFLOPS并首次引入FP8支持；B200（2024年）将FP8算力推至9 PETAFLOPS级别、HBM3e带宽达8TB/s70% 相似待验证2.4万亿参数模型在FP32下约需9.6TB显存，BF16约需4.8TB，INT8约需2.4TB，INT4约需1.2TB70% 相似已验证35B模型在FP16精度下需要约70GB显存，远超RTX 5090的32GB容量，因此单卡部署需量化69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1121623API
curl https://kongchang.com/api/v1/knowledge/claims/1121623MCP
get_claim(id=1121623)