待验证50% 置信基准精确时间
使用NVIDIA B300芯片在1兆瓦数据中心可实现约45万token/s总吞吐量,若每用户340 token/s则约1324个并发活跃用户
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/21
首次发现
有效期至:2026/10/19
来源
相关事实
待验证NVIDIA A100的显存带宽为2TB/s,加载280GB的FP32模型需要约140ms,仅权重加载就决定了每秒最多生成约7个token72% 相似待验证千兆网口(1GbE)实际读写上限约110MB/s,若NAS用于视频剪辑素材调用或多人并发,应选2.5GbE(约280MB/s)或万兆(10GbE)机型,否则网络成为瓶颈71% 相似待验证NVIDIA H100的HBM显存带宽约为3.35 TB/s,在自回归生成任务中利用率往往不足10%70% 相似待验证监控码流计算:单路1080P约4Mbps,4K约16Mbps,8路4K同时写入约需16MB/s,千兆网口(约110MB/s)完全够用,无需为监控存储单独升级2.5G网口70% 相似待验证千兆网口(1GbE)实际传输上限约110MB/s,机械硬盘足够跑满;若做4K视频剪辑或多人同时读写大文件,需选2.5GbE甚至万兆网口并搭配SSD缓存69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/580876API
curl https://kongchang.com/api/v1/knowledge/claims/580876MCP
get_claim(id=580876)