待验证50% 置信事实精确时间
以FP16半精度计算，RTX 4090理论算力约为330 TFLOPS，M2 Ultra的GPU算力约为27.2 TFLOPS
1
来源数
50%
置信度
长期有效
时效性
2026/8/30
首次发现
来源
涉及实体
相关事实
待验证RTX 4090算力约165 TFLOPS，而单路推理实际只需约54 TFLOPS，算力严重过剩80% 相似已验证RTX 4090的理论FP16算力为82.6 TFLOPS，显存带宽为1008 GB/s78% 相似待验证TPU v4单芯片峰值算力约275 TFLOPS（BF16精度），TPU v4-32 pod由32个芯片通过ICI高速互联组成，总算力约8800 TFLOPS78% 相似待验证将模型权重从FP16压缩到INT8或INT4的量化技术，可使消费级GPU如RTX 4090在本地部署时达到30-80 TPS的实用速度77% 相似待验证NVIDIA A100的理论FP16峰值算力约为312 TFLOPS，但朴素LLM推理场景下GPU利用率常不足30%76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/824246API
curl https://kongchang.com/api/v1/knowledge/claims/824246MCP
get_claim(id=824246)