待验证50% 置信事实精确时间
428B 稠密模型每 token 前向传播约需 856 TFLOPs，而 M3 仅需约 46 TFLOPs，计算量降低约 18 倍
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/21
首次发现
有效期至：2026/10/19
来源
相关事实
待验证RTX 5090上Qwen3.6 27B模型预填充速度从174提升到253 token/s，显存占用约18GB68% 相似待验证在显存充足、模型完整驻留GPU时，RTX 4090跑Q4量化的27B模型通常可达15～30 tokens/s；触发CPU卸载后速度可能骤降至1～2 tokens/s甚至更低68% 相似待验证英伟达A100单卡算力约312 TFLOPS（FP16）67% 相似待验证Meta的Llama 3.1 70B参数模型以FP16加载约需140GB，405B参数模型以FP16加载约需810GB，INT4量化后约202GB66% 相似待验证量化后70亿参数模型的显存需求从约28GB压缩至约4-6GB，普通消费级显卡如RTX 3060/4060即可流畅运行Llama 3、Qwen2.5、Mistral等70亿参数级别模型65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/581913API
curl https://kongchang.com/api/v1/knowledge/claims/581913MCP
get_claim(id=581913)