部分验证75% 置信事实精确时间
NVFP4 每个参数占 4 位，即 0.5 字节，理论上权重显存占用和加载带宽相比 FP8 减半。
3
来源数
75%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
涉及实体
相关事实
待验证FP16格式下每个参数占2字节，INT4格式仅占0.5字节，理论上可实现4倍压缩比78% 相似待验证NVFP4实际约为3.75bit，并非严格意义上的4bit量化75% 相似待验证以Q4_0格式为例，每32个FP32权重被打包为一个量化块，包含一个缩放因子和32个4bit整数，平均每参数约占4.5bit，内存占用缩减至原来的约1/874% 相似待验证FP8相比FP16减少一半内存占用和带宽消耗，且AIC对FP8的计算吞吐可达FP16的两倍72% 相似待验证BitNet 1.58b量化在PCEI的24层网络中使用三值权重{-1, 0, +1}，相比FP16精度参数内存降低约4倍，推理时可用整数加法替代浮点乘法。70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1032580API
curl https://kongchang.com/api/v1/knowledge/claims/1032580MCP
get_claim(id=1032580)