待验证60% 置信事实精确时间

FP4/INT4量化下模型体积约为FP16的四分之一

2

来源数

60%

置信度

长期有效

时效性

2026/9/29

首次发现

来源

英伟达Jetson本地跑Qwen3 27B：NVFP4+投机解码实测解析

涉及实体

FP4technology INT4technology FP16technology

相关事实

待验证INT4量化将原本由65536个不同值（FP16）表示的权重压缩到仅16个离散级别79% 相似已验证FP32每个参数占4字节，FP16/BF16占2字节，INT8量化占1字节，INT4量化占0.5字节78% 相似待验证W4A4量化将权重和激活值均压缩至4位整数，理论上相比FP16可将显存占用降低至约1/477% 相似待验证经过精心量化的4-bit模型与FP16原始模型之间的性能差距通常在1-3个百分点以内75% 相似待验证FP4格式仅有4位（1位符号、2位指数、1位尾数），仅能精确表示约16个离散值75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/957937

API

curl https://kongchang.com/api/v1/knowledge/claims/957937

MCP

get_claim(id=957937)