待验证50% 置信基准精确时间

文章称IQ3_S档位通常能将准确率保留提升到90%以上、体积约13-15GB，Q4_K_M能保留95%以上准确率、体积约16-18GB

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/25

首次发现

有效期至：2026/11/23

来源

Unsloth量化实测：NVFP4提速1.5倍，动态GGUF压缩83.5%体积

涉及实体

IQ3_Stechnology Q4_K_Mtechnology

相关事实

待验证UD-Q4_K_XL量化版本体积155GB，Top-1精度为96%76% 相似待验证IQ4_XS量化文件大小15.57GB，pp2048为95.4 tok/s，tg128为10.9 tok/s75% 相似待验证Meta Llama 3的405B参数版本以BF16精度加载需约810GB内存，量化至INT4精度需约200GB75% 相似待验证Llama 3 70B量化版（Q4精度）仍需约35GB内存71% 相似待验证Gemma 3 12B的FP16版本约需24GB显存，Q4_K_M版本降至约7-8GB，推理速度提升约2-3倍，结构化输出准确率仅损失约2-5%70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/798072

API

curl https://kongchang.com/api/v1/knowledge/claims/798072

MCP

get_claim(id=798072)