已验证65% 置信基准精确时间
Q4_K_M 在困惑度上比纯 Q4 低约 0.1–0.3
3
来源数
65%
置信度
长期有效
时效性
2026/7/14
首次发现
来源
相关事实
待验证GGUF格式的Q4_K_M是最主流的平衡选择，困惑度损失通常低于1%；Q8_0几乎无精度损失但文件体积是Q4的两倍81% 相似待验证Q4_K_M通常被认为是肉眼难以区分差异的最低实用量化档77% 相似待验证q4_0使用对称量化（零点固定为0），q4_1使用非对称量化（零点可浮动），后者在数值分布不对称时更精确但需额外存储零点参数76% 相似待验证在 Qwen3-0.6B 的 BF16 与 Q4_K_M 对比中，Q4_K_M 在 11.6% 的位置改变了 top-1 token，平均 KL 散度为 0.067，困惑度从 7.83 升至 8.53。74% 相似待验证Q4_K_M采用分组量化策略，将权重张量划分为64或256维子块并独立计算缩放因子与零点，能将困惑度损失控制在1–3%以内73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/504275API
curl https://kongchang.com/api/v1/knowledge/claims/504275MCP
get_claim(id=504275)