待验证70% 置信基准精确时间
将 INT4 权重重新量化为 NF4 会使每个权重经历两次舍入，官方测得这会让 Qwen3-8B 的困惑度上升 1.6%
2
来源数
70%
置信度
长期有效
时效性
2026/10/1
首次发现
来源
涉及实体
相关事实
待验证研究者的参考运行使用4-bit NF4量化，因此无法判断在读数与精度都匹配的条件下已报告的增益还能保留多少。70% 相似待验证Q4是4位量化，IQ3是3位重要性感知量化，Qwen3 27B在IQ3下体积约11-12GB、Q4约15-16GB70% 相似待验证三级缓存使Q4权重下生成速度从每秒1.83个token提升到8.89个，提升接近5倍69% 相似待验证在 Qwen3.6-35B-A3B 上以 50% 专家剪枝比例运行时，SlimWise 将解码吞吐提升到最高 1.81 倍，且准确率损失极小。67% 相似待验证在259k吞吐量下Qwen3.5速度提升约19倍，其中混合注意力贡献约5倍、MoE稀疏化约2倍、多Token预测约1.5倍67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/964985API
curl https://kongchang.com/api/v1/knowledge/claims/964985MCP
get_claim(id=964985)