待验证60% 置信事实精确时间
IQ4_XS是llama.cpp生态中的一种非均匀4-bit量化格式，在量化块内使用更精细的缩放因子分配策略
2
来源数
60%
置信度
长期有效
时效性
2026/9/18
首次发现
来源
涉及实体
相关事实
已验证IQ系列是llama.cpp中针对极低比特率（2-3 bit）场景的量化方案，引入了基于重要性矩阵的非均匀量化网格、向量量化和更精细的超块结构79% 相似待验证IQ1_M 是 llama.cpp 系列中一种约 1 bit 级的极限量化格式（M 表示混合精度），专为在有限显存中塞下大参数模型而设计，代价是输出质量下降和循环风险。69% 相似待验证IQ3 属于 GGUF 格式下的非均匀量化方案，由 llama.cpp 社区发展而来，相较于早期 Q3_K 等均匀量化方式在同等压缩比下能更好保留关键权重68% 相似待验证Q4_K_M是llama.cpp项目引入的一种混合量化策略，对更敏感的层保留较高精度，对其余层使用更激进的压缩68% 相似待验证Q4_K_M 是 llama.cpp 生态中的混合量化格式，对精度敏感的层保留较高精度，其余层使用 4-bit，是社区最常见的量化发布格式之一68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/932906API
curl https://kongchang.com/api/v1/knowledge/claims/932906MCP
get_claim(id=932906)