IQ3_XXS
llama.cpp生态中重要性感知量化系列的早期方案，使用约3比特存储权重，分组策略较IQ3_S更粗糙，量化精度低于IQ3_S
核心事实
时间轴 (近 90 天)
IQ3_XXS 是 llama.cpp 体系中一种极度激进的非均匀整数量化格式，平均约 3 bits 精度，采用 importance matrix 引导的非均匀量化
激进量化在结构化输出任务上相对鲁棒，在开放式语言生成任务上更脆弱
UP主使用 Cherry Studio 测试 IQ3_XXS 量化版，在场景生成任务上表现尚可，认为能力够用可作本地主力配合 Agent
Q4 代表用4位整数存储每个权重，相比原始16位浮点数体积缩减约75%
IQ3_S模型体积比IQ3_XXS大了约7GB，生成速度略慢
IQ3_S相较于更早的IQ3_XXS版本综合表现有明显提升
IQ3_S和IQ3_XXS同属3-bit量化，但IQ3_S保留了更多关键权重精度，在多语言任务尤其非英语场景中通常表现更稳定，代价是文件略大
IQ3_XXS社区反馈中文表现有损失
全部知识事实 (8)
Q4 代表用4位整数存储每个权重，相比原始16位浮点数体积缩减约75%
70%待验证激进量化在结构化输出任务上相对鲁棒，在开放式语言生成任务上更脆弱
50%待验证IQ3_XXS 是 llama.cpp 体系中一种极度激进的非均匀整数量化格式，平均约 3 bits 精度，采用 importance matrix 引导的非均匀量化
50%待验证UP主使用 Cherry Studio 测试 IQ3_XXS 量化版，在场景生成任务上表现尚可，认为能力够用可作本地主力配合 Agent
50%待验证IQ3_S相较于更早的IQ3_XXS版本综合表现有明显提升
50%待验证IQ3_S模型体积比IQ3_XXS大了约7GB，生成速度略慢
50%待验证IQ3_XXS社区反馈中文表现有损失
50%待验证IQ3_S和IQ3_XXS同属3-bit量化，但IQ3_S保留了更多关键权重精度，在多语言任务尤其非英语场景中通常表现更稳定，代价是文件略大
50%