[控场AI]
概念3-bit quantization / 三位量化

3-bit 量化

使用 3 位位宽表示模型权重的量化方法,常见于 GPTQ、AWQ 等后训练量化,压缩率高但对模型行为扰动较大。

来源文章