概念Ternary Quantization / 三值量化
三元量化
一种极端的神经网络模型压缩技术,将模型权重限制在-1、0、+1三个离散值上,每个权重理论上仅需约1.58比特存储,相比FP16可实现10倍以上压缩比,但精度控制难度高,通常需要量化感知训练等补偿技术
时间轴 (近 90 天)
9月18日
三元量化将神经网络权重限制在三个离散值(通常为 -1、0、+1)上,每个权重理论上只需约 1.58 比特存储
待验证50%
9月18日
极端量化在换来体积优势的同时,可能以更长的推理时间为代价
待验证50%
9月16日
三元量化中矩阵乘法可以退化为加减法,理论上可完全绕开乘法器
待验证50%