[控场AI]
概念动态量化

动态比特量化

一种模型量化技术,按层或按权重重要性自适应选择位宽,敏感层保留高精度、冗余层压缩更狠,在减小模型体积的同时尽量保持推理质量

来源文章