IMatrix

IMatrix（重要性矩阵）是一种用于大语言模型量化的校准技术，通过分析模型各层在实际数据上的激活重要性，为不同层分配差异化的量化精度，使关键层保留更高精度、次要层使用更低精度，从而在压缩模型体积的同时尽可能减少精度损失，常用于GGUF格式的量化流程中。