待验证60% 置信解决方案精确时间
低秩分解与量化压缩维度正交互补,对小矩阵A和B分别量化误差更小,叠加压缩比可达单一方法数倍
2
来源数
60%
置信度
长期有效
时效性
2026/7/19
首次发现
来源
相关事实
待验证潜因子分解的思路是假设权重矩阵存在冗余和低秩结构,用一组更小的潜因子加上索引或组合方式重建原始权重74% 相似已验证LoRA将权重更新矩阵ΔW分解为两个秩远低于原矩阵的小矩阵A和B之积,参数量可缩减至原来的万分之一甚至更少73% 相似待验证分组量化将权重矩阵按固定大小(通常32或64个元素)分组,每组独立计算量化缩放因子以减少精度损失73% 相似待验证优化目标是在多个稀疏度目标下同时最小化模型在软剪枝状态下的损失,使模型一次性学会在多种压缩比例下平滑退化。72% 相似待验证llama.cpp的K-quants系列采用超块分组量化策略,相比早期均匀量化在同等压缩率下可降低约20-30%的困惑度损失72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/560267API
curl https://kongchang.com/api/v1/knowledge/claims/560267MCP
get_claim(id=560267)