论文KVQuant
KVQuant
面向自回归LLM的KV cache量化方法，引入敏感度加权的非均匀量化、离群值处理和校准数据以减少低比特精度损失
时间轴 (近 90 天)
10月30日
KVQuant 引入敏感度加权的非均匀量化、离群值处理和校准数据，以减少低比特下的精度损失。
待验证50%
10月30日
作者将 KIVI 和 KVQuant 适配到 Fast-dLLM 风格的 prefix 缓存和 dual 缓存复用场景，并提出了 TRACE 和 dLLM-KVQ 两种新方法。
待验证50%
9月26日
KIVI提出对KV Cache做逐通道的2比特量化并保留少量异常值通道全精度存储，KVQuant把支持的上下文窗口推到千万Token量级
待验证50%