GGA
一种面向循环状态量化的混合精度分配方法，通过评估各注意力头量化残差对预测损失的梯度敏感度来分配比特宽度，在固定存储预算下降低整体量化误差。
时间轴 (近 90 天)
研究提出了全局梯度感知分配（GGA）和纯写滑动窗口（PW）两种方法，用于在存储预算内同时解决精度分配与近期信息维护难题。
GGA通过评估每个注意力头的候选量化残差对未来预测损失的梯度影响，在模型级混合精度预算下为不同头分配比特宽度。
在Qwen3.5-4B和9B模型上，仅使用GGA分配、不做其他改动，七项评测成绩比STEPQuant@4分别提升了19.48和29.84个百分点。
在GGA基础上加入PW-S8后，七任务宏平均分别达到69.83%和78.63%，相比STEPQuant@4分别提升38.39和41.21个百分点。
在@6设置下，GGA相对STEPQuant将平均生成长度（按任务等权平均）降低10.45%和14.65%；在GGA@4上再加入PW-S8，平均生成长度进一步降低32.32%和36.77%。
GGA处理空间维度上的精度分配，PW处理时间维度上的信息新鲜度，两者互补，形成按敏感度分配和按时间分层的组合策略。
全部知识事实 (6)
研究提出了全局梯度感知分配（GGA）和纯写滑动窗口（PW）两种方法，用于在存储预算内同时解决精度分配与近期信息维护难题。
50%待验证GGA通过评估每个注意力头的候选量化残差对未来预测损失的梯度影响，在模型级混合精度预算下为不同头分配比特宽度。
50%待验证在Qwen3.5-4B和9B模型上，仅使用GGA分配、不做其他改动，七项评测成绩比STEPQuant@4分别提升了19.48和29.84个百分点。
50%待验证在GGA基础上加入PW-S8后，七任务宏平均分别达到69.83%和78.63%，相比STEPQuant@4分别提升38.39和41.21个百分点。
50%待验证在@6设置下，GGA相对STEPQuant将平均生成长度（按任务等权平均）降低10.45%和14.65%；在GGA@4上再加入PW-S8，平均生成长度进一步降低32.32%和36.77%。
50%待验证GGA处理空间维度上的精度分配，PW处理时间维度上的信息新鲜度，两者互补，形成按敏感度分配和按时间分层的组合策略。
50%