待验证50% 置信事实精确时间
LIRA在二阶近似下估计近期LoRA因子移动所引起的局部损失扰动幅度,以此作为每层的得分。
1
来源数
50%
置信度
长期有效
时效性
2026/11/4
首次发现
来源
涉及实体
相关事实
待验证损失相关性指训练过程中两条损失曲线之间的皮尔逊相关系数,0.99 意味着在每个训练步上 NPU 侧损失值与 GPU 侧几乎同步起伏。67% 相似待验证GGA通过评估每个注意力头的候选量化残差对未来预测损失的梯度影响,在模型级混合精度预算下为不同头分配比特宽度。64% 相似待验证论文用于对比的 LoRA 基线采用 rank 19、660 万参数,纠错率达 83.3%,但出现了 30% 到 75% 的能力损失63% 相似待验证训练时的损失按token计算,长样本贡献的梯度远多于短样本,因此10%的行数比例完全可能对应50%以上的token量和梯度信号。61% 相似待验证随着模型规模增大,使用DA的准确率损失呈现缩小趋势60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1133707API
curl https://kongchang.com/api/v1/knowledge/claims/1133707MCP
get_claim(id=1133707)