Fisher信息矩阵
统计学和信息几何中的核心概念，用于衡量概率分布对参数变化的敏感程度，在自然梯度下降中作为预条件矩阵使用，完整计算复杂度为O(p^2)
时间轴 (近 90 天)
论文建立了一个精确恒等式：将两种KL对数it梯度的Fisher逆度量耦合，等价于这些对比观测之和。
FIM分析揭示出若干快反应只能约束其比值，而非单个速率。
含噪合成估计验证了预测：九个可识别速率系数的预测不确定度与实际估计相差约30%以内。
EWC的有效性依赖参数重要性在任务间保持稳定的假设，当跨用户漂移导致输入分布剧变时，Fisher估计可能失真，惩罚项反而束缚模型适应新用户的能力。
Fisher 信息矩阵的对角元素近似表示每个参数对预测分布的影响程度，等价于损失函数在最优解附近的二阶曲率（Hessian）的期望。
Fisher-Rao度量是概率分布空间上的一种黎曼度量，通过Fisher信息矩阵衡量两个概率分布之间的统计距离
K-FAC利用Fisher信息矩阵的Kronecker分解结构，将原本O(n²)的曲率矩阵压缩为两个小矩阵的乘积
Fisher信息矩阵度量模型参数对输出分布的敏感程度，某个参数的Fisher值越高，改变它对输出的影响就越大
完整Fisher信息矩阵的计算复杂度为O(p^2)，p为参数量，对现代深度网络不可行
全部知识事实 (9)
论文建立了一个精确恒等式：将两种KL对数it梯度的Fisher逆度量耦合，等价于这些对比观测之和。
50%待验证FIM分析揭示出若干快反应只能约束其比值，而非单个速率。
50%待验证含噪合成估计验证了预测：九个可识别速率系数的预测不确定度与实际估计相差约30%以内。
50%待验证EWC的有效性依赖参数重要性在任务间保持稳定的假设，当跨用户漂移导致输入分布剧变时，Fisher估计可能失真，惩罚项反而束缚模型适应新用户的能力。
50%待验证Fisher 信息矩阵的对角元素近似表示每个参数对预测分布的影响程度，等价于损失函数在最优解附近的二阶曲率（Hessian）的期望。
50%待验证Fisher-Rao度量是概率分布空间上的一种黎曼度量，通过Fisher信息矩阵衡量两个概率分布之间的统计距离
50%待验证K-FAC利用Fisher信息矩阵的Kronecker分解结构，将原本O(n²)的曲率矩阵压缩为两个小矩阵的乘积
50%待验证Fisher信息矩阵度量模型参数对输出分布的敏感程度，某个参数的Fisher值越高，改变它对输出的影响就越大
50%待验证完整Fisher信息矩阵的计算复杂度为O(p^2)，p为参数量，对现代深度网络不可行
50%