联邦学习

联邦学习让模型在数据本地完成训练更新，只上传梯度而非原始数据

联邦学习（Federated Learning）允许多个部门在不共享原始数据的条件下联合训练模型，各部门数据留存本地仅交换模型梯度

联邦学习由Google于2016年提出，让数据留在本地、仅上传模型梯度

DP-SGD是在随机梯度下降中实现差分隐私的机制，通过对逐样本梯度裁剪后再加高斯噪声实现。

联邦学习与本地推理等隐私保护技术允许模型在用户设备侧完成数据处理，避免原始个人数据上传至云端

联邦学习由Google于2016年提出，最初用于解决移动设备上的模型训练隐私问题

联邦学习面临通信效率低、数据异构性导致收敛困难、以及梯度泄露攻击等挑战

差分隐私通过向训练数据或模型输出添加数学校准的随机噪声，使攻击者无法从输出反推出任何单个用户的数据

Google已将联邦学习（Federated Learning）技术用于Gboard键盘预测

实践中常见的隐私缓解手段包括差分隐私、联邦学习、在受控环境内做聚合分析、以及将个体级数据留在本地仅上传统计量，这些机制会削弱细粒度观察的精度。

联邦学习通信开销大、工程复杂度高；差分隐私会牺牲一定的模型精度。

联邦学习中的异质性指各客户端本地数据分布与全局分布的偏离程度，常用Dirichlet分布参数、标签分布散度（如KL散度）或客户端间特征距离来量化。

异质性越高，联邦聚合得到的全局模型越难在各客户端上保持一致行为，梯度方向也更不一致，这是解释图可能失真的潜在机制。

在极端异质性环境下，应谨慎依赖联邦模型的解释输出，因为解释可能误导分析师对检测依据的判断。

联邦训练与解释质量的关系呈现非单调性：在数据分布接近IID或中等异质性时，联邦模型解释忠实度可与中心化基线持平甚至更高；但在极端异质性下，解释会彻底崩溃。

该研究提供了实践指南：评估客户端异质性水平、在部署前进行解释忠实度验证、以及建立持续监控机制。

联邦学习本身不必然损害解释质量，但数据分布差异是核心风险因素。

解释质量的退化被识别为一种阈值效应，与客户端异质性强度紧密相关，存在一个临界点，越过之后解释不再可信。

联邦学习中，安全聚合允许服务器计算N个客户端本地模型更新的总和而不泄露任何单个客户端的更新信息（超出总和的部分）。

在联邦学习和异步分布式优化中，梯度信息可能稀疏或延迟，此时除了关注偏差，还需严格评估反馈频率对稳定性的影响。