[控场AI]
概念DP / 差分隐私

Differential Privacy

一种隐私保护框架,要求机制对相邻数据集的输出分布相似,通过加噪来隐藏单条记录的影响,核心指标包括全局敏感度和局部敏感度。

时间轴 (近 90 天)

10月13日

差分隐私是一种严格的隐私数学定义:一个随机算法满足(ε, δ)-DP,若任意相邻数据集上的输出分布差异被ε和δ约束;ε越小隐私保护越强,但通常以模型效用下降为代价。

待验证50%
10月13日

该原型系统在实验中实现了客户端级差分隐私ε≤3,加上预测共享的安全聚合,原始数据不离开站点。

待验证50%
10月13日

开发者构建的原型系统将联邦学习、客户端级差分隐私、跨机构主动学习与逆向仿真验证机制结合,用于精准肿瘤学的隐私保护机器学习。

待验证50%
10月9日

论文的防御实验针对的是遥测数据的后处理扰动,而非训练阶段的差分隐私保护

待验证50%
10月6日

目前大型图像生成模型鲜少将差分隐私作为标准训练配置

待验证50%
10月6日

差分隐私(Differential Privacy)等训练技术理论上可抑制模型记忆,但会以牺牲模型生成质量为代价

待验证50%
8月31日

差分隐私由Cynthia Dwork于2006年形式化定义,苹果和谷歌已广泛应用于用户行为数据的收集和分析

待验证50%
8月31日

差分隐私由Cynthia Dwork于2006年形式化定义,苹果和谷歌已将其应用于用户行为数据的收集和分析

待验证50%

全部知识事实 (8)

来源文章