概念ASR / Attack Success Rate
攻击成功率
AI安全评估中衡量攻击成功比例的量化指标,定义为攻击成功样本数占总攻击样本数的比例,在提示注入评估中ASR越低通常被视为越安全
时间轴 (近 90 天)
11月3日
评估防御框架时需要同时报告攻击成功率与任务效用两组指标,仅看攻击成功率会掩盖“以牺牲检测能力换取安全”的代价。
待验证50%
10月20日
随机误差可以通过增加样本量平均掉,系统性偏差却会随样本量放大,导致攻击成功率被结构性高估或低估。
待验证50%
10月20日
攻击成功率不是目标模型的固有属性,而是目标模型与评分器的联合产物。
待验证50%