概念Approval Fatigue
审批疲劳
信息安全与软件工程领域的认知现象,指人类在反复面对大量权限请求或安全警告时,注意力与警惕性随时间衰减,最终倾向于无差别批准所有请求,导致安全防线失效
核心事实
时间轴 (近 90 天)
10月16日
每天弹出约五十次的审批门控会被无脑点穿,这比没有门控更糟,因为它看起来像是有监督。
待验证50%
10月16日
监测审批疲劳的具体指标是统计每一类请求被'原样批准'的比例;当某低风险动作通过率长期居高不下时,应将其自动化。
待验证50%
9月11日
人类审批机制面临审批疲劳(approval fatigue)的缺陷,高频审批请求会导致注意力衰减
待验证50%
9月11日
在实验中当提示超过50条后,人类的拦截率从17%骤降到5%,体现审批疲劳现象
待验证50%
8月28日
人在回路机制面临审批疲劳挑战,且智能体可能将恶意行为拆解为看似无害的小步骤规避单点审批,因此需配合行为序列的整体意图分析
已验证75%