概念过度代理权
Excessive Agency
AI Agent安全风险,指Agent拥有超出必要范围的权限,如无白名单shell执行、无路径校验文件访问、未经人类批准的操作
时间轴 (近 90 天)
10月22日
OWASP LLM 风险清单中包含过度代理权限(Excessive Agency)风险,即模型被赋予过多自主决策与执行能力而缺乏人类监督。
待验证50%
10月10日
过度代理指Agent被赋予超出完成任务所需的权限、能力或自主度,导致意外或有害的副作用
待验证50%
AI Agent安全风险,指Agent拥有超出必要范围的权限,如无白名单shell执行、无路径校验文件访问、未经人类批准的操作
OWASP LLM 风险清单中包含过度代理权限(Excessive Agency)风险,即模型被赋予过多自主决策与执行能力而缺乏人类监督。
过度代理指Agent被赋予超出完成任务所需的权限、能力或自主度,导致意外或有害的副作用