[控场AI]
概念Lethal Trifecta

致命三要素

由安全研究者Simon Willison提出的AI智能体安全风险模型,指当智能体同时具备访问私有数据、接触不可信文本、具备对外发送数据途径三项能力时,极易被提示词注入攻击利用而造成数据泄露

核心事实

时间轴 (近 90 天)

11月3日

业界常把「访问私有数据、接触不可信内容、具备对外通信能力」三者同时具备的危险组合称为「致命三要素(lethal trifecta)」,此时Agent成为高价值攻击目标。

待验证50%
10月31日

Agent安全领域尚未解决的关键问题包括:溯源标签如何在多Agent协作中传递、使用外部模型API时标签能否保持完整、致命三要素的检测能否自动化。

待验证50%
10月31日

当致命三要素同时存在时,攻击链形成:恶意输入触发Agent读取敏感数据,再通过看似合法的工具调用把数据外泄。

待验证50%
10月31日

致命三要素指的是三个条件同时满足时Agent系统会变得极度脆弱:访问敏感数据的能力、处理不可信输入的能力、对外执行动作的能力。

待验证50%
10月26日

函数近似误差可能导致算法不稳定甚至发散,当函数逼近、自举和离策略学习同时出现时风险最高(“致命三要素”)。

待验证50%
10月17日

Simon Willison推广的“致命三要素”指出:当Agent同时具备可访问私有数据、暴露于不可信内容、拥有对外通信通道三者时,就可能被骗走数据。

部分验证65%
10月11日

安全的'致命三要素'是:访问私有数据、暴露于不可信token、以及存在数据外泄通道

待验证50%
10月8日

若需三项能力全开,应拆分智能体:用隔离的、不带任何工具的模型处理不可信文本,具备权限的智能体永远看不到这些文本

待验证50%
10月8日

可靠的防御应是结构性的,即砍掉致命三要素中的一条腿;Willison认为数据外泄路径是最容易移除的一条腿

待验证50%
10月8日

访问私有数据、接触不可信文本、对外发送数据途径三者单独存在都安全,组合在一起才构成漏洞

待验证50%

还有 2 条时间轴事件

全部知识事实 (12)

已验证

安全研究者Simon Willison将同时具备访问私有数据、接触不可信文本、对外发送数据途径三项能力的风险模式命名为“致命三要素”(lethal trifecta)

65%
部分验证

Simon Willison推广的“致命三要素”指出:当Agent同时具备可访问私有数据、暴露于不可信内容、拥有对外通信通道三者时,就可能被骗走数据。

65%
待验证

业界常把「访问私有数据、接触不可信内容、具备对外通信能力」三者同时具备的危险组合称为「致命三要素(lethal trifecta)」,此时Agent成为高价值攻击目标。

50%
待验证

致命三要素指的是三个条件同时满足时Agent系统会变得极度脆弱:访问敏感数据的能力、处理不可信输入的能力、对外执行动作的能力。

50%
待验证

当致命三要素同时存在时,攻击链形成:恶意输入触发Agent读取敏感数据,再通过看似合法的工具调用把数据外泄。

50%
待验证

Agent安全领域尚未解决的关键问题包括:溯源标签如何在多Agent协作中传递、使用外部模型API时标签能否保持完整、致命三要素的检测能否自动化。

50%
待验证

函数近似误差可能导致算法不稳定甚至发散,当函数逼近、自举和离策略学习同时出现时风险最高(“致命三要素”)。

50%
待验证

安全的'致命三要素'是:访问私有数据、暴露于不可信token、以及存在数据外泄通道

50%
待验证

可靠的防御应是结构性的,即砍掉致命三要素中的一条腿;Willison认为数据外泄路径是最容易移除的一条腿

50%
待验证

若需三项能力全开,应拆分智能体:用隔离的、不带任何工具的模型处理不可信文本,具备权限的智能体永远看不到这些文本

50%
待验证

访问私有数据、接触不可信文本、对外发送数据途径三者单独存在都安全,组合在一起才构成漏洞

50%
待验证

Simon Willison将提示注入风险根源概括为「致命三要素」:私有数据、不可信内容、对外通信,三者凑齐就会出事,破解之道是去掉其中一条

50%

来源文章