StateFence
任务感知的LLM智能体防御框架,将关键输出视为受保护状态,按被攻击状态路由防御策略,用于抵御间接提示注入导致的证据链污染
时间轴 (近 90 天)
论文将一种失效模式命名为证据链污染(evidence-chain contamination of protected task state),其核心洞察是一个可疑字符串是否危险取决于任务本身。
StateFence 是一个任务感知的评估与防御框架,它将严重性标签、事件叙述、响应策略和IOC集合四类输出视为受保护状态。
StateFence 的防御不是全局启用的,而是根据被攻击的状态进行路由:攻击者试图篡改哪个状态,防御就在哪个状态上生效。
StateFence 将间接提示注入攻击映射为四种SOC证据攻击形态:显式攻击、隐蔽攻击、多跳攻击和持久化攻击。
论文在受控SOC案例和公开SOC验证案例上测试StateFence,结果显示该框架降低了攻击成功率并减少了依赖证据污染的失败类型,同时任务效用得到保留。
StateFence 论文的局限在于实验集中在SOC场景,其他领域的蓝队任务是否适用仍需验证;且多跳和持久化攻击的防御效果依赖于痕迹记录的完整性,实际部署中的开销和覆盖范围是后续需要关注的问题。
全部知识事实 (6)
论文将一种失效模式命名为证据链污染(evidence-chain contamination of protected task state),其核心洞察是一个可疑字符串是否危险取决于任务本身。
50%待验证StateFence 是一个任务感知的评估与防御框架,它将严重性标签、事件叙述、响应策略和IOC集合四类输出视为受保护状态。
50%待验证StateFence 的防御不是全局启用的,而是根据被攻击的状态进行路由:攻击者试图篡改哪个状态,防御就在哪个状态上生效。
50%待验证StateFence 将间接提示注入攻击映射为四种SOC证据攻击形态:显式攻击、隐蔽攻击、多跳攻击和持久化攻击。
50%待验证论文在受控SOC案例和公开SOC验证案例上测试StateFence,结果显示该框架降低了攻击成功率并减少了依赖证据污染的失败类型,同时任务效用得到保留。
50%待验证StateFence 论文的局限在于实验集中在SOC场景,其他领域的蓝队任务是否适用仍需验证;且多跳和持久化攻击的防御效果依赖于痕迹记录的完整性,实际部署中的开销和覆盖范围是后续需要关注的问题。
50%