概念Automated Red Teaming / 自动化红队测试

自动化红队

使用语言模型驱动的AI智能体代替人工攻击者执行对抗性安全评估的技术方法，可大规模、自动化地探索AI模型的安全漏洞与失控边界

时间轴 (近 90 天)

11月4日

相比依赖少数专家手工构造红队样本，自动化红队模式在覆盖面和迭代速度上都有数量级的提升空间。

待验证50%

9月30日

自动化红队使用语言模型驱动的审计智能体代替人工攻击者，可以在无人监督下大规模、重复地探索模型行为空间

待验证50%

自动化红队使用语言模型驱动的审计智能体代替人工攻击者，可以在无人监督下大规模、重复地探索模型行为空间

相比依赖少数专家手工构造红队样本，自动化红队模式在覆盖面和迭代速度上都有数量级的提升空间。