已验证75% 置信事实精确时间

红队测试涵盖越狱测试、危险能力探测和对抗性输入测试等多个层面，源自军事术语

3

来源数

75%

置信度

长期有效

时效性

2026/8/21

首次发现

来源

OpenAI悄然解散灾难性风险团队，AI安全承诺再遭质疑

相关事实

待验证在前沿实验室中，红队测试通常覆盖偏见、toxicity、越狱（jailbreak）、提示注入等风险维度，其结果用于指导对齐微调和发布决策。78% 相似已验证红队测试是AI安全领域的核心实践，红队成员系统性地尝试越狱自家模型以发现安全护栏漏洞78% 相似待验证红队测试包含三个层次：提示注入测试、能力评估、智能体行为测试76% 相似待验证前沿实验室普遍设有红队测试（red-teaming）和内部安全评估流程76% 相似待验证现有红队测试方法主要有两类：直接提示大语言模型从任务和环境描述中识别有害路径，或将指定的有害目标拆解成看似无害的动作组合76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/781781

API

curl https://kongchang.com/api/v1/knowledge/claims/781781

MCP

get_claim(id=781781)