待验证50% 置信事实精确时间

当新模型处于内部训练与红队测试阶段时，研究人员就已评估其推理能力、越狱风险、滥用场景及涌现行为

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

前沿AI实验室科学家：为何他们是风险预警的关键守门人

涉及实体

红队测试concept

相关事实

待验证成员推断攻击的基本思路源于Shokri等人2017年的工作，通过观察模型对特定样本的置信度或损失值判断该样本是否在训练集中79% 相似待验证灾难性风险团队的工作方法通常包括红队测试、能力评估和风险建模72% 相似待验证成员推断攻击通过分析模型对特定文本的困惑度差异，判断该文本是否曾出现在训练集中71% 相似待验证为应对测试环境应试化，研究者建议引入模型无法预知的隐藏测试、动态评估、活基准（live benchmark）等方法70% 相似已验证Red Teaming（红队测试）是大语言模型安全机制的核心技术之一，由专业安全团队在模型发布前模拟各种攻击场景进行压力测试70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/896870

API

curl https://kongchang.com/api/v1/knowledge/claims/896870

MCP

get_claim(id=896870)