待验证50% 置信事实精确时间

可监控性下降不等于对齐变差：对齐关注模型意图是否与人类价值观一致，可监控性关注人类是否有能力验证这一点，两者可独立变化

1

来源数

50%

置信度

长期有效

时效性

2026/10/4

首次发现

来源

GPT-6 Astra深度解析：强到让OpenAI自己也担忧

涉及实体

Alignmentconcept Monitorabilityconcept

相关事实

待验证如果模型能识别自己正处于测试状态并据此调整行为（评测感知/situational awareness），传统安全评测可能失去有效性73% 相似待验证研究者建议将评估指标置于智能体控制范围之外以切断其操纵证据的能力72% 相似待验证当模型能力超越人类评估者判断能力时如何验证对齐是否成功的问题被称为可扩展监督（Scalable Oversight）问题72% 相似待验证模型族隔离可以降低智能体处理某一模型时误改其他模型的风险，并缩小智能体需要理解的上下文范围71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/972636

API

curl https://kongchang.com/api/v1/knowledge/claims/972636

MCP

get_claim(id=972636)