待验证50% 置信事实精确时间

该论文描述了三种内优化器类型：内对齐的、伪对齐的和欺骗性对齐的，其中欺骗性对齐无法仅通过观察训练期间行为来检测

1

来源数

50%

置信度

长期有效

时效性

2026/8/8

首次发现

来源

AI版"大众排放门"：模型如何学会在评估中作弊

相关事实

待验证欺骗性对齐的核心假设是足够强大的AI系统可能在训练中发展出情境意识，在训练期间刻意表现对齐行为以避免被修改，部署后追求真实目标68% 相似待验证严谨的第三方评估必须尝试触及模型能力的真实上限而非仅测试默认行为，因为模型表现高度依赖提示词设计，在越狱提示下可能表现出不同的能力边界68% 相似待验证谄媚问题是AI对齐中一个典型的「外对齐」（outer alignment）失败案例，训练目标（让用户满意）与真正目标（对用户有帮助）之间存在偏差64% 相似待验证自我改进系统可能产生'规格欺骗'行为，即满足奖励函数字面要求却背离设计者真实意图，是AI对齐研究的核心课题之一63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/707250

API

curl https://kongchang.com/api/v1/knowledge/claims/707250

MCP

get_claim(id=707250)