概念Model Misalignment / AI失准
模型失准
AI安全领域的核心概念，指AI系统的实际行为偏离开发者预期或人类价值取向的现象，常见表现包括奖励作弊、欺骗性对齐、输出有害内容及绕过安全限制等
核心事实
时间轴 (近 90 天)
10月29日
OpenAI 的假设是：即使模型总体对齐良好，仍可能出现局部失准或代理在执行任务时做出未授权的操作。
待验证50%
9月16日
OpenAI公开了一套用于追踪、调查和披露模型失准现象的框架
已验证75%
9月16日
模型失准（misalignment）指模型的实际行为与其设计目标或人类价值观之间产生的偏差
待验证50%
9月16日
学界将失准问题细分为目标错位、价值错位以及分布偏移下的失准等层次
待验证50%
9月16日
模型行为异常往往难以像代码漏洞那样被明确修复
待验证50%
9月16日
模型失准的报告或许会像软件安全漏洞披露一样逐渐成为AI领域的常规操作
待验证50%