概念目标错位 / 目标不一致
Misalignment
AI系统实际追求的目标与设计者或使用者本意发生偏离的现象,AI对齐研究的核心问题
时间轴 (近 90 天)
9月11日
失对齐(Misalignment)概念在 AI 安全领域由来已久,通常被放在超级智能或长期 AGI 风险的语境下讨论
待验证60%
AI系统实际追求的目标与设计者或使用者本意发生偏离的现象,AI对齐研究的核心问题
失对齐(Misalignment)概念在 AI 安全领域由来已久,通常被放在超级智能或长期 AGI 风险的语境下讨论