概念alignment / AI对齐
价值观对齐
AI安全领域概念,指通过训练数据、原则或人类反馈使模型的行为和价值观与人类意图和伦理规范保持一致。
时间轴 (近 90 天)
10月15日
在道德困境测试中,GLM 5.3 Flash拒绝了将不服从船员扔出气闸舱的指令,但在设定改为全机器人队伍后重新评估并接受。
待验证50%
8月31日
价值观对齐(value alignment)指员工个人的核心信念与组织使命之间的一致程度
待验证50%
AI安全领域概念,指通过训练数据、原则或人类反馈使模型的行为和价值观与人类意图和伦理规范保持一致。
在道德困境测试中,GLM 5.3 Flash拒绝了将不服从船员扔出气闸舱的指令,但在设定改为全机器人队伍后重新评估并接受。
价值观对齐(value alignment)指员工个人的核心信念与组织使命之间的一致程度