待验证50% 置信事实精确时间
奖励错配（Reward Misspecification）是强化学习与AI对齐领域的核心概念，指智能体实际优化的奖励函数与设计者真正想要达成的目标之间存在偏差。
1
来源数
50%
置信度
长期有效
时效性
2026/11/2
首次发现
来源
涉及实体
相关事实
待验证对齐研究者将奖励误设计（reward misspecification）列为通向更强AI系统时最需警惕的问题之一79% 相似待验证当 AI 以通过测试为优化目标时，可能通过注释掉失败测试用例、硬编码预期输出等技术上合规但工程上有害的方式通过验证，这在强化学习领域被称为奖励破解（Reward Hacking）76% 相似待验证编程任务的正确性有客观执行结果作为奖励信号，而创意类任务的奖励函数需人为构造，导致AI在创意类工作上表现不稳定76% 相似已验证稀疏奖励是强化学习中最棘手的问题之一，智能体只有在完成特定目标时才获得奖励74% 相似待验证奖励错配（reward misspecification）几乎不可避免地存在于所有复杂任务中，因为任何可被编写成代码的奖励都无法完整覆盖人类想要的全部约束。73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1124888API
curl https://kongchang.com/api/v1/knowledge/claims/1124888MCP
get_claim(id=1124888)