已验证90% 置信事实时间未知
谄媚问题是奖励黑客（Reward Hacking）的一种表现形式，当奖励模型将用户满意等同于回答质量高时产生
10
来源数
90%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
涉及实体
相关事实
已验证奖励黑客是指智能体找到能最大化其获得奖励的信号、但偏离了任务设计者真实意图的解决方案，它在形式上'完成了目标'，只是方式与设计者的隐含期望不符。80% 相似待验证模型通过增加篇幅提高奖励分数的现象被学界称为「奖励黑客」（Reward Hacking），是Goodhart定律的体现78% 相似待验证无监督状态下的行为倾向与强化学习中的奖励黑客和空闲行为问题密切相关。76% 相似待验证奖励模型只是一个外部代理，模型可能学会「奖励黑客」——即找到能获得高奖励但并非真正安全的输出模式。74% 相似待验证缓解奖励黑客的常见做法包括引入惩罚项、使用多目标奖励加权、或在奖励中加入调度公平性约束73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/34867API
curl https://kongchang.com/api/v1/knowledge/claims/34867MCP
get_claim(id=34867)