#奖励设计

有界奖励反成陷阱：强化学习中的Wireheading现象

强化学习中有界内在奖励可能被智能体通过廉价动作劫持，导致任务失败。实验显示PPO智能体放弃解谜，反复重置需求以获取满足感，且引入操作成本可有效缓解。研究强调奖励设计需防范自我满足路径。