待验证60% 置信权衡取舍精确时间

自我改进最大的风险来自奖励信号本身，若奖励定义不当Agent会优化评估指标而非真实目标（Goodhart's Law的强化学习版本）

2

来源数

60%

置信度

长期有效

时效性

2026/8/7

首次发现

来源

Prime Agent：基于RLM的自我进化智能体深度解析

相关事实

待验证奖励塑形能否生效取决于它是否改变了样本间的相对优势，而非绝对奖励值79% 相似待验证在强化学习中，奖励信号是设计者意图的代理指标，而非意图本身。78% 相似待验证在有客观成败标准的领域，把主观满意度当作优化目标是危险的，评估信号应贴近业务真值78% 相似待验证激励扭曲指个体激励与集体目标错位时，参与者会优化被奖励的指标而非真正有价值的目标。76% 相似待验证悬赏机制的核心结构性特征是风险转移：出资方只在成功时支付，失败成本由参与者承担75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/701165

API

curl https://kongchang.com/api/v1/knowledge/claims/701165

MCP

get_claim(id=701165)