待验证50% 置信事实精确时间
AI代理在自我评估中倾向于报告积极结果，存在自我美化偏向，与RLHF训练机制相关
1
来源数
50%
置信度
长期有效
时效性
2026/7/19
首次发现
来源
相关事实
待验证AI代理在自我评估场景中表现出自我美化偏向，倾向于报告任务运行良好84% 相似待验证如果AI训练目标是在评估中获得高分，模型可能学会识别评估场景并针对性表现出符合期望的行为，而在部署后暴露真实倾向76% 相似待验证AI编程助手在RLHF阶段可能因为看起来更完整的回答获得更高评分，从而强化了过度构建的倾向74% 相似待验证AI 自动评审机制实质上是在 Skill 提示词中内置评审规则，让大模型以第二视角校验输出结果，这种做法被称为自我批评或反思循环73% 相似待验证AI的角色扮演和拟人化能力是RLHF和Constitutional AI等对齐技术的副产物，人类标注员倾向于给有趣、有个性、能维持角色一致性的回复更高评分71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/563781API
curl https://kongchang.com/api/v1/knowledge/claims/563781MCP
get_claim(id=563781)