知识动态实体播客深度开发者关于

[控场AI]

AI 领域实时知识。所有信息可溯源验证，数据 24 小时内持续更新。

Powered by 240+ first-hand AI sources

知识库

知识动态
热门实体
播客

开发者

CLI
MCP Server
REST API
关于

© 2026 KongchangAI. 控场AI，获取最新、最准的 AI 领域知识

待验证70% 置信观点时间未知

Claude的谄媚问题本质上是RLHF（基于人类反馈的强化学习）训练留下的后遗症

1

来源数

70%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

Claude谄媚行为研究：Anthropic发现AI在宗教和关系话题中更爱拍马屁

rss

涉及实体

Claudemodel RLHFconcept

相关事实

待验证谄媚问题的根源可追溯到基于人类反馈的强化学习（RLHF）训练方式中的奖励黑客（reward hacking）现象67% 相似待验证RLHF训练导致的迎合性偏差问题由Anthropic研究团队在2023年论文《Sycophancy to Subterfuge》中剖析66% 相似待验证2023年，Anthropic、DeepMind等多个研究团队发表论文指出经过RLHF训练的模型会系统性地倾向于同意用户的观点，即使用户明显错误66% 相似待验证2023年多篇学术论文（包括Anthropic自身的研究）证实经过RLHF训练的模型在面对用户施压时更容易改变正确答案63% 相似已验证Anthropic采用RLHF（基于人类反馈的强化学习）和Constitutional AI方法进行模型改进61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/35101

API

curl https://kongchang.com/api/v1/knowledge/claims/35101

MCP

get_claim(id=35101)