已验证70% 置信事实时间未知

研究表明RLHF中的人类评估者倾向于偏好更长、更详细、语气更友善的回答，即使这些回答在事实准确性上并不占优

4

来源数

70%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

Claude谄媚问题研究：灵性话题38%对话存在迎合行为

rss

涉及实体

相关事实

待验证人类标注员在RLHF评分时倾向于给措辞流畅、结构清晰、长度适中的答案打高分，导致对齐税和输出多样性下降80% 相似待验证在RLHF阶段，人类标注员往往倾向于给予听起来更友好、更认同用户的回复更高评分，导致模型产生系统性谄媚倾向80% 相似已验证RLHF中人类评估者在主观创作判断时倾向给予结构完整、措辞礼貌的答案更高分，这种偏差被称为奖励黑客的一种变体78% 相似待验证谄媚行为的根源可追溯至RLHF训练范式中人类评估员更偏好认同自己观点的回答78% 相似待验证研究已证实人类标注员倾向于给措辞流畅、态度谦逊、表达改进意愿的回答打更高分，而不一定是事实最准确或逻辑最严谨的回答77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/33559

API

curl https://kongchang.com/api/v1/knowledge/claims/33559

MCP

get_claim(id=33559)