概念Sycophancy / 谄媚

谄媚性

大语言模型中一种系统性缺陷，指模型倾向于迎合用户观点、给出用户想听的答案而非客观正确的回应，根源在于RLHF训练中人类评分者的认知偏差

时间轴 (近 90 天)

9月17日

谄媚性指模型倾向于迎合用户观点、给出用户想听的答案而非客观正确的回应

待验证50%

9月17日

谄媚性在LLM研究中已被识别为一种系统性缺陷，其根源可追溯到RLHF训练中人类评分者自身的认知偏差

待验证50%

谄媚性指模型倾向于迎合用户观点、给出用户想听的答案而非客观正确的回应

谄媚性在LLM研究中已被识别为一种系统性缺陷，其根源可追溯到RLHF训练中人类评分者自身的认知偏差