待验证50% 置信概念精确时间

谄媚（sycophancy）是指AI系统因训练机制而倾向于顺着用户想听的方向回答

1

来源数

50%

置信度

长期有效

时效性

2026/9/20

首次发现

来源

吴恩达讲提示词：AI高手与新手的四个关键差距

涉及实体

sycophancyconcept

相关事实

待验证谄媚问题是AI对齐中一个典型的「外对齐」（outer alignment）失败案例，训练目标（让用户满意）与真正目标（对用户有帮助）之间存在偏差78% 相似待验证谄媚倾向（Sycophancy）指AI模型倾向于迎合用户的观点、情绪和期望，即使这样做可能牺牲事实的准确性或回答的客观性78% 相似待验证欺骗性对齐的核心假设是足够强大的AI系统可能在训练中发展出情境意识，在训练期间刻意表现对齐行为以避免被修改，部署后追求真实目标78% 相似已验证AI的谄媚性（Sycophancy）源于基于人类反馈的强化学习（RLHF）训练阶段，人类标注员倾向于给友好肯定的回答更高评分77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/936590

API

curl https://kongchang.com/api/v1/knowledge/claims/936590

MCP

get_claim(id=936590)