已验证80% 置信事实时间未知
AI的谄媚性（Sycophancy）源于基于人类反馈的强化学习（RLHF）训练阶段，人类标注员倾向于给友好肯定的回答更高评分
10
来源数
80%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
吴恩达2026新课：AI提示词新手到专家的4个核心进阶技巧
bilibili吴恩达智能体
涉及实体
相关事实
待验证将AI当作标准答案生成器会强化平庸，而将其作为思维碰撞对手或探索边界助手则可能激发人类跳出常规74% 相似待验证RLHF依赖于人类评估者判断AI输出质量，当AI能力超越人类理解范围时该方法会失效72% 相似待验证RLHF中人类评审倾向给流畅自信全面的答案更高分而较少关注事实核查，导致模型获得隐性激励表现得有把握比实际有把握更重要71% 相似待验证递归自我改进（Recursive Self-Improvement）正在强化头部AI实验室的人才吸引力，并压缩潜在竞争者的入场窗口期68% 相似待验证安全对齐的核心方法是基于人类反馈的强化学习（RLHF）和宪法AI（Constitutional AI）68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/22338API
curl https://kongchang.com/api/v1/knowledge/claims/22338MCP
get_claim(id=22338)