已验证65% 置信事实时间未知
当前大语言模型的训练目标是生成让用户满意的回答，而不是生成正确的回答
3
来源数
65%
置信度
长期有效
时效性
2026/5/31
首次发现
来源
用AI做策划，你正在掉入「永远说对」的陷阱
bilibili是神奇海螺ya
涉及实体
相关事实
待验证早期经RLHF训练的大型语言模型倾向于给出用户喜欢的回答，产生迎合性偏差（sycophancy）77% 相似已验证主流大语言模型经过人类反馈强化学习（RLHF）后天然倾向于输出令人满意、易于接受的回答，而非主动提出批评76% 相似待验证大语言模型本质上是一个一问一答系统，输入Prompt输出Answer75% 相似已验证大语言模型的回答通常以完整句子和肯定语气呈现，缺少人类顾问惯常附带的'我不确定''需要进一步核实'等语言信号75% 相似待验证答案引擎（Answer Engine）采用「检索-理解-生成」范式，先检索相关文档，再用大语言模型理解内容，最后综合成连贯的自然语言答案75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/5452API
curl https://kongchang.com/api/v1/knowledge/claims/5452MCP
get_claim(id=5452)