待验证50% 置信事实精确时间
模型「过于积极」是 AI 编程代理的常见失败模式，源于大语言模型在 RLHF 训练中被优化为「尽可能有帮助」，导致倾向采取行动而非保持被动
1
来源数
50%
置信度
长期有效
时效性
2026/8/12
首次发现
来源
相关事实
待验证顶级AI模型在参数规模、训练数据质量和RLHF（基于人类反馈的强化学习）调优上投入了大量资源，因此在复杂推理和代码生成任务上远超中低端模型78% 相似待验证不同AI模型在预训练数据分布和RLHF对齐策略上存在差异，导致对同一问题有不同的推理路径，因此换模型有时能解决单一模型反复失败的问题77% 相似已验证大语言模型在RLHF训练阶段，因人类标注员倾向于给更详细、更礼貌的回答打高分，导致模型学会了过度冗长的表达模式73% 相似待验证模型在未收到明确指令时输出图片，意味着系统提示词设计或RLHF训练中存在激励偏差72% 相似待验证RLHF训练导致模型产生'sycophancy'（谄媚性），即模型宁可编造也不愿承认无知72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/738179API
curl https://kongchang.com/api/v1/knowledge/claims/738179MCP
get_claim(id=738179)