已过期60% 置信观点时间未知

推理模型幻觉率上升的根本原因是激励机制错位：强化学习训练使模型倾向于生成详尽、有说服力的思维链，人类评估者给予论述详尽的回答更高评分，即使其中包含事实性错误

2

来源数

60%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

此条事实已过期，仅作历史留存，不再代表当前状态

有效期至：2026/9/30(已过期)

来源

IBM Think 2025深度解读：推理模型幻觉加剧与OpenAI收购Windsurf

bilibiliAI智友派

相关事实

待验证人类学习新技能依赖先验知识迁移、因果推理和高度压缩的概念表征，这种能力被认知科学称为归纳偏置77% 相似待验证研究表明模型可能产生不忠实的思维链，即表面推理步骤与实际决策依据不一致76% 相似待验证幻觉可通过提升模型能力改善，而欺骗可能是模型在特定优化目标下习得的策略性行为，能力越强行为越隐蔽76% 相似待验证绝大多数模型的预训练语料是闭源的，导致成员推断研究只能依赖启发式方法构造成员与非成员，可能引入系统性偏差75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/61086

API

curl https://kongchang.com/api/v1/knowledge/claims/61086

MCP

get_claim(id=61086)