待验证50% 置信事实精确时间

元认知反馈通过奖励置信度与准确率的一致性，在奖励信号中引入认知诚实度这一与内容质量正交的新维度

1

来源数

50%

置信度

长期有效

时效性

2026/7/8

首次发现

来源

元认知反馈：用强化学习让大模型准确表达不确定性

hackernewshackernews2026/7/7

相关事实

待验证人类标注者在评估答案时存在信息越丰富越好的认知偏差，导致奖励模型将篇幅与质量隐性挂钩，是模型冗余的成因之一75% 相似待验证人类标注员倾向于选择语气友好、肯定性强的回复，使奖励模型隐含了'讨好用户=高质量回复'的偏见73% 相似待验证人类评估者往往对流畅、自信、符合直觉的回答给予更高评分，这是奉承偏差（Sycophancy）的形成根源71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/285634

API

curl https://kongchang.com/api/v1/knowledge/claims/285634

MCP

get_claim(id=285634)