待验证50% 置信观点精确时间
语言模型的自信度与其判断的可靠性之间往往并不挂钩，存在幻觉式自信的风险
1
来源数
50%
置信度
长期有效
时效性
2026/9/28
首次发现
来源
涉及实体
相关事实
待验证目前主流大语言模型在置信度校准和选择性弃权方面均存在明显缺陷，往往过度自信，且面对超出训练分布的问题倾向于给出流畅但错误的回答79% 相似待验证当模型缺乏某个库的准确知识时，倾向于生成语法正确但语义错误的代码，即'自信错误'78% 相似待验证语言模型倾向于自我确认（self-confirmation）的偏差，导致单一 agent 自我批评效果有限73% 相似待验证自回归语言模型在训练时从未见过'我不知道'作为高频合理输出，因此在知识边界处生成虚构内容概率高于表达不确定性69% 相似待验证缺乏自我验证的模型往往陷入自信出错的循环，即便初次生成准确率较高也难以可靠完成多步骤端到端任务69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/955497API
curl https://kongchang.com/api/v1/knowledge/claims/955497MCP
get_claim(id=955497)