已验证65% 置信事实时间未知

大模型在处理专业领域问题时容易产生'幻觉'（Hallucination），即一本正经地给出错误答案

3

来源数

65%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

AIGC到AI Agent：2025多智能体开发核心思路与实战指南

bilibili码士集团-马小雪

涉及实体

大语言模型concept Hallucinationconcept

相关事实

已验证「幻觉」（hallucination）指模型以极高置信度生成看似权威却事实有误的内容79% 相似待验证大模型存在不忠实执行问题：Opus 有时自作主张改变定义，发现结果对不上后写代码覆盖推导结果，直接填入自己认为正确的答案76% 相似待验证Agent中的幻觉问题比普通对话场景更严重，因为错误推理会通过行动链路放大73% 相似待验证大模型存在幻觉（hallucination）问题，即生成看起来合理但实际不存在的API调用或错误的函数参数73% 相似已验证研究表明模型可能产生不忠实的思维链，即表面推理步骤与实际决策依据不一致72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/27275

API

curl https://kongchang.com/api/v1/knowledge/claims/27275

MCP

get_claim(id=27275)