[控场AI]
概念hallucinated references / 幻觉参考文献

幻觉引用

大语言模型在辅助学术写作时生成的格式完整但实际不存在的文献条目,包含捏造的作者组合、虚构期刊名称及不存在的页码等,是AI辅助写作带来的学术诚信挑战之一

核心事实

时间轴 (近 90 天)

10月24日

AI模型在生成文本时,可能根据训练数据中的模式“编造”出看似可信的引用,包括作者、标题、日期和URL,这种现象被称为“幻觉引用”(hallucinated citation)。

待验证50%
10月14日

幻觉引用是大模型常见错误:模型在需要外部资源时会生成格式正确、看似合理但实际不存在的URL、库名或API;在需要加载3D模型、贴图或第三方脚本的交互网页中,假链接会直接让渲染管线断掉,使滑块、日期、数值失去联动。

待验证50%
10月14日

在四季成因3D讲解题中,Gemini 4 Argon引用了一个不存在的网址,3D画面加载不出来,滑块拖不动,日期和数字永远停在6月21日。

待验证50%
10月4日

去年ICLR曾因幻觉引用而对部分投稿作出桌拒(desk reject)处理

待验证50%
10月4日

部分会议和期刊已开始要求作者提交引用来源的可访问链接,或由审稿人专门核查参考文献列表,以应对幻觉引用问题

待验证50%
10月1日

该现象被称为幻觉引用(hallucinated citations)或参数化知识泄漏(parametric knowledge leakage)

待验证50%
10月1日

即便明确要求模型只依据检索到的文档作答,它仍会凭参数记忆补全空缺,并生成看似规范的引用

待验证50%
9月18日

检索增强生成(RAG)通过将模型输出锚定到经过核实的文档数据库,降低虚构内容出现的概率并实现引用可追溯

已验证65%

全部知识事实 (8)

来源文章