幻觉引用
大语言模型在辅助学术写作时生成的格式完整但实际不存在的文献条目,包含捏造的作者组合、虚构期刊名称及不存在的页码等,是AI辅助写作带来的学术诚信挑战之一
核心事实
时间轴 (近 90 天)
AI模型在生成文本时,可能根据训练数据中的模式“编造”出看似可信的引用,包括作者、标题、日期和URL,这种现象被称为“幻觉引用”(hallucinated citation)。
幻觉引用是大模型常见错误:模型在需要外部资源时会生成格式正确、看似合理但实际不存在的URL、库名或API;在需要加载3D模型、贴图或第三方脚本的交互网页中,假链接会直接让渲染管线断掉,使滑块、日期、数值失去联动。
在四季成因3D讲解题中,Gemini 4 Argon引用了一个不存在的网址,3D画面加载不出来,滑块拖不动,日期和数字永远停在6月21日。
去年ICLR曾因幻觉引用而对部分投稿作出桌拒(desk reject)处理
部分会议和期刊已开始要求作者提交引用来源的可访问链接,或由审稿人专门核查参考文献列表,以应对幻觉引用问题
该现象被称为幻觉引用(hallucinated citations)或参数化知识泄漏(parametric knowledge leakage)
即便明确要求模型只依据检索到的文档作答,它仍会凭参数记忆补全空缺,并生成看似规范的引用
检索增强生成(RAG)通过将模型输出锚定到经过核实的文档数据库,降低虚构内容出现的概率并实现引用可追溯
全部知识事实 (8)
检索增强生成(RAG)通过将模型输出锚定到经过核实的文档数据库,降低虚构内容出现的概率并实现引用可追溯
65%待验证AI模型在生成文本时,可能根据训练数据中的模式“编造”出看似可信的引用,包括作者、标题、日期和URL,这种现象被称为“幻觉引用”(hallucinated citation)。
50%待验证幻觉引用是大模型常见错误:模型在需要外部资源时会生成格式正确、看似合理但实际不存在的URL、库名或API;在需要加载3D模型、贴图或第三方脚本的交互网页中,假链接会直接让渲染管线断掉,使滑块、日期、数值失去联动。
50%待验证在四季成因3D讲解题中,Gemini 4 Argon引用了一个不存在的网址,3D画面加载不出来,滑块拖不动,日期和数字永远停在6月21日。
50%待验证部分会议和期刊已开始要求作者提交引用来源的可访问链接,或由审稿人专门核查参考文献列表,以应对幻觉引用问题
50%待验证该现象被称为幻觉引用(hallucinated citations)或参数化知识泄漏(parametric knowledge leakage)
50%待验证即便明确要求模型只依据检索到的文档作答,它仍会凭参数记忆补全空缺,并生成看似规范的引用
50%待验证去年ICLR曾因幻觉引用而对部分投稿作出桌拒(desk reject)处理
50%