幻觉
大语言模型倾向于生成「听起来合理」但实际上不正确或无法验证的内容，根源在于模型是概率分布上的预测器而非事实数据库
核心事实
时间轴 (近 90 天)
RAG能让模型使用企业私有知识，并降低模型编造内容（幻觉）的概率
幻觉本质上是存在了不该存在的内容属于存在性问题，而遗漏是该存在却不存在的问题，后者获得的关注少得多
大语言模型的幻觉是当前所有主流LLM的固有特性，无法通过提示词工程彻底消除
多智能体架构可通过外部化验证让不同智能体交叉核查彼此陈述，理论上形成类似同行评审的纠错机制来对抗幻觉
大模型可能生成看似可信却完全错误的内容（幻觉），从而误导用户决策
该项目将生成式AI的幻觉特性重新诠释为类比人类记忆重构机制的艺术表达工具
大语言模型存在知识截止日期和'幻觉'(Hallucination)两个关键局限
ASR系统会产生幻觉现象，即输出流畅通顺、语法正确，却与实际输入的语音内容毫无关系
LLM与机器人融合架构中,大语言模型的幻觉可能导致不可行的行动,需要具身反馈和闭环验证来纠正
降低AI幻觉的两道防线是提供充足准确的输入资料和人工审核输出
还有 26 条时间轴事件
全部知识事实 (20)
LLM幻觉分为两类：事实性幻觉（捏造不存在的事实）和忠实性幻觉（输出与给定上下文不一致）
80%已验证AI幻觉的根源在于LLM的生成机制：模型本质上是在做下一个token的概率预测，优化的是语言的连贯性而非事实的准确性
80%已验证LLM幻觉的根本原因在于自回归生成机制——模型基于概率分布预测下一个Token，而非真正的逻辑推理
80%已验证大模型幻觉（Hallucination）的根源在于模型训练目标是预测下一个最可能的token，而非验证事实准确性
75%已验证业界目前通过RAG、事实核查链、置信度校准等方法缓解幻觉问题，但无法完全消除
70%已验证LLM产生幻觉的深层机制在于模型被优化为生成'听起来合理'的文本而非'事实准确'的文本，模型没有独立的知识检索模块
70%已验证LLM存在幻觉（Hallucination）问题，即以高置信度生成事实错误的信息
70%已验证大语言模型的幻觉问题源于其本质是基于统计概率的序列预测系统，生成的Token基于条件概率最大化而非真正的逻辑推理
70%已验证AI幻觉的根源在于模型学习的是词与词之间的统计共现关系，在知识稀疏或矛盾区域倾向于生成听起来合理的内容而非承认不确定性
65%已验证大语言模型本质是概率性文本生成系统，缺乏对外部系统实时验证能力，输入文档存在歧义或缺失时会产生幻觉
65%已验证AI幻觉是大语言模型生成机制的内在产物，模型目标是生成听起来合理的内容而非绝对真实的内容
65%已验证大模型幻觉的技术根源在于自回归生成机制，模型仅依据上文预测统计上最可能的下一个词，研究者将幻觉分为内在幻觉和外在幻觉
65%已验证AI幻觉可分为事实性幻觉（与外部真实世界不符）和忠实性幻觉（与用户给定约束或上下文不符）两类，解决路径完全不同
65%已验证研究表明大语言模型规模越大，幻觉的伪装性往往越强，能生成更连贯、更具说服力的错误内容
65%已验证大模型幻觉是指语言模型生成看似合理但实际不正确或不存在的内容
65%待验证大语言模型会以高置信度生成虚构内容（幻觉），包括编造不存在的工具名称、伪造API返回结果
95%待验证幻觉（Hallucination）指大语言模型生成看似合理但实际错误或无依据的内容，是当前所有LLM的共性问题，根源在于模型本质上是基于概率的文本生成器而非知识检索系统
85%部分验证大型语言模型幻觉的根本原因在于其生成机制，模型本质上是概率预测系统，基于训练数据的统计模式预测下一个最可能的token
65%待验证RAG能让模型使用企业私有知识，并降低模型编造内容（幻觉）的概率
50%待验证幻觉本质上是存在了不该存在的内容属于存在性问题，而遗漏是该存在却不存在的问题，后者获得的关注少得多
50%