幻觉检测
识别大模型生成内容中看似流畅但与事实或给定上下文不符部分的技术，常用手段包括检索证据归因校验、模型一致性投票、规则与分类器结合的事实核查
时间轴 (近 90 天)
合成查询的多样性需要被拆成“有用”和“幻觉”两部分来管理；人格条件化值得用，它能稳定提升解析器F1；语法条件化对分布对齐更关键，但必须配套幻觉检测，尤其是针对约束丢失的检查。
幻觉检测的常见手段包括基于检索证据做归因校验、用另一个模型做一致性投票、以及规则与分类器结合的事实核查。
设计评测集、幻觉检测、构建回归测试监控模型行为等技能在工程团队里极度稀缺。
幻觉检测通过检测文本中的 JSON 式工具调用来解决 LLM 假装调用了工具的问题。
幻觉检测需要独立成器，因为通用评审器倾向给流畅、自信的输出高分，而幻觉往往正是这类输出。
幻觉检测评审器应逐条核验回答中的具体声明，并区分“上下文未提及”（过度推断）与“上下文明确矛盾”（硬性错误）。
把置信度当作知识的代理指标是许多评测、幻觉检测和不确定性估计方法的隐含前提
现有的幻觉检测方案大致分为基于注意力信息和依赖多次采样响应对比一致性两类
重复词句异常高频、与已知词表严重偏离的字符串、时间戳与文本长度不匹配是STT幻觉的典型信号
在正式采用幻觉检测工具前，建议在实际数据集上评估召回率和误报率两个核心指标
还有 1 条时间轴事件
全部知识事实 (11)
合成查询的多样性需要被拆成“有用”和“幻觉”两部分来管理；人格条件化值得用，它能稳定提升解析器F1；语法条件化对分布对齐更关键，但必须配套幻觉检测，尤其是针对约束丢失的检查。
50%待验证幻觉检测的常见手段包括基于检索证据做归因校验、用另一个模型做一致性投票、以及规则与分类器结合的事实核查。
50%待验证设计评测集、幻觉检测、构建回归测试监控模型行为等技能在工程团队里极度稀缺。
50%待验证幻觉检测通过检测文本中的 JSON 式工具调用来解决 LLM 假装调用了工具的问题。
50%待验证幻觉检测需要独立成器，因为通用评审器倾向给流畅、自信的输出高分，而幻觉往往正是这类输出。
50%待验证幻觉检测评审器应逐条核验回答中的具体声明，并区分“上下文未提及”（过度推断）与“上下文明确矛盾”（硬性错误）。
50%待验证把置信度当作知识的代理指标是许多评测、幻觉检测和不确定性估计方法的隐含前提
50%待验证现有的幻觉检测方案大致分为基于注意力信息和依赖多次采样响应对比一致性两类
50%待验证重复词句异常高频、与已知词表严重偏离的字符串、时间戳与文本长度不匹配是STT幻觉的典型信号
50%待验证在正式采用幻觉检测工具前，建议在实际数据集上评估召回率和误报率两个核心指标
50%待验证现有主流幻觉检测方法普遍面临准确性与效率难以兼得的困境
50%