待验证50% 置信事实精确时间

定性安全审查发现模型存在幻觉问题，即生成看似专业实则错误或虚构的内容

1

来源数

50%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

大模型对决中医师：真实临床案例评测揭示AI潜力与风险

涉及实体

大语言模型technology 幻觉concept

相关事实

待验证LLM因幻觉、提示注入或上下文误解可能做出错误判断，若无独立验证机制，错误推理会直接转化为错误的生产操作78% 相似待验证在Agent场景下幻觉尤为危险，因为模型的输出会被直接执行，可能导致误删文件、执行危险命令、泄露敏感数据78% 相似待验证即使通过Prompt明确要求禁止捏造，模型仍然可能在高置信度场景下输出幻觉内容78% 相似待验证现有主流幻觉检测方法普遍面临准确性与效率难以兼得的困境75% 相似待验证该论文将率失真理论引入幻觉分析，指出即使数据完美，比特不够也会导致记忆错乱74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/928515

API

curl https://kongchang.com/api/v1/knowledge/claims/928515

MCP

get_claim(id=928515)