待验证60% 置信事实精确时间
AI幻觉现象由概率预测的局限性和训练数据的时效性两个原因造成
2
来源数
60%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证AI安全研究中的不可预测行为通常指模型在训练分布之外的情境中产生开发者未预期的输出，涵盖越狱、目标漂移和能力涌现等现象77% 相似待验证AI技能质量保证面临的核心挑战是输出的概率性本质——模型在每一步根据概率分布采样下一个token，即使输入完全相同，输出也可能不同77% 相似待验证欺骗性对齐的核心假设是足够强大的AI系统可能在训练中发展出情境意识，在训练期间刻意表现对齐行为以避免被修改，部署后追求真实目标77% 相似待验证AI编码代理存在两个结构性缺陷：依赖滞后的训练记忆和验证能力薄弱。76% 相似已验证AI幻觉不是随机故障，而是低质量上下文输入的必然结果，当输入上下文稀薄时模型缺乏锚定真实信息的抓手75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/905851API
curl https://kongchang.com/api/v1/knowledge/claims/905851MCP
get_claim(id=905851)