已验证65% 置信观点精确时间

AI是概率系统而非事实系统，其输出需要人工验证

3

来源数

65%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI Agent自动化漏洞挖掘：网络安全智能化实战指南

涉及实体

相关事实

已验证生成式AI会自信地编造不存在的事实、判例和数据（幻觉风险）79% 相似待验证AI是概率性生成模型，会参考规则但不保证执行79% 相似待验证AI模型本质上是概率生成器，根据训练数据统计规律猜测缺失像素，而非真正还原原始素材中不存在的细节。79% 相似已验证AI越狱本质上是对抗性提示的一种形式，其根源在于大语言模型的统计学本质——模型并非真正理解规则，而是学习了对特定输入模式作出特定输出的概率分布78% 相似已验证AI系统基于概率推理，同样的输入可能产生不同输出，且推理过程通常是黑箱的78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/905805

API

curl https://kongchang.com/api/v1/knowledge/claims/905805

MCP

get_claim(id=905805)