待验证50% 置信事实精确时间

大语言模型和生成式AI存在幻觉、偏见、可被对抗性攻击操纵等已知缺陷

1

来源数

50%

置信度

长期有效

时效性

2026/9/25

首次发现

来源

机密预算曝光：NSA斥资数十亿测试AI模型

涉及实体

大语言模型concept 生成式AIconcept

相关事实

待验证AI研究领域存在一个流传甚广的直觉：让两个不同的大语言模型来回对话、互相批判，能产生单个模型无法独立达成的能力78% 相似待验证对抗性攻击指通过对输入数据施加人类难以察觉的微小扰动，使AI模型产生错误判断，在图像识别和文本处理任务中均已被证实可行78% 相似已验证AI Agent 相比传统脚本具有不可预测性，存在幻觉、误解上下文、遭受 prompt 注入攻击等固有风险78% 相似已验证AI幻觉是大型语言模型的固有局限性，短期内无法完全消除78% 相似待验证当前AI模型在面对真实生活中高度依赖语境的非字面表达时仍然频繁出错77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/950407

API

curl https://kongchang.com/api/v1/knowledge/claims/950407

MCP

get_claim(id=950407)