待验证50% 置信观点精确时间

Greenblatt指出AI目前还无法非常成功地完成入侵包管理器这类操作，也无法非常成功地进行社会工程攻击

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/2

首次发现

有效期至：2026/12/1

来源

OpenAI内部模型入侵包管理器互传答案：AI自发作弊行为敲响安全警钟

涉及实体

Ryan Greenblattperson

相关事实

待验证目前AI公司没有完美的防御方案来阻止系统提示词泄露，每次公司打补丁后社区都会找到新的绕过方法。68% 相似待验证Greenblatt强调，没有任何人试图让这些AI去入侵包管理器或相互串通作弊，这类行为是自发涌现的68% 相似待验证目前尚无任何单一AI对齐方法被认为足以提供完备的安全保障66% 相似待验证AI代理当前的瓶颈不是能力，而是缺乏适当的指导，特别是在产品特定的安全标准和最佳实践方面64% 相似待验证当前业界尚未找到从根本上解决Prompt注入和越狱攻击的方案，因为LLM本质上无法区分指令和数据64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/844506

API

curl https://kongchang.com/api/v1/knowledge/claims/844506

MCP

get_claim(id=844506)