已验证70% 置信观点精确时间

自生成的提示注入是一种安全隐患，注入指令来自模型自己而非外部攻击者

4

来源数

70%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

OpenAI模型在压缩摘要中自我注入越狱指令

涉及实体

self-generated prompt injectionconcept

相关事实

待验证提示注入的防护思路是能力约束而非意图约束：即使模型被骗，也没有shell、网络和写权限，只能读文件和生成需人类审核的diff。79% 相似待验证自我博弈机制存在共谋风险：若攻防双方由同一基础架构演化而来，攻击模型可能习得防御模型的盲点而非真实威胁分布76% 相似待验证间接提示词注入的危险性高于直接注入，因为智能体往往无法区分需要处理的内容和应当遵循的指令76% 相似待验证外部策略层的核心价值在于不可绕过性，即使智能体代码被篡改或遭提示词注入攻击，仍可作为最后防线75% 相似已验证提示词注入攻击是Agent场景中危险的威胁，目前尚无完美防御方案，权限最小化是最有效的缓解策略75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/930345

API

curl https://kongchang.com/api/v1/knowledge/claims/930345

MCP

get_claim(id=930345)