已过期50% 置信注意事项精确时间
恶意提示词注入（Prompt Injection）攻击可能诱导AI执行非预期操作，因此Anthropic强制要求行动前询问为默认模式
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/20
首次发现
此条事实已过期，仅作历史留存，不再代表当前状态
有效期至：2026/10/18(已过期)
来源
相关事实
待验证请求拆解（提示词越狱）是当前AI安全的核心挑战，当恶意目标被拆分为多个看似无害的子任务时，模型往往无法从单个请求推断出完整的恶意意图73% 相似待验证提示词注入攻击是Agent场景中危险的威胁，目前尚无完美防御方案，权限最小化是最有效的缓解策略71% 相似待验证被恶意提示注入（prompt injection）或误导的内部智能体，可能在拥有合法权限的前提下执行危险操作70% 相似待验证提示注入不需要欺骗人只需要欺骗AI，绕过了针对人类的安全防护措施，用户仅让AI助手整理收件箱这样的无害请求就足以触发攻击69% 相似待验证在模型推理之外构建行为拦截层是当前阶段不可回避的工程选择，这是许多团队迟迟不敢在生产环境中开放AI Agent自主权的根本原因69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/566536API
curl https://kongchang.com/api/v1/knowledge/claims/566536MCP
get_claim(id=566536)