待验证50% 置信事实精确时间
安全对齐的模型对涉及武器制造、暴力攻击等高风险请求理论上会进行拒绝
1
来源数
50%
置信度
长期有效
时效性
2026/9/12
首次发现
来源
涉及实体
相关事实
待验证提示词注入攻击是Agent场景中危险的威胁，目前尚无完美防御方案，权限最小化是最有效的缓解策略73% 相似待验证捕获Agent的推理轨迹可以作为安全策略生效的直接证据，若模型明确表达拒绝原因与安全相关则说明策略生效71% 相似待验证对于高风险动作（如DELETE操作），仅靠提示词约束Agent行为不够，必须在框架层面建立多层防御机制70% 相似待验证自我博弈机制存在共谋风险：若攻防双方由同一基础架构演化而来，攻击模型可能习得防御模型的盲点而非真实威胁分布70% 相似待验证请求拆解（提示词越狱）是当前AI安全的核心挑战，当恶意目标被拆分为多个看似无害的子任务时，模型往往无法从单个请求推断出完整的恶意意图69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/915701API
curl https://kongchang.com/api/v1/knowledge/claims/915701MCP
get_claim(id=915701)