待验证50% 置信观点精确时间
评估防御框架时需要同时报告攻击成功率与任务效用两组指标，仅看攻击成功率会掩盖“以牺牲检测能力换取安全”的代价。
1
来源数
50%
置信度
长期有效
时效性
2026/11/3
首次发现
来源
StateFence：为蓝队LLM智能体守住任务状态，抵御证据链污染
rss2026/11/2
涉及实体
相关事实
待验证智能体安全应通过攻击成功率、过度拒绝率、攻击类型分类准确性三大核心指标量化评估77% 相似待验证安全工作的评估往往依赖红队测试和漏洞赏金计划，这些机制能够暴露系统在真实攻击场景下的弱点。77% 相似待验证贴近落地的评测应包含多步骤有真实后果的任务链、对过度执行和破坏性操作的惩罚机制、权限管理与可回滚安全测试、面对模糊指令时主动澄清的能力75% 相似待验证控制评估是用于量化安全协议在对抗性攻击下能否保持安全的系统性方法，典型流程假设部署时学习或外部攻击者会造成一定扰动，红队反复迭代攻击，若协议仍能阻断危险动作则认为具有足够安全裕度。74% 相似待验证渗透测试与恶意攻击的根本区别在于授权、范围限定和结果报告。73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1130526API
curl https://kongchang.com/api/v1/knowledge/claims/1130526MCP
get_claim(id=1130526)