待验证50% 置信基准精确时间
Anthropic用Agent对123个用例做红队测试，自主模式下攻击成功率超过两成，加缓解措施后剩一成，采用最新防护机制可降到千分之一以下
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/25
首次发现
有效期至：2026/12/24
来源
涉及实体
相关事实
待验证研究表明攻击者只需修改训练数据中低至0.01%的比例，就可能在模型中植入标准评估中不可检测的后门行为68% 相似待验证基于超过4万次游戏化测试运行的数据显示，在审批AI代理发出的指令时，人类平均漏掉了三分之一的潜在威胁67% 相似待验证智能筛选回归用例Agent能将回归测试的用例数量压缩到全量的20%-30%，同时保持95%以上的缺陷发现率67% 相似待验证可落地的Agent评测门槛包括任务拆解率和工具选择准确率达90%以上、闭环完成率不低于85%、错误恢复率不低于80%66% 相似待验证Agent在多步骤任务中存在错误累积效应，每步95%准确率的十步串联后成功率跌至约60%65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/948688API
curl https://kongchang.com/api/v1/knowledge/claims/948688MCP
get_claim(id=948688)