待验证50% 置信事实精确时间

一位独立研究者构建了22个多轮陷阱和84个单轮陷阱，让10款模型跑完全部106个测试，并用三种方式对每条轨迹独立打分

1

来源数

50%

置信度

长期有效

时效性

2026/9/22

首次发现

来源

单轮安全测试全通过，多轮却被攻破：84个陷阱实测10款AI Agent

涉及实体

AI Agent安全测试concept

相关事实

待验证论文构造了一个单步推动（one-step pushing）的诊断实验，使用32个随机种子进行验证72% 相似待验证研究者在两种调用界面下对十个托管模型进行测试，共测得322个真实幻觉案例69% 相似待验证该基准测试使用统一的100个问题集，每个问题只发起一次搜索，所有配置使用相同的answering model处理返回内容69% 相似待验证实验在一个九核FP16 GEMM（半精度通用矩阵乘法）测试集上进行67% 相似待验证GAUGE研究覆盖了来自六家供应商的25个智能体，并在τ²-bench和SimulatorArena两个基准上进行测试66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/941201

API

curl https://kongchang.com/api/v1/knowledge/claims/941201

MCP

get_claim(id=941201)