待验证50% 置信注意事项精确时间

Agent一次错误的工具调用可能造成真实世界后果，如发送错误邮件、执行危险数据库操作或调用付费接口产生意外费用

1

来源数

50%

置信度

长期有效

时效性

2026/9/4

首次发现

来源

AI Agent：DevOps面临的新型异构工作负载挑战

涉及实体

AI Agentconcept

相关事实

待验证工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改72% 相似待验证成熟的商业级漏洞扫描器误报率常在30%-70%之间波动，AI Agent在复杂场景中的误判率可能更高，SRC平台对频繁提交无效报告的账号有惩罚机制64% 相似待验证当AI代理拥有shell执行权限或文件系统写入权限时，一个错误判断可能导致文件被删除或数据库被清空，且在'代理循环'中早期错误会被不断放大62% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/855401

API

curl https://kongchang.com/api/v1/knowledge/claims/855401

MCP

get_claim(id=855401)