概念uncovered capability map / 工具能力地图
能力地图
AI Agent安全领域的概念,指对Agent所有可调用工具按其实际业务能力(而非函数名称)进行分类和覆盖的映射体系,用于识别权限管控盲区和潜在绕路路径。
时间轴 (近 90 天)
10月26日
能力地图的思路是把算法在不同扰动类型与强度下的性能汇总为结构化结果,用以识别算法在哪些维度上敏感、在哪些维度上稳健。
待验证50%
10月9日
仅按函数名称或输出措辞做管控会存在未被堵住的旁路(未被覆盖的能力地图)
待验证50%
10月9日
应根据动作能改变什么来对能力进行分组,而不是根据函数名字分组
待验证50%