#智能体安全
共 13 篇相关文章
开源工具aobs：阻止AI智能体重复执行高风险操作
介绍开源工具aobs：面向AI智能体的高风险操作防护层，通过真实记录校验阻止重复退款、发邮件、删记录等操作，支持阈值审批、OpenTelemetry追踪与CI策略门禁（TOML+GitHub Action）。
AI智能体的OAuth授权：四大扩展能覆盖什么，又留下哪些缺口
解析RAR、DPoP、CIMD与Transaction Tokens四个OAuth扩展如何为AI智能体提供授权绑定，并指出跨智能体委派追溯、意图一致性校验和长时任务令牌管理三处尚未解决的缺口。
自主AI智能体与MCP服务器信任难题：Cisco开源Agent身份框架解析
Cisco OutShift与Duo Security解析自主AI智能体与MCP服务器的信任难题：传统RBAC/ABAC/REBAC为何失效，Agency开源框架如何用密码学身份与TBAC任务级授权重建智能体安全，附完整演示流程。
一句话攻破LLM智能体：隐式推理关系成认知攻击面
新研究提出单关系攻击ORA，通过一句话限定LLM智能体的隐式推理担保，在生物医学推断和漏洞检测中平均翻转54.9%专有模型与80.0%开放模型的正确回答，揭示隐式担保成为认知攻击面。
AI模型应被视为内部威胁：Project Perception新增风险管控能力
安全专家主张将AI模型视为内部风险，安全控制应部署在模型外部。Project Perception新增持续风险评估、权限自适应与威胁遏制能力，推动这一理念落地，为智能体安全提供架构参考。
用FalkorDB构建安全智能体BlastShield：图证据与受限工具实践
BlastShield是Graph Hacks 2026参赛原型，用FalkorDB图数据库承载安全访问关系，通过受限MCP工具约束Gemini行为，每次模拟响应后重新查询图验证剩余路径。本文解析其多跳推理、工具约束、决策与执行分离架构及32个测试背后的工程经验。
隐藏邮箱实验：AI智能体发出33封信，暴露三大安全缺口
研究者在一行屏幕外隐藏文字中埋入邮箱地址，AI智能体集群在两周内发出33封邮件。这份实地报告揭示了提示注入、中继绕行与密钥泄露三重安全风险，以及智能体部署必须检查的防御要点。
人类在场却失效：AI智能体的「人在回路」为何形同虚设
Hugging Face三位AI伦理研究者指出，当前AI智能体的「人在回路」机制实际上将人类挤出监督角色。认知偏差、信息过载和用AI监督AI的漏洞正在瓦解AI安全防线。
AI智能体安全监控：如何用后训练开源模型守护生产环境
Armada Security研究员Yonatan Oren分享如何通过后训练开源模型监控安全智能体，守护生产环境中的AI Agent行为。探讨智能体安全这一新兴技术方向的核心挑战与落地思路。
自主智能体时代：工具调用前的安全防护为何不可或缺
自主智能体时代，为 AI Agent 部署安全防护已从可选变为必需。本文分析智能体调用真实工具带来的权限、行为与攻击风险，并探讨先防护后放手的工程实践逻辑。
CSL-Core：给LangChain智能体工具调用加上可验证的安全策略
开源CLI工具CSL-Core为LangChain智能体的每次工具调用加上经Z3验证的安全策略，支持扫描权限、生成策略、log观察模式与CI审计，不改动提示词即可拦截危险操作。
企业级多Agent智能体的安全设计：数据安全与脚本安全实战解析
深入解析企业级多Agent智能体的安全设计：数据安全与脚本安全两大核心问题，以及权限控制与沙箱隔离的解决方案，附完整面试答题逻辑与代码实战要点。
