OpenShell
将形式化方法应用于AI智能体控制的技术团队,探索以数学逻辑约束智能体行为边界,提升AI系统可靠性与安全性
核心事实
时间轴 (近 90 天)
OpenShell 支持通过一条命令创建沙箱,可在本地或 Kubernetes 上运行。
OpenShell 要求每次网络连接离开沙箱前先通过策略检查。
OpenShell 提供 Python、TypeScript、Go、Rust 的 SDK 用于接入网关。
OpenShell 目前处于 Alpha 阶段,已有一百多家合作方,但合作方名单中没有 OpenAI。
OpenShell 包含一个策略证明器,使用形式逻辑证明操作边界,结论不依赖 Agent 的解释。
OpenShell 使用操作系统内核将 Agent 关进沙箱,限制其可访问的文件和可启动的进程,并完全阻断其网络,出网请求需经过沙箱外的 Supervisor 按策略核对。
9月28号,英伟达开源了一套 Agent 安全平台 OpenShell。
OpenShell 沙箱的性能开销和策略维护成本还没有公开数据。
英伟达开源OpenShell是从算力供应商向Agent基础设施延伸的信号,意在抢占Agent安全边界入口。
OpenShell默认开启匿名遥测,但用户可以关闭。
还有 40 条时间轴事件
全部知识事实 (20)
OpenShell 为每个智能体会话或任务分配隔离的执行沙箱,限制其可访问的文件系统范围、网络出口和本地进程。
80%已验证OpenShell 的定位是在智能体与其运行环境之间架设一道可编程的控制层,对智能体的每一个动作进行检查与约束
75%已验证OpenShell定位服务于本地部署(local)和开源(open)智能体
65%已验证英伟达发布开放智能体安全平台,包含开源软件OpenShell和运行在数据处理芯片上的硬件Sentry
75%部分验证OpenShell的凭证处理机制确保Agent从来看不到真实密钥,只有当请求发往用户批准的端点时,OpenShell才会将密钥注入进去。
65%待验证OpenShell使用形式化验证处理策略变更:当修改策略时,先用数学方法验证该变更会授予哪些新访问权限,高风险变更一律卡住等待人工审核,Agent无法自行升级权限。
60%待验证英伟达在GitHub上开源了OpenShell,一个专门为自主AI Agent设计的运行时安全沙箱。
60%待验证OpenShell 要求每次网络连接离开沙箱前先通过策略检查。
50%待验证OpenShell 支持通过一条命令创建沙箱,可在本地或 Kubernetes 上运行。
50%待验证OpenShell 提供 Python、TypeScript、Go、Rust 的 SDK 用于接入网关。
50%待验证OpenShell 目前处于 Alpha 阶段,已有一百多家合作方,但合作方名单中没有 OpenAI。
50%待验证OpenShell 使用操作系统内核将 Agent 关进沙箱,限制其可访问的文件和可启动的进程,并完全阻断其网络,出网请求需经过沙箱外的 Supervisor 按策略核对。
50%待验证OpenShell 沙箱的性能开销和策略维护成本还没有公开数据。
50%待验证OpenShell 包含一个策略证明器,使用形式逻辑证明操作边界,结论不依赖 Agent 的解释。
50%待验证OpenShell以Apache 2.0许可证完全开源。
50%待验证OpenShell提供Python、TypeScript、Go、Rust全套SDK,并能直接安装Agent Skills,让编码Agent自己调用。
50%待验证英伟达开源OpenShell是从算力供应商向Agent基础设施延伸的信号,意在抢占Agent安全边界入口。
50%待验证OpenShell的底座用Rust编写,采用零信任路线,使用mTLS全链路加密,隔离驱动覆盖Docker、Podman、Kubernetes和虚拟机等多种形态。
50%待验证在macOS上使用OpenShell的虚拟机驱动可能直接崩溃。
50%待验证OpenShell的托管沙箱目前只支持Unix系操作系统。
50%