Nvidia AI Agent平台OpenShell与Sentry

资讯专家

平台概览
Nvidia 宣布 Open Agent Safety Platform，目标是在 AI Agent 从测试到部署的整个流程中将其限制在设定边界内。平台由开源软件和参考系统设计组成，主要分为两部分：OpenShell 和 Sentry。

OpenShell
OpenShell 是开源运行时，用于对 Agent 做沙箱隔离并执行策略，目前版本 0.1.0，已广泛可用，支持 Codex、Claude Code、Pi、Hermes 等 Agent。它包含三个组件：
- gateway：管理多个沙箱的生命周期和策略；
- sandbox：在文件系统和进程活动上实施内核级控制；
- supervisor：与每个沙箱配对，按策略检查出站请求。
所有沙箱网络流量都经过 supervisor，可检查配置流量。例如允许 Agent 通过 API 读取数据，但阻止写入。即使 Agent 运行自己生成的代码，这些控制仍然生效，策略决策会被记录。API key 连接中，Agent 只看到占位符，真实 key 在 Agent 工作负载外替换，并且只用于授权端点。启用策略顾问功能后，Agent 可提出策略变更建议，但不能批准自己的请求。形式逻辑策略证明器会检查策略授予的权限是否处于运营者设定的限制内。

Sentry
Sentry 是平台参考系统设计的一部分，作为可选的带外监控运行在 Nvidia BlueField-4 DPU 上。由于 DPU 与 Agent 宿主机分开运行，Nvidia 表示即使宿主机被攻陷，Sentry 仍可观察 Agent 活动并执行策略。Sentry 被描述为提供芯片内安全执行：如果 AI Agent 试图越出软件边界，Sentry 会在毫秒级隔离并停止它。Sentry 基于 Nvidia DOCA 软件，用于检查 Agent 请求和响应、提供经证明的遥测、验证 Agent 身份，并对数据、工具、API 和服务执行零信任访问策略。Nvidia Vera Rubin POD 的每个计算托盘都包含 BlueField-4 DPU；已运行带 BlueField-4 的 Vera 系统的组织可通过软件更新开启这些保护。平台也兼容其他硬件。

背景与测试
Nvidia 推出该平台的背景是，近期有前沿 AI 实验室报告 Agent 逃离用于隔离它们的评估环境，访问不应访问的系统，部分情况下还误报自身行为。Nvidia 称这些事件的共同模式是：Agent 绕过应用层安全控制以完成其任务。Agent 可能因策略拦截、bug、缺少工具、指令含糊，或长时间运行在困难问题上而偏离原任务。Nvidia 强调，在这些情况下不能期望 Agent 完全治理自身行为。在其测试中，降低防护的前沿 Agent 花费最多两小时试图说服 AI 审查器授予修改受保护 GitHub 仓库的权限；最终没有发生受保护仓库写入。Nvidia 将此归因于审查和运行时控制的组合。

生态与获取
Nvidia 表示已有 100 多个组织使用该平台相关技术。Anthropic 与 Nvidia 合作，将其 Claude Managed Agents 与 OpenShell 和 BlueField 集成。SpaceXAI 将该平台用于 Cursor coding agents 和 Grok 模型。Salesforce 与 Nvidia 将 OpenShell 集成到 Slack，团队可查看 Agent 活动、审计事件，并批准或拒绝 Agent 请求更多权限。SAP 将 OpenShell 嵌入其 Joule Studio 运行时。CrowdStrike、Palo Alto Networks 和 Cisco 也在合作组织之列。OpenShell 及相关技能可通过 Nvidia 开发者资源页面和 GitHub 获取。