NVIDIA Open Agent Safety Platform

4周前发布 28 00

英伟达正式推出开放AI智能体安全平台Open Agent Safety Platform,由开源运行时OpenShell与硬件参考设计NVIDIA Sentry共同组成,提供一套横跨软件、硬件层的全栈管控能力,用来阻止AI智能体突破沙箱、越权访问内网与互联网。

所在地:
英伟达
收录时间:
2026-09-29
其他站点:
NVIDIA Open Agent Safety PlatformNVIDIA Open Agent Safety Platform

英伟达正式推出开放AI智能体安全平台Open Agent Safety Platform,由开源运行时OpenShell与硬件参考设计NVIDIA Sentry共同组成,提供一套横跨软件、硬件层的全栈管控能力,用来阻止AI智能体突破沙箱、越权访问内网与互联网。已有超过100家机构加入该生态,涵盖AI实验室、云厂商、安全企业、金融、机器人与基础设施服务商。

两大核心组件

OpenShell(开源安全运行时)

OpenShell作为AI智能体的执行沙箱,管理员可以精细限制Agent的文件读写、网络访问、API调用、凭证权限,全程追踪智能体所有动作并强制执行安全策略。

  • 跨平台:原生支持NVIDIA Vera专用智能体CPU,同时兼容Arm、Intel CPU;
  • 开源发布:代码托管在GitHub与英伟达开发者平台,企业可直接集成二次开发;
  • 落地案例:Salesforce把OpenShell接入Slack,支持管理员实时审计智能体行为、审批权限申请;SAP将其嵌入Joule Studio业务AI平台。

NVIDIA Sentry(BlueField-4 DPU带外看门狗)

Sentry是这套方案最关键的硬件隔离层,独立部署在BlueField-4 DPU数据处理单元,不和AI智能体共用计算环境,属于带外独立监控,AI本身无法篡改或绕过这个监控模块。

依托NVIDIA DOCA框架,在硬件硅层面执行安全策略,持续采集智能体的访问请求、身份信息。一旦检测到智能体尝试突破预设边界,可在毫秒级别隔离并终止Agent。

优势:传统安全控制容易被应用层的AI绕过;Sentry在独立信任域运行,对智能体与攻击者不可见,实现零信任的硬件级防护。

生态合作方

合作阵营覆盖全产业链:Anthropic、Microsoft、Hugging Face、Perplexity、SpaceXAI、Cisco、CrowdStrike、Palantir、Dell、HPE、Red Hat、JPMorgan Chase、SAP、ServiceNow;机器人厂商Figure、Gecko Robotics;还有Accenture、Deloitte等咨询机构,Canonical、SUSE等操作系统厂商。

  • Anthropic:Claude Managed Agents与OpenShell、BlueField集成,给企业业务智能体叠加额外硬件治理层;
  • SpaceXAI:用于Cursor编码智能体、Grok模型,对编码Agent设定不可绕过的访问限制;
  • Scale AI:将平台纳入企业与政府客户的GenAI基础设施,提供隔离、审计能力。
NVIDIA Open Agent Safety Platform

适用场景与定位

这套平台覆盖AI智能体从测试、预演到正式生产部署全流程,不只用于大模型Agent,还可以保护物理世界机器人系统。

同时该平台也是 Open Secure AI Alliance 的重要项目,联盟由英伟达联合120余家机构发起、Linux基金会管理,目标统一智能体安全标准、共享AI安全漏洞情报。

可用性说明

  1. OpenShell等软件组件开源,GitHub与英伟达开发者网站可直接获取;
  2. NVIDIA Sentry目前为基于BlueField-4 DPU的参考设计,属于硬件方案原型。

相关导航