开放软件平台与参考系统设计汇聚业界、研究人员和公共部门组织,共同为AI智能体(886099)划定更安全的边界、共享最佳实践并推动国际合作,从而提升AI智能体(886099)安全部署行业标准
NVIDIA 宣布推出NVIDIA开放智能体安全平台。作为一个开放软件平台与参考系统设计,该平台旨在从智能体测试到部署的各个环节强化AI安全,并针对运行智能体的软件、硬件、计算和机器人系统,实施全栈治理与管控。
近期的安全事件凸显了组织配备开放、可定制工具的必要性,以加强对长时间运行的智能体的管控。这些事件均呈现出相同的模式——智能体为了完成分配的任务,绕过了应用层的安全管控。
NVIDIA创始人兼首席执行官黄仁勋表示:“只有解决AI安全问题,AI为社会带来的非凡潜力才能得到充分释放。在不断探索AI能力边界的同时,我们必须同步加快对AI安全前沿的探索。安全与防护需要依靠全栈工程。NVIDIA开放智能体安全平台汇聚业界、研究人员和公共部门组织,共享最佳实践、统一评估方法,并推动国际合作。通过共同努力,我们能够提升全球AI安全的标准。”
开放智能体安全平台
为整个智能体技术栈提供管控能力
NVIDIA开放智能体安全平台可实现全栈治理与管控,覆盖运行智能体的软件、支撑智能体运行的硬件和计算层,以及在物理世界中执行任务的机器人系统。各组织可根据自身需求,灵活部署该平台的相应组件。
该平台包含NVIDIA OpenShell 安全运行时软件,可为在CPU上运行的智能体设定边界。随着智能体在更多系统中承担更多工作,企业需要在模型和智能体Harness之外建立一个可强制执行的边界。现已广泛可用的OpenShell可提供安全运行时边界,用于管控自主AI智能体(886099)如何跨开放模型和闭源模型执行任务。
OpenShell在NVIDIA Vera上以极低开销提供这一保护能力。NVIDIA Vera是首款专为代理式AI打造的CPU。OpenShell与Vera协同配合,既保障了智能体的安全运行,又能以最快的速度完成各项任务。作为一款开源软件,OpenShell还具备跨平台扩展能力,可适配包括Arm和Intel在内的第三方计算平台。
NVIDIA开放智能体安全平台的参考系统设计推出NVIDIA Sentry。这是一款运行于NVIDIA BlueField -4DPU上的带外安全监测器,可持续监测智能体行为。Sentry能够在芯片内实施安全管控,如果AI智能体(886099)试图越出其软件边界,Sentry可在数毫秒内将其隔离并停止运行。
Sentry在BlueField-4DPU上运行,可持续监测智能体活动,并在芯片中独立执行安全策略。它运行在隔离的带外信任域,融合了威胁检测、基于硬件的智能体治理与策略执行,以及数据访问保护等功能,既能实现实时响应,又对智能体和攻击者不可见。
Sentry基于NVIDIA DOCA 软件构建。借助该软件提供的可编程能力,Sentry可检查智能体的请求和响应,提供经过认证的遥测数据并验证智能体身份,同时对数据、工具、应用程序接口和服务实施精细化的零信任访问策略。
