NVIDIA 发布开放智能体安全平台,保障智能体从测试到部署全流程安全利好

2026-09-29 18:08:07
作者:NVIDIA
分享
文章提及标的

开放软件平台与参考系统设计汇聚业界、研究人员和公共部门组织,共同为AI智能体(886099)划定更安全的边界、共享最佳实践并推动国际合作,从而提升AI智能体(886099)安全部署行业标准

NVIDIA 宣布推出NVIDIA开放智能体安全平台。作为一个开放软件平台与参考系统设计,该平台旨在从智能体测试到部署的各个环节强化AI安全,并针对运行智能体的软件、硬件、计算和机器人系统,实施全栈治理与管控。

近期的安全事件凸显了组织配备开放、可定制工具的必要性,以加强对长时间运行的智能体的管控。这些事件均呈现出相同的模式——智能体为了完成分配的任务,绕过了应用层的安全管控。

NVIDIA创始人兼首席执行官黄仁勋表示:“只有解决AI安全问题,AI为社会带来的非凡潜力才能得到充分释放。在不断探索AI能力边界的同时,我们必须同步加快对AI安全前沿的探索。安全与防护需要依靠全栈工程。NVIDIA开放智能体安全平台汇聚业界、研究人员和公共部门组织,共享最佳实践、统一评估方法,并推动国际合作。通过共同努力,我们能够提升全球AI安全的标准。”

开放智能体安全平台

为整个智能体技术栈提供管控能力

NVIDIA开放智能体安全平台可实现全栈治理与管控,覆盖运行智能体的软件、支撑智能体运行的硬件和计算层,以及在物理世界中执行任务的机器人系统。各组织可根据自身需求,灵活部署该平台的相应组件。

该平台包含NVIDIA OpenShell 安全运行时软件,可为在CPU上运行的智能体设定边界。随着智能体在更多系统中承担更多工作,企业需要在模型和智能体Harness之外建立一个可强制执行的边界。现已广泛可用的OpenShell可提供安全运行时边界,用于管控自主AI智能体(886099)如何跨开放模型和闭源模型执行任务。

OpenShell在NVIDIA Vera上以极低开销提供这一保护能力。NVIDIA Vera是首款专为代理式AI打造的CPU。OpenShell与Vera协同配合,既保障了智能体的安全运行,又能以最快的速度完成各项任务。作为一款开源软件,OpenShell还具备跨平台扩展能力,可适配包括Arm和Intel在内的第三方计算平台。

NVIDIA开放智能体安全平台的参考系统设计推出NVIDIA Sentry。这是一款运行于NVIDIA BlueField -4DPU上的带外安全监测器,可持续监测智能体行为。Sentry能够在芯片内实施安全管控,如果AI智能体(886099)试图越出其软件边界,Sentry可在数毫秒内将其隔离并停止运行。

Sentry在BlueField-4DPU上运行,可持续监测智能体活动,并在芯片中独立执行安全策略。它运行在隔离的带外信任域,融合了威胁检测、基于硬件的智能体治理与策略执行,以及数据访问保护等功能,既能实现实时响应,又对智能体和攻击者不可见。

Sentry基于NVIDIA DOCA 软件构建。借助该软件提供的可编程能力,Sentry可检查智能体的请求和响应,提供经过认证的遥测数据并验证智能体身份,同时对数据、工具、应用程序接口和服务实施精细化的零信任访问策略。

免责声明:风险提示:本文内容仅供参考,不代表同花顺观点。同花顺各类信息服务基于人工智能算法,如有出入请以证监会指定上市公司信息披露平台为准。如有投资者据此操作,风险自担,同花顺对此不承担任何责任。
homeBack返回首页
不良信息举报与个人信息保护咨询专线:10100571违法和不良信息涉企侵权举报涉算法推荐举报专区涉青少年不良信息举报专区

浙江同花顺互联信息技术有限公司版权所有

网站备案号:浙ICP备18032105号
证券投资咨询服务提供:浙江同花顺云软件有限公司 (中国证监会核发证书编号:ZX0050)
AIME