英伟达发布AI智能体安全平台，含实时隔离异常智能体的Sentry系统

IT之家 9 月 28 日消息，英伟达今天发布开放式 AI 智能体安全平台（NVIDIA Open Agent Safety Platform），可对 AI 智能体、智能体硬件、机器人系统等进行全栈治理和控制。

IT之家从官方新闻稿获悉，该平台包含英伟达 OpenShell 安全软件，可对运行在 CPU 的 AI 智能体设定边界，支持开源 / 闭源模型。

同时，该工具在 Vera 平台的性能占用非常低。OpenShell 与 Vera 结合后，可让 AI 智能体在尽快完成工作的同时保证安全。OpenShell 作为开源软件可支持第三方平台，包括 Arm 和英特尔产品。

英伟达本次还宣布推出看门狗系统 NVIDIA Sentry，可持续监控 AI 智能体的行为。如果 AI 智能体试图突破软件枷锁，Sentry 可在毫秒时间内将其隔离、停止运行。

Sentry 运行在 BlueField-4 DPU 上，可以持续监控 AI 智能体的活动，在芯片层面独立执行安全策略。它将威胁检测、基于硬件的智能体治理与执行，以及数据访问保护结合，通过独立于智能体和攻击者、能够实时响应的带外信任域来实现上述功能。

此外，Anthropic、SpaceX 和 Scale AI 等公司已经与英伟达合作，将 OpenShell 用于其 AI 模型和智能体。