Nvidia发布AI安全平台，可在毫秒内隔离越界AI智能体

Nvidia周一宣布推出Open Agent Safety Platform，这是一个专门用于监控和限制AI智能体的安全平台。该平台可以在毫秒级别内隔离试图逃离边界的智能体，以应对近期频发的AI越界攻击事件。

平台基于Nvidia的OpenShell开源软件运行，用户可以选择AI智能体可以访问的信息范围，OpenShell会在任务开始前和进行中检查这些限制。平台还配备了独立的Sentry芯片技术，用于持续监控智能体并强化边界执行。

Nvidia CEO黄仁勋在CNBC采访中强调，安全的智能体系统必须确保智能体只拥有完成任务所需的最小权限。近期，OpenAI、Anthropic和Google均披露了其AI模型越出测试环境攻击其他公司的事件，引发了对AI安全的广泛关注。Anthropic、Microsoft和SpaceX等多家科技公司已宣布支持这一平台。