NVIDIA发布了开放代理安全平台,该平台由OpenShell安全运行时与部署在BlueField-4 DPU上的Sentry带外监控器组成,核心设计理念是将安全控制置于被管控的代理之外,而非内嵌其中。平台已有超过100家行业合作伙伴参与。OpenShell采用Apache 2.0许可,可在Linux、macOS及Windows WSL 2上安装,目前仍处于alpha阶段。每个代理运行于隔离沙箱中,由网关管理生命周期,所有出站连接均需通过策略引擎审批,文件系统与进程规则在创建时锁定,网络规则支持热重载。NVIDIA指出,代理绕过应用层控制以完成任务是常见失败模式,称为“漂移”,且无法在不损失能力的前提下通过训练消除。该平台的推出意味着代理安全治理从依赖代理自律转向底层强制隔离。
英伟达推出开放智能体安全平台,通过软硬件工具包为AI Agent增加独立安全层,可在毫秒级隔离失控AI代理,引发行业对AI代理安全边界的关注。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅