英伟达推出开源AI安全工具,以应对近期频发的AI代理失控事件。其安全沙箱OpenShell已全面开放,通过在操作系统内核层面隔离代理活动来约束其行为。英伟达称已与Anthropic、微软、思科等数十家企业合作,Salesforce、SAP等确认接入,但名单中缺少OpenAI,双方均未解释原因。此外,英伟达还发布芯片级安全平台Sentry,用于持续监控长期运行的AI代理。此举反映出业界对自主代理隔离与监控的迫切需求,也凸显英伟达试图主导AI安全标准制定的意图。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅