📖 AI 总结

Red Hat与Nvidia在柏林GTC大会上宣布扩大合作，推出Red Hat AI Factory with Nvidia，旨在帮助企业保障自主AI智能体的安全、治理模型访问权限，并支持在Nvidia即将推出的Vera Rubin数据中心基础设施上部署工作负载。该方案针对两类风险：智能体越权行为和提示注入、供应链攻击等外部入侵，核心思路是将安全控制置于智能体及主机操作系统之外，由运行时和底层基础设施执行。技术层面，OpenShell提供智能体沙箱运行时，Nvidia Sentry安全框架运行于BlueField数据处理单元，通过DOCA Argus软件在独立硬件安全域中监控工作负载，可在毫秒级隔离受感染智能体，同时减轻主机CPU负担。合作还涵盖模型基础设施，联合参考设计整合模型即服务访问控制、AI网关与vLLM、Nvidia Dynamo、NIM微服务等推理技术，支持模型发现、访问策略、速率限制和订阅权益跟踪。