📖 AI 总结

NVIDIA 宣布将完整的 Run:ai 平台开源，作为 NVIDIA DSX AI Factory 平台的基础组成部分，向客户、开发者和生态伙伴开放生产级的 AI 工作负载与 GPU 编排能力。此次发布包含四个可独立采用的模块化组件：面向 GPU 感知的 Kubernetes 调度器 KAI Scheduler、实现 CUDA 原生 GPU 共享的 GPU Fractioning Operator、负责组织配额与层级管理的 KAI Resource Management，以及提供统一工作负载管理契约的 Workload Map。Crusoe、Mirantis、Nebius、OpenNebula Systems、Rafay、Saturn Cloud、Spectro Cloud 和 vCluster 等八家生态伙伴已宣布将其集成到各自产品中。此外，Model Streamer 和 Grove 两个开源项目分别加速模型加载与编排多组件推理工作负载。此举旨在提升工作负载吞吐量与 GPU 利用率，帮助各方更高效地运营共享 AI 基础设施，并加快 AI 工厂解决方案的上市速度。