NVIDIA 的 DOCA GPUNetIO 是一套以 GPU 为中心的网络 SDK 层,旨在让 CUDA 内核直接驱动以太网、RDMA、Verbs 和 DMA 操作,从而将 CPU 从应用关键路径中移除,解决主机驱动网络事务带来的延迟与瓶颈问题。该框架同时提供完整的 DOCA SDK 超集和轻量级开源 Verbs 实现,可在运行时检测 SDK 并通过 dlopen 调用闭源函数。其核心价值在于统一了 GDA-KI 基础,使 NCCL、NVSHMEM、UCX/NIXL 和 Holoscan Sensor Bridge 等通信库不再各自维护独立实现。NCCL GIN 自 2.27 版起集成开源 GPUNetIO Verbs 路径作为后端;NVSHMEM 3.7 引入基于 GPUNetIO 的传输层,在保持 IBGDA 性能的同时降低实现复杂度,基准测试显示其在小消息场景下具备更好的 CTA 与 QP 扩展性;NVQLink 借助该框架在 IGX Thor 平台上实现约 2.6 微秒的最小往返延迟。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅