NVIDIA宣布推出CUDA Rust,旨在使Rust成为编写GPU内核的一等语言。该项目包含两个NVlabs开源工具:cuda-oxide(支持SIMT模型)和cutile-rs(支持Tile模型),两者均能原生编译Rust内核,并利用Rust的所有权规则在编译期拒绝别名错误。目前部署状态为部分可用:cutile-rs已发布在crates.io上,支持稳定版Rust 1.89+,并被Hugging Face的Grout推理引擎和mistral.rs采用;cuda-oxide仍处于早期alpha阶段。这一举措填补了Rust在GPU内核领域的空白,因为AI系统层(如推理引擎、驱动)已广泛使用Rust,但内核编写一直是例外。两个工具分别对应CUDA的两种编程模型,并计划支持与C++和Python的互操作,避免开发者被锁定。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅