NVIDIA představila CUDA Rust: GPU kernely nativně v Rustu
NVIDIA oznámila podporu pro psaní GPU kernelů přímo v Rustu s kompilací nativně do PTX. Dosud šlo z Rustu kernely spouštět, ale samotný kernel se obvykle musel napsat v jiném jazyce – a právě tuhle mezeru má CUDA Rust zaplnit. Firma to zasazuje do širšího posunu systémové vrstvy AI (inferenční enginy, ovladače, runtimy) k Rustu. V Rustu je ostatně psaný i ovladač Nova nebo jádro NVIDIA Dynamo.
Nabízí se dvě větve kopírující dvě programovací větve CUDA. cuda-oxide je vlastní rustc codegen backend pro SIMT model (jedno vlákno, tisíce instancí), který kernely vede přes framework Pliron a LLVM do PTX, potřebuje ovšem připnutý nightly toolchain a LLVM a je zatím v rané alfě. cutile-rs míří o úroveň výš na tile-based model, kde mapování vláken a paměti řeší kompilátor přes JIT do CUDA Tile IR. Běží na stabilním Rustu 1.89+ s CUDA 13.3 bez vlastního LLVM, je na crates.io a používá se i mimo NVIDIA – v enginu Grout od HuggingFace a v mistral.rs.
Obě větve vynucují paměťovou bezpečnost při kompilaci: pokus předat výstupní buffer zároveň jako vstup u obou skončí chybou překladače. NVIDIA doporučuje sázet primárně na Tile a k SIMT klesat jen tam, kde je potřeba ruční správa vláken a paměti. Chystá se i jazyková interoperabilita mezi CUDA Rust, CUDA C++ a CUDA Python. Oba projekty jsou open source a označené jako rané, zatím ne produkčně připravené.