Přejít k navigační liště

Zdroják » Zprávičky » NVIDIA představila CUDA Rust: GPU kernely nativně v Rustu

NVIDIA představila CUDA Rust: GPU kernely nativně v Rustu

Zprávičky ‐ ‐ Různé ‐

Nálepky:

NVIDIA oznámila podporu pro psaní GPU kernelů přímo v Rustu s kompilací nativně do PTX. Dosud šlo z Rustu kernely spouštět, ale samotný kernel se obvykle musel napsat v jiném jazyce – a právě tuhle mezeru má CUDA Rust zaplnit. Firma to zasazuje do širšího posunu systémové vrstvy AI (inferenční enginy, ovladače, runtimy) k Rustu. V Rustu je ostatně psaný i ovladač Nova nebo jádro NVIDIA Dynamo.

Nabízí se dvě větve kopírující dvě programovací větve CUDA. cuda-oxide je vlastní rustc codegen backend pro SIMT model (jedno vlákno, tisíce instancí), který kernely vede přes framework Pliron a LLVM do PTX, potřebuje ovšem připnutý nightly toolchain a LLVM a je zatím v rané alfě. cutile-rs míří o úroveň výš na tile-based model, kde mapování vláken a paměti řeší kompilátor přes JIT do CUDA Tile IR. Běží na stabilním Rustu 1.89+ s CUDA 13.3 bez vlastního LLVM, je na crates.io a používá se i mimo NVIDIA – v enginu Grout od HuggingFace a v mistral.rs.

Obě větve vynucují paměťovou bezpečnost při kompilaci: pokus předat výstupní buffer zároveň jako vstup u obou skončí chybou překladače. NVIDIA doporučuje sázet primárně na Tile a k SIMT klesat jen tam, kde je potřeba ruční správa vláken a paměti. Chystá se i jazyková interoperabilita mezi CUDA Rust, CUDA C++ a CUDA Python. Oba projekty jsou open source a označené jako rané, zatím ne produkčně připravené.

Komentáře

Odebírat
Upozornit na
guest
0 Komentářů
Nejstarší
Nejnovější Nejvíce hlasů

Spacer.gif a tabulky v tabulkách: Jak se kdysi dělaly webové stránky

Kdo dnes napíše display: grid a za minutu má hotový třísloupcový layout, těžko si představí, jakou akrobacii to stálo před pětadvaceti lety. Webové stránky tehdy držely pohromadě vnořené tabulky, průhledné obrázky o velikosti jednoho pixelu a pevná víra, že to nikdo neotevře v jiném prohlížeči. Pojďme si připomenout, jak to fungovalo, proč to fungovalo a proč jsme s tím museli skončit.