Přejít k navigační liště

Zdroják » Zprávičky » NVIDIA představila CUDA Rust: GPU kernely nativně v Rustu

NVIDIA představila CUDA Rust: GPU kernely nativně v Rustu

Zprávičky ‐ ‐ Různé ‐

Nálepky:

NVIDIA oznámila podporu pro psaní GPU kernelů přímo v Rustu s kompilací nativně do PTX. Dosud šlo z Rustu kernely spouštět, ale samotný kernel se obvykle musel napsat v jiném jazyce – a právě tuhle mezeru má CUDA Rust zaplnit. Firma to zasazuje do širšího posunu systémové vrstvy AI (inferenční enginy, ovladače, runtimy) k Rustu. V Rustu je ostatně psaný i ovladač Nova nebo jádro NVIDIA Dynamo.

Nabízí se dvě větve kopírující dvě programovací větve CUDA. cuda-oxide je vlastní rustc codegen backend pro SIMT model (jedno vlákno, tisíce instancí), který kernely vede přes framework Pliron a LLVM do PTX, potřebuje ovšem připnutý nightly toolchain a LLVM a je zatím v rané alfě. cutile-rs míří o úroveň výš na tile-based model, kde mapování vláken a paměti řeší kompilátor přes JIT do CUDA Tile IR. Běží na stabilním Rustu 1.89+ s CUDA 13.3 bez vlastního LLVM, je na crates.io a používá se i mimo NVIDIA – v enginu Grout od HuggingFace a v mistral.rs.

Obě větve vynucují paměťovou bezpečnost při kompilaci: pokus předat výstupní buffer zároveň jako vstup u obou skončí chybou překladače. NVIDIA doporučuje sázet primárně na Tile a k SIMT klesat jen tam, kde je potřeba ruční správa vláken a paměti. Chystá se i jazyková interoperabilita mezi CUDA Rust, CUDA C++ a CUDA Python. Oba projekty jsou open source a označené jako rané, zatím ne produkčně připravené.

Komentáře

Odebírat
Upozornit na
guest
0 Komentářů
Nejstarší
Nejnovější Nejvíce hlasů

Začal jako projekt studentů Matfyzu. Český BIRD dnes pomáhá řídit provoz na největších internetových uzlech

Internet drží pohromadě i díky místům, kde se propojují sítě poskytovatelů připojení, cloudů nebo videoslužeb. S předáváním informací o tom, kudy jsou jednotlivé sítě dostupné, jim ve Frankfurtu, Londýně i Amsterdamu pomáhá český BIRD. Začal jako studentský projekt, po první verzi z roku 2000 léta spíš dřímal a soustavný vývoj obnovil až CZ.NIC. Ve své úloze uspěl tak výrazně, že největší uzly nakonec začaly platit vývoj konkurenčního softwaru, aby nebyly závislé jen na něm.

WebSocket: Jak dostat webovou aplikaci do reálného času

Chat, živé notifikace, společná úprava dokumentu nebo průběžně aktualizované kurzy. Uživatelé dnes čekají, že se webová aplikace změní ve chvíli, kdy se změní data, a ne až po stisknutí klávesy F5. Protokol WebSocket je nejrozšířenější způsob, jak mezi prohlížečem a serverem vytvořit trvalý obousměrný kanál. V článku se podíváme, jak funguje pod kapotou, jak ho použít v prohlížeči i na serveru a na co si dát pozor při nasazení do produkce.