Přejít k navigační liště

Zdroják » Zprávičky » NVIDIA představila CUDA Rust: GPU kernely nativně v Rustu

NVIDIA představila CUDA Rust: GPU kernely nativně v Rustu

Zprávičky Různé

Nálepky:

NVIDIA oznámila podporu pro psaní GPU kernelů přímo v Rustu s kompilací nativně do PTX. Dosud šlo z Rustu kernely spouštět, ale samotný kernel se obvykle musel napsat v jiném jazyce – a právě tuhle mezeru má CUDA Rust zaplnit. Firma to zasazuje do širšího posunu systémové vrstvy AI (inferenční enginy, ovladače, runtimy) k Rustu. V Rustu je ostatně psaný i ovladač Nova nebo jádro NVIDIA Dynamo.

Nabízí se dvě větve kopírující dvě programovací větve CUDA. cuda-oxide je vlastní rustc codegen backend pro SIMT model (jedno vlákno, tisíce instancí), který kernely vede přes framework Pliron a LLVM do PTX, potřebuje ovšem připnutý nightly toolchain a LLVM a je zatím v rané alfě. cutile-rs míří o úroveň výš na tile-based model, kde mapování vláken a paměti řeší kompilátor přes JIT do CUDA Tile IR. Běží na stabilním Rustu 1.89+ s CUDA 13.3 bez vlastního LLVM, je na crates.io a používá se i mimo NVIDIA – v enginu Grout od HuggingFace a v mistral.rs.

Obě větve vynucují paměťovou bezpečnost při kompilaci: pokus předat výstupní buffer zároveň jako vstup u obou skončí chybou překladače. NVIDIA doporučuje sázet primárně na Tile a k SIMT klesat jen tam, kde je potřeba ruční správa vláken a paměti. Chystá se i jazyková interoperabilita mezi CUDA Rust, CUDA C++ a CUDA Python. Oba projekty jsou open source a označené jako rané, zatím ne produkčně připravené.

Komentáře

Odebírat
Upozornit na
guest
0 Komentářů
Nejstarší
Nejnovější Nejvíce hlasů

theme.json není jen konfigurace. Je to API pro design systému WordPressu

Soubor theme.json se často bere jako „ten JSON, kam se píšou barvy a velikosti písma“. Jenže kdo s ním pracuje déle, zjistí, že jde o něco zásadnějšího. Je to veřejné, verzované a vrstvené rozhraní, přes které spolu komunikuje téma, editor, pluginy i samotný uživatel. Když ho tak začnete chápat, změní se i to, jak navrhujete a udržujete šablony.

„Hazardují s našimi životy“: Odchod výzkumníka rozjel na X debatu o vyhubení lidstva AI

AI
Komentáře: 0
Debata o tom, zda umělá inteligence může přivodit konec lidstva, se přehnala sociální sítí X. Odchod bezpečnostního výzkumníka z Anthropicu a jeho odhad desetiprocentní pravděpodobnosti vyhynutí spustil vlnu, do níž se zapojil i šéf firmy Dario Amodei. Zatímco jedni volají po zpomalení vývoje, čerstvý report ukazuje, jak jsou modely zneužívány už dnes.