Kaip įdiegti CUDA sistemoje „Windows“ be klaidų: vadovas kūrėjams ir kūrėjams

CUDA diegimas sistemoje „Windows“ Nereikia vargti, jei žinote, nuo ko pradėti ir ką patikrinti kiekviename žingsnyje. Šiame straipsnyje aš jums padėsiu praktiškai, su visais suderinamumo, diegimo, tikrinimo ir įprastų trikčių šalinimo niuansais, kad įrankių rinkinys jūsų kompiuteryje veiktų nepriekaištingai iš pirmo karto.

Be klasikinio „Toolkit“ diegimo „Windows“ sistemoje, taip pat sužinosite, kaip naudoti CUDA su WSL, įdiegti ją naudojant „Conda“ arba „pip“, kompiliuoti pavyzdžius naudojant „Visual Studio“ ir suprasti skirtingus NVIDIA tvarkyklių modelius sistemoje „Windows“. Informacija yra vieninga ir naujausia. Remiantis oficialiais vadovais ir realiais scenarijais, kurie gali jums nutikti, pavyzdžiui, nešiojamuoju kompiuteriu su hibridiniu AMD iGPU + NVIDIA dGPU GPU.

Kas yra CUDA ir ką ji siūlo sistemoje „Windows“?

CUDA Tai yra NVIDIA lygiagretaus programavimo platforma ir modelis, kuris leidžia spartinti programas naudojant GPUNuo dirbtinio intelekto ir duomenų mokslo iki modeliavimo ir vaizdų apdorojimo. Praktiškai įdiegus „CUDA Toolkit“ sistemoje „Windows“, gausite „nvcc“ kompiliatorių, vykdymo aplinką, tokias bibliotekas kaip „cuBLAS“, „cuFFT“, „cuRAND“ ir „cuSOLVER“, derinimo ir profiliavimo įrankius bei paruoštus kompiliavimui pavyzdžius.

CUDA dizainas leidžia lengvai derinti procesorių ir grafikos plokštę toje pačioje programoje: dalys procesoriaus serijiniai numeriai ir lygiagrečios GPU sekcijos, kurios užtikrina šimtus ar tūkstančius lygiagrečiai veikiančių gijų. Dėl bendros atminties luste ir optimizuotų bibliotekų, našumo šuolis Paprastai tai pastebima esant dideliam krūviui.

Sistemos ir kompiliatoriaus suderinamumas sistemoje „Windows“

Prieš naudojant diegimo programą, patartina patikrinti suderinamumą. Suderinama Windows Naujausios įrankių rinkinio versijos: „Windows 11 24H2“, „23H2“ ir „22H2-SV2“; „Windows 10 22H2“; ir „Windows Server 2022“ bei „2025“.

Kompiliatoriuose tipinė parama apima MSVC 193x su „Visual Studio 2022 17.x“ ir MSVC 192x su „Visual Studio 2019 16.x“, su C++11, C++14, C++17 ir C++20 dialektais (priklausomai nuo versijos). „Visual Studio 2015“ nebenaudojama CUDA 11.1 versijoje; VS 2017 nebenaudojama 12.5 versijoje ir pašalinta 13.0 versijoje. Patikrinkite tikslią savo versijos matricą kad išvengtų išgąsčio.

Svarbu senesniems projektams: pradedant nuo CUDA 12.0, 32 bitų kompiliavimas pašalinamas, o 32 bitų x86 dvejetainių failų vykdymas x64 sistemose yra apribotas iki vairuotojas, kvartalas ir matematika „GeForce“ GPU iki „Ada“ architektūros; „Hopper“ nebepalaiko 32 bitų.

Pasirinkite ir įdiekite įrankių rinkinį sistemoje „Windows“

Atsisiųskite diegimo programą iš oficialios NVIDIA CUDA svetainės. Galite pasirinkti tinklo diegimo programą (minimalus atsisiuntimas, kuriam atlikti reikalingas internetas) arba pilnas diegimo įrankis (viskas viename pakete, naudingas mašinos be tinklo (arba įmonės diegimai). Atsisiuntę patikrinkite vientisumą naudodami kontrolinę sumą (pvz., MD5), kad išvengtumėte sugadinimo.

Paleiskite grafinį diegimo programą ir vykdykite ekrane pateikiamus veiksmus. Perskaitykite savo versijos išleidimo pastabas nes jame išsamiai aprašomi pakeitimai, tikslūs suderinamumai ir svarbūs įspėjimai. Nuo CUDA 13 versijos „Toolkit“ diegimo programoje tvarkyklė nebeįtraukiama. NVIDIA tvarkyklė įdiegiama atskirai. iš atitinkamo tvarkyklių puslapio.

Tylus montavimas ir komponentų parinkimas

Jei reikia diegti tyliai, diegimo programa priima režimą be sąsajos su parinktimi -s ir leidžia pasirinkti konkrečius subpaketus pagal pavadinimą, o ne diegiant viską. Taip pat galite užkirsti kelią automatiniam paleidimui iš naujo naudodami -n. Šis detalumas naudingas norint pritaikyti kūrimo aplinkas ir sumažinti savo pėdsaką.

Tarp įprastų subpaketų rasite tokių elementų kaip nvcc, cudart, cuBLAS, cuFFT, cuRAND, cuSOLVER, cuSPARSE„Nsight Compute“, „Nsight Systems“, „Visual Studio“ integracija, NVRTC, NVTX, NVJitLink, deangleriai ir tokios programos kaip „cuobjdump“ arba „nvdisasm“. Jei ketinate kompiliuoti ir profiliuoti, pasirinkite „Nsight“ įrankiusJei tiesiog paleisite, vykdymo laiko gali pakakti.

Išskleiskite diegimo programą ir peržiūrėkite jos turinį

Audito ar korporacinio paketo atveju visą diegimo programą galima išskleisti naudojant LZMA palaikančias priemones, tokias kaip „7-Zip“ arba „WinZip“. Rasite CUDAToolkit medį ir modulius „Visual Studio“ integracijos failai yra atskiruose aplankuose. Šiuose aplankuose esantys .dll ir .nvi failai nėra paties diegiamo turinio dalis.

Įdiekite CUDA sistemoje „Windows“ naudodami „Conda“

Jei pageidaujate valdyti aplinką naudodami „Conda“, „NVIDIA“ skelbia paketus adresu anaconda.org/nvidia. Pagrindinis įrankių rinkinio diegimas Tai atliekama viena komanda „conda install“, o ankstesnes versijas taip pat galite pataisyti pridėdami žymę „release“, pavyzdžiui, norėdami užrakinti 11.3.1 versiją. pašalinti Tai lygiai taip pat tiesiogiai.

Įdiekite CUDA per PIP (ratus)

„NVIDIA“ siūlo „Python“ valdymo ratukus, skirtus „CUDA“ vykdymo aplinkai „Windows“ sistemoje. Jie pirmiausia skirti naudojant CUDA su Python ir juose nėra visų kūrimo įrankių. Pirmiausia įdiekite „nvidia-pyindex“, kad „pip“ žinotų „NVIDIA NGC“ indeksą, ir įsitikinkite, kad „pip“ ir „setuptools“ yra atnaujinti, kad išvengtumėte klaidų. Tada įdiekite metapaketus kurio jums reikia, pvz., „nvidia-cuda-runtime-cu12“ arba „nvidia-cublas-cu12“.

Šie metapaketai skirti konkretiems paketams, tokiems kaip „nvidia-cublas-cu129“, „nvidia-cuda-nvrtc-cu129“, „nvidia-npp-cu129“ ir kitiems. Atminkite, kad aplinką tvarko pip.Jei norite naudoti CUDA už virtualiojo tinklo ribų, turėsite pakoreguoti sistemos kelius ir kintamuosius, kad jie būtų teisingai susieti.

Patikrinkite diegimą sistemoje „Windows“

Atidarykite komandų eilutę ir paleiskite nvcc -V, kad patvirtintumėte įdiegtą versiją. Klonuokite CUDA pavyzdžius Atsisiųskite pavyzdžius iš „GitHub“ ir sukompiliuokite juos naudodami „Visual Studio“. Paleiskite „deviceQuery“ ir „bandwidthTest“: jei ryšys su GPU sėkmingas, pamatysite, kad įrenginys aptiktas ir išlaikius testus Klaidų nėra. Jei „deviceQuery“ neranda įrenginių, patikrinkite tvarkyklę ir ar GPU matoma sistemoje.

WSL su CUDA pagreičiu

„Windows 11“ ir naujausios „Windows 10“ versijos palaiko CUDA pagreitintų ML sistemų ir įrankių paleidimą WSL viduje, įskaitant „PyTorch“, „TensorFlow“ ir „Docker“ Naudodami „NVIDIA Container Toolkit“, pirmiausia įdiekite CUDA palaikančią tvarkyklę WSL, tada įjunkite WSL ir įdiekite „glibc“ platinimą, pvz., „Ubuntu“ arba „Debian“.

Įsitikinkite, kad turite atnaujintą WSL branduolį (bent 5.10.43.3 versiją). Patikrinkite tai su Naudokite „wsl cat /proc/version“ iš „PowerShell“. Tada vadovaukitės „CUDA“ vartotojo vadovu WSL kalba, kad įdiegtumėte bibliotekas ir konteinerius ir pradėtumėte vykdyti „Linux“ darbo eigas „Windows“ sistemoje neišeidami iš savo aplinkos.

CUDA pašalinimas sistemoje „Windows“

Įdiegę „CUDA“ sistemoje „Windows“, ar norite grįžti prie ankstesnės versijos? Visus subpaketus galima grąžinti. Pašalinimas iš valdymo skydelio Programų ir funkcijų naudojimas. Jei įrankių rinkinį tvarkote naudodami „Conda“ arba „pip“, naudokite kiekvieno tvarkyklės pašalinimo mechanizmus, kad nepaliktumėte jokių paketų likučių.

Versijų suderinamumo pastabos

CUDA 11.8 buvo labai populiari versija dėl savo stabilumo ir ekosistemos palaikymo. Tipiniai reikalavimai 11.8 versijai: GPU su „Compute Capability 3.0“ arba naujesne versija, 64 bitų, mažiausiai 8 GB RAM ir bent 4 GB GPU atminties. „Linux“ sistemoje gerai integruojasi su tokiomis platinimo versijomis kaip „Ubuntu 18.04/20.04“, „RHEL/CentOS 7/8“ ir kt.

CUDA 12.x versijoje įdiegti vykdymo laiko ir bibliotekos patobulinimai bei įtrauktos priklausomybės nuo naujausi tvarkyklės„CUDA 13“ visam laikui atskiria tvarkyklę nuo „Toolkit“ diegimo programos: nepamirškite tvarkyklės įdiegti patys. Svarbus paaiškinimasCUDA yra NVIDIA technologija ir jai reikalingos NVIDIA GPU; jei kur nors matote, kad ji taip pat suderinama su AMD GPU, tai netinka CUDA rinkiniui.

CUDA diegimas sistemoje „Windows“: dažniausiai pasitaikančių problemų šalinimas

• Diegimo programa nepavyksta arba nebaigia darbo.Patikrinkite diegimo žurnalus ir patikrinkite antivirusinę programą, disko vietą ir administratoriaus teises. Jei tinklas nestabilus, bandykite dar kartą naudodami pilną diegimo programą arba tylųjį režimą, jei yra vartotojo sąsajos konfliktų.
• „deviceQuery“ neaptinka GPUPatikrinkite, ar tvarkyklė teisinga, ar GPU aktyvus ir ar programa naudoja dGPU. Jei reikia, atnaujinkite tvarkyklę ir iš naujo įdiekite įrankių rinkinį.
• Konfliktai su knygynaisJei įdiegėte kelis įrankių rinkinius, patikrinkite CUDA_PATH ir PATH. „Python“ programoje patikrinkite, ar „PyTorch“ arba „TensorFlow“ versijos ir jų konfigūracijos suderinamos su jūsų CUDA/cuDNN versija.
• „Visual Studio“ nekompiliuoja .cu failoPridėkite CUDA kūrimo pritaikymus prie savo projekto ir pažymėkite .cu failus kaip CUDA C/C++. Įsitikinkite, kad MSVC suderinamas su jūsų įrankių rinkiniu.

Įrankiai, pavyzdžiai ir dokumentacija

Be „nvcc“ ir bibliotekų, „CUDA“ diegimo „Windows“ įrankių rinkinyje yra profiliai ir analizatoriai, tokie kaip „Nsight Systems“ ir „Nsight Compute“, bei HTML/PDF dokumentacija, skirta „CUDA C++“ kalbai. geresnę praktikąOficialūs pavyzdžiai yra „GitHub“ ir yra puikus pagrindas tvarkyklių, atminties našumo ir daugiaprocesorių sistemų patvirtinimui.

Kada naudoti „Conda“ arba „pip“, o kada – klasikinį diegimo įrankį

„Conda“ ir „pip“ idealiai tinka, kai daugiausia dėmesio skiriama ML sistemų, kurios jau pakuoja priklausomybes, atitinkančias konkrečias CUDA versijas, veikimui. PrivalumasAplinkos izoliacija ir mažesnė trintis. Trūkumas: norint kurti gimtąja C++ kalba arba visiškai integruoti su VS, siūlomas klasikinis „Toolkit“ diegimo įrankis. visos priemonės ir pati išsamiausia patirtis.

Greiti DUK

• Kaip sužinoti, ar mano GPU suderinama su CUDA? Atidarykite Įrenginių tvarkytuvę, eikite į Vaizdo adapteriai ir patikrinkite modelį; palyginkite jį su oficialiu NVIDIA CUDA GPU sąrašu. Taip pat galite paleisti nvidia-smi ir patvirtinti, kad Jūsų GPU pasirodo.
• Ar galiu treniruotis be CUDA? Taip, tai veiks su procesoriumi, bet bus lėtesnis. Norėdami naudoti GPU su „PyTorch“ arba „TensorFlow“ sistemoje „Windows“, būtinai įdiekite suderinamos versijos su savo CUDA versija arba naudokite WSL su NVIDIA konteineriais.
• Konkrečios senesnės versijosKai kuriems įrankiams reikalingi tokie deriniai kaip „CUDA 10.1“ su „cuDNN 7.6.4“. Tokiu atveju įdiekite būtent tas versijas ir įdėkite cuDNN DLL atitinkamo įrankių rinkinio šiukšliadėžės aplanke, vengiant kelių cuDNN vienu metu.

Jei norite įdiegti „CUDA“ sistemoje „Windows“ ir pagreitinti savo darbą naudodamiesi išsamiu vadovu, aukščiau pateikti veiksmai ir rekomendacijos padės jums viską atlikti. Tinka kaip pirštinė. nuo pirmojo pastatymo.