Kā instalēt CUDA operētājsistēmā Windows bez kļūdām: ceļvedis izstrādātājiem un veidotājiem

CUDA instalēšana operētājsistēmā Windows Tam nav jābūt par galvassāpēm, ja zināt, ar ko sākt un kas jāpārbauda katrā solī. Šajā rakstā es jūs vadīšu praktiskā veidā, ar visām saderības, instalēšanas, verifikācijas un izplatītākās problēmu novēršanas niansēm, lai nodrošinātu, ka rīkkopa jūsu datorā darbojas nevainojami jau pirmajā reizē.

Papildus klasiskās Toolkit instalēšanas apskatei operētājsistēmā Windows, jūs arī redzēsiet, kā lietot CUDA ar WSL, instalēt to ar Conda vai pip, kompilēt piemērus ar Visual Studio un izprast dažādos NVIDIA draiveru modeļus operētājsistēmā Windows. Informācija ir vienota un aktuāla. Balstīts uz oficiālām rokasgrāmatām un reālās dzīves scenārijiem, kas ar jums varētu notikt, piemēram, klēpjdators ar hibrīda AMD iGPU + NVIDIA dGPU GPU.

Kas ir CUDA un ko tā piedāvā operētājsistēmā Windows?

CUDA Tā ir NVIDIA paralēlās programmēšanas platforma un modelis, kas to ļauj paātriniet lietojumprogrammas ar GPUNo mākslīgā intelekta un datu zinātnes līdz simulācijām un attēlu apstrādei. Praktiskā līmenī, instalējot CUDA Toolkit operētājsistēmā Windows, jūs iegūstat nvcc kompilatoru, izpildlaika vidi, bibliotēkas, piemēram, cuBLAS, cuFFT, cuRAND un cuSOLVER, atkļūdošanas un profilēšanas rīkus, kā arī kompilēšanai gatavus piemērus.

CUDA dizains atvieglo centrālā procesora un grafiskā procesora (CPU) apvienošanu vienā lietojumprogrammā: detaļas sērijas numuri procesorā un paralēlās sadaļas GPU, kas nodrošina simtiem vai tūkstošiem paralēli darbojošos pavedienu. Pateicoties koplietotajai mikroshēmas atmiņai un optimizētajām bibliotēkām, veiktspējas lēciens Tas parasti ir pamanāms intensīvas slodzes laikā.

Sistēmas un kompilatora saderība operētājsistēmā Windows

Pirms instalētāja lietošanas ieteicams pārbaudīt saderību. Saderīgs Windows Jaunākās rīkkopa versijas ietver: Windows 11 24H2, 23H2 un 22H2-SV2; Windows 10 22H2; un Windows Server 2022 un 2025.

Kompilatoros tipisks atbalsts ietver MSVC 193x ar Visual Studio 2022 17.x un MSVC 192x ar Visual Studio 2019 16.x, ar C++11, C++14, C++17 un C++20 dialektiem (atkarībā no versijas). Visual Studio 2015 tika novecojis CUDA 11.1 versijā; VS 2017 tika novecojis 12.5 versijā un noņemts 13.0 versijā. Pārbaudiet savas versijas precīzu matricu lai izvairītos no bailēm.

Svarīgi mantotajiem projektiem: Sākot ar CUDA 12.0, 32 bitu kompilācija ir noņemta, un 32 bitu x86 bināro failu izpilde x64 sistēmās ir ierobežota līdz vadītājs, kvartāls un matemātika GeForce GPU līdz Ada arhitektūrai; Hopper vairs neatbalsta 32 bitus.

Atlasiet un instalējiet rīkkopu operētājsistēmā Windows

Lejupielādējiet instalētāju no oficiālās NVIDIA CUDA vietnes. Varat izvēlēties tīkla instalētāju (minimāla lejupielāde, kas pārējam izmanto internetu) vai pilns instalētājs (viss vienā pakotnē, noderīgs mašīnas bez tīkla (vai uzņēmuma izvietojumi). Pēc lejupielādes pārbaudiet integritāti ar kontrolsummu (piemēram, MD5), lai izslēgtu bojājumus.

Palaidiet grafisko instalētāju un izpildiet ekrānā redzamos norādījumus. Izlasiet savas versijas laidiena piezīmes jo tajā ir sīki aprakstītas izmaiņas, precīza saderība un kritiski brīdinājumi. Sākot ar CUDA 13, Toolkit instalētājā vairs nav iekļauts draiveris. NVIDIA draiveris tiek instalēts atsevišķi. no atbilstošās draiveru lapas.

Klusa uzstādīšana un komponentu izvēle

Ja nepieciešama klusa izvietošana, instalētājs pieņem bezsaskarnes režīmu ar opciju -s un atļauj atlasīt konkrētas apakšpakotnes pēc nosaukuma, nevis instalējot visu. Varat arī novērst automātisku restartēšanu, izmantojot -n. Šī granularitāte ir noderīga, lai pielāgotu veidošanas vidi un samazinātu jūsu ietekmi.

Starp parastajām apakšpakotnēm jūs atradīsiet tādus vienumus kā nvcc, cudart, cuBLAS, cuFFT, cuRAND, cuSOLVER, cuSPARSENsight Compute, Nsight Systems, Visual Studio integrācija, NVRTC, NVTX, NVJitLink, demangleri un utilītas, piemēram, cuobjdump vai nvdisasm. Ja grasāties kompilēt un profilēt, izvēlieties Nsight rīkusJa jūs to vienkārši palaižat, izpildlaiks varētu būt pietiekams.

Izvelciet instalētāju un pārskatiet saturu

Audita vai korporatīvās pakotnes izveidei pilnu instalētāju var izvilkt, izmantojot LZMA atbalstošus rīkus, piemēram, 7-Zip vai WinZip. Jūs atradīsiet CUDAToolkit koku un moduļus Visual Studio integrācijas faili ir ievietoti atsevišķās mapēs. Šajās mapēs esošie .dll un .nvi faili nav daļa no paša instalējamā satura.

Instalējiet CUDA operētājsistēmā Windows, izmantojot Conda

Ja vēlaties pārvaldīt vidi, izmantojot Conda, NVIDIA publicē pakotnes vietnē anaconda.org/nvidia. Rīkkopa pamata instalēšana To var izdarīt ar vienu komandu `conda install`, un iepriekšējās versijas var labot arī, pievienojot tagu `release`, piemēram, lai bloķētu versiju 11.3.1. atinstalēt Tas ir tikpat tieši.

Instalējiet CUDA, izmantojot pip (riteņus)

NVIDIA piedāvā Python diskus, kas koncentrējas uz CUDA izpildlaiku operētājsistēmai Windows. Tie galvenokārt paredzēti izmantojot CUDA ar Python un tie neietver pilnus izstrādes rīkus. Vispirms instalējiet nvidia-pyindex, lai pip zinātu NVIDIA NGC indeksu, un pārliecinieties, vai pip un setuptools ir atjaunināti, lai izvairītos no kļūdām. Pēc tam instalējiet metapakas kas jums nepieciešams, piemēram, nvidia-cuda-runtime-cu12 vai nvidia-cublas-cu12.

Šīs metapakotnes ir paredzētas konkrētām pakotnēm, piemēram, nvidia-cublas-cu129, nvidia-cuda-nvrtc-cu129, nvidia-npp-cu129 un citām. Atcerieties, ka vidi pārvalda pip.Ja vēlaties izmantot CUDA ārpus virtualenv, jums būs jāpielāgo sistēmas ceļi un mainīgie, lai pareizi izveidotu saiti.

Pārbaudiet instalēšanu operētājsistēmā Windows

Atveriet komandu uzvedni un palaidiet nvcc -V, lai apstiprinātu instalēto versiju. Klonēt CUDA paraugus Lejupielādējiet piemērus no GitHub un kompilējiet tos, izmantojot Visual Studio. Palaidiet deviceQuery un bandwidthTest: ja saziņa ar GPU ir veiksmīga, jūs redzēsiet, ka ierīce ir atrasta un nokārtojot testus Nav kļūdu. Ja deviceQuery neatrod ierīces, pārbaudiet draiveri un to, vai GPU ir redzams sistēmā.

WSL ar CUDA paātrinājumu

Windows 11 un jaunākās Windows 10 versijas atbalsta CUDA paātrinātu mašīnmācīšanās ietvaru un rīku palaišanu WSL ietvaros, tostarp PyTorch, TensorFlow un Docker Izmantojot NVIDIA Container Toolkit, vispirms instalējiet CUDA iespējotu draiveri WSL, pēc tam iespējojiet WSL un instalējiet glibc izplatījumu, piemēram, Ubuntu vai Debian.

Pārliecinieties, vai jums ir atjaunināts WSL kodols (vismaz 5.10.43.3). Pārbaudiet to ar Izmantojiet PowerShell komandu `wsl cat /proc/version`. Pēc tam izpildiet CUDA lietotāja rokasgrāmatu WSL valodā, lai instalētu bibliotēkas un konteinerus un sāktu palaist Linux darbplūsmas operētājsistēmā Windows, neizejot no savas vides.

Atinstalēt CUDA operētājsistēmā Windows

Pēc CUDA instalēšanas operētājsistēmā Windows, vai vēlaties atgriezties pie iepriekšējās versijas? Visas apakšpakotnes var atjaunot. Atinstalēt no vadības paneļa Programmu un funkciju izmantošana. Ja rīkkopu pārvaldāt, izmantojot Conda vai pip, izmantojiet katra pārvaldnieka atinstalēšanas mehānismus, lai izvairītos no pakotņu atlieku atstāšanas.

Versiju saderības piezīmes

CUDA 11.8 versija bija ļoti populāra, pateicoties tās stabilitātei un ekosistēmas atbalstam. Tipiskas prasības 11.8 versijai: GPU ar Compute Capability 3.0 vai jaunāku versiju, 64 bitu, vismaz 8 GB RAM un vismaz 4 GB GPU atmiņas. Linux vidē tas labi integrējas ar tādām distribūcijām kā Ubuntu 18.04/20.04, RHEL/CentOS 7/8 utt.

CUDA 12.x ievieš izpildlaika un bibliotēkas uzlabojumus un nostiprina atkarības no jaunākie draiveriCUDA 13 neatgriezeniski atdala draiveri no Toolkit instalētāja: atcerieties instalēt draiveri pašam. Svarīgs precizējumsCUDA ir NVIDIA tehnoloģija un tai nepieciešamas NVIDIA GPU; ja kaut kur redzat, ka tā ir saderīga arī ar AMD GPU, tas nav pareizi CUDA stekam.

CUDA instalēšana operētājsistēmā Windows: bieži sastopamu problēmu novēršana

• Instalētājs neizdodas vai nepabeidz darbu.Pārbaudiet instalētāja žurnālus un pārbaudiet pretvīrusu programmu, diska vietu un administratora atļaujas. Mēģiniet vēlreiz ar pilno instalētāju, ja tīkls ir nestabils, vai klusajā režīmā, ja ir lietotāja interfeisa konflikti.
• deviceQuery neatpazīst GPUPārbaudiet, vai draiveris ir pareizs, vai GPU ir aktīvs un vai lietotne izmanto dGPU. Ja nepieciešams, atjauniniet draiveri un atkārtoti instalējiet rīkkopu.
• Konflikti ar grāmatnīcāmJa ir instalēti vairāki rīku komplekti, validējiet CUDA_PATH un PATH. Python valodā pārbaudiet, vai PyTorch vai TensorFlow versijas un to konfigurācijas ir saderīgas ar jūsu CUDA/cuDNN versiju.
• Visual Studio nekompilē .cu failuPievienojiet savam projektam CUDA būvēšanas pielāgojumus un atzīmējiet .cu failus kā CUDA C/C++. Pārliecinieties, vai MSVC ir saderīgs ar jūsu rīkkopu.

Instrumenti, paraugi un dokumentācija

Papildus nvcc un bibliotēkām, rīkkopa CUDA instalēšanai operētājsistēmā Windows ietver profilus un analizatorus, piemēram, Nsight Systems un Nsight Compute, kā arī HTML/PDF dokumentāciju CUDA C++ valodai. labāka prakseOficiālie piemēri ir pieejami vietnē GitHub un ir lielisks pamats draiveru, atmiņas veiktspējas un daudzprocesoru validācijai.

Kad lietot Conda vai PIP, nevis klasisko instalētāju

Conda un pip ir ideāli piemēroti, ja jūsu uzmanības centrā ir tādu mašīnmācīšanās ietvaru darbība, kas jau iesaiņo atkarības, kas atbilst konkrētām CUDA versijām. PriekšrocībaVides izolācija un mazāka berze. Trūkums: Izstrādei vietējā C++ valodā vai pilnīgai integrācijai ar VS piedāvā klasisko Toolkit instalētāju visi instrumenti un vispilnīgākā pieredze.

Ātrie bieži uzdotie jautājumi

• Kā es varu zināt, vai mana GPU ir saderīga ar CUDA? Atveriet ierīču pārvaldnieku, dodieties uz sadaļu Displeja adapteri un pārbaudiet modeli; salīdziniet to ar NVIDIA oficiālo CUDA GPU sarakstu. Varat arī palaist nvidia-smi un apstiprināt, ka Jūsu GPU parādās.
• Vai es varu trenēties bez CUDA? Jā, tas darbosies ar centrālo procesoru, bet būs lēnāks. Lai izmantotu GPU ar PyTorch vai TensorFlow operētājsistēmā Windows, pārliecinieties, vai esat instalējis saderīgas versijas ar savu CUDA versiju vai izmantojiet WSL ar NVIDIA konteineriem.
• Konkrētas vecākas versijasDažiem rīkiem ir nepieciešamas kombinācijas, piemēram, CUDA 10.1 ar cuDNN 7.6.4. Šādā gadījumā instalējiet tieši šīs versijas un ievietojiet cuDNN DLL atbilstošā rīkkopa mapē “bin”, izvairoties no vairāku cuDNN vienlaicīgas izmantošanas.

Ja vēlaties instalēt CUDA operētājsistēmā Windows un paātrināt savu darbu ar pilnīgu rokasgrāmatu, iepriekš minētās darbības un ieteikumi palīdzēs jums visu paveikt. Tas der kā cimds. no pirmās konstrukcijas.