Sut i osod CUDA ar Windows heb wallau: canllaw i ddatblygwyr a chrewyr

Gosod CUDA ar Windows Nid oes rhaid iddo fod yn gur pen os ydych chi'n gwybod ble i ddechrau a beth i'w wirio ym mhob cam. Yn yr erthygl hon, byddaf yn eich tywys mewn ffordd ymarferol, gyda holl fanylion cydnawsedd, gosod, gwirio a datrys problemau cyffredin i sicrhau bod y pecyn cymorth yn gweithio'n berffaith ar eich cyfrifiadur y tro cyntaf.

Yn ogystal â thrafod y gosodiad Toolkit clasurol ar Windows, byddwch hefyd yn gweld sut i ddefnyddio CUDA gyda WSL, ei osod gyda Conda neu pip, llunio enghreifftiau gyda Visual Studio, a deall y gwahanol fodelau gyrwyr NVIDIA ar Windows. Mae'r wybodaeth yn unedig ac yn gyfredol. Yn seiliedig ar ganllawiau swyddogol a senarios bywyd go iawn a allai ddigwydd i chi, fel gliniadur gyda GPU hybrid AMD iGPU + NVIDIA dGPU.

Beth yw CUDA a beth mae'n ei gynnig yn Windows?

CUDA Platfform a model rhaglennu cyfochrog NVIDIA sy'n caniatáu cyflymu cymwysiadau gyda'r GPUO AI a gwyddor data i efelychiadau a phrosesu delweddau. Ar lefel ymarferol, mae gosod Pecyn Cymorth CUDA ar Windows yn rhoi'r crynhoydd nvcc, amser rhedeg, llyfrgelloedd fel cuBLAS, cuFFT, cuRAND, a cuSOLVER, offer dadfygio a phroffilio, ac enghreifftiau parod i'w llunio i chi.

Mae dyluniad CUDA yn ei gwneud hi'n hawdd cymysgu CPU a GPU yn yr un cymhwysiad: y rhannau cyfresolion yn y prosesydd a'r adrannau cyfochrog ar y GPU, sy'n darparu cannoedd neu filoedd o edafedd yn rhedeg yn gyfochrog. Diolch i gof ar y sglodion a rennir a llyfrgelloedd wedi'u optimeiddio, y naid perfformiad Fel arfer mae'n amlwg o dan lwythi dwys.

Cydnawsedd system a chyfieithydd yn Windows

Cyn defnyddio'r gosodwr, mae'n ddoeth gwirio cydnawsedd. Ffenestri Cydnaws Mae fersiynau diweddar o'r pecyn cymorth yn cynnwys: Windows 11 24H2, 23H2 a 22H2-SV2; Windows 10 22H2; a Windows Server 2022 a 2025.

Mewn crynhowyr, mae cefnogaeth nodweddiadol yn cynnwys MSVC 193x gyda Visual Studio 2022 17.x ac MSVC 192x gyda Visual Studio 2019 16.x, gyda thafodieithoedd C++11, C++14, C++17, a C++20 (yn dibynnu ar y fersiwn). Cafodd Visual Studio 2015 ei ddirymu yn CUDA 11.1; cafodd VS 2017 ei ddirymu yn 12.5 a'i ddileu yn 13.0. Gwiriwch union fatrics eich fersiwn i osgoi dychryn.

Pwysig ar gyfer prosiectau etifeddiaeth: Gan ddechrau gyda CUDA 12.0, mae crynhoad 32-bit wedi'i ddileu, ac mae gweithredu ffeiliau deuaidd x86 32-bit ar systemau x64 wedi'i gyfyngu i gyrrwr, cwart a mathemateg ar GPUs GeForce hyd at bensaernïaeth Ada; nid yw Hopper bellach yn cefnogi 32 bit.

Dewiswch a gosodwch y Pecyn Cymorth ar Windows

Lawrlwythwch y gosodwr o wefan swyddogol NVIDIA CUDA. Gallwch ddewis Gosodwr Rhwydwaith (lawrlwythiad lleiaf sy'n defnyddio'r rhyngrwyd am weddill y stori) neu'r Gosodwr Llawn (y cyfan mewn un pecyn, yn ddefnyddiol ar gyfer peiriannau heb rwydwaith neu leoliadau menter). Ar ôl lawrlwytho, gwiriwch uniondeb gyda'r swm gwirio (e.e., MD5) i ddiystyru llygredd.

Rhedwch y gosodwr graffigol a dilynwch y camau ar y sgrin. Darllenwch y Nodiadau Rhyddhau ar gyfer eich fersiwn oherwydd ei fod yn manylu ar newidiadau, cydnawseddau union, a rhybuddion critigol. Gan ddechrau gyda CUDA 13, nid yw gosodwr y Pecyn Cymorth yn cynnwys y gyrrwr mwyach. Mae'r gyrrwr NVIDIA wedi'i osod ar wahân. o'r dudalen gyrwyr gyfatebol.

Gosod distaw a dewis cydrannau

Os oes angen i chi ddefnyddio'n dawel, mae'r gosodwr yn derbyn modd di-ryngwyneb gyda'r opsiwn -s ac yn caniatáu dewis is-becynnau penodol wrth enw yn lle gosod popeth. Gallwch hefyd atal ailgychwyniadau awtomatig gyda -n. Mae'r manylder hwn yn ddefnyddiol ar gyfer addasu amgylcheddau adeiladu a lleihau eich ôl troed.

Ymhlith yr is-becynnau arferol fe welwch eitemau fel nvcc, cudart, cuBLAS, cuFFT, cuRAND, cuSOLVER, cuSPARSENsight Compute, Nsight Systems, integreiddio Visual Studio, NVRTC, NVTX, NVJitLink, dad-fangleriaid, a chyfleustodau fel cuobjdump neu nvdisasm. Os ydych chi'n mynd i lunio a phroffilio, dewiswch yr offer NsightOs ydych chi'n ei redeg yn unig, efallai y bydd yr amser rhedeg yn ddigon.

Tynnwch y gosodwr allan ac adolygwch y cynnwys

Ar gyfer archwilio neu becynnu corfforaethol, gellir echdynnu'r gosodwr cyflawn gan ddefnyddio offer sy'n cefnogi LZMA fel 7-Zip neu WinZip. Fe welwch chi goeden a modiwlau CUDAToolkit Mae ffeiliau integreiddio Visual Studio wedi'u gosod mewn ffolderi ar wahân. Nid yw'r ffeiliau .dll a .nvi yn y ffolderi hynny yn rhan o'r cynnwys gosodadwy ei hun.

Gosod CUDA ar Windows gyda Conda

Os yw'n well gennych reoli'r amgylchedd gyda Conda, mae NVIDIA yn cyhoeddi pecynnau yn anaconda.org/nvidia. Gosod sylfaenol o'r Pecyn Cymorth Mae'n cael ei wneud gydag un gorchymyn, `conda install`, a gallwch hefyd drwsio fersiynau blaenorol trwy ychwanegu'r tag `rhyddhau`, er enghraifft, i gloi fersiwn 11.3.1. dadosod Mae yr un mor uniongyrchol.

Gosod CUDA drwy pip (olwynion)

Mae NVIDIA yn cynnig olwynion Python sy'n canolbwyntio ar amser rhedeg CUDA ar gyfer Windows. Fe'u bwriadwyd yn bennaf ar gyfer defnyddio CUDA gyda Python ac nid ydyn nhw'n cynnwys yr offer datblygu llawn. Yn gyntaf, gosodwch nvidia-pyindex fel bod pip yn gwybod mynegai NGC NVIDIA, a gwnewch yn siŵr bod pip a setuptools wedi'u diweddaru i osgoi gwallau. Yna gosodwch y metapecynnau sydd ei angen arnoch chi, fel nvidia-cuda-runtime-cu12 neu nvidia-cublas-cu12.

Mae'r metapecynnau hyn yn targedu pecynnau penodol fel nvidia-cublas-cu129, nvidia-cuda-nvrtc-cu129, nvidia-npp-cu129, ac eraill. Cofiwch fod yr amgylchedd yn cael ei reoli gan pip.Os ydych chi am ddefnyddio CUDA y tu allan i'r virtualenv, bydd angen i chi addasu llwybrau a newidynnau system i gysylltu'n gywir.

Gwiriwch y gosodiad ar Windows

Agorwch orchymyn anogwr a rhedeg nvcc -V i gadarnhau'r fersiwn sydd wedi'i gosod. Clonio'r Samplau CUDA Lawrlwythwch yr enghreifftiau o GitHub a'u llunio gyda Visual Studio. Rhedeg deviceQuery a bandwidthTest: os oes cyfathrebu llwyddiannus gyda'r GPU, fe welwch y ddyfais wedi'i chanfod a pasio'r profion Dim gwallau. Os nad yw deviceQuery yn dod o hyd i ddyfeisiau, gwiriwch y gyrrwr a bod y GPU yn weladwy yn y system.

WSL gyda chyflymiad CUDA

Mae Windows 11 a'r fersiynau diweddaraf o Windows 10 yn cefnogi rhedeg fframweithiau ac offer ML wedi'u cyflymu gan CUDA o fewn WSL, gan gynnwys PyTorch, TensorFlow a Docker Gan ddefnyddio Pecyn Cymorth Cynwysyddion NVIDIA, gosodwch y gyrrwr sy'n galluogi CUDA yn WSL yn gyntaf, yna galluogwch WSL a gosodwch ddosbarthiad glibc fel Ubuntu neu Debian.

Gwnewch yn siŵr bod gennych chi gnewyllyn WSL wedi'i ddiweddaru (o leiaf 5.10.43.3). Edrychwch arno gyda Defnyddiwch `wsl cat /proc/version` o PowerShell. Yna dilynwch ganllaw defnyddiwr CUDA yn WSL i osod llyfrgelloedd a chynwysyddion a dechrau rhedeg eich llif gwaith Linux ar Windows heb adael eich amgylchedd.

Dadosod CUDA ar Windows

Ar ôl gosod CUDA ar Windows, ydych chi eisiau dychwelyd i'r fersiwn flaenorol? Gellir dychwelyd pob is-becyn. Dadosod o'r Panel Rheoli Defnyddio Rhaglenni a Nodweddion. Os ydych chi'n rheoli'r pecyn cymorth gyda Conda neu pip, defnyddiwch fecanweithiau dadosod pob rheolwr i osgoi gadael unrhyw weddillion pecyn.

Nodiadau cydnawsedd fersiynau

Roedd CUDA 11.8 yn ryddhad poblogaidd iawn oherwydd ei sefydlogrwydd a'i gefnogaeth i'r ecosystem. Gofynion nodweddiadol Ar gyfer 11.8: GPU gyda Gallu Cyfrifo 3.0 neu uwch, 64-bit, o leiaf 8 GB o RAM ac o leiaf 4 GB o gof GPU. Ar Linux, mae'n integreiddio'n dda â dosraniadau fel Ubuntu 18.04/20.04, RHEL/CentOS 7/8, ac ati.

Mae CUDA 12.x yn cyflwyno gwelliannau amser rhedeg a llyfrgell ac yn gwthio dibyniaethau gyrwyr diweddarafMae CUDA 13 yn gwahanu'r gyrrwr yn barhaol o osodwr y Pecyn Cymorth: cofiwch osod y gyrrwr eich hun. Eglurhad pwysigTechnoleg NVIDIA yw CUDA ac mae angen GPUs NVIDIA arni; os gwelwch chi yn unrhyw le ei bod hi hefyd yn gydnaws â GPUs AMD, nid yw hynny'n gywir ar gyfer y pentwr CUDA.

Gosod CUDA ar Windows: Datrys Problemau Cyffredin

• Mae'r gosodwr yn methu neu nid yw'n gorffen y gwaith.Gwiriwch logiau'r gosodwr a gwiriwch eich gwrthfeirws, lle ar y ddisg, a chaniatâd gweinyddwr. Rhowch gynnig arall arni gyda'r Gosodwr Llawn os yw'r rhwydwaith yn ansefydlog, neu mewn modd tawel os oes gwrthdaro rhyngwyneb defnyddiwr.
• Nid yw deviceQuery yn canfod y GPUGwiriwch fod y gyrrwr yn gywir, bod y GPU yn weithredol, a bod yr ap yn defnyddio'r dGPU. Diweddarwch y gyrrwr ac ailosodwch y Pecyn Cymorth os oes angen.
• Gwrthdaro â siopau llyfrauOs oes gennych chi nifer o becynnau cymorth wedi'u gosod, dilyswch CUDA_PATH a PATH. Yn Python, gwiriwch fod fersiynau PyTorch neu TensorFlow a'u ffurfweddiadau yn gydnaws â'ch fersiwn CUDA/cuDNN.
• Nid yw Visual Studio yn llunio .cuYchwanegwch Addasiadau Adeiladu CUDA at eich prosiect a marciwch y ffeiliau .cu fel CUDA C/C++. Gwiriwch fod MSVC yn gydnaws â'ch pecyn cymorth.

Offer, samplau a dogfennaeth

Yn ogystal â nvcc a'r llyfrgelloedd, mae'r Pecyn Cymorth ar gyfer gosod CUDA ar Windows yn cynnwys proffiliau a dadansoddwyr fel Nsight Systems a Nsight Compute, a dogfennaeth HTML/PDF ar gyfer iaith CUDA C++ a gwell arferionMae'r enghreifftiau swyddogol ar GitHub ac maent yn sail ardderchog ar gyfer dilysu gyrwyr, perfformiad cof, ac amlbroseswyr.

Pryd i ddefnyddio Conda neu pip yn hytrach na'r gosodwr clasurol

Mae Conda a pip yn ddelfrydol pan fyddwch chi'n canolbwyntio ar redeg fframweithiau ML sydd eisoes yn pecynnu dibyniaethau sy'n gyson â fersiynau penodol o CUDA. MantaisYnysu'r amgylchedd a llai o ffrithiant. Anfantais: Ar gyfer datblygiad C++ brodorol neu integreiddio llawn â VS, mae'r gosodwr Pecyn Cymorth clasurol yn cynnig pob offeryn a'r profiad mwyaf cyflawn.

Cwestiynau Cyffredin Cyflym

• Sut ydw i'n gwybod a yw fy GPU yn gydnaws â CUDA? Agorwch y Rheolwr Dyfeisiau, ewch i Addasyddion Arddangos, a gwiriwch y model; cymharwch ef â rhestr swyddogol NVIDIA o GPUs CUDA. Gallwch hefyd redeg nvidia-smi a chadarnhau hynny Mae eich GPU yn ymddangos.
• A allaf hyfforddi heb CUDA? Ydy, bydd yn gweithio ar y CPU, ond bydd yn arafach. I ddefnyddio'r GPU gyda PyTorch neu TensorFlow ar Windows, gwnewch yn siŵr eich bod yn gosod adeiladwaith cydnaws gyda'ch fersiwn chi o CUDA neu defnyddiwch WSL gyda chynwysyddion NVIDIA.
• Fersiynau hŷn penodolMae rhai offer angen cyfuniadau fel CUDA 10.1 gyda cuDNN 7.6.4. Yn yr achos hwnnw, gosodwch y fersiynau union hynny a gosodwch y DLL o cuDNN yn ffolder bin y pecyn cymorth cyfatebol, gan osgoi cael nifer o cuDNNs ar yr un pryd.

Os ydych chi'n bwriadu gosod CUDA ar Windows a chyflymu eich gwaith gyda chanllaw cyflawn, bydd y camau a'r argymhellion uchod yn eich helpu i wneud popeth. Mae'n ffitio fel maneg. o'r adeiladwaith cyntaf.