Pehea e hoʻouka ai i ka CUDA ma Windows me ka ʻole o nā hewa: he alakaʻi no nā mea hoʻomohala a me nā mea hana

Ke hoʻokomo nei i ka CUDA ma Windows ʻAʻole pono e lilo i poʻo inā ʻike ʻoe i kahi e hoʻomaka ai a me ka mea e nānā ai i kēlā me kēia pae. Ma kēia ʻatikala e alakaʻi wau iā ʻoe ma kahi ala kūpono, me nā nuances āpau o ka hoʻohālikelike, hoʻonohonoho, hōʻoia a me ka hoʻoponopono pilikia maʻamau e hōʻoia i ka hana pono o ka hāmeʻa ma kāu kamepiula i ka manawa mua.

Ma waho aʻe o ka uhi ʻana i ka hoʻonohonoho Toolkit maʻamau ma Windows, e ʻike ʻoe pehea e hoʻohana ai i ka CUDA me WSL, e hoʻokomo iā ia me Conda a i ʻole pip, e hoʻohui i nā hiʻohiʻona me Visual Studio, a hoʻomaopopo i nā ʻano hoʻohālike ʻokoʻa NVIDIA ma Windows. Hoʻohui ʻia ka ʻike a me nā mea hou. Ma muli o nā alakaʻi alakaʻi a me nā hiʻohiʻona ola maoli e hiki mai ana iā ʻoe, e like me ke kamepiula me kahi hybrid AMD iGPU + NVIDIA dGPU GPU.

He aha ka CUDA a he aha ka mea e hāʻawi ai ma Windows?

'O CUDA ʻO ia ka papahana hoʻolālā like ʻole a NVIDIA a me ka hoʻohālike e hiki ai e hoʻolōʻihi i nā noi me ka GPUMai AI a me ka ʻepekema data i ka simulation a me ka hoʻoili kiʻi. Ma kahi pae kūpono, ke kau ʻana i ka CUDA Toolkit ma Windows e hāʻawi iā ʻoe i ka nvcc compiler, runtime, hale waihona puke e like me cuBLAS, cuFFT, cuRAND, a me cuSOLVER, debugging a me nā mea hana profiling, a me nā hiʻohiʻona mākaukau e hoʻohui.

ʻO ka hoʻolālā CUDA e maʻalahi e hoʻohui i ka CPU a me ka GPU i ka noi like: nā ʻāpana serials i loko o ke kaʻina hana a me nā ʻāpana like ma ka GPU, e hāʻawi ana i nā haneli a i ʻole mau tausani o nā kaula e holo like ana. Mahalo i ka hoʻomanaʻo ʻana ma luna o ka puʻupuʻu a me nā hale waihona puke i hoʻopaʻa ʻia, ka lele hana ʻIke pinepine ʻia ma lalo o nā haʻahaʻa ikaika.

Pūnaehana a me ka compiler compatibility ma Windows

Ma mua o ka hoʻohana ʻana i ka mea hoʻonoho, pono e nānā i ka hoʻohālikelike. Windows kūpono Aia nā mana hou o ka pahu hana: Windows 11 24H2, 23H2 a me 22H2-SV2; Windows 10 22H2; a me Windows Server 2022 a me 2025.

I loko o nā mea hōʻuluʻulu, loaʻa ke kākoʻo maʻamau MSVC 193x me Visual Studio 2022 17.x a me MSVC 192x me Visual Studio 2019 16.x, me C++11, C++14, C++17, a me C++20 dialects (ma muli o ka mana). Ua hoʻopau ʻia ʻo Visual Studio 2015 ma CUDA 11.1; Ua hoʻopau ʻia ʻo VS 2017 ma 12.5 a wehe ʻia ma 13.0. E nānā i ka matrix pololei o kāu mana e hōʻalo i nā makaʻu.

He mea nui no nā papahana hoʻoilina: E hoʻomaka ana me CUDA 12.0, wehe ʻia ka hui ʻana 32-bit, a ua kaupalena ʻia ka hoʻokō ʻana i nā binaries 32-bit x86 ma nā ʻōnaehana x64 mea hoʻokele, quart a me ka makemakika ma nā GeForce GPU a hiki i ka hale hana ʻo Ada; ʻAʻole kākoʻo hou ʻo Hopper i 32 bits.

E koho a hoʻokomo i ka Toolkit ma Windows

Hoʻoiho i ka mea hoʻokomo mai ka punaewele NVIDIA CUDA. Hiki iā ʻoe ke koho iā Network Installer (ka hoʻoiho liʻiliʻi e hoʻohana ana i ka pūnaewele no nā mea ʻē aʻe) a i ʻole ka mea hoʻonoho piha (nā mea āpau i hoʻokahi pūʻolo, pono no nā mīkini me ka ʻole o ka pūnaewele a i ʻole nā ​​hoʻolaha ʻoihana). Ma hope o ka hoʻoiho ʻana, e hōʻoia i ka pono me ka checksum (e laʻa, MD5) e kāpae i ka palaho.

Holo i ka mea hoʻonoho kiʻi a hahai i nā ʻanuʻu ma ka pale. E heluhelu i nā memo hoʻokuʻu no kāu mana no ka mea e kikoʻī ana i nā loli, nā kūpono kūpono, a me nā ʻōlelo aʻo koʻikoʻi. E hoʻomaka ana me CUDA 13, ʻaʻole i hoʻokomo hou ka mea hoʻokele Toolkit i ka mea hoʻokele. Hoʻokomo kaʻawale ka mea hoʻokele NVIDIA. mai ka ʻaoʻao hoʻokele pili.

Hoʻokomo haʻahaʻa a koho ʻāpana

Inā pono ʻoe e hoʻokau mālie, ʻae ka mea hoʻonohonoho i ke mode interface-less me ke koho -s a ʻae koho i nā pūʻolo kikoʻī ma ka inoa ma kahi o ka hoʻokomo ʻana i nā mea a pau. Hiki iā ʻoe ke pale i ka hoʻomaka hou ʻana me -n. He mea pono kēia granularity no ka hoʻopilikino ʻana i nā kaiapuni kūkulu a hōʻemi i kou wāwae.

Ma waena o nā subpackage maʻamau e ʻike ʻoe i nā mea e like me nvcc, cudart, cuBLAS, cuFFT, cuRAND, cuSOLVER, cuSPARSENsight Compute, Nsight Systems, Visual Studio integration, NVRTC, NVTX, NVJitLink, demanglers, a me nā pono hana e like me cuobjdump a i ʻole nvdisasm. Inā ʻoe e hoʻohui a hoʻopaʻa inoa, koho i nā mea hana NsightInā ʻoe e holo wale ana, lawa paha ka manawa holo.

Wehe i ka mea hoʻonoho a nānā i nā mea i loko

No ka hoʻopaʻa ʻana a i ʻole ka hōʻailona hui, hiki ke unuhi ʻia ka mea hoʻonohonoho piha me ka hoʻohana ʻana i nā mea kākoʻo LZMA e like me 7-Zip a i ʻole WinZip. E ʻike ʻoe i ka lāʻau CUDAToolkit a me nā modula Hoʻokomo ʻia nā faila hoʻohui Visual Studio i nā waihona ʻokoʻa. ʻO nā faila .dll a me .nvi i loko o ia mau waihona ʻaʻole ia he ʻāpana o ka maʻiʻo hiki ke hoʻokomo ponoʻia.

E hoʻouka i ka CUDA ma Windows me Conda

Inā makemake ʻoe e hoʻokele i ke kaiapuni me Conda, hoʻopuka ʻo NVIDIA i nā pūʻolo ma anaconda.org/nvidia. ʻO kahi hoʻokomo kumu o ka Toolkit Ua hana ʻia me hoʻokahi kauoha, ʻo `conda install`, a hiki iā ʻoe ke hoʻoponopono i nā mana o mua ma ka hoʻohui ʻana i ka tag `release`, no ka laʻana, e laka i ka mana 11.3.1. uninstall ole E like me ka pololei.

E hoʻouka i ka CUDA ma o ka pip (nā huila)

Hāʻawi ʻo NVIDIA i nā huila Python i kālele ʻia i ka CUDA runtime no Windows. Ua manao mua ia no e hoʻohana ana iā CUDA me Python a ʻaʻole lākou i hoʻokomo i nā mea hana hoʻomohala piha. ʻO ka mea mua, e hoʻokomo i ka nvidia-pyindex no laila ʻike ka pip i ka index NVIDIA NGC, a e hōʻoia i ka pip a me nā setuptools i hoʻonui ʻia e pale aku i nā hewa. A laila e hoʻokomo i nā metapackages āu e pono ai, e like me nvidia-cuda-runtime-cu12 a i ʻole nvidia-cublas-cu12.

Kuhi kēia mau metapackages i nā pūʻolo kikoʻī e like me nvidia-cublas-cu129, nvidia-cuda-nvrtc-cu129, nvidia-npp-cu129, a me nā mea ʻē aʻe. E hoʻomanaʻo e mālama ʻia ke kaiapuni e ka pip.Inā makemake ʻoe e hoʻohana i ka CUDA ma waho o ka virtualenv, pono ʻoe e hoʻoponopono i nā ala ʻōnaehana a me nā mea hoʻololi e pili pono.

E hōʻoia i ka hoʻokomo ʻana ma Windows

E wehe i kahi kauoha kauoha a holo i ka nvcc -V e hōʻoia i ka mana i kau ʻia. Hoʻopili i nā laʻana CUDA Hoʻoiho i nā hiʻohiʻona mai GitHub a hōʻuluʻulu iā lākou me Visual Studio. E holo i ka deviceQuery a me ka bandwidthTest: inā loaʻa ke kamaʻilio kūleʻa me ka GPU, e ʻike ʻoe i ka mea i ʻike ʻia a ka holo ana i na hoao ʻAʻohe hewa. Inā ʻaʻole ʻike ʻia ka deviceQuery, e nānā i ka mea hoʻokele a ʻike ʻia ka GPU ma ka ʻōnaehana.

WSL me ka wikiwiki CUDA

Windows 11 a me nā mana hou loa o Windows 10 kākoʻo i ka holo ʻana o CUDA-accelerated ML frameworks a me nā mea hana i loko o WSL, me PyTorch, TensorFlow a me Docker Ke hoʻohana nei i ka NVIDIA Container Toolkit, e hoʻokomo mua i ka mea hoʻokele CUDA-enabled ma WSL, a laila hiki iā WSL a hoʻokomo i kahi māhele glibc e like me Ubuntu a i ʻole Debian.

E hōʻoia i loaʻa iā ʻoe kahi kernel WSL hou (5.10.43.3 liʻiliʻi). E nānā me E hoʻohana i ka 'wsl cat /proc/version' mai PowerShell. A laila e hahai i ke alakaʻi mea hoʻohana CUDA ma WSL e hoʻokomo i nā hale waihona puke a me nā ipu a hoʻomaka i ka holo ʻana i kāu mau kahe hana Linux ma Windows me ka haʻalele ʻole i kou kaiapuni.

Wehe i ka CUDA ma Windows

Ma hope o ka hoʻokomo ʻana iā CUDA ma Windows, makemake ʻoe e hoʻi i ka mana mua? Hiki ke hoʻihoʻi ʻia nā pūʻolo liʻiliʻi a pau. Wehe ʻia mai ka Pae Mana Mana Ke hoʻohana nei i nā polokalamu a me nā hiʻohiʻona. Inā hoʻokele ʻoe i ka pahu hana me Conda a i ʻole pip, e hoʻohana i kēlā me kēia mana uninstall me nā ʻōnaehana e pale aku i ka waiho ʻana i nā koena pūʻolo.

Nā memo hoʻohālikelike manaʻo

He hoʻokuʻu kaulana loa ʻo CUDA 11.8 ma muli o kona kūpaʻa a me ke kākoʻo kaiaola. Nā koi maʻamau No 11.8: GPU me ka Compute Capability 3.0 a i ʻole ke kiʻekiʻe, 64-bit, ka liʻiliʻi he 8 GB o RAM a ma ka liʻiliʻi he 4 GB o ka hoʻomanaʻo GPU. Ma Linux, hoʻohui maikaʻi ʻo ia me nā māhele e like me Ubuntu 18.04/20.04, RHEL/CentOS 7/8, etc.

Hoʻokomo ʻo CUDA 12.x i ka hoʻomaikaʻi ʻana i ka wā holo a me ka hale waihona puke a koi aku i nā hilinaʻi o nā mea hoʻokele hou loaHoʻokaʻawale mau ʻo CUDA 13 i ka mea hoʻokele mai ka mea hoʻonoho Toolkit: e hoʻomanaʻo e hoʻokomo i ka mea hoʻokele iā ʻoe iho. Wehewehe mea nuiʻO CUDA ka ʻenehana NVIDIA a koi aku iā NVIDIA GPU; inā ʻike ʻoe i nā wahi āpau e pili pū ana me AMD GPU, ʻaʻole pololei ia no ka waihona CUDA.

Ke hoʻokomo nei i ka CUDA ma Windows: Hoʻoponopono i nā pilikia maʻamau

• Hāʻule ka mea hoʻokomo a ʻaʻole hoʻopau i ka hana.E nānā i nā moʻolelo hoʻonohonoho a hōʻoia i kāu antivirus, wahi disk, a me nā ʻae admin. E ho'āʻo hou me ka mea hoʻonoho piha inā paʻa ʻole ka pūnaewele, a i ʻole ma ke ʻano leo ʻole inā loaʻa nā paio UI.
• ʻAʻole ʻike ʻo deviceQuery i ka GPUE hōʻoia i ka pololei o ka mea hoʻokele, ʻeleu ka GPU, a ke hoʻohana nei ka app i ka dGPU. Hoʻohou i ka mea hoʻokele a hoʻokomo hou i ka Toolkit inā pono.
• Nā paio me nā hale kūʻai pukeInā loaʻa iā ʻoe nā pahu hana he nui, e hōʻoia i ka CUDA_PATH a me PATH. Ma Python, e nānā i nā mana PyTorch a i ʻole TensorFlow a me kā lākou hoʻonohonoho ʻana i kūpono me kāu mana CUDA/cuDNN.
• ʻAʻole hoʻopili ʻo Visual Studio i ka .cuE hoʻohui i ka CUDA Build Customizations i kāu papahana a e kaha i nā faila .cu e like me CUDA C/C++. E hōʻoia ua kūpono ʻo MSVC me kāu pahu hana.

Nā mea hana, nā laʻana a me nā palapala

Ma waho aʻe o nvcc a me nā hale waihona puke, ʻo ka Toolkit no ka hoʻokomo ʻana i ka CUDA ma Windows e loaʻa ana i nā ʻaoʻao a me nā mea loiloi e like me Nsight Systems a me Nsight Compute, a me nā palapala HTML/PDF no ka ʻōlelo CUDA C++ a nā hana maikaʻi loaAia nā hiʻohiʻona kūlana ma GitHub a he kumu maikaʻi loa ia no ka hōʻoia ʻana i nā mea hoʻokele, ka hana hoʻomanaʻo, a me nā multiprocessors.

I ka manawa e hoʻohana ai iā Conda a i ʻole pip e kūʻē i ka mea hoʻonohonoho maʻamau

He kūpono ka Conda a me ka pip i ka wā e kau ai kou manaʻo i ka holo ʻana i nā frameworks ML i hoʻopaʻa mua i nā hilinaʻi e kūlike me nā mana CUDA kikoʻī. HoʻohuiʻO ka hoʻokaʻawale kaiapuni a me ka liʻiliʻi o ka friction. Loaʻa ʻole: No ka hoʻomohala ʻana i ka C++ maoli a i ʻole ka hoʻohui piha ʻana me VS, hāʻawi ka mea hoʻonohonoho Toolkit maʻamau nā pono hana āpau a me ka ʻike piha loa.

FAQ wikiwiki

• Pehea wau e ʻike ai inā pili kaʻu GPU i ka CUDA? E wehe i ka Mea Mana Mana, e hele i ka Hōʻike adapters, a nānā i ke kumu hoʻohālike; e hoʻohālikelike iā ia i ka papa inoa mana o NVIDIA o nā CUDA GPU. Hiki iā ʻoe ke holo i nvidia-smi a hōʻoia i kēlā Hōʻike ʻia kāu GPU.
• Hiki iaʻu ke aʻo me ka ʻole o CUDA? ʻAe, e hana ia ma ka CPU, akā e lohi. No ka hoʻohana ʻana i ka GPU me PyTorch a i ʻole TensorFlow ma Windows, e hōʻoia ʻoe e hoʻokomo kūkulu kūpono me kāu mana o CUDA a hoʻohana paha iā WSL me nā pahu NVIDIA.
• Nā mana kahikoPono kekahi mau mea hana e hui like me CUDA 10.1 me cuDNN 7.6.4. I kēlā hihia, e hoʻokomo i kēlā mau mana pololei a kau i ka cuDNN DLL i loko o ka waihona bin o ka pahu hana pili, e pale ana i ka loaʻa ʻana o nā cuDNN he nui i ka manawa like.

Inā ʻoe e ʻimi nei e hoʻokomo iā CUDA ma Windows a e wikiwiki i kāu hana me kahi alakaʻi piha, e kōkua nā ʻanuʻu a me nā ʻōlelo aʻoaʻo ma luna iā ʻoe e hoʻokō i nā mea āpau. Ua kūpono e like me ka mīkina lima. mai ka hana mua.