Инсталирање CUDA-е на Windows не мора бити мука ако знате где да се окренете и које верзије да изаберете. У овом практичном водичу, водићу вас корак по корак кроз све што вам је потребно да бисте покренули и покренули алате, исправан драјвер и услужне програме за верификацију, како на оригиналном Windows-у, тако и користећи WSL. Идеја је да искључите свој GPU. заиста убрзава ваша радна оптерећења, без изненађења у вези са компатибилношћу.
Поред основне инсталације, обрадићу случајеве употребе из стварног света и посебне захтеве (као што је ML.NET Model Builder са наслеђеним зависностима), алтернативе инсталације са Conda и pip, интеграцију са Visual Studio и класичне deviceQuery и bandwidthTest тестове. Такође ћете видети како да дијагностикујете типични проблеми са возачима, детекција ГПУ-а и неусклађености верзија CUDA које обично успоравају људе први пут.
Шта је CUDA и зашто је важна на Windows-у?
CUDA је платформа и модел за NVIDIA програмирање за паралелно рачунарство које вам омогућава да пребаците најзахтевније делове ваших апликација на графички процесор (GPU). CPU обрађује секвенцијални рад, а GPU... масовно паралелно, сваки са сопственом меморијом, избегавајући уска грла и омогућавајући истовремени рад.
CUDA-омогућени графички процесори имају стотине или хиљаде језгара која покрећу десетине хиљада нити. Библиотеке као што су cuBLAS, cuDNN и NVCC комплетирајте комплет тако да можете компајлирати, дебаговати и профилисати свој софтвер убрзан помоћу ГПУ-а на оперативном систему Windows.
Системски захтеви и компатибилност са Windows-ом
Пре свега, потребно је да проверите да ли је ваш систем компатибилан са алатима које желите. На тренутним Windows системима, Подршка за CUDA 13.0 U1Виндоус 11 24H2, 23H2, 22H2-SV2; Виндоус 10 22H2; Виндоус Сервер 2022 и 2025.
Подржани компајлери и IDE-ови: Visual Studio 2022 17.x (MSVC 193x) са C++11/14/17/20 и Visual Studio 2019 16.x (MSVC 192x) са C++11/14/17. подршка за VS2017 Уклоњен је у CUDA 13.0, а за VS2015 је застарео од CUDA 11.1, зато прилагодите своје пројекте.
Важна напомена о 32-битним верзијама: Од CUDA 12.0, више не постоји 32-битни алат (нативни или крос-платформски). Драјвери ће наставити да покрећу 32-битне бинарне датотеке на GeForce графичким картицама. Архитектура АдеХопер више не подржава 32 бита.
Препоручени хардвер: NVIDIA GPU са рачунарским могућностима које одговарају вашој верзији (за опште сценарије, 3.0 или новија; погледајте званичну листу), довољно меморије и у одређеним специфичним случајевима захтевнији. За Model Builder (класификација слика), најмање 6 ГБ ВРАМ-а наменски, док се за основну употребу помињу минимуми од 4 GB.
Проверите да ли имате компатибилну графичку картицу и коју верзију имате
Да бисте проверили модел графичке картице (GPU) у оперативном систему Windows: Подешавања > Систем > Екран > Напредна подешавања. Тамо ћете видети марку и модел под информацијама о екрану, веома корисно за потврду компатибилности.
Такође можете користити Менаџер задатака на картици Перформансе и изабрати панел ГПУ да бисте видели детаље. Ако се не појави, отворите Управитељ уређаја и погледајте адаптере за приказ; ако недостаје NVIDIA драјвер, инсталирајте га.
Да бисте проверили CUDA инсталацију, отворите PowerShell или CMD и покрените nvcc --version o nvcc -VОво враћа верзију компајлера НВЦЦ инсталиран; ако не реагује, путања алата није конфигурисана или није правилно инсталирана.
Ако треба да ажурирате драјвере, GeForce Experience предлаже најновије верзије или их преузмите са званичне веб странице за драјвере компаније NVIDIA. Ажурирани драјвер обично решава проблем. некомпатибилности алата и неуспеси у детекцији.
Преузмите NVIDIA CUDA Toolkit: Формати и интегритет
Идите на званичну страницу за преузимање CUDA софтвера компаније NVIDIA и изаберите Windows. Можете изабрати или Мрежни инсталер (минимално преузимање, а затим пакети на захтев) или Комплетан инсталер (све је укључено). Комплетан инсталер је одличан за рачунаре који нису на мрежи или за имплементације у предузећима.
Након преузимања, добра је пракса проверити објављени MD5 контролни збир како бисте били сигурни да датотека није оштећена. Ако се хеш не подудара, преузми поново инсталатер и избегава касније главобоље.
Од CUDA 13, NVIDIA драјвер више није укључен у Toolkit. Инсталирајте драјвер одвојено од Страница са NVIDIA драјверима а затим Комплет алата; избегавајте мешање некомпатибилних верзија.
Инсталација на Windows-у: графички, тихи и режим екстракције
Графичка инсталација: Покрените инсталатер и пратите кораке. Изаберите локацију, прихватите лиценцу и изаберите компоненте као што су Toolkit, Nsight Compute/Systems и примери.
Тиха инсталација: Инсталатер можете покренути помоћу -s за тихи режим и додајте параметре за одређене подпакете. Ако не желите аутоматско поновно покретање, додајте -n и ви управљате поновним покретањем на крају.
Ручно распакивање: Помоћу програма 7-Zip/WinZip можете распаковати цео пакет да бисте прегледали његов садржај. Комплет алата се налази унутар фасцикле. CUDA алат и интеграцију са Visual Studio-ом у његовом истоименом директоријуму; .dll и .nvi датотеке које видите у корену инсталатера нису инсталабилне датотеке као такве.
Подразумевана путања комплета алата: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v13.0. Приликом инсталирања подпакета Можете изабрати само оно што вам је потребно (нпр. nvcc_13.0 за компајлер, cudart_13.0 за време извршавања, cublas_13.0/cublas_dev_13.0, cufft_13.0, curand_13.0, cusolver_13.0, cusparse_13.0, nsight_compute_13.0, nsight_systems_13.0, nvrtc_13.0, nvdisasm_13.0, nvprune_13.0, opencl_13.0, sanitizer_13.0, thrust_13.0, Итд). На овај начин смањујете простор и време инсталације.
Деинсталирање: Сви подпакети се могу уклонити из Контролне табле > Програми и функције. Корисно ако желите да поново инсталирате верзију. чист или променити гране без икаквих остатака.
Модели драјвера у оперативном систему Windows: WDDM наспрам TCC
На Windows-у 10 и новијим верзијама, NVIDIA драјвер може да ради у два режима: WDDM (за уређаје за приказивање) и TCC (за рачунарске GPU-ове попут Tesla или одређених Titan-а). Режим можете проверити и променити помоћу nvidia-smi на подржаним картицама; већина модерних GeForce картица користи WDDM подразумевано.
Проверите инсталацију: nvcc, примери и тестови
Проверите NVCC верзију са nvcc -VАко команда функционише, СТАЗА и основна инсталација је на свом месту.
Клонирајте CUDA примере са GitHub-а на nvidia/cuda-samples, компајлирајте их и покрените их deviceQueryТребало би да детектује ваш уређај и врати испит положен; ако не, проверите драјвер и хардвер.
Такође ради bandwidthTest да би се потврдио пропусни опсег хост-уређаја. Ако тестови прођу, комуникација CPU-GPU је у реду. Било какве грешке овде обично указују на драјвере или инсталацију Toolkit-а.
Интеграција са Visual Studio-ом и пројектном инфраструктуром
Узорци и ваши пројекти могу се компајлирати помоћу VS 2019/2022 решења. NVIDIA шаблони подешавају C++ пројекат са Изградња прилагођавања CUDA за вашу верзију (на пример, CUDA 13.0 Runtime).
Датотеке .props из Toolkit-а: VS 2019 има реквизите у C:\Program Files (x86)\Microsoft Visual Studio\2019\Professional\MSBuild\Microsoft\VC\v160\BuildCustomizations и у односу на 2022. годину C:\Program Files\Microsoft Visual Studio\2022\Professional\MSBuild\Microsoft\VC\v170\BuildCustomizationsОве руте омогућавају VS-у да пронађе правила и својства из CUDA-е.
У новим пројектима, креирајте из NVIDIA шаблона > CUDA за инсталирану верзију. У постојећим пројектима, идите на Зависности изградње > Прилагођавања изградње и означите своју CUDA верзију или покажите на $(CUDA_PATH) ако желите да увек користите најновију инсталирану верзију.
Након инсталирања или деинсталирања Toolkits-ова, проверите да $(CUDA_PATH) указује на исправну фасциклу. Приступ Променљиве окружења из „Својства система“ да бисте проверили и подесили вредност ако је потребно.
Датотеке са CUDA кодом морају бити означене као CUDA C/C++ тип. Можете их додати из Додај нову ставку > NVIDIA CUDA 13.0 > CUDA C/C++ код у Visual Studio-у.
Инсталирајте CUDA помоћу Conda-е и pip-а
Конда: NVIDIA објављује пакете на свом Anaconda каналу (anaconda.org/nvidia) да бисте инсталирали комплетан комплет алата или одређене претходне верзије. Да бисте закачили претходну верзију, додајте издавачка кућа на команду за инсталацију и Конда ће решити зависности.
pip: NVIDIA пружа Wheels за инсталирање CUDA компоненти првенствено оријентисаних на Python runtime. Прва инсталација nvidia-pyindex и уверите се да имате ажуриране pip и setuptools. Можете укључити одговарајућу линију у свој requirements.txt Ако вам је драже.
Метапакети на Windows-у за CUDA 12 (cu12) који преузимају податке из најновије доступне верзије: између осталог, nvidia-cublas-cu12, nvidia-cuda-cccl-cu12, nvidia-cuda-cupti-cu12, nvidia-cuda-nvcc-cu12, nvidia-cuda-nvrtc-cu12, nvidia-cuda-opencl-cu12, nvidia-cuda-runtime-cu12, nvidia-cuda-sanitizer-api-cu12, nvidia-cufft-cu12, nvidia-curand-cu12, nvidia-cusolver-cu12, nvidia-cusparse-cu12, nvidia-npp-cu12, nvidia-nvfatbin-cu12, nvidia-nvjitlink-cu12, nvidia-nvjpeg-cu12, nvidia-nvml-dev-cu12, nvidia-nvtx-cu12.
Ови метапакети инсталирају специфичне верзионисане пакете, на пример са суфиксом cu129: nvidia-cublas-cu129, nvidia-cuda-cccl-cu129, nvidia-cuda-cupti-cu129, nvidia-cuda-nvcc-cu129, nvidia-cuda-nvrtc-cu129, nvidia-cuda-opencl-cu129, nvidia-cuda-runtime-cu129, nvidia-cuda-sanitizer-api-cu129, nvidia-cufft-cu129, nvidia-curand-cu129, nvidia-cusolver-cu129, nvidia-cusparse-cu129, nvidia-npp-cu129, nvidia-nvfatbin-cu129, nvidia-nvjitlink-cu129, nvidia-nvjpeg-cu129, nvidia-nvml-dev-cu129, nvidia-nvtx-cu129Имајте на уму да CUDA Wheels не укључују алате за програмере, већ само runtime.
Коришћење pip-а значи да је CUDA окружење повезано са вашим Python окружењем. Ако планирате да компајлирате или покрећете ван тог окружења, инсталирајте и Комплет алата на нивоу система како би се избегле недоследности на рути.
CUDA на WSL-у: Windows 11 и Windows 10 21H2
Windows 11 и Windows 10 21H2 (и новији) вам омогућавају да покрећете CUDA-акцеларисане ML оквире и библиотеке унутар WSL-а. То укључује ПајТорч, ТензорФлоу, Докер и NVIDIA Container Toolkit, баш као што бисте то урадили на изворном Linux-у.
Корак 1: Инсталирајте CUDA-омогућени NVIDIA драјвер за WSL са званичне веб странице. Овај драјвер је посебно дизајниран да изложи GPU унутар дистрибуција. Линукс на ВСЛ-у.
Корак 2: Омогућите WSL и додајте дистрибуцију засновану на glibc-у (Ubuntu/Debian). Ажурирајте језгро са Windows Update-а и проверите да ли је 5.10.43.3 или виши трчање wsl cat /proc/version у ПоверСхелл-у.
Корак 3: Пратите водич за NVIDIA CUDA на WSL да бисте инсталирали Toolkit унутар дистрибуције и/или конфигурисали NVIDIA Docker. моћи ћете да користите уобичајени Linux токови са убрзање и савршено одвојити окружење од главног Windows-а.
Сценарио из стварног живота: мешовити AMD + NVIDIA лаптоп и грешке са 12.8/11.8
Претпоставимо да је Lenovo Ideapad 5 Pro са AMD Ryzen-ом, AMD Radeon iGPU-ом и NVIDIA GeForce GTX dGPU-ом. Када се покреће nvidia-smi се појављује Возач КСНУМКС и CUDA верзију 12.0, али покушај инсталирања CUDA 12.8 или 11.8 изгледа не функционише.
Кључеви за разумевање: линија CUDA верзије nvidia-smi Означава максималну верзију CUDA runtime-а коју подржава ваш драјвер, а не инсталирани Toolkit. Драјвер 526.56 Подржава CUDA 12.0 и 11.8, али не и 12.8, што захтева много новији драјвер (55x/56x грана). Ажурирајте на новији драјвер (Studio или Game Ready DCH) са NVIDIA веб странице и поновите инсталацију.
На хибридним рачунарима, проверите у NVIDIA контролној табли или подешавањима графике система Windows да бисте се уверили да ваша рачунарска апликација користи NVIDIA GPU. Ако се dGPU не користи, нвидиа-сми Ово може изазвати проблеме или се фрејмворци могу учитати на AMD iGPU-у, који не подржава CUDA. Размислите о чистој инсталацији драјвера и проверите да ли GeForce Experience детектује хардвер.
Посебни захтеви: ML.NET Model Builder (само класификација слика)
За сценарио класификације слика помоћу Model Builder-а, Microsoft захтева одређени стек: CUDA 10.1 и цуДНН 7.6.4Будите опрезни са овим јер новије верзије не подржавају тај специфични ток.
Кључни кораци са cuDNN 7.6.4: преузмите ZIP датотеку за CUDA 10.1, распакујте је и копирајте cudnn64_7.dll од cuda\bin a C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.1\binНе можете имати више верзија цуДНН истовремено; уклања остатке других верзија како би се избегли сукоби током извршавања.
Хардверски захтеви за овај сценарио: најмање један CUDA-компатибилан GPU и 6 GB наменске меморије. Ако немате локални GPU, Model Builder може да тренира на GPU виртуелним машинама. Плаветнило, или на крају на процесору, мада са много дужим временима обуке.
Брза дијагноза и решавање уобичајених проблема
ГПУ се не појављује у подешавањима или менаџеру задатака: Отворите менаџер уређаја, потражите под „Адаптери за приказ“ и инсталирајте одговарајући драјвер. Нема драјвера. АМД, Windows неће изложити dGPU апликацијама.
Проверите CUDA верзију система: покрените у PowerShell/CMD nvcc --versionАко не успе, проверите да ли је Toolkit инсталиран и да ли је СТАЗА укључи фасциклу bin из Комплета алата.
Комплет алата не детектује CUDA уређаје: Уверите се да је драјвер ажуриран и да је ваш GPU на листи уређаја који подржавају CUDA. уређајУпит y Тест пропусног опсега Они су ваш термометар који потврђује да стек хардвер-драјвер-алатки реагује.
Неисправан режим драјвера за рачунарство: На рачунарском графичком процесору користите nvidia-smi да проверите/укључите TCC ако је применљиво. На већини лаптопова са GeForce графичким картама, ВДДМ То је предвиђени режим и не можете га променити.
Сукоби зависности са Python фрејмворцима: Ако користите CUDA Wheels преко pip-а, имајте на уму да они покривају само време извршавања и да су везани за виртуелно окружење. Да бисте компајлирали екстензије или користили алате, инсталирајте и Системски комплет алатаили користите Конду да бисте све управљали групно.
Примери, узорци и добре праксе
Да бисте потврдили перформансе и функционалност, компајлирајте и покрените deviceQuery y bandwidthTest из VS решења у репозиторијуму узорака. Израде обично остављају бинарне датотеке у путањама као што су CUDA Samples\v13.0\bin\win64\Release ако сте задржали подразумеване вредности.
Да бисте визуелно видели потенцијал CUDA-е, покрените графичке примере као што је particlesПоред демо верзије, помоћи ће вам да пронађете референце за употребу дељена меморија и мрежне/блоковске обрасце у вашим сопственим пројектима.
Клауд алтернативе са графичким процесорима
Ако не желите да се мучите са локалним драјверима или вам требају вршне оптерећења, можете се одлучити за cloud инстанце са модерним GPU-има (A100, RTX 4090, A6000, итд.). Ове услуге нуде тренутно распоређивање, шаблони за PyTorch/TensorFlow и плаћање по употреби, корисни за интензивну обуку или брзо тестирање.
Белешке и ознаке
NVIDIA техничка документација и пакети подложни су променама без претходне најаве. Увек проверите напомене уз издање и ажуриране компатибилности пре инсталирања драјвера или комплета алата у производњи.
OpenCL је заштитни знак компаније Apple Inc. који се користи по лиценци од стране Khronos Group. NVIDIA и њен логотип су заштитни знакови или регистровани заштитни знакови НВИДИА корпорација у САД и другим земљама.
Са правим драјвером, правим алатима и неколико добро урађених тестова, Windows је солидна основа за CUDA: можете развијати помоћу Visual Studio-а, валидирати са званичним узорцима, покретати AI frameworks у WSL-у као у Linux-у и, ако се заглавите, преузети алтернативне инсталатере (Conda/pip) или чак cloud да бисте избегли да останете заглављени; важна ствар јесте да се ускладе верзије драјвера и алата, потврди да је NVIDIA GPU онај који се заправо користи и да вам се пружи подршка у deviceQuery/bandwidthTest да се увери да је све зелено. Поделите овај туторијал и више корисника ће знати како да инсталирају CUDA на Windows.