Jei dirbate su GPU ir svarstote pereiti prie AMD, svarbiausias klausimas aiškus: Kaip įdiegti ROCm sistemoje „Windows“ Neprarasdamas gyvybės bandydamas. Pastaraisiais mėnesiais AMD ėmėsi ryžtingų žingsnių, kad per HIP SDK savo skaičiavimo ekosistemą pritaikytų šiai operacinei sistemai, suteikdama kūrėjams ir duomenų komandoms brandesnę ir praktiškesnę patirtį. Geros naujienos: projektus galite kompiliuoti ir ruošti net ir neturėdami įdiegtos AMD plokštės. Svarbiausi dalykai: suderinamas GPU, jei norite paleisti HIP programas.
Prieš pradedant nagrinėti detales, verta šiek tiek apžvelgti kontekstą. „ROCm“ („Radeon Open Compute“) buvo sukurta „Linux“ sistemoje, siekiant kuo geriau išnaudoti AMD GPU skaičiavimo galimybės dirbtinio intelekto, didelio našumo skaičiavimų ir lygiagrečių darbo krūvių srityse. Šiandien situacija įgauna pagreitį: „Windows“ palaikymas auga su HIP SDK, „PyTorch“ jau yra peržiūros versijoje su vietiniu spartinimu, o platforma daro didelę pažangą su „ROCM 7“. Toliau papasakosime apie visa tai. Ką siūlo, kokie pakeitimai ir kaip žingsnis po žingsnio įdiegti „Windows“ sistemoje su praktinėmis pastabomis ir versijų informacija, kuri sutaupys jūsų laiką.
Kas yra ROCm ir kodėl jus gali dominti „Windows“?
ROCm yra atvira platforma, kuria siekiama efektyviai integruoti CPU ir GPU spręsti realias problemas daug skaičiavimo reikalaujantis. Jis gimė ir subrendo „Linux“ sistemoje, tačiau „Windows“ sistemoje jis materializuojasi per HIP SDK, kuris suteikia platformos dalį su API, įrankiais ir įrankių grandinėmis, kad būtų galima kurti nešiojamas ir didelio našumo programas. HIP (heterogeninė skaičiavimo sąsaja perkeliamumui).
Naudodami HIP SDK sistemoje „Windows“, turite pagrindinius vykdymo aplinkos ir kompiliatoriaus elementus, kūrimo priemones ir diegimo programą, kuri aptinka jūsų sistemą ir pateikia naujausią programinę įrangą. taikomi komponentaiTokiu būdu galite nustatyti kūrimo aplinką net ir be AMD GPU, o vėliau, kai turėsite suderinamą aparatinę įrangą, paleisti ir derinti savo HIP programas nekeičiant operacinių sistemų.
Tikslas nėra lengvas: sumažinti technologinį prisirišimą prie patentuotų ekosistemų ir suteikti dirbtinio intelekto bei inžinerijos komandoms tvirtą alternatyvą. „ROCm 7“ taip pat pagreitina gilaus mokymosi ir išvadų darbo krūvių našumą ir pagerina suderinamumą su populiariomis sistemomis, tokiomis kaip PyTorch ir TensorFlow, o tai palengvina kasdienį kūrėjo darbą mišrioje aplinkoje.
Tiems, kurie atstovauja CUDA pasauliui, susidomėjimas yra dvejopas. Viena vertus, „Windows“ nebėra išstumta iš žaidimo; kita vertus, įrankių ir palaikymo spraga mažėja, atsiranda galimybė perkelti projektus su HIP, visada atsižvelgiant į tam tikrus aspektus. Tai ekosistema, kuri nors tai vis dar neapima absoliučiai visko, progresuoja ritmingai ir ambicingai.
ROCm 7 naujienos, kurios keičia pasaulį
7 versija turi apčiuopiamų dirbtinio intelekto ir didelio našumo skaičiavimų patobulinimų: iki 3,5 karto išvadose ir 3 kartus mokymuose AMD išmatuotuose scenarijuose, kuriuos lemia nauji duomenų formatai ir patobulinti ryšio paketai, techninė evoliucija yra pastebima, jei reikia sumažinti aparatinės įrangos kiekį paskirstytam mokymui arba darbui su dideliais modeliais.
Viena iš antraščių yra sumažinto tikslumo formatų palaikymas. 4-oji ir 6-oji bendrosios programosTai leidžia sutalpinti daugiau informacijos į mažesnę atminties talpą ir pagreitinti vykdymą, reikšmingai nepabloginant suvokiamos kokybės tam tikrose kalbose ir generatyviniuose modeliuose. Šios linijos laikosi visa pramonė: prisitaikantis tikslumas įgyti greičio ir išnaudoti kiekvieną vatą.
Taip pat yra pažangos GPU-GPU komunikacijoje dėl to, kad RCCL (NCCL atitikmuo AMD ekosistemoje). Tai pagerina našumą, kai keičiamas mastelis iki kelių GPU, sumažinant kliūtis ir vėlavimą, o tai yra labai svarbu, kai jūsų mokymas ar išvados Jis nebetelpa ant vienos kortelės.
Galiausiai, pastebimas suderinamumo šuolis: be „Linux“, kelias vystosi ir „Windows“ sistemoje, o aparatinės įrangos palaikymas plečiasi nuo Instinct MI300X serverių erdvėje iki „Radeon“ ir „Ryzen“ dirbtinio intelekto darbo stotyse. Tai kartu su patobulintais įrankiais (diegimo programa, „Kubernetes“ integracija per GPU operatorių ir platformų palaikymu) užbaigia labiau gamybai paruošta ekosistema.
HIP SDK sistemoje „Windows“: ką reikia žinoti
HIP SDK į „Windows“ perkelia dalį „ROCM“ platformos su API ir įrankiais darbui su greitintuvais. Suderinamas su „Windows 10“, „Windows 11“ ir „Windows Server 2022“Galite įdiegti be AMD GPU, jei jūsų tikslas yra paruošti įrankių grandines ir kurti srautus; norint paleisti HIP dvejetainius failus, jums jo reikės. Suderinamas GPU arba APU.
Kalbant apie versijas, yra dvi svarbios nuorodos. Pirma, nuo ROCm 6.1.2 versijos „Windows“ skirta HIP SDK atnaujino vykdymo laiko komponentus, pvz. amdhip64 y amd_comgr, todėl verta patikrinti, ar susiejate su atnaujintais DLL failais. Antra, su ROCm 6.4.2 naujausia HIP spindulių sekimo (HIP RT) versija platinama kaip hiprt0200564.dll (2.5.41f6849 versija) – svarbi detalė, jei tyrinėjate funkcijas spindulių sekimas jūsų kanale.
HIP SDK diegimo programoje taip pat yra AMD profesionalių tvarkyklių paketas: Radeon programinė įranga PRO 23.30Sąrankos metu galite pasirinkti, ką įdiegti, arba palikti numatytąsias vertes, jei norite aprėpti viską ir sutaupyti laiko rankiniam reguliavimui. Automatinis atitinkamų komponentų aptikimas supaprastina patirtį.
Reikalavimai ir palaikomos GPU sistemoje „Windows“
Prieš diegdami įsitikinkite, kad atitinkate sistemos reikalavimus. „Windows 10/11“ ir „Windows Server 2022“ yra palaikomi, todėl rekomenduojama nuolat atnaujinti atnaujinimus. Nors įrankių grandines galite kurti ir be AMD aparatinės įrangos, atminkite, kad norint išbandyti ir paleisti HIP programas, jums reikės Palaikoma GPU arba APU, idealiu atveju su neseniai įsigijusiais vairuotojais.
Plečiamas peržiūros ir stabilios aparatinės įrangos palaikymas. AMD paskelbė, kad „ROCM 6.4.4 Preview“ suteikia vietinį palaikymą „PyTorch“ tiek „Windows“, tiek „Linux“ sistemose kelioms šeimoms: „Radeon RX 9000“ (RDNA 4), „Radeon RX 7000“ (RDNA 3) ir naujiesiems „Ryzen AI 300“ APU (įskaitant „Max“ / „Max+“ variantus). Tai atveria duris dirbtinio intelekto modelių tiesioginiam naudojimui. stalinių ir nešiojamųjų kompiuterių sistemose.
Šioje palaikymo bangoje AMD paminėti žymūs modeliai apima, bet neapsiriboja: Radeon RX 9070 XT, RX 9070, RX 9070 GRE, RX 9060 XT RX 9000 serijoje; „Radeon RX 7900 XTX“, „RX 7900 XT“ ir „RX 7900 GRE“ RX 7000 serijoje; ir profesionalų linijoje, Radeon PRO W7900 (įskaitant dviejų lizdų variantą). APU jie pasirodo Ryzen AI 300 pvz., „Ryzen AI Max+ 395“, „Ryzen AI Max 390“, „Ryzen AI Max 385“, „Ryzen AI 9 HX 375“, „Ryzen AI 9 HX 370“ ir „Ryzen AI 9 365“. Visada patikrinkite oficialų palaikomų GPU ir APU sąrašą. patvirtinti konkretų suderinamumą.
Žingsnis po žingsnio diegiant HIP SDK
Procesas yra paprastas ir sukurtas taip, kad nepasiklystumėte. Vis dėlto, norint išvengti netikėtumų, verta pasinaudoti keliais patarimais ir pastabomis. Apskritai, Atsisiunčiate diegimo programą, paleidžiate ją su administratoriaus teisėmis, pasirenkate komponentus ir užbaigiate vedlį. Žingsnis po žingsnio.
1) Atsisiųsti. Eikite į oficialų HIP SDK, skirto „Windows“, puslapį ir pasirinkite diegimo programą, atitinkančią norimą naudoti ROCm versiją. A licencijos puslapis, su kuriuo turite sutikti prieš pradedant atsisiuntimą. Įrašykite failą prieinamoje vietoje, pavyzdžiui, aplanke „Atsisiuntimai“.
2) Paleiskite. Dukart spustelėkite vykdomąjį HIP SDK failą. Diegimo programai reikalingos administratoriaus teisės, todėl „Windows“ paragins jus atidaryti UAC; norėdami tęsti, spustelėkite „Taip“. Kelias akimirkas diegimo programa išskleis laikinus paketus į C:\AMDPamatysite langą su būsena „Inicijuojamas diegimas“. Kai diegimas bus baigtas, tas aplankas bus automatiškai ištrintas, todėl nepalieka pėdsakų baigus diegimą.
3) Aptikimas ir parinktys. Diegimo programa išanalizuos jūsų sistemą, kad pateiktų jums taikomi komponentaiAtsidarys langas su žymimaisiais langeliais, skirtais diegimo tinkinimui. Pagal numatytuosius nustatymus pažymėta viskas, kas naudinga, jei norite viso paketo (SDK, vykdymo aplinką, įrankius ir kt.). Jei norite, panaikinkite žymėjimą nuo to, ko jums nereikia. sumažinti pėdsaką.
4) Ekrano tvarkyklė. Pakuotėje yra įdiegta AMD Radeon programinė įranga PRO 23.30Galite pasirinkti įdiegti šią profesionalią tvarkyklę, jei ieškote stabilumo gamybinėje aplinkoje. Jei jau naudojate kitą palaikomą ir sertifikuotą versiją, nuspręskite, ar ją išsaugoti, ar atnaujinti, atsižvelgdami į savo poreikius. projekto reikalavimai.
5) Diegimas. Priimkite diegimą ir palaukite, kol procesas bus baigtas. Laikas priklausys nuo pasirinktų komponentų ir jūsų kompiuterio. Jei diegimo programa aptiks, kad tai būtina, ji paragins jus paleisti iš naujo. Spustelėkite „Baigti“, kad užbaigtumėte, arba „Paleisti iš naujo“, jei norite paleisti iš naujo. pokyčiai iš karto.
Komandinės eilutės parinktys ir diegimo programos veikimas
HIP SDK diegimo programa yra grafinė programa su įėjimo tašku „WinMain“Tai reiškia, kad net jei jį iškviečiate iš konsolės, jo gyvavimo ciklas yra susietas su langu. Bekontakčiuose kompiuteriuose arba nuotolinėse sesijose langas gali būti nematomas, tačiau procesas vis tiek yra susietas su sąsaja, į ką reikėtų atsižvelgti automatizuojant. serverių diegimai.
Yra CLI parinktys, skirtos tiksliai suderinti diegimą ir pasirinkti komponentusAMD dokumentuoja šiuos parametrus savo „Windows“ diegimo saugykloje. Įprasti naudojimo atvejai apima visų komponentų diegimą vienu metu arba diegimą be priežiūros su iš anksto nustatytomis konfigūracijomis. Jei planuojate tai integruoti į CI/CD srautus, pirmiausia išbandykite laboratoriniame kompiuteryje, kad patvirtintumėte. sintaksė ir elgesys savo aplinkoje.
Švarus pašalinimas
Jei reikia atšaukti pakeitimus, galite pašalinti HIP SDK komponentus iš valdymo skydo arba, „Windows 11“, iš Nustatymai > Programos > Įdiegtos programos. Raskite kiekvieną įrašą, bakstelėkite trijų taškų meniu dešinėje ir pasirinkite „Pašalinti“Atkreipkite dėmesį, kad „Visual Studio“ papildiniui gali reikėti atskiros procedūros, todėl patikrinkite jo būseną, jei pastebėsite aplinkos liekanos. IDE aplinkoje.
Gimtoji „PyTorch“: „ROCm 6.4.4“ peržiūra „Windows“ ir „Linux“ pariteto sistemose
AMD paskelbė svarbią apžvalgą: ROCm 6.4.4 peržiūra kuri įgalina gimtąją „PyTorch“ palaikymą „Windows“ ir „Linux“ sistemose, skirtose „Radeon RX 9000“, „RX 7000“ GPU ir „Ryzen AI 300“ APU, įskaitant „Max“ / „Max+“ variantus. Tai leidžia kūrėjams ir entuziastams paleisti dirbtinio intelekto modelius AMD aparatinėje įrangoje „Windows“ sistemoje. nesigriebiant trumpesnių kelių arba egzotiškos konfigūracijos.
Šis pradinis etapas sudaro pagrindą našumo, funkcijų aprėpties ir stabilumo išplėtimui būsimuose leidimuose. Be to, AMD teikia... „PyTorch“ 25.20.01.14 versijos peržiūra atsisiuntimui sistemoje „Windows“. Tiems, kurie perjungia „Linux“ ir „Windows“, bendrovė pabrėžia, kad „Linux“ gaus tokį patį palaikymą „ROCm 6.4.4“ versijoje, lažindamasi dėl nuoseklumas įvairiose platformose.
Ar galiu konvertuoti CUDA į ROCm neliesdamas kodo?
Nuolat kyla klausimas: ar yra automatinis įrankis, kuris konvertuotų CUDA projektus į ROCm be žmogaus įsikišimo? Realybė tokia, kad šiandien nėra universalaus stebuklingo mygtuko, kuris užtikrintų tobulą migraciją. jokių rankinių koregavimųAMD pasaulyje tipiškas kelias yra per HIP, naudojant „hipnifikacijos“ programas, kurios padeda išversti CUDA iškvietimus į jų HIP atitikmenis, pagreitindamos didelę dalį darbo, bet neužkirsdamos kelio. vėlesnės pataisos.
Automatizavimo lygis priklauso nuo naudojamo kodo ir bibliotekų. Projektai, kurie laikosi CUDA vykdymo laiko ir įprastų API, paprastai migruoja geriau nei tie, kurie priklauso nuo labai specifinių plėtinių ar komponentų. Pavyzdžiui, „Intel“ ekosistema turi savo įrankį perėjimui prie SYCL, o tai primena, kad... joks maršrutas nėra 100 % automatinis Visais atvejais protinga įvertinti pastangas naudojant prototipą ir išmatuoti atotrūkį tarp išverstos versijos ir to, ko reikalauja jūsų gamybinė kodo bazė.
Palyginimas su CUDA ir kur ROCm tinka
Jei esate iš „NVIDIA“, žinote, kad našumas yra geras, tačiau taip pat yra tam tikrų tiekėjų ir licencijų apribojimų. Didžiausias „ROCM“ privalumas yra atviras požiūris, licencijavimo išlaidų nebuvimas ir laipsniškas našumo gerinimas. našumas ir suderinamumasMokslinių tyrimų centrams, universitetams ir MVĮ tai gali reikšti prieinamesnius klasterius ir ekosistemą. mažiau ribojantis.
Ar ROCm apima viską? Ne visada. Jei jūsų stekas remiasi uždarais įrankiais arba tik CUDA bibliotekomis, greičiausiai susidursite su apribojimais. Tačiau su ROCm 7 šuolis yra apčiuopiamas: nauji duomenų tipai (FP4/FP6), patobulintas GPU-GPU ryšys su RCCL, augantis „Windows“ palaikymas ir suderinamumas su pagrindinėmis sistemomis. Vis labiau įmanoma sukurti dedikuotas aplinkas. Dirbtinis intelektas ir HPC AMD procesoriuose be jausmo, kad esi amžinoje beta versijoje.
HIP SDK išleidimo pastabos ir pagrindiniai dvejetainiai failai
Be didelių antraščių, svarbu išsamiau aptarti dvejetainius failus. Nuo ROCm 6.1.2 versijos atnaujintas HIP SDK vykdymo laikas, skirtas „Windows“. amdhip64 y amd_comgrJei tvarkote artefaktus arba rankiniu būdu susiejate DLL failus, būtinai nurodykite naujas versijas, kad galėtumėte pasinaudoti naujausios galimybės ir vengti subtilių nesuderinamumų.
Jei dirbate su spindulių sekimu HIP sistemoje, naudinga nuoroda yra ta, kad ROCm 6.4.2 versijoje naujausia HIP RT versija yra 2.5.41f6849 ir dvejetainis kodas pasiskirsto taip: hiprt0200564.dllŠie pavadinimų duomenys padeda uždarant kūrimo srautus arba konfigūruojant atkartojamų diegimų.
Gera įrengimo ir tikrinimo praktika
Kad išvengtumėte netikėtumų, pravartu pasiruošti: atnaujinti „Windows“, pašalinti senas, konfliktuojančias tvarkykles ir, jei naudojate ankstesnę aplinką, išvalyti pasenusius kelius iš PATH. Įdiegus HIP SDK, iš naujo paleisti, jei jūsų paprašys vedlį ir išbandykite „sveikas pasaulis“ su HIP, kad patikrintumėte įrankių grandinę ir vykdymo aplinką.
Įprastas būdas yra sukurti minimalų HIP projektą ir jį sukompiliuoti naudojant SDK įrankius. Patikrinkite, ar pasiekiami vykdymo laiko DLL failai ir ar įdiegta tvarkyklė veikia tinkamai. Jei dar neturite AMD GPU, sutelkite dėmesį į kompiliavimo ir pakavimo dalies patvirtinimą. Kai turėsite suderinamą aparatinę įrangą, paleiskite ir patikrinkite naudodami programas, lygiavertes „rocminfo“ arba SDK įrankius, kurie pateikia ataskaitas GPU aptikimas.
Diegimas „Linux“ sistemoje: trumpa nuoroda
Nors šiame vadove daugiausia dėmesio skiriama „Windows“, daugelis komandų dirba hibridinėse aplinkose. „Linux“ sistemoje diegimas apima AMD saugyklų pridėjimą ir kūrimo paketų diegimą. Naudojant „Ubuntu“ kaip pagrindą, klasikinis procesas yra toks: užregistruoti GPG raktą, pridėkite programinės įrangos šaltinį ir atnaujinkite bei įdiekite.
Komandų pavyzdžiai Ubuntu 20.04/22.04 LTS sistemoje (visada patikrinkite oficialią dokumentaciją, ar jos nepasikeitė): pridėkite saugyklas ir tada įdiekite.
sudo apt update && sudo apt install wget gnupg2
wget https://repo.radeon.com/rocm/rocm.gpg.key
sudo gpg --dearmor -o /etc/apt/keyrings/rocm.gpg < rocm.gpg.key
echo 'deb [signed-by=/etc/apt/keyrings/rocm.gpg] https://repo.radeon.com/rocm/apt/debian/ ubuntu main' | sudo tee /etc/apt/sources.list.d/rocm.list
sudo apt update
sudo apt install rocm-dev
Įdiegę patikrinkite su komunalinėmis paslaugomis, pvz. rocminfo arba „ROCM“ stebėjimo stetą, kad jūsų GPU atrodytų teisingai. Tai suteiks jums naudingos informacijos, jei perjungsite kūrimas Linux sistemoje ir testavimas Windows sistemoje.
Realaus gyvenimo taikymas: generatyvinis dirbtinis intelektas, teisės magistro studijos ir produktyvumas
Su „ROCm 6.4.4 Preview“ ir gimtąja „PyTorch“ versija „Windows“ sistemoje atveriamos durys į realaus pasaulio scenarijus: veikia generatyviniai modeliai, tikslinant LLM, išvadų srautus kūrybinėms ir analitinėms programoms arba prototipų kūrimą darbo stotyse. Tuo pačiu metu, įmonių rinkoje, ROCm 7 dabar prieinama serveriams su „Instinct“ ir EPYC aparatine įranga, skirta didelių apkrovų.
Tiems, kurie kuria hibridines infrastruktūras, auganti „Kubernetes“ parama per GPU operatorius Palengvina atkuriamus diegimus. Nuolatinis palaikymas tarp „Windows“ ir „Linux“ apsaugo nuo staigių perėjimų tarp vietinės ir gamybinės aplinkos, sumažindamas integracijos išlaidas ir paleidimo laikas.
Patarimai, kaip perkelti projektus ir išvengti kliūčių
Jei svarstote perkelti kodą iš CUDA, pradėkite nuo reprezentatyvaus modulio ir išmatuokite pastangas su hipofikacijos įrankiaiNustatykite bibliotekų priklausomybes, kurios gali neturėti tiesioginių atitikmenų, ir, jei taikoma, sukurkite abstrakcijos sluoksnį, kad atjungtumėte spartinimo posistemį. Tai, kas veikia tame pavyzdyje, suteiks jums sąžiningą supratimą apie bendros pastangos.
Kelių GPU projektuose atkreipkite dėmesį į įrenginių ryšį ir orkestravimo sistemą. RCCL yra pažengęs į priekį, tačiau gera idėja patikrinti savo ryšio modelius tikslinėje įrangoje. Naudodami „PyTorch“, patikrinkite rekomenduojamas versijas ir suderinamumo matricas, ypač šiame etape. Peržiūrėti versijas „Windows“.
Greiti DUK
- Ar galiu įdiegti HIP SDK be AMD GPU? Taip, dvejetainiams failams kompiliuoti ir paruoštiNorint paleisti HIP programas, reikės suderinamo GPU / APU.
- Ar diegimo programa tyli komandinėje eilutėje (CLI)? Yra komandinės eilutės parinktys, tačiau nepamirškite, kad tai grafinė programa su „WinMain“ ir susijusiu langu.
- Kokį tvarkyklę įdiegia paketas? Į komplektą įeina AMD Radeon PRO 23.30 programinė įranga, nors galite naudoti jau esančius suderinamus tvarkykles.
- Į kokius vykdymo laiko pakeitimus turėčiau atkreipti dėmesį? amdhip64 ir amd_comgr atnaujinta iš ROCm 6.1.2; Dabartinis HIP RT ROCm 6.4.2 versijoje: hiprt0200564.dll.
Akivaizdu, kad AMD ekosistema žengė žingsnį į priekį. ROCm sistemoje „Windows“ per HIP SDK dabar yra praktiška realybė„PyTorch“ peržiūra paspartina diegimą, o „ROCm 7“ patobulinimai pastebimi našumo ir įrankių srityse. Jei jums reikia technologinės nepriklausomybės, mažų sąnaudų ir patikimo kelio už CUDA ribų, tai puikus metas pradėti rimtus testus, perkelti svarbiausius modulius ir... sukurkite savo kriterijus su duomenimis.