Jak wykorzystać procesory graficzne NVIDIA do szkolenia sztucznej inteligencji

Jak wykorzystać procesory graficzne NVIDIA do szkolenia sztucznej inteligencji

Krótka odpowiedź: Użyj procesorów graficznych NVIDIA do trenowania sztucznej inteligencji, najpierw potwierdzając widoczność sterownika i procesora graficznego za pomocą nvidia-smi , a następnie instalując kompatybilny framework/stos CUDA i uruchamiając niewielki test „model + wsad na CUDA”. W przypadku braku pamięci, zmniejsz rozmiar wsadu i użyj trybu mieszanego, monitorując jednocześnie wykorzystanie, pamięć i temperaturę.

Najważniejsze wnioski:

Sprawdzenie linii bazowej : Zacznij od nvidia-smi ; popraw widoczność sterownika przed zainstalowaniem frameworków.

Zgodność stosu : zadbaj o to, aby wersje sterowników, środowiska wykonawczego CUDA i infrastruktury były zgodne, aby zapobiec awariom i niestabilnym instalacjom.

Drobny sukces : Przed zwiększeniem skali eksperymentów należy potwierdzić, czy pojedyncze przejście do przodu zostało wykonane w CUDA.

Dyscyplina VRAM : Postaw na mieszaną precyzję, akumulację gradientu i punkty kontrolne, aby dopasować się do większych modeli.

Monitorowanie nawyków : śledź wykorzystanie, wzorce pamięci, pobór mocy i temperaturę, aby wcześnie wykryć wąskie gardła.

Artykuły, które mogą Ci się spodobać po przeczytaniu tego:

🔗 Jak zbudować agenta AI
Zaprojektuj przepływ pracy, narzędzia, pamięć i zabezpieczenia swojego agenta.

🔗 Jak wdrażać modele AI
Konfiguruj środowiska, pakuj modele i niezawodnie dostarczaj je do produkcji.

🔗 Jak mierzyć wydajność sztucznej inteligencji
Wybierz wskaźniki, przeprowadź oceny i śledź wydajność w czasie.

🔗 Jak automatyzować zadania za pomocą sztucznej inteligencji
Automatyzuj powtarzalne zadania za pomocą monitów, przepływów pracy i integracji.

1) Całościowy obraz – co robisz, gdy „trenujesz na GPU” 🧠⚡

Podczas trenowania modeli AI wykonujesz głównie mnóstwo obliczeń macierzowych. Procesory graficzne są stworzone do tego typu pracy równoległej, więc frameworki takie jak PyTorch, TensorFlow i JAX mogą przenieść większość zadań na GPU. ( Dokumentacja PyTorch CUDA , instalacja TensorFlow (pip) , szybki start JAX )

W praktyce „wykorzystanie procesorów graficznych NVIDIA do szkolenia” oznacza zazwyczaj:

  • Parametry Twojego modelu znajdują się (głównie) w pamięci VRAM GPU

  • Twoje partie są przenoszone z pamięci RAM do pamięci VRAM na każdym kroku

  • Twoje uruchomienie forward pass i backprop w jądrach CUDA ( Przewodnik programowania CUDA )

  • Aktualizacje optymalizatora są wykonywane na procesorze GPU (idealnie)

  • Monitorujesz temperaturę, pamięć i wykorzystanie, żeby niczego nie gotować 🔥 ( dokumentacja NVIDIA nvidia-smi )

Jeśli to brzmi dużo, nie martw się. To głównie lista kontrolna i kilka nawyków, które wyrobisz sobie z czasem.

2) Co sprawia, że ​​konfiguracja do treningu sztucznej inteligencji na procesorze graficznym NVIDIA jest dobra 🤌

To jest sekcja „nie buduj domu na galaretce”. Dobra konfiguracja do nauki korzystania z procesorów graficznych NVIDIA do treningu AI to taka, która nie powoduje żadnych komplikacji. Brak komplikacji oznacza stabilność. Stabilność oznacza szybkość. Szybkość oznacza… no cóż, szybkość 😄

Solidny system treningowy zazwyczaj obejmuje:

  • Wystarczająca ilość pamięci VRAM dla rozmiaru partii + modelu + stanów optymalizatora

    • Pamięć VRAM jest jak przestrzeń w walizce. Możesz spakować się mądrzej, ale nie spakujesz jej w nieskończoność.

  • Dopasowany stos oprogramowania (sterownik + środowisko uruchomieniowe CUDA + zgodność z frameworkiem) ( PyTorch Get Started (selektor CUDA) , instalacja TensorFlow (pip) )

  • Szybkie przechowywanie (NVMe jest bardzo pomocne w przypadku dużych zestawów danych)

  • Przyzwoity procesor + pamięć RAM , dzięki czemu ładowanie danych nie obciąża procesora graficznego ( Przewodnik po dostrajaniu wydajności PyTorch )

  • Chłodzenie i zapas mocy (niedoceniane, dopóki nie przestaną być 😬)

  • Powtarzalne środowisko (venv/conda lub kontenery), dzięki czemu aktualizacje nie powodują chaosu ( omówienie zestawu narzędzi NVIDIA Container Toolkit )

I jeszcze jedna rzecz, którą ludzie pomijają:

  • Nawyk monitorowania - sprawdzasz pamięć GPU i jej wykorzystanie w taki sam sposób, w jaki sprawdzasz lusterka podczas jazdy samochodem. ( Dokumentacja NVIDIA nvidia-smi )

3) Tabela porównawcza – popularne sposoby trenowania z wykorzystaniem procesorów graficznych NVIDIA (z ciekawostkami) 📊

Poniżej znajduje się szybka ściągawka „który pasuje?”. Ceny są orientacyjne (bo rzeczywistość jest zmienna), a jedna z tych cel jest celowo nieco chaotyczna.

Narzędzie / Podejście Najlepszy dla Cena Dlaczego to działa (w większości)
PyTorch (waniliowy) PyTorch większość ludzi, większość projektów Bezpłatny Elastyczny, ogromny ekosystem, łatwe debugowanie – każdy ma swoje zdanie
PyTorch Lightning Dokumentacja Lightning zespoły, szkolenia strukturalne Bezpłatny Zmniejsza liczbę szablonowych, czystszych pętli; czasami wydaje się to „magiczne”, dopóki nie przestanie działać
Hugging Face Transformers + Trainer Dokumentacja trenera Dostrajanie NLP + LLM Bezpłatny Szkolenie z bateriami, świetne ustawienia domyślne, szybkie wygrane 👍
Przyspiesz Dokumenty Przyspiesz multi-GPU bez bólu Bezpłatny Sprawia, że ​​DDP jest mniej irytujące, co jest przydatne przy skalowaniu bez konieczności ponownego przepisywania wszystkiego
Dokumentacja DeepSpeed duże modele, sztuczki pamięciowe Bezpłatny ZeRO, odciążenie, skalowanie – może być trudne, ale satysfakcjonujące, gdy się uda
TensorFlow + Keras TF rurociągi produkcyjne Bezpłatny Solidne narzędzia, dobra historia wdrożenia; niektórzy je uwielbiają, inni po cichu nie
JAX + Flax JAX Szybki start / Dokumentacja Flax badania + maniacy prędkości Bezpłatny Kompilacja XLA może być niesamowicie szybka, ale debugowanie może wydawać się… abstrakcyjne
Przegląd NVIDIA NeMo przemówienie + przepływy pracy LLM Bezpłatny Zoptymalizowany pod kątem NVIDIA stos, dobre przepisy – gotowanie jak w wypasionym piekarniku 🍳
Docker + NVIDIA Container Toolkit – przegląd zestawu narzędzi środowiska powtarzalne Bezpłatny „Działa na moim komputerze” zmienia się w „działa na naszych komputerach” (ponownie, głównie)

4) Krok pierwszy – sprawdź, czy Twój procesor graficzny jest prawidłowo widoczny 🕵️♂️

Zanim zainstalujesz kilkanaście rzeczy, sprawdź podstawy.

Rzeczy, które chcesz, aby były prawdą:

  • Maszyna widzi GPU

  • Sterownik NVIDIA został zainstalowany poprawnie

  • Procesor graficzny nie jest przywiązany do wykonywania czegoś innego

  • Można to niezawodnie sprawdzić

Klasyczna kontrola wygląda następująco:

Czego szukasz:

Jeśli nvidia-smi zawiedzie, natychmiast przestań. Nie instaluj jeszcze frameworków. To jak próba pieczenia chleba bez podłączonego piekarnika. ( NVIDIA System Management Interface (NVSMI) )

Mała ludzka uwaga: czasami nvidia-smi działa, ale trening nadal się nie udaje, ponieważ środowisko uruchomieniowe CUDA używane przez framework nie spełnia oczekiwań sterownika. To nie twoja głupota. Tak po prostu jest 😭 ( PyTorch Get Started (selektor CUDA) , instalacja TensorFlow (pip) )

5) Zbuduj stos oprogramowania – sterowniki, CUDA, cuDNN i „taniec kompatybilności” 💃

To właśnie tutaj ludzie tracą godziny. Sztuka polega na tym: wybierz ścieżkę i trzymaj się jej .

Opcja A: CUDA w pakiecie z frameworkiem (często najłatwiejsze)

Wiele kompilacji PyTorch jest dostarczanych z własnym środowiskiem uruchomieniowym CUDA, co oznacza, że ​​nie potrzebujesz pełnego zestawu narzędzi CUDA zainstalowanego w systemie. Wystarczy jedynie kompatybilny sterownik NVIDIA. ( PyTorch – wprowadzenie (selektor CUDA) , Poprzednie wersje PyTorch (koła CUDA) )

Zalety:

  • Mniej ruchomych części

  • Łatwiejsze instalacje

  • Bardziej powtarzalne w każdym środowisku

Wady:

  • Jeśli będziesz swobodnie mieszać środowiska, możesz się pomylić

Opcja B: Zestaw narzędzi CUDA dla systemu (większa kontrola)

Instalujesz w systemie pakiet narzędzi CUDA i dostosowujesz do niego wszystko. ( Dokumentacja pakietu narzędzi CUDA )

Zalety:

  • Większa kontrola nad niestandardowymi kompilacjami, niektóre specjalne narzędzia

  • Przydatne do kompilacji niektórych operacji

Wady:

  • Więcej sposobów na niedopasowanie wersji i ciche płakanie

cuDNN i NCCL w ujęciu ludzkim

  • cuDNN przyspiesza prymitywy głębokiego uczenia (sploty, bity RNN itp.) ( dokumentacja NVIDIA cuDNN )

  • NCCL to szybka biblioteka „komunikacji GPU-GPU” przeznaczona do szkolenia wielu GPU ( przegląd NCCL )

Jeśli zajmujesz się szkoleniem na wielu procesorach graficznych, NCCL jest Twoim najlepszym przyjacielem, a czasami także kapryśnym współlokatorem. ( Omówienie NCCL )

6) Twój pierwszy trening GPU (przykładowy sposób myślenia PyTorch) ✅🔥

Aby skorzystać z kursu „Jak wykorzystać procesory graficzne NVIDIA do trenowania sztucznej inteligencji” , nie potrzebujesz najpierw ogromnego projektu. Potrzebujesz małego sukcesu.

Główne idee:

  • Wykryj urządzenie

  • Przenieś model do GPU

  • Przenieś tensory do GPU

  • Potwierdź, że przebieg do przodu przebiega w tym miejscu ( dokumentacja PyTorch CUDA )

Rzeczy, które zawsze sprawdzam pod kątem wiarygodności na początku:

Częste pytania „dlaczego jest powolny?”

  • Twój program ładujący dane jest zbyt wolny (GPU czeka bezczynnie) ( Przewodnik po dostrajaniu wydajności PyTorch )

  • Zapomniałeś przenieść dane do GPU (ups)

  • Rozmiar partii jest niewielki (niewykorzystany procesor GPU)

  • Na etapie szkolenia wykonujesz intensywne przetwarzanie wstępne procesora

Tak, Twój GPU często będzie wyglądał na „niezbyt zajęty”, jeśli wąskim gardłem są dane. To tak, jakby zatrudnić kierowcę wyścigowego i kazać mu czekać na paliwo na każdym okrążeniu.

7) Gra VRAM – rozmiar partii, mieszana precyzja i brak eksplozji 💥🧳

Większość problemów z praktycznym szkoleniem sprowadza się do pamięci. Jeśli chcesz nauczyć się jednej umiejętności, naucz się zarządzania pamięcią VRAM.

Szybkie sposoby na zmniejszenie wykorzystania pamięci

Moment „dlaczego pamięć VRAM jest nadal pełna po zatrzymaniu?”

Frameworki często buforują pamięć w celu zwiększenia wydajności. To normalne. Wygląda to groźnie, ale nie zawsze oznacza wyciek. Uczysz się odczytywać wzorce. ( Semantyka CUDA w PyTorch: alokator pamięci podręcznej )

Praktyczny nawyk:

8) Spraw, aby GPU faktycznie działało – tuning wydajności, na który warto poświęcić czas 🏎️

Uruchomienie „treningu GPU” to krok pierwszy. Szybkość to krok drugi.

Optymalizacje o dużym wpływie

Najbardziej pomijane wąskie gardło

Twój proces przechowywania i przetwarzania wstępnego. Jeśli Twój zbiór danych jest ogromny i przechowywany na wolnym dysku, Twój procesor graficzny staje się drogim grzejnikiem. Bardzo zaawansowanym, błyszczącym grzejnikiem.

A tak przy okazji, małe wyznanie: „optymalizowałem” model przez godzinę, tylko po to, by zdać sobie sprawę, że rejestrowanie danych było wąskim gardłem. Zbyt częste drukowanie może spowolnić trening. Tak, może.

9) Szkolenie Multi-GPU - DDP, NCCL i skalowanie bez chaosu 🧩🤝

Gdy potrzebujesz większej prędkości lub większych modeli, wybierasz multi-GPU. Tu zaczyna się robić ciekawie.

Typowe podejścia

  • Dane równoległe (DDP)

    • Podziel partie na procesory GPU, zsynchronizuj gradienty

    • Zwykle domyślna opcja „dobra” ( dokumentacja PyTorch DDP )

  • Model równoległy / Tensor równoległy

    • Podziel model na procesory GPU (w przypadku bardzo dużych modeli)

  • Rurociąg równoległy

    • Podziel warstwy modelu na etapy (jak linia montażowa, ale dla tensorów)

Jeśli dopiero zaczynasz, szkolenie w stylu DDP będzie dla Ciebie idealne. ( Samouczek PyTorch DDP )

Praktyczne wskazówki dotyczące obsługi wielu procesorów graficznych

  • Upewnij się, że procesory graficzne mają podobną wydajność (mieszanie może stanowić wąskie gardło)

  • Połączenie monitora: znaczenie NVLink kontra PCIe w przypadku obciążeń wymagających dużej synchronizacji ( omówienie NVIDIA NVLink , dokumentacja NVIDIA NVLink )

  • Zachowaj równowagę rozmiarów partii na GPU

  • Nie ignoruj ​​procesora i pamięci masowej – wiele procesorów graficznych może nasilać wąskie gardła danych

I tak, błędy NCCL mogą wydawać się zagadką owiniętą w tajemnicę, owiniętą w pytanie „dlaczego teraz”. Nie jesteś przeklęty. Prawdopodobnie. ( Przegląd NCCL )

10) Monitorowanie i profilowanie – mało efektowne rzeczy, które oszczędzają Ci godziny 📈🧯

Na początek nie potrzebujesz wymyślnych pulpitów nawigacyjnych. Musisz zauważyć, kiedy coś jest nie tak.

Kluczowe sygnały, na które należy zwrócić uwagę

  • Wykorzystanie GPU : czy jest stale wysokie czy skokowe?

  • Wykorzystanie pamięci : stabilne, rosnące czy dziwne?

  • Pobór mocy : niezwykle niski, może oznaczać niepełne wykorzystanie

  • Temperatury : utrzymujące się wysokie temperatury mogą ograniczać wydajność

  • Wykorzystanie procesora : problemy z przepływem danych pojawiają się tutaj ( Przewodnik po dostrajaniu wydajności PyTorch )

Profilowanie mentalności (wersja prosta)

  • Jeśli wykorzystanie GPU jest niskie – wąskie gardło danych lub procesora

  • Jeśli GPU ma dużą, ale wolną moc – nieefektywność jądra, precyzja lub architektura modelu

  • Jeśli prędkość treningu spada losowo – ograniczanie termiczne, procesy w tle, problemy z wejściem/wyjściem

Wiem, że monitorowanie brzmi nudno. Ale to jak nitkowanie zębów. Irytujące, a potem nagle życie się poprawia.

11) Rozwiązywanie problemów – typowi podejrzani (i mniej typowi) 🧰😵💫

Ta sekcja zasadniczo brzmi: „te same pięć kwestii, na zawsze”

Problem: brak pamięci CUDA

Naprawiono:

Problem: Trening uruchamia się przypadkowo na procesorze

Naprawiono:

  • upewnij się, że model został przeniesiony do CUDA

  • upewnij się, że tensory zostały przeniesione do CUDA

  • sprawdź konfigurację urządzenia frameworka ( dokumentacja PyTorch CUDA )

Problem: Dziwne awarie lub nielegalny dostęp do pamięci

Naprawiono:

Problem: Wolniej niż oczekiwano

Naprawiono:

Problem: Multi-GPU zawiesza się

Naprawiono:

  • potwierdź prawidłowe ustawienia zaplecza ( dokumentacja dystrybuowana PyTorch )

  • sprawdź konfiguracje środowiska NCCL (ostrożnie) ( przegląd NCCL )

  • najpierw przetestuj pojedynczy procesor graficzny

  • upewnij się, że sieć/połączenie jest sprawne

Mała uwaga: czasami rozwiązaniem jest po prostu ponowne uruchomienie. To brzmi głupio. Ale działa. Komputery tak mają.

12) Koszt i praktyczność – wybierz odpowiedni procesor graficzny NVIDIA i konfigurację bez zbędnego zastanawiania się 💸🧠

Nie każdy projekt wymaga największego GPU. Czasami potrzeba wystarczającej mocy GPU.

Jeśli dostrajasz modele średnie

Jeśli trenujesz większe modele od podstaw

Jeśli eksperymentujesz

  • Chcesz szybkiej iteracji

  • Nie wydawaj wszystkich pieniędzy na kartę graficzną, a potem nie marnuj miejsca na pamięć masową i RAM

  • Zrównoważony system wygrywa z niesymetrycznym (w większości dni)

A tak naprawdę, można zmarnować tygodnie na szukanie „idealnego” sprzętu. Zbuduj coś, co będzie działać, zmierz, a potem dostosuj. Prawdziwym wrogiem jest brak pętli sprzężenia zwrotnego.

Notatki końcowe – jak używać procesorów graficznych NVIDIA do trenowania sztucznej inteligencji, nie tracąc przy tym rozumu 😌✅

Jeśli nie wyniesiesz z tego poradnika „ Jak używać procesorów graficznych NVIDIA do trenowania sztucznej inteligencji” , to skorzystaj z tego:

Szkolenie z kart graficznych NVIDIA to jedna z tych umiejętności, które wydają się onieśmielające, a potem nagle stają się… po prostu normalne. Jak nauka jazdy. Na początku wszystko jest głośne i zagmatwane, a kierownica ściska się za mocno. A potem pewnego dnia jedziesz sobie spokojnie, popijasz kawę i od niechcenia debugujesz problem z rozmiarem partii, jakby to nie był żaden problem ☕😄

Często zadawane pytania

Co oznacza trenowanie modelu AI na procesorze graficznym NVIDIA

Trening na procesorze graficznym NVIDIA oznacza, że ​​parametry modelu i partie treningowe znajdują się w pamięci VRAM procesora graficznego, a skomplikowane obliczenia (przebieg w przód, wsteczna propagacja, kroki optymalizatora) są wykonywane za pomocą jąder CUDA. W praktyce często sprowadza się to do upewnienia się, że model i tensory znajdują się w pamięci CUDA , a następnie monitorowania pamięci, wykorzystania i temperatur, aby zapewnić stałą przepustowość.

Jak sprawdzić, czy karta graficzna NVIDIA działa, zanim zainstalujesz cokolwiek innego

Zacznij od nvidia-smi . Powinno ono pokazywać nazwę GPU, wersję sterownika, aktualne użycie pamięci i wszystkie uruchomione procesy. Jeśli nvidia-smi zawiedzie, wstrzymaj się z PyTorch/TensorFlow/JAX – najpierw popraw widoczność sterownika. To podstawowe sprawdzenie „czy piekarnik jest podłączony” do trenowania GPU.

Wybór między CUDA systemowym a CUDA dołączonym do PyTorch

Powszechnym podejściem jest korzystanie z CUDA dołączonego do frameworka (jak w przypadku wielu kół PyTorch), ponieważ redukuje to liczbę ruchomych części – potrzebny jest głównie kompatybilny sterownik NVIDIA. Zainstalowanie pełnego zestawu narzędzi CUDA w systemie zapewnia większą kontrolę (niestandardowe kompilacje, operacje kompilacji), ale stwarza również większe ryzyko niezgodności wersji i mylących błędów w czasie wykonywania.

Dlaczego szkolenie może być powolne nawet w przypadku procesora graficznego NVIDIA

Często procesor graficzny jest „głodny” przez potok wejściowy. Opóźnione programy ładujące dane, intensywne przetwarzanie wstępne procesora na etapie treningu, niewielkie rozmiary wsadów lub powolna pamięć masowa – to wszystko może sprawić, że wydajny procesor graficzny będzie zachowywał się jak bezczynny grzejnik. Zwiększenie liczby pracowników programów ładujących dane, włączenie pamięci podręcznej, dodanie funkcji wstępnego pobierania i ograniczenie rejestrowania to typowe pierwsze kroki przed zrzuceniem winy na model.

Jak zapobiegać błędom „braku pamięci CUDA” podczas szkolenia procesora graficznego NVIDIA

Większość poprawek to taktyki VRAM: zmniejszenie rozmiaru partii, włączenie precyzji mieszanej (FP16/BF16), użycie akumulacji gradientu, skrócenie długości sekwencji/rozmiaru przycięcia lub użycie punktów kontrolnych aktywacji. Sprawdź również, czy inne procesy GPU nie zużywają pamięci. Metoda prób i błędów jest normalna – budżetowanie VRAM staje się podstawowym nawykiem w praktycznym szkoleniu GPU.

Dlaczego pamięć VRAM może nadal wyglądać na pełną po zakończeniu skryptu szkoleniowego

Frameworki często buforują pamięć GPU, aby zwiększyć szybkość, dzięki czemu zarezerwowana pamięć może pozostać na wysokim poziomie nawet w przypadku spadku ilości pamięci alokowanej. Może to przypominać wyciek, ale często jest to spowodowane zachowaniem alokatora pamięci podręcznej. Praktycznym nawykiem jest śledzenie wzorca w czasie i porównywanie „zaalokowanej pamięci z zarezerwowaną”, zamiast skupiania się na pojedynczej alarmującej migawce.

Jak sprawdzić, czy model nie jest w trybie cichego trenowania na procesorze

Wczesna kontrola poprawności: upewnij się, że torch.cuda.is_available() zwraca True , sprawdź, czy next(model.parameters()).device zwraca cuda i uruchom jedno przejście do przodu bez błędów. Jeśli wydajność wydaje się podejrzanie niska, sprawdź również, czy partie są przenoszone na GPU. Często zdarza się, że przenosisz model i przypadkowo pozostawiasz dane.

Najprostsza ścieżka do szkolenia multi-GPU

Uczenie równoległe (DDP) to często najlepszy pierwszy krok: rozdzielenie partii na GPU i synchronizacja gradientów. Narzędzia takie jak Accelerate mogą sprawić, że przetwarzanie wieloprocesorowe będzie mniej uciążliwe bez konieczności całkowitego przepisania kodu. Należy spodziewać się dodatkowych zmiennych – komunikacji NCCL, różnic w połączeniach międzyprocesorowych (NVLink vs PCIe) i nasilonych wąskich gardeł danych – dlatego stopniowe skalowanie po solidnym uruchomieniu na jednym GPU zazwyczaj przynosi lepsze rezultaty.

Na co zwracać uwagę podczas szkolenia procesora graficznego NVIDIA, aby wcześnie wykryć problemy

Monitoruj wykorzystanie GPU, użycie pamięci (stabilne vs. rosnące), pobór mocy i temperatury – dławienie może dyskretnie obniżać prędkość. Monitoruj również wykorzystanie procesora, ponieważ problemy z potokiem danych często pojawiają się jako pierwsze. Jeśli wykorzystanie jest skokowe lub niskie, podejrzewaj operacje wejścia/wyjścia lub ładowanie danych; jeśli jest wysokie, ale czas kroku jest nadal długi, skieruj się do jąder profilowania, trybu precyzyjnego i analizy czasu kroku.

Odniesienia

  1. NVIDIA - NVIDIA nvidia-smi docs - docs.nvidia.com

  2. NVIDIA - Interfejs zarządzania systemem NVIDIA (NVSMI) - developer.nvidia.com

  3. NVIDIA – Omówienie technologii NVIDIA NVLink – nvidia.com

  4. PyTorch – Wprowadzenie do PyTorch (selektor CUDA) – pytorch.org

  5. PyTorch — dokumentacja PyTorch CUDA — docs.pytorch.org

  6. TensorFlow - instalacja TensorFlow (pip) - tensorflow.org

  7. JAX - Szybki start JAX - docs.jax.dev

  8. Hugging Face – Dokumentacja trenera – huggingface.co

  9. Lightning AI – Dokumentacja Lightning – lightning.ai

  10. DeepSpeed ​​- Dokumentacja ZeRO - deepspeed.readthedocs.io

  11. Badania Microsoft – Badania Microsoft: ZeRO/DeepSpeed ​​– microsoft.com

  12. Fora PyTorch - Forum PyTorch: sprawdź model w CUDA - discuss.pytorch.org

Znajdź najnowszą sztuczną inteligencję w oficjalnym sklepie z asystentami AI

O nas

Powrót do bloga