Ocena przyspieszenia GPU dla modeli finansowych

Pule obsługujące GPU mogą przyspieszyć modele finansowe, które obejmują odpowiednio dużo równoległych obliczeń numerycznych, aby zrekompensować koszty transferu danych i inicjalizacji. Model nie korzysta z GPU tylko dlatego, że jego próby symulacyjne są prowadzone niezależnie. Przeprowadź profilowanie obliczeń przed zmianą puli.

Zidentyfikuj odpowiednie obliczenie

Procesor graficzny z większym prawdopodobieństwem pomoże, gdy model:

• Stosuje te same operacje numeryczne dla dużych tablic scenariuszy lub ścieżek.
• Każde zadanie ma wystarczająco dużo pracy, aby utrzymać GPU w stanie pełnego wykorzystania.
• Przesyła niewielką ilość danych w porównaniu do ilości obliczeń.
• Używa frameworka lub implementacji, która już obsługuje docelowe środowisko uruchomienia GPU.

Pula CPU może być bardziej efektywna, gdy zadania są krótkie, intensywnie rozgałęzione, przesyłają duże zbiory danych lub spędzają większość czasu na odczytywaniu pamięci.

Porównanie konfiguracji

Używaj tej samej wersji modelu, danych wejściowych, liczby partycji i kryteriów walidacji dla każdego benchmarku. Porównaj:

• Czas alokacji puli i inicjalizacji węzłów.
• Czas inicjalizacji modelu i sterownika.
• Czas trwania i przepustowość zadań.
• Wskaźniki niepowodzeń i powtórek.
• Całkowity koszt VM dla każdego zakończonego i zweryfikowanego uruchomienia.

Zacznij od małej puli i porównaj wyniki numeryczne z implementacją CPU. Różne biblioteki sprzętowe lub numeryczne mogą powodować niewielkie różnice zmiennoprzecinkowe, dlatego przed testami określ dopuszczalne tolerancje.

Przygotuj pulę GPU

Użyj obsługiwanego rozmiaru maszyny wirtualnej z obsługą procesora GPU oraz obrazu zawierającego wymagane sterowniki NVIDIA. Wybierz wstępnie skonfigurowany obraz Azure Marketplace lub zainstaluj sterowniki w niestandardowym obrazie. Nie przenosz nazw obrazów, wersji sterowników ani wersji CUDA ze starszych próbek bez weryfikacji aktualnego wsparcia.

Aby zapoznać się z aktualnymi wymaganiami dotyczącymi puli i przykładami, zobacz artykuł Używanie rozmiarów maszyn wirtualnych z obsługą GPU w puli usługi Batch.

Maszyny maszynowe GPU mogą mieć ograniczoną pojemność regionalną i oddzielne wymagania dotyczące kwot. Przejrzyj planowanie zdolności produkcyjnych partii przed zaplanowaniem uruchomienia produkcji.

Następny krok