Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
GPU-fähige Pools können Finanzmodelle beschleunigen, die genügend parallele numerische Arbeit durchführen, um die Kosten für Datenübertragung und Initialisierung auszugleichen. Ein Modell profitiert nicht nur deshalb von einer GPU, weil seine Simulationsversuche unabhängig voneinander durchgeführt werden. Profilieren Sie die Berechnung, bevor Sie den Pool ändern.
Identifizieren Sie eine geeignete Berechnung
Eine GPU hilft eher, wenn das Modell:
- Verwendet dieselben numerischen Operationen über große Arrays von Szenarien oder Pfaden.
- Verfügt über genug Arbeit pro Aufgabe, um die GPU auszulasten.
- Überträgt im Verhältnis zum Rechenaufwand nur eine geringe Datenmenge.
- Verwendet ein Framework oder eine Implementierung, die bereits die Ziel-GPU-Laufzeit unterstützt.
Ein CPU-Pool kann effizienter sein, wenn Aufgaben kurz sind, stark verzweigen, große Datenmengen übertragen oder die meiste Zeit mit dem Lesen aus dem Speicher verbringen.
Konfigurationen vergleichen
Verwenden Sie für jeden Benchmark dieselbe Modellversion, Eingabe, Partitionszahl und Validierungskriterien. Vergleichen:
- Poolzuweisung und Knoteninitialisierungszeit.
- Modell- und Treiberinitialisierungszeit.
- Aufgabendauer und Durchsatz.
- Misserfolgs- und Wiederholungsraten.
- Gesamtkosten der VM pro abgeschlossener und validierter Lauf.
Beginnen Sie mit einem kleinen Pool und bestätigen Sie numerische Ergebnisse mit der CPU-Implementierung. Verschiedene Hardware- oder numerische Bibliotheken können kleine Gleitkommaunterschiede erzeugen, daher werden akzeptable Toleranzen vor dem Test definiert.
Bereite einen GPU-Pool vor
Verwenden Sie eine unterstützte, GPU-fähige VM-Größe mit einem Image, das die erforderlichen NVIDIA-Treiber bereitstellt. Wählen Sie ein vorkonfiguriertes Azure Marketplace-Image oder installieren Sie die Treiber in einem benutzerdefinierten Image. Übertragen Sie keine Image-Namen, Treiberversionen oder CUDA-Versionen von älteren Beispielen ohne Überprüfung der aktuellen Unterstützung.
Für aktuelle Poolanforderungen und Beispiele siehe Verwenden GPU-fähiger VM-Größen in einem Batch-Pool.
GPU-VMs können eine begrenzte regionale Kapazität und separate Quotenanforderungen haben. Überprüfen Sie die Chargenkapazitätsplanung , bevor Sie einen Produktionslauf planen.