Planen und Dimensionieren von HPC-Clustern in Azure CycleCloud

Bevor Sie einen Cluster in Azure CycleCloud erstellen, planen Sie, wie der Cluster strukturiert und dimensioniert ist. Gute Planungsentscheidungen im Voraus – bezüglich des Schedulers, der virtuellen Maschinentypen (VM), der Skalierung des Clusters und der Speicherung und Übertragung von Daten – bestimmen, wie gut der Cluster performt und wie teuer der Betrieb ist.

Dieser Artikel beschreibt die wichtigsten Entscheidungen, die Sie treffen sollten, wenn Sie einen HPC-Cluster in CycleCloud planen. Es ergänzt CycleCloud-Cluster und -Knoten, in dem erklärt wird, was Cluster, Knoten und Knoten-Arrays sind, und Einen neuen Cluster erstellen, in dem beschrieben wird, wie Sie aus einer Vorlage einen Cluster erstellen.

Bestätigen Sie, dass CycleCloud zu Ihrer Arbeitslast passt

Nutzen Sie CycleCloud, wenn Sie einen bestimmten HPC-Scheduler betreiben, die Clustertopologie und den Software-Stack anpassen oder sich eng an bestehende On-Premises-Workflows anpassen müssen. Bevor Sie einen benutzerdefinierten Cluster dimensionieren, sollten Sie diese Alternativen in Betracht ziehen:

• Wählen Sie Azure CycleCloud Workspace für Slurm, wenn Sie eine einsatzbereite Slurm-Umgebung benötigen, bei der Netzwerk-, Speicher- und Zugriffskomponenten in Ihrem Abonnement bereitgestellt werden.
• Wählen Sie Azure Batch, wenn Sie möchten, dass Azure Scheduling als Service bereitstellt, und Ihre Anwendung kann Batch-Pools, Jobs und Tasks verwenden.

Wenn CycleCloud das richtige Betriebsmodell ist, verwenden Sie die folgenden Abschnitte, um eine Planungsbasis zu erstellen. Zeichnen Sie Ihre Entscheidungen über Planerer, VM, Skalierung, Quoten, Region, Speicher, Netzwerk und Kosten vor der Bereitstellung auf und validieren Sie diese mit einer repräsentativen Arbeitsbelastung.

Wählen Sie einen Scheduler

CycleCloud ist unabhängig vom verwendeten Scheduler. Es hat integrierte Unterstützung für die Scheduler, die die meisten HPC-Teams bereits verwenden, und fügt jedem dieser Teams Autoskalierung hinzu:

• Slurm
• PBS Professional
• IBM Spectrum LSF
• Altair Grid Engine
• HTCondor

Wählen Sie den Scheduler, der Ihren bestehenden Workflows und Job-Skripten entspricht, damit Sie Workloads mit minimalen Änderungen nach Azure verschieben können. Wenn Ihre Organisation einen Scheduler verwendet, der nicht in der integrierten Liste ist, können Sie ihn mit der CycleCloud-Autoskalierungs-API integrieren. Weitere Informationen finden Sie unter Planung in CycleCloud.

Wählen Sie VM-Familien und -Größen

Die VM-Familie und die Größe, die Sie für Rechenknoten auswählen, haben den größten Einfluss auf Leistung und Kosten. Passen Sie die VM an die Eigenschaften Ihrer Arbeitslast an:

• Eng gekoppelte (MPI)-Workloads, die Daten zwischen Knoten austauschen, profitieren von HPC-optimierten VMs mit einer InfiniBand-Verbindung mit geringer Latenz, wie etwa den HPC-VM-Größen.
• GPU-beschleunigte Workloads, wie KI-Training oder Rendering, verwenden GPU-optimierte VM-Größen.
• Hochgradig parallele oder Durchsatz-Workloads, bei denen Aufgaben unabhängig ausgeführt werden, können allgemeine oder rechenoptimierte VMs verwenden und benötigen keine spezialisierte Interconnect.

Für einen vollständigen Vergleich der VM-Optionen siehe Größen für virtuelle Maschinen in Azure.

Da ein Node-Array mehr als ein Skalierungsset für virtuelle Maschinen umfassen kann, kann ein einzelnes Array VMs unterschiedlicher Größe oder Familien für dieselbe Aufgabe anbieten. Diese Flexibilität hilft, wenn Ihre bevorzugte VM-Größe in einer Region eine begrenzte Kapazität hat. Weitere Informationen finden Sie unter CycleCloud-Cluster und -Knoten.

Größen Sie den Cluster und planen Sie die automatische Skalierung

CycleCloud skaliert automatisch die Anzahl der Compute-Knoten basierend auf der im Scheduler eingelagerten Arbeit, sodass du keine feste Clustergröße raten musst. Plane stattdessen folgende Grenzen:

• Maximale Größe. Das Cluster-Erstellungsformular begrenzt, wie weit ein Cluster automatisch skaliert, basierend auf der Gesamtzahl der Knoten oder Kerne, die er starten kann. Setze dieses Limit so, dass es die größte erwartete Arbeitsbelastung und die in der Region verfügbare Quote widerspiegelt.
• Dedizierte versus Spot-Knoten.Dedizierte Nodes sind für deinen Pool reserviert und bieten dir eine vorhersehbare Kapazität. Spot-Knoten nutzen überschüssige Azure-Kapazität zu einem reduzierten Preis, aber Azure kann sie zurückfordern, wenn es die Kapazität wieder benötigt. Verwenden Sie dedizierte Knoten für zeitkritische oder langlaufende Aufträge und Spot-Knoten für fehlertolerante oder wiederstartbare Arbeiten, bei denen Kosten wichtiger sind als die garantierte Verfügbarkeit.
• Herunterskalierungsverhalten Autoscaling entfernt leere Knoten, sodass du nicht mehr für Rechenleistungen zahlst, die du nicht nutzt. Bestätigen Sie, dass Ihre Jobs Ergebnisse auf dauerhaften Speicher schreiben, denn lokale Daten auf einem Knoten gehen verloren, wenn der Knoten freigegeben wird.

Grenzen der automatischen Skalierung verstehen

Für einen CycleCloud-Cluster bestimmen mehrere unabhängige Grenzen, wie viele Knoten CycleCloud starten kann. Das niedrigste effektive Limit gewinnt:

Um eine Einschränkung zu identifizieren, gehen Sie zur CycleCloud-Clusterseite für Ihren Cluster. In der Nodes-Tabelle wählen Sie Aktionen>hinzufügen. Der Dialog "Knoten hinzufügen" beschreibt die anwendbaren Einschränkungen für das ausgewählte Knotenarray.

Angenommen, ein Node-Array verwendet VMs der aktuellen Generation Standard_HB368rs_v5 , die jeweils 368 vCPUs verbrauchen, und hat folgende Grenzen:

Das Kontingent der HBv5-VM-Familie ist die niedrigste Grenze, daher beträgt die konfigurierte Obergrenze sechs Knoten, obwohl MaxCount acht zulässt. Wenn Azure beim Ausführen der Anfrage nur fünf VMs bereitstellt, stellt CycleCloud fünf Knoten bereit und die verbleibende Anfrage bleibt eingeschränkt, bis die Kapazität verfügbar ist. Allein eine Erhöhung MaxCount erhöht weder die Quotenobergrenze noch die verfügbare Kapazität.

Wenn eine Vorlage MaxCoreCount verwendet, teilen Sie diesen Wert durch die Anzahl der vCPUs der VM und runden Sie ab, um die Knotenobergrenze zu ermitteln. Für Definitionen beider CycleCloud-Einstellungen siehe Node- und Node-Array-Objekte.

Überprüfe Quote, Kapazität und Region

Die VMs, die Sie verwenden möchten, müssen in der Region, in der Sie deployen, verfügbar und innerhalb der Quote sein:

• Region. Wählen Sie eine Region aus, die die VM-Familien bietet, die Ihr Workload benötigt, und die sich in der Nähe Ihrer Daten und Benutzer befindet. Nicht jede VM-Familie ist in jeder Region verfügbar.
• Kontingent. Core-(vCPU-)Quoten werden pro Region und pro VM-Familie festgelegt. Stellen Sie sicher, dass Ihre Quote hoch genug für die maximal geplante Clustergröße ist, und fordern Sie gegebenenfalls eine Quotenerhöhung an.
• Kapazität. Selbst innerhalb der Quote können HPC-VM-Größen zu einem bestimmten Zeitpunkt in einer Region begrenzt sein. Betrachten Sie eine Rückfall-VM-Größe oder eine zusätzliche Region für große oder zeitkritische Läufe.

Speicher und Netzwerk planen

HPC-Jobs sind oft daran gebunden, wie schnell sie Daten lesen und schreiben können, nicht nur durch Rechenleistung:

• Gemeinsame Dateisysteme. Die meisten HPC-Cluster benötigen ein gemeinsames Dateisystem, das alle Knoten einbinden können. CycleCloud kann NFS-Server und parallele Dateisysteme (zum Beispiel BeeGFS) als Teil des Clusters bereitstellen, und Sie können sich mit verwalteten Diensten wie Azure NetApp Files oder Azure Managed Lustre verbinden.
• Vernetzen. Eng gekoppelte MPI-Jobs erfordern die InfiniBand-Interkonnektive, die auf HPC-optimierten VMs verfügbar ist. Bestätigen Sie, dass sowohl die VM-Größe als auch die Region dies unterstützen.
• Vernetzung. Plane das virtuelle Netzwerk und die Subnetze, die den Cluster hosten, und stelle sicher, dass der CycleCloud-Anwendungsserver den ausgehenden Zugriff hat, den er zur Verwaltung der Knoten benötigt. Für Produktionshinweise siehe Plan deiner Produktionseinsetzung.

Wählen Sie einen Cluster-Datenpfad

Wie man Daten auf Rechenknoten bekommt, hat einen großen Einfluss auf Durchsatz und Kosten. Wählen Sie basierend darauf, wie Ihre Jobs Daten lesen und schreiben:

Als Faustregel: Nutze BlobFuse2-Streaming , wenn deine Daten bereits in Blob liegen und Jobs sie größtenteils lesen. Verwenden Sie ein gemeinsames oder paralleles Dateisystem (Managed Lustre oder NetApp Files), wenn Jobs Koordination zwischen Knoten, POSIX-Semantik oder umfangreiche gemeinsame Schreibvorgänge benötigen. Verwenden Sie eine Cache-Ebene (HPC Cache), wenn Sie den Zugriff auf ein bestehendes Backend beschleunigen müssen.

Planen Sie für die Kosten

Rechenkosten sind in der Regel der größte Aufwand in einer HPC-Umgebung. Planen Sie, diese Kosten zu kontrollieren, indem Sie:

• Ich nutze automatische Skalierung und Spot-Knoten, um nicht für Leerlaufkapazitäten zu bezahlen.
• VMs werden passgenau auf die Workload abgestimmt, anstatt standardmäßig die größte Option zu wählen.
• Ausgaben durch die integrierte Integration mit Microsoft Cost Management verfolgen. Weitere Informationen finden Sie unter Kosten- und Nutzungsverfolgung.

Validiere den Cluster vor der Produktion

Führe einen Proof of Concept mit einem repräsentativen Job, dessen erwartetem Datenvolumen sowie dem Produktionsplaner und der Clusterkonfiguration durch. Genehmigen Sie das Design erst für die Produktion, wenn Sie für jedes Kriterium einen Nachweis dokumentieren können:

Wenn ein Kriterium nicht erfüllt wird, passe die VM, die Grenzwerte des Knoten-Arrays, den Speicherpfad, die Autoskalierungskonfiguration oder den regionalen Ausweichmechanismus an und wiederhole denselben Job. Ein kleiner Funktionstest stellt keine Produktionsbereitschaft fest, weil er keine Planer-Kompatibilität, Spitzenskalierung oder Datenbewegung prüft.

Nächste Schritte

• CycleCloud-Cluster und -Knoten
• Planung in CycleCloud
• Einen neuen Cluster erstellen
• Azure Blob Storage auf Clusterknoten einbinden
• Plane deine Produktionseinsetzung