Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
Avant de créer un cluster dans Azure CycleCloud, planifiez la structure et la taille du cluster. De bonnes décisions de planification dès le départ – concernant le planificateur, les types de machines virtuelles (VM), la façon dont le cluster évolue, et comment il stocke et déplace les données – déterminent la performance du cluster et le coût de son fonctionnement.
Cet article décrit les principales décisions à prendre lorsque vous planifiez un cluster HPC dans CycleCloud. Il complète les clusters et nœuds CycleCloud, ce qui explique ce que sont les clusters, nœuds et tableaux de nœuds, et crée un nouveau cluster, qui guide la construction d’un cluster à partir d’un modèle.
Confirmez que CycleCloud correspond à votre charge de travail
Utilisez CycleCloud lorsque vous devez utiliser un planificateur HPC spécifique, personnaliser la topologie du cluster et la pile logicielle, ou vous aligner étroitement sur les flux de travail locaux existants. Avant de dimensionner un cluster personnalisé, considérez ces alternatives :
- Choisissez Azure CycleCloud Workspace pour Slurm lorsque vous souhaitez un environnement Slurm prêt à déployer avec des composants réseau, stockage et accès provisionnés dans votre abonnement.
- Choisissez Azure Batch lorsque vous souhaitez qu’Azure fournisse la planification en tant que service et que votre application puisse utiliser des pools Batch, des tâches et des tâches.
Si CycleCloud est le bon modèle opérationnel, utilisez les sections suivantes pour créer une base de planification. Enregistrez vos décisions de planificateur, VM, échelle, quota, région, stockage, réseau et coûts avant le déploiement, et validez-les avec une charge de travail représentative.
Choisissez un planificateur
CycleCloud est indépendant du planificateur. Il prend en charge les planificateurs intégrés que la plupart des équipes HPC utilisent déjà, et ajoute l’autoscaling à chacun d’eux :
- Slurm
- PBS Professional
- IBM Spectrum LSF
- Moteur Altair Grid
- HTCondor
Choisissez le planificateur qui correspond à vos flux de travail et scripts de tâche existants afin de pouvoir déplacer les charges de travail vers Azure avec un minimum de modifications. Si votre organisation utilise un planificateur qui ne figure pas dans la liste intégrée, vous pouvez l’intégrer à l’API d’autoscaling de CycleCloud. Pour plus d’informations, voir Planification dans CycleCloud.
Choisissez les familles et tailles de machines virtuelles
La famille et la taille des VM que vous choisissez pour les nœuds de calcul ont le plus grand impact à la fois sur les performances et le coût. Associez la VM aux caractéristiques de votre charge de travail :
- Les charges de travail fortement couplées (MPI) qui échangent des données entre nœuds bénéficient de VM optimisées HPC avec une interconnexion InfiniBand à faible latence, comme les tailles des VM HPC.
- Les charges de travail accélérées par GPU, telles que l’entraînement ou le rendu par IA, utilisent des tailles de VM optimisées pour GPU.
- Les charges de travail hautement parallèles ou axées sur le débit, où les tâches s'exécutent indépendamment, peuvent utiliser des machines virtuelles à usage général ou optimisées pour le calcul et ne nécessitent pas d'interconnexion spécialisée.
Pour une comparaison complète des options de VM, voir Tailles pour les machines virtuelles dans Azure.
Parce qu’un tableau de nœuds peut couvrir plus d’un ensemble d’échelon de machines virtuelles, un seul tableau peut proposer des VM de tailles ou de familles différentes pour le même rôle. Cette flexibilité est utile lorsque la taille de votre VM préférée a une capacité limitée dans une région. Pour plus d’informations, voir CycleCloud clusters et nodes.
Dimensionnez le cluster et prévoyez la mise à l’échelle automatique
CycleCloud ajuste automatiquement le nombre de nœuds de calcul en fonction de la charge de travail en file d’attente dans l’ordonnanceur, ce qui évite de devoir définir à l’avance une taille fixe de cluster. À la place, planifiez les limites suivantes :
- Taille maximale. Le formulaire de création de cluster limite l’ampleur du dimensionnement automatique du cluster, en fonction du nombre total de nœuds ou de cœurs qu’il peut lancer. Fixez cette limite pour refléter la charge de travail la plus importante que vous espérez et le quota disponible dans la région.
- Nœuds dédiés versus Spot.Des nœuds dédiés sont réservés à votre pool et vous offrent une capacité prévisible. Les nœuds spot utilisent la capacité excédentaire d’Azure à prix réduit, mais Azure peut les récupérer lorsqu’il en aura besoin. Utilisez des nœuds dédiés pour les tâches sensibles au temps ou de longue durée, et les nœuds Spot pour les travaux tolérants aux pannes ou redémarrables où le coût compte plus que la disponibilité garantie.
- Comportement de réduction de l'échelle. L’autoscaling supprime les nœuds inactifs pour que vous arrêtiez de payer pour un calcul que vous n’utilisez pas. Vérifiez que vos travaux écrivent leurs résultats dans un stockage durable, car les données locales d'un nœud sont perdues lorsque celui-ci est libéré.
Comprendre les limites de la mise à l’échelle automatique
Pour un cluster CycleCloud, plusieurs limites indépendantes déterminent combien de nœuds CycleCloud peut démarrer. La limite effective la plus basse l’emporte :
| Limit | Qu’est-ce qu’il contrôle ? |
|---|---|
| Quota régional total de vCPU disponible | Les vCPU restants que votre abonnement peut déployer dans l’ensemble des familles de machines virtuelles de la région. |
| Quota vCPU disponible pour la famille VM | Les vCPU restants que votre abonnement peut déployer pour la famille de machines virtuelles sélectionnée dans la région. Les deux quotas vCPU doivent permettre le déploiement. |
CycleCloud MaxCount |
Le nombre maximal de nœuds dans un tableau de nœuds. |
CycleCloud MaxCoreCount |
Le nombre maximal de cœurs dans un tableau de nœuds. Si un modèle définit à la fois MaxCount et MaxCoreCount, CycleCloud applique la contrainte effective la plus faible. |
Important
Les limites de quota et de CycleCloud sont des plafonds, et non des réservations de capacité. Le provisionnement réel peut être plus faible en raison de contraintes temporaires de capacité Azure ou d’erreurs de configuration.
Pour identifier une contrainte, rendez-vous sur la page du cluster CycleCloud pour votre cluster. Dans la table des nœuds , sélectionnez Actions>Ajouter. La boîte de dialogue Ajouter des nœuds décrit les contraintes applicables pour le tableau de nœuds sélectionné.
Par exemple, supposons qu’un tableau de nœuds utilise des machines virtuelles de génération Standard_HB368rs_v5 actuelle, qui consomment chacune 368 vCPU, et qu’il ait ces limites :
| Contrainte | Limite disponible ou configurée | Nœuds effectifs |
|---|---|---|
| Quota régional total de vCPU | 3 680 vCPU | 10 |
| Quota de vCPU pour la famille de machines virtuelles HBv5 | 2 208 vCPU | 6 |
CycleCloud MaxCount |
8 nœuds | 8 |
Le quota de la famille VM HBv5 est la limite la plus basse, donc le plafond configuré est de six nœuds même s’il MaxCount en permet huit. Si Azure n’a une capacité que pour cinq VM lors de l’exécution de la requête, CycleCloud fournit cinq nœuds et la requête restante reste limitée jusqu’à ce que la capacité soit disponible. Augmenter MaxCount seul ne fait pas augmenter ni le plafond du quota ni la capacité disponible.
Lorsqu’un modèle utilise MaxCoreCount, divise cette valeur par le nombre de vCPU de la VM et arrondit à la baisse pour trouver son plafond de nœuds. Pour les définitions des deux paramètres CycleCloud, consultez Objets nœud et tableau de nœuds.
Vérifiez le quota, la capacité et la région
Les VM que vous prévoyez d’utiliser doivent être disponibles, et dans le quota, dans la région où vous déployez :
- Région. Choisissez une région qui propose les familles de machines virtuelles dont votre charge de travail a besoin, et qui soit proche de vos données et de vos utilisateurs. Toutes les familles de machines virtuelles ne sont pas disponibles dans toutes les régions.
- Quota. Les quotas de cœurs (vCPU) sont fixés par région et par famille de machines virtuelles. Assurez-vous que votre quota est suffisamment élevé pour la taille maximale de groupe prévue, et demandez une augmentation du quota si nécessaire.
- Capacité. Même dans le cadre du quota, la taille des VM HPC peut être limitée dans une région à un moment donné. Prévoyez une taille de machine virtuelle de repli ou une région supplémentaire pour les exécutions volumineuses ou urgentes.
Planifiez le stockage et le réseau
Les jobs HPC sont souvent limités par la rapidité avec laquelle ils peuvent lire et écrire les données, pas seulement par le calcul :
- Systèmes de fichiers partagés. La plupart des clusters HPC ont besoin d’un système de fichiers partagé que tous les nœuds peuvent monter. CycleCloud peut déployer des serveurs NFS et des systèmes de fichiers parallèles (par exemple, BeeGFS) dans le cadre du cluster, et vous pouvez vous connecter à des services gérés tels que Azure NetApp Files ou Azure Managed Lustre.
- Interconnexion. Les tâches MPI fortement couplées nécessitent l’interconnexion InfiniBand disponible sur les machines virtuelles optimisées HPC. Confirmez que la taille de la VM et la région la supportent.
- Réseautage. Planifiez le réseau virtuel et les sous-réseaux qui hébergent le cluster, et assurez-vous que le serveur d’applications CycleCloud dispose de l’accès sortant nécessaire pour gérer les nœuds. Pour des conseils en production, voir Planifier votre déploiement en production.
Choisissez un chemin de données de cluster
La manière dont vous envoyez des données sur les nœuds de calcul a un impact important sur le débit et le coût. Choisissez en fonction de la façon dont vos emplois lisent et écrivent les données :
| Option | Idéal pour | Notes |
|---|---|---|
| BlobFuse2 (diffusion en continu) | Lecture de grands ensembles de données directement depuis Blob (données d’entraînement IA, entrées de simulation) à haut débit, sans serveur de fichiers permanent | Montage FUSE par nœud ; pas entièrement compatible POSIX. Voir Mount Stockage Blob Azure sur les nœuds de cluster. |
| Azure Managed Lustre | Des tâches fortement couplées ou gourmandes en E/S nécessitant un système de fichiers parallèle POSIX partagé ; peuvent être alimentées depuis Blob | Système de fichiers parallèle géré. Voir Azure Managed Lustre. |
| Azure HPC Cache | Mise en cache d’un NAS ou d’un backend Blob existant pour un HPC à forte intensité en lecture, y compris les données hybrides et sur site | Niveau de cache distribué devant le stockage. Voir Azure HPC Cache. |
| Azure NetApp Files | Stockage NFS ou SMB partagé à faible latence pour l’EDA et les espaces home et scratch du calcul haute performance (HPC) généraliste | Service de fichiers gérés. Voir Azure NetApp Files. |
En règle générale : utilisez le mode streaming de BlobFuse2 lorsque vos données se trouvent déjà dans le stockage Blob et que les tâches le lisent principalement. Utilisez un système de fichiers partagé ou parallèle (Managed Lustre ou NetApp Files) lorsque les tâches nécessitent une coordination entre nœuds, une sémantique POSIX ou des écritures partagées lourdes. Utilisez un niveau de cache (HPC Cache) lorsque vous devez accélérer l’accès à un backend existant.
Planifier le coût
Les coûts de calcul sont généralement la dépense la plus importante dans un environnement HPC. Prévoyez de contrôler ces coûts en :
- Utiliser la mise à l’échelle automatique et les nœuds Spot pour éviter de payer pour de la capacité inutilisée.
- Ajuster la taille des VM pour qu’elles correspondent à la charge de travail au lieu de choisir par défaut la plus grande option.
- Suivi des dépenses grâce à l’intégration intégrée à Microsoft Cost Management. Pour plus d’informations, voir Suivi des coûts et de l’utilisation.
Valider le cluster avant la production
Exécutez une preuve de concept avec un travail représentatif, son volume de données attendu, ainsi que la configuration du planificateur de production et du cluster. N’approuvez pas la conception pour la production tant que vous n’avez pas pu enregistrer des preuves pour chaque critère :
| Criterion | Preuves à enregistrer |
|---|---|
| Compatibilité des flux de travail | Les scripts de tâches existants, les politiques de planificateur, les logiciels, les licences et les intégrations d’identité fonctionnent sans changements imprévus. |
| Échelle et quota | La mise à l’échelle automatique atteint le nombre de nœuds requis dans la région prévue sans dépasser les limites régionales totales, les limites de la famille de machines virtuelles, ni les limites MaxCount ou MaxCoreCount. |
| Performances de calcul et de stockage | La durée totale d’exécution du traitement respecte l’objectif, y compris le temps d’attente, le provisionnement des nœuds, la préparation des données, le calcul et la persistance des résultats. |
| Recovery | Après un échec de provisionnement d’un nœud, un échec de tâche ou une éviction Spot, le cas échéant, la charge de travail reste dans les limites du temps de récupération maximal consigné et de la perte de point de contrôle autorisée, respecte le délai d’achèvement et utilise avec succès la taille de VM de repli prévue. |
| Cost | Le coût mesuré de calcul, de stockage, de réseau et de licence par tâche achevée atteint l’objectif à la fréquence d’exécution attendue. |
| Opérations | Les propriétaires nommés peuvent surveiller le planificateur et l’infrastructure, enquêter sur les demandes de mise à l’échelle ratées, patcher l’environnement et récupérer des tâches et des données. |
Si un critère échoue, il faut corriger la VM, les limites du tableau de nœuds, le chemin de stockage, la configuration d’auto-scaling ou la solution régionale et répéter la même tâche. Un petit test fonctionnel ne permet pas d’établir la préparation à la production car il n’exerce pas la compatibilité du planificateur, l’échelle de pic ou le mouvement des données.