Nota:
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
Antes de crear un clúster en Azure CycleCloud, planifica cómo está estructurado y dimensionado el clúster. Tomar buenas decisiones de planificación desde el principio —sobre el planificador, los tipos de máquinas virtuales (VM), cómo escala el clúster y cómo almacena y mueve datos— determinan el rendimiento del clúster y cuánto cuesta ejecutarlo.
Este artículo describe las principales decisiones que debes tomar al planificar un clúster HPC en CycleCloud. Complementa los clústeres y nodos de CycleCloud, lo que explica qué son los clústeres, nodos y arrays de nodos, y crea un nuevo clúster, que guía la construcción de un clúster a partir de una plantilla.
Confirma que CycleCloud se adapta a tu carga de trabajo
Utiliza CycleCloud cuando necesites operar un planificador HPC específico, personalizar la topología del clúster y la pila de software, o alinearte estrechamente con los flujos de trabajo existentes en las instalaciones. Antes de dimensionar un clúster personalizado, considera estas alternativas:
- Elige Azure CycleCloud Workspace para Slurm cuando quieras un entorno Slurm listo para desplegar con componentes de red, almacenamiento y acceso provisionados en tu suscripción.
- Elige Azure Batch cuando quieras que Azure proporcione la programación como servicio y tu aplicación pueda usar grupos, trabajos y tareas de Batch.
Si CycleCloud es el modelo operativo adecuado, utiliza las siguientes secciones para crear una línea base de planificación. Registra tus decisiones sobre planificador, máquina virtual, escala, cuota, región, almacenamiento, red y costes antes del despliegue, y vótalas con una carga de trabajo representativa.
Elige un planificador
CycleCloud es independiente del planificador. Tiene soporte integrado para los planificadores que la mayoría de equipos HPC ya usan, y añade autoescalado a cada uno de ellos:
- Slurm
- PBS Professional
- IBM Spectrum LSF
- Altair Grid Engine
- HTCondor
Elige el planificador que se ajuste a tus flujos de trabajo y scripts de trabajo existentes para poder mover cargas de trabajo a Azure con el mínimo cambio. Si tu organización usa un planificador que no está en la lista integrada, puedes integrarlo con la API de autoescalado de CycleCloud. Para más información, consulta Programación en CycleCloud.
Elige familias y tamaños de máquinas virtuales
La familia y tamaño de VM que selecciones para nodos de cómputo tienen el mayor efecto tanto en el rendimiento como en el coste. Adapta la VM a las características de tu carga de trabajo:
- Las cargas de trabajo estrechamente acopladas (MPI) que intercambian datos entre nodos se benefician de máquinas virtuales optimizadas para HPC con una interconexión InfiniBand de baja latencia, como los tamaños de las máquinas virtuales HPC.
- Las cargas de trabajo aceleradas por GPU, como el entrenamiento o renderizado de IA, utilizan tamaños de VM optimizados para GPU.
- Las cargas de trabajo perfectamente paralelo o de rendimiento, donde las tareas se ejecutan de forma independiente, pueden usar máquinas virtuales de propósito general u optimizadas para computación y no requieren una interconexión especializada.
Para una comparación completa de opciones de máquinas virtuales, consulte Tamaños para máquinas virtuales en Azure.
Dado que un array de nodos puede abarcar más de un conjunto de escalado de máquinas virtuales, un solo array puede ofrecer máquinas virtuales de diferentes tamaños o familias para el mismo rol. Esta flexibilidad ayuda cuando el tamaño de tu VM preferido tiene capacidad limitada en una región. Para más información, consulta clústeres y nodos de CycleCloud.
Dimensiona el clúster y planifica el autoescalado
CycleCloud escala automáticamente el número de nodos de cómputo en función del trabajo en cola en el planificador, así que no necesitas adivinar un tamaño fijo de clúster. En su lugar, planifica los siguientes límites:
- Tamaño máximo. La forma de creación de clúster limita hasta dónde se autoescala un clúster, en función del número total de nodos o núcleos que puede iniciar. Establece este límite para reflejar la mayor carga de trabajo que esperas y la cuota disponible en la región.
- Nodos dedicados frente a nodos Spot.Los nodos dedicados están reservados para tu pool y te dan una capacidad predecible. Los nodos spot usan capacidad excedente de Azure a un precio reducido, pero Azure puede recuperarla cuando necesite recuperar la capacidad. Utiliza nodos dedicados para trabajos de larga duración o sensibles al tiempo, y nodos Spot para trabajos tolerantes a fallos o reiniciables donde el coste importa más que la disponibilidad garantizada.
- Comportamiento de reducción vertical. El autoescalado elimina nodos inactivos para que dejes de pagar por un cálculo que no estás usando. Confirme que los trabajos escriben resultados en un almacenamiento duradero, porque los datos locales en un nodo se pierden cuando el nodo se desasigna.
Comprenda los límites del escalado automático
Para un clúster de CycleCloud, varios límites independientes determinan cuántos nodos puede iniciar CycleCloud. El límite efectivo más bajo gana:
| Limit | Qué controla |
|---|---|
| Cuota total regional disponible de vCPU | Las vCPU restantes que tu suscripción puede implementar en todas las familias de máquinas virtuales de la región. |
| Cuota disponible de vCPU en la familia VM | Las vCPU restantes que tu suscripción puede implementar para la familia de máquinas virtuales seleccionada en la región. Ambas cuotas de vCPU deben permitir el despliegue. |
CycleCloud MaxCount |
El número máximo de nodos en un array de nodos. |
CycleCloud MaxCoreCount |
El número máximo de núcleos en un array de nodos. Si una plantilla define tanto MaxCount como MaxCoreCount, CycleCloud aplica la restricción efectiva inferior. |
Importante
Los límites de cuota y CycleCloud son límites, no reservas de capacidad. La provisión real puede ser menor debido a limitaciones temporales de capacidad de Azure o errores de configuración.
Para identificar una restricción, ve a la página del clúster de CycleCloud para tu clúster. En la tabla de Nodos, selecciona Añadir acciones>. El diálogo Añadir nodos describe las restricciones aplicables para el array de nodos seleccionado.
Por ejemplo, supongamos que un array de nodos utiliza máquinas virtuales de la generación Standard_HB368rs_v5 actual, que consumen 368 vCPU cada una, y tiene estos límites:
| Restricción | Límite disponible o configurado | Nodos efectivos |
|---|---|---|
| Cuota regional total de vCPU | 3.680 vCPUs | 10 |
| Cuota de vCPU de la familia VM HBv5 | 2.208 vCPUs | 6 |
CycleCloud MaxCount |
8 nodos | 8 |
La cuota de la familia VM HBv5 es el límite más bajo, así que el techo configurado es de seis nodos aunque MaxCount permite ocho. Si Azure tiene capacidad para solo cinco máquinas virtuales cuando se ejecuta la solicitud, CycleCloud proporciona cinco nodos y la solicitud restante permanece limitada hasta que la capacidad esté disponible. Aumentar MaxCount por sí solo no eleva ni el límite de cuota ni la capacidad disponible.
Cuando una plantilla usa MaxCoreCount, divide ese valor por el conteo de vCPU de la máquina virtual y redondea hacia abajo para encontrar su límite de nodos. Para consultar las definiciones de ambas configuraciones de CycleCloud, consulte Objetos de nodo y de matriz de nodos.
Comprobar cuota, capacidad y región
Las máquinas virtuales que planeas usar deben estar disponibles y dentro de la cuota en la región donde despliegues:
- Región. Elige una región que ofrezca las familias de máquinas virtuales que necesitas y que esté cerca de tus datos y usuarios. No todas las familias de máquinas virtuales están disponibles en todas las regiones.
- Cuota. Las cuotas de núcleo (vCPU) se establecen por región y por familia de máquinas virtuales. Asegúrate de que tu cuota sea lo suficientemente alta para el tamaño máximo de grupo que planificaste y solicita un aumento de cuota si es necesario.
- Capacidad. Incluso dentro de la cuota, los tamaños de las máquinas virtuales HPC pueden estar limitados en una región en un momento dado. Considera un tamaño de VM alternativo o una región adicional para ejecuciones grandes o sensibles al tiempo.
Planificar el almacenamiento y la red
Los trabajos HPC suelen estar limitados a la rapidez con la que pueden leer y escribir datos, no solo a la capacidad de cálculo:
- Sistemas de archivos compartidos. La mayoría de los clústeres HPC necesitan un sistema de archivos compartido que todos los nodos puedan montar. CycleCloud puede desplegar servidores NFS y sistemas de archivos paralelos (por ejemplo, BeeGFS) como parte del clúster, y puedes conectarte a servicios gestionados como Azure NetApp Files o Azure Managed Lustre.
- Interconexión. Los trabajos MPI estrechamente acoplados requieren la interconexión InfiniBand disponible en VMs optimizadas para HPC. Confirma que tanto el tamaño de la máquina virtual como la región lo soportan.
- Gestión de redes. Planifica la red virtual y las subredes que alojan el clúster, y asegúrate de que el servidor de aplicaciones CycleCloud tenga el acceso saliente necesario para gestionar los nodos. Para orientación sobre producción, consulta Planificar tu despliegue en producción.
Elige una ruta de datos de clúster
La forma en que se llegan los datos a los nodos de cómputo tiene un gran efecto en el rendimiento y el coste. Elige según cómo tus trabajos leen y escriben los datos:
| Option | Más adecuado para | Notas |
|---|---|---|
| BlobFuse2 (streaming) | Leer grandes conjuntos de datos directamente de Blob (datos de entrenamiento de IA, entradas de simulación) a alto rendimiento, sin servidor de archivos permanente | Montaje FUSE por nodo; no es totalmente POSIX. Consulta Montar Azure Blob Storage en los nodos del clúster. |
| Azure Managed Lustre | Tareas estrechamente acopladas o con un uso intensivo de E/S que necesitan un sistema de archivos paralelo POSIX compartido; se pueden hidratar desde Blob. | Sistema de archivos paralelo gestionado. Véase Azure Managed Lustre. |
| Azure HPC Cache | Almacenamiento en caché de un back-end NAS o Blob existente para HPC con gran volumen de lecturas, incluidos datos híbridos y locales. | Nivel de caché distribuido delante del almacenamiento. Consulta Azure HPC Cache. |
| Azure NetApp Files | NFS o SMB compartidos de baja latencia para EDA y espacio de trabajo y temporal de HPC en general | Servicio de archivos gestionados. Consulta Azure NetApp Files. |
Como regla general: utilice BlobFuse2 streaming cuando sus datos ya se encuentren en Blob y los trabajos se dediquen principalmente a leerlos. Utiliza un sistema de archivos compartido o paralelo (Managed Lustre o NetApp Files) cuando los trabajos necesiten coordinación entre nodos, semántica POSIX o escrituras compartidas pesadas. Usa un nivel de caché (HPC Cache) cuando necesites acelerar el acceso a un backend existente.
Planifica el coste
Los costes de cómputo suelen ser el mayor gasto en un entorno HPC. Planifica controlar estos costes mediante:
- Usar el escalado automático y los nodos Spot para evitar pagar por capacidad ociosa.
- Ajustar el tamaño de las máquinas virtuales para que coincidan con la carga de trabajo en lugar de usar por defecto la opción más grande.
- Seguimiento del gasto a través de la integración integrada con Microsoft Cost Management. Para más información, consulte Seguimiento de costes y uso.
Validar el clúster antes de la producción
Ejecuta una prueba de concepto con un trabajo representativo, su volumen de datos esperado y la configuración del planificador de producción y del clúster. No apruebes el diseño para la producción hasta que puedas registrar pruebas para cada criterio:
| Criterion | Evidencias que registrar |
|---|---|
| Compatibilidad de flujos de trabajo | Los scripts de trabajo existentes, políticas de planificadores, software, licencias e integraciones de identidad funcionan sin cambios no planificados. |
| Escala y cuota | El autoescalado alcanza el número de nodos requerido en la región deseada sin superar los límites regionales totales, de familia de VM, MaxCount o MaxCoreCount. |
| Rendimiento de cómputo y almacenamiento | El tiempo total de ejecución del trabajo de extremo a extremo cumple el objetivo, incluido el tiempo de cola, el aprovisionamiento de nodos, la preparación de datos, el cómputo y la persistencia de resultados. |
| Recovery | Tras un fallo en la provisión de nodos, fallo de trabajo o desalojo puntual si se utiliza, la carga de trabajo se mantiene dentro del tiempo máximo de recuperación registrado y la pérdida permitida de puntos de control, cumple con el plazo de finalización y utiliza con éxito el tamaño planificado de la VM de respaldo. |
| Cost | El coste medido de computación, almacenamiento, redes y licencias por trabajo completado cumple el objetivo a la frecuencia de ejecución esperada. |
| Operaciones | Los propietarios nombrados pueden monitorizar el planificador y la infraestructura, investigar solicitudes de escalado fallidas, parchear el entorno y recuperar trabajos y datos. |
Si un criterio no se cumple, revisa la VM, los límites de la matriz de nodos, la ruta de almacenamiento, la configuración de autoescalado o la conmutación por error regional, y vuelve a ejecutar el mismo trabajo. Una pequeña prueba funcional no demuestra la preparación para producción porque no pone a prueba la compatibilidad con el planificador, la escala máxima ni el movimiento de datos.