Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
Antes de criar um cluster no Azure CycleCloud, planeje como o cluster está estruturado e dimensionado. Boas decisões de planejamento desde o início – sobre o escalonador, os tipos de máquinas virtuais (VM), como o cluster escala e como armazena e move dados – determinam o desempenho do cluster e quanto custa para operar.
Este artigo descreve as principais decisões a tomar ao planejar um cluster HPC no CycleCloud. Complementa clusters e nós do CycleCloud, que explica o que são clusters, nós e matrizes de nós, e Criar um novo cluster, que orienta você na criação de um cluster a partir de um modelo.
Confirme se o CycleCloud se encaixa na sua carga de trabalho
Use o CycleCloud quando precisar operar um escalonador HPC específico, personalizar a topologia do cluster e a pilha de software, ou alinhar-se de perto com os fluxos de trabalho locais existentes. Antes de dimensionar um cluster personalizado, considere estas alternativas:
- Escolha o Azure CycleCloud Workspace para Slurm quando quiser um ambiente Slurm pronto para implantar, com componentes de rede, armazenamento e acesso provisionados na sua assinatura.
- Escolha Lote do Azure quando quiser que o Azure forneça agendamento como serviço e seu aplicativo puder usar pools, trabalhos e tarefas do Batch.
Se o CycleCloud for o modelo operacional correto, use as seções a seguir para criar uma linha de base de planejamento. Registre suas decisões de agendador, VM, escala, cota, região, armazenamento, rede e custos antes da implantação, e valide-as com uma carga de trabalho representativa.
Escolha um escalonador
O CycleCloud é independente do agendador. Tem suporte nativo aos escalonadores que a maioria das equipes de HPC já usa e adiciona escalonamento automático a cada um deles:
- SLURM
- PBS Professional
- IBM Spectrum LSF
- Altair Grid Engine
- HTCondor
Escolha o agendador que corresponde aos seus fluxos de trabalho e scripts de trabalho existentes para que você possa mover cargas de trabalho para o Azure com mudanças mínimas. Se sua organização usa um agendador que não está na lista embutida, você pode integrá-lo com a API de autoescalonamento do CycleCloud. Para obter mais informações, consulte Agendamento no CycleCloud.
Escolha famílias e tamanhos de VMs
A família e o tamanho das VMs que você seleciona para nós de computação têm o maior efeito tanto no desempenho quanto no custo. Ajuste a VM às características da sua carga de trabalho:
- Cargas de trabalho estreitamente acopladas (MPI) que trocam dados entre nós se beneficiam de VMs otimizadas para HPC com uma interconexão InfiniBand de baixa latência, como os tamanhos de VM da série HPC.
- Cargas de trabalho aceleradas por GPU, como treinamento ou renderização de IA, usam tamanhos de VM otimizados para GPU.
- Cargas de trabalho embaraçosamente paralelas ou de alto rendimento, nas quais as tarefas são executadas de forma independente, podem usar VMs de uso geral ou otimizadas para computação e não exigem uma interconexão especializada.
Para uma comparação completa das opções de VM, veja Tamanhos para máquinas virtuais no Azure.
Como uma matriz de nós pode abranger mais de um conjunto de máquinas virtuais, uma única matriz pode oferecer VMs de diferentes tamanhos ou famílias para a mesma função. Essa flexibilidade ajuda quando o tamanho da VM que você prefere tem capacidade limitada em uma região. Para mais informações, veja clusters e nós do CycleCloud.
Dimensione o cluster e planeje o autoescalonamento
O CycleCloud escala automaticamente o número de nós de computação com base no trabalho enfileirado no agendador, então você não precisa adivinhar um tamanho fixo do cluster. Em vez disso, planeje os seguintes limites:
- Tamanho máximo. O formulário de criação de cluster limita até onde um cluster escala automaticamente, com base no número total de nós ou núcleos que ele pode iniciar. Defina esse limite para refletir a maior carga de trabalho que você espera e a cota disponível na região.
- Nós dedicados em comparação com nós Spot. Nós dedicados são reservados para seu pool e oferecem capacidade previsível. Nós Spot usam a capacidade excedente do Azure por um preço reduzido, mas o Azure pode retomá-la quando precisar da capacidade de volta. Use nós dedicados para cargas de trabalho sensíveis ao tempo ou de longa duração, e nós Spot para cargas de trabalho tolerantes a falhas ou reiniciáveis quando o custo for mais importante do que a disponibilidade garantida.
- Comportamento de redução de escala. O escalonamento automático remove nós ociosos, assim você deixa de pagar por capacidade computacional que não estiver usando. Confirme que suas tarefas gravam resultados em armazenamento durável, pois os dados locais de um nó são perdidos quando o nó é desalocado.
Entenda os limites do autoscaling
Para um cluster CycleCloud, vários limites independentes determinam quantos nós o CycleCloud pode iniciar. O menor limite efetivo vence:
| Limit | O que controla |
|---|---|
| Cota total disponível de vCPU regional | As vCPUs restantes que sua assinatura pode implantar em todas as famílias de VMs na região. |
| Cota disponível de vCPU da família VM | As vCPUs restantes que sua assinatura pode implantar para a família de VMs selecionada na região. Ambas cotas de vCPU devem permitir a implantação. |
CycleCloud MaxCount |
O número máximo de nós em uma matriz de nós. |
CycleCloud MaxCoreCount |
O número máximo de núcleos em um array de nós. Se um template define tanto MaxCount quanto MaxCoreCount, o CycleCloud aplica a restrição efetiva inferior. |
Importante
Cotas e limites do CycleCloud são tetos, não reservas de capacidade. O provisionamento real pode ser menor devido a restrições temporárias de capacidade do Azure ou erros de configuração.
Para identificar uma restrição, acesse a página do cluster CycleCloud para o seu cluster. Na tabela Nós, selecione Ações>Adicionar. O diálogo Adicionar Nós descreve as restrições aplicáveis para o array de nós selecionado.
Por exemplo, suponha que um array de nós use VMs da geração Standard_HB368rs_v5 atual, que consomem 368 vCPUs cada, e tenha estes limites:
| Restrição | Limite disponível ou configurado | Nós efetivos |
|---|---|---|
| Cota total regional de vCPU | 3.680 vCPUs | 10 |
| Cota de vCPU da família de VMs HBv5 | 2.208 vCPUs | 6 |
CycleCloud MaxCount |
8 nós | 8 |
A cota da família de VMs HBv5 é o limite mais baixo, portanto o limite configurado é de seis nós, embora MaxCount permita oito. Se o Azure tiver capacidade para apenas cinco VMs quando a requisição for executada, o CycleCloud fornece cinco nós e a requisição restante permanece restrita até que a capacidade fique disponível. Aumentar MaxCount sozinho não eleva nem o teto da cota nem a capacidade disponível.
Quando um modelo usa MaxCoreCount, divida esse valor pela contagem de vCPUs da VM e arredonde para baixo para encontrar seu limite de nós. Para definições de ambas as configurações do CycleCloud, consulte Objetos de nó e matriz de nós.
Verifique a cota, capacidade e região
As VMs que você pretende usar devem estar disponíveis, e dentro da cota, na região onde você implanta:
- Região. Escolha uma região que ofereça as famílias de VMs que sua carga de trabalho precisa e que esteja próxima dos seus dados e usuários. Nem toda família de VMs está disponível em todas as regiões.
- Cota. As cotas de núcleo (vCPU) são definidas por região e por família de VMs. Certifique-se de que sua cota seja alta o suficiente para o tamanho máximo do agrupamento planejado e solicite um aumento da cota , se necessário.
- Capacidade. Mesmo dentro da cota, os tamanhos das VMs HPC podem ser limitados em uma região em um dado momento. Considere um tamanho de VM alternativo ou uma região adicional para execuções grandes ou urgentes.
Planejar armazenamento e rede
Os trabalhos HPC geralmente são limitados à rapidez com que conseguem ler e gravar dados, não apenas ao cálculo:
- Sistemas de arquivos compartilhados. A maioria dos clusters HPC precisa de um sistema de arquivos compartilhado que todos os nós possam montar. O CycleCloud pode implantar servidores NFS e sistemas de arquivos paralelos (por exemplo, BeeGFS) como parte do cluster, e você pode se conectar a serviços gerenciados como Azure NetApp Files ou Lustre Gerenciado do Azure.
- Interconexão. Trabalhos MPI fortemente acoplados requerem a interconexão InfiniBand disponível em VMs otimizadas para HPC. Confirme se tanto o tamanho da VM quanto a região suportam isso.
- Rede. Planeje a rede virtual e as sub-redes que hospedam o cluster, e garanta que o servidor de aplicações CycleCloud tenha o acesso de saída necessário para gerenciar nós. Para obter orientações sobre produção, consulte Planejar sua implantação de produção.
Escolha um caminho de dados do cluster
A forma como você coloca os dados nos nós de computação tem um grande efeito no throughput e no custo. Escolha com base em como seus empregos leem e escrevem dados:
| Opção | Melhor para | Observações |
|---|---|---|
| BlobFuse2 (streaming) | Ler grandes conjuntos de dados diretamente do Blob (dados de treinamento de IA, entradas de simulação) com alta taxa de transferência, sem servidor de arquivos permanente | Montagem FUSE por nó; não totalmente POSIX. Veja Montar o Armazenamento de Blobs do Azure nos nós do cluster. |
| Lustre Gerenciado do Azure | Tarefas fortemente acopladas ou com uso intensivo de E/S que precisam de um sistema de arquivos paralelo POSIX compartilhado; Pode hidratar a partir do Blob | Sistema de arquivos paralelo gerenciado. Veja Lustre Gerenciado do Azure. |
| Azure HPC Cache | Cache de um back-end NAS ou Blob existente para HPC com uso intensivo de leitura, incluindo dados híbridos e locais | Camada de cache distribuída na frente do armazenamento. Veja Azure HPC Cache. |
| Azure NetApp Files | NFS ou SMB compartilhado de baixa latência para EDA e espaço de trabalho e temporário de HPC em geral | Serviço de arquivos gerenciado. Veja Azure NetApp Files. |
Como regra geral: use o BlobFuse2 streaming quando seus dados já estiverem no Blob e os trabalhos os lerem principalmente. Use um sistema de arquivos compartilhado ou paralelo (Managed Lustre ou NetApp Files) quando as tarefas precisarem de coordenação entre os nós, semântica POSIX ou gravações compartilhadas intensivas. Use um nível de cache (HPC Cache) quando precisar acelerar o acesso a um backend já existente.
Planeje os custos
Os custos de computação geralmente são a maior despesa em um ambiente HPC. Planeje controlar esses custos por meio de:
- Usar dimensionamento automático e nós Spot para evitar pagar pela capacidade ociosa.
- Ajustar o tamanho das VMs de acordo com a carga de trabalho, em vez de adotar automaticamente a maior opção.
- Acompanhando gastos por meio da integração integrada com o Gerenciamento de Custos da Microsoft. Para mais informações, veja Acompanhamento de custos e uso.
Valide o cluster antes da produção
Executar uma prova de conceito com uma carga de trabalho representativa, seu volume de dados esperado e a configuração do agendador de produção e do cluster. Não aprove o projeto para produção até conseguir registrar evidências para todos os critérios:
| Criterion | Evidências a registrar |
|---|---|
| Compatibilidade de fluxos de trabalho | Scripts de trabalho existentes, políticas de agendamento, software, licenças e integrações de identidade funcionam sem mudanças não planejadas. |
| Escala e cota | O autoescalonamento atinge o número necessário de nós na região desejada sem exceder os limites regionais totais, da família de VMs, MaxCount ou MaxCoreCount. |
| Desempenho de computação e armazenamento | O tempo total da tarefa, de ponta a ponta, atende à meta, incluindo o tempo de fila, o provisionamento de nós, a preparação dos dados, o processamento e a persistência dos resultados. |
| Recovery | Após uma falha no provisionamento de nó, falha de tarefa ou remoção de instância Spot, caso seja usada, a carga de trabalho permanece dentro do tempo máximo de recuperação registrado e da perda de checkpoint permitida, atende ao prazo de conclusão e usa com sucesso o tamanho de VM de contingência planejado. |
| Custo | O custo medido de computação, armazenamento, rede e licença por trabalho concluído atinge a meta na frequência de execução esperada. |
| Operações | Os proprietários designados podem monitorar o escalonador e a infraestrutura, investigar solicitações de escalonamento com falha, aplicar patches no ambiente e recuperar tarefas e dados. |
Se um critério falhar, revise a VM, os limites do array de nós, o caminho de armazenamento, a configuração de autoescalonamento ou o recurso regional e repita o mesmo trabalho. Um pequeno teste funcional não comprova a prontidão para produção, porque não testa a compatibilidade com o escalonador, a escala máxima nem a movimentação de dados.