Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
Acelerador distribuído para armazenamento em nuvem (DACS) é um cache read-through distribuído que acelera o carregamento de modelos a partir do Armazenamento de Blobs do Azure para inferência de IA no AKS (Serviço de Kubernetes do Azure). Ele utiliza discos NVMe locais entre nós de cache para manter os dados lidos frequentemente próximos ao processamento da GPU. O DACS também pode acelerar o carregamento de conjuntos de dados para cargas de trabalho de treinamento que leem repetidamente os mesmos dados. O Armazenamento de Blobs do Azure continua sendo a fonte durável e confiável para arquivos de modelo e conjuntos de dados.
Você habilita e gerencia o DACS através do Azure Container Storage, que instala a extensão gerenciada do DACS e gerencia seu ciclo de vida no AKS. DACS não é um volume persistente, um StorageClass ou um substituto do Armazenamento de Blobs do Azure. Para criar volumes persistentes Kubernetes, veja O que é o Azure Container Storage?
Important
O DACS está em prévia. Os recursos de pré-visualização são fornecidos sem um contrato de nível de serviço e não são recomendados para trabalhos em ambientes de produção. Alguns recursos podem ser limitados ou não suportados. Para obter mais informações, consulte Termos de Uso Complementares para Versões Prévias do Microsoft Azure.
Quando usar o acelerador distribuído para armazenamento em nuvem
O DACS foi projetado para cargas de trabalho de inferência de IA intensivas em leitura que carregam repetidamente os mesmos dados de modelo do Armazenamento de Blobs do Azure. Considere o DACS quando sua carga de trabalho possui uma ou mais destas características:
- Pods de inferência aguardam arquivos de modelos grandes antes de poderem atender solicitações.
- A adição de nós GPU causa downloads repetidos dos dados do modelo.
- Reinicios de pod, substituição de nós ou atualizações contínuas recuperam repetidamente os mesmos dados do modelo.
- Cargas de trabalho de várias inferências reutilizam um conjunto de trabalho de arquivos de modelo armazenados no Armazenamento de Blobs do Azure.
- O cluster AKS tem um pool de nós Linux com discos NVMe locais que você pode dedicar aos servidores de cache.
Para treinamento, considere o DACS quando os trabalhadores reutilizam partes do conjunto de dados entre épocas ou tarefas. Os benefícios do cache dependem do reuso de dados, do tamanho do conjunto de trabalho e se as leituras encontram cache frio ou quente.
O DACS suporta clusters com até 100 nós. Não fornece armazenamento persistente para saídas de treinamento ou checkpoints. Cache KV, cache de imagem de contêiner, acesso a arquivos compartilhados de uso geral e origens que não sejam do Azure Blob não fazem parte desta prévia.
Como funciona o acelerador distribuído para armazenamento em nuvem
O DACS adiciona uma camada de cache NVMe local no cluster à qual as cargas de trabalho acessam por meio de uma integração com cliente suportada. O cliente pode ler o Armazenamento de Blobs do Azure diretamente em caso de cache miss ou ao recorrer ao fallback.
Caminho de leitura
- Uma aplicação solicita um intervalo modelo-dados por meio de uma integração DACS suportada.
- O cliente descobre os servidores de cache e determina qual servidor é o dono do bloco solicitado.
- Em um hit de cache, o cliente lê o chunk do NVMe do servidor de cache responsável.
- Em caso de perda no cache, o cliente lê a parte do Armazenamento de Blobs do Azure e preenche o cache de forma assíncrona. A leitura pode terminar antes da população terminar, então uma leitura repetida imediata também pode não retornar dados.
- Se o cache não estiver disponível, o cliente recorre ao Armazenamento de Blobs do Azure.
Os dados do modelo são divididos em blocos e distribuídos entre servidores de cache. Um anel de hash consistente mapeia chunks para servidores sem dependência centralizada do caminho dos dados. Servidores de cache podem transferir dados via Ethernet ou InfiniBand, dependendo do tamanho da máquina virtual (VM) do Azure selecionado e da topologia do cluster.
Implantação gerenciada
Ative o DACS através do Azure Container Storage usando o CLI do Azure com o valor distributedAccelerator. Essa etapa instala a extensão gerenciada separada distributedaccelerator . A extensão implanta o controlador DACS e o DaemonSet de pré-requisito do NVMe em kube-system e registra a definição de recurso personalizada da Cache. Os pré-requisitos descobrem, formatam e montam discos NVMe locais em nós de cache rotulados. Use unidades de disco dedicadas ao cache; não instale um gráfico de pré-requisitos separado. A extensão não cria pods de servidor de cache automaticamente.
Após verificar se os pré-requisitos gerenciados do NVMe estão prontos em cada nó de cache rotulado, crie um recurso de cache para definir a contagem de servidores, capacidade, limites de recursos e nós elegíveis. O controlador reconcilia os pods de servidor de cache e publica informações de descoberta para os clientes. O controlador gerencia recursos; ele não é um proxy para leituras de dados da aplicação. Veja o quickstart para instalação e provisionamento de cache.
Note
Clientes concorrentes podem recuperar independentemente os mesmos dados faltantes quando o cache está frio. A população coordenada do cold-cache não está disponível nesta versão prévia. Use prefetch para carregar os dados selecionados do modelo antes que os pods de inferência sejam iniciados.
Principais benefícios
- Carregamento mais rápido de modelos a quente: Leia frequentemente partes de modelo do NVMe local ou peer em vez de recuperá-las repetidamente do Armazenamento de Blobs do Azure.
- Expansão horizontal e recuperação mais rápidas: Permita que novos nós ou nós de substituição reutilizem dados do modelo já armazenados em cache no cluster.
- Leituras repetidas reduzidas do Blob: Mantenha o modelo ativo no conjunto de trabalho no cache e use a pré-busca antes dos eventos de escala planejados.
- Cache baseado em intervalos: Armazene em cache apenas as partes que cobrem os intervalos de bytes solicitados, em vez de carregar todos os arquivos de modelo por completo.
- Integração flexível de aplicativos: Use o BlobFuse2, o cliente Python nativo, ou o Run:ai Model Streamer para conectar a carga de trabalho ao cache.
- Alternativa segura: Mantenha o Armazenamento de Blobs do Azure como a fonte confiável e persistente quando os dados não estiverem em cache ou o cache não estiver disponível.
Integrações de cliente
A quantidade de mudança na aplicação depende da integração:
| Integration | Usar quando | Mudança do aplicativo |
|---|---|---|
| BlobFuse2 pelo driver CSI do Blob do Azure | Seu aplicativo lê dados Blob através dos caminhos do sistema de arquivos do Linux. | Configure um volume BlobFuse2 somente para leitura; mantenha o código de leitura de arquivos existente. |
| Cliente nativo de Python | Você quer operações de cache explícitas, síncronas ou assíncronas. | Importe e chame o cliente do DACS. |
| Run:ai Model Streamer | Sua aplicação usa o Run:ai Model Streamer para carregar os dados do modelo. | Configure a integração do DACS para o workflow de carregamento de modelos. |
Para a configuração do sistema de arquivos e os resultados medidos do armazenamento Standard, consulte Usar o acelerador distribuído para armazenamento em nuvem com o BlobFuse2. Para configuração do cliente Python e exemplos, veja Usar acelerador distribuído para armazenamento em nuvem com o cliente Python.
O acesso direto à origem do Hugging Face não é suportado. Coloque os dados do modelo no Armazenamento de Blobs do Azure antes de usar o acelerador distribuído para armazenamento em nuvem.
Semântica de cache
Entenda esses comportamentos antes de implantar o Distributed Accelerator para armazenamento em nuvem:
- Durabilidade: Dados em cache são efêmeros e não são replicados para garantir durabilidade. A perda de um nó de cache pode remover as partes armazenadas nesse nó; os dados ausentes são recuperados do Armazenamento de Blobs do Azure.
- Fonte de verdade: O Armazenamento de Blobs do Azure permanece autoritativo. Não use o DACS como a única cópia de arquivos de modelo ou conjuntos de dados. Prefira caminhos Blob imutáveis e versionados para upgrades de modelos.
- Descarte: O cache descarta dados quando os limites de capacidade são atingidos. Os dados removidos são recuperados novamente quando necessário.
- Alternativa: Configuração de descoberta ausente ou cache indisponível podem fazer com que o cliente leia diretamente do Armazenamento de Blobs do Azure. Verifique as ocorrências no cache do cliente e os aumentos no contador de solicitações bem-sucedidas do servidor, em vez de tratar uma leitura bem-sucedida do Blob como prova de cache. Veja Verificar o caminho da solicitação do DACS.
- Identidade: As cargas de trabalho usam identidades do Microsoft Entra ou uma assinatura de acesso compartilhado (SAS) para acessar o Armazenamento de Blobs do Azure. Use a função de menor privilégio exigida pela carga de trabalho.
- Rede: O tráfego de cache permanece dentro da rede AKS. O acesso ao ponto de extremidade do Blob do Azure deve ser permitido para perdas no cache e fallback.
- Limite de confiança: Use DACS dentro de um cluster confiável. O cache não isola locatários mutuamente não confiáveis.
Projeto de código aberto
DACS é um projeto de código aberto desenvolvido por meio da colaboração entre a Azure AI Platform e o Armazenamento do Azure. O projeto disponibiliza sua implementação de cache para inspeção, experimentação e contribuições da comunidade, a fim de reduzir leituras repetidas de dados sem substituir o armazenamento persistente.
O repositório Azure DACS inclui o servidor de cache, um cliente nativo em C/C++, adaptadores Python, um wrapper Rust, gráficos e controlador Kubernetes, além de exemplos de implantação. Consulte o repositório README para diretrizes de compatibilidade e configuração de código aberto, e use suas diretrizes de contribuição para compartilhar problemas reproduzíveis, medições de carga de trabalho e melhorias.
O projeto de código aberto e a versão prévia gerenciada pelo Azure têm diferentes escopos de implantação e suporte. Para a experiência gerenciada de AKS, siga o quickstart do Azure; as opções de implantação de repositórios não são recursos suportados automaticamente pela versão gerenciada.
Suporte e limitações da versão prévia
A tabela a seguir resume o escopo inicial da versão preliminar.
| Area | Escopo da prévia |
|---|---|
| Orquestrador | AKS |
| Carga de Trabalho | Principalmente, carregamento de modelos de inferência; leituras repetidas de conjuntos de dados para treinamento |
| Origem | Armazenamento de Blobs do Azure |
| Cache de mídia | NVMe local em nós de cache Linux |
| Escala | Até 100 nós |
| Arquitetura da CPU | x64 e Arm64 |
| Network | Ethernet; InfiniBand em tamanhos de VM compatíveis |
| Aquecimento | População sob demanda e pré-busca |
| Coordenação de leitura a frio | Leituras a frio simultâneas não são coordenadas |
| Installation | Extensão gerenciada separada por DACS habilitada via CLI do Azure |
| Upgrade | Compatibilidade específica de lançamento e orientações de atualização se aplicam |
| Price | Sem cobrança de software DACS; Azure VM, Armazenamento de Blobs e custos de rede ainda se aplicam |
Quando usar outra opção de armazenamento
Use uma outra opção de armazenamento do Azure quando sua carga de trabalho precisar de recursos fora do escopo do DACS:
- Para volumes persistentes do Kubernetes no NVMe local, veja Usar o Azure Container Storage com NVMe local.
- Para volumes de bloco duráveis, consulte Usar o Armazenamento de contêineres do Azure com Elastic SAN.
- Para um sistema de arquivos paralelo gerenciado, veja O que é Lustre Gerenciado do Azure?.
- Para acesso direto a objetos sem cache distribuído, use uma biblioteca cliente Armazenamento de Blobs do Azure.
Próximas Etapas
- Comece a usar o acelerador distribuído para armazenamento em nuvem no AKS.
- Usar o acelerador distribuído para armazenamento em nuvem com o BlobFuse2.
- Usar o acelerador distribuído para armazenamento em nuvem com o cliente Python.
- Gerencie o acelerador distribuído para armazenamento em nuvem.
- Monitorar o acelerador distribuído para armazenamento em nuvem.
- Solucionar problemas com aceleradores distribuídos para Cloud Storage.