Guias do usuário para o AI Runtime

Acompanhe o uso e os custos da GPU com a tabela do sistema de uso faturável, encontre exemplos e solucione erros comuns.

Migrando de Slurm

Se você vem de um cluster Slurm em vez do Databricks clássico, veja Migrar a partir do Slurm para ver como sbatch, srun/torchrun, partições e sistemas de arquivos compartilhados se mapeiam para a CLI do Databricks.

Acompanhar o uso e os custos

Você pode monitorar os gastos da GPU do AI Runtime consultando a tabela do sistema de uso faturável (system.billing.usage). A consulta a seguir retorna o uso total para cargas de trabalho de GPU sem servidor:

SELECT
  SUM(usage_quantity)
FROM
  system.billing.usage
WHERE
  product_features.serverless_gpu IS NOT NULL

Para obter mais informações sobre o esquema de tabela do uso faturável, consulte o Sistema de Referência de Tabelas de Uso Faturável.

As cobranças do tempo de execução de IA por hora de GPU no SKU para Treinamento de Modelos são feitas aos seguintes preços:

• H100 sob demanda: US$7,00/GPU/hora (Leste dos EUA)
• A10 sob demanda: $4,90 por hora de GPU (Estados Unidos - Leste)

Examples

Explore tutoriais de cadernos e receitas de CLI do Databricks executáveis organizadas por tarefa. Veja exemplos de AI Runtime.

Solução de problemas

O Genie Code pode ajudar a resolver problemas de ambiente e dependências, além de investigar falhas de GPU e cargas de trabalho distribuídas em notebooks conectados ao tempo de execução de IA. Veja Como usar o Genie Code com o runtime de IA.

Para depurar interativamente no computador, use o terminal web para executar comandos de shell, inspecionar o uso da GPU com nvidia-smi, e gerenciar arquivos. O terminal web está disponível quando conectado ao ambiente de GPU serverless versão 5 ou superior. Confira Executar comandos shell no terminal web do Azure Databricks.

ValueError: tamanho numpy.dtype alterado, pode indicar incompatibilidade binária. Esperavam-se 96 do cabeçalho C, recebeu-se 88 de PyObject

O erro normalmente ocorre quando há uma incompatibilidade nas versões numPy usadas durante a compilação de um pacote dependente e a versão NumPy atualmente instalada no ambiente de runtime. Essa incompatibilidade geralmente ocorre devido a alterações na API C do NumPy e é particularmente perceptível de NumPy 1.x para 2.x. Esse erro indica que o pacote python instalado no notebook pode ter alterado a versão numPy.

Solução recomendada:

Verifique a versão do NumPy no runtime e verifique se ela é compatível com seus pacotes. Consulte as notas de versão de computação de GPU sem servidor para o ambiente 4 e o ambiente 3 para obter informações sobre bibliotecas do Python pré-instaladas. Se você tiver uma dependência em uma versão diferente do NumPy, adicione essa dependência ao seu ambiente de computação.

PyTorch não pode encontrar libcudnn ao instalar a tocha

Ao instalar uma versão diferente de torch, você poderá ver o erro: ImportError: libcudnn.so.9: cannot open shared object file: No such file or directory. Isso ocorre porque o torch busca apenas pela biblioteca cuDNN no caminho local.

Solução recomendada:

Reinstale as dependências adicionando --force-reinstall ao instalar torch:

%pip install torch --force-reinstall