Guias de utilizador para IA Runtime

Acompanhe o uso e os custos da GPU com a tabela do sistema de utilização faturável, encontre exemplos e resolva erros comuns.

Migrar do Slurm

Se vier de um cluster Slurm em vez do Databricks clássico, veja Migrar a partir do Slurm para saber como sbatch, srun/torchrun, partições e sistemas de ficheiros partilhados correspondem na CLI do Databricks.

Monitorizar utilização e custos

Pode monitorizar o gasto da sua GPU em tempo de execução de IA consultando a tabela do sistema de utilização faturável (system.billing.usage). A consulta seguinte devolve a utilização total para cargas de trabalho de GPU serverless:

SELECT
  SUM(usage_quantity)
FROM
  system.billing.usage
WHERE
  product_features.serverless_gpu IS NOT NULL

Para mais informações sobre o esquema da tabela de utilização faturável, consulte Referência da tabela do sistema de utilização faturável.

O AI Runtime cobra por hora de GPU no SKU de Treino de Modelos aos seguintes preços:

• H100 on demand: $7,00/GPU por hora (EUA Este)
• A10 on demand: 4,90 $/GPU-hora (EUA Este)

Examples

Explore tutoriais de notebooks e receitas de CLI Databricks executáveis, organizadas por tarefa. Veja exemplos do AI Runtime.

Troubleshooting

O Genie Code pode ajudar a resolver problemas de ambiente e de dependências, bem como a investigar falhas em GPUs e em cargas de trabalho distribuídas em notebooks ligados ao AI Runtime. Consulte Utilizar código Genie com ambiente de execução de IA.

Para depurar interativamente no computador, use o terminal web para executar comandos de shell, inspecionar o uso da GPU com nvidia-smi, e gerir ficheiros. O terminal web está disponível quando ligado ao ambiente de GPU serverless versão 5 ou superior. Veja Executar comandos de shell no terminal web do Azure Databricks.

ValueError: numpy.dtype tamanho alterado, pode indicar incompatibilidade binária. Esperava 96 do cabeçalho C, obtive 88 do PyObject

O erro surge normalmente quando existe uma incompatibilidade entre as versões NumPy usadas durante a compilação de um pacote dependente e a versão NumPy atualmente instalada no ambiente de execução. Essa incompatibilidade geralmente ocorre devido a alterações na API C do NumPy e é particularmente percetível do NumPy 1.x para 2.x. Este erro indica que o pacote Python instalado no notebook pode ter alterado a versão do NumPy.

Solução recomendada:

Verifique a versão do NumPy no tempo de execução e certifique-se de que é compatível com os seus pacotes. Consulte as notas de lançamento do Serverless GPU Compute para o ambiente 4 e ambiente 3 para informações sobre bibliotecas Python pré-instaladas. Se você tiver uma dependência em uma versão diferente do NumPy, adicione essa dependência ao seu ambiente de computação.

PyTorch não pode encontrar libcudnn ao instalar a tocha

Quando instala uma versão diferente do torch, poderá ver o erro: ImportError: libcudnn.so.9: cannot open shared object file: No such file or directory. Isso ocorre porque o Torch só procura a biblioteca cuDNN no diretório local.

Solução recomendada:

Reinstale as dependências adicionando --force-reinstall , ao instalar torch:

%pip install torch --force-reinstall