Användarguider för AI Runtime

Important

Den här funktionen finns som allmänt tillgänglig förhandsversion.

Följ GPU-användning och kostnader med systemtabellen för fakturerbar användning, hitta exempel och felsök vanliga fel.

Migrera från Slurm

Om du kommer från ett Slurm-kluster istället för klassiska Databricks, se Migrate from Slurm för hur sbatch, srun/torchrun, partitioner och delade filsystem mappas till Databricks CLI.

Spåra användning och kostnader

Du kan övervaka dina GPU-utgifter för AI Runtime genom att fråga den fakturerbara användningssystemtabellen (system.billing.usage). Följande fråga returnerar total användning för serverlösa GPU-arbetsbelastningar:

SELECT
  SUM(usage_quantity)
FROM
  system.billing.usage
WHERE
  product_features.serverless_gpu IS NOT NULL

Mer information om tabellschemat för fakturerbar användning finns i Tabellreferens för fakturerbart användningssystem.

AI Runtime debiterar per GPU-timme på SKU:n för modellträning till följande priser:

  • H100 på begäran: 7,00 USD/GPU-timme (USA, östra)
  • A10 på begäran: 4,90 USD/GPU-timme (USA, östra)

Examples

Utforska notebook-tutorials och körbara Databricks CLI-recept organiserade efter uppgift. Se exempel på AI Runtime.

Felsökning

Genie Code kan hjälpa till att lösa miljö- och beroendeproblem samt undersöka GPU- och distribuerade arbetsbelastningsfel i bärbara datorer kopplade till AI-runtime. Se Använd Genie-kod med AI Runtime.

För att felsöka interaktivt i beräkningen, använd webbterminalen för att köra skalkommandon, inspektera GPU-användningen med nvidia-smi, och hantera filer. Webbterminalen är tillgänglig när den är ansluten till serverless GPU-miljö version 5 eller högre. Se Kör shell-kommandon i Azure Databricks webbterminal.

ValueError: numpy.dtype-storlek har ändrats, vilket kan indikera binär inkompatibilitet. Förväntade 96 från C-huvudet, fick 88 från PyObject

Felet uppstår vanligtvis när det finns ett matchningsfel i de NumPy-versioner som används vid kompilering av ett beroende paket och den NumPy-version som för närvarande är installerad i körningsmiljön. Den här inkompatibiliteten uppstår ofta på grund av ändringar i NumPys C-API och är särskilt märkbar från NumPy 1.x till 2.x. Det här felet anger att Python-paketet som installerats i notebook-filen kan ha ändrat NumPy-versionen.

Rekommenderad lösning:

Kontrollera NumPy-versionen i körningen och kontrollera att den är kompatibel med dina paket. Mer information om förinstallerade Python-bibliotek finns i versionsnoteringarna för serverlös GPU Compute för miljö 4 och miljö 3. Om du har ett beroende av en annan version av NumPy lägger du till det beroendet i beräkningsmiljön.

PyTorch kan inte hitta libcudnn när du installerar PyTorch

När du installerar en annan version av torchkan du se felet: ImportError: libcudnn.so.9: cannot open shared object file: No such file or directory. Det beror på att Torch bara letar efter cuDNN-biblioteket på den lokala sökvägen.

Rekommenderad lösning:

Installera om beroendena genom att lägga till --force-reinstall när du torchinstallerar :

%pip install torch --force-reinstall
  • Uppdaterades senast