Handleidingen voor AI Runtime

Migreer bestaande workloads, verbeter de trainingsprestaties, volg GPU-gebruik en los veelvoorkomende fouten op.

Guide Description
Waarom AI Runtime gebruiken Vergelijk AI Runtime met Databricks Runtime ML classic compute voor kosten, ontwikkelaarservaring en schaalbaarheid.
Migreren van klassieke GPU-workloads Verplaats een bestaande deep learning-workload van een klassieke Databricks-cluster naar AI Runtime.
Migreren vanuit Slurm Breng je Slurm-batchscripts, gedistribueerde opstartprogramma’s en gedeelde opslag onder in de Databricks CLI.
Optimaliseer de prestaties van je workload Verbeter de trainingsdoorvoer en maak langlopende banen veerkrachtiger tegen mislukkingen.

Gebruik en kosten bijhouden

U kunt uw AI Runtime GPU-uitgaven bewaken door een query uit te voeren op de factureerbare gebruikssysteemtabel (system.billing.usage). De volgende query retourneert het totale gebruik voor serverloze GPU-workloads:

SELECT
  SUM(usage_quantity)
FROM
  system.billing.usage
WHERE
  product_features.serverless_gpu IS NOT NULL

Zie Billable usage system table referentie voor meer informatie over de schema van factureerbaar gebruik.

Voor de huidige GPU-prijzen, zie AI Runtime prijsstelling.

Examples

Ontdek notebooktutorials en uitvoerbare Databricks CLI-recepten, georganiseerd per taak. Zie AI-runtime-voorbeelden.

Troubleshooting

Genie Code kan helpen bij het oplossen van omgevings- en afhankelijkheidsproblemen en het onderzoeken van GPU- en verspreide werklaststoringen in notebooks die verbonden zijn met AI Runtime. Zie Use Genie Code with AI Runtime.

Om interactief te debuggen op de compute, gebruik je de webterminal om shell-commando's uit te voeren, het GPU-gebruik te inspecteren met nvidia-smi, en bestanden te beheren. De webterminal is beschikbaar wanneer deze is verbonden met AI Runtime-omgeving versie 5 of hoger. Zie Voer shell-opdrachten uit in de Azure Databricks web terminal.

ValueError: numpy.dtype size changed, wat mogelijk wijst op binaire incompatibiliteit. Verwachte 96 van C-header, kreeg 88 van PyObject

De fout treedt meestal op wanneer er een onjuiste overeenkomst is in de NumPy-versies die worden gebruikt tijdens het compileren van een afhankelijk pakket en de NumPy-versie die momenteel is geïnstalleerd in de runtime-omgeving. Deze incompatibiliteit treedt vaak op vanwege wijzigingen in de C-API van NumPy en is vooral merkbaar van NumPy 1.x tot 2.x. Deze fout geeft aan dat het Python-pakket dat is geïnstalleerd in het notebook mogelijk de NumPy-versie heeft gewijzigd.

Aanbevolen oplossing:

Controleer de NumPy-versie in de runtime en controleer of deze compatibel is met uw pakketten. Zie de AI Runtime-omgeving release notes voor omgeving 6, omgeving 5 en omgeving 4 voor informatie over vooraf geïnstalleerde Python-bibliotheken. Als u een afhankelijkheid hebt van een andere versie van NumPy, voegt u die afhankelijkheid toe aan uw rekenomgeving.

PyTorch kan libcudnn niet vinden tijdens de installatie van torch

Wanneer u een andere versie van torchinstalleert, ziet u mogelijk de volgende fout: ImportError: libcudnn.so.9: cannot open shared object file: No such file or directory. Dit komt doordat torch alleen zoekt naar de cuDNN-bibliotheek in het lokale pad.

Aanbevolen oplossing:

Installeer de afhankelijkheden opnieuw door toe te voegen --force-reinstall bij de installatie torch:

%pip install torch --force-reinstall