Przewodniki po AI Runtime

Migruj istniejące obciążenia, poprawiaj wydajność treningu, śledź wykorzystanie GPU i rozwiązuj typowe błędy.

Guide Description
Dlaczego warto używać AI Runtime Porównaj AI Runtime z Databricks Runtime ML classic compute pod kątem kosztów, doświadczenia programisty i skalowalności.
Migracja klasycznych obciążeń GPU Przenieś istniejące obciążenie deep learning z klasycznego klastra Databricks do AI Runtime.
Migracja ze Slurm Przenieś swoje skrypty wsadowe Slurm, rozproszone programy uruchamiające i współdzieloną pamięć masową do narzędzia Databricks CLI.
Optymalizuj wydajność obciążenia Popraw wydajność trenowania i zwiększ odporność długotrwałych zadań na awarie.

Śledzenie użycia i kosztów

Możesz monitorować wydatki GPU środowiska uruchomieniowego AI, wykonując zapytanie dotyczące tabeli systemu rozliczania użycia (system.billing.usage). Następujące zapytanie zwraca łączne użycie dla bezserwerowych obciążeń procesora GPU:

SELECT
  SUM(usage_quantity)
FROM
  system.billing.usage
WHERE
  product_features.serverless_gpu IS NOT NULL

Aby uzyskać więcej informacji na temat schematu tabeli zużycia rozliczalnego, zobacz Dokumentacja tabeli systemu zużycia rozliczalnego.

Aktualne ceny GPU znajdziesz w artykule o cenach AI Runtime.

Examples

Poznaj tutoriale do notebooków i uruchamialne przepisy Databricks CLI uporządkowane według zadań. Zobacz przykłady AI Runtime.

Troubleshooting

Genie Code może pomóc rozwiązać problemy środowiskowe i zależnościowe oraz badać awarie GPU i rozproszonych obciążeń w notatnikach podłączonych do AI Runtime. Zobacz Użyj Genie Code z AI Runtime.

Aby interaktywnie debugować na obliczeniach, użyj terminala webowego do uruchamiania poleceń shell, sprawdzania użycia GPU za pomocą nvidia-smi, oraz zarządzania plikami. Terminal internetowy jest dostępny po połączeniu ze środowiskiem AI Runtime w wersji 5 lub wyższej. Zobacz Uruchamianie poleceń powłoki w terminalu webowym Azure Databricks.

ValueError: zmieniony rozmiar numpy.dtype może wskazywać na niezgodność binarną. Oczekiwano 96 z nagłówka C, otrzymano 88 z obiektu Python

Błąd zwykle pojawia się, gdy występuje niezgodność wersji biblioteki NumPy używanych podczas kompilacji pakietu zależnego i wersji biblioteki NumPy aktualnie zainstalowanej w środowisku uruchomieniowym. Ta niezgodność często występuje z powodu zmian w interfejsie API języka C NumPy i jest szczególnie zauważalna między wersjami 1.x a 2.x. Ten błąd wskazuje, że pakiet języka Python zainstalowany w notesie mógł zmienić wersję biblioteki NumPy.

Zalecane rozwiązanie:

Sprawdź wersję biblioteki NumPy w środowisku uruchomieniowym i upewnij się, że jest ona zgodna z pakietami. Zobacz notatki do wydania środowiska AI Runtime dla środowiska 6, 5 i 4, aby uzyskać informacje o preinstalowanych bibliotekach Python. Jeśli masz zależność od innej wersji biblioteki NumPy, dodaj zależność do środowiska obliczeniowego.

PyTorch nie może odnaleźć biblioteki libcudnn podczas instalowania pochodnii

Podczas instalowania innej wersji torchprogramu może zostać wyświetlony błąd: ImportError: libcudnn.so.9: cannot open shared object file: No such file or directory. Jest to spowodowane tym, że torch wyszukuje tylko bibliotekę cuDNN w ścieżce lokalnej.

Zalecane rozwiązanie:

Zainstaluj ponownie zależności, dodając podczas --force-reinstall instalowania programu torch:

%pip install torch --force-reinstall