Środowisko uruchomieniowe sztucznej inteligencji

AI Runtime to bezserwerowa usługa obliczeniowa GPU w Databricks, przeznaczona do obciążeń uczenia głębokiego. Możesz użyć AI Runtime do trenowania i dopracowywania niestandardowych modeli za pomocą frameworków takich jak PyTorch i Hugging Face Transformers.

Wprowadzenie

Uruchom swoje pierwsze obciążenie robocze w kilka minut, korzystając z naszych przewodników szybkiego uruchomienia.

Wprowadzenie Description
🚀 Szybki start z Databricks CLI Pochodzisz z klastra Slurm lub Kubernetes? Trenuj na AI Runtime z terminala w kilka minut.
📓 Szybki start notebooka Podłącz swój notatnik do GPU w kilka sekund i twórz interaktywnie.
⚡ Ray Korzystasz z klastra Ray? Uruchom Ray na AI Runtime z wsparciem dashboardu.
🧭 Przegląd Poznaj kluczowe rzeczy dotyczące AI Runtime w dwie minuty: dostępne karty graficzne, sposób działania oraz ograniczenia.

Funkcje

AI Runtime to kompleksowa platforma GPU, zapewniająca wiele sposobów uzyskiwania dostępu do procesorów GPU, wbudowane narzędzia do obserwowalności i debugowania oraz gotowe środowiska.

Nawiązywanie połączenia ze środowiskiem uruchomieniowym sztucznej inteligencji

Dostęp do procesorów graficznych (GPU) z miejsca, w którym pracujesz.

Funkcja Description
Laptopy Podłącz notatnik do AI Runtime i rozwijaj interaktywnie, bez konfiguracji klastra.
IDE przez protokół SSH Połącz się ze swoim IDE lub terminalem przez tunel SSH, aby pracować bezpośrednio na węźle GPU.
Databricks CLI Zgłaszaj i zarządzaj rozproszonymi zadaniami treningowymi GPU z laptopa, korzystając z konfiguracji zadań YAML.
Agenci sztucznej inteligencji Wykorzystaj funkcję agenta databricks-ai-runtime, aby przesyłać, monitorować i zarządzać zadaniami szkoleniowymi GPU za pomocą swojego agenta AI.
Promień Uruchamiaj Ray Core, Ray Data, Ray Train i Ray Tune w AI Runtime.

Zarządzanie zależnościami

Zarządzaj bibliotekami Pythona i systemowymi, z których korzysta Twoje obciążenie.

Funkcja Description
Środowiska gotowe Zacznij od minimalnego środowiska Standard lub środowiska AI Databricks z wstępnie załadowanymi frameworkami ML.

Ładowanie danych do GPU

Dostarczaj dane treningowe do swoich GPU efektywnie.

Funkcja Description
Wydajne ładowarki danych Przesyłaj dane z woluminów katalogu Unity za pomocą odpornych na błędy ładowaczy zaprojektowanych do wysokiego wykorzystania GPU.

Debugowanie i obserwowanie

Śledź eksperymenty, sprawdzaj wyniki i diagnozuj awarie.

Funkcja Description
MLflow dla głębokiego uczenia Śledź eksperymenty, metryki i przebiegi za pomocą MLflow.
Przeglądnik logów Przeglądaj wyniki treningu i monitoruj zużycie zasobów GPU podczas działania kodu.
Debugowanie za pomocą agentów Używaj Genie Code do generowania kodu treningowego, rozwiązywania problemów środowiskowych i debugowania awarii GPU.

Harmonogramowanie i obsługa w czasie rzeczywistym

Przejdź z rozwoju interaktywnego na zaplanowane zadania i punkty końcowe.

Funkcja Description
Planowanie obciążeń GPU Wdrażaj kod treningowy z pakietami Deklaratywnej Automatyzacji, planuj uruchomienia i buduj wielozadaniowe workflowy GPU i CPU.
Obsługuj swoje modele Wdroż wytrenowane modele za skalowalnym punktem końcowym za pomocą Model Serving.

Examples

Poznaj przykłady end-to-end notebooków i Databricks CLI dla AI Runtime.

Example Description
Klasyczne uczenie maszynowe XGBoost akcelerowany przez GPU, bezuczeniowa predykcja danych tabelarycznych oraz prognozowanie szeregów czasowych.
Systemy rekomendacji Trenuj modele rekomendacyjne oparte na głębokim uczeniu, takie jak architektury dwuwieżowe.
Wizja komputerowa Obciążenia wykrywania obiektów i klasyfikacji obrazów na GPU.
Modele OSS (LLM) po treningu Dostrajaj i dalej trenuj otwartoźródłowe modele LLM za pomocą LoRA, pełnego dostrajania oraz bibliotek takich jak TRL, Unsloth i Axolotl.
Wnioskowanie wsadowe Uruchamiaj wnioskowanie wsadowe na dużą skalę za pomocą Ray Data i vLLM na wielu procesorach GPU.
Rozproszone trenowanie na wielu GPU Skaluj treningi na wielu GPU i węzłach za pomocą DDP, FSDP i DeepSpeed.

Guides

Przewodniki skoncentrowane na zadaniach dotyczące migracji obciążeń do AI Runtime i maksymalnego wykorzystania GPU.

Przewodnik Description
Migracja ze Slurm Przenieś swoje skrypty wsadowe Slurm, rozproszone programy uruchamiające i współdzieloną pamięć masową do narzędzia Databricks CLI.
Migracja klasycznych obciążeń GPU Przenieś istniejące obciążenie deep learning z klasycznego klastra Databricks do AI Runtime.
Wydajność i odporność Popraw wydajność trenowania i zwiększ odporność długotrwałych zadań na awarie.

Dodatkowe zasoby

Znajdź pomocne treści: najnowsze aktualizacje produktów oraz jak działa AI Runtime pod maską.

Resource Description
Aktualizacje produktów Zobacz najnowsze aktualizacje i ogłoszenia produktów AI Runtime.
Jak działa AI Runtime pod maską Przeczytaj, jak Databricks utrzymuje niezawodność GPU w całym czasie działania AI.
  • Ostatnia aktualizacja o