Databricks CLI-Schnellstart für KI-Runtime

Important

Dieses Feature befindet sich in der Public Preview.

Die Databricks CLI für AI Runtime ermöglicht es Ihnen, serverlose GPU-Workloads von Ihrem Terminal aus zu senden, zu überwachen und zu verwalten. Dieser Quickstart zeigt, wie man eine KI-Laufzeit-Workload zu konfigurieren und auszuführen, Logs streamt und den Run inspiziert.

Anforderungen

Bestätigen Sie, dass die air Befehle in der Databricks-CLI verfügbar sind:

databricks air --help

Tip

Um Hilfe beim Schreiben deiner Arbeitslastkonfiguration und der Verwaltung von Runs zu bekommen, installiere den databricks-ai-runtime Skill für deinen KI-Agenten. Siehe Verwendung eines KI-Agenten.

Führe eine minimale Workload aus

Erstelle eine workload.yaml Datei, die eine A10-GPU anfordert und ausführt nvidia-smi , um den GPU-Namen auszudrucken:

experiment_name: air-quickstart
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xA10
command: nvidia-smi --query-gpu=name --format=csv,noheader

Reichen Sie den Workload ein und streamen Sie die Logs mit databricks air run:

databricks air run --file workload.yaml --watch

Die CLI gibt die Job Run ID und einen Link zum Run in Ihrem Arbeitsbereich zurück. --watch lässt das Terminal verbunden und streamt Logs, bis der Workload abgeschlossen ist.

Submitting experiment: air-quickstart
Submitted workload with Job Run ID: 783940125630184
View job run at: https://example.cloud.databricks.com/jobs/runs/783940125630184?o=1234567890123456

Monitoring run and streaming logs...
...
Environment setup completed at Thu Oct 1 14:23:45 UTC 2026
NVIDIA A10

Führe deinen eigenen Python-Code aus

Um lokalen Python-Code hochzuladen und auszuführen, erstellen Sie ein air-quickstart Verzeichnis mit den folgenden Dateien:

air-quickstart/
├── workload.yaml
└── main.py

Tip

Um von einem lauffähigen Projekt zu starten, anstatt diese Dateien manuell zu erstellen, klonen Sie das AI Runtime cookbook repository und wechseln Sie in das CLI-Verzeichnis getting-started:

git clone https://github.com/databricks-solutions/ai-runtime-cookbook.git
cd ai-runtime-cookbook/getting-started/air-cli

Verwenden Sie den folgenden minimalen Python-Code, um zu überprüfen, dass AI Runtime den hochgeladenen Code auf der GPU ausführt:

import torch

print("Hello from Python on AI Runtime")
print(f"GPU: {torch.cuda.get_device_name(0)}")

Um dieses Beispiel zu erweitern, können Sie main.py durch Ihr eigenes Training, Batch-Inferenz oder eine andere KI-Anwendung ersetzen.

Verwenden Sie folgende Konfiguration für workload.yaml:

experiment_name: python-quickstart
environment:
  version: 6
  dependencies:
    - torch==2.11.0
compute:
  num_accelerators: 1
  accelerator_type: GPU_1xH100
code_source:
  root_path: .
command: python "$CODE_SOURCE_PATH/main.py"

Diese Konfiguration verwendet folgende Einstellungen, und main.py wird auf einer H100-GPU ausgeführt:

  • environment.version wählt Standardumgebung Version 6 aus.
  • environment.dependencies PyTorch 2.11.0 in der ausgewählten Umgebung installieren.
  • root_path: . lädt das Verzeichnis hoch, das enthält workload.yaml. Zur Laufzeit verweist $CODE_SOURCE_PATH auf das hochgeladene Verzeichnis.

Reichen Sie den Workload aus dem Verzeichnis ein, das workload.yaml enthält:

databricks air run --file workload.yaml --watch

Die gestreamten Protokolle umfassen:

...
Hello from Python on AI Runtime
GPU: NVIDIA H100 80GB HBM3

Um vollständige Trainings-, Feinabstimmungs-, Batch-Inferenz- und Ray-Workloads durchzuführen, klonen Sie das AI Runtime Cookbook und führen Sie ein Rezept aus.

Um Umgebungen, Codequellen, Rechenleistungen und andere Workload-Einstellungen zu konfigurieren, siehe Workload YAML Referenz.

Inspizieren Sie einen Lauf

Die CLI druckt die Job-Run-ID aus, wenn du den Workload einreichst. Nutze es, um den Lauf zu inspizieren:

databricks air get <job-run-id>

databricks air get zeigt den Laufstatus, die Konfiguration und das Timing. Er verknüpft außerdem mit dem Job-Run und, wenn verfügbar, mit dem MLflow-Run.

Um Logs nach der Abgabe zu streamen oder einen unterbrochenen Stream fortzusetzen, führen Sie aus:

databricks air logs <job-run-id>

Die CLI bietet außerdem Befehle zum Auflisten und Untersuchen von Ausführungen sowie zum Streamen von Logs und zum Abbrechen aktiver Ausführungen. Siehe die air Befehlsreferenz.

Reference

Weitere Ressourcen

  • Zuletzt aktualisiert um