AI Runtime Notebook snabbstart

Important

Den här funktionen finns som allmänt tillgänglig förhandsversion.

Använd AI Runtime för att gå från en tom notebook till PyTorch på ett grafikkort med några klick. Koppla en bärbar dator till ett serverlöst grafikkort utan kluster att ställa upp, och få GPU-övervakning, en terminal på GPU-noden och Genie Code inbygget.

En AI Runtime-notebook ansluten till serverless GPU, med anrop för att välja GPU-typ, konfigurera miljön, övervaka användning, använda agenten för kodning och öppna en terminal.

Requirements

Din arbetsplats måste ha AI Runtime aktiverad och vara i en stödd region. Se Krav.

Steg 1: Koppla en bärbar dator till ett grafikkort

  1. Skapa eller öppna en notebook-fil.
  2. I listrutan Beräkning högst upp i Notebooken väljer du Serverless GPU.
  3. I fältet Accelerator väljer du 1xA10.
  4. Klicka på Ansök och sedan bekräfta.

Tip

Börja med 1xA10 för utveckling och små arbetsbelastningar. Gå över till 1xH100 eller 8xH100 när du behöver mer GPU-minne eller multi-GPU distribuerad träning. Se hårdvarualternativ.

Steg 2: Kör din första GPU-kod

Standardmiljön Databricks AI levereras med PyTorch, Transformers, vLLM, pandas och många fler paket förinstallerade. För hela listan, se Databricks AI-miljö.

Kör följande notebook för att bekräfta att GPU:n är ansluten och kör ett träningssteg:

AI Runtime snabbstartsguide för anteckningsbok

Hämta anteckningsbok

Du tränar nu på serverlös GPU-beräkning.

Utforska GPU-notebooken

Anteckningsboken levereras med verktyg som hjälper dig att arbeta med GPU:n. Du kan byta basmiljö, övervaka GPU-användning, öppna en terminal på GPU-noden och använda Genie Code för att skriva och felsöka din kod.

Växla miljöer

Klicka på Miljö i höger panel för att välja en annan basmiljö eller accelerator. Se Konfigurera din miljö.

Miljösidopanelen med rullgardinsmenyn Basismiljö öppen, som visar Standard- och AI-miljöversioner.

Se GPU-användningen

Klicka på GPU-resurser i högra panelen för att se realtidsanvändning och minne medan din kod körs. Se Övervaka GPU-resurser.

GPU-resurspanelen visar diagram över GPU-användning och minnesanvändning över tid.

Öppna en terminal på GPU-noden

Klicka på Terminal nere till höger för att få ett skal på GPU-noden. Kör nvidia-smi, inspektera filer eller felsök processer direkt. Se Kör shell-kommandon i Azure Databricks webbterminal.

En webbterminal som kör nvidia-smi på en H100 GPU-nod.

Låt Genie Code skriva och felsöka åt dig

Klicka på Genie Code i den högra panelen och beskriv vad du vill ha. Agenten kan skriva träningskod, åtgärda beroendekonflikter och felsöka GPU-fel. Se Använd Genie-kod med AI Runtime.

Genie-kodpanelen med en prompt som ber agenten lösa en konflikt i Torchao-biblioteket.

Nästa steg

  • Uppdaterades senast