AI Runtime-omgeving versie 6

Deze pagina geeft een overzicht van de systeemomgeving en geïnstalleerde bibliotheken voor AI Runtime (serverless GPU compute) omgeving versie 6.

AI Runtime omgeving 6 is gebouwd bovenop serverless omgeving 6 (CPU). Bekijk wat er nieuw is in serverless environment 6 (CPU). Het bevat de volgende omgeving:

• Standaardomgeving: een minimale omgeving met een stabiele client-API.
• Databricks AI-omgeving: een omgeving met algemene runtimepakketten en -pakketten die specifiek zijn voor machine learning op GPU's.

Om compatibiliteit voor de applicatie te waarborgen, gebruiken AI Runtime-workloads een geversioneerde API, bekend als de omgevingsversie, die compatibel blijft met nieuwere serverversies.

U kunt een basisomgeving selecteren die deze omgevingsversie bevat met behulp van het deelvenster Omgeving in uw serverloze notebooks. Zie Connect to a notebook.

Nieuwe functies en verbeteringen

In versie 6 worden de CUDA-bibliotheken geüpgraded naar NVIDIA CUDA 13, en worden de bijbehorende afhankelijkheden aangepast om te matchen, waaronder MLflow en de Serverless GPU Python API. De gangbare machine learning- en AI-bibliotheken in de Databricks AI-omgeving zijn bijgewerkt voor compatibiliteit met de nieuwe CUDA-versie, samen met de toevoeging van verschillende nieuw populaire bibliotheken.

CUDA 13 en PyTorch 2.11

Databricks AI-omgeving

Versie 6 upgrade de Databricks AI-omgeving naar de NVIDIA CUDA 13 toolkit en runtime stack. PyTorch is bijgewerkt naar torch 2.11.0 (gebouwd voor CUDA 13.0, +cu130) met torchvision 0.26.0, en de meegeleverde NVIDIA-bibliotheken (cuBLAS, cuDNN, NCCL, cuFFT, cuSPARSE en gerelateerde runtime-componenten) worden geüpgraded naar hun CUDA 13-builds.

Bijgewerkte deep learning- en LLM-bibliotheken

Databricks AI-omgeving

Belangrijke machine learning-bibliotheken worden geüpgraded in de Databricks AI-omgeving, waaronder:

• transformers 5.8.1
• vllm 0.24.0
• ray 2.56.0
• langchain 1.3.11
• sentence-transformers 5.5.1
• openai 2.37.0
• scikit-learn 1.7.2
• scipy 1.16.3
• trl 0.24.0

Databricks AI Runtime SDK

De Databricks AI Runtime SDK (databricks-sdk-air) 0.1.1 is opgenomen in deze omgeving. Het vervangt de verouderde Serverless GPU Python API (serverless_gpu 0.5.27), die nog steeds in versie 6 is opgenomen. Voor wijzigingen in de Serverless GPU Python API vóór omgevingsversie 6, zie de release notes van versie 5.

13 oktober 2026

serverless_gpu is verouderd

Het serverless_gpu pakket krijgt geen nieuwe functies meer. Vanaf versie 6 vervangt de Databricks AI Runtime SDK (databricks-sdk-air) deze en biedt equivalente API's, met hernoemde argumenten, onder de databricks.air naamruimte. Versie 6 bevat beide pakketten, maar alleen de AI Runtime SDK ontvangt updates. Versie 6 is de laatste versie die serverless_gpu bevat. Versies 5 en eerder zijn ongewijzigd en bevatten alleen serverless_gpu. Zie Migreren van serverless_gpu.

Laatst bijgewerkt: 14 september 2026

Serverless GPU Python API opgewaardeerd naar 0.5.25

De Serverless GPU Python API 0.5.25 bevat de volgende API-updates:

• Nieuwe functies:
  • Lokale uitvoeringen met @distributed en @ray_launch leggen nu de effectieve wall-clocklimiet timeout vast (de standaardlimiet van 3 uur) wanneer de decorator wordt gebruikt, zodat de limiet al meteen zichtbaar is. Stel het in timeout=<seconds> om het te wijzigen of timeout=None uit te schakelen.

Pakketten die zijn toegevoegd aan de AI-omgeving van Databricks

De volgende opmerkelijke pakketten zijn toegevoegd aan de Databricks AI-omgeving in versie 6:

• langgraph 1.2.8 (met langgraph-checkpoint, langgraph-prebuilt, en langgraph-sdk)
• langchain-classic 1.0.8
• lightning 2.5.5
• polars 1.42.1
• ultralytics 8.4.90
• flash_attn_3 3.0.0 en flash-attn-4 4.0.0b18
• flashinfer-cubin 0.6.12
• liger_kernel 0.8.1
• fastsafetensors 0.3.2
• tilelang 0.1.9
• xgboost-cu13 3.2.0 (CUDA 13-build, ter vervanging van xgboost)
• tabfm 1.0.1

Daarnaast zijn de CUDA 13-toolkit en runtime-bibliotheken (bijvoorbeeld cuda-toolkit 13.0.2, nvidia-cudnn-cu13, , nvidia-nccl-cu13en gerelateerde nvidia-* pakketten) toegevoegd als onderdeel van de CUDA 13-upgrade.

Pakketten die zijn verwijderd uit de AI-omgeving van Databricks

De volgende opmerkelijke pakketten zijn verwijderd uit de Databricks AI-omgeving in versie 6:

• unsloth (en unsloth_zoo)
• xformers
• diffusers
• bitsandbytes
• torchao
• litellm
• langchain-openai
• cupy-cuda12x
• mosaicml-streaming
• gguf
• seaborn
• xgboost (vervangen door xgboost-cu13) en xgboost-ray

De CUDA 12 runtime-bibliotheken (de nvidia-*-cu12 pakketten) worden verwijderd als onderdeel van de CUDA 13-upgrade. De JupyterLab- en notebook-ontwikkelingsstack (bijvoorbeeld jupyterlab, notebook, nbconvert, , nbclient) nbformaten de Python LSP-ontwikkeltools (python-lsp-server, python-lsp-jsonrpc, rope, ) yapfzijn ook niet langer gebundeld in de Databricks AI-omgeving.

Pakketten die niet zijn opgenomen in de basisomgeving

De volgende pakketten zijn niet opgenomen in de basisomgeving, maar blijven beschikbaar in de Ai-omgeving van Databricks:

• flash_attn
• torch
• torchvision
• scikit-learn
• scipy

Op basis van klantfeedback die om controle over PyTorch-versiebeheer vraagt, torch is het niet opgenomen in de basisomgeving voor versie 6. Hiermee kunt u de versie installeren die het beste bij uw workload past. Als u een door Databricks geteste versie wilt gebruiken, voert u deze uit %pip install torch==2.11.0 in een notebookcel of installeert u torch==2.11.0 deze met behulp van de sectie Afhankelijkheden van het deelvenster Omgeving .

Systeemomgeving

• Besturingssysteem: Ubuntu 24.04 LTS
• Python: 3.12.3
• Databricks Connect: 19.0.0
• NVIDIA CUDA Toolkit: 13.0

Geïnstalleerde Python-bibliotheken

Standaardomgeving

Om AI Runtime omgeving 6 te reproduceren in je lokale Python virtuele omgeving, download je het requirements-env-gpu-6.txt bestand en voer pip install -r requirements-env-gpu-6.txt uit. Dit commando installeert alle bibliotheken vanuit serverless omgeving 6.

AI-omgeving

De AI-omgeving bevat alle pakketten uit de Standard-omgeving, evenals de volgende pakketten. Deze omgeving omvat PyTorch en uitgebreide machine learning-bibliotheken:

• torch 2.11.0
• torchvision 0.26.0
• flash_attn 2.8.3
• catboost 1.2.10
• langchain 1.3.11
• langgraph 1.2.8
• lightgbm 4.6.0
• lightning 2.5.5
• openai 2.37.0
• optuna 4.5.0
• polars 1.42.1
• pytorch-lightning 2.5.4
• ray 2.56.0
• scikit-learn 1.7.2
• scipy 1.16.3
• sentence-transformers 5.5.1
• transformers 5.8.1
• trl 0.24.0
• ultralytics 8.4.90
• vllm 0.24.0
• xgboost-cu13 3.2.0

Om de AI-omgeving V6 in je lokale virtuele Python-omgeving te reproduceren, download je het bestand requirements-ai-gpu-6.txt en voer je pip install -r requirements-ai-gpu-6.txt uit. Met deze opdracht worden alle bibliotheken uit de AI-omgeving geïnstalleerd.