Ambiente di runtime AI versione 6

Questa pagina elenca l'ambiente di sistema e le librerie installate per l'ambiente AI Runtime (computazione GPU serverless) versione 6.

AI Runtime environment 6 è costruito sopra serverless environment 6 (CPU). Scopri cosa c'è di nuovo nell'ambiente serverless 6 (CPU). Include l'ambiente seguente:

• Ambiente standard: ambiente minimo con API client stabili.
• Ambiente di intelligenza artificiale di Databricks: un ambiente con pacchetti Common Runtime e pacchetti specifici per il machine learning su GPU.

Per garantire la compatibilità con l'applicazione, i carichi di lavoro AI Runtime utilizzano un'API versionata, nota come versione dell'ambiente, che rimane compatibile con le versioni server più recenti.

È possibile selezionare un ambiente di base che include questa versione dell'ambiente usando il pannello laterale Ambiente nei notebook serverless. Vedi Collega a un quaderno.

Nuove funzionalità e miglioramenti

Nella versione 6, le librerie CUDA vengono aggiornate a NVIDIA CUDA 13 e le dipendenze associate vengono aggiornate per corrispondere, inclusi MLflow e l'API Python per GPU senza server. Le librerie comuni di machine learning e AI nell'ambiente di Databricks AI sono state aggiornate per la compatibilità con la nuova versione CUDA, insieme all'aggiunta di diverse librerie di nuova popolarità.

CUDA 13 e PyTorch 2.11

Ambiente di IA Databricks

La versione 6 aggiorna l'ambiente di Databricks AI al toolkit NVIDIA CUDA 13 e allo stack runtime. PyTorch è stato aggiornato a torch 2.11.0 (costruito per CUDA 13.0, +cu130) con torchvision 0.26.0, e le librerie NVIDIA incluse (cuBLAS, cuDNN, NCCL, cuFFT, cuSPARSE e i componenti runtime correlati) vengono aggiornate alle loro versioni CUDA 13.

Aggiornamento delle librerie di deep learning e LLM

Ambiente di IA Databricks

Le principali librerie di machine learning vengono aggiornate nell'ambiente di IA Databricks, tra cui:

• transformers 5.8.1
• vllm 0.24.0
• ray 2.56.0
• langchain 1.3.11
• sentence-transformers 5.5.1
• openai 2.37.0
• scikit-learn 1.7.2
• scipy 1.16.3
• trl 0.24.0

SDK di runtime IA Databricks

L'SDK di Databricks AI Runtime (databricks-sdk-air) 0.1.1 è incluso in questo ambiente. Sostituisce la API Python GPU serverless deprecata (serverless_gpu 0.5.27), che la versione 6 include ancora. Per le modifiche all'API Python della GPU serverless prima della versione 6 dell'ambiente, consulta le note di rilascio della versione 5.

13 ottobre 2026

serverless_gpu è obsoleto

Il serverless_gpu pacchetto non riceve più nuove funzionalità. A partire dalla versione 6, l'SDK di runtime di Databricks AI (databricks-sdk-air) lo sostituisce e fornisce API equivalenti, con argomenti rinominati, sotto lo databricks.air spazio di nomi. La versione 6 include entrambi i pacchetti, ma solo l'AI Runtime SDK riceve aggiornamenti. La versione 6 è l'ultima che include serverless_gpu. Le versioni 5 e inferiori sono invariate e includono solo serverless_gpu. Vedi Migrazione da serverless_gpu.

14 settembre 2026

API Python per GPU serverless aggiornata a 0.5.25

L'API Python 0.5.25 per GPU serverless include i seguenti aggiornamenti API:

• Nuove funzionalità:
  • Il locale si avvia con @distributed e @ray_launch ora registra l'orologio timeout a muro effettivo (il limite predefinito di 3 ore) quando si applica il decoratore, così il limite è visibile in anticipo. Imposta timeout=<seconds> per cambiarlo o timeout=None per disattivarlo.

Pacchetti aggiunti all'ambiente di intelligenza artificiale di Databricks

I seguenti pacchetti di rilievo sono stati aggiunti all'ambiente di Databricks AI nella versione 6:

• langgraph 1.2.8 (con langgraph-checkpoint, langgraph-prebuilt, e langgraph-sdk)
• langchain-classic 1.0.8
• lightning 2.5.5
• polars 1.42.1
• ultralytics 8.4.90
• flash_attn_3 3.0.0 e flash-attn-4 4.0.0b18
• flashinfer-cubin 0.6.12
• liger_kernel 0.8.1
• fastsafetensors 0.3.2
• tilelang 0.1.9
• xgboost-cu13 3.2.0 (Costruzione CUDA 13, sostituzione xgboost)
• tabfm 1.0.1

Inoltre, il toolkit CUDA 13 e le librerie runtime (ad esempio, cuda-toolkit 13.0.2, nvidia-cudnn-cu13, nvidia-nccl-cu13, e pacchetti correlati nvidia-* ) sono stati aggiunti come parte dell'aggiornamento CUDA 13.

Pacchetti rimossi dall'ambiente di intelligenza artificiale di Databricks

I seguenti pacchetti di rilievo sono stati rimossi dall'ambiente di IA Databricks nella versione 6:

• unsloth (e unsloth_zoo)
• xformers
• diffusers
• bitsandbytes
• torchao
• litellm
• langchain-openai
• cupy-cuda12x
• mosaicml-streaming
• gguf
• seaborn
• xgboost (sostituito da xgboost-cu13) e xgboost-ray

Le librerie runtime CUDA 12 (i nvidia-*-cu12 pacchetti) sono state rimosse come parte dell'aggiornamento CUDA 13. Anche lo stack di sviluppo di JupyterLab e notebook (ad esempio, python-lsp-server, python-lsp-jsonrpc, rope, yapf, nbformat) e gli strumenti di sviluppo Python LSP (nbclient, nbconvert, notebook, jupyterlab) non sono più inclusi nell'ambiente Databricks AI.

Pacchetti non inclusi nell'ambiente di base

I pacchetti seguenti non sono inclusi nell'ambiente di base, ma rimangono disponibili nell'ambiente di intelligenza artificiale di Databricks:

• flash_attn
• torch
• torchvision
• scikit-learn
• scipy

Sulla base del feedback dei clienti che richiedeva il controllo sulla versione di PyTorch, torch non è incluso nell'ambiente base per la versione 6. In questo modo è possibile installare la versione più adatta al carico di lavoro. Per usare una versione testata da Databricks, eseguire %pip install torch==2.11.0 in una cella del notebook o installare torch==2.11.0 usando la sezione Dipendenze del pannello laterale Ambiente .

Ambiente di sistema

• Sistema operativo: Ubuntu 24.04 LTS
• Python: 3.12.3
• Databricks Connect: 19.0.0
• NVIDIA CUDA Toolkit: 13.0

Python installate librerie

Ambiente standard

Per riprodurre l'ambiente AI Runtime 6 nel tuo ambiente virtuale Python locale, scarica il filerequirements-env-gpu-6.txt ed esegui pip install -r requirements-env-gpu-6.txt. Questo comando installa tutte le librerie dall'ambiente serverless 6.

Ambiente di intelligenza artificiale

L'ambiente di intelligenza artificiale include tutti i pacchetti dell'ambiente Standard, nonché i pacchetti seguenti. Questo ambiente include PyTorch e librerie complete di Machine Learning:

• torch 2.11.0
• torchvision 0.26.0
• flash_attn 2.8.3
• catboost 1.2.10
• langchain 1.3.11
• langgraph 1.2.8
• lightgbm 4.6.0
• lightning 2.5.5
• openai 2.37.0
• optuna 4.5.0
• polars 1.42.1
• pytorch-lightning 2.5.4
• ray 2.56.0
• scikit-learn 1.7.2
• scipy 1.16.3
• sentence-transformers 5.5.1
• transformers 5.8.1
• trl 0.24.0
• ultralytics 8.4.90
• vllm 0.24.0
• xgboost-cu13 3.2.0

Per riprodurre l'ambiente AI V6 nel tuo ambiente virtuale Python locale, scarica il filerequirements-ai-gpu-6.txt ed esegui pip install -r requirements-ai-gpu-6.txt. Questo comando installa tutte le librerie dall'ambiente di intelligenza artificiale.