Remarque
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de vous connecter ou de modifier des répertoires.
L’accès à cette page nécessite une autorisation. Vous pouvez essayer de modifier des répertoires.
Important
Cette fonctionnalité est disponible en préversion publique.
Note
Cette page présente Ray dans AI Runtime. Si vous utilisez Ray sur Databricks Classic Compute avec Databricks Runtime ML, voyez Ray sur Databricks.
Ray est un framework open source permettant de faire passer à l’échelle des charges de travail Python. Vous pouvez créer des clusters Ray et exécuter des applications Ray en temps d’exécution IA, en utilisant un calcul GPU serverless qui gère automatiquement le provisionnement de l’infrastructure.
La CLI d’exécution IA prend en charge Ray en configurations à nœud unique et multinœud. Incluez un script d’amorçage sous le command de la charge de travail ; il démarre le cluster Ray et coordonne les nœuds principaux et Worker au lancement de la charge de travail. Les exemples de Ray, Hello World , suivent ce schéma.
AI Runtime prend en charge les bibliothèques principales de Ray, y compris Ray Core, Ray Data, Ray Train et Ray Tune. Installez la bibliothèque ray ou l’extension Ray appropriée (ray[data], ray[train], ray[tune]) en tant que dépendance de votre charge de travail dans l’environnement Databricks standard. Si vous utilisez l’environnement IA Databricks, ray il est préinstallé mais les extras doivent être installés séparément.
Examples
| Exemple | Description |
|---|---|
| Exemples de Ray hello world (CLI) | Exemples minimaux à un seul nœud et à plusieurs nœuds pour Ray Core, Ray Train, Ray Data et Ray Tune, y compris le modèle d’amorçage du cluster. |
| Formation distribuée avec Ray Train (CLI) | Ajustez finement un grand modèle de langage sur plusieurs nœuds en utilisant Ray Train et PyTorch. |
| Inférence par lots avec Ray Data et vLLM (CLI) | Exécutez une inférence batch à grande échelle en utilisant Ray Data pour le chargement distribué des données et vLLM pour un service efficace des modèles. |
| Recherche d’hyperparamètres avec Ray Tune (CLI) | Recherchez les hyperparamètres de réglage fin LoRA pour Qwen2.5 avec Ray Tune, en exécutant un essai par GPU et en arrêtant tôt les essais moins performants à l’aide du planificateur ASHA. |