Déployer des modèles à l’aide de Azure CLI et de Bicep

• Nom du modèle, fournisseur, version et référence SKU que vous souhaitez déployer. Utilisez le portail Foundry ou le Azure CLI pour trouver ces informations. Dans cet exemple, vous déployez le modèle suivant :

  • Nom du modèle : Phi-4-mini-instruct
  • Provider : Microsoft
  • Version : 1
  • Type de déploiement : Standard global

Ajouter le modèle

Pour ajouter un modèle, identifiez d’abord le modèle que vous souhaitez déployer. Interrogez les modèles disponibles comme suit :

1. Connectez-vous à votre abonnement Azure.

   az login
   

2. Si vous avez plusieurs abonnements, sélectionnez l’abonnement où se trouve votre ressource.

   subscriptionId="<subscription-id>"
   az account set --subscription $subscriptionId
   

3. Définissez les variables d’environnement suivantes avec le nom de la ressource Foundry que vous envisagez d’utiliser et de groupe de ressources.

   accountName="<ai-services-resource-name>"
   resourceGroupName="<resource-group>"
   location="eastus2"
   

4. Si vous n’avez pas encore créé de ressource Foundry, créez-en une.

   az cognitiveservices account create -n $accountName -g $resourceGroupName --custom-domain $accountName --location $location --kind AIServices --sku S0
   

   Référence : az cognitiveservices account

5. Vérifiez quels modèles sont disponibles et sous quelle référence SKU. Chaque type de déploiement est représenté par un code de référence SKU dans l’interface CLI et ARM, et définit comment Azure’infrastructure traite les requêtes. Les modèles peuvent offrir différents types de déploiement. La commande suivante répertorie toutes les définitions de modèle disponibles :

   az cognitiveservices account list-models \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.[] | { name: .name, format: .format, version: .version, sku: .skus[0].name, capacity: .skus[0].capacity.default }'
   

   La sortie inclut des modèles disponibles avec leurs propriétés :

   {
     "name": "Phi-4-mini-instruct",
     "format": "Microsoft",
     "version": "1",
     "sku": "GlobalStandard",
     "capacity": 1000
   }
   

   Référence : az cognitiveservices account list-models

6. Identifiez le modèle que vous souhaitez déployer. Vous avez besoin des propriétés name, format, versionet sku. La propriété format indique le fournisseur offrant le modèle. Selon le type de déploiement, vous pouvez également avoir besoin de capacité.

7. Ajoutez le déploiement du modèle à la ressource. L’exemple suivant ajoute Phi-4-mini-instruct:

   az cognitiveservices account deployment create \
       -n $accountName \
       -g $resourceGroupName \
       --deployment-name Phi-4-mini-instruct \
       --model-name Phi-4-mini-instruct \
       --model-version 1 \
       --model-format Microsoft \
       --sku-capacity 1 \
       --sku-name GlobalStandard
   

   Référence : déploiement de compte az cognitiveservices

8. Vérifiez que le déploiement s’est terminé correctement :

   az cognitiveservices account deployment show \
       --deployment-name Phi-4-mini-instruct \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.properties.provisioningState'
   

   La sortie doit s’afficher "Succeeded". Le modèle est prêt à être utilisé une fois l’approvisionnement terminé.

   Référence : az cognitiveservices account deployment show

Vous pouvez déployer le même modèle plusieurs fois si nécessaire tant que vous lui donnez un autre nom de déploiement. Cette fonctionnalité est utile si vous souhaitez tester différentes configurations pour un modèle donné, y compris les filtres de contenu.

Ajouter le modèle

1. Utilisez le modèle ai-services-deployment-template.bicep pour décrire les déploiements de modèles :

   ai-services-deployment-template.bicep

   @description('Name of the Azure AI services account')
   param accountName string
   
   @description('Name of the model to deploy')
   param modelName string
   
   @description('Version of the model to deploy')
   param modelVersion string
   
   @allowed([
     'AI21 Labs'
     'Cohere'
     'Core42'
     'DeepSeek'
     'xAI'
     'Meta'
     'Microsoft'
     'Mistral AI'
     'OpenAI'
   ])
   @description('Model provider')
   param modelPublisherFormat string
   
   @allowed([
       'GlobalStandard'
       'DataZoneStandard'
       'Standard'
       'GlobalProvisioned'
       'Provisioned'
   ])
   @description('Model deployment SKU name')
   param skuName string = 'GlobalStandard'
   
   @description('Content filter policy name')
   param contentFilterPolicyName string = 'Microsoft.DefaultV2'
   
   @description('Model deployment capacity')
   param capacity int = 1
   
   resource modelDeployment 'Microsoft.CognitiveServices/accounts/deployments@2024-04-01-preview' = {
     name: '${accountName}/${modelName}'
     sku: {
       name: skuName
       capacity: capacity
     }
     properties: {
       model: {
         format: modelPublisherFormat
         name: modelName
         version: modelVersion
       }
       raiPolicyName: contentFilterPolicyName == null ? 'Microsoft.Nill' : contentFilterPolicyName
     }
   }
   

2. Exécutez le déploiement :

   resourceGroupName="<resource-group-name>"
   accountName="<ai-services-resource-name>"
   modelName="Phi-4-mini-instruct"
   provider="Microsoft"
   version=1
   
   az deployment group create \
       --resource-group $resourceGroupName \
       --template-file ai-services-deployment-template.bicep \
       --parameters accountName=$accountName modelName=$modelName modelVersion=$version modelPublisherFormat=$provider
   

3. Vérifiez que le déploiement s’est terminé correctement :

   az cognitiveservices account deployment show \
       --deployment-name $modelName \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.properties.provisioningState'
   

   La sortie doit s’afficher "Succeeded".