Implantar modelos usando CLI do Azure e Bicep

• O nome do modelo, o provedor, a versão e a SKU que você deseja implantar. Use o portal do Foundry ou o CLI do Azure para encontrar essas informações. Neste exemplo, você implanta o seguinte modelo:

  • Nome do modelo: Phi-4-mini-instruct
  • Provedor: Microsoft
  • Versão: 1
  • Tipo de implantação: padrão global

Adicionar o modelo

Para adicionar um modelo, primeiro identifique o modelo que você deseja implantar. Consulte os modelos disponíveis da seguinte maneira:

1. Entre em sua assinatura Azure.

   az login
   

2. Se você tiver mais de uma assinatura, selecione a assinatura em que o recurso está localizado.

   subscriptionId="<subscription-id>"
   az account set --subscription $subscriptionId
   

3. Defina as variáveis de ambiente a seguir com o nome do recurso Foundry que você planeja usar e o grupo de recursos.

   accountName="<ai-services-resource-name>"
   resourceGroupName="<resource-group>"
   location="eastus2"
   

4. Se você ainda não criou um recurso do Foundry, crie um.

   az cognitiveservices account create -n $accountName -g $resourceGroupName --custom-domain $accountName --location $location --kind AIServices --sku S0
   

   Referência: az cognitiveservices account

5. Verifique quais modelos estão disponíveis para você e em qual SKU. Cada tipo de implantação é representado por um código SKU na CLI e no ARM, e define como a infraestrutura do Azure processa solicitações. Os modelos podem oferecer diferentes tipos de implantação. O comando a seguir lista todas as definições de modelo disponíveis:

   az cognitiveservices account list-models \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.[] | { name: .name, format: .format, version: .version, sku: .skus[0].name, capacity: .skus[0].capacity.default }'
   

   A saída inclui modelos disponíveis com suas propriedades:

   {
     "name": "Phi-4-mini-instruct",
     "format": "Microsoft",
     "version": "1",
     "sku": "GlobalStandard",
     "capacity": 1000
   }
   

   Referência: az cognitiveservices account list-models

6. Identifique o modelo que você deseja implantar. Você precisa das propriedades name, formate versionsku. A propriedade format indica o provedor que oferece o modelo. Dependendo do tipo de implantação, você também pode precisar de capacidade.

7. Adicione a implantação de modelo ao recurso. O exemplo a seguir adiciona Phi-4-mini-instruct:

   az cognitiveservices account deployment create \
       -n $accountName \
       -g $resourceGroupName \
       --deployment-name Phi-4-mini-instruct \
       --model-name Phi-4-mini-instruct \
       --model-version 1 \
       --model-format Microsoft \
       --sku-capacity 1 \
       --sku-name GlobalStandard
   

   Referência: az cognitiveservices account deployment

8. Verifique se a implantação foi concluída com êxito:

   az cognitiveservices account deployment show \
       --deployment-name Phi-4-mini-instruct \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.properties.provisioningState'
   

   A saída deve ser exibida "Succeeded". O modelo está pronto para ser usado após a conclusão do provisionamento.

   Referência: az cognitiveservices account deployment show

Você pode implantar o mesmo modelo várias vezes, se necessário, desde que dê a ele um nome de implantação diferente. Essa funcionalidade será útil se você quiser testar configurações diferentes para um determinado modelo, incluindo filtros de conteúdo.

Adicionar o modelo

1. Use o modelo ai-services-deployment-template.bicep para descrever implantações de modelo:

   ai-services-deployment-template.bicep

   @description('Name of the Azure AI services account')
   param accountName string
   
   @description('Name of the model to deploy')
   param modelName string
   
   @description('Version of the model to deploy')
   param modelVersion string
   
   @allowed([
     'AI21 Labs'
     'Cohere'
     'Core42'
     'DeepSeek'
     'xAI'
     'Meta'
     'Microsoft'
     'Mistral AI'
     'OpenAI'
   ])
   @description('Model provider')
   param modelPublisherFormat string
   
   @allowed([
       'GlobalStandard'
       'DataZoneStandard'
       'Standard'
       'GlobalProvisioned'
       'Provisioned'
   ])
   @description('Model deployment SKU name')
   param skuName string = 'GlobalStandard'
   
   @description('Content filter policy name')
   param contentFilterPolicyName string = 'Microsoft.DefaultV2'
   
   @description('Model deployment capacity')
   param capacity int = 1
   
   resource modelDeployment 'Microsoft.CognitiveServices/accounts/deployments@2024-04-01-preview' = {
     name: '${accountName}/${modelName}'
     sku: {
       name: skuName
       capacity: capacity
     }
     properties: {
       model: {
         format: modelPublisherFormat
         name: modelName
         version: modelVersion
       }
       raiPolicyName: contentFilterPolicyName == null ? 'Microsoft.Nill' : contentFilterPolicyName
     }
   }
   

2. Execute a implantação:

   resourceGroupName="<resource-group-name>"
   accountName="<ai-services-resource-name>"
   modelName="Phi-4-mini-instruct"
   provider="Microsoft"
   version=1
   
   az deployment group create \
       --resource-group $resourceGroupName \
       --template-file ai-services-deployment-template.bicep \
       --parameters accountName=$accountName modelName=$modelName modelVersion=$version modelPublisherFormat=$provider
   

3. Verifique se a implantação foi concluída com êxito:

   az cognitiveservices account deployment show \
       --deployment-name $modelName \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.properties.provisioningState'
   

   A saída deve ser exibida "Succeeded".