Implementar modelos usando CLI do Azure e Bicep

• O nome do modelo, fornecedor, versão e SKU que queres implementar. Utilize o portal Foundry ou a CLI do Azure para encontrar esta informação. Neste exemplo, implementa o seguinte modelo:

  • Nome do modelo: Phi-4-mini-instruct
  • Fornecedor: Microsoft
  • Versão: 1
  • Tipo de implantação: Padrão global

Adicionar o modelo

Para adicionar um modelo, identifique primeiro o modelo que pretende implementar. Consulte os modelos disponíveis da seguinte forma:

1. Inicie sessão na sua subscrição do Azure.

   az login
   

2. Se tiver mais do que uma subscrição, selecione a subscrição onde o seu recurso está localizado.

   subscriptionId="<subscription-id>"
   az account set --subscription $subscriptionId
   

3. Defina as seguintes variáveis de ambiente com o nome do recurso Foundry que pretende usar e o grupo de recursos.

   accountName="<ai-services-resource-name>"
   resourceGroupName="<resource-group>"
   location="eastus2"
   

4. Se ainda não criaste um recurso Foundry, cria um.

   az cognitiveservices account create -n $accountName -g $resourceGroupName --custom-domain $accountName --location $location --kind AIServices --sku S0
   

   Referência: az cognitiveservices account

5. Verifique quais os modelos disponíveis para si e sob que SKU. Cada tipo de implementação é representado por um código SKU na CLI e ARM, e define como a infraestrutura do Azure processa os pedidos. Os modelos podem oferecer diferentes tipos de implementação. O comando seguinte lista todas as definições de modelos disponíveis:

   az cognitiveservices account list-models \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.[] | { name: .name, format: .format, version: .version, sku: .skus[0].name, capacity: .skus[0].capacity.default }'
   

   A saída inclui modelos disponíveis com as suas propriedades:

   {
     "name": "Phi-4-mini-instruct",
     "format": "Microsoft",
     "version": "1",
     "sku": "GlobalStandard",
     "capacity": 1000
   }
   

   Referência: az cognitiveservices account list-models

6. Identifica o modelo que queres implementar. Precisa das propriedades name, format, version, e sku. A propriedade format indica o fornecedor que oferece o modelo. Dependendo do tipo de implantação, também podes precisar de capacidade.

7. Adicione a implementação do modelo ao recurso. O exemplo seguinte acrescenta Phi-4-mini-instruct:

   az cognitiveservices account deployment create \
       -n $accountName \
       -g $resourceGroupName \
       --deployment-name Phi-4-mini-instruct \
       --model-name Phi-4-mini-instruct \
       --model-version 1 \
       --model-format Microsoft \
       --sku-capacity 1 \
       --sku-name GlobalStandard
   

   Referência: implementação da conta az cognitiveservices

8. Verifique se a implementação foi concluída com sucesso:

   az cognitiveservices account deployment show \
       --deployment-name Phi-4-mini-instruct \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.properties.provisioningState'
   

   A saída deve mostrar "Succeeded". O modelo está pronto a ser utilizado após a conclusão do provisionamento.

   Referência: az cognitiveservices account deployment show

Podes implementar o mesmo modelo várias vezes, se necessário, desde que lhe dês um nome de implementação diferente. Esta funcionalidade é útil se quiser testar diferentes configurações para um determinado modelo, incluindo filtros de conteúdo.

Adicionar o modelo

1. Use o modelo ai-services-deployment-template.bicep para descrever as implementações do modelo:

   ai-services-deployment-template.bicep

   @description('Name of the Azure AI services account')
   param accountName string
   
   @description('Name of the model to deploy')
   param modelName string
   
   @description('Version of the model to deploy')
   param modelVersion string
   
   @allowed([
     'AI21 Labs'
     'Cohere'
     'Core42'
     'DeepSeek'
     'xAI'
     'Meta'
     'Microsoft'
     'Mistral AI'
     'OpenAI'
   ])
   @description('Model provider')
   param modelPublisherFormat string
   
   @allowed([
       'GlobalStandard'
       'DataZoneStandard'
       'Standard'
       'GlobalProvisioned'
       'Provisioned'
   ])
   @description('Model deployment SKU name')
   param skuName string = 'GlobalStandard'
   
   @description('Content filter policy name')
   param contentFilterPolicyName string = 'Microsoft.DefaultV2'
   
   @description('Model deployment capacity')
   param capacity int = 1
   
   resource modelDeployment 'Microsoft.CognitiveServices/accounts/deployments@2024-04-01-preview' = {
     name: '${accountName}/${modelName}'
     sku: {
       name: skuName
       capacity: capacity
     }
     properties: {
       model: {
         format: modelPublisherFormat
         name: modelName
         version: modelVersion
       }
       raiPolicyName: contentFilterPolicyName == null ? 'Microsoft.Nill' : contentFilterPolicyName
     }
   }
   

2. Efetuar a implementação:

   resourceGroupName="<resource-group-name>"
   accountName="<ai-services-resource-name>"
   modelName="Phi-4-mini-instruct"
   provider="Microsoft"
   version=1
   
   az deployment group create \
       --resource-group $resourceGroupName \
       --template-file ai-services-deployment-template.bicep \
       --parameters accountName=$accountName modelName=$modelName modelVersion=$version modelPublisherFormat=$provider
   

3. Verifique se a implementação foi concluída com sucesso:

   az cognitiveservices account deployment show \
       --deployment-name $modelName \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.properties.provisioningState'
   

   A saída deve mostrar "Succeeded".