Modellen implementeren met behulp van Azure CLI en Bicep

• De modelnaam, provider, versie en SKU die u wilt implementeren. Gebruik de Foundry-portal of de Azure CLI om deze informatie te vinden. In dit voorbeeld implementeert u het volgende model:

  • Modelnaam: Phi-4-mini-instruct
  • Provider: Microsoft
  • Versie: 1
  • Implementatietype: Algemene standaard

Het model toevoegen

Als u een model wilt toevoegen, moet u eerst het model identificeren dat u wilt implementeren. Voer als volgt een query uit op de beschikbare modellen:

1. Meld u aan bij uw Azure-abonnement.

   az login
   

2. Als u meer dan één abonnement hebt, selecteert u het abonnement waarin uw resource zich bevindt.

   subscriptionId="<subscription-id>"
   az account set --subscription $subscriptionId
   

3. Stel de volgende omgevingsvariabelen in met de naam van de Foundry-resource die u wilt gebruiken en resourcegroep.

   accountName="<ai-services-resource-name>"
   resourceGroupName="<resource-group>"
   location="eastus2"
   

4. Als u nog geen Foundry-resource hebt gemaakt, maakt u er een.

   az cognitiveservices account create -n $accountName -g $resourceGroupName --custom-domain $accountName --location $location --kind AIServices --sku S0
   

   Referentie: az cognitiveservices account

5. Controleer welke modellen beschikbaar zijn voor u en onder welke SKU. Elk implementatietype wordt vertegenwoordigd door een SKU-code in de CLI en ARM en definieert hoe Azure infrastructuur aanvragen verwerkt. Modellen bieden mogelijk verschillende implementatietypen. Met de volgende opdracht worden alle modeldefinities weergegeven die beschikbaar zijn:

   az cognitiveservices account list-models \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.[] | { name: .name, format: .format, version: .version, sku: .skus[0].name, capacity: .skus[0].capacity.default }'
   

   De uitvoer bevat beschikbare modellen met hun eigenschappen:

   {
     "name": "Phi-4-mini-instruct",
     "format": "Microsoft",
     "version": "1",
     "sku": "GlobalStandard",
     "capacity": 1000
   }
   

   Naslaginformatie: az cognitiveservices account list-models

6. Identificeer het model dat u wilt implementeren. U hebt de eigenschappen name, format, version en sku. De eigenschap format geeft de provider aan die het model aanbiedt. Afhankelijk van het type implementatie hebt u mogelijk ook capaciteit nodig.

7. Voeg de modelimplementatie toe aan de resource. In het volgende voorbeeld wordt het volgende toegevoegd Phi-4-mini-instruct:

   az cognitiveservices account deployment create \
       -n $accountName \
       -g $resourceGroupName \
       --deployment-name Phi-4-mini-instruct \
       --model-name Phi-4-mini-instruct \
       --model-version 1 \
       --model-format Microsoft \
       --sku-capacity 1 \
       --sku-name GlobalStandard
   

   Naslagwerk: az cognitiveservices account deployment

8. Controleer of de implementatie is voltooid:

   az cognitiveservices account deployment show \
       --deployment-name Phi-4-mini-instruct \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.properties.provisioningState'
   

   De uitvoer zou "Succeeded" moeten weergeven. Het model is klaar voor gebruik nadat het inrichten is voltooid.

   Naslaginformatie: az cognitiveservices account deployment show

U kunt hetzelfde model meerdere keren implementeren als dat nodig is, zolang u het een andere implementatienaam geeft. Deze mogelijkheid is handig als u verschillende configuraties voor een bepaald model wilt testen, inclusief inhoudsfilters.

Het model toevoegen

1. Gebruik de sjabloon ai-services-deployment-template.bicep om modelimplementaties te beschrijven:

   ai-services-deployment-template.bicep

   @description('Name of the Azure AI services account')
   param accountName string
   
   @description('Name of the model to deploy')
   param modelName string
   
   @description('Version of the model to deploy')
   param modelVersion string
   
   @allowed([
     'AI21 Labs'
     'Cohere'
     'Core42'
     'DeepSeek'
     'xAI'
     'Meta'
     'Microsoft'
     'Mistral AI'
     'OpenAI'
   ])
   @description('Model provider')
   param modelPublisherFormat string
   
   @allowed([
       'GlobalStandard'
       'DataZoneStandard'
       'Standard'
       'GlobalProvisioned'
       'Provisioned'
   ])
   @description('Model deployment SKU name')
   param skuName string = 'GlobalStandard'
   
   @description('Content filter policy name')
   param contentFilterPolicyName string = 'Microsoft.DefaultV2'
   
   @description('Model deployment capacity')
   param capacity int = 1
   
   resource modelDeployment 'Microsoft.CognitiveServices/accounts/deployments@2024-04-01-preview' = {
     name: '${accountName}/${modelName}'
     sku: {
       name: skuName
       capacity: capacity
     }
     properties: {
       model: {
         format: modelPublisherFormat
         name: modelName
         version: modelVersion
       }
       raiPolicyName: contentFilterPolicyName == null ? 'Microsoft.Nill' : contentFilterPolicyName
     }
   }
   

2. Voer de implementatie uit:

   resourceGroupName="<resource-group-name>"
   accountName="<ai-services-resource-name>"
   modelName="Phi-4-mini-instruct"
   provider="Microsoft"
   version=1
   
   az deployment group create \
       --resource-group $resourceGroupName \
       --template-file ai-services-deployment-template.bicep \
       --parameters accountName=$accountName modelName=$modelName modelVersion=$version modelPublisherFormat=$provider
   

3. Controleer of de implementatie is voltooid:

   az cognitiveservices account deployment show \
       --deployment-name $modelName \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.properties.provisioningState'
   

   De uitvoer zou "Succeeded" moeten weergeven.