使用 Azure CLI 和 Bicep 部署模型

• 你想部署的型號名稱、提供者、版本和 SKU。 請使用 Foundry 入口網站或 Azure CLI 來查詢這些資訊。 在此範例中，你部署的模型如下：

  • 型號名稱： Phi-4-mini-instruct
  • Provider：Microsoft
  • 版本： 1
  • 部署類型：全球標準

新增模型

要新增模型，首先要確定你想部署的模型。 查詢可用模型如下：

1. 登入你的 Azure 訂閱。

   az login
   

2. 如果你有多個訂閱，請選擇你資源所在的訂閱。

   subscriptionId="<subscription-id>"
   az account set --subscription $subscriptionId
   

3. 請設定以下環境變數，並標示你計畫使用的 Foundry 資源名稱及資源群組。

   accountName="<ai-services-resource-name>"
   resourceGroupName="<resource-group>"
   location="eastus2"
   

4. 如果你還沒建立 Foundry 資源，就先建立一個。

   az cognitiveservices account create -n $accountName -g $resourceGroupName --custom-domain $accountName --location $location --kind AIServices --sku S0
   

   參考：az cognitiveservices 帳戶

5. 查看你有哪些型號可用，以及屬於哪個 SKU。 每種部署類型都以 CLI 和 ARM 中的 SKU 程式碼表示，並定義 Azure 基礎架構如何處理請求。 不同型號可能提供不同的部署類型。 以下指令列出所有可用的模型定義：

   az cognitiveservices account list-models \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.[] | { name: .name, format: .format, version: .version, sku: .skus[0].name, capacity: .skus[0].capacity.default }'
   

   輸出包含可用模型及其特性：

   {
     "name": "Phi-4-mini-instruct",
     "format": "Microsoft",
     "version": "1",
     "sku": "GlobalStandard",
     "capacity": 1000
   }
   

   參考：az cognitiveservices account list-models

6. 確定你想部署的模型。 你需要name、format、version和sku的性質。 該屬性 format 指示提供模型的供應商。 根據部署類型，你可能還需要產能。

7. 將模型的部署加入到資源中。 以下範例補充 Phi-4-mini-instruct：

   az cognitiveservices account deployment create \
       -n $accountName \
       -g $resourceGroupName \
       --deployment-name Phi-4-mini-instruct \
       --model-name Phi-4-mini-instruct \
       --model-version 1 \
       --model-format Microsoft \
       --sku-capacity 1 \
       --sku-name GlobalStandard
   

   參考：az cognitiveservices account deployment

8. 確認部署是否成功完成：

   az cognitiveservices account deployment show \
       --deployment-name Phi-4-mini-instruct \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.properties.provisioningState'
   

   輸出應該會顯示 "Succeeded"。 模型在配置完成後即可使用。

   Reference： az cognitiveservices account deployment show

如果需要，你可以多次部署同一個模型，只要你給它不同的部署名稱。 此功能適用於想測試特定模型不同配置（包括內容過濾器）時。

新增模型

1. 使用範本 ai-services-deployment-template.bicep 來描述模型部署：

   ai-services-deployment-template.bicep

   @description('Name of the Azure AI services account')
   param accountName string
   
   @description('Name of the model to deploy')
   param modelName string
   
   @description('Version of the model to deploy')
   param modelVersion string
   
   @allowed([
     'AI21 Labs'
     'Cohere'
     'Core42'
     'DeepSeek'
     'xAI'
     'Meta'
     'Microsoft'
     'Mistral AI'
     'OpenAI'
   ])
   @description('Model provider')
   param modelPublisherFormat string
   
   @allowed([
       'GlobalStandard'
       'DataZoneStandard'
       'Standard'
       'GlobalProvisioned'
       'Provisioned'
   ])
   @description('Model deployment SKU name')
   param skuName string = 'GlobalStandard'
   
   @description('Content filter policy name')
   param contentFilterPolicyName string = 'Microsoft.DefaultV2'
   
   @description('Model deployment capacity')
   param capacity int = 1
   
   resource modelDeployment 'Microsoft.CognitiveServices/accounts/deployments@2024-04-01-preview' = {
     name: '${accountName}/${modelName}'
     sku: {
       name: skuName
       capacity: capacity
     }
     properties: {
       model: {
         format: modelPublisherFormat
         name: modelName
         version: modelVersion
       }
       raiPolicyName: contentFilterPolicyName == null ? 'Microsoft.Nill' : contentFilterPolicyName
     }
   }
   

2. 執行部署：

   resourceGroupName="<resource-group-name>"
   accountName="<ai-services-resource-name>"
   modelName="Phi-4-mini-instruct"
   provider="Microsoft"
   version=1
   
   az deployment group create \
       --resource-group $resourceGroupName \
       --template-file ai-services-deployment-template.bicep \
       --parameters accountName=$accountName modelName=$modelName modelVersion=$version modelPublisherFormat=$provider
   

3. 確認部署是否成功完成：

   az cognitiveservices account deployment show \
       --deployment-name $modelName \
       -n $accountName \
       -g $resourceGroupName \
   | jq '.properties.provisioningState'
   

   輸出應該會顯示 "Succeeded"。