Distribuire adattatori LoRA sottoposti a ottimizzazione nel calcolo gestito (anteprima)

Distribuire uno o più adattatori LoRA (Low-Rank Adaptation) prodotti dall'ottimizzazione di Foundry in una distribuzione di destinazione di calcolo gestito compatibile. È possibile distribuire un adattatore, testarlo e collegare più adattatori allo stesso deployment di destinazione.

Questo articolo si applica solo agli adattatori LoRA prodotti come output del fine-tuning in Foundry. Per terminologia, architettura, comportamento di inferenza condivisa, ciclo di vita, fatturazione e limiti, vedere Panoramica della distribuzione degli adapter per il calcolo gestito.

Prerequisites

• Una sottoscrizione Azure e un progetto Foundry.

• Adattatore LoRA registrato prodotto dal fine-tuning in Foundry e visibile nella pagina Modelli del progetto.

• Autorizzazione per gestire le distribuzioni nell'account Foundry, ad esempio il ruolo Proprietario Foundry o Collaboratore Servizi cognitivi. È anche necessario avere accesso al modello di adattatore registrato.

  Importante

  I ruoli di Controllo degli accessi in base al ruolo di Foundry sono stati recentemente rinominati. Foundry User, Foundry Owner, Foundry Account Owner e Foundry Project Manager erano precedentemente denominati Azure AI User, Azure AI Owner, Azure AI Account Owner e Azure AI Project Manager. È possibile che i nomi precedenti vengano visualizzati in alcune posizioni durante l'esecuzione della ridenominazione. Gli ID ruolo e le autorizzazioni di base sono invariati dalla ridenominazione.

• Ruolo Utente Foundry nell'account per l'inferenza con Microsoft Entra ID. Vedere Controllo di accesso del calcolo gestito.

• Modello di base compatibile e modello di distribuzione abilitato per LoRA disponibile nella tua regione.

• Quota di calcolo gestito sufficiente per la famiglia di acceleratori e l'area della distribuzione di destinazione. È possibile selezionare una distribuzione di destinazione esistente o crearne una durante la distribuzione dell'adapter.

L'anteprima del calcolo gestito non include il filtro dei contenuti predefinito. Esaminare le limitazioni e i requisiti di sicurezza della tua applicazione prima di eseguire il deployment.

Distribuire gli adattatori nel portale

Iniziare da un adattatore LoRA registrato prodotto dal fine-tuning in Foundry. È possibile trovare l'adattatore in Compila>Modelli oppure iniziare dalla scheda Ottimizzazione.

Una distribuzione di destinazione supporta fino a otto distribuzioni di adattatori.

1. Selezionare l'adattatore e avviare il flusso di distribuzione

Nel portale Foundry, usare uno di questi punti di ingresso:

• Aprire Build>modelli, selezionare l'adapter LoRA da distribuire e quindi selezionare Deploy. Questo punto di ingresso apre direttamente il flusso di distribuzione del calcolo gestito.
• Aprire la scheda Fine-tuning, selezionare l'adattatore prodotto dal processo di fine-tuning completato e quindi selezionare Deploy. Selezionare Managed compute tra le opzioni di distribuzione disponibili.

2. Selezionare o creare il deployment di destinazione

Un adattatore registrato non richiede un proprio compute, ma richiede un deployment di destinazione compatibile per servire le richieste. Selezionarlo nel campo deployment di destinazione.

• Se esiste già una distribuzione di destinazione abilitata per LoRA compatibile, selezionarla in Distribuzione di destinazione e continuare a Distribuire l'adapter.
• Se non esiste alcun deployment compatibile, creare un deployment di destinazione all'interno del flusso di deployment dell'adattatore.

Per impostazione predefinita, nella finestra di creazione della distribuzione di destinazione è abilitato il supporto LoRA. Per creare il deployment:

1. Selezionare un modello di distribuzione abilitato per LoRA.
2. Esaminare i dettagli del template, inclusi il runtime di inferenza, l'ID modello e l'ID del template di distribuzione.
3. Selezionare il tipo di acceleratore, ad esempio H100, che corrisponde al template selezionato.
4. Completare la configurazione del deployment di destinazione e selezionare Deploy.
5. Attendere il completamento del provisioning della distribuzione di destinazione. Questa operazione può richiedere alcuni minuti. Al termine del provisioning, il campo Distribuzione di destinazione viene popolato automaticamente.

Per altre informazioni sulla configurazione e la capacità della distribuzione di destinazione, vedere Distribuire modelli open source con il calcolo gestito.

3. Distribuire l'adattatore

1. Immettere un nome di distribuzione dell'adapter, ad esempio qwen-support. Usare un nome univoco all'interno dell'account e diverso dal nome della distribuzione di destinazione.
2. Esaminare la distribuzione di destinazione selezionata e selezionare Distribuisci.
3. Attendere il completamento del deployment dell'adapter. L'adattatore distribuito viene visualizzato nell'elenco di distribuzione dell'adapter.

I nomi di distribuzione degli adattatori possono contenere da 1 a 64 lettere, numeri, punti, caratteri di sottolineatura o trattini. Iniziare il nome con una lettera o un numero.

Selezionare l'adattatore distribuito per aprire i relativi dettagli. Da questa pagina è possibile:

• Aprilo nel playground.
• Aggiungerlo a un agente.
• Visualizzare l'endpoint di inferenza e i dettagli di autenticazione.
• Visualizzare il deployment di destinazione.
• Copiare un frammento di codice per chiamare l'adapter.
• Usare la configurazione rapida per Visual Studio Code.

Aprire l'adattatore nel playground e inviare una richiesta relativa all'attività di fine-tuning. Usare il frammento di codice della distribuzione dell'adapter per testarlo dall'applicazione. La chiamata alla sola distribuzione di destinazione non verifica l'adattatore.

4. Effettuare il deployment di più adattatori nello stesso target di deployment

Per condividere una distribuzione di destinazione tra adattatori:

1. Selezionare un altro adattatore compatibile in Compila>Modelli e selezionare Distribuisci.
2. Assegnargli un nome di distribuzione diverso, ad esempio qwen-finance.
3. Selezionare la stessa distribuzione di destinazione in Distribuzione di destinazione.
4. Selezionare Distribuisci e attendere il completamento della distribuzione.
5. Aprire i dettagli della distribuzione di destinazione per verificare che siano elencate entrambe le distribuzioni degli adattatori.

Questa configurazione è un deployment multi-LoRA. Ogni adapter ha il proprio nome di distribuzione, ma entrambi condividono l'endpoint di calcolo e inferenza della distribuzione di destinazione.

Testare un adattatore con Chat Completions

Dopo che la distribuzione dell'adapter raggiunge lo stato di provisioning Succeeded, inviare una richiesta alla route chat-completions compatibile con OpenAI. Copiare l'endpoint dell'account dai dettagli di distribuzione dell'adapter nel portale. Per l'autenticazione di Microsoft Entra ID, acquisire un token di accesso per l'ambito https://ai.azure.com/.default.

Impostare model sul nome della distribuzione dell'adapter, non sul nome della distribuzione di destinazione. Il servizio usa questo valore per selezionare l'adattatore e risolve internamente il deployment di destinazione.

POST {account-endpoint}/openai/v1/chat/completions
Authorization: Bearer {access-token}
Content-Type: application/json

{
  "model": "qwen-support",
  "messages": [
    {
      "role": "user",
      "content": "How do I reset my account password?"
    }
  ]
}

La risposta segue lo schema di risposta di completamento della chat e restituisce il nome di distribuzione dell'adapter selezionato in model. Per testare il secondo adattatore nell'esempio multi-LoRA, cambiare model con qwen-finance e inviare una richiesta per il task per cui è stato ottimizzato con fine-tuning. La richiesta non richiede un api-version parametro di query.

Distribuisci e gestisci adattatori con REST

Usare REST per creare e gestire i deployment degli adattatori con la versione 2026-09-15-previewdell'API.

Crea una distribuzione dell'adattatore specificando l'ID del modello di origine registrato e il nome della distribuzione di destinazione. Usare un token di accesso per Azure Resource Manager nell'intestazione dell'autorizzazione. Vedere Gestire le risorse Azure con REST.

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******
Content-Type: application/json

{
  "properties": {
    "sourceModelId": "azureai://accounts/{accountName}/projects/{projectName}/models/{modelName}/versions/{version}",
    "targetDeploymentName": "{targetDeploymentName}"
  }
}

La distribuzione è asincrona. Eseguire il polling dell'URL restituito in Azure-AsyncOperation, rispettandoretry-after, finché l'operazione non viene completata correttamente o non riesce. Verificare che properties.provisioningState sia Succeeded prima di testare l'adapter.

Controllare lo stato della distribuzione di un adattatore:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

Elencare gli adattatori associati a una distribuzione di destinazione:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments?api-version=2026-09-15-preview&$filter=properties%2FtargetDeploymentName%20eq%20%27{targetDeploymentName}%27
Authorization: ******

La risposta è impaginata; seguire nextLink finché non è assente.

Eliminare un deployment di adapter:

DELETE https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

L'eliminazione può anche essere asincrona. Per una risposta 202, seguire l'URL dell'operazione fino al completamento dell'eliminazione. Una 204 risposta non richiede ulteriore polling.

Gestire e pulire le distribuzioni

Gestire ogni adattatore in base al relativo nome di distribuzione. Per spostare un adattatore in una distribuzione di destinazione compatibile diversa, aggiornare targetDeploymentName mantenendo lo stesso sourceModelId. Attendere che l'aggiornamento abbia esito positivo prima di basarsi sulla nuova distribuzione di destinazione.

Non è possibile modificare la versione del modello di origine di una distribuzione di adattatori esistente. Per distribuire una nuova versione ottimizzata, creare una nuova distribuzione dell'adapter con un nome diverso oppure eliminare e ricreare la distribuzione esistente.

Eliminare una distribuzione dell'adattatore quando non è più necessario gestirla. Usare la richiesta di eliminazione REST in Distribuire e gestire adattatori con REST.

L'eliminazione di una distribuzione di adattatori non comporta l'eliminazione della versione del modello registrata o della distribuzione di destinazione. Gli altri adattatori continuano a usare il calcolo condiviso.

Rimuovere tutti i deployment degli adattatori collegati prima di eliminare un deployment di destinazione creato per questo esercizio. Se è stato aggiunto anche l'adattatore facoltativo qwen-finance , eliminarlo. Non eliminare una distribuzione di destinazione condivisa di cui altre applicazioni hanno ancora bisogno.

Prima di eliminare una versione del modello di adattatore registrato, rimuovere le distribuzioni di adattatori che lo usano.

Ridimensionare il calcolo condiviso tramite la distribuzione di destinazione. Una modifica della capacità influisce sul calcolo condiviso dagli adattatori.

Troubleshoot

Controllare la registrazione dell'adapter, la compatibilità del modello di base e lo stato della distribuzione prima di riprovare.

Contenuti correlati

Altre informazioni sulle distribuzioni degli adattatori, sulle distribuzioni di destinazione, sul calcolo condiviso e sulle altre opzioni di distribuzione dei modelli sottoposti a ottimizzazione:

• Panoramica della distribuzione degli adapter per il calcolo gestito.
• Distribuisci modelli open source con calcolo gestito.