Déployer des adaptateurs LoRA affinés sur le calcul managé (préversion)

Déployez un ou plusieurs adaptateurs LoRA (Low-Rank Adaptation) issus d’un réglage fin dans Foundry sur un déploiement cible de calcul managé compatible. Vous pouvez déployer un adaptateur, le tester et associer davantage d’adaptateurs au même déploiement cible.

Cet article s’applique uniquement aux adaptateurs LoRA issus du fine-tuning dans Foundry. Pour connaître la terminologie, l’architecture, le comportement d’inférence partagée, le cycle de vie, la facturation et les limites, consultez la vue d’ensemble du déploiement de l’adaptateur pour le calcul managé.

Prerequisites

• Un abonnement Azure et un projet Foundry.

• Adaptateur LoRA enregistré produit par ajustement fin dans Foundry et visible sur la page Modèles du projet.

• Autorisation de gérer les déploiements dans le compte Foundry, tel que le rôle Propriétaire de Foundry ou Contributeur Cognitive Services . Vous devez également avoir accès au modèle d’adaptateur inscrit.

  Important

  Les rôles Foundry RBAC ont été récemment renommés. Foundry User, Foundry Owner, Propriétaire du compteFoundry et Foundry Project Manager ont été précédemment nommés Azure utilisateur IA, Azure propriétaire d’IA, propriétaire Azure compte IA et Azure gestionnaire Project IA. Il se peut que vous voyiez encore les anciens noms à certains endroits pendant le déploiement de ce changement de nom. Les ID de rôle et les autorisations de base ne sont pas modifiés par ce changement de nom.

• Le rôle Utilisateur Foundry sur le compte pour l’inférence avec Microsoft Entra ID. Consultez Contrôle d’accès au calcul managé.

• Modèle de base compatible et gabarit de déploiement compatible avec LoRA disponible dans votre région.

• Quota de calcul managé suffisant pour la famille d’accélérateurs et la région du déploiement cible. Vous pouvez sélectionner un déploiement cible existant ou en créer un pendant le déploiement de l’adaptateur.

La préversion du calcul managé n’inclut pas de filtrage de contenu intégré. Avant le déploiement, consultez ses limitations et les exigences de sécurité de votre application.

Déployer des adaptateurs dans le portail

Partez d’un adaptateur LoRA enregistré produit par ajustement fin dans Foundry. Vous pouvez trouver l’adaptateur sous Build>Modèles ou partir de l’onglet Réglage fin.

Un déploiement cible prend en charge jusqu’à huit déploiements d’adaptateurs.

1. Sélectionnez l’adaptateur et démarrez le flux de déploiement

Dans le portail Foundry, utilisez l’un des points d’entrée suivants :

• Ouvrez Build>Models, sélectionnez l’adaptateur LoRA à déployer, puis sélectionnez Déployer. Ce point d’entrée ouvre directement le flux de déploiement du calcul managé.
• Ouvrez l’onglet Réglage fin, sélectionnez l’adaptateur produit par votre travail de réglage fin terminé, puis sélectionnez Déployer. Sélectionnez Capacité de calcul managée parmi les options de déploiement disponibles.

2. Sélectionnez ou créez le déploiement cible

Un adaptateur inscrit n’a pas besoin de ses propres ressources de calcul, mais il a besoin d’un déploiement cible compatible pour servir les requêtes. Sélectionnez-le dans le champ de déploiement cible .

• Si un déploiement cible compatible loRA existe déjà, sélectionnez-le dans le déploiement cible et continuez à déployer l’adaptateur.
• Si aucun déploiement compatible n’existe, créez un déploiement cible dans le flux de déploiement de l’adaptateur.

La fenêtre de création de déploiement cible a la prise en charge de LoRA activée par défaut. Pour créer le déploiement :

1. Sélectionnez un modèle de déploiement prenant en charge LoRA.
2. Passez en revue les détails du modèle, notamment l’environnement d’exécution d’inférence, l’ID du modèle et l’ID du modèle de déploiement.
3. Sélectionnez le type d’accélérateur, tel que H100, qui correspond à votre template sélectionné.
4. Terminez la configuration du déploiement cible, puis sélectionnez Déployer.
5. Attendez que le déploiement cible termine le provisionnement. Cette opération peut prendre plusieurs minutes. Une fois l’approvisionnement terminé, le champ Target deployment est rempli automatiquement.

Pour plus d’informations sur la configuration et la capacité de déploiement cible, consultez Déployer des modèles open source avec un calcul managé.

3. Déployer l’adaptateur

1. Entrez un nom de déploiement d’adaptateur, tel que qwen-support. Utilisez un nom unique dans le compte et différent du nom du déploiement cible.
2. Passez en revue le déploiement cible sélectionné, puis sélectionnez Déployer.
3. Attendez que le déploiement de l’adaptateur se termine. L’adaptateur déployé apparaît dans la liste de déploiement des adaptateurs.

Les noms de déploiement d’adaptateurs peuvent contenir 1 à 64 lettres, chiffres, points, traits de soulignement ou traits d’union. Démarrez le nom avec une lettre ou un nombre.

Sélectionnez l’adaptateur déployé pour ouvrir ses détails. À partir de cette page, vous pouvez :

• Ouvrez-le dans le playground.
• Ajoutez-le à un agent.
• Affichez les détails du point de terminaison d’inférence et de l’authentification.
• Afficher son déploiement cible.
• Copiez un extrait de code pour appeler l’adaptateur.
• Utilisez la configuration rapide pour Visual Studio Code.

Ouvrez l’adaptateur dans le playground et envoyez un prompt pertinent pour sa tâche de réglage fin. Utilisez l’extrait de code du déploiement de l’adaptateur pour le tester à partir de votre application. Le fait d’appeler uniquement le déploiement cible ne teste pas l’adaptateur.

4. Déployer d’autres adaptateurs vers le même déploiement cible

Pour partager un déploiement cible entre des adaptateurs :

1. Sélectionnez un autre adaptateur compatible sous Build>Models, puis sélectionnez Déployer.
2. Attribuez-lui un autre nom de déploiement, tel que qwen-finance.
3. Sélectionnez le même déploiement cible dans Déploiement cible.
4. Sélectionnez Déployer et attendez la fin du déploiement.
5. Ouvrez les détails du déploiement cible pour vérifier que les deux déploiements de l’adaptateur sont répertoriés.

Cette configuration est un déploiement multi-loRA. Chaque adaptateur possède son propre nom de déploiement, mais tous deux partagent le point de terminaison de calcul et d’inférence du déploiement cible.

Tester un adaptateur avec les saisies semi-automatiques de conversation

Une fois que le déploiement de l’adaptateur a atteint l’état Succeeded de provisionnement, envoyez une demande à la route chat-completions compatible avec OpenAI. Copiez le point de terminaison du compte à partir des détails du déploiement de l’adaptateur dans le portail. Pour l’authentification Microsoft Entra ID, obtenez un jeton d’accès pour l’étendue https://ai.azure.com/.default.

Définissez model sur le nom du déploiement de l’adaptateur, et non sur le nom du déploiement cible. Le service utilise cette valeur pour sélectionner l’adaptateur et détermine son déploiement cible en interne.

POST {account-endpoint}/openai/v1/chat/completions
Authorization: Bearer {access-token}
Content-Type: application/json

{
  "model": "qwen-support",
  "messages": [
    {
      "role": "user",
      "content": "How do I reset my account password?"
    }
  ]
}

La réponse suit le schéma de réponse chat-completions et retourne le nom de déploiement de l’adaptateur sélectionné dans model. Pour tester le deuxième adaptateur dans l’exemple multi-LoRA, remplacez model par qwen-finance et envoyez un prompt correspondant à sa tâche de réglage fin. La requête ne nécessite pas de paramètre de requête api-version.

Déployer et gérer des adaptateurs avec REST

Utilisez REST pour créer et gérer des déploiements d’adaptateurs avec la version 2026-09-15-previewde l’API.

Créez un déploiement d’adaptateur en fournissant son ID de modèle source inscrit et son nom de déploiement cible. Utilisez un jeton d’accès pour Azure Resource Manager dans l’en-tête d’autorisation ; consultez Gérer les ressources Azure avec REST.

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******
Content-Type: application/json

{
  "properties": {
    "sourceModelId": "azureai://accounts/{accountName}/projects/{projectName}/models/{modelName}/versions/{version}",
    "targetDeploymentName": "{targetDeploymentName}"
  }
}

Le déploiement est asynchrone. Interrogez l’URL retournée en Azure-AsyncOperationrespectant retry-after, jusqu’à ce que l’opération réussisse ou échoue. Vérifiez que properties.provisioningState est Succeeded avant de tester l’adaptateur.

Vérifiez l’état d’un déploiement d’adaptateur :

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

Répertorier les adaptateurs attachés à un déploiement cible :

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments?api-version=2026-09-15-preview&$filter=properties%2FtargetDeploymentName%20eq%20%27{targetDeploymentName}%27
Authorization: ******

La réponse est paginée ; suivez nextLink jusqu’à ce qu’il n’apparaisse plus.

Supprimez un déploiement d’adaptateur :

DELETE https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

La suppression peut également être asynchrone. Pour une réponse 202, suivez l’URL de l’opération jusqu’à ce que la suppression soit terminée. Une réponse 204 ne nécessite aucune interrogation supplémentaire.

Gérer et nettoyer les déploiements

Gérez chaque adaptateur par son nom de déploiement. Pour déplacer un adaptateur vers un autre déploiement cible compatible, mettez à jour targetDeploymentName tout en conservant le même sourceModelId. Attendez que la mise à jour réussisse avant de vous appuyer sur le nouveau déploiement cible.

Vous ne pouvez pas modifier la version du modèle source d’un déploiement d’adaptateur existant. Pour déployer une nouvelle version réglée avec précision, créez un déploiement d’adaptateur avec un autre nom, ou supprimez et recréez le déploiement existant.

Supprimez un déploiement d’adaptateur lorsque vous n’avez plus besoin de le mettre à disposition. Utilisez la requête de suppression REST décrite dans Déployer et gérer des adaptateurs avec REST.

La suppression d’un déploiement d’adaptateurs ne supprime pas sa version de modèle inscrite ou son déploiement cible. Les autres adaptateurs continuent d’utiliser la capacité de calcul partagée.

Supprimez tous les déploiements d’adaptateurs attachés avant de supprimer un déploiement cible que vous avez créé pour cet exercice. Si vous avez ajouté l’adaptateur facultatif qwen-finance , supprimez-le également. Ne supprimez pas un déploiement cible partagé dont d’autres applications ont toujours besoin.

Avant de supprimer une version de modèle d’adaptateur inscrite, supprimez les déploiements d’adaptateurs qui l’utilisent.

Mettez à l’échelle la capacité de calcul partagée via le déploiement cible. Une modification de la capacité affecte la capacité de calcul partagée par ses adaptateurs.

Troubleshoot

Vérifiez l’inscription de l’adaptateur, la compatibilité du modèle de base et l’état du déploiement avant de réessayer.

Contenu connexe

En savoir plus sur les déploiements d’adaptateurs, les déploiements cibles, le calcul partagé et d’autres options de déploiement de modèles affinés :

• Vue d’ensemble du déploiement d’adaptateurs pour le calcul managé.
• Déployez des modèles open-source avec un calcul géré.