Afgestemde LoRA-adapters implementeren op beheerde compute (preview)

Implementeer een of meer LoRA-adapters (Low-Rank Adaptation), geproduceerd door Foundry-finetuning, in een implementatie van een compatibel beheerd rekendoel. U kunt een adapter implementeren, testen en meer adapters koppelen aan dezelfde doelimplementatie.

Dit artikel is alleen van toepassing op LoRA-adapters die worden geproduceerd als uitvoer van fine-tuning in Foundry. Zie Overzicht van de implementatie van adapters voor beheerde rekenresources voor terminologie, architectuur, gedeeld inferentiegedrag, levenscyclus, facturering en limieten.

Prerequisites

• Een Azure-abonnement en een Foundry-project.

• Een geregistreerde LoRA-adapter die door fine-tuning in Foundry is geproduceerd en zichtbaar is op de pagina Modellen van het project.

• Machtiging voor het beheren van implementaties in het Foundry-account, zoals de rol Foundry Owner of Cognitive Services Contributor. U hebt ook toegang nodig tot het geregistreerde adaptermodel.

  Important

  De rollen Foundry RBAC zijn onlangs hernoemd. Foundry User, Foundry Owner, Foundry Account Owner en Foundry Project Manager zijn eerder benoemd Azure AI-gebruiker, Azure AI-eigenaar Azure AI-accounteigenaar en Azure AI Project Manager. Het kan zijn dat u op sommige plekken nog steeds de vorige namen ziet terwijl de naamswijziging wordt doorgevoerd. De rol-id's en basismachtigingen worden niet gewijzigd door de naamswijziging.

• De rol Foundry User in het account voor inferentie met Microsoft Entra ID. Zie Toegangsbeheer voor beheerde rekenresources.

• Een compatibel basismodel en een implementatiesjabloon met LoRA-functionaliteit die in uw regio beschikbaar zijn.

• Voldoende beheerd rekenquotum voor de acceleratorfamilie en regio van de doelimplementatie. U kunt een bestaande doeldeployment selecteren of er een maken tijdens de implementatie van de adapter.

Beheerde compute in previewversie bevat geen ingebouwde inhoudsfiltering. Bekijk de beperkingen en de veiligheidsvereisten van uw toepassing voordat u deze implementeert.

Adapters uitrollen in de portal

Begin met een geregistreerde LoRA-adapter die is verkregen door fine-tuning in Foundry. U vindt de adapter op Build>Models of start op het tabblad Fine-tuning .

Eén doelimplementatie ondersteunt maximaal acht adapterimplementaties.

1. Selecteer de adapter en start de uitrolstroom

Gebruik in de Foundry-portal een van de volgende toegangspunten:

• Open>, selecteer de LoRA-adapter die u wilt uitrollen en selecteer vervolgens Uitrollen. Dit ingangspunt opent rechtstreeks de implementatiestroom voor beheerde rekenresources.
• Open het tabblad Fine-tuning, selecteer de adapter die door uw voltooide fine-tuningtaak is gemaakt en selecteer vervolgens Implementeren. Selecteer Beheerde rekenkracht uit de beschikbare uitrolopties.

2. Selecteer of maak de doelimplementatieomgeving

Een geregistreerde adapter heeft geen eigen rekenkracht nodig, maar heeft een compatibele doeldeployment nodig om aanvragen te verwerken. Selecteer dit in het veld Doelimplementatie.

• Als er al een compatibele LoRA-doelimplementatie bestaat, selecteert u deze in Target deployment en gaat u door met De adapter implementeren.
• Als er geen compatibele deployment bestaat, maak dan een doeldeployment binnen de adapterdeploymentstroom.

In het venster voor het maken van de doelimplementatie is standaard LoRA-ondersteuning ingeschakeld. De implementatie uitvoeren:

1. Selecteer een LoRA-functionaliteit ingeschakelde implementatiesjabloon.
2. Bekijk de details van de sjabloon, waaronder de inferentieruntime, model-id en implementatiesjabloon-id.
3. Selecteer het type Accelerator, zoals H100, dat overeenkomt met de geselecteerde sjabloon.
4. Voltooi de configuratie van de doelimplementatie en selecteer Implementeren.
5. Wacht tot de doelimplementatie gereed is met inrichten. Deze bewerking kan enkele minuten duren. Wanneer het inrichten is voltooid, wordt het veld Doelimplementatie automatisch ingevuld.

Zie Opensource-modellen implementeren met beheerde rekenkracht voor meer informatie over de configuratie en capaciteit van de doelimplementatie.

3. De adapter uitrollen

1. Voer een naam in voor de implementatie van een adapter, zoals qwen-support. Gebruik een naam die uniek is binnen het account en anders is dan de naam van de doelimplementatie.
2. Controleer de geselecteerde doel-implementatie en selecteer Implementeren.
3. Wacht tot de implementatie van de adapter is voltooid. De geïmplementeerde adapter wordt weergegeven in de implementatielijst van de adapter.

Namen van adapterimplementaties kunnen 1 tot 64 letters, cijfers, punten, onderstrepingstekens of afbreekstreepjes bevatten. Start de naam met een letter of cijfer.

Selecteer de geïmplementeerde adapter om de details te openen. Op deze pagina kunt u het volgende doen:

• Open het in de playground.
• Voeg deze toe aan een agent.
• Bekijk het inference-eindpunt en de verificatiedetails.
• Bekijk de doeldeployment.
• Kopieer een codefragment om de adapter aan te roepen.
• Gebruik de snelle installatie voor Visual Studio Code.

Open de adapter in de playground en stuur een prompt die relevant is voor de fine-tuningtaak. Gebruik het codefragment van de adapterdeployment om dit te testen vanuit uw toepassing. Als u alleen de doeldeployment aanroept, wordt de adapter niet getest.

4. Implementeer meer adapters naar dezelfde doeldeployment

Een doeldeployatie tussen adapters delen:

1. Selecteer een andere compatibele adapter in Build>Models en selecteer Deploy.
2. Geef deze een andere deploymentnaam, zoals qwen-finance.
3. Selecteer dezelfde doelimplementatie in doelimplementatie.
4. Selecteer Deploy en wacht tot de uitrol is voltooid.
5. Open de details van de doelimplementatie om te bevestigen dat beide adapterimplementaties worden vermeld.

Deze configuratie is een multi-LoRA-implementatie. Elke adapter heeft een eigen deploymentnaam, maar beide delen het reken- en inferentie-eindpunt van de doeldeployment.

Een adapter testen met chat completions

Nadat de uitrol van de adapter de Succeeded inrichtingsfase heeft bereikt, verzendt u een aanvraag naar de route voor chatvoltooiing die compatibel is met OpenAI. Kopieer het account-eindpunt vanuit de adapterimplementatiedetails in de portal. Voor Microsoft Entra ID-authenticatie verkrijgt u een toegangstoken voor de https://ai.azure.com/.default-scope.

Stel model in op de naam van de adapterimplementatie, niet op de naam van de doelimplementatie. De service gebruikt deze waarde om de adapter te selecteren en de doelimplementatie intern op te lossen.

POST {account-endpoint}/openai/v1/chat/completions
Authorization: Bearer {access-token}
Content-Type: application/json

{
  "model": "qwen-support",
  "messages": [
    {
      "role": "user",
      "content": "How do I reset my account password?"
    }
  ]
}

Het antwoord volgt het antwoordschema voor chat-completions en retourneert de naam van de geselecteerde adapterdeployment in model. Als u de tweede adapter in het multi-LoRA-voorbeeld wilt testen, wijzig model in qwen-finance en verzend een prompt voor de nauwkeurig afgestemde taak. Voor het verzoek is geen queryparameter api-version vereist.

Adapters implementeren en beheren met REST

Gebruik REST om adapterimplementaties te maken en te beheren met api-versie 2026-09-15-preview.

Maak een adapterdeployment door de geregistreerde bronmodel-id en naam van de doeldeployment op te geven. Gebruik een toegangstoken voor Azure Resource Manager in de autorisatieheader. Zie Azure resources beheren met REST.

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******
Content-Type: application/json

{
  "properties": {
    "sourceModelId": "azureai://accounts/{accountName}/projects/{projectName}/models/{modelName}/versions/{version}",
    "targetDeploymentName": "{targetDeploymentName}"
  }
}

Implementatie is asynchroon. Poll de URL die wordt geretourneerd in Azure-AsyncOperation, met inachtneming van retry-after, totdat de bewerking slaagt of mislukt. Controleer of properties.provisioningStateSucceeded is voordat u de adapter test.

Controleer de status van een adapterdeployment:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

Geef de adapters weer die aan een doelimplementatie zijn gekoppeld:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments?api-version=2026-09-15-preview&$filter=properties%2FtargetDeploymentName%20eq%20%27{targetDeploymentName}%27
Authorization: ******

De respons is gepagineerd; volg nextLink totdat deze niet meer aanwezig is.

Een adapterdeployment verwijderen:

DELETE https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

Verwijdering kan ook asynchroon zijn. Voor een 202 reactie volgt u de URL van de bewerking totdat het verwijderen is voltooid. Een 204 antwoord vereist geen verdere polling.

Implementaties beheren en opschonen

Beheer elke adapter op basis van de deploymentnaam. Als u een adapter naar een andere compatibele doelimplementatie wilt verplaatsen, werkt u targetDeploymentName bij terwijl u hetzelfde sourceModelId houdt. Wacht tot de update is voltooid voordat u vertrouwt op de nieuwe doelimplementatie.

U kunt de versie van het bronmodel van een bestaande adapterimplementatie niet wijzigen. Als u een nieuwe, fijnafgestelde versie wilt implementeren, maakt u een nieuwe adapterdeployment met een andere naam, of verwijdert en maakt u de bestaande deployment opnieuw.

Verwijder een adapterimplementatie wanneer u deze niet meer hoeft aan te bieden. Gebruik de REST-verwijderaanvraag in Adapters implementeren en beheren met REST.

Als u een adapterimplementatie verwijdert, wordt de geregistreerde modelversie of doelimplementatie niet verwijderd. Andere adapters gebruiken nog steeds de gedeelde rekenkracht.

Verwijder alle gekoppelde adapterimplementaties voordat u een doelimplementatie verwijdert die u voor deze oefening hebt gemaakt. Als u de optionele qwen-finance adapter hebt toegevoegd, verwijdert u deze ook. Verwijder geen gedeelde doelimplementatie die andere toepassingen nog nodig hebben.

Voordat u een geregistreerde versie van het adaptermodel verwijdert, verwijdert u de adapter-implementaties die deze gebruiken.

Schaal gedeelde rekenkracht via de doeldeployment. Een capaciteitswijziging is van invloed op de rekenkracht die door de adapters wordt gebruikt.

Problemen oplossen

Controleer de adapterregistratie, de compatibiliteit van het basismodel en de deploymentstatus voordat u het opnieuw probeert.

Verwante onderwerpen

Meer informatie over adapterdeployments, targetdeployments, gedeelde rekenkracht en andere implementatieopties voor verfijnde modellen:

• Overzicht van adapterimplementatie voor beheerde rekenresources.
• Implementeer open-source-modellen met beheerde rekenkracht.