Colocar em produção adaptadores LoRA finamente ajustados para computação gerida (pré-visualização)

Implantar um ou mais adaptadores de adaptação de baixa classificação (LoRA) produzidos pelo fine-tuning no Foundry para uma implantação de alvo de computação gerida compatível. Podes implementar um adaptador, testá-lo e ligar mais adaptadores à mesma implementação de destino.

Este artigo aplica-se apenas a adaptadores LoRA produzidos como resultado de fine-tuning no Foundry. Para terminologia, arquitetura, comportamento de inferência partilhada, ciclo de vida, faturação e limites, consulte a visão geral da implementação do Adapter para computação gerida.

Prerequisites

• Uma subscrição do Azure e um projeto Foundry.

• Um adaptador LoRA registado produzido por ajuste fino no Foundry e visível na página de Modelos do projeto.

• Permissão para gerir implementações na conta Foundry, como a função Foundry Owner ou Contribuidor de Serviços Cognitivos. Também precisa de acesso ao modelo de adaptador registado.

  Importante

  As funções RBAC do Foundry foram recentemente renomeadas. Foundry User, Foundry Owner, Foundry Account Owner e Foundry Project Manager foram anteriormente nomeados Azure AI User, Azure AI Owner, Azure AI Account Owner e Azure AI Project Manager. Poderá ainda ver os nomes anteriores em alguns locais enquanto esta alteração de nome está a ser implementada. Os IDs das funções e as permissões principais não são alterados por esta mudança de nome.

• A função Utilizador do Foundry na conta, para inferência com o Microsoft Entra ID. Ver Controlo de acesso de computação gerida.

• Um modelo base compatível e um template de implementação com LoRA disponível na sua região.

• Quota de computação gerida suficiente para a família e região de aceleradores da implantação alvo. Pode selecionar uma implementação alvo existente ou criar uma durante a implementação do adaptador.

A visualização de computação gerida não inclui filtragem de conteúdo incorporada. Reveja as limitações da mesma e os requisitos de segurança da sua aplicação antes de implementar.

Implementar adaptadores no portal

Comece a partir de um adaptador LoRA registado produzido por ajuste fino no Foundry. Podes encontrar o adaptador em Build>Models ou começar pelo separador Aperfeiçoamento.

Uma implantação de destino suporta até oito implementações de adaptadores.

1. Selecionar o adaptador e iniciar o fluxo de implantação

No Foundry portal, utilize um destes pontos de entrada:

• Abre Build>Models, seleciona o adaptador LoRA que queres fazer deploy e depois seleciona Deploy. Este ponto de entrada abre diretamente o fluxo de implantação de computação gerida.
• Abra o separador ajuste fino, selecione o adaptador produzido pela sua tarefa de ajuste fino concluída e depois selecione Implementar. Selecione computação gerida entre as opções de implementação disponíveis.

2. Selecionar ou criar a implantação alvo

Um adaptador registado não precisa de computação própria, mas precisa de uma implementação de destino compatível para servir pedidos. Selecione-o no campo implantação de destino.

• Se já existir uma implantação de destino compatível com LoRA, selecione-a em Implantação de destino e continue para implementar o adaptador.
• Se não existir uma implantação compatível, crie-se uma implantação alvo dentro do fluxo de implantação do adaptador.

A janela de criação da implementação de destino tem o suporte LoRA ativado por defeito. Para criar a implantação:

1. Selecione um modelo de implementação habilitado para LoRA.
2. Revise os detalhes do template, incluindo o runtime de inferência, ID do modelo e ID do template de implementação.
3. Selecione o tipo de acelerador, como H100, que corresponda ao modelo predefinido selecionado.
4. Complete a configuração de implantação de destino e selecione Implantar.
5. Espere que a implantação de destino termine de ser aprovisionada. Esta operação pode demorar vários minutos. Quando o provisionamento termina, o campo Implementação de destino é preenchido automaticamente.

Para mais informações sobre a configuração e capacidade da implementação de destino, consulte Implementar modelos open-source com computação gerida.

3. Implementar o adaptador

1. Introduza um nome de implementação do adaptador, como qwen-support. Utilize um nome único dentro da conta e diferente do nome da implementação alvo.
2. Reveja a implementação de destino selecionada e selecione Implementar.
3. Espere que a implementação do adaptador seja concluída. O adaptador implantado aparece na lista de implantações do adaptador.

Os nomes de implementação dos adaptadores podem conter de 1 a 64 letras, números, pontos, carateres de sublinhado ou hífens. O nome deve começar por uma letra ou um número.

Selecione o adaptador implementado para abrir os seus detalhes. Nesta página, pode:

• Abre-o no playground.
• Adiciona-o a um agente.
• Consulte o endpoint de inferência e os detalhes de autenticação.
• Veja a sua implementação de destino.
• Copie um excerto de código para chamar o adaptador.
• Utilize a configuração rápida para o Visual Studio Code.

Abra o adaptador no playground e envie um prompt relevante para a tarefa de ajuste fino. Usa o excerto de código da implantação do adaptador para testar a partir da tua aplicação. Chamar apenas a implantação de destino não testa o adaptador.

4. Implementar mais adaptadores para a mesma implantação de destino

Para partilhar uma implementação alvo entre adaptadores:

1. Selecione outro adaptador compatível em Build>Models e selecione Implementar.
2. Dê-lhe um nome de implantação diferente, como qwen-finance.
3. Selecione a mesma implantação de destino em Implantação de destino.
4. Selecione Deploy e espere que a implementação seja concluída.
5. Abra os detalhes da implementação alvo para confirmar que ambas as implementações dos adaptadores estão listadas.

Esta configuração é uma implementação multi-LoRA. Cada adaptador tem o seu próprio nome de deployment, mas ambos partilham o endpoint de computação e inferência do deployment alvo.

Teste um adaptador com conclusões de chat

Depois de a implementação do adaptador atingir o Succeeded estado de provisionamento, envie um pedido para a rota de chat-completions compatível com OpenAI. Copie o endpoint da conta a partir dos detalhes de implementação do adaptador no portal. Para a autenticação do Microsoft Entra ID, adquira um token de acesso para o https://ai.azure.com/.default escopo.

Define model para o nome de implementação do adaptador, não para o nome de implementação do alvo. O serviço utiliza este valor para selecionar o adaptador e resolve internamente a sua implantação de destino.

POST {account-endpoint}/openai/v1/chat/completions
Authorization: Bearer {access-token}
Content-Type: application/json

{
  "model": "qwen-support",
  "messages": [
    {
      "role": "user",
      "content": "How do I reset my account password?"
    }
  ]
}

A resposta segue o esquema de resposta chat-completions e retorna o nome de implementação do adaptador selecionado em model. Para testar o segundo adaptador no exemplo multi-LoRA, mude model para qwen-finance e envie um prompt para a sua tarefa finamente ajustada. O pedido não requer um api-version parâmetro de consulta.

Implementar e gerir adaptadores com REST

Utilize o REST para criar e gerir implementações de deployment de adaptadores com a versão 2026-09-15-preview da API.

Crie uma implantação do adaptador fornecendo o ID do modelo de origem registado e o nome da implantação de destino. Utilize um token de acesso para o Azure Resource Manager no cabeçalho de autorização; veja Gerir recursos Azure com REST.

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******
Content-Type: application/json

{
  "properties": {
    "sourceModelId": "azureai://accounts/{accountName}/projects/{projectName}/models/{modelName}/versions/{version}",
    "targetDeploymentName": "{targetDeploymentName}"
  }
}

A implantação é assíncrona. Consulta a URL devolvida em Azure-AsyncOperation, respeitando retry-after, até que a operação tenha sucesso ou falhe. Confirma que properties.provisioningState está Succeeded antes de testares o adaptador.

Verifique o estado da implementação de um adaptador:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

Liste os adaptadores ligados a uma implantação alvo:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments?api-version=2026-09-15-preview&$filter=properties%2FtargetDeploymentName%20eq%20%27{targetDeploymentName}%27
Authorization: ******

A resposta é paginada; segue nextLink até deixar de estar presente.

Eliminar implementação de adaptador:

DELETE https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

A deleção também pode ser assíncrona. Para uma 202 resposta, siga a URL da operação até que a eliminação seja concluída. Uma 204 resposta não requer mais sondagens.

Gerir e limpar implementações

Gerir cada adaptador pelo seu nome de implementação. Para mover um adaptador para uma implementação alvo compatível diferente, atualize targetDeploymentName mantendo o sourceModelIdmesmo . Espere que a atualização tenha sucesso antes de confiar na nova implementação de destino.

Não podes alterar a versão do modelo de origem de uma implementação de adaptador existente. Para implementar uma nova versão ajustada, criar uma nova implementação em produção de adaptador com um nome diferente, ou eliminar e recriar a implementação em produção existente.

Elimine uma implantação do adaptador quando já não precisar de a disponibilizar. Usa o pedido REST de eliminação em Implemente e faça a gestão de adaptadores com REST.

Eliminar uma implementação de adaptador não apaga a versão registada do modelo ou a implementação alvo. Outros adaptadores continuam a usar a capacidade de computação partilhada.

Remova todas as implementações de adaptador ligadas antes de apagar uma implementação de destino que criou para este exercício. Se adicionaste o adaptador opcional qwen-finance , apaga-o também. Não apague uma implementação de destino partilhada de que outras aplicações ainda precisam.

Antes de eliminar uma versão de modelo de adaptador registada, remova as implementações que o utilizam.

Escale o cálculo partilhado através da implementação de destino. Uma alteração de capacidade afeta a capacidade de computação partilhada pelos seus adaptadores.

Troubleshoot

Verifique o registo do adaptador, a compatibilidade do modelo base e o estado da implementação antes de tentar novamente.

Conteúdo relacionado

Saiba mais sobre implementações de adaptadores, implementações alvo, computação partilhada e outras opções de implementação de modelos afinados:

• Visão geral da implementação do adaptador para computação gerida.
• Disponibilizar modelos open-source com computação gerida.