Implantar adaptadores LoRA ajustados para computação gerenciada (versão prévia)

Implante um ou mais adaptadores de adaptação de baixa classificação (LoRA) produzidos pelo ajuste fino do Foundry em uma implantação de destino de computação gerenciada compatível. Você pode implantar um adaptador, testá-lo e anexar mais adaptadores à mesma implantação de destino.

Este artigo aplica-se somente aos adaptadores LoRA produzidos como a saída do ajuste fino na Foundry. Para informações sobre terminologia, arquitetura, comportamento de inferência compartilhada, ciclo de vida, faturamento e limites, consulte Visão geral da implantação de adaptadores para computação gerenciada.

Prerequisites

• Uma assinatura Azure e um projeto do Foundry.

• Um adaptador LoRA registrado produzido pelo ajuste fino na Foundry e visível na página Modelos do projeto.

• Permissão para gerenciar implantações na conta do Foundry, como a função Proprietário do Foundry ou Colaborador de Serviços Cognitivos. Você também precisa de acesso ao modelo de adaptador registrado.

  Importante

  As funções RBAC do Foundry foram renomeadas recentemente. Foundry User, Foundry Owner, Foundry Account Owner e Foundry Project Manager eram anteriormente chamados de Usuário do Azure AI, Proprietário do Azure AI, Proprietário da conta do Azure AI e Gerente de Projeto do Azure AI. Você ainda pode ver os nomes anteriores em alguns lugares enquanto essa mudança de nome está sendo implementada. Os IDs das funções e as permissões principais não são alterados com a mudança de nome.

• A função Usuário do Foundry na conta para inferência com o Microsoft Entra ID. Consulte o controle de acesso de computação gerenciada.

• Um modelo base compatível e um modelo de implantação com suporte a LoRA disponíveis em sua região.

• Cota de computação gerenciada suficiente para a família de aceleradores e a região da implantação de destino. Você pode selecionar uma implantação de destino existente ou criar uma durante a implantação do adaptador.

A visualização do Managed compute não inclui filtragem de conteúdo integrada. Analise suas limitações e os requisitos de segurança do seu aplicativo antes da implantação.

Implantar adaptadores no portal

Comece a partir de um adaptador LoRA registrado produzido pelo ajuste fino na Foundry. Você pode encontrar o adaptador em Build>Modelos ou começar pela guia Ajuste fino.

Uma implantação de destino dá suporte a até oito implantações de adaptador.

1. Selecione o adaptador e inicie o fluxo de implantação

No portal do Foundry, use um destes pontos de entrada:

• Abra Build>Models, selecione o adaptador LoRA que você deseja implantar e selecione Implantar. Esse ponto de entrada abre diretamente o fluxo de implantação de computação gerenciada.
• Abra a guia Ajuste fino, selecione o adaptador gerado pelo seu trabalho de ajuste fino concluído e, em seguida, selecione Implantar. Selecione computação gerenciada nas opções de implantação disponíveis.

2. Selecionar ou criar o destino de implantação

Um adaptador registrado não precisa de sua própria computação, mas precisa de uma implantação de destino compatível para atender às solicitações. Selecione-o no campo Implantação de destino.

• Se já existir uma implantação de destino compatível habilitada para LoRA, selecione-a em Target deployment e continue para Implantar o adaptador.
• Se não houver nenhuma implantação compatível, crie uma implantação de destino dentro do fluxo de implantação do adaptador.

A janela de criação de implantação de destino tem o suporte do LoRA habilitado por padrão. Para criar o deploy:

1. Selecione um modelo de implantação habilitado para LoRA.
2. Examine os detalhes do template, incluindo o runtime de inferência, a ID do modelo e a ID do template de implantação.
3. Selecione o tipo de acelerador, como H100, que corresponde ao template selecionado.
4. Conclua a configuração de implantação de destino e selecione Implantar.
5. Aguarde até que a implantação de destino conclua o provisionamento. Essa operação pode levar vários minutos. Quando o provisionamento é concluído, o campo Implantação de destino é preenchido automaticamente.

Para mais informações sobre a configuração e a capacidade de implantação de destino, consulte Implantar modelos de código aberto com computação gerenciada.

3. Fazer deploy do adaptador

1. Insira um nome de implantação do adaptador, como qwen-support. Use um nome exclusivo na conta e diferente do nome da implantação de destino.
2. Examine a implantação de destino selecionada e selecione Implantar.
3. Aguarde a conclusão da implantação do adaptador. O adaptador implantado aparece na lista de implantação de adaptadores.

Os nomes de implantação do adaptador podem conter de 1 a 64 letras, números, períodos, sublinhados ou hifens. Inicie o nome com uma letra ou número.

Selecione o adaptador implantado para abrir seus detalhes. Nesta página, você pode:

• Abra-o no playground.
• Adicione-o a um agente.
• Exiba o endpoint de inferência e os detalhes de autenticação.
• Exiba sua implantação de destino.
• Copie um snippet de código para chamar o adaptador.
• Use a configuração rápida para o Visual Studio Code.

Abra o adaptador no playground e envie um prompt relevante para sua tarefa de ajuste fino. Use o snippet de código da implantação do adaptador para testá-lo em seu aplicativo. Chamar apenas a implantação de destino não testa o adaptador.

4. Fazer deploy de mais adaptadores na mesma implantação de destino

Para compartilhar uma implantação de destino entre adaptadores:

1. Selecione outro adaptador compatível em Build> e selecione Implantar.
2. Dê a ele um nome de implantação diferente, como qwen-finance.
3. Selecione a mesma implantação de destino em implantação de destino.
4. Selecione Deploy e aguarde a conclusão da implantação.
5. Abra os detalhes da implantação de destino para confirmar se ambas as implantações do adaptador estão listadas.

Essa configuração é uma implementação de múltiplas LoRAs. Cada adaptador tem seu próprio nome de implantação, mas ambos compartilham o ponto de extremidade de computação e inferência da implantação de destino.

Teste um adaptador com conclusões de chat

Depois que a implantação do adaptador atingir o Succeeded estado de provisionamento, envie uma solicitação para a rota chat-completions compatível com OpenAI. Copie o endpoint da conta dos detalhes de implantação do adaptador no portal. Para autenticação do Microsoft Entra ID, adquira um token de acesso para o escopo https://ai.azure.com/.default.

Defina model como o nome da implantação do adaptador, não o nome da implantação de destino. O serviço usa esse valor para selecionar o adaptador e resolver sua implantação de destino internamente.

POST {account-endpoint}/openai/v1/chat/completions
Authorization: Bearer {access-token}
Content-Type: application/json

{
  "model": "qwen-support",
  "messages": [
    {
      "role": "user",
      "content": "How do I reset my account password?"
    }
  ]
}

A resposta segue o esquema de resposta de chat-completions e retorna o nome da implantação do adaptador selecionado em model. Para testar o segundo adaptador no exemplo multi-LoRA, altere model para qwen-finance e envie um prompt para a tarefa em que ele foi ajustado. A solicitação não requer um api-version parâmetro de query.

Implantar e gerenciar adaptadores com REST

Use REST para criar e gerenciar implantações de adaptador com a versão 2026-09-15-previewda API.

Crie uma implantação de adaptador fornecendo a ID registrada do modelo de origem e o nome de implantação de destino. Use um token de acesso para Azure Resource Manager no cabeçalho de autorização; consulte Gerenciar recursos do Azure com REST.

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******
Content-Type: application/json

{
  "properties": {
    "sourceModelId": "azureai://accounts/{accountName}/projects/{projectName}/models/{modelName}/versions/{version}",
    "targetDeploymentName": "{targetDeploymentName}"
  }
}

A implantação é assíncrona. Sondar a URL retornada em Azure-AsyncOperation, respeitando retry-after, até que a operação seja bem-sucedida ou falhe. Confirme que properties.provisioningState esteja Succeeded antes de testar o adaptador.

Verifique o status de uma implantação de adaptador:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

Liste os adaptadores associados a uma implantação de destino:

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments?api-version=2026-09-15-preview&$filter=properties%2FtargetDeploymentName%20eq%20%27{targetDeploymentName}%27
Authorization: ******

A resposta é paginada; siga nextLink até que não apareça mais.

Excluir uma implantação de adaptador:

DELETE https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroup}/providers/Microsoft.CognitiveServices/accounts/{accountName}/adapterDeployments/{adapterDeploymentName}?api-version=2026-09-15-preview
Authorization: ******

A exclusão também pode ser assíncrona. Para obter uma 202 resposta, siga a URL da operação até que a exclusão seja concluída. Uma resposta 204 não requer sondagens adicionais.

Gerenciar e limpar implantações

Gerencie cada adaptador pelo nome da implantação. Para mover um adaptador para uma implantação de destino compatível diferente, atualize targetDeploymentName mantendo o mesmo sourceModelId. Aguarde até que a atualização seja bem-sucedida antes de depender da nova implantação de destino.

Você não pode alterar a versão do modelo de origem de uma implantação de adaptador existente. Para implantar uma nova versão ajustada, crie uma nova implantação de adaptador com um nome diferente ou exclua e recrie a implantação existente.

Exclua uma implantação de um adaptador quando você não precisar mais disponibilizá-la. Use a solicitação de exclusão REST em Implantar e gerenciar adaptadores com REST.

Excluir uma implantação de adaptador não exclui sua versão de modelo registrada ou implantação de destino. Outros adaptadores ainda usam o compute compartilhado.

Remova todas as implantações de adaptador anexadas antes de excluir uma implantação de destino que você criou para este exercício. Se você adicionou o adaptador opcional qwen-finance , exclua-o também. Não exclua uma implantação de destino compartilhado de que outros aplicativos ainda precisam.

Antes de excluir uma versão do modelo de adaptador registrado, remova as implantações do adaptador que a usam.

Escale a computação compartilhada por meio da implantação de destino. Uma alteração de capacidade afeta a capacidade de processamento compartilhada por seus adaptadores.

Troubleshoot

Verifique o registro do adaptador, a compatibilidade do modelo base e o status da implantação antes de tentar novamente.

Conteúdo relacionado

Saiba mais sobre implantações de adaptadores, implantações de destino, computação compartilhada e outras opções de implantação de modelos ajustados:

• Visão geral da implantação do adaptador para computação gerenciada.
• Implante modelos de código aberto com computação gerenciada.