Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
Importante
Os itens marcados como visualização neste artigo estão atualmente em versão prévia. Esta versão prévia é fornecida sem um contrato de nível de serviço (SLA), e a Microsoft não a recomenda para cargas de trabalho de produção. Alguns recursos podem não ter suporte ou podem ter restrição de recursos. Para obter mais informações, consulte Termos de Uso Complementares para Versões Prévias do Microsoft Azure.
Uma implantação de adaptador disponibiliza um adaptador LoRA (Low-Rank Adaptation) em uma implantação de destino de computação gerenciada compatível no Microsoft Foundry. As implantações do adaptador não exigem recursos de computação adicionais. Eles compartilham a capacidade computacional fornecida pela implantação do modelo base, denominada implantação de destino. Embora as implantações de adaptador não exijam computação adicional, elas vêm com seu próprio nome de implantação, o que permite rotear solicitações de inferência por meio do ponto de extremidade de inferência da conta do Foundry.
Vários adaptadores compatíveis podem compartilhar uma implantação de destino. Essa configuração é chamada de serviço multi-LoRA.
Este artigo aplica-se somente aos adaptadores LoRA produzidos como a saída do ajuste fino na Foundry. Você ainda não pode importar seus próprios adaptadores.
Como os adaptadores LoRA especializam um modelo básico
A adaptação de baixa classificação é uma técnica de ajuste fino que treina um pequeno conjunto de parâmetros adicionais em vez de atualizar todos os parâmetros do modelo base. O adaptador LoRA resultante é um conjunto leve de alterações aprendidas que especializa o modelo para uma tarefa ou domínio.
Um adaptador LoRA não pode ser executado sozinho. Em tempo de inferência, o runtime de serviço combina o adaptador com o modelo base compatível. O modelo base exato e a versão importam porque as alterações aprendidas do adaptador se aplicam à arquitetura e aos pesos desse modelo.
Recursos em uma implantação de adaptador
O serviço de adaptador utiliza recursos de modelo e de implantação relacionados. Cada recurso tem uma responsabilidade separada.
| Term | Meaning |
|---|---|
| Modelo base | O modelo e a versão de base usados para criar o adaptador. Uma implantação de destino deve executar um modelo base e uma versão compatíveis. |
| Adaptador LoRA registrado | O ativo de modelo criado a partir de uma saída de ajuste fino da Foundry. O registro disponibiliza o adaptador em Build > Models, mas não fornece capacidade de computação nem faz com que o adaptador possa ser chamado. |
| Modelo de implantação | Um ativo nomeado e com versão que define como um modelo é executado, incluindo o runtime de serviço e a configuração do acelerador. Para servir o adaptador, selecione um template que dê suporte ao LoRA. |
| Implantação de destino | Uma implantação de computação gerenciada que executa o modelo base compatível usando um template de implantação habilitado para LoRA. Ela detém os aceleradores, a capacidade, as réplicas e o endpoint de inferência que seus adaptadores compartilham. |
| Implantação do adaptador | Uma conexão implantada entre uma versão do adaptador LoRA registrada e uma implantação de destino. Ele tem seu próprio nome de implantação, mas não provisiona computação, capacidade, réplicas ou um ponto de extremidade separado. |
| Implantação multi-LoRA | Duas ou mais implantações de adaptador compatíveis que usam a mesma implantação de destino. Cada adaptador mantém seu próprio nome de implantação e comportamento especializado ao compartilhar a infraestrutura da implantação de destino. |
Por exemplo, uma implantação de destino nomeada qwen-prod pode hospedar implantações de adaptador nomeadas qwen-support e qwen-finance. Ambos os adaptadores usam o modelo base, a computação e o ponto de extremidade fornecidos por qwen-prod. Os nomes de implantação distintos identificam qual comportamento específico um aplicativo seleciona.
Como funciona o compartilhamento de várias LoRA
O destino da implantação é a infraestrutura compartilhada de disponibilização. Seu modelo de implantação determina se o runtime dá suporte ao LoRA e define o tipo de acelerador, as instâncias de modelo e outras configurações de runtime.
Anexar um adaptador não cria outra instância de modelo nem aumenta a capacidade da implantação de destino. Cada adaptador no destino consome a mesma capacidade de disponibilização. O dimensionamento da implantação de destino altera a capacidade disponível para o modelo base e todos os adaptadores anexados.
Como a inferência seleciona um adaptador
O adaptador deve concluir o provisionamento antes de atender às solicitações. Uma implantação bem-sucedida apresenta um Succeeded estado de provisionamento.
Suponha que qwen-prod seja a implantação de destino do modelo base e qwen-support e qwen-finance sejam suas implantações de adaptador. Enviar solicitações para o endpoint /openai/v1/chat/completions da conta do Foundry. Defina model como o nome do deploy que você deseja invocar:
model valor |
Comportamento selecionado |
|---|---|
qwen-support |
Modelo base com o adaptador de suporte. |
qwen-finance |
Modelo base com o adaptador financeiro. |
A solicitação a seguir seleciona o adaptador de suporte. Copie o endpoint da conta dos detalhes de implantação do adaptador no portal. Para a autenticação do Microsoft Entra ID, adquira um token de acesso para o escopo https://ai.azure.com/.default.
POST {account-endpoint}/openai/v1/chat/completions
Authorization: Bearer {access-token}
Content-Type: application/json
{
"model": "qwen-support",
"messages": [
{
"role": "user",
"content": "How do I reset my account password?"
}
]
}
Para invocar o adaptador financeiro, altere model para qwen-finance e use um prompt para sua tarefa. O serviço resolve internamente o deployment de destino do adaptador.
Para obter instruções de autenticação e teste, consulte Testar um adaptador com completions de chat.
Requisitos de compatibilidade e capacidade
O Foundry valida o adaptador e a implantação de destino antes de disponibilizar o adaptador. A configuração deve atender a estes requisitos:
- O adaptador é uma saída registrada de um trabalho de ajuste fino da Foundry.
- A implantação de destino executa o modelo base e a versão compatíveis.
- O destino utiliza um modelo de implantação que oferece suporte a LoRA.
- O adaptador se enquadra nos limites de quantidade de adaptadores suportados, rank LoRA e memória disponível do modelo base.
- O destino possui cota e capacidade de computação gerenciada suficientes para sua família de aceleradores e região.
Ciclo de vida e dependências do adaptador
Uma implantação de adaptador e seu adaptador LoRA registrado são recursos separados. As regras a seguir descrevem como as alterações de implantação afetam o adaptador e a implantação de destino.
Uma implantação de adaptador existente faz referência a uma versão fixa do adaptador LoRA registrado, não ao modelo base. Para atender a uma versão diferente do adaptador, crie uma nova implantação de adaptador ou exclua e recrie a implantação existente.
Você pode mover a mesma origem do adaptador para outra implantação de destino compatível atualizando o nome da implantação de destino. Aguarde até que a atualização seja bem-sucedida antes de rotear solicitações para o novo destino.
Excluir uma implantação de adaptador não exclui sua versão de modelo registrada ou implantação de destino. Também não afeta outros adaptadores que compartilham o destino.
Remova as implantações de adaptador dependentes antes de excluir uma versão do modelo de adaptador registrado ou a implantação de destino. Essa ordenação impede que uma implantação de adaptador se refira a uma origem ou destino que não existe mais.
Cobrança, cota e limites
O deploy de destino é cobrado por hora por acelerador. A cota de computação gerenciada é alocada por família e região do acelerador, separadamente da cota de máquina virtual do Azure. Para obter mais informações, consulte Cobrança e cota de computação gerenciada.
As implantações do adaptador não têm preços separados. A cobrança aplica-se aos recursos de computação da implantação de destino.
Para o limite de número de adaptadores, consulte Implantar adaptadores no portal.
Para obter as taxas de computação gerenciadas atuais, consulte a Calculadora de Preços do Azure.
Próxima etapa
Implante e teste um ou mais adaptadores LoRA registrados em uma implantação de destino compatível.