Nota
O acesso a esta página requer autorização. Pode tentar iniciar sessão ou alterar os diretórios.
O acesso a esta página requer autorização. Pode tentar alterar os diretórios.
Implemente o seu modelo afinado no portal Microsoft Foundry com Serverless ou Managed Compute. Comece com um modelo ajustado e pronto para implementação.
Para comparações de implementação, compatibilidade de modelos e requisitos de artefactos, consulte a visão geral do ajuste fino e a tabela de modelos suportados.
Prerequisites
- Um modelo afinado disponível na Foundry, com o seu identificador e versão do modelo.
- Um projeto Foundry que suporta a opção de implementação selecionada.
- O papel Foundry Owner ou um papel com
Microsoft.CognitiveServices/accounts/deployments/writeno recurso alvo. Conclua qualquer configuração adicional do fornecedor listada no exemplo. - Quota de implantação ou capacidade de acelerador suficiente numa região suportada. Verifique a disponibilidade do modelo.
Fazer deploy com Serverless
Implementar um modelo compatível e ajustado com Serverless. Consulte a visão geral de ajuste fino para os tipos de implementação que o seu modelo suporta.
- Abra o portal Foundry e selecione o seu projeto.
- Abra a vista de detalhes para o seu trabalho de ajuste fino concluído, depois selecione Implementar.
- Escolha Serverless.
- Introduza um nome para a sua implantação.
- Escolha um tipo de implantação disponível com base nas suas necessidades e configure a capacidade dentro da sua quota disponível.
- Crie a implantação e depois acompanhe o seu progresso na página de Modelos.
Quando a implementação estiver concluída, abra o playground da Foundry e teste o seu modelo.
Implementar com adaptadores de Computação Gerida (pré-visualização)
Important
Os itens marcados como pré-visualização neste artigo estão atualmente em pré-visualização. Esta pré-visualização é fornecida sem um acordo de nível de serviço, e a Microsoft não a recomenda para cargas de trabalho de produção. Certas funcionalidades podem não ser suportadas ou podem ter capacidades limitadas. Para mais informações, consulte Termos Suplementares de Utilização para Microsoft Azure Previews.
Implementar um modelo ajustado compatível com Managed Compute. Para opções de compatibilidade e implementação, consulte a visão geral do ajuste fino.
Antes de começares
- Tenha um adaptador afinado que combine com o modelo base e a versão.
- Ter uma implantação de base que utilize um template de implantação habilitado pela LoRA. Se precisares de criar um, segue Implementar modelos open-source com Managed Compute.
- Conclua a configuração de permissões e quotas de Computação Gerida.
Desdobrar-se no portal
- Abra o seu projeto no portal da Foundry.
- Abra a vista de detalhes para o seu trabalho de ajuste fino concluído, depois selecione Implementar.
- Escolha Computação Gerida.
- Introduza um nome para a sua implantação.
- Selecione a implementação de base compatível.
- Revise a configuração e selecione Deploy.
- Aguarde a conclusão da implantação.
Quando a implementação estiver concluída, abra o playground da Foundry e teste o seu modelo.
Use o seu modelo finamente ajustado implementado
Teste a implantação no playground da Foundry com um prompt representativo da sua tarefa.
- Abre o Playground no teu projeto Foundry.
- Selecione a implantação ajustada que criou, não a implantação do modelo base.
- Envia um prompt de teste e confirma que o modelo responde.
Para avaliação repetível, consulte Executar avaliações a partir do portal Foundry ou Avaliação na Cloud com o Microsoft Foundry SDK. Para comparar candidatos, consulte Ver resultados da avaliação.
Limpe sua implantação
Remova a implantação de serving quando já não precisar.
- Abra a página Models no portal da Foundry para encontrar a sua implantação.
- Seleciona a implementação que criaste.
- Selecione Eliminar e confirme a eliminação.
Apaga apenas os recursos de serviço que criaste para este exemplo.