Migrar de modelos de GitHub para modelos de Microsoft foundry (clássico)

Exibição no momento:Versão do portal Foundry (clássico) - Alternar para a versão do novo portal Foundry

Neste artigo, você aprenderá a mover um aplicativo de IA generativa do serviço GitHub Models desativado para o Microsoft Foundry Models, ao implantar um recurso do Foundry Tools em uma assinatura do Azure. Ambos os serviços usam a mesma API de inferência, portanto, normalmente, você só precisa alterar o ponto de extremidade e as credenciais em seu código.

Pré-requisitos

Você precisa:

• Uma assinatura Azure com uma forma de pagamento válida. Se você não tiver uma assinatura Azure, crie uma conta de Azure paga para começar.
• Modelos do Foundry de parceiros e da comunidade requerem acesso ao Azure Marketplace. Verifique se você tem as permissões necessárias para assinar os modelos oferecidos. Foundry Models vendidos pela Azure não têm esse requisito.

Migrar para os modelos do Foundry

Ao contrário do GitHub Models, que era gratuito com limites de taxa, o uso do Foundry Models é cobrado na sua assinatura do Azure com base no tipo de implantação que você escolher.

Para substituir o endpoint e o token do GitHub Models por um endpoint e uma chave do Foundry Models:

1. Entre no portal do Foundry com sua conta Azure.

   Dica

   Se você acessar a experiência Foundry (clássica), ative a opção Nova Foundry no canto superior direito da tela para alternar para a nova experiência Foundry.

2. Siga as etapas em Implantar um modelo para implantar o modelo de sua escolha, testá-lo no Playground e inferência do modelo implantado com código.

3. Na página inicial do Foundry, copie a chave de API e o endpoint do projeto e use-os no lugar do endpoint do GitHub Models e do token de acesso pessoal no seu aplicativo.

4. Verifique se a migração funciona enviando um prompt de teste do Playground ou do seu código. Se você receber uma resposta, seu modelo estará pronto para uso.

Use seus modelos do Foundry no IDE

O playground GitHub Models não está mais disponível. Para experimentar modelos do editor, adicione a implantação do Foundry ao Visual Studio Code como um modelo de linguagem BYOK (traga sua própria chave):

1. Em Visual Studio Code, abra o seletor de modelos no modo de exibição chat e selecione Gerenciar Modelos de Linguagem (ícone de engrenagem) ou execute o comando Chat: Gerenciar Modelos de Linguagem na Paleta de Comandos.

2. Selecione Adicionar Modelos e selecione Azure na lista de provedores.

3. Insira um nome para o grupo de modelos e, depois, insira a URL de endpoint e a chave de API que você copiou no portal Foundry.

4. Selecione o modelo no seletor de modelos no chat.

Como alternativa, selecione Instalar Provedores de Modelos no editor de Modelos de Linguagem e instale a extensão Foundry Toolkit for VS Code , que adiciona os modelos locais e hospedados na nuvem do Foundry ao seletor de modelos.

Para obter mais informações, consulte modelos de linguagem em Visual Studio Code.

Explorar recursos adicionais

O Foundry Models dá suporte a recursos que os modelos de GitHub não ofereceram:

• Model catalog — Procurar, comparar e avaliar modelos de Azure, parceiros e a comunidade de software livre.
• Autenticação sem chaves — use Microsoft Entra ID para autenticação baseada em token sem gerenciar chaves de API.
• Filtragem de conteúdo – configure filtros de segurança de conteúdo para suas implantações.
• Limitação de taxa — defina limites de taxa personalizados para modelos específicos em seu recurso.
• Tipos de implantação – escolha entre vários SKUs de implantação, como pay-per-token, provisionado e lote.

Solucionar problemas comuns

Conteúdo relacionado

• Deploy Microsoft Foundry Models no portal da Foundry
• Criar implantações de modelo
• Tipos de implantação para modelos Foundry