Migrar de modelos GitHub para modelos Microsoft Foundry (clássico)

Atualmente a ver:versão do portal Foundry (clássica) - Trocar para a versão do novo portal Foundry

Neste artigo, aprende como transferir uma aplicação de IA generativa do serviço GitHub Models aposentado para o Microsoft Foundry Models, implementando um recurso Foundry Tools numa subscrição do Azure. Ambos os serviços usam a mesma API de inferência, por isso normalmente só precisas de alterar o endpoint e as credenciais no teu código.

Pré-requisitos

Precisa de:

• Uma subscrição do Azure com um método de pagamento válido. Se não tiver uma subscrição do Azure, crie uma conta do Azure paga para começar.
• Modelos Foundry de parceiros e da comunidade requerem acesso ao Azure Marketplace. Certifique-se de que tem as permissões necessárias para aderir às ofertas de modelos. Os modelos Foundry vendidos pela Azure não têm este requisito.

Migrar para modelos de fundição

Ao contrário do GitHub Models, que era gratuito com limites de taxa, a utilização do Foundry Models é faturada à sua subscrição do Azure com base no tipo de implementação que escolher.

Para substituir o endpoint e o token do GitHub Models por um endpoint e uma chave do Foundry Models:

1. Inicie sessão no portal Foundry com a sua conta Azure.

   Dica

   Se estiver na experiência Foundry (clássica), alterne para a nova experiência Foundry utilizando o comutador New Foundry no canto superior direito.

2. Siga os passos em Deploy a Model para implementar o modelo da sua escolha, teste-o no Playground e infera o modelo implementado com código.

3. Na página inicial do Foundry, copie a chave da API e o endpoint do Project, e use-os em vez do endpoint do GitHub Models e do token de acesso pessoal na sua aplicação.

4. Verifica se a migração funciona enviando um prompt de teste a partir do Playground ou do teu código. Se receber uma resposta, o seu modelo está pronto a ser usado.

Utilize os seus modelos Foundry no IDE

O playground do GitHub Models já não está disponível. Para experimentar modelos do seu editor, adicione a sua implementação do Foundry ao Visual Studio Code como um modelo de linguagem bring your own key (BYOK):

1. No Visual Studio Code, abra o seletor de modelos na vista Chat e selecione Gerir Modelos de Linguagem (ícone de engrenagem), ou execute o comando Chat: Gerir Modelos de Linguagem a partir da Paleta de Comandos.

2. Selecione Adicionar Modelos e depois selecione Azure na lista de fornecedores.

3. Introduza um nome de grupo para os modelos e depois introduza a URL do endpoint e a chave API que copiou do portal Foundry.

4. Selecione o modelo no seletor de modelos no chat.

Alternativamente, selecione Instalar Provedores de Modelos no editor de Modelos de Linguagem e instale a extensão Foundry Toolkit for VS Code , que adiciona os modelos locais e alojados na cloud do Foundry ao seletor de modelos.

Para mais informações, consulte Modelos de Linguagem no Visual Studio Code.

Explore funcionalidades adicionais

O Foundry Models suporta funcionalidades que o GitHub Models não oferecia:

• Catálogo de modelos — Explore, compare e avalie modelos de Azure, parceiros e da comunidade open-source.
• Autenticação sem chave — Use Microsoft Entra ID para autenticação baseada em token sem gerir chaves API.
• Filtragem de conteúdos — Configure filtros de segurança de conteúdo para as suas implementações.
• Limitação de taxa — Defina limites de taxa personalizados para modelos específicos no seu recurso.
• Tipos de implementação — Escolha entre múltiplos SKUs de implementação, como pay-per-token, provisioned e batch.

Resolver problemas comuns

Conteúdo relacionado

• Implementar os Modelos Foundry da Microsoft no portal Foundry
• Criar implementações de modelos
• Tipos de implementação para Modelos de Fundição