Visão geral dos modelos de Microsoft foundry

O Microsoft Foundry Models é seu destino único para descobrir, avaliar e implantar modelos de IA avançados. Se você estiver criando um copilot personalizado, um agente, aprimorando um aplicativo existente ou explorando novos recursos de IA, o Foundry Models tem você coberto.

Usando Modelos Foundry, você pode:

• Explore um rico catálogo de modelos de ponta de Microsoft, Azure OpenAI, Anthropic, DeepSeek, Meta, Mistral, Cohere, Hugging Face e muito mais.
• Compare e avalie modelos lado a lado usando tarefas reais e seus próprios dados.
• Implante com confiança, graças às ferramentas internas para ajuste fino, observabilidade e IA responsável.
• Escolha seu caminho : traga seu próprio modelo, use um hospedado ou integre-se perfeitamente aos serviços do Azure.

Seja você um desenvolvedor, cientista de dados ou arquiteto corporativo, o Foundry Models oferece a flexibilidade e o controle para criar soluções de IA que são dimensionadas de forma segura, responsável e rápida.

A Foundry oferece um catálogo abrangente de modelos de IA. O catálogo inclui mais de 10.000 modelos, com aproximadamente 50 novos modelos publicados por mês. Esses modelos vão desde modelos de base, modelos de raciocínio, modelos de linguagem pequenos, modelos multimodal, modelos específicos de domínio e modelos do setor.

O catálogo de modelos é organizado em duas categorias principais:

• Modelos Foundry vendidos pela Azure
• Modelos do Foundry de parceiros e da comunidade

Entender a distinção entre essas categorias ajuda você a escolher os modelos certos para seus requisitos específicos e metas estratégicas.

Modelos vendidos por Azure

A Microsoft hospeda e vende esses modelos em Termos de Produto da Microsoft. Microsoft avalia esses modelos e os integra profundamente ao ecossistema de IA do Azure. Os modelos vêm de uma variedade de provedores e oferecem integração aprimorada, desempenho otimizado e suporte Microsoft direto, incluindo SLAs (contratos de nível de serviço) de nível empresarial. Para obter uma lista detalhada desses modelos e suas capacidades, consulte Modelos do Foundry vendidos pelo Azure.

Características dos modelos vendidos por Azure:

• Microsoft fornece suporte.
• Alto nível de integração com Azure serviços e infraestrutura.
• Sujeitos à análise interna e revisão com base nos padrões de IA Responsável da Microsoft: os modelos vendidos diretamente por meio de Azure passam por processos internos de revisão de IA responsável do Microsoft e os resultados de alto nível dessas revisões são refletidos na documentação específica para cada modelo no Catálogo de Modelos disponível em https://ai.azure.com/explore/models.
  • Os clientes devem consultar os detalhes da avaliação na documentação para entender as limitações de cada modelo antes de integrá-los aos aplicativos.
• Os clientes devem observar que essas revisões não garantem mitigações de riscos potenciais. Modelos diferentes têm características de segurança diferentes e os clientes devem examinar cuidadosamente a documentação e realizar suas próprias avaliações no contexto de seus aplicativos para garantir que os riscos sejam compreendidos ou mitigados antes da implantação.
• A documentação do modelo e os relatórios de transparência fornecem visibilidade do cliente para modelar riscos, mitigações e limitações.
• Escalabilidade, confiabilidade e segurança de nível empresarial.

Alguns desses modelos também oferecem taxa de transferência provisionada fungível, o que significa que você pode usar flexivelmente sua quota e reservas em qualquer um desses modelos. Para saber como o Foundry lida com os dados que você fornece aos Modelos do Foundry vendidos por Azure, consulte Dados, privacidade e segurança para modelos vendidos por Azure no Microsoft Foundry.

Modelos de parceiros e comunidade

Esses modelos constituem a grande maioria dos Modelos do Foundry. Organizações terceirizadas confiáveis, parceiros, laboratórios de pesquisa e colaboradores da comunidade fornecem esses modelos. Elas oferecem funcionalidades especializadas e diversas de IA, abrangendo uma ampla variedade de cenários, setores e inovações. Exemplos de modelos de parceiros e da comunidade incluem a família de grandes modelos de linguagem desenvolvida pela Anthropic e os modelos abertos do hub Hugging Face.

O Antropic inclui a família Claude de modelos de linguagem grandes de última geração que dão suporte a entrada de texto e imagem, saída de texto, funcionalidades multilíngues e visão. Para obter ajuda com modelos antropáticos, use Suporte da Microsoft. Para saber mais sobre privacidade, consulte Data, privacidade e segurança para modelos Claude no Microsoft Foundry (versão prévia). Para termos que regem o processamento de dados, consulte o Adendo de Processamento de Dados da Antropic e os Termos de Serviço Comerciais da Antropic. Para saber como trabalhar com modelos Anthropic, consulte Implante e utilize modelos Claude no Microsoft Foundry.

O Hub do Hugging Face inclui centenas de modelos para inferência em tempo real com recursos de computação gerenciados. O Hugging Face cria e mantém modelos listados nesta coleção. Para obter ajuda com os modelos da Hugging Face, use o fórum Hugging Face ou suporte da Hugging Face. Saiba como implantar modelos de Hugging Face em Como implantar e inferir com uma implantação gerenciada de computação (clássica).

Características de modelos dos parceiros e da comunidade:

• Desenvolvido e com suporte por parceiros externos e colaboradores da comunidade
• Variedade diversificada de modelos especializados que atendem a casos de nicho ou de uso amplo
• Normalmente validados pelos próprios provedores, com diretrizes de integração fornecidas pelo Azure
• Inovação orientada pela comunidade e disponibilidade rápida de modelos de ponta
• Integração de IA de Azure padrão, com suporte e manutenção gerenciados pelos respectivos provedores

Você implanta modelos de parceiros e comunidade usando opções de computação gerenciada ou implantação sem servidor. O provedor de modelos seleciona como os modelos são implantáveis. Para saber mais sobre as diferenças entre essas opções de implantação, consulte as opções de implantação de modelo: computação gerenciada e implantações sem servidor.

Solicitar que um modelo seja incluído no catálogo de modelos

Solicite que Microsoft adicione um modelo ao catálogo de modelos diretamente da página do catálogo de modelos no portal do Foundry.

1. Vá para a página do catálogo de modelos.
2. Na barra de pesquisa, pesquise por um modelo que não existe no catálogo, como o mymodel.
3. Selecione Solicitar um modelo para compartilhar detalhes sobre o modelo que você deseja solicitar.

Escolher entre modelos vendidos por Azure e modelos de parceiros e comunidade

Ao selecionar quais modelos do Foundry usar, considere os seguintes fatores:

• Caso de uso e requisitos: modelos vendidos por Azure são ideais para cenários que exigem integração profunda Azure, suporte garantido e SLAs empresariais. Modelos de parceiros e da comunidade destacam-se em casos de uso especializados e cenários liderados por inovação.
• Expectativas de suporte: os modelos vendidos pelo Azure vêm com suporte e manutenção robustos fornecidos pela Microsoft. Os modelos de parceiros e de comunidade têm suporte de seus provedores, com diferentes níveis de SLA e estruturas de suporte.
• Inovação e especialização: modelos de parceiros e comunidade oferecem acesso rápido a inovações especializadas e recursos de nicho, muitas vezes desenvolvidos por laboratórios de pesquisa líderes e provedores emergentes de IA.

Visão geral dos recursos do catálogo de modelos

O catálogo de modelos no portal do Foundry é o hub para descobrir e usar uma ampla gama de modelos para criar aplicativos de IA generativos. O catálogo de modelos apresenta milhares de modelos de provedores como Azure OpenAI, Anthropic, Mistral, Meta, Cohere, NVIDIA e Hugging Face, incluindo modelos treinados pela Microsoft. Modelos de provedores diferentes de Microsoft são produtos não Microsoft, conforme definido em Microsoft Termos do Produto e estão sujeitos aos termos fornecidos com os modelos.

Pesquise e descubra modelos que atendam às suas necessidades por meio de filtros e pesquisa de palavra-chave. O catálogo de modelos também oferece a classificação de desempenho do modelo e as métricas de benchmark para modelos selecionados. Acesse-os selecionando Exibir placar de líderes e comparar modelos. Os dados de parâmetro de comparação também estão disponíveis na guia Benchmarks do cartão modelo.

O catálogo de modelos inclui vários filtros, alguns dos quais incluem filtragem com base em:

• Coleções: coleções de provedores de modelo
• Região: Disponibilidade do modelo para implantação em regiões Azure específicas
• Opções de implantação: opções de implantação com suporte (computação gerenciada ou API sem servidor)
• SKU de implantação: tipos de implantação disponíveis para a opção de implantação de API sem servidor
• Ciclo de vida: ciclo de vida do modelo (versão prévia, disponível em geral ou preterido)
• Setor: conjunto de dados específico do setor usado para treinar modelos (por exemplo, saúde, varejo ou manufatura)
• Recursos com suporte: recursos de modelo exclusivos, como raciocínio e chamada de ferramentas
• Tarefas de inferência: tipo de tarefa de inferência (por exemplo, conclusão de chat, geração de áudio ou inserções)

Alguns dos detalhes disponíveis no cartão modelo são:

• Fatos rápidos: Informações importantes sobre o modelo rapidamente
• Aba Detalhes: Informações detalhadas sobre o modelo, como descrição, informações sobre a versão e tipos de dados suportados.
• Guia implantações: uma lista das implantações existentes para o modelo
• Aba Benchmarks: Métricas de desempenho para modelos selecionados
• Guia Licença : Informações legais relacionadas ao licenciamento de modelo

Opções de implantação de modelo: computação gerenciada e implantações sem servidor

O catálogo de modelos oferece duas opções distintas para implantar modelos para seu uso: computação gerenciada e implantações sem servidor. Para saber mais sobre as opções de implantação, confira a visão geral da implantação para modelos de Microsoft foundry. Para saber como o Foundry lida com os dados que você fornece aos Modelos do Foundry vendidos por Azure, consulte Dados, privacidade e segurança para modelos vendidos por Azure no Microsoft Foundry.

Funcionalidades das opções de implantação de modelo

As opções de implantação e os recursos disponíveis para cada modelo variam, conforme descrito na tabela a seguir:

Computação gerenciada

A capacidade de implantar modelos como computação gerenciada se baseia nos recursos da plataforma Azure Machine Learning para permitir a integração perfeita da ampla coleção de modelos no catálogo de modelos ao longo de todo o ciclo de vida das operações de modelos de linguagem grande (LLM).

Disponibilidade de modelos para implantação como computação gerenciada

Você pode acessar esses modelos por meio de registros do Azure Machine Learning. Esses registros permitem uma abordagem primordialmente de aprendizado de máquina para hospedagem e distribuição de ativos do Azure Machine Learning. Esses ativos incluem pesos do modelo, runtimes de contêiner para executar os modelos, pipelines para avaliar e ajustar os modelos, e conjuntos de dados para os parâmetros de comparação e exemplos.

Os registros se baseiam em uma infraestrutura altamente escalonável e pronta para a empresa que:

• Fornece acesso de baixa latência a artefatos de modelos em todas as regiões do Azure com replicação geográfica integrada.

• Dá suporte a requisitos de segurança empresarial, como limitar o acesso a modelos usando Azure Policy e implantação segura usando redes virtuais gerenciadas.

Implantação de modelos para inferência com computação gerenciada

Implante no Azure Machine Learning os modelos disponíveis para implantação em computação gerenciada para inferência em tempo real. Para implantar na computação gerenciada, você precisa de uma cota de máquina virtual em sua assinatura Azure para que os produtos específicos executem o modelo de maneira ideal. Alguns modelos permitem implantar em uma cota temporariamente compartilhada para testes de modelo.

Saiba mais sobre como implantar modelos:

• Para implantar modelos abertos na computação gerenciada, consulte Como implantar e inferir com uma implantação de computação gerenciada (clássica).
• Para implantar modelos protegidos do Foundry em computação gerenciada com cobrança de pagamento conforme o uso, confira Implantar modelos do Microsoft Foundry em computação gerenciada com cobrança de pagamento conforme o uso (clássico).

Criando aplicativos de IA generativos com computação gerenciada

O recurso prompt flow no Azure Machine Learning oferece uma ótima experiência para protótipos. Use modelos implantados com computação gerenciada no prompt flow com a ferramenta Open Model LLM. Você também pode usar a API REST exposta pela computação gerenciada em ferramentas populares de LLM, como LangChain, com a extensão Azure Machine Learning.

Segurança de conteúdo para modelos implantados como computação gerenciada

O serviço Segurança de Conteúdo de IA do Azure está disponível para uso com computação gerenciada para triagem para várias categorias de conteúdo prejudicial, como conteúdo sexual, violência, ódio e automutilação. Você também pode usar o serviço para filtrar ameaças avançadas, como detecção de risco de jailbreak e detecção de texto de material protegido.

Para referência de integração com a Segurança de Conteúdo de IA do Azure para Llama 2, consulte este notebook. Ou use a ferramenta Segurança de Conteúdo (Texto) no prompt flow para passar respostas do modelo para a Segurança de Conteúdo de IA do Azure para verificação. Você é cobrado separadamente por esse uso, conforme descrito na seção de preços do Segurança de Conteúdo de IA do Azure.

Implantações sem servidor

As implantações sem servidor fornecem uma maneira de consumir Modelos Foundry como APIs sem hospedá-los em sua assinatura. Microsoft hospeda os modelos em uma infraestrutura gerenciada, o que permite o acesso baseado em API ao modelo do provedor de modelos. O acesso baseado em API pode reduzir drasticamente o custo de acesso a um modelo e simplificar a experiência de instalação.

Os provedores de modelo oferecem modelos para implantações sem servidor, mas Microsoft hospeda-os em uma infraestrutura de Azure gerenciada e fornece acesso por meio de APIs. Os provedores de modelo definem os termos de licença e definem o preço para o uso de seus modelos. O serviço Azure Machine Learning:

• Gerencia a infraestrutura de hospedagem.
• Disponibiliza as APIs de inferência.
• Atua como o processador de dados para prompts enviados e saída de conteúdo para implantações sem servidor.

Tipos de implantação sem servidor

A opção de implantação sem servidor para Modelos de Fundimento oferece duas categorias de implantação principais: padrão (pagamento por token) e provisionado (capacidade reservada). Em cada categoria, você pode escolher processamento global, de zona de dados ou regional com base em seus requisitos de conformidade.

Os tipos de implantação sem servidor disponíveis incluem: Global Standard, Global Provisioned, Global Batch, Data Zone Standard, Data Zone Provisioned, Data Zone Batch, Standard, Regional Provisioned e Developer. Para saber mais sobre esses tipos de implantação e como escolher o ideal para seu uso, consulte Tipos de Implantação para Modelos de Fundição da Microsoft.

Cobrança para implantações sem servidor

A experiência de descoberta, assinatura e consumo para modelos implantados como implantações sem servidor está no portal do Foundry e Estúdio do Azure Machine Learning. Os usuários aceitam termos de licença para uso dos modelos. As informações de preços para consumo estão disponíveis durante a implantação.

Modelos do Foundry de parceiros e comunidade são cobrados por meio de Azure Marketplace, de acordo com os Termos de Uso do Marketplace Comercial da Microsoft.

Os Modelos do Foundry vendidos pela Azure são faturados por meio dos medidores do Azure como Serviços de Consumo de Primeira Parte. Conforme descrito nos Termos do Produto , você compra serviços de consumo de primeira parte usando medidores do Azure, mas eles não estão sujeitos aos termos de serviço do Azure. O uso desses modelos está sujeito aos termos de licença fornecidos.

RAG com modelos implantados como implantações sem servidor

No portal do Foundry, use índices vetoriais e RAG (geração aumentada de recuperação) com modelos implantados por meio de implantações sem servidor para gerar inserções e inferências com base em dados personalizados. Use essas inserções e inferências para gerar respostas específicas ao seu caso de uso. Para obter mais informações, consulte Criar e consumir índices de vetor no portal do Microsoft Foundry (clássico).

Segurança de conteúdo para modelos implantados por meio de implantações sem servidor

Para modelos de linguagem implantados por meio da API sem servidor, Azure IA implementa uma configuração padrão de Segurança de Conteúdo de IA do Azure filtros de moderação de texto que detectam conteúdo prejudicial, como ódio, automutilação, conteúdo sexual e violento. Para saber mais sobre filtragem de conteúdo, consulte Proteções e controles para modelos comercializados pelo Azure.

A filtragem de conteúdo ocorre de forma síncrona à medida que o serviço processa solicitações para gerar conteúdo. Você pode ser cobrado separadamente de acordo com os Preços de Segurança de Conteúdo de IA do Azure para tal uso. Você pode desativar a filtragem de conteúdo para pontos de extremidade sem servidor individuais de uma das seguintes maneiras:

• No momento em que você implanta um modelo de idioma pela primeira vez
• Posteriormente, ao selecionar a alternância de filtragem de conteúdo na página de detalhes da implantação

Suponha que você decida usar uma API diferente do SDK do OpenAI Azure com as APIs Azure OpenAI v1 para trabalhar com um modelo implantado por meio de uma API sem servidor. Nessa situação, a filtragem de conteúdo não está habilitada, a menos que você a implemente separadamente usando Segurança de Conteúdo de IA do Azure.

Para começar a usar Segurança de Conteúdo de IA do Azure, consulte Quickstart: Analisar conteúdo de texto. Se você não usar a filtragem de conteúdo ao trabalhar com modelos implantados por meio da API sem servidor, você corre um risco maior de expor os usuários a conteúdo prejudicial.

Disponibilidade regional dos Foundry Models

A cobrança por token está disponível apenas para usuários cuja assinatura do Azure esteja vinculada a uma conta de cobrança em um país ou região onde o provedor do modelo disponibiliza a oferta. Se a oferta estiver disponível na região relevante, o usuário deverá ter um recurso de projeto na região Azure em que o modelo está disponível para implantação ou ajuste fino, conforme aplicável. Para consultar a disponibilidade regional do Foundry Models, veja:

• Disponibilidade regional para modelos do Foundry vendidos pelo Azure
• Disponibilidade por região dos Foundry Models de parceiros e da comunidade

Isolamento de rede para modelos implantados por meio de implantações sem servidor

Os pontos de extremidade dos modelos implantados como implantações sem servidor seguem a configuração do sinalizador de acesso à rede pública do hub do Foundry que contém o projeto no qual a implantação existe. Para ajudar a proteger sua implantação sem servidor, desabilite o sinalizador de acesso à rede pública em seu hub do Foundry. Você pode ajudar a proteger a comunicação de entrada de um cliente para o seu ponto de extremidade usando um ponto de extremidade privado para o hub.

Para configurar o flag de acesso à rede pública para o Foundry Hub:

1. Acesse o portal Azure.
2. Pesquise o grupo de recursos ao qual o hub pertence e selecione seu hub Foundry nos recursos listados para esse grupo de recursos.
3. Na página de visão geral do hub, no painel esquerdo, vá para Configurações>de Rede.
4. Na guia Acesso público , defina as configurações para o sinalizador de acesso à rede pública.
5. Salve suas alterações. As alterações podem levar até cinco minutos para serem propagadas.

Limitações

• Se você tiver um hub do Foundry com um ponto de extremidade privado criado antes de 11 de julho de 2024, as implantações sem servidor adicionadas a projetos neste hub não seguirão a configuração de rede do hub. Em vez disso, crie um novo ponto de extremidade privado para o hub e uma nova implantação sem servidor no projeto para que as novas implantações possam seguir a configuração de rede do hub.

• Se você tiver um hub do Foundry com implantações sem servidor criadas antes de 11 de julho de 2024 e habilitar um ponto de extremidade privado nesse hub, as implantações sem servidor existentes não seguirão a configuração de rede do hub. Para que as implantações sem servidor no hub sigam a configuração de rede do hub, crie as implantações novamente.

• Atualmente, Azure OpenAI On Your Data suporte não está disponível para implantações sem servidor em hubs privados, pois os hubs privados têm o sinalizador de acesso à rede pública desabilitado.

• Qualquer alteração de configuração de rede (por exemplo, habilitar ou desabilitar o sinalizador de acesso à rede pública) pode levar até cinco minutos para ser propagada.

Modelos de ajuste fino

Determinados modelos também dão suporte ao ajuste fino. Para esses modelos, você pode usar a computação gerenciada ou o ajuste fino de implantações sem servidor para adaptar os modelos usando os dados fornecidos. Para obter mais informações, consulte Ajustar modelos com o Microsoft Foundry (clássico).  

Ciclo de vida do modelo: obsolescência e desativação

Os modelos de IA evoluem rapidamente. Quando uma nova versão ou um novo modelo com recursos atualizados na mesma família de modelos fica disponível, os modelos mais antigos podem ser desativados no catálogo de modelos do Foundry. Para permitir uma transição suave para uma versão de modelo mais recente, alguns modelos permitem que os usuários habilitem atualizações automáticas. Para saber mais sobre o ciclo de vida do modelo de modelos diferentes, as próximas datas de desativação do modelo e as versões e modelos de substituição sugeridos, consulte:

• Política de suporte e ciclo de vida do Microsoft Foundry Models
• Cronograma de desativação do modelo
• Modelos de fundição aposentados

Conteúdo relacionado

• Acesso instantâneo a modelos no Microsoft Foundry (versão prévia)
• Data, privacidade e segurança para modelos vendidos por Azure na Microsoft Foundry
• Tipos de implantação para modelos da Microsoft Foundry