Visão geral dos modelos Microsoft Foundry

O Microsoft Foundry Models é o seu destino único para descobrir, avaliar e implementar modelos de IA poderosos. Quer esteja a construir um copiloto personalizado, um agente, a melhorar uma aplicação existente ou a explorar novas capacidades de IA, a Foundry Models tem tudo o que precisa.

Ao utilizar Foundry Models, pode:

• Explore um catálogo rico de modelos de ponta da Microsoft, Azure OpenAI, Anthropic, DeepSeek, Meta, Mistral, Cohere, Hugging Face e muito mais.
• Compare e avalie modelos lado a lado usando tarefas do mundo real e os seus próprios dados.
• Implemente com confiança, graças às ferramentas integradas para ajuste fino, observabilidade e IA responsável.
• Escolhe o teu caminho – traz o teu próprio modelo, usa um alojado ou integra perfeitamente com os serviços do Azure.

Quer seja programador, cientista de dados ou arquiteto empresarial, a Foundry Models dá-lhe flexibilidade e controlo para construir soluções de IA que escalam – de forma segura, responsável e rápida.

A Foundry oferece um catálogo abrangente de modelos de IA. O catálogo inclui mais de 10.000 modelos, com aproximadamente 50 novos modelos publicados todos os meses. Estes modelos vão desde modelos de fundação, modelos de raciocínio, pequenos modelos de linguagem, modelos multimodais, modelos específicos de domínio e modelos da indústria.

O catálogo de modelos está organizado em duas categorias principais:

• Foundry Models comercializados pela Azure
• Modelos de Foundry de parceiros e comunidade

Compreender a distinção entre estas categorias ajuda-o a escolher os modelos certos para as suas necessidades específicas e objetivos estratégicos.

Modelos vendidos pela Azure

A Microsoft aloja e vende estes modelos sob os Termos do Produto Microsoft. A Microsoft avalia estes modelos e integra-os profundamente no ecossistema de IA do Azure. Os modelos provêm de vários fornecedores e oferecem integração melhorada, desempenho otimizado e suporte direto à Microsoft, incluindo acordos de nível de serviço (SLAs) de nível empresarial. Para uma lista detalhada destes modelos e das suas capacidades, veja Foundry Models vendidos pela Azure.

Características dos modelos vendidos pela Azure:

• A Microsoft fornece suporte.
• Alto nível de integração com os serviços e infraestruturas do Azure.
• Sujeito a análise interna e revisão com base nos padrões Responsible AI da Microsoft: Os modelos vendidos diretamente através do Azure passam pelos processos internos de revisão Responsible AI da Microsoft e os resultados de alto nível dessas avaliações estão refletidos na documentação específica de cada modelo no Catálogo de Modelos disponível em https://ai.azure.com/explore/models.
  • Os clientes devem consultar os detalhes da avaliação na documentação para compreender as limitações de cada modelo antes de os integrar nas aplicações.
• Os clientes devem notar que estas avaliações não garantem mitigação dos riscos potenciais. Diferentes modelos têm características de segurança distintas e os clientes devem rever cuidadosamente a documentação e realizar as suas próprias avaliações no contexto das suas aplicações para garantir que os riscos são compreendidos ou mitigados antes da implementação.
• Relatórios de documentação modelo e transparência fornecem visibilidade ao cliente sobre riscos, mitigações e limitações do modelo.
• Escalabilidade, fiabilidade e segurança de nível empresarial.

Alguns destes modelos também oferecem um débito provisionado flexível e fungível, proporcionando-lhe a capacidade de usar a sua quota e reservas de forma flexível entre todos estes modelos. Para saber como a Foundry gere os dados que fornece aos Modelos Foundry vendidos por Azure, consulte Dados, privacidade e segurança para Modelos vendidos por Azure em Microsoft Foundry.

Modelos de parceiros e comunidade

Estes modelos constituem a grande maioria dos Modelos da Foundry. Organizações terceirizadas confiáveis, parceiros, laboratórios de pesquisa e colaboradores da comunidade fornecem esses modelos. Oferecem capacidades especializadas e diversificadas em IA, abrangendo uma vasta gama de cenários, indústrias e inovações. Exemplos de modelos provenientes de parceiros e comunidade são a família de grandes modelos de linguagem desenvolvidos pela Anthropic e Open Models a partir do hubo Hugging Face.

Anthropic inclui a família Claude de grandes modelos de linguagem de última geração que suportam entrada de texto e imagem, saída de texto, capacidades multilíngues e visão. Para ajuda com modelos antrópicos, use Suporte da Microsoft. Para saber mais sobre privacidade, consulte Dados, privacidade e segurança para modelos Claude no Microsoft Foundry (pré-visualização). Para termos que regem o processamento de dados, consulte o Adendo de Processamento de Dados da Anthropic e os Termos de Serviço Comerciais da Anthropic. Para aprender a trabalhar com modelos Anthropic, consulte implementar e utilizar modelos Claude na Microsoft Foundry.

O Hugging Face hub inclui centenas de modelos para inferência em tempo real com computação gerida. A Hugging Face cria e mantém modelos listados nesta coleção. Para ajuda com os modelos Hugging Face, use o fórum Hugging Face ou o suporte da Hugging Face. Aprenda a implementar modelos Hugging Face em Como implementar e inferir com uma implementação de computação gerida (clássico).

Características dos modelos de parceiros e da comunidade:

• Desenvolvido e apoiado por parceiros externos e colaboradores comunitários
• Diversidade de modelos especializados que servem casos de uso específicos ou amplos
• Normalmente validados pelos próprios fornecedores, com diretrizes de integração fornecidas pelo Azure
• Inovação impulsionada pela comunidade e rápida disponibilidade de modelos de ponta
• Integração padrão com IA do Azure, com suporte e manutenção geridos pelos respetivos fornecedores

Pode implementar modelos de parceiros e da comunidade utilizando opções de computação gerida ou de implementação sem servidor. O fornecedor de modelos seleciona como os modelos são implantáveis. Para saber mais sobre as diferenças entre estas opções de implementação, consulte Opções de implementação modelo: computação gerida e implantações serverless.

Solicite que um modelo seja incluído no catálogo de modelos

Peça à Microsoft que adicione um modelo ao catálogo de modelos diretamente a partir da página do catálogo de modelos no portal Foundry.

1. Vai à página do catálogo de modelos.
2. Na barra de pesquisa, procure um modelo que não exista no catálogo, como mymodel.
3. Selecione Solicitar um modelo para partilhar detalhes sobre o modelo que pretende solicitar.

Escolher entre modelos vendidos pela Azure e modelos de parceiros e comunidade

Ao selecionar quais os Modelos de Fundição a utilizar, considere os seguintes fatores:

• Caso de uso e requisitos: Os modelos vendidos pelo Azure são ideais para cenários que exigem integração profunda com o Azure, suporte garantido e SLAs empresariais. Modelos de parceiros e comunidade destacam-se em casos de uso especializados e cenários orientados pela inovação.
• Expectativas de suporte: Os modelos vendidos pela Azure vêm com suporte e manutenção robustos fornecidos por Microsoft. Os modelos parceiros e comunitários são apoiados pelos seus fornecedores, com diferentes níveis de SLA e estruturas de apoio.
• Inovação e especialização: Modelos de parceiros e comunidade oferecem acesso rápido a inovações especializadas e capacidades de nicho, frequentemente desenvolvidas por laboratórios de investigação líderes e fornecedores emergentes de IA.

Visão geral das capacidades do catálogo de modelos

O catálogo de modelos no portal Foundry é o centro para descobrir e utilizar uma vasta gama de modelos para construir aplicações de IA generativa. O catálogo de modelos inclui milhares de modelos de fornecedores como Azure OpenAI, Anthropic, Mistral, Meta, Cohere, NVIDIA e Hugging Face, incluindo modelos treinados pela Microsoft. Modelos de fornecedores que não Microsoft são Produtos Não Microsoft conforme definido nos Termos de Produto Microsoft e estão sujeitos aos termos fornecidos com os modelos.

Pesquise e descubra modelos que respondam às suas necessidades através de pesquisa por palavras-chave e filtros. O catálogo de modelos também oferece a tabela de classificação de desempenho dos modelos e métricas de benchmark para modelos selecionados. Acede a eles selecionando Ver tabela de classificação e Comparar modelos. Os dados dos benchmarks também estão disponíveis no separador Benchmarks da placa modelo.

O catálogo de modelos inclui vários filtros, alguns dos quais incluem filtragem baseada em:

• Coleções: Coleções de fornecedores modelo
• Região: Disponibilidade de modelos para implementação em regiões específicas do Azure
• Opções de implementação: Opções de implementação suportadas (computação gerida ou API Serverless)
• SKU de implementação: Tipos de implementação disponíveis para a opção de implementação da API Serverless
• Ciclo de vida: Ciclo de vida do modelo (Pré-visualização, Disponível de forma geral ou Descontinuado)
• Indústria: Conjunto de dados específico do setor utilizado para treinar modelos (por exemplo, saúde, retalho ou manufatura)
• Funcionalidades suportadas: Funcionalidades únicas do modelo, como raciocínio e chamada de ferramentas
• Tarefas de inferência: Tipo de tarefa de inferência (por exemplo, conclusão de chat, geração de áudio ou embeddings)

Alguns dos detalhes disponíveis no cartão de modelos são:

• Factos rápidos: Informação chave sobre o modelo num olhar rápido
• Aba de detalhes: Informações detalhadas sobre o modelo, como descrição, informações de versão e tipos de dados suportados
• Aba de Implementações: Uma lista de implementações existentes do modelo
• Aba de Testes de Desempenho: Métricas de testes de desempenho para modelos selecionados
• Aba de Licença: Informação legal relacionada com o licenciamento do modelo

Opções de implementação do modelo: computação gerida e implantações sem servidor

O catálogo de modelos oferece duas opções distintas para implementar modelos para o seu uso: computação gerida e implementações serverless. Para saber mais sobre as opções de implementação, consulte a visão geral de implementação para os Modelos Microsoft Foundry. Para saber como a Foundry gere os dados que fornece aos Modelos Foundry vendidos por Azure, consulte Dados, privacidade e segurança para Modelos vendidos por Azure em Microsoft Foundry.

Capacidades das opções de implementação do modelo

As opções de implementação e as funcionalidades disponíveis para cada modelo variam, conforme descrito na tabela seguinte:

Computação gerida

A capacidade de implementar modelos como computação gerida baseia-se nas capacidades da plataforma do Azure Machine Learning para permitir uma integração fluida da vasta coleção de modelos no catálogo de modelos ao longo de todo o ciclo de vida das operações de grandes modelos de linguagem (LLM).

Disponibilidade de modelos para implementação como computação gerida

Pode aceder a estes modelos através dos registos Azure Machine Learning. Esses registos permitem uma abordagem prioritária em aprendizagem automática para alojar e distribuir ativos do Azure Machine Learning. Estes ativos incluem pesos dos modelos, tempos de execução dos contentores para execução dos modelos, pipelines para avaliação e ajuste fino dos modelos, e conjuntos de dados para benchmarks e amostras.

Os registos assentam numa infraestrutura altamente escalável e pronta para empresas que:

• Oferece acesso de baixa latência a artefatos do modelo em todas as regiões do Azure com replicação geográfica integrada.

• Suporta requisitos de segurança empresarial, como limitar o acesso a modelos através do Azure Policy e a implementação segura através de redes virtuais geridas.

Implementação de modelos para inferência com computação gerida

Implemente modelos disponíveis para implantação na capacidade de computação gerida do Azure Machine Learning para inferência em tempo real. Para implementar para computação gerida, precisa de uma quota de máquinas virtuais na sua subscrição do Azure para os produtos específicos executarem o modelo de forma ótima. Alguns modelos permitem implementar até uma quota partilhada temporariamente para testes de modelos.

Saiba mais sobre a implementação de modelos:

• Para implementar modelos abertos para computação gerida, veja Como implantar e inferir com uma implementação de computação gerida (clássico).
• Para implementar Modelos Foundry protegidos para computação gerida com faturação "pay-as-you-go", veja Implementar Modelos Foundry da Microsoft para computação gerida com faturação "pay-as-you-go" (clássico).

Construir aplicações de IA generativa com computação gerida

A funcionalidade prompt flow no Azure Machine Learning oferece uma excelente experiência para prototipagem. Use modelos implantados com computação gerida no fluxo de prompts com a ferramenta Open Model LLM. Também pode usar a API REST exposta pela computação gerida em ferramentas de LLM populares como o LangChain com a extensão Azure Machine Learning.

Segurança de conteúdo para modelos implementados como computação gerida

O serviço Segurança de conteúdo de IA do Azure está disponível para utilização com computação gerida para filtrar várias categorias de conteúdos prejudiciais, como conteúdo sexual, violência, ódio e autoagressão. Pode também utilizar o serviço para filtrar ameaças avançadas, como detetar risco de jailbreak e detetar texto de material protegido.

Para integração de referência com Segurança de conteúdo de IA do Azure para Llama 2, veja este caderno. Ou usar a ferramenta Segurança de Conteúdo (Texto) no fluxo de prompts para passar respostas do modelo para Segurança de conteúdo de IA do Azure para avaliação. É faturado separadamente para esse tipo de utilização, conforme descrito no preço Segurança de conteúdo de IA do Azure.

Implementações sem servidor

As implementações serverless oferecem uma forma de consumir Modelos Foundry como APIs sem os hospedar na sua subscrição. A Microsoft aloja os modelos numa infraestrutura gerida, que permite o acesso baseado em API ao modelo do fornecedor do modelo. O acesso baseado em API pode reduzir drasticamente o custo de aceder a um modelo e simplificar a experiência de configuração.

Os fornecedores de modelos oferecem modelos para implementações serverless, mas a Microsoft aloja-os numa infraestrutura Azure gerida e fornece acesso através de APIs. Os fornecedores de modelos definem os termos da licença e definem o preço de utilização dos seus modelos. O serviço Azure Machine Learning:

• Gerir a infraestrutura de alojamento.
• As APIs de inferência são disponibilizadas.
• Atua como processador de dados para prompts submetidos e resultados de conteúdo em implementações serverless.

Tipos de implementação serverless

A opção de implementação sem servidor para modelos Foundry oferece duas categorias principais de implementação: padrão (pagamento por token) e provisionado (capacidade reservada). Dentro de cada categoria, pode escolher processamento global, zona de dados ou regional com base nos seus requisitos de conformidade.

Os tipos de implementação serverless disponíveis incluem: Global Standard, Global Provisioned, Global Batch, Data Zone Standard, Data Zone Provisioned, Data Zone Batch, Standard, Regional Provisioned e Developer. Para saber mais sobre estes tipos de implementação e como escolher o certo para o seu uso, consulte Tipos de implantação para Microsoft Modelos Foundry.

Faturação para implementações sem servidor

A experiência de descoberta, subscrição e consumo de modelos implementados em infraestruturas serverless está no portal Foundry e no Azure Machine Learning Studio. Os utilizadores aceitam termos de licença para a utilização dos modelos. A informação de preços para consumo está disponível durante a implementação.

Modelos Foundry de parceiros e da comunidade são faturados pela Azure Marketplace, de acordo com os Termos de Utilização do Microsoft Commercial Marketplace.

Os modelos Foundry vendidos pela Azure são faturados através de contadores Azure como Serviços de Consumo de Primeira Parte. Como descrito nos Termos do Produto, adquire Serviços de Consumo de Primeira Parte utilizando contadores Azure, mas estes não estão sujeitos a Azure termos de serviço. O uso destes modelos está sujeito aos termos de licença fornecidos.

RAG com modelos implementados como soluções serverless

No portal do Foundry, utilize índices vetoriais e geração aumentada com recuperação (RAG) com modelos implementados por meio de implementações sem servidor para gerar embeddings e realizar inferência com base em dados personalizados. Use estes embeddings e inferências para gerar respostas específicas para o seu caso de uso. Para mais informações, veja Construir e consumir índices vetoriais no portal Microsoft Foundry (clássico).

Segurança de conteúdos para modelos implementados via implementações serverless

Para modelos de linguagem implementados via API serverless, Azure IA implementa uma configuração padrão de filtros de moderação de texto Segurança de conteúdo de IA do Azure que detetam conteúdos prejudiciais como ódio, autoagressão, conteúdo sexual e violento. Para saber mais sobre a filtragem de conteúdo, consulte Proteções e controlos para Modelos vendidos pelo Azure.

A filtragem de conteúdos ocorre de forma síncrona enquanto o serviço processa os pedidos para gerar conteúdo. Pode ser cobrado separadamente de acordo com a tarifação de Segurança de conteúdo de IA do Azure por esse uso. Pode desativar a filtragem de conteúdo para endpoints serverless individuais de duas formas:

• No momento em que se implementa um modelo de linguagem pela primeira vez
• Mais tarde, selecionando a opção de filtro de conteúdo na página de detalhes de implementação

Suponha que decide usar uma API diferente do Azure OpenAI SDK com as APIs Azure OpenAI v1 para trabalhar com um modelo implementado via uma API serverless. Nessa situação, a filtragem de conteúdos não está ativada a menos que a implemente separadamente, usando o Segurança de conteúdo de IA do Azure.

Para começar com Segurança de conteúdo de IA do Azure, veja Quickstart: Analisar o conteúdo do texto. Se não usar filtragem de conteúdo ao trabalhar com modelos implementados via API serverless, corre um risco maior de expor os utilizadores a conteúdos prejudiciais.

Disponibilidade regional dos Foundry Models

A faturação pay-per-token está disponível apenas para utilizadores cuja subscrição do Azure pertença a uma conta de faturação num país ou região onde o fornecedor modelo disponibiliza a oferta. Se a oferta estiver disponível na região relevante, o utilizador deve ter um recurso de projeto na região Azure onde o modelo está disponível para implementação ou ajuste fino, conforme aplicável. Para saber a disponibilidade regional dos modelos Foundry, veja:

• Disponibilidade regional para modelos Foundry vendidos pela Azure
• Disponibilidade por região dos modelos Foundry de parceiros e da comunidade

Isolamento de rede para modelos implementados em implementações sem servidor

Os endpoints para modelos implementados como implantações serverless seguem a definição de flag de acesso à rede pública do hub Foundry que contém o projeto onde a implementação existe. Para ajudar a proteger a sua implementação serverless, desative o sinalizador de acesso à rede pública no seu hub Foundry. Pode ajudar a proteger a comunicação de entrada de um cliente para o seu ponto final utilizando um ponto final privado para o hub.

Para definir a bandeira de acesso à rede pública para o hub Foundry:

1. Vai ao portal Azure.
2. Procure o grupo de recursos ao qual o hub pertence e selecione o seu hub Foundry entre os recursos listados para esse grupo.
3. Na página de visão geral do hub, no painel esquerdo, vá para Definições>Rede.
4. No separador de acesso público , configure as definições para a bandeira de acesso à rede pública.
5. Guarde as suas alterações. As alterações podem demorar até cinco minutos a propagar-se.

Limitações

• Se tiver um hub Foundry com um endpoint privado criado antes de 11 de julho de 2024, as implementações serverless adicionadas a projetos neste hub não seguem a configuração de rede do hub. Em vez disso, crie um novo endpoint privado para o hub e uma nova implementação sem servidor no projeto, para que as novas implementações possam seguir a configuração de rede do hub.

• Se tiver um hub Foundry com implementações serverless criadas antes de 11 de julho de 2024 e ativar um endpoint privado nesse hub, as implementações serverless existentes não seguem a configuração de rede do hub. Para que as implementações serverless no hub sigam a configuração de rede do hub, crie novamente as implementações.

• Atualmente, o suporte Azure OpenAI On Your Data não está disponível para implementações serverless em hubs privados, porque os hubs privados têm o flag de acesso à rede pública desativado.

• Qualquer alteração na configuração da rede (por exemplo, ativar ou desativar a bandeira de acesso público à rede) pode demorar até cinco minutos a propagar-se.

Modelos de ajuste fino

Certos modelos também suportam ajustes finos. Para estes modelos, pode usar computação gerida ou implementações serverless para ajustar os modelos utilizando os dados que fornece. Para obter mais informações, veja Ajustar modelos com o Microsoft Foundry (clássico).  

Ciclo de vida do modelo: depreciação e aposentação

Os modelos de IA evoluem rapidamente. Quando uma nova versão ou um novo modelo com capacidades atualizadas na mesma família de modelos fica disponível, modelos mais antigos podem ser retirados do catálogo de modelos da Foundry. Para permitir uma transição suave para uma versão mais recente do modelo, alguns modelos permitem aos utilizadores ativar atualizações automáticas. Para saber mais sobre os diferentes ciclos de vida de modelos, datas de descontinuação dos modelos e versões e modelos de substituição sugeridos, consulte:

• Ciclo de vida e política de suporte dos modelos Microsoft Foundry
• Cronograma de descontinuação dos modelos
• Modelos de Fundição Retirados

Conteúdo relacionado

• Acesso instantâneo a modelos no Microsoft Foundry (pré-visualização)
• Dados, privacidade e segurança para modelos vendidos pela Azure na Microsoft Foundry
• Tipos de implementação para modelos Microsoft Foundry