Endpoints para modelos do Microsoft Foundry

O Microsoft Foundry Models oferece acesso a uma grande variedade de modelos de vários fornecedores através de um único endpoint e conjunto de credenciais. Esta funcionalidade permite-lhe alternar entre modelos e usá-los na sua aplicação sem fazer alterações de código.

Este artigo explica como os serviços Foundry organizam os modelos e como usar o endpoint de inferência para aceder a eles.

Pré-requisitos

Destacamentos

O Foundry utiliza implementações como pseudónimos para aceder aos modelos. Uma implementação dá a um modelo um nome e um conjunto de configurações. Pode aceder a um modelo utilizando o nome da implementação nos seus pedidos.

Uma implementação define:

  • Um nome de modelo
  • Uma versão modelo
  • Um tipo de aprovisionamento ou capacidade1
  • Uma configuração de filtragemde conteúdos 1
  • Uma configuração de limitação de taxa1

1 Estas configurações podem mudar consoante o modelo selecionado.

Um recurso Foundry pode ter muitas implementações modelo. Só se paga pela inferência realizada em implementações de modelos. As implementações são recursos do Azure, por isso estão sujeitas às políticas do Azure.

Para mais informações sobre a criação de implementações, consulte Adicionar e configurar implementações de modelo.

Azure OpenAI ponto de inferência

A API Azure OpenAI expõe todas as capacidades dos modelos OpenAI e suporta mais funcionalidades como assistentes, threads, ficheiros e inferência em lote. Também pode usá-lo para aceder a modelos que não sejam OpenAI.

Os endpoints do Azure OpenAI são formatados como https://<resource-name>.openai.azure.com. Os endpoints correspondem às implementações, e cada deployment tem a sua própria URL associada. No entanto, pode usar o mesmo mecanismo de autenticação para consumir mais do que uma implementação. Para mais informações, consulte a página de referência para Azure OpenAI API.

Uma ilustração que mostra como Azure implementações OpenAI contêm um único URL para cada implementação.

Os URLs de implementação são formados pela concatenação do URL base do Azure OpenAI e da rota /deployments/<model-deployment-name>. Quando utiliza a API OpenAI v1, chame a rota /openai/v1/ na URL de base, https://<resource-name>.openai.azure.com/openai/v1/, e passe o nome da implementação no campo model do pedido. A rota /openai/v1/ usa versionamento implícito, pelo que não é necessário passar um api-version.

Os exemplos seguintes utilizam a API Responses, que suporta as mais recentes funcionalidades de inferência.

Note

A API Responses funciona com modelos OpenAI do Azure e com modelos Foundry vendidos pela Azure que a suportam, como os modelos DeepSeek, Llama e Grok. Se uma implementação não suportar a API Responses, o pedido devolve 400 Model not supported. Nesse caso, use a API Chat Completions chamando client.chat.completions.create em vez disso.

Utilizar autenticação por chave API

Pode autenticar pedidos de inferência com uma chave API do seu recurso Foundry. As chaves de API são rápidas de configurar, mas concedem acesso total ao recurso, são difíceis de definir para utilizadores ou ações específicas, e requerem rotação manual para se manterem seguras. Para cargas de trabalho de produção, utilize autenticação sem chave com Microsoft Entra ID em vez disso.

No exemplo seguinte, deepseek-v3-0324 é o nome de uma implementação de modelo no recurso Microsoft Foundry. Substitui-o pelo teu próprio nome de implementação e guarda a tua chave API na AZURE_INFERENCE_CREDENTIAL variável de ambiente.

Instale o openai pacote usando pip:

pip install openai --upgrade

Cria um cliente que aponte para o endpoint Azure OpenAI v1 e depois gera uma resposta. A rota /openai/v1/ usa versionamento implícito, pelo que não é necessário passar um api-version. Introduza o nome da sua implementação no campo model:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://<resource>.openai.azure.com/openai/v1/",
    api_key=os.environ["AZURE_INFERENCE_CREDENTIAL"],
)

response = client.responses.create(
    model="deepseek-v3-0324",  # Replace with your model deployment name.
    input="Explain the Riemann hypothesis in one paragraph.",
)

print(response.output_text)

Para mais informações sobre como usar o endpoint Azure OpenAI, consulte o suporte à linguagem Azure OpenAI SDK.

Use autenticação sem chave

Os modelos Foundry implementados suportam autorização sem chave com o Microsoft Entra ID. A autorização sem chave melhora a segurança, simplifica a experiência do utilizador, reduz a complexidade operacional e oferece suporte robusto de conformidade. Use autorização sem chave se a sua organização utiliza soluções de gestão de identidade seguras e escaláveis.

Para usar autenticação sem chave, configure o seu recurso e conceda acesso aos utilizadores para realizar inferências. Depois de configurar o recurso e conceder acesso, autentique da seguinte forma:

Instale o SDK OpenAI usando um gestor de pacotes como pip:

pip install openai

Para autenticação do Microsoft Entra ID, instale também:

pip install azure-identity

Use a embalagem para consumir o modelo. O exemplo seguinte mostra como criar um cliente e fazer uma chamada de teste para a API Responses usando o Microsoft Entra ID e a implementação do seu modelo.

Substitua <resource> pelo nome do seu recurso Foundry. Encontre-o no portal Azure ou executando az cognitiveservices account list. Substitui deepseek-v3-0324 pelo nome real da tua implementação.

from openai import OpenAI
from azure.identity import DefaultAzureCredential, get_bearer_token_provider

token_provider = get_bearer_token_provider(
    DefaultAzureCredential(), 
    "https://ai.azure.com/.default"
)

client = OpenAI(
    base_url="https://<resource>.openai.azure.com/openai/v1/",
    api_key=token_provider,
)

response = client.responses.create(
    model="deepseek-v3-0324",  # Replace with your model deployment name.
    input="What is Azure AI?",
)

print(response.output_text)

Produção esperada

Azure AI is a comprehensive suite of artificial intelligence services and tools from Microsoft that enables developers to build intelligent applications. It includes services for natural language processing, computer vision, speech recognition, and machine learning capabilities.

Referência: OpenAI Python SDK e DefaultAzureCredential class.

Conteúdo relacionado

  • Last updated on