Punkty końcowe dla modeli Microsoft Foundry

Microsoft Foundry Models zapewnia dostęp do szerokiej gamy modeli od wielu dostawców za pośrednictwem jednego punktu końcowego i zestawu poświadczeń. Ta funkcja umożliwia przełączanie się między modelami i używanie ich w aplikacji bez wprowadzania zmian w kodzie.

W tym artykule wyjaśniono, jak usługi Foundry organizują modele i jak używać punktu końcowego wnioskowania w celu uzyskania do nich dostępu.

Wymagania wstępne

Wdrożenia

Platforma Foundry używa wdrożeń jako aliasów na potrzeby dostępu do modelu. Wdrożenie daje modelowi nazwę i zestaw konfiguracji. Uzyskujesz dostęp do modelu przy użyciu jego nazwy wdrożenia w żądaniach.

Wdrożenie definiuje:

  • Nazwa modelu
  • Wersja modelu
  • Typ aprowizacji lub pojemności1
  • Konfiguracja filtrowania zawartości1
  • Konfiguracja ograniczania szybkości1

1 Te konfiguracje mogą ulec zmianie w zależności od wybranego modelu.

Zasób Foundry może mieć wiele wdrożeń modeli. Płacisz tylko za wnioskowanie wykonywane we wdrożeniach modelu. Wdrożenia są Azure zasobami, więc podlegają Azure zasadom.

Aby uzyskać więcej informacji na temat tworzenia wdrożeń, zobacz Dodawanie i konfigurowanie wdrożeń modelu.

Azure punkt końcowy inferencji OpenAI

Interfejs API openAI Azure uwidacznia pełne możliwości modeli OpenAI i obsługuje więcej funkcji, takich jak asystenci, wątki, pliki i wnioskowanie wsadowe. Można go również użyć do uzyskiwania dostępu do modeli innych niż OpenAI.

Punkty końcowe usługi Azure OpenAI mają format https://<resource-name>.openai.azure.com. Punkty końcowe są mapowane na wdrożenia, a każde wdrożenie ma własny powiązany adres URL. Można jednak użyć tego samego mechanizmu uwierzytelniania, aby korzystać z więcej niż jednego wdrożenia. Aby uzyskać więcej informacji, zobacz stronę z dokumentacją Interfejs API Azure OpenAI.

 Ilustracja przedstawiająca, jak Azure wdrożenia openAI zawierają pojedynczy adres URL dla każdego wdrożenia.

Adresy URL wdrożenia są tworzone przez połączenie podstawowego adresu URL Azure OpenAI i trasy /deployments/<model-deployment-name>. Gdy używasz interfejsu API OpenAI v1, wywołaj ścieżkę /openai/v1/ pod podstawowym adresem URL https://<resource-name>.openai.azure.com/openai/v1/ i przekaż nazwę wdrożenia w polu model żądania. Trasa /openai/v1/ używa wersjonowania niejawnego, więc nie przekazujesz parametru api-version.

W poniższych przykładach użyto interfejsu API odpowiedzi, który obsługuje najnowsze funkcje wnioskowania.

Note

Interfejs API odpowiedzi współpracuje z modelami Azure OpenAI i modelami Foundry sprzedawanymi przez Azure, które go obsługują, takimi jak modele DeepSeek, Llama i Grok. Jeśli wdrożenie nie obsługuje interfejsu Responses API, żądanie zwraca 400 Model not supported. W takim przypadku zamiast tego użyj interfejsu API Chat Completions, wywołując client.chat.completions.create.

Korzystanie z uwierzytelniania przy użyciu klucza API

Żądania inferencji można uwierzytelniać za pomocą klucza API z zasobu Foundry. Klucze interfejsu API są szybkie do skonfigurowania, ale zapewniają pełny dostęp do zasobu, są trudne do określenia zakresu dla określonych użytkowników lub akcji i wymagają ręcznej rotacji, aby zachować bezpieczeństwo. W przypadku obciążeń produkcyjnych należy użyć uwierzytelniania bez kluczy z Microsoft Entra ID zamiast tego.

W poniższym przykładzie deepseek-v3-0324 jest nazwą wdrożenia modelu w zasobie Microsoft Foundry. Zastąp ją własną nazwą wdrożenia i zapisz klucz interfejsu API w zmiennej środowiskowej AZURE_INFERENCE_CREDENTIAL .

openai Zainstaluj pakiet przy użyciu narzędzia pip:

pip install openai --upgrade

Utwórz klienta, który wskazuje punkt końcowy Azure OpenAI w wersji 1, a następnie wygeneruj odpowiedź. Trasa /openai/v1/ używa wersjonowania niejawnego, więc nie przekazujesz parametru api-version. Przekaż nazwę wdrożenia w polu model:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://<resource>.openai.azure.com/openai/v1/",
    api_key=os.environ["AZURE_INFERENCE_CREDENTIAL"],
)

response = client.responses.create(
    model="deepseek-v3-0324",  # Replace with your model deployment name.
    input="Explain the Riemann hypothesis in one paragraph.",
)

print(response.output_text)

Aby uzyskać więcej informacji na temat korzystania z punktu końcowego usługi Azure OpenAI, zobacz obsługę języków w zestawie SDK usługi Azure OpenAI.

Korzystanie z uwierzytelniania bez klucza

Wdrożone modele foundry obsługują autoryzację bez klucza za pomocą Microsoft Entra ID. Autoryzacja bez klucza zwiększa bezpieczeństwo, upraszcza środowisko użytkownika, zmniejsza złożoność operacyjną i zapewnia niezawodną obsługę zgodności. Użyj autoryzacji bez klucza, jeśli organizacja korzysta z bezpiecznych i skalowalnych rozwiązań do zarządzania tożsamościami.

Aby korzystać z uwierzytelniania bez klucza, skonfiguruj zasób i przyznaj użytkownikom dostęp do inferencji. Po skonfigurowaniu zasobu i udzieleniu dostępu uwierzytelnij się w następujący sposób:

Aby zainstalować OpenAI SDK przy użyciu menedżera pakietów, takiego jak pip:

pip install openai

W przypadku uwierzytelniania Microsoft Entra ID zainstaluj również następujące elementy:

pip install azure-identity

Użyj pakietu, aby korzystać z modelu. Poniższy przykład pokazuje, jak utworzyć klienta i wykonać testowe wywołanie do Responses API przy użyciu Microsoft Entra ID oraz wdrożenia modelu.

Zastąp <resource> nazwą zasobu Foundry. Znajdź go w portalu Azure lub uruchamiając az cognitiveservices account list. Zastąp deepseek-v3-0324 rzeczywistą nazwą wdrożenia.

from openai import OpenAI
from azure.identity import DefaultAzureCredential, get_bearer_token_provider

token_provider = get_bearer_token_provider(
    DefaultAzureCredential(), 
    "https://ai.azure.com/.default"
)

client = OpenAI(
    base_url="https://<resource>.openai.azure.com/openai/v1/",
    api_key=token_provider,
)

response = client.responses.create(
    model="deepseek-v3-0324",  # Replace with your model deployment name.
    input="What is Azure AI?",
)

print(response.output_text)

Oczekiwane dane wyjściowe

Azure AI is a comprehensive suite of artificial intelligence services and tools from Microsoft that enables developers to build intelligent applications. It includes services for natural language processing, computer vision, speech recognition, and machine learning capabilities.

Materiały odniesienia: OpenAI Python SDK i klasa DefaultAzureCredential.