Puntos de conexión para modelos de Microsoft Foundry

Microsoft Foundry Models proporciona acceso a una amplia variedad de modelos de muchos proveedores a través de un único punto de conexión y un conjunto de credenciales. Esta funcionalidad le permite cambiar entre modelos y usarlas en la aplicación sin realizar cambios en el código.

En este artículo se explica cómo los servicios Foundry organizan los modelos y cómo usar el punto de conexión de inferencia para acceder a ellos.

Prerequisites

Implementaciones

Foundry usa implementaciones como alias para el acceso al modelo. Una implementación proporciona un nombre a un modelo y un conjunto de configuraciones. Se accede a un modelo mediante su nombre de implementación en sus solicitudes.

Una implementación define:

  • Un nombre de modelo
  • Una versión del modelo
  • Una provisión o tipo de capacidad1
  • Una configuración de filtrado de contenido1
  • Una configuración de limitación de velocidad1

1 Estas configuraciones pueden cambiar según el modelo seleccionado.

Un recurso Foundry puede tener muchas implementaciones de modelos. Solo se paga por la inferencia realizada en las implementaciones de modelos. Las implementaciones son Azure recursos, por lo que están sujetas a directivas de Azure.

Para obtener más información sobre la creación de implementaciones, consulte Incorporación y configuración de implementaciones de modelos.

Punto de conexión de inferencia de Azure OpenAI

El Azure OpenAI API expone las funcionalidades completas de los modelos openAI y admite más características como asistentes, subprocesos, archivos e inferencia por lotes. También puede usarlo para acceder a modelos que no son de OpenAI.

Los puntos de conexión de Azure OpenAI tienen el formato https://<resource-name>.openai.azure.com. Los puntos de conexión corresponden a los despliegues, y cada despliegue tiene su propia URL asociada. Sin embargo, puede usar el mismo mecanismo de autenticación para consumir más de una implementación. Para obtener más información, consulte la página de referencia de Azure OpenAI API.

 Ilustración que muestra cómo Azure implementaciones de OpenAI contienen una sola dirección URL para cada deployment.

Las direcciones URL de implementación se forman mediante la concatenación de la dirección URL base de OpenAI Azure y la ruta /deployments/<model-deployment-name>. Cuando use la API OpenAI v1, llame a la ruta /openai/v1/ en la URL base, https://<resource-name>.openai.azure.com/openai/v1/, y pase el nombre de implementación en el campo model de la solicitud. La ruta /openai/v1/ usa versionado implícito, por lo que no es necesario pasar un api-version.

En los ejemplos siguientes se usa la API de respuestas, que admite las características de inferencia más recientes.

Note

La API de respuestas funciona con los modelos de Azure OpenAI y con los modelos de Foundry comercializados por Azure que son compatibles con ella, como los modelos DeepSeek, Llama y Grok. Si una implementación no admite la API de respuestas, la solicitud devuelve 400 Model not supported. En ese caso, use la API de Finalizaciones de Chat llamando a client.chat.completions.create en su lugar.

Uso de la autenticación de clave de API

Puede autenticar solicitudes de inferencia con una clave de API del recurso Foundry. Las claves de API son rápidas de configurar, pero conceden acceso completo al recurso, son difíciles de definir el ámbito de usuarios o acciones específicos y requieren rotación manual para mantenerse seguro. En el caso de las cargas de trabajo de producción, use la autenticación sin claves con Microsoft Entra ID en su lugar.

En el ejemplo siguiente, deepseek-v3-0324 es el nombre de una implementación de modelo en el recurso Microsoft Foundry. Reemplácela por su propio nombre de implementación y almacene la clave de API en la AZURE_INFERENCE_CREDENTIAL variable de entorno.

Instale el openai paquete mediante pip:

pip install openai --upgrade

Cree un cliente que apunte al punto de conexión v1 de Azure OpenAI y, a continuación, genere una respuesta. La ruta /openai/v1/ usa versionado implícito, por lo que no es necesario pasar un api-version. Pase el nombre de implementación en el model campo:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://<resource>.openai.azure.com/openai/v1/",
    api_key=os.environ["AZURE_INFERENCE_CREDENTIAL"],
)

response = client.responses.create(
    model="deepseek-v3-0324",  # Replace with your model deployment name.
    input="Explain the Riemann hypothesis in one paragraph.",
)

print(response.output_text)

Para obtener más información sobre cómo usar el punto de conexión de Azure OpenAI, consulte la compatibilidad de idiomas del SDK de Azure OpenAI.

Uso de la autenticación sin claves

Los modelos foundry implementados admiten la autorización sin claves con Microsoft Entra ID. La autorización sin claves mejora la seguridad, simplifica la experiencia del usuario, reduce la complejidad operativa y proporciona una sólida compatibilidad con el cumplimiento. Use la autorización sin claves si su organización usa soluciones de administración de identidades seguras y escalables.

Para usar la autenticación sin claves, configure el recurso y conceda acceso a los usuarios para realizar la inferencia. Después de configurar el recurso y conceder acceso, autentíquese de la siguiente manera:

Instale el SDK de OpenAI mediante un administrador de paquetes como pip:

pip install openai

Para la autenticación de Microsoft Entra ID, instale también:

pip install azure-identity

Use el paquete para consumir el modelo. En el ejemplo siguiente se muestra cómo crear un cliente y realizar una llamada de prueba a la API de respuestas mediante Microsoft Entra ID y la implementación del modelo.

Reemplace <resource> con el nombre de su recurso Foundry. Encuéntrelo en el portal de Azure o bien ejecutando az cognitiveservices account list. Reemplace deepseek-v3-0324 con su nombre de implementación real.

from openai import OpenAI
from azure.identity import DefaultAzureCredential, get_bearer_token_provider

token_provider = get_bearer_token_provider(
    DefaultAzureCredential(), 
    "https://ai.azure.com/.default"
)

client = OpenAI(
    base_url="https://<resource>.openai.azure.com/openai/v1/",
    api_key=token_provider,
)

response = client.responses.create(
    model="deepseek-v3-0324",  # Replace with your model deployment name.
    input="What is Azure AI?",
)

print(response.output_text)

Salida esperada

Azure AI is a comprehensive suite of artificial intelligence services and tools from Microsoft that enables developers to build intelligent applications. It includes services for natural language processing, computer vision, speech recognition, and machine learning capabilities.

Referencia: OpenAI Python SDK y clase DefaultAzureCredential.