Conceptos de AI Gateway

APLICA A: AI Gateway (vista previa)

Importante

AI Gateway está actualmente en vista previa pública. Durante la vista previa pública, AI Gateway está disponible en las siguientes regiones:

  • Estados Unidos - Este de EE. UU. 2
  • Europa - Suecia Central

AI Gateway centraliza el acceso a modelos y herramientas de IA. Las aplicaciones y agentes utilizan los puntos finales de la pasarela, mientras que los equipos de plataforma gestionan las conexiones backend, el acceso, las políticas y la observabilidad.

Este artículo explica el concepto clave sobre el que se basa.

Puntos de conexión de la puerta de enlace y de tiempo de ejecución

Una puerta de enlace es un recurso de Azure de tipo Microsoft.ApiManagement/aigateways. Contiene las conexiones y controles que utilizan tus aplicaciones.

La interfaz de gestión configura la pasarela. Los endpoints en tiempo de ejecución reciben solicitudes de aplicación para inferencia de modelos o acceso a la herramienta MCP. Estos son caminos de acceso diferentes: el permiso para configurar una pasarela no concede automáticamente permiso para llamar a sus modelos o herramientas.

Proveedores de modelos, modelos registrados y alias

Las conexiones de modelo separan el servicio backend del nombre que utiliza una aplicación.

Element Purpose
Proveedor de modelos Almacena el endpoint y la configuración de autenticación para Microsoft Foundry o un servicio de modelos personalizado compatible.
Modelo registrado Identifica un despliegue o modelo backend existente y los endpoints que soporta. El registro no implementa un nuevo modelo.
Alias de modelo Proporciona un nombre estable que las aplicaciones utilizan mientras el equipo de la plataforma gestiona el mapeo del modelo backend.

Por ejemplo, una aplicación puede usar un alias para un modelo de chat sin almacenar las credenciales del proveedor. Cambiar el backend sigue requiriendo comprobar que el reemplazo soporta la API y el comportamiento de la aplicación.

Servidores y herramientas MCP federados

Un servidor MCP federado combina herramientas de servicios backend detrás de un único punto final MCP. Un backend puede ser un servidor MCP remoto, una API descrita por OpenAPI o un conector integrado.

Una herramienta describe una operación y sus entradas esperadas. Un agente descubre las herramientas disponibles e invoca operaciones seleccionadas a través de la pasarela. Las llamadas a herramientas pueden modificar los datos del backend, por lo que la disponibilidad de herramientas y los controles de acceso afectan lo que pueden hacer los llamantes.

La autenticación del backend es independiente del acceso del llamante. Con una conexión backend compartida, los llamantes autorizados utilizan los permisos de esa conexión.

Acceso e identidades

Tres relaciones determinan quién puede configurar la pasarela y utilizar sus backends:

Relationship Purpose
Administrador de la pasarela Los permisos de gestión de Azure permiten a un operador configurar la pasarela y sus recursos.
Llamada a la puerta de enlace El acceso en tiempo de ejecución de Microsoft Entra o una clave API de gateway autoriza aplicaciones y agentes. Las claves de la API de tiempo de ejecución conceden acceso a toda la puerta de enlace.
Puerta de entrada al backend Una identidad administrada o una credencial de backend autoriza a la puerta de enlace en el servicio de origen. La identidad necesita acceso a ese servicio.

La configuración de una relación no otorga permisos a la otra. Mantén las credenciales de ejecución de la pasarela separadas de las credenciales del proveedor y de las de implementación.

Gobernanza, redes y observabilidad

Las políticas aplican controles compartidos al tráfico de modelos y herramientas, como los límites de consumo y la protección de herramientas. Los controles de gasto estimado del modelo ayudan a regular el uso; la facturación del proveedor sigue siendo la fuente de los cargos reales.

Las redes determinan cómo accede la pasarela a los servicios de backend. Los requisitos de red pertenecen al diseño de la pasarela, especialmente cuando los backends usan conectividad privada.

La telemetría proporciona visibilidad sobre el uso y el comportamiento de las solicitudes. Configura un destino de telemetría antes de confiar en los datos recogidos para evaluar el tráfico del gateway.

La documentación dentro del producto contiene la guía de configuración para modelos, servidores MCP, acceso, políticas, redes y observabilidad.