Gobernanza de inteligencia artificial con Unity AI Gateway

Unity AI Gateway es la solución de gobernanza Azure Databricks para la inteligencia artificial empresarial. Basado en el catálogo de Unity, amplía la gobernanza más allá de los recursos de inteligencia artificial y de datos a las interacciones en tiempo de ejecución entre modelos, agentes, servidores MCP y herramientas. Controlar qué equipos de servicios de inteligencia artificial pueden usar, enrutar y administrar el tráfico de IA, establecer límites de protección y supervisar el uso desde un plano de control.

Azure Databricks sirve a grandes modelos de lenguaje (LLMs) de forma nativa a través de APIs de Foundation Model, por lo que tienes acceso de pago por token a modelos como GPT, Claude y Gemini sin infraestructura que ejecutar. También puedes conectar proveedores de modelos externos y enrutarlos a sus APIs mediante el mismo control de acceso y gestión del tráfico.

Get started

Configure y aplique la gobernanza de la inteligencia artificial en los recursos de inteligencia artificial, el tráfico y el comportamiento del servicio.

Tema Description
Tutorial: Goberna el acceso al modelo de un agente de programación con Unity AI Gateway Enruta un agente codificador externo a través de servicios de modelos gobernados, luego controla quién puede acceder a los modelos y limita el consumo y gasto del agente.
Tutorial: Controla el acceso MCP de GitHub de un agente de programación Restringir el acceso de un agente de programación a las herramientas MCP de GitHub mediante permisos de Unity Catalog y una política de servicio integrada.
Tutorial: Añadir barreras de política de servicio a un servicio modelo Implemente medidas de seguridad en un servicio de modelo mediante directivas de servicio integradas y personalizadas.
Tutorial: Rastrea el gasto del modelo de fundación por usuario, equipo o proyecto Identifica los factores de gasto en LLM atribuyendo costes a usuarios, equipos o proyectos con etiquetas de servicio y etiquetas de solicitud.

Controla el acceso a los servicios de IA

Registre los recursos de IA como objetos protegibles del catálogo de Unity y, a continuación, conceda y revoque el acceso con los mismos privilegios que usa para tablas y volúmenes. Los agentes se rigen a través de estos mismos elementos protegibles: un agente se registra como un modelo de catálogo de Unity y las herramientas a las que llama se rigen como servicios, funciones y conexiones MCP.

Tema Description
APIs de modelos Consultar modelos fundacionales disponibles de forma nativa en system.ai sin necesidad de configuración y controlar el acceso mediante privilegios de Unity Catalog.
Proveedores externos de modelos Conecta proveedores como OpenAI y Anthropic con bring your own key (BYOK), y gobiérnalos a través de un único punto de control.
Modelos Administre los modelos registrados, incluidos los modelos fundacionales que sirve Azure Databricks, con los privilegios de Unity Catalog.
Permisos del modelo de Base Restrinja a cuáles de los modelos fundacionales servidos por Azure Databricks puede acceder su organización, en toda la cuenta o por grupo.
Herramientas de MCP Gestionar servidores MCP registrados como objetos protegibles de Unity Catalog, con filtrado de herramientas y políticas de servicio.
Herramientas personalizadas Controle las funciones del catálogo de Unity que los agentes usan como herramientas, con los mismos privilegios que usa para los datos.
Conexiones HTTP Controle las conexiones del catálogo de Unity que se usan para llegar a las API externas y los servidores MCP.
Crear APIs de modelos personalizadas Opcional: Añade tus propios puntos de conexión sujetos a control cuando necesites modelos que vayan más allá de las opciones predeterminadas system.ai listas para usar.

Enrutamiento y administración del tráfico de IA

Unity AI Gateway enruta las solicitudes a los servicios de modelo y MCP desde un plano de control central, por lo que puede administrar la capacidad, la disponibilidad y el gasto entre proveedores.

Tema Description
Aplicar límites de frecuencia Aplique los límites de consumo en los servicios de modelo y los servicios MCP para administrar la capacidad y el costo.
Configure la distribución del tráfico y las alternativas Distribuir las solicitudes entre varios destinos de modelos y añadir conmutación por error para aumentar la disponibilidad.
Tareas de codificación de rutas con enrutamiento inteligente Selecciona automáticamente el mejor modelo y aprovecha para cada tarea de programación para controlar el gasto en IA sin sacrificar calidad.
Administración de presupuestos Supervise el gasto y establezca umbrales por usuario y límites duros.

Establecimiento de límites de protección y directivas de acceso

Las directivas de servicio, también denominadas barreras de protección, controlan cómo continúa cada solicitud y respuesta, en función de su contenido y de quién realiza la llamada.

Tema Description
Directivas de servicio para elementos protegibles de IA Cómo las directivas de servicio rigen el contenido de las solicitudes y respuestas a los servicios de inteligencia artificial mediante directivas integradas y personalizadas.
Cree y adjunte una directiva de servicio Cómo escribir una función de política de servicio y adjuntarla a un servicio MCP o servicio modelo.

Supervisión del uso, el costo y el riesgo

Realice un seguimiento de la actividad, el gasto y los resultados en todos los servicios de Unity AI Gateway.

Tema Description
Introducción a la observabilidad Elige la herramienta adecuada para monitorizar el uso, coste, rendimiento y actividad de la IA entre servicios.
Supervisar el uso Haz seguimiento de solicitudes, uso de tokens y latencia a través de Unity AI Gateway usando tablas del sistema.
Análisis de costos Atribuya el coste de Azure Databricks a servicios, modelos de destino, identidades y etiquetas.
Auditar solicitudes y respuestas Registra las solicitudes y las respuestas en tablas Delta de Unity Catalog para la supervisión y la depuración.
  • Last updated on