Observabilidad de Unity AI Gateway

La observabilidad del Unity AI Gateway te permite monitorizar costes, uso, rendimiento y acceso para cada servicio de IA desde un solo plano de control, respaldado por tablas del sistema Unity Catalog. A medida que los equipos adoptan agentes de codificación, copilotos y agentes personalizados en toda la organización, se vuelve más difícil ver quién accede a qué modelos o herramientas, cuánto cuestan y si los endpoints están en buen estado. Como cada solicitud pasa por Unity AI Gateway, puedes responder a esas preguntas en un solo lugar.

Requisitos

• Un área de trabajo de Azure Databricks en una región compatible con Unity AI Gateway.
• El panel de uso integrado de Unity AI Gateway. Un administrador de la cuenta puede crearlo mediante AI Gateway > Govern > Crear panel de uso. Consulta Crear panel de uso integrado.

Supervisión del costo

Desde la interfaz del espacio de trabajo, ve a AI Gateway > Govern > Usage Dashboard > Cost Analysis para hacer un seguimiento del gasto en dólares por endpoint, modelo fundacional proporcionado por Azure Databricks o por usuario a lo largo del tiempo. El panel de control integrado se basa en tablas de uso y facturación:

• system.ai_gateway.usage registra las métricas de uso, como el número de tokens y los detalles del solicitante, para cada solicitud enrutada a través de la puerta de enlace
• system.billing.usage y system.billing.list_prices realizan un seguimiento del consumo de Azure Databricks en unidades de Databricks (DBU) y del precio de lista, respectivamente, que puedes combinar para estimar el gasto en modelos fundacionales (consulta cómo estimar el gasto en modelos fundacionales)
• system.ai_gateway.external_model_spend registra el gasto estimado en USD, agregado por hora, para las solicitudes dirigidas a modelos externos a través de servicios de proveedor de modelos

Para atribuir el gasto según dimensiones personalizadas, utiliza etiquetas de solicitud o de servicio para agrupar el coste por unidad de negocio, proyecto o cualquier dimensión que le importe a tu organización ( véase Seguimiento del gasto del modelo de fundación por usuario, equipo o proyecto).

Consulta Analizar el coste de la pasarela de IA de Unity.

Uso y rendimiento del monitor

El panel de uso de Unity AI Gateway (AI Gateway > Govern > Usage Dashboard) rastrea el volumen de solicitudes, el consumo de tokens y la latencia de todos los endpoints gobernados a través de la pasarela. Cada Modelo o Servicio MCP también tiene una pestaña de Métricas integrada para monitorizar la salud sin salir de la interfaz del Explorador de Catálogos. Para un análisis más profundo, consulta la system.ai_gateway.usage tabla para analizar métricas de uso como el número de tokens, la latencia, el solicitante y las etiquetas de solicitud para cada solicitud enrutada a través de la pasarela ( véase el esquema de la tabla de uso).

Usos comunes:

• Monitoriza y optimiza todos tus servicios de IA desde un solo lugar, a lo largo de tu pila de IA
• Seguimiento de la adopción de agentes de programación y la popularidad del modelo entre equipos
• Identificar los usuarios, servicios y modelos más activos para detectar oportunidades de optimización

Consulta Seguimiento de uso del modelo.

Inspeccionar solicitudes y respuestas

Habilitar tablas de inferencia en un servicio modelo para registrar las cargas útiles de petición y respuesta en una tabla de Unity Catalog. Utilizar tablas de inferencia para:

• Solucionar problemas de respuestas fallidas o inesperadas
• Verifica que los mecanismos de protección funcionen, por ejemplo, la supresión de la información de identificación personal.
• Auditoría de exposición a datos sensibles

Consulta Solicitudes de registro y respuestas a tablas de inferencia.

Acceso a auditoría

Consulta la system.access.audit tabla para demostrar quién accedió a qué servicio de IA y cuándo. Para distinguir a una persona que llama de un agente que actúa en su representación, utiliza los campos run_by y run_as en identity_metadata.

Usos comunes:

• Crear un rastro de acceso para el cumplimiento y la notificación regulatoria
• Distingue a un llamante humano de un agente que actúa en su nombre
• Mantén una pista de auditoría central entre los agentes de codificación que utilizan tus equipos

Consulte la referencia de la tabla del sistema de registro de auditoría .

Seguimiento de dependencias

Lineage rastrea las dependencias entre los modelos fundacionales y los Servicios de Modelo, así como sus consumidores posteriores. Utiliza Lineage para determinar el impacto de la desaprobación o cambio de un Servicio Modelo y notifique a sus propietarios.

Consulte Linaje de datos en Unity Catalog.

Recursos adicionales

• Gobernanza de inteligencia artificial con Unity AI Gateway
• Uso del modelo de vía
• Analizar el coste de la Gateway de Unity AI
• Solicitudes de registro y respuestas a tablas de inferencia
• Administración de presupuestos para Unity AI Gateway