APIs de modelo de gobierno (servicios modelo)

Una API de modelos te da acceso gobernado a un modelo de lenguaje grande. Envía una solicitud, recibe una respuesta, sin infraestructura que ejecutar. Por defecto, cada usuario de cuenta puede consultar las APIs de modelo proporcionadas por el sistema en el system.ai esquema sin necesidad de configuración. Estos son modelos de fundación servidos de forma nativa por Azure Databricks, facturados por token.

En Azure Databricks, una API de modelo es un objeto protegible de Unity Catalog (un servicio de modelos) que representa un endpoint de LLM gobernado. Como Unity Catalog lo almacena, tú defines, compartes y gobiernas el acceso a él de forma centralizada, junto con tus datos y a través de los límites del espacio de trabajo. Para gobernar modelos adicionales o exponer un endpoint personalizado, creas tus propias APIs de modelo.

Las APIs de modelos soportan lo siguiente:

• Modelos fundacionales servidos por Azure Databricks, como servicios proporcionados por el sistema en system.ai y como servicios que creas. Se admiten destinos de pago por token y de rendimiento aprovisionado.
• Creando y gestionando APIs de modelos con la interfaz de Unity AI Gateway, Catalog Explorer y la API REST de Unity Catalog.
• Consulta de las API de modelos en distintos espacios de trabajo, tanto dentro como fuera de Azure Databricks.

¿Qué es un servicio de modelo?

Un servicio de modelo reside en un esquema de Unity Catalog y hace referencia a uno o varios destinos, con enrutamiento y soluciones alternativas entre ellos. Los llamantes invocan el servicio modelo por su nombre totalmente cualificado, y Unity AI Gateway enruta cada solicitud a un destino. Un destino puede ser un modelo servido por Azure Databricks o un servicio proveedor de modelo que enruta a un proveedor externo, y un servicio modelo único puede mezclar ambos.

Dado que un servicio de modelo es un objeto protegible del catálogo de Unity, es:

• Reside en un catálogo y un esquema, donde hereda la configuración del esquema, como los enlaces del área de trabajo.
• Incluye metadatos estándar del catálogo de Unity, como el nombre, el propietario, el comentario y las etiquetas.
• Se rige por privilegios de Catálogo de Unity, por lo que se concede acceso mediante las mismas GRANT instrucciones y REVOKE que se usan para tablas, funciones y modelos.
• Se puede detectar en el Explorador de catálogos, junto con el resto de los recursos del catálogo de Unity.

El mismo servicio de modelo también aparece como un punto de conexión en la interfaz de usuario de Unity AI Gateway, donde los equipos de IA pueden configurar características como límites de velocidad, tablas de inferencia y límites de protección. Para más información sobre esas características, consulte Gobernanza de inteligencia artificial con Unity AI Gateway.

¿Por qué controlar las LLM en el catálogo de Unity?

Los puntos de conexión de Unity AI Gateway creados en un área de trabajo se limitan a esa área de trabajo. Para compartir un punto de conexión entre áreas de trabajo, debe duplicarlo en cada área de trabajo y administrar cada copia por separado.

Los servicios de modelo mueven la gobernanza al catálogo de Unity, por lo que puede hacer lo siguiente:

• Defina un punto de conexión LLM una vez y úselo desde cualquier área de trabajo asociada al mismo metastore.
• Controlar el acceso de forma centralizada mediante privilegios de catálogo de Unity, en lugar de permisos por área de trabajo.
• Descubra los modelos que están disponibles en todas las áreas de trabajo desde una sola ubicación.
• Realice un seguimiento del uso y el costo de los servicios de modelo en las tablas del sistema del catálogo de Unity.
• Realiza un seguimiento del linaje para ver los modelos que ofrece un servicio y los activos posteriores que consumen sus cargas útiles. Consulta la API del modelo Track y el linaje de proveedores.

Servicios de modelo proporcionados por el sistema

Azure Databricks proporciona un servicio de modelo listo para usar en el system.ai esquema para cada modelo de fundación servido por Azure Databricks, como system.ai.claude-opus-5. Azure Databricks agrega nuevos servicios de modelo de sistema a medida que los nuevos modelos básicos estén disponibles.

Los servicios de modelo proporcionados por el sistema tienen las siguientes características:

• De forma predeterminada, todos los usuarios de la cuenta tienen el EXECUTE privilegio, por lo que puede consultarlos sin configuración adicional.
• Un usuario del sistema los posee y no puede eliminarlos.
• De forma predeterminada, solo los administradores de metastore pueden modificarlos. Un administrador de metastore puede delegar la administración concediéndole el MANAGE privilegio.

Para restringir el acceso a los servicios de modelo proporcionados por el sistema, consulte Gobernanza de los servicios de modelo.

Privileges

Los servicios de modelo usan el modelo de privilegios del catálogo de Unity estándar. Se aplican los privilegios siguientes:

Los servicios modelo utilizan los privilegios del definidor. Azure Databricks evalúa una consulta en función de los privilegios del propietario en lugar de los del llamante. Cuando un usuario consulta un servicio modelo, Azure Databricks comprueba que el propietario tenga EXECUTE sobre los destinos referenciados, como los modelos subyacentes y cualquier servicio proveedor de modelos. El que llama no necesita acceso directo a esos destinos.

Limitations

No se soportan las siguientes capacidades:

• Crear y gestionar servicios de modelo con SQL.
• Descubrir servicios de modelo solo con el privilegio BROWSE.
• Búsqueda global de servicios modelo.

Pasos siguientes

• Creación y administración de servicios de modelo
• Servicios de modelo de consulta
• Detección y control del acceso a los servicios de modelo
• Integración con agentes de codificación
• API de modelo de seguimiento y linaje de proveedores