Gerir APIs de modelo (serviços de modelo)

Uma API de modelo dá-lhe acesso governado a um grande modelo de linguagem. Envie um pedido, receba uma resposta, sem infraestrutura para gerir. Por predefinição, todos os utilizadores da conta podem consultar as APIs de modelos disponibilizadas pelo sistema no esquema system.ai sem necessidade de configuração. Estes são modelos de fundação servidos nativamente pelo Azure Databricks, faturados por token.

No Azure Databricks, uma API de modelo é um objeto securável do Unity Catalog (um serviço modelo) que representa um endpoint LLM governado. Como o Unity Catalog o armazena, tu defines, partilhas e governas o acesso a ele centralmente, juntamente com os teus dados e através dos limites do espaço de trabalho. Para governar modelos adicionais ou expor um endpoint personalizado, cria as suas próprias APIs de modelo.

As APIs de modelos suportam o seguinte:

• Modelos de base disponibilizados pelo Azure Databricks, como serviços fornecidos pelo sistema em system.ai e como serviços que cria. São suportados tanto destinos pay-per-token como throughput provisionados .
• Criar e gerir APIs de modelos com a interface Unity AI Gateway, Catalog Explorer e a Unity Catalog REST API.
• Consulta de APIs de modelo entre espaços de trabalho, dentro e fora do Azure Databricks.

O que é um serviço modelo?

Um serviço de modelo vive num esquema do Catálogo Unity e faz referência a um ou mais destinos, com roteamento e alternativa entre eles. Os chamadores invocam o serviço modelo pelo seu nome totalmente qualificado, e o Unity AI Gateway encaminha cada pedido para um destino. Um destino pode ser um modelo servido pelo Azure Databricks ou um serviço de fornecedor modelo que encaminha para um fornecedor externo, e um único serviço modelo pode misturar ambos.

Como um serviço modelo é um objeto securável pelo Unity Catalog, ele:

• Vive num catálogo e esquema, onde herda definições de esquema, como ligações de espaço de trabalho.
• Transporta metadados padrão do Unity Catalog, como nome, proprietário, comentário e etiquetas.
• É regido pelos privilégios do Unity Catalog, por isso concede acesso usando as GRANTREVOKE mesmas instruções que usa para tabelas, funções e modelos.
• Pode ser descoberto no Explorador de Catálogos, juntamente com o resto dos teus ativos do Catálogo Unity.

O mesmo serviço modelo também aparece como endpoint na interface Unity AI Gateway, onde as equipas de IA podem configurar funcionalidades como limites de taxa, tabelas de inferência e guardrails. Para mais informações sobre essas funcionalidades, consulte a governação da IA com o Unity AI Gateway.

Por que governar os LLMs no Unity Catalog?

Os endpoints do Unity AI Gateway criados num espaço de trabalho estão limitados a esse espaço de trabalho. Para partilhar um endpoint entre espaços de trabalho, deve duplicá-lo em cada espaço e gerir cada cópia separadamente.

Os serviços modelo transferem a governação para o Unity Catalog, para que possa:

• Defina um endpoint de LLM uma única vez e utilize-o a partir de qualquer espaço de trabalho associado ao mesmo metastore.
• Gerir o acesso centralmente utilizando privilégios do Unity Catalog, em vez de permissões por área de trabalho.
• Descubra modelos que estejam disponíveis para si em vários espaços de trabalho a partir de um único local.
• Monitorize a utilização e o custo dos serviços de modelos nas tabelas de sistema do Unity Catalog.
• Consulte a linhagem para ver os modelos que um serviço disponibiliza e os ativos a jusante que consomem os seus dados. Consulte API e linhagem de fornecedores do modelo Track.

Serviços modelo fornecidos pelo sistema

O Azure Databricks fornece um serviço de modelo pronto a usar no system.ai esquema para cada modelo de fundação servido pelo Azure Databricks, como system.ai.claude-opus-5. O Azure Databricks adiciona novos serviços de modelos de sistema à medida que novos modelos de fundação se tornam disponíveis.

Os serviços de modelo fornecidos pelo sistema apresentam as seguintes características:

• Por defeito, todos os utilizadores da conta têm esse EXECUTE privilégio, por isso podes consultá-los sem necessidade de configuração adicional.
• O utilizador do sistema é o proprietário deles, e não pode apagá-los.
• Por defeito, apenas os administradores da metastore podem modificá-las. Um administrador de metastore pode delegar a gestão concedendo o MANAGE privilégio.

Para restringir o acesso a serviços modelo fornecidos pelo sistema, veja governar serviços modelo.

Privilégios

Os serviços de modelo utilizam o modelo padrão de privilégios do Catálogo Unity. Aplicam-se os seguintes privilégios:

Os serviços modelo utilizam os privilégios do definidor. O Azure Databricks avalia uma consulta com base nos privilégios do proprietário em vez dos do chamador. Quando um utilizador consulta um serviço de modelo, o Azure Databricks verifica se o proprietário tem EXECUTE sobre os destinos referenciados, como os modelos subjacentes e quaisquer serviços do fornecedor de modelos. O interlocutor não precisa de acesso direto a esses destinos.

Limitações

As seguintes capacidades não são suportadas:

• Criar e gerir serviços de modelo com SQL.
• Descobrir serviços do modelo apenas com o privilégio BROWSE.
• Pesquisa global por serviços modelo.

Passos seguintes

• Criar e gerir serviços modelo
• Serviços de modelo de consulta
• Descubra e regule o acesso a serviços modelo
• Integrar com agentes de codificação
• API de modelo de rastreio e linhagem de fornecedores