Criar e gerir APIs modelo (serviços modelo)

Crie, partilhe e gere as suas próprias APIs de modelo (serviços de modelo) no Unity Catalog.

Requirements

• Um espaço de trabalho Azure Databricks numa região suportada por Unity AI Gateway.
• Unity Catalog ativado para o seu espaço de trabalho. Consulte Habilitar um espaço de trabalho para o Unity Catalog.
• Para criar um serviço modelo, deve ter:
  • USE CATALOG, USE SCHEMA e CREATE SERVICE no catálogo e no esquema onde cria o serviço de modelo.
  • EXECUTE em cada modelo que o serviço de modelos referencia como destino.
  • EXECUTE, USE CATALOG e USE SCHEMA em cada serviço do fornecedor do modelo que o serviço de modelos referencia como destino.
  • USE CATALOG, USE SCHEMA e CREATE TABLE no catálogo e no esquema onde a tabela de inferência é criada, caso ative o registo de inferência.

Criar um serviço modelo

Pode criar um serviço de modelo na interface do Unity AI Gateway ou no Catalog Explorer, ou programaticamente com a API REST, os SDKs do Azure Databricks, a CLI do Azure Databricks ou o Terraform.

Os serviços modelo e os serviços de fornecedor de modelos partilham um único espaço de nomes dentro de um esquema do Catálogo Unity. Não podes usar um nome para um serviço de modelo se um serviço de fornecedor de modelos no esquema já utilizar esse nome, e vice-versa.

Explorador de Catálogos

1. Proceda de uma das seguintes formas:
   • Na barra lateral do espaço de trabalho, clique em AI Gateway e depois em Criar.
   • No Catalog Explorer, vá para o esquema onde pretende criar o serviço de modelo e, em seguida, clique em Criar>Serviço>Serviço de modelo.
2. Introduza um nome para o serviço de modelo e selecione o catálogo e o esquema para o criar. Se começares pelo Explorador de Catálogos, o Explorador de Catálogos prepreenche o catálogo e o esquema.
3. Selecione o destino principal a servir. Este destino pode ser um modelo alojado pela Databricks no qual tem EXECUTE ativo e que o Unity AI Gateway pode disponibilizar, ou um serviço de fornecedor de modelos no qual tem EXECUTE, USE CATALOG e USE SCHEMA ativos.
4. Clique em Criar.

Depois de criar o serviço de modelo, o Azure Databricks abre a sua página de visão geral, onde pode começar ou configurar funcionalidades adicionais, como registo de inferências.

Ferramentas de Programação

Databricks CLI: Passe o esquema pai e um nome da folha, e forneça a configuração com --json. A configuração de roteamento deve ter pelo menos um destino:

databricks ai-gateway create-model-service schemas/main.default my_model_service --json '{
  "comment": "Routes chat traffic to a foundation model",
  "config": {
    "routing": {
      "destinations": [
        {
          "name": "primary",
          "destination_type": "DESTINATION_TYPE_PAY_PER_TOKEN_FOUNDATION_MODEL",
          "pay_per_token_config": { "model": "models/system.ai.databricks-gpt-5" },
          "traffic_percentage": 100
        }
      ]
    }
  }
}'

Execute databricks ai-gateway create-model-service -h para ver todas as opções. Para instalar a linha de código, consulte Instalar ou atualizar a CLI de Databricks.

API REST: Use POST /api/2.1/unity-catalog/model-services.

Terraform: Crie e gere um serviço modelo usando o fornecedor Databricks Terraform e databricks_ai_gateway_model_service.

SDKs Databricks: Crie e gere serviços de modelos com o SDK Databricks para Python, o SDK Databricks para Java, o SDK Databricks para Go, ou o SDK Databricks para JavaScript.

Conceder acesso a um serviço modelo

Para permitir que outros consultem um serviço modelo, conceda-lhes EXECUTE no serviço modelo e USE CATALOGUSE SCHEMA no seu catálogo e esquema. Se o serviço de modelo registar dados numa tabela de inferência, conceda SELECT na tabela para lhes permitir ler os pedidos e as respostas registados.

Para conceder acesso no Explorador de Catálogos:

1. No Explorador de Catálogos, abra o serviço de modelos.
2. Na guia Permissões, clique em Conceder.
3. Selecione os utilizadores ou grupos a conceder acesso, selecione o EXECUTE privilégio e clique em Conceder.

Certifique-se de que os mesmos princípios também estão USE CATALOGUSE SCHEMA presentes no catálogo e esquema do serviço modelo. Para permitir que leiam as solicitações e respostas registadas, conceda SELECT na tabela de inferência no respetivo separador Permissões.

Para saber mais sobre como conceder e descobrir acessos, veja governar serviços de modelo.

Configurar funcionalidades num serviço modelo

Configuras funcionalidades como limites de taxa, registo de inferências e guardrails no serviço de modelos a partir da interface do Unity AI Gateway, da mesma forma que as configuras num endpoint do Unity AI Gateway. See:

• Aplicar limites de taxa aos serviços modelo e MCP
• Pedidos de registo e respostas às tabelas de inferência

Registo de inferência

Quando ativas o registo de inferências, o Azure Databricks cria uma nova tabela vazia do Unity Catalog com um esquema pré-definido no local que especificas. Tenha em atenção o seguinte::

• Tem de ter USE CATALOG, USE SCHEMA e CREATE TABLE no catálogo e no esquema de destino.
• O criador do serviço modelo é o proprietário da tabela de inferência. Nenhum outro utilizador tem acesso a menos que o concedas.
• Se uma tabela já existir na localização especificada, a criação do serviço modelo falha.
• A tabela de inferência tem um ciclo de vida independente do serviço modelo. Se eliminares a tabela, o serviço do modelo continua a funcionar, mas deixa de registar.

Para mais informações sobre tabelas de inferência, veja Pedidos de registo e respostas a tabelas de inferência.

Eliminar um serviço modelo

Para eliminar um serviço modelo, deve ter pelo menos o MANAGE privilégio sobre ele. O proprietário tem um superconjunto de MANAGE.

Para eliminar um serviço de modelo, abre-o no Explorador de Catálogos e selecione Eliminar no menu kebab.

Os serviços modelo fornecidos pelo sistema em system.ai não podem ser eliminados.

Passos seguintes

• Serviços modelo
• Serviços de modelo de consulta
• Descubra e regule o acesso a serviços modelo
• Integrar com agentes de codificação