Conceitos do Unity Gateway

O Unity Gateway reúne registro, descoberta e acesso a modelos e ferramentas de IA em um só lugar. Controle quem pode usá-los, monitore o uso e gerencie custos entre aplicações e agentes.

O Unity Gateway utiliza esses conceitos para gerenciar modelos, provedores de modelos, ferramentas, habilidades e proteções implementadas com políticas de serviço:

Conceito O que faz Exemplo
Modelo Um LLM ou um modelo de incorporação. Um modelo registrado precisa de um serviço modelo para atender solicitações. gpt-astra-6.
Serviço de modelos Um endpoint que traduz e encaminha requisições de inferência para um ou mais modelos, com divisão de tráfego e mecanismos de contingência. Suporta requisições em tempo real, além de oferecer inferência em lote. frontier-model: GPT Astra 6 no Azure Databricks, com Claude Opus 5 como alternativa de contingência.
opus-5: Opus 5 fornecido pelo Azure Databricks, com AWS Bedrock como plano B.
Fornecedor de modelos Uma conexão que encaminha requisições para um provedor modelo externo usando credenciais gerenciadas centralmente. anthropic-prod: Uma conexão com Anthropic.
MCP Uma interface para agentes descobrirem e chamarem ferramentas por meio do Protocolo de Contexto de Modelo (MCP). support-tools: Ferramentas para Slack e Jira.
Habilidade Instruções e arquivos reutilizáveis que um agente carrega para guiar seu trabalho. customer-support: Um guia de suporte.
Política de serviço Implementa proteções que verificam solicitações e respostas a serviços de IA, utilizando políticas embutidas, personalizadas ou externas. A política integrada detect_sensitive_data detecta tipos configurados de dados confidenciais, como números de cartão de crédito, em solicitações e respostas de modelos. Bloqueia ou oculta as ocorrências encontradas.

Como as peças se encaixam

Chame um serviço de modelo para alcançar gpt-astra-6 no Azure Databricks, com o mesmo modelo disponível por meio de aws-bedrock como alternativa de contingência. Você pode alterar modelos ou alternativas de contingência sem alterar o nome usado pela sua aplicação. Anexe a política de serviço de Detecção de Dados Sensíveis incorporada ao serviço modelo para verificar requisições e respostas para categorias de dados sensíveis configuradas.

O agente do códex carrega a habilidade de suporte ao cliente e chama um serviço modelo protegido pela política de serviço detect_sensitive_data, que verifica as solicitações e respostas do modelo. O serviço modelo encaminha para o gpt-astra-6 no Databricks ou retorna ao mesmo modelo através do provedor de modelos aws-bedrock. O agente também acessa o Slack e o Jira via MCP.

Modelos e ferramentas de chamada

Substitua <workspace-url> e os nomes ilustrativos pelos seus próprios. Veja o quickstart para definir DATABRICKS_TOKEN.

Serviço de modelo

Os serviços de modelo oferecem suporte a APIs unificadas, como Chat Completions compatível com OpenAI, e APIs nativas do provedor, como Anthropic Messages, para modelos compatíveis.

Chame frontier-model usando a API unificada de Chat Completions. O serviço escolhe o modelo:

curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "production.ai.frontier-model",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Consulte modelos básicos de consulta e modelos de embedding para exemplos de SDK e outras APIs.

Fornecedor de modelos

Chame um modelo externo por meio de anthropic-prod usando a API Anthropic Messages. O cabeçalho seleciona a conexão, e o Unity Gateway fornece suas credenciais:

curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veja Consultar provedores de modelos externos (serviços de provedores de modelos) para obter APIs de provedores compatíveis.

MCP

Liste as ferramentas disponíveis por meio de support-tools:

curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 1,
    "method": "tools/list",
    "params": {}
  }'

Veja Usar ferramentas MCP em um agente Python para chamadas de ferramentas e integrações com agentes.

Catálogo Unity e controle de acesso

O Unity Gateway integra-se ao Unity Catalog para controlar quem cria serviços, incorpora provedores de modelos, os chama ou compartilha acesso. O Unity Catalog também governa modelos registrados, habilidades e quem pode anexar políticas de serviço.

Itens protegíveis do Catálogo do Unity

Modelos, serviços de modelo, provedores de modelos, MCPs e habilidades são objetos protegíveis do Unity Catalog: objetos aos quais você pode conceder permissões. Seus nomes seguem catalog.schema.name, como production.ai.frontier-model. Os serviços de modelo fornecidos pelo Azure Databricks são registrados em system.ai.

Um provedor modelo é registrado como serviço de provedor modelo no Catálogo Unity. Políticas de serviço se aplicam a serviços e não são seguros independentes.

No Unity Catalog, um modelo é um ativo em repouso: versões, metadados e artefatos. Registrá-lo não o torna invocável. Para modelos externos, registre a conexão com o provedor do modelo em vez do modelo.

Permissões de chave

Conceda permissões a usuários, grupos ou entidades de serviço. Para serviços modelo, provedores de modelos e MCPs, as principais permissões separam o uso da administração:

Privilege O que ele permite
EXECUTE Ligue para um serviço modelo, um provedor modelo ou um MCP.
CREATE SERVICE Crie serviços e integre provedores modelo em um esquema.
READ METADATA Verificar a configuração.
MANAGE Mude a configuração e conceda acesso a outros.

Os chamadores também precisam de USE CATALOG e USE SCHEMA no catálogo pai e no esquema pai. As políticas de serviço restringem as chamadas autorizadas. Eles não concedem acesso. Veja a página de cada conceito para obter os requisitos completos de permissão.

Introdução

Comece com um serviço modelo pronto para uso de system.ai, ou conecte seu agente de codificação:

Topic Description
Envie seu primeiro pedido Consulte um modelo e veja seu uso no gateway.
Conecte um agente de codificação Use seu agente de codificação preferido com modelos fornecidos pelo Azure Databricks.
Monitorar o uso. Analise a atividade do modelo e das ferramentas, o desempenho e o custo.
Configurar governança Configure o acesso e as políticas para o uso de IA da sua organização.
  • Última atualização em