Conceitos do Unity Gateway

O Unity Gateway reúne o registo, a descoberta e o acesso a modelos e ferramentas de IA num só local. Controlar quem pode usá-los, monitorizar a utilização e gerir custos entre aplicações e agentes.

O Unity Gateway utiliza estes conceitos para gerir modelos, fornecedores de modelos, ferramentas, competências e proteções implementadas com políticas de serviço:

Conceito O que faz Exemplo
Modelo Um modelo de LLM ou embedding. Um modelo registado precisa de um serviço modelo para servir pedidos. gpt-astra-6.
Serviço de modelos Um endpoint que traduz e encaminha pedidos de inferência para um ou mais modelos, com divisão de tráfego e mecanismos de recurso. Suporta pedidos em tempo real, além de inferência em lote. frontier-model: GPT Astra 6 no Azure Databricks, com Claude Opus 5 como alternativa.
opus-5: Opus 5 fornecido pelo Azure Databricks, com AWS Bedrock como plano B.
Fornecedor de modelos Uma ligação que encaminha pedidos para um fornecedor modelo externo usando credenciais geridas centralmente. anthropic-prod: Uma ligação ao Anthropic.
MCP Uma interface para agentes descobrirem e chamarem ferramentas através do Model Context Protocol (MCP). support-tools: Ferramentas para Slack e Jira.
Habilidade Instruções e ficheiros reutilizáveis que um agente carrega para orientar o seu trabalho. customer-support: Um guia de suporte.
Política de serviço Implementa mecanismos de proteção que verificam pedidos e respostas a serviços de IA, utilizando políticas integradas, personalizadas ou externas . A política integrada detect_sensitive_data deteta tipos configurados de dados sensíveis, como números de cartões de crédito, em pedidos e respostas ao modelo. Bloqueia ou oculta ocorrências.

Como as peças se encaixam

Chame um serviço de modelos para chegar a gpt-astra-6 no Azure Databricks, com o mesmo modelo disponível através de aws-bedrock como alternativa. Pode alterar modelos ou alternativas sem alterar o nome que a sua aplicação utiliza. Anexe a política de serviço de Deteção de Dados Sensíveis incorporada ao serviço modelo para verificar pedidos e respostas para categorias de dados sensíveis configuradas.

O agente Codex carrega a capacidade de apoio ao cliente e chama um serviço de modelo protegido pela política de serviço detect_sensitive_data, que verifica as solicitações ao modelo e as respetivas respostas. O serviço de modelo encaminha os pedidos para o gpt-astra-6 no Databricks ou recorre, em alternativa, ao mesmo modelo através do fornecedor de modelos aws-bedrock. O agente também acede ao Slack e ao Jira através do MCP.

Modelos de chamadas e ferramentas

Substitua <workspace-url> e os nomes ilustrativos pelos seus próprios nomes. Veja o quickstart para definir DATABRICKS_TOKEN.

Serviço de modelos

Os serviços de modelo suportam APIs unificadas como Chat Completions compatíveis com OpenAI e APIs nativas de fornecedores, como Anthropic Messages, para modelos compatíveis.

Chame frontier-model utilizando a API unificada de Chat Completions. O serviço escolhe o modelo:

curl "https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "production.ai.frontier-model",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Consulte Query foundation and embedding models para exemplos de SDK e outras APIs.

Fornecedor de modelos

Chame um modelo externo através de anthropic-prod com a API Anthropic Messages. O cabeçalho seleciona a ligação, e o Unity Gateway fornece as suas credenciais:

curl "https://<workspace-url>/ai-gateway/anthropic/v1/messages" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Databricks-Model-Provider-Service: production.ai.anthropic-prod" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5",
    "max_tokens": 256,
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Consulte fornecedores de modelos externos (serviços de fornecedores de modelos) para conhecer as APIs de fornecedores suportadas.

MCP

Liste as ferramentas disponíveis através de support-tools:

curl "https://<workspace-url>/ai-gateway/mcp-services/production.ai.support-tools" \
  -H "Authorization: Bearer $DATABRICKS_TOKEN" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 1,
    "method": "tools/list",
    "params": {}
  }'

Veja Usar ferramentas MCP num agente Python para chamadas de ferramentas e integrações com agentes.

Catálogo Unity e controlo de acesso

O Unity Gateway integra-se com o Unity Catalog para controlar quem cria serviços, modela fornecedores, os contacta ou partilha acesso. O Unity Catalog também regula modelos registados, competências e quem pode anexar políticas de serviço.

Objetos protegíveis do Unity Catalog

Modelos, serviços de modelo, fornecedores de modelos, MCPs e competências são securáveis do Unity Catalog: objetos sobre os quais pode conceder permissões. Os seus nomes seguem catalog.schema.name, como production.ai.frontier-model. Os serviços de modelo fornecidos pelo Azure Databricks estão registados em system.ai.

Um fornecedor modelo está registado como serviço de prestador modelo no Catálogo Unity. As políticas de serviço aplicam-se aos serviços e não são seguros independentes.

No Unity Catalog, um modelo é um ativo em repouso: versões, metadados e artefactos. Registá-lo não o torna invocável. Para modelos externos, registar a ligação ao fornecedor do modelo em vez do modelo.

Permissões de chave

Conceda permissões a utilizadores, grupos ou principais de serviço. Para serviços modelo, fornecedores de modelos e MCPs, as principais permissões separam a utilização da administração:

Privilege O que permite
EXECUTE Ligue para um serviço modelo, um fornecedor de modelos ou um MCP.
CREATE SERVICE Criar serviços e integrar fornecedores de modelos num esquema.
READ METADATA Verificar a configuração.
MANAGE Mude a configuração e conceda acesso a outros.

Os chamadores também precisam de USE CATALOG e USE SCHEMA no catálogo e no esquema principais. As políticas de serviço limitam as chamadas autorizadas. Eles não concedem acesso. Consulte a página de cada conceito para os requisitos completos de permissões.

Introdução

Comece com um serviço modelo pronto a usar de system.ai, ou ligue o seu agente de codificação:

Topic Description
Envie o seu primeiro pedido Consulta um modelo e vê a sua utilização no gateway.
Ligue um agente de codificação Use o seu agente de codificação preferido com modelos fornecidos pelo Azure Databricks.
Monitorizar a utilização Inspecione a atividade do modelo e das ferramentas, o desempenho e o custo.
Estabelecer governação Configure o acesso e as políticas para a utilização da IA pela sua organização.
  • Última atualização a