Tutorial: Governar o acesso ao modelo de um agente de programação com o Unity AI Gateway

Neste tutorial, liga um agente de programação externo, como Codex, Gemini CLI ou Cursor, a grandes modelos de linguagem (LLMs) governados pelo Unity AI Gateway. Depois controlas quem pode aceder a esses modelos e quanto o agente pode consumir e gastar. Em vez de cada programador colar uma chave API de fornecedor na sua ferramenta, cada pedido passa por um serviço modelo de Unity AI Gateway. O Unity Catalog controla quem pode usar quais modelos, e o Unity AI Gateway impõe limites e regista o uso e custo.

No final deste tutorial, terá:

  • Um agente de programação que envia todos os pedidos de modelo através do Unity AI Gateway usando as suas credenciais Azure Databricks, sem chave API de fornecedor na máquina do programador.
  • Registos centrais do uso e custo do agente, sujeitos aos limites de tarifa e permissões que definir no serviço modelo.

Prerequisites

Passo 1: Ligue o seu agente de codificação

Pode ligar o agente de uma de duas formas:

  • ucode (recomendado): Um lançador open-source (Unity AI Gateway Coding CLI) que gere o OAuth e escreve o ficheiro de configuração de cada agente, incluindo a URL da base de serviço do modelo e o modelo. Não geres as chaves de API ou os endpoints manualmente.
  • Configuração manual: Define a URL da base do serviço do modelo e modela-te nas definições integradas da ferramenta (Cursor, Codex ou Gemini CLI). Veja Integrar com agentes de codificação.

Esta secção utiliza ucode. Instale-o e depois execute o agente que quiser:

uv tool install git+https://github.com/databricks/ucode

Codex

ucode codex

Para executar em modo não interativo, passe a opção do próprio agente através de ucode:

ucode codex --full-auto

Gemini CLI

ucode gemini

OpenCode

ucode opencode

Copilot

ucode copilot

Na primeira execução, ucode pede a URL do seu espaço de trabalho e faz a autenticação; nas execuções seguintes, vai diretamente para o agente.

Passo 2: Gerir o acesso ao modelo do agente

Pode gerir um serviço de modelo como qualquer outro recurso protegível do Unity Catalog: concedendo EXECUTE para controlar quem o pode utilizar e utilizando o Unity AI Gateway para limitar o volume de pedidos e os custos. Configure qualquer um dos seguintes:

  • Gerir quem pode aceder ao modelo: No Explorador de Catálogo, abra o serviço de modelos e conceda EXECUTE a utilizadores ou grupos no separador Permissões .
  • Limitar o volume de pedidos: No Explorador de Catálogo, no separador Visão Geral do serviço de modelo, clique em Configurar em Limites de taxa. Defina um limite de pedidos por minuto (QPM) ou de tokens por minuto (TPM) para todos os pedidos do endpoint ou por utilizador.
  • Defina um orçamento de despesas: Um administrador de conta pode criar um orçamento abrangendo todos os endpoints do Unity AI Gateway. O orçamento agrega os gastos em todos os seus serviços-modelo; Defina um limiar de alerta para ser notificado, ou para bloquear o uso, antes que os custos o ultrapassem.

Passo 3: Verificar se o tráfego é governado

Confirme que os pedidos do agente passam pelo Unity AI Gateway e são registados:

  • Do agente: Envie um prompt. O agente responde usando o modelo que configuraste, sem a chave API do fornecedor na tua máquina.

  • Na tabela do sistema de utilização: Consulte o registo de utilização para confirmar que o seu serviço de modelo regista os pedidos:

    SELECT service_name, requester, status_code, COUNT(*) AS calls
FROM system.ai_gateway.usage
WHERE service_type = 'MODEL_SERVICE'
GROUP BY service_name, requester, status_code
ORDER BY calls DESC;

Para analisar a despesa com mais detalhe, veja Analisar o custo do Unity AI Gateway.

Passos seguintes

  • Last updated on