Governança de IA com o Gateway de IA do Unity

O Gateway de IA do Unity é a solução de governança Azure Databricks para IA corporativa. Criado no Catálogo do Unity, ele estende a governança além de seus dados e ativos de IA para as interações de runtime entre modelos, agentes, servidores MCP e ferramentas. Controle quais serviços de IA as equipes podem usar, roteie e gerencie o tráfego de IA, defina proteções e monitore o uso a partir de um único plano de controle.

O Azure Databricks atende grandes modelos de linguagem (LLMs) nativamente por meio das APIs do Foundation Model, então você tem acesso pay-per-token a modelos como GPT, Claude e Gemini sem infraestrutura para rodar. Você também pode conectar provedores de modelos externos e rotear para suas APIs usando o mesmo controle de acesso e gerenciamento de tráfego.

Introdução

Configure e aplique a governança de IA em seus ativos de IA, tráfego e comportamento de serviço.

Tópico DESCRIÇÃO
Tutorial: Governe o acesso ao modelo de um agente de codificação com o Unity AI Gateway Encaminhe um agente de codificação externo por serviços de modelos governados, depois controle quem pode acessar os modelos e limite ao consumo e gasto do agente.
Tutorial: Controlar o acesso mcp GitHub de um agente de codificação Restrinja o acesso de um agente de programação às ferramentas MCP do GitHub usando permissões do Unity Catalog e uma política de serviço integrada.
Tutorial: Adicionar proteções de políticas de serviço a um serviço modelo Implemente proteções em um serviço modelo usando políticas de serviço integradas e personalizadas.
Tutorial: Acompanhe o uso do modelo de fundação por usuário, equipe ou projeto Identifique os fatores de gasto em LLMs atribuindo custos a usuários, equipes ou projetos com tags de serviço e tags de solicitação.

Controle o acesso a serviços de IA

Registre ativos de IA como objetos protegíveis do Catálogo do Unity e conceda e revogue o acesso com os mesmos privilégios usados para tabelas e volumes. Os agentes são governados por esses mesmos objetos protegíveis: um agente é registrado como um modelo no Unity Catalog, e as ferramentas que ele invoca são governadas como serviços, funções e conexões do MCP.

Tópico DESCRIÇÃO
APIs de modelos Consulte modelos fundacionais disponibilizados nativamente em system.ai, sem necessidade de configuração, e controle o acesso por meio dos privilégios do Unity Catalog.
Provedores externos de modelos Conecte provedores como OpenAI e Anthropic com o bring your own key (BYOK) e os controle por meio de um único ponto de controle.
Modelos Governar modelos registrados, incluindo modelos de fundação servidos pelo Azure Databricks, com privilégios do Unity Catalog.
Permissões de modelo de fundação Ressuma quais modelos de fundação servidos pelo Azure Databricks sua organização pode acessar, seja em toda a conta ou por grupo.
Ferramentas do MCP Gerencie os servidores MCP registrados como objetos protegidos no Unity Catalog, com filtragem de ferramentas e políticas de serviço.
Ferramentas personalizadas Governe as funções do Catálogo do Unity que os agentes usam como ferramentas, com os mesmos privilégios que você usa para os dados.
Conexões HTTP Governe as conexões do Catálogo do Unity usadas para alcançar APIs externas e servidores MCP.
Criar APIs de modelos personalizadas Opcional: adicione seus próprios pontos de extremidade governados quando precisar de modelos além dos padrões system.ai prontos para uso.

Rotear e gerenciar o tráfego de IA

O Gateway de IA da Unity roteia solicitações para seu modelo e serviços MCP a partir de um plano de controle central, para que você possa gerenciar a capacidade, a disponibilidade e os gastos em diferentes provedores.

Tópico DESCRIÇÃO
Aplicar limites de taxa Imponha limites de consumo em serviços de modelo e serviços MCP para gerenciar a capacidade e o custo.
Configurar divisão de tráfego e alternativas de contingência Distribua solicitações entre vários destinos de modelo e adicione failover para aumentar a disponibilidade.
Tarefas de codificação de rotas com roteamento inteligente Selecione automaticamente o melhor modelo e aproveite para cada tarefa de codificação para controlar o gasto com IA sem sacrificar a qualidade.
Gerenciar orçamentos Monitore os gastos e defina limites por usuário e limites rígidos.

Definir guardrails e políticas de acesso

As políticas de serviço, também chamadas de proteções, controlam como cada solicitação e resposta é processada, com base em seu conteúdo e em quem está fazendo a solicitação.

Tópico DESCRIÇÃO
Políticas de serviço para recursos de IA protegidos Como as políticas de serviço regem o conteúdo de solicitações e respostas aos serviços de IA, usando políticas internas e personalizadas.
Criar e anexar uma política de serviço Como escrever uma função de política de serviço e anexá-la a um serviço MCP ou serviço modelo.

Monitorar o uso, o custo e o risco

Acompanhe a atividade, os gastos e os resultados em todos os serviços do Gateway de IA do Unity.

Tópico DESCRIÇÃO
Visão geral da observabilidade Escolha a ferramenta certa para monitorar o uso, custo, desempenho e atividade da IA entre os serviços.
Monitorar o uso. Rastreie requisições, uso de tokens e latência através do Unity AI Gateway usando tabelas do sistema.
Analisar o custo Atribua o custo do Azure Databricks a serviços, modelos de destino, entidades de segurança e tags.
Auditar solicitações e respostas Registrar solicitações e respostas nas tabelas Delta do Unity Catalog para monitoramento e depuração.
  • Last updated on