Governação da IA com o Unity AI Gateway

Unity AI Gateway é a solução de governação do Azure Databricks para IA empresarial. Construído sobre o Unity Catalog, estende a governação para além dos seus dados e ativos de IA, incluindo as interações em tempo de execução entre modelos, agentes, servidores MCP e ferramentas. Controlar quais os serviços de IA que as equipas podem utilizar, encaminhar e gerir o tráfego de IA, definir guardas e monitorizar a utilização a partir de um único plano de controlo.

O Azure Databricks serve grandes modelos de linguagem (LLMs) nativamente através das APIs do Foundation Model, por isso tens acesso pay-per-token a modelos como GPT, Claude e Gemini sem infraestrutura para correr. Também pode estabelecer ligação a fornecedores de modelos externos e encaminhar pedidos para as suas APIs através do mesmo controlo de acesso e gestão de tráfego.

Introdução

Configure e aplique a governação da IA em todos os seus ativos, tráfego e comportamento de serviço.

Tópico Description
Tutorial: Governar o acesso ao modelo de um agente de programação com o Unity AI Gateway Encaminhe um agente codificador externo através de serviços de modelos governados, depois controla quem pode aceder aos modelos e limita o consumo e gasto do agente.
Tutorial: Governar o acesso GitHub MCP de um agente de programação Restringa o acesso de um agente de programação às ferramentas MCP do GitHub usando permissões do Unity Catalog e uma política de serviço incorporada.
Tutorial: Adicionar proteções de políticas de serviço a um serviço modelo Implemente guardrails num serviço modelo usando políticas de serviço incorporadas e personalizadas.
Tutorial: Acompanhar o investimento do modelo de fundação por utilizador, equipa ou projeto Identifique os fatores de despesa em LLMs atribuindo custos a utilizadores, equipas ou projetos com etiquetas de serviço e etiquetas de pedido.

Controla o acesso a serviços de IA

Regista ativos de IA como objetos seguros no Unity Catalog, depois concede e revoga o acesso com os mesmos privilégios que usas para tabelas e volumes. Os agentes são geridos através destes mesmos objetos protegidos: um agente é registado como modelo no Unity Catalog, e as ferramentas que invoca são geridas como serviços, funções e ligações do MCP.

Tópico Description
APIs de modelos Consulte modelos fundacionais disponibilizados nativamente em system.ai sem necessidade de configuração e gira o acesso através dos privilégios do Unity Catalog.
Fornecedores externos de modelos Ligue fornecedores como OpenAI e Anthropic ao bring your own key (BYOK) e governe-os através de um único ponto de controlo.
Modelos Governar modelos registados, incluindo modelos de fundação servidos pelo Azure Databricks, com privilégios do Unity Catalog.
Permissões de modelos base Restrinja quais os modelos de fundação servidos pelo Azure Databricks que a sua organização pode aceder, seja a nível da conta ou por grupo.
Ferramentas MCP Governar os servidores MCP registados como Unity Catalog securables, com filtragem de ferramentas e políticas de serviço.
Ferramentas personalizadas Gira as funções do Unity Catalog que os agentes utilizam como ferramentas, com os mesmos privilégios que utiliza para os dados.
Ligações HTTP Governar as ligações do Unity Catalog usadas para aceder a APIs externas e servidores MCP.
Criar APIs de modelos personalizadas Opcional: Adicione os seus próprios pontos finais geridos quando precisar de modelos para além das predefinições system.ai prontas a utilizar.

Encaminhar e gerir o tráfego de IA

O Unity AI Gateway encaminha pedidos para o seu modelo e serviços MCP a partir de um plano de controlo central, para que possa gerir capacidade, disponibilidade e despesa entre os fornecedores.

Tópico Description
Aplicar limites de taxa Aplicar limites de consumo nos serviços modelo e nos serviços MCP para gerir a capacidade e os custos.
Configurar a distribuição de tráfego e as alternativas Distribua pedidos por vários destinos de modelo e adicione tolerância a falhas para aumentar a disponibilidade.
Tarefas de codificação de rotas com Roteamento Inteligente Selecionar automaticamente o melhor modelo e aproveitar para cada tarefa de programação para controlar o gasto com IA sem sacrificar a qualidade.
Gerir orçamentos Monitoriza o gasto e define limiares e limites por utilizador.

Definir guarda-corpos e políticas de acesso

As políticas de serviço, também designadas por restrições de proteção, controlam a forma como cada pedido e resposta são processados, com base no respetivo conteúdo e em quem está a efetuar a chamada.

Tópico Description
Políticas de serviço para recursos protegíveis de IA Como as políticas de serviço governam o conteúdo dos pedidos e respostas a serviços de IA, utilizando políticas incorporadas e personalizadas.
Crie e anexe uma política de serviço Como escrever uma função de política de serviço e anexá-la a um serviço MCP ou serviço modelo.

Monitorizar o uso, custo e risco

Acompanhe atividade, despesas e resultados em todos os serviços Unity AI Gateway.

Tópico Description
Visão geral da observabilidade Escolha a ferramenta certa para monitorizar o uso, custo, desempenho e atividade da IA entre os serviços.
Monitorizar a utilização Acompanhe pedidos, utilização de tokens e latência através do Unity AI Gateway usando tabelas de sistema.
Analisar o custo Atribuir o custo do Azure Databricks aos serviços, modelos-alvo, princípios e etiquetas.
Pedidos e respostas à auditoria Registe pedidos e respostas nas tabelas Delta do Unity Catalog para monitorização e depuração.
  • Last updated on