Governação da IA com o Unity Gateway

O Unity Gateway é a solução de governação do Azure Databricks para IA empresarial. Construído sobre o Unity Catalog, estende a governação para além dos seus dados e ativos de IA, incluindo as interações em tempo de execução entre modelos, agentes, servidores MCP e ferramentas. Controle quais os serviços de IA que as equipas podem utilizar, encaminhe e gira o tráfego de IA, defina restrições com políticas de serviço e monitorize a utilização a partir de um único plano de controlo.

O Azure Databricks serve grandes modelos de linguagem (LLMs) nativamente através das APIs do Foundation Model, por isso tens acesso pay-per-token a modelos como GPT, Claude e Gemini sem infraestrutura para correr. Também pode estabelecer ligação a fornecedores de modelos externos e encaminhar pedidos para as suas APIs através do mesmo controlo de acesso e gestão de tráfego.

Introdução

Configure e aplique a governação da IA em todos os seus ativos, tráfego e comportamento de serviço.

Tópico Description
Tutorial: Controla o acesso ao modelo de um agente de codificação com o Unity Gateway Encaminhe um agente codificador externo através de serviços de modelos governados, depois controla quem pode aceder aos modelos e limita o consumo e gasto do agente.
Tutorial: Controla o acesso ao GitHub MCP de um agente de programação Restringa o acesso de um agente de programação às ferramentas MCP do GitHub usando permissões do Unity Catalog e uma política de serviço incorporada.
Governe modelos e MCPs com GRANT políticas Controle o acesso a modelos, serviços de modelo, serviços de fornecedores de modelos e serviços MCP em system.ai com etiquetas governadas fornecidas pelo sistema ou personalizadas.
Tutorial: Adicionar proteções de políticas de serviço a um serviço modelo Implemente guardrails num serviço modelo usando políticas de serviço incorporadas e personalizadas.
Tutorial: Acompanhar o investimento do modelo de fundação por utilizador, equipa ou projeto Identifique os fatores de despesa em LLMs atribuindo custos a utilizadores, equipas ou projetos com etiquetas de serviço e etiquetas de pedido.

Controla o acesso a serviços de IA

Regista ativos de IA como objetos seguros no Unity Catalog, depois concede e revoga o acesso com os mesmos privilégios que usas para tabelas e volumes. Os agentes são geridos através destes mesmos objetos protegidos: um agente é registado como modelo no Unity Catalog, e as ferramentas que invoca são geridas como serviços, funções e ligações do MCP.

Tópico Description
Serviços modelo Consulte modelos fundacionais disponibilizados nativamente em system.ai sem necessidade de configuração e gira o acesso através dos privilégios do Unity Catalog.
Fornecedores externos de modelos Ligue fornecedores como OpenAI e Anthropic ao bring your own key (BYOK) e governe-os através de um único ponto de controlo.
Modelos Governar modelos registados, incluindo modelos de fundação servidos pelo Azure Databricks, com privilégios do Unity Catalog.
Permissões de modelos base Restrinja quais os modelos de fundação servidos pelo Azure Databricks que a sua organização pode aceder, seja a nível da conta ou por grupo.
Ferramentas MCP Governar os servidores MCP registados como Unity Catalog securables, com filtragem de ferramentas e políticas de serviço.
Ferramentas personalizadas Gira as funções do Unity Catalog que os agentes utilizam como ferramentas, com os mesmos privilégios que utiliza para os dados.
Ligações HTTP Governar as ligações do Unity Catalog usadas para aceder a APIs externas e servidores MCP.
Criar serviços de modelos personalizados Opcional: Adicione os seus próprios pontos finais geridos quando precisar de modelos para além das predefinições system.ai prontas a utilizar.

Encaminhar e gerir o tráfego de IA

O Unity Gateway encaminha pedidos para o seu modelo e serviços MCP a partir de um plano de controlo central, para que possa gerir a capacidade, disponibilidade e despesa entre os fornecedores.

Tópico Description
Aplicar limites de taxa Aplicar limites de consumo nos serviços modelo e nos serviços MCP para gerir a capacidade e os custos.
Configurar a distribuição de tráfego e as alternativas Distribua pedidos por vários destinos de modelo e adicione tolerância a falhas para aumentar a disponibilidade.
Tarefas de codificação de rotas com Roteamento Inteligente Selecionar automaticamente o melhor modelo e aproveitar para cada tarefa de programação para controlar o gasto com IA sem sacrificar a qualidade.
Gerir orçamentos Monitoriza o gasto e define limiares e limites por utilizador.

Definir guarda-corpos e políticas de acesso

As políticas de serviço são os mecanismos que utilizas para implementar proteções para serviços de IA. Eles controlam como cada pedido e resposta decorre, com base no seu conteúdo e em quem está a fazer a chamada.

Tópico Description
Políticas de serviço para recursos protegíveis de IA Como as políticas de serviço governam o conteúdo dos pedidos e respostas a serviços de IA, utilizando políticas incorporadas, personalizadas e externas.
Crie e anexe uma política de serviço Como escrever uma função de política de serviço e anexá-la a um serviço MCP ou serviço modelo.
Aplicar um limite de segurança para parceiros com uma política de serviço externo Como fazer cumprir as decisões de um fornecedor de guardrail de terceiros sobre serviços de modelo e MCP com uma política de serviço externa.

Monitorizar o uso, custo e risco

Acompanhe a atividade, os gastos e os resultados em todos os serviços Unity Gateway.

Tópico Description
Visão geral da observabilidade Escolha a ferramenta certa para monitorizar o uso, custo, desempenho e atividade da IA entre os serviços.
Monitorizar a utilização Acompanhe pedidos, uso de tokens e latência através do Unity Gateway usando tabelas de sistema.
Analisar o custo Atribuir o custo do Azure Databricks aos serviços, modelos-alvo, princípios e etiquetas.
Pedidos e respostas à auditoria Registe pedidos e respostas nas tabelas Delta do Unity Catalog para monitorização e depuração.
  • Última atualização a