Conceitos do AI Gateway

APLICA-SE A: AI Gateway (pré-visualização)

Importante

O AI Gateway está atualmente em pré-visualização pública. Durante a pré-visualização pública, o AI Gateway está disponível nas seguintes regiões:

  • Estados Unidos - East US 2
  • Europa - Suécia Central

O AI Gateway centraliza o acesso a modelos e ferramentas de IA. Aplicações e agentes utilizam endpoints de gateway, enquanto as equipas da plataforma gerem ligações backend, acessos, políticas e observabilidade.

Este artigo explica o conceito-chave em que se baseia.

Gateways e endpoints de runtime

Um gateway é um recurso Azure do tipo Microsoft.ApiManagement/aigateways. Contém as ligações e controlos usados pelas suas aplicações.

A interface de gestão configura o gateway. Os endpoints em tempo de execução recebem pedidos de aplicação para inferência de modelos ou acesso à ferramenta MCP. São caminhos de acesso diferentes: a permissão para configurar um gateway não concede automaticamente permissão para chamar os seus modelos ou ferramentas.

Fornecedores de modelos, modelos registados e aliases

As ligações de modelo separam o serviço backend do nome que a aplicação utiliza.

Element Purpose
Fornecedor de modelos Armazena o endpoint e a configuração de autenticação para o Microsoft Foundry ou um serviço de modelo personalizado compatível.
Modelo registado Identifica uma implementação ou modelo backend existente e os endpoints que suporta. O registo não coloca em produção um novo modelo.
Pseudónimo do modelo Fornece um nome estável que as aplicações utilizam enquanto a equipa da plataforma gere o mapeamento do modelo backend.

Por exemplo, uma aplicação pode usar um alias para um modelo de chat sem armazenar as credenciais do fornecedor. Alterar o backend ainda requer verificar se o substituto suporta a API e o comportamento da aplicação.

Servidores e ferramentas MCP federados

Um servidor MCP federado combina ferramentas de serviços backend atrás de um único endpoint MCP. Um backend pode ser um servidor MCP remoto, uma API descrita pela OpenAPI ou um conector incorporado.

Uma ferramenta descreve uma operação e as suas entradas esperadas. Um agente descobre as ferramentas disponíveis e invoca operações selecionadas através do gateway. As chamadas de ferramenta podem alterar dados de backend, pelo que a disponibilidade de ferramentas e os controlos de acesso afetam o que os chamadores podem fazer.

A autenticação backend é separada do acesso do autor da chamada. Com uma ligação backend partilhada, os chamadores autorizados usam as permissões dessa ligação.

Acesso e identidades

Três relações determinam quem pode configurar o gateway e usar os seus backends:

Relationship Purpose
Administrador do gateway As permissões de gestão do Azure permitem que um operador configure o gateway e os seus recursos.
Originador da chamada para gateway O acesso em tempo de execução ao Microsoft Entra ou uma chave API de runtime de gateway autoriza aplicações e agentes. Chaves de API em tempo de execução concedem acesso ao gateway inteiro.
Gateway do backend Uma identidade gerida ou credencial backend autoriza o gateway junto do serviço upstream. A identidade precisa de acesso a esse serviço.

Configurar uma relação não concede as outras permissões. Mantenha as credenciais de execução do gateway separadas das credenciais do fornecedor e das credenciais de implementação/desdobramento.

Governação, networking e observabilidade

As políticas aplicam controlos partilhados ao tráfego de modelos e ferramentas, como limites de consumo e proteção de ferramentas. Os controlos estimados de despesa do modelo ajudam a controlar a utilização; a faturação do fornecedor continua a ser a fonte das cobranças reais.

Rede determina como o gateway chega aos serviços de backend. Os requisitos de rede pertencem ao design do gateway, especialmente quando os backends usam conectividade privada.

A telemetria proporciona visibilidade sobre o uso e o comportamento dos pedidos. Configure um destino de telemetria antes de confiar nos dados recolhidos para avaliar o tráfego do gateway.

A documentação dentro do produto contém orientações de configuração para modelos, servidores MCP, acesso, políticas, rede e observabilidade.