Migrar cargas de trabalho de IA para o AI Gateway

O AI Gateway ajuda as equipas de plataforma a dar às aplicações e agentes acesso partilhado e governado a modelos e ferramentas de IA. Pode transportar tráfego de IA existente através do AI Gateway para centralizar ligações, aplicar controlos focados em IA e obter visibilidade sobre a utilização. O seu ponto de partida pode ser aplicações que contactam diretamente providers, um gateway existente ou capacidades de gateway de IA no API Management do Azure.

Mover uma carga de trabalho significa alterar a forma como as chamadas de modelo e ferramenta são geridas e encaminhadas. Podes manter as implementações do modelo subjacente, os serviços de ferramentas e as plataformas que gerem as tuas outras cargas de trabalho. Por exemplo, um assistente pode usar AI Gateway para acesso a modelos e ferramentas MCP federadas enquanto as APIs empresariais continuam a usar a Gestão de APIs.

Escolha as capacidades necessárias para as suas cargas de trabalho

Comece com a melhoria que pretende para aplicações, agentes ou operações de plataforma. AI Gateway pode ajudá-lo:

  • Partilhe conexões de modelos aprovados. Registar implementações de modelos existentes e expor aliases de modelos para que as aplicações usem nomes estáveis enquanto as equipas da plataforma gerem as ligações backend.
  • Juntar ferramentas para os agentes. Publique ferramentas de vários backends MCP através de um endpoint MCP de gateway partilhado.
  • Gerir o consumo de IA. Aplique limites de tokens e orçamentos estimados de despesa para modelos com controlos adequados à carga de trabalho e aos componentes que fazem as chamadas.
  • Compreender a utilização. Configure a telemetria para observar a atividade dos modelos e ferramentas e investigar pedidos.

Selecione cargas de trabalho que beneficiem destas capacidades, depois verifique as operações de modelo necessárias, transportes MCP, autenticação, políticas, redes e telemetria em relação ao suporte do AI Gateway. O apoio a um prestador não implica apoio a todas as operações que oferece.

Se as suas cargas de trabalho usam o API Management do Azure

Mover cargas de trabalho de IA selecionadas é opcional. O AI Gateway e a Gestão de APIs são complementares: utilizam o AI Gateway para governação centrada em modelos e ferramentas, e mantêm a gestão do ciclo de vida da API, experiências de portais para programadores e APIs empresariais na Gestão de APIs.

As capacidades de gateway de IA na Gestão de APIs continuam suportadas. Não está planeada uma paridade total de funcionalidades de IA entre os produtos, por isso avalie cada carga de trabalho usando AI Gateway e o serviço API Management do Azure. Por exemplo, dependências no balanceamento de carga do backend-pool, failover, cache semântica ou APIs de agentes A2A podem ser razões para manter uma carga de trabalho no API Management ou desenhar uma alternativa antes de a mover.

Outros níveis de Gestão de APIs não são afetados pela descontinuação do antigo SKU AIGateway. Se o seu recurso usar esse SKU obsoleto, siga o Migrate from the AIGateway SKU no API Management do Azure em vez disso.

Mapeie a carga de trabalho para o AI Gateway

Faça um inventário das ligações aos modelos e das ferramentas que planeia fazer passar através do AI Gateway, os seus chamadores, serviços de backend, credenciais, controlos, dependências de rede e operacionais. Utilize esse inventário para conceber a configuração de destino.

Configuração existente Desenho do target a avaliar
Chamadas diretas de modelos ou APIs de modelos atrás de um gateway Fornecedores de modelos e modelos registados, com o protocolo, endpoint e autenticação backend necessários
Nomes de modelos destinados ao cliente Aliases de modelos que preservam os nomes que as aplicações utilizam sempre que possível
Servidores MCP ou operações de API HTTP expostas como ferramentas Backends MCP e ferramentas selecionadas publicadas através dos endpoints MCP do gateway
Credenciais de aplicação e autorização do chamador, incluindo subscrições de Gestão de APIs Credenciais de execução de gateway ou concessões de acesso Microsoft Entra para os autores das chamadas necessários
Controlos em aplicações ou num gateway existente Controlos de IA Gateway suportados configurados para os modelos, ferramentas e invocadores apropriados
Limites de consumo e agrupamento por autor da chamada Políticas de limite de tokens e limites de custo que cumpram os requisitos de limite permitido da carga de trabalho e de gasto estimado
Diagnósticos, registos e dashboards Telemetria Gateway, alertas e dashboards que suportam verificações operacionais equivalentes
Automação de implementação Definições de recursos e operações de gestão para Microsoft.ApiManagement/aigateways

Trate este mapeamento como uma avaliação de design, não como uma conversão direta de configuração. Para cargas de trabalho em Gestão de APIs, APIs, produtos, subscrições e políticas precisam de ser mapeados para a configuração centrada em modelos e ferramentas do AI Gateway. Uma quota de tokens e um orçamento monetário estimado servem propósitos diferentes; nenhum substitui a faturação do prestador.