Co to jest brama sztucznej inteligencji?

DOTYCZY: AI Gateway (podgląd)

Ważna

AI Gateway jest obecnie dostępny w publicznej wersji zapoznawczej. Podczas publicznej wersji zapoznawczej AI Gateway jest dostępny w następujących regionach:

  • Stany Zjednoczone — Wschodnie stany USA 2
  • Europa - Szwecja Centralna

AI Gateway to zarządzana brama dla ruchu AI, w tym żądań do modeli AI oraz serwerów Model Context Protocol (MCP). Daje organizacjom wspólny punkt kontroli nad tym, jak aplikacje i agenci łączą się z usługami AI, zużywają zasoby i mają dostęp do narzędzi.

Wraz ze wzrostem adopcji AI zespoły łączą się z modelami i narzędziami obsługiwanymi przez różnych dostawców. Zarządzanie każdym połączeniem niezależnie może powielać zarządzanie poświadczeniami i mechanizmami kontroli zużycia, jednocześnie utrudniając zrozumienie użycia. AI Gateway łączy te połączenia, dzięki czemu zespoły platformowe mogą zarządzać nimi centralnie, podczas gdy deweloperzy skupiają się na tworzeniu aplikacji.

Diagram przedstawiający użytkowników, agentów AI, aplikacje i urządzenia łączące się przez AI Gateway z modelami i narzędziami.

Kluczowe możliwości

Połącz aplikacje z modelami. Umieść istniejące wdrożenia Microsoft Foundry oraz kompatybilnych dostawców modeli niestandardowych za punktami końcowymi bramy. Aliasy modeli nadają aplikacjom nazwy stabilne, podczas gdy zespoły platformowe zarządzają połączeniami backendu.

Publikuj narzędzia dla agentów. Połącz narzędzia z zdalnych serwerów MCP, API opisanych przez OpenAPI oraz wbudowanych konektorów udostępnionych przez punkty końcowe MCP bramy. Na przykład asystent może korzystać z zatwierdzonych narzędzi z różnych usług poprzez wspólne połączenie.

Zarządzaj dostępem i nadzorem. Oddziel dane uwierzytelniające aplikacji od poświadczeń backendowych. Stosuj wspólne kontrole dla dostępu, zużycia i szacowanych wydatków na model, zamiast wdrażać każdą kontrolę w każdej aplikacji.

Wspieraj łączność i widoczność na poziomie przedsiębiorstwa. Łącz się z backendami za pomocą kontrolowanych ścieżek sieciowych, w tym połączenia sieci wirtualnej dla prywatnych backendów. Korzystaj z telemetrii, aby zrozumieć użycie modeli i narzędzi oraz zbadać żądania.

Pomóż deweloperom ponownie wykorzystać zatwierdzone funkcje. Zapewnij katalog, w którym deweloperzy mogą odkrywać i testować modele oraz narzędzia przed połączeniem aplikacji i agentów.

O relacjach między tymi elementami zobacz AI Gateway concepts.

Relacja z Azure API Management

AI Gateway to dedykowany produkt dla ruchu AI. Usługa Azure API Management zapewnia kompleksowe zarządzanie cyklem życia interfejsów API oraz wspiera możliwości bramy AI. Produkty współdzielą tego samego dostawcę Microsoft.ApiManagement zasobów, ale używają różnych typów zasobów platformy Azure.

Możesz korzystać z obu produktów: trzymać biznesowe API w usłudze API Management oraz korzystać z AI Gateway do ruchu modeli i narzędzi. Istniejące obciążenia robocze AI w innych jednostkach SKU usługi API Management są nadal obsługiwane. W kwestii wdrożenia zobacz AI Gateway i usługę Azure API Management.