対象:AI Gateway(プレビュー)
Important
AI Gatewayは現在パブリックプレビュー中です。 パブリックプレビュー期間中、AI Gatewayは以下の地域で利用可能です:
- 米国 - 米国東部 2
- ヨーロッパ - スウェーデン中央
AIゲートウェイは、AIトラフィックのためのマネージドゲートウェイであり、AIモデルやモデルコンテキストプロトコル(MCP)サーバーへのリクエストも含まれます。 これにより、アプリケーションやエージェントがAIサービスに接続し、リソースを消費し、ツールにアクセスするための共有制御ポイントが組織に提供されます。
AIの普及が進むにつれて、チームは異なるプロバイダーが運用するモデルやツールと接続しています。 各接続を独立して管理することで、認証情報の管理や消費管理が重複し、利用状況の理解を難しくします。 AI Gatewayはこれらの接続をまとめ、プラットフォームチームが中央管理を行えるようにし、開発者はアプリケーション開発に専念します。
主な機能
アプリケーションをモデルに接続する。 既存の Microsoft Foundry のデプロイや互換性のあるカスタム モデル プロバイダーをゲートウェイ エンドポイントの背後に配置します。 モデルエイリアスはアプリケーションに安定した名前を与え、プラットフォームチームがバックエンド接続を管理します。
エージェントのツールを発行します。 リモート MCP サーバー、OpenAPI で記述された API、組み込みコネクタのツールを組み合わせ、ゲートウェイの MCP エンドポイントの背後に統合します。 例えば、アシスタントは複数のサービスの承認済みツールを共有接続を通じて使用できます。
アクセスとガバナンスを管理しましょう。 アプリケーションの認証情報とバックエンドの認証情報は分けてください。 すべてのアプリケーションで各コントロールを実装するのではなく、アクセス、消費、推定モデル利用コストに共通コントロールを適用しましょう。
エンタープライズの接続性と可視性をサポートします。 プライベートバックエンド向けの仮想ネットワーク接続を含む制御されたネットワークパスを通じてバックエンドに接続します。 テレメトリを使ってモデルやツールの使用状況を理解し、リクエストを調査しましょう。
開発者が承認済みのケイパビリティを再利用できるように支援します。 開発者がアプリケーションとエージェントを接続する前にモデルやツールを発見しテストできるカタログを提供しましょう。
これらの要素間の関係については、 AIゲートウェイの概念を参照してください。
Azure API Management との関係
AI GatewayはAIトラフィック専用の製品です。 Azure API Managementサービスは包括的なAPIライフサイクル管理を提供し、AIゲートウェイ機能もサポートしています。 製品はMicrosoft.ApiManagementリソース提供者を共有しますが、異なるAzureリソースタイプを使用しています。
両方の製品を利用できます。ビジネスAPIはAPI管理サービスに残し、モデルやツールのトラフィックにはAIゲートウェイを使います。 他のAPI管理SKUにおける既存のAIワークロードは引き続きサポートされています。 採用に関する考慮事項については、AI GatewayおよびAzure API Management serviceを参照してください。