AIゲートウェイの概念

対象:AI Gateway(プレビュー)

AI GatewayはAIモデルやツールへのアクセスを一元化します。 アプリケーションやエージェントはゲートウェイエンドポイントを使用し、プラットフォームチームはバックエンドの接続、アクセス、ポリシー、オブザーバビリティを管理します。

この記事では、その基盤となる重要な概念について説明します。

ゲートウェイおよびランタイムエンドポイント

ゲートウェイはタイプMicrosoft.ApiManagement/aigatewaysのAzureリソースです。 アプリケーションが使用する接続やコントロールを保持します。

管理インターフェースがゲートウェイの設定を行います。 ランタイム エンドポイントは、モデル推論または MCP ツールへのアクセスに関するアプリケーション要求を受け取ります。 これらは異なるアクセスパスです。ゲートウェイの設定権限が自動的にそのモデルやツールを呼び出す権限を与えるわけではありません。

モデルプロバイダー、登録モデル、エイリアス

モデル接続は、アプリケーションが使用する名前をバックエンド サービスから分離します。

例えば、アプリケーションはプロバイダーの認証情報を保存せずにチャットモデルの別名を使用できます。 バックエンドを変更する場合でも、代替品がアプリケーションのAPIや動作をサポートしているか確認する必要があります。

フェデレーテッドMCPサーバーとツール

フェデレーテッドMCPサーバーは、バックエンドサービスのツールを1つのMCPエンドポイントのもとで統合します。 バックエンドは、リモートMCPサーバー、OpenAPIで記述されたAPI、または組み込みコネクタである場合があります。

ツールは操作とその期待される入力を記述します。 エージェントは利用可能なツールを発見し、ゲートウェイを通じて選択された操作を呼び出します。 ツールコールはバックエンドのデータを変更する可能性があるため、ツールの利用可能性やアクセス制御が呼び出し元ができることに影響します。

バックエンド認証は呼び出し元アクセスとは別です。 共有バックエンド接続の場合、認可された発信者はその接続の権限を使用します。

アクセスとアイデンティティ

ゲートウェイの設定およびバックエンドの使用権を決める関係は3つあります。

一方の関係を設定しても、もう一方のアクセス許可は付与されません。 ゲートウェイランタイムの認証情報をプロバイダー認証やデプロイメント認証情報とは分けて保管してください。

ガバナンス、ネットワーキング、そしてオブザーバビリティ

ポリシーは 、消費制限やツール保護などの共通コントロールをモデルやツールのトラフィックに適用します。 推定されたモデルの支出額に基づく制御は、使用量の管理に役立ちます。ただし、実際の料金は、引き続きプロバイダーの請求情報によって決定されます。

ネットワーキング により、ゲートウェイがバックエンドサービスにどのように到達するかが決まります。 ネットワーク要件はゲートウェイ設計に含めるべきであり、特にバックエンドがプライベート接続を利用する場合はそうです。

テレメトリ は使用状況やリクエストの動作を可視化します。 収集されたデータに頼ってゲートウェイトラフィックを評価する前に、テレメトリの宛先を設定しましょう。

製品内ドキュメントには、モデル、MCPサーバー、アクセス、ポリシー、ネットワーク、オブザーバビリティの設定ガイダンスが含まれています。

関連するコンテンツ

• AIゲートウェイとは何ですか?
• AI Gateway と Azure API Management サービス
• まずはAzure CLI拡張から始めてください