AI Gateway は、プラットフォームチームがアプリケーションやエージェントに対してAIモデルやツールに対して共有かつ管理されたアクセス権を提供するのに役立ちます。 既存のAIトラフィックをAIゲートウェイを通じて持ち込み、接続を集中化し、AIに特化したコントロールを適用し、利用状況を可視化できます。 出発点は、プロバイダーを直接呼び出すアプリケーション、既存のゲートウェイ、またはAzure API ManagementのAIゲートウェイ機能などです。
ワークロードを移動するということは、そのモデルやツールコールの管理方法やルーティング方法を変えることを意味します。 基盤となるモデル展開、ツールサービス、他のワークロードを管理するプラットフォームは保持できます。 例えば、アシスタントはモデルアクセスのためのAIゲートウェイやフェデレーテッドMCPツールを使い、ビジネスAPIは引き続きAPI管理を使用できます。
必要な機能を選択してください
まずはアプリケーション、エージェント、またはプラットフォーム運用で改善したいことから始めましょう。 AI Gatewayは以下の支援を提供できます:
- 承認されたモデル接続を共有しましょう。 既存のモデルのデプロイを登録し、モデルエイリアスを公開して、プラットフォームチームがバックエンド接続を管理する間、アプリケーションが安定した名前を使用できるようにします。
- エージェントのためにツールをまとめましょう。 複数のMCPバックエンドから共有ゲートウェイMCPエンドポイントを通じてツールを公開します。
- AI 消費を管理します。 ワークロードや呼び出し元に適したコントロールを用いて、トークン許容枠と推定モデル支出予算を適用します。
- 使い方を理解しましょう。 テレメトリを設定してモデルやツールの活動を観察し、リクエストを調査します。
これらの機能の恩恵を受けるワークロードを選択し、必要なモデル操作、MCPトランスポート、認証、ポリシー、ネットワーク、テレメトリについて、AI Gateway のサポート状況と照合します。 プロバイダーのサポートは、そのプロバイダーが提供するすべての操作をサポートすることを意味しません。
もしあなたのワークロードがAzure API Managementを使っているなら
選択されたAIワークロードの移動は任意です。 AIゲートウェイとAPI管理は補完的です。モデルやツール中心のガバナンスにはAIゲートウェイを使用し、APIライフサイクル管理、開発者ポータル体験、ビジネスAPIはAPI管理に残します。
API管理におけるAIゲートウェイ機能は引き続きサポートされています。 製品間での AI 機能の完全なパリティは予定されていないため、AI ゲートウェイと Azure API Management サービスを使用して各ワークロードを評価してください。 例えば、バックエンドプールのロードバランシング、フェイルオーバー、セマンティックキャッシュ、A2AエージェントAPIへの依存は、ワークロードをAPI管理に残したり、移動前に代替を設計する理由となることがあります。
他のAPI管理階層は、以前のAIGateway SKUの廃止によって影響を受けません。 リソースがその廃止された SKU を使用している場合は、代わりに Azure API Management の AIGateway SKU から移行 に従ってください。
ワークロードをAIゲートウェイにマッピングする
AI Gatewayを通じて導入予定のモデル接続やツール、その呼び出し元、バックエンドサービス、認証情報、コントロール、ネットワーク、運用依存関係をリストアップしましょう。 そのインベントリを使ってターゲットの構成を設計しましょう。
| 既存の構成 | 評価対象の設計 |
|---|---|
| 直接のモデル呼び出し、またはゲートウェイ経由のモデルAPI | モデルプロバイダーおよび登録済みモデルと、必要なプロトコル、エンドポイント、バックエンド認証 |
| クライアント向けモデル名 | 可能な限りアプリケーションが使用する名前を保持するモデルエイリアス |
| MCPサーバーやHTTP API操作はツールとして公開されています | ゲートウェイMCPエンドポイントを通じて公開されたMCPバックエンドおよび選定ツール |
| アプリケーションの認証情報および呼び出し元の認可（API Management のサブスクリプションを含む） | 必要な呼び出し元に対するゲートウェイ ランタイムの資格情報または Microsoft Entra のアクセス許可 |
| アプリケーションや既存のゲートウェイにおけるコントロール | 適切なモデル、ツール、呼び出し元に対して構成されている、サポート対象の AI ゲートウェイ コントロール |
| 従量課金の制限と呼び出し元のグループ化 | ワークロードの許容範囲および推定支出要件を満たすトークンリミットおよびコストリミットポリシー |
| 診断、ログ、ダッシュボード | ゲートウェイのテレメトリ、アラート、ダッシュボードは同等の運用チェックをサポートします |
| デプロイの自動化 |
Microsoft.ApiManagement/aigateways のリソース定義と管理操作 |
このマッピングは直接的な構成変換ではなく、設計評価として扱ってください。 API管理のワークロードでは、API、製品、サブスクリプション、ポリシーをAI Gatewayのモデルおよびツール中心の構成にマッピングする必要があります。 トークンクオータと推定予算は異なる目的を帯びており、どちらも提供者の請求に代わるものではありません。