Unityゲートウェイコストの分析

モデルサービス、ターゲットモデル、リクエスト主体別のすべてのUnity Gatewayトラフィックのコストを観察・分析します。

アカウントとワークスペースの管理者は、ガバナンス ハブの AI ページで AI 支出の統合された概要を表示できます。

Requirements

• アカウントでUnity Gatewayが有効になっています。
• Unity Gateway対応リージョン内のAzure Databricksワークスペース。
• 課金対象の使用状況システム テーブルは、アカウントで有効になっています。 「システム テーブルを有効にする」を参照してください。

帰属

Unity Gatewayは請求可能使用システムテーブル(system.billing.usage)を通じてコストの帰属を提供します。

Unity Gatewayはサービス固有のメタデータでMODEL_SERVING請求記録をsystem.billing.usage豊かにし、関連サービス、ターゲットモデル、プリンシパル、サービスタグにAzure Databricksコストを割り当てることができます。 完全なスキーマとフィールド定義については、請求使用状況システム テーブル リファレンスを参照してください。

課金対象の使用状況システム テーブルには、Azure Databricksホストモデルのコスト属性が含まれています。 外部モデルの支出については、「 外部モデル」を参照してください。

Unity Gatewayモデルサービスを通じて提供されるリクエストに対して、Azure Databricksはsystem.billing.usageのMODEL_SERVINGレコードに以下のフィールドを入力します。

Unity Gatewayは、リアルタイムおよびバッチ推論リクエストの両方にこれらのフィールドを埋め込みます。

外部モデル

Unity カタログのモデル プロバイダー サービスを介して外部モデルにルーティングされた要求の場合、Azure Databricksはトークンの使用量と外部プロバイダーの公開価格から各要求の推定 USD 支出を計算します。 支出は時間単位で集計され、 system.ai_gateway.external_model_spend システム テーブルに記録されます。 この表を使用して、モデル プロバイダー サービス、ターゲット モデル、および要求プリンシパル別に外部モデルの支出を分析します。

外部モデル支出スキーマ

system.ai_gateway.external_model_spend テーブルには、次のスキーマがあります。

Observability

組み込みの使用状況ダッシュボードには、 コストを 監視し、時間の経過に伴うコストの内訳を分析するための [コスト分析] ページが含まれています。 次のような複数のディメンションにわたってコストを分析できます。

• モデルサービス
• ターゲット モデル
• 要求元のユーザーまたはサービス プリンシパル

ダッシュボードには、Azure Databricksコストに加えて、system.ai_gateway.external_model_spend テーブルからの外部モデルの支出も含まれます。

ダッシュボードを開くには、Unity Gatewayページ右上の「 Govern 」をクリックし、その後 「使用ダッシュボード」をクリックしてください。 ダッシュボードのインポートと更新の詳細については、「 組み込みの使用状況ダッシュボード」を参照してください。

コストの分析

Query system.billing.usage to show AI Gateway DBU cost for the past 30 days, broken down by usage_metadata.ai_gateway.endpoint_name, destination model, and requesting user. Filter to MODEL_SERVING records. Show top 10 in each.

Databricks でホストされるモデル

次のクエリでは、system.billing.usage のAzure Databricksホストモデルのコストを分析します。 コストは、モデル サービス、ターゲット モデル、プリンシパルごとに分類できます。

モデルサービス別

SELECT
  usage_metadata.ai_gateway.endpoint_name AS endpoint_name,
  SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
  AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
  AND usage_unit = 'DBU'
  AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY endpoint_name
ORDER BY dbus DESC;

変換先モデル別

SELECT
  usage_metadata.ai_gateway.destination_model AS destination_model,
  SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
  AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
  AND usage_unit = 'DBU'
  AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY destination_model
ORDER BY dbus DESC;

ユーザーまたはサービス プリンシパル別

SELECT
  identity_metadata.run_by AS run_by,
  SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
  AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
  AND identity_metadata.run_by IS NOT NULL
  AND usage_unit = 'DBU'
  AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY run_by
ORDER BY dbus DESC;

外部モデル

次のクエリでは、 system.ai_gateway.external_model_spendでの外部モデルの支出を分析します。 支出は、モデル プロバイダー サービス、ターゲット モデル、要求タグによって分類できます。

モデル提供サービス別

SELECT
  usage_metadata.endpoint_name AS model_provider_service,
  SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY model_provider_service
ORDER BY usd DESC;

変換先モデル別

SELECT
  usage_metadata.model AS destination_model,
  SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY destination_model
ORDER BY usd DESC;

ユーザーまたはサービス プリンシパル別

SELECT
  identity_metadata.run_by AS run_by,
  SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY run_by
ORDER BY usd DESC;

要求タグ別

要求タグをクエリにアタッチするには、 使用状況の追跡に関するタグ要求を参照してください。

SELECT
  custom_tags.request_tags['team'] AS team,
  SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY team
ORDER BY usd DESC;

Limitations

• Azure Databricks でホストされるモデルの支出の帰属は、MODEL_SERVING 内の system.billing.usage レコードに適用されます。
• トラフィックの分割やフォールバックなど、複数の宛先を持つモデル サービスの場合は、最終的に要求を処理した宛先を ai_gateway.destination_model して特定 ai_gateway.destination_id 。
• 外部モデルの支出は、Unity カタログの モデル プロバイダー サービス に対してのみサポートされます。
• カスタム プロバイダーでは、外部モデルの支出の追跡は現在サポートされていません。 Azure Databricksは、カスタム エンドポイントでは使用できない各プロバイダーの公開価格から支出を見積もります。