予算は、請求記録にフィルターをかけてUnityゲートウェイの月々支出を監視・管理するのに役立ちます。 Unity Gateway製品に特化した予算を設定してUnityゲートウェイの支出のみを追跡することも、アカウント全体の予算に含めることもできます。
アカウントとワークスペースの管理者は、AI 予算の状態の概要を表示し、ガバナンス ハブの AI ページ で支出を確認できます。
Tip
Unity Gatewayに限定された予算では、執行やアラートはほぼリアルタイムで行われます。 支出が閾値を超えると、使用ブロックやアラートメールが数瞬で発動します。 予算のほぼリアルタイムの監視は、 system.billing.usage リフレッシュタイミングとは独立しています。
予算の作成と監視の詳細については、「予算の 作成と監視」を参照してください。 予算の閲覧や管理ができるユーザーを指定するには、予算のアクセス許可の管理を参照してください。
Requirements
- アカウントでUnity Gatewayが有効になっています。
Unity Gatewayの予算はどのくらいをカバーしていますか?
Unity Gatewayの予算は、Unity Gatewayを経由する支出をカバーしています:
- トークンごとの従量課金利用
ai_query- ジーニー。 Genie の予算とコスト管理を管理するを参照してください。
- (任意)外部モデルプロバイダー(モデルプロバイダーサービス)。
これらの予算は以下の項目をカバーしていません:
- プロビジョニングスループット
- Unity Gatewayを経由しない、スタンドアロンのModel Serservingエンドポイントに直接送信されるトラフィック
Unity Gatewayでの予算の運用方法
予算を作成する際は、 Unity Gateway の支出のみを追跡するリソースタイプとして選択してください。
閾値タイプ:Unity Gatewayに限定された予算に対しては、以下を設定できます:
- 共有しきい値: 予算スコープ内のすべてのユーザーに対する一括使用制限。
- ユーザーごとのしきい値: 個々のユーザーに適用される月単位の制限。
- ユーザーごとのオーバーライド: 特定のユーザーまたはグループに、既定のユーザーごとのしきい値よりも高い使用制限を付与します。 オーバーライドの対象となるユーザーは、既定のユーザーごとの制限ではなく、オーバーライド額まで費やすことができます。 ユーザーが複数のオーバーライド グループに属している場合は、最も高いしきい値が適用されます。
共有しきい値とユーザーごとのしきい値の場合は、しきい値に達したときに、次のアクションのいずれかまたは両方を構成できます。
- アラートの送信: 構成されたアドレスに電子メール通知を送信します。 ユーザーはUnity Gatewayへのアクセスを保持します。
- 使用をブロックする:ユーザーがUnity Gatewayを通じてさらにリクエストを行えないようにします。 ユーザーには、予算が使い果たされたことを示すメッセージが表示されます。 予算がリセットされた後、または管理者がしきい値を増やした後、アクセスが再開されます。
アカウント管理者は 予算詳細ページでほぼリアルタイムの推定支出を確認できます。
外部モデルの使用例を含める
Important
この機能は ベータ版です。 アカウント管理者は、アカウント コンソール の [プレビュー ] ページからこの機能へのアクセスを管理できます。 アカウント レベルのプレビューの管理を参照してください。
Unity Gateway 予算を作成する際、「 外部モデルの使用を含む 」を選択して、 モデルプロバイダーサービスを通じて外部モデルにルーティングされたリクエストの推定支出を含めます。
有効化すると、外部モデル支出は予算の共有およびユーザーあたりの閾値にカウントされます。 設定されたアラートおよび使用ブロックアクションは、合計支出が閾値に達したときに適用されます。 このオプションを選択しない場合、予算は外部モデル支出を除外しますが、Azure Databricksホスト型モデルの使用は引き続き含まれます。
Azure Databricksは、トークン使用量と外部プロバイダーの公開価格から外部モデルの支出を推定します。 これらの見積もりは最終的な提供者の請求書と異なる場合があります。 外部モデル支出の過去分析については、 system.ai_gateway.external_model_spend システムテーブルをクエリしてください。
外部モデルを参照してください。 予算に含まれる外部モデル支出は、モデルプロバイダーサービスに設定された 価格乗数 を反映しています。
予算タグフィルターはモデルサービスタグに適用されます。 リクエストタグは外部モデル支出システムテーブルで利用可能ですが、予算マッチングには影響しません。
Limitations
Important
Unity Gatewayの予算は、設定済みの閾値に対して追跡された支出のほぼリアルタイムの推定値を提供し、実際に発生するコストは設定済みの閾値と異なる場合があります。 この機能は、ほぼリアルタイムのコスト管理を支援することを目的としています。 この機能を使って最終請求額の絶対的な支出上限を設けないでください。 Azure Databricksは、設定された予算の閾値を超えるコストについて責任を負いません。
プロビジョニングされたスループット推論は現在追跡されていません。
各予算では、最大 4 つの共有しきい値と、ユーザーごとに 20 個のオーバーライドがサポートされます。
アカウントの予算は最大 1,000 個までです。
ブロック使用しきい値はおおよそ適用されます。 執行はほぼリアルタイムのコスト見積もりを使用しているため、実際の支出は設定された閾値を超えたり下回ったりすることがあります。 これは、以下のようなことを意味します。
- 実際の支出が閾値に達する前にブロックされることがあります。
- 執行が発効する前に、一定額の支出が閾値を超えることがあります。 閾値に達した時点で進行中のリクエストは中断されません。
system.billing.usageは、Databricks によって請求される実際の使用量についての信頼できる唯一の情報源です。 予算と実際のコストとの間に使用量の不一致がある場合、Azure Databricksは予算見積もりを遡って調整して照合することがあります。 外部モデルの使用においては、外部プロバイダー請求書が実際のプロバイダー料金の真実の出典となります。予算アラートメール、予算詳細ページ、
system.billing.usage、system.ai_gateway.external_model_spendの支出額は、同じ時点で異なる場合があります。 これは、各ソースが異なるレートで更新されるためです。- 予算アラートの電子メール: アラートがトリガーされた時点での支出を反映します。
- [予算の詳細] ページ: 頻繁に更新されますが、直後に表示された最近のアラート メールよりも低い金額が表示される場合があります。
-
system.billing.usage: 数時間ごとに更新されます。 アラートを受け取った直後にシステム テーブルにクエリを実行すると、予算の詳細ページやアラート 電子メールよりも低い支出額が返される場合があります。 -
system.ai_gateway.external_model_spend: 外部モデルの推定利用コストを1時間ごとに更新します。 見積もりは最終的な提供者の請求書と異なる場合があります。
使用量のブロックやアラートのしきい値を含む予算の適用は、ほぼリアルタイムの支出追跡に基づいており、システム テーブルの更新タイミングの影響を受けません。