Analysieren Sie die Kosten des Unity-Gateways

Beobachten und analysieren Sie die Kosten für den gesamten Unity Gateway-Verkehr nach Modelldienst, Zielmodell und anforderndem Prinzipal.

Konto- und Arbeitsbereichsadministratoren können eine konsolidierte Übersicht über KI-Ausgaben auf der KI-Seite im Governance Hub anzeigen.

Note

Die Kostenbeobachtung basiert auf den Azure Databricks-Abrechnungsdatensätzen. Für Nutzungsanalysen auf Anfrageebene wie Token-Zählen, Latenz, Anfragendetails und Anfrage-Tags siehe Modellnutzung verfolgen.

Requirements

Namensnennung

Unity Gateway bietet eine Kostenzuweisung über die abrechenbare Nutzungssystemtabelle (system.billing.usage).

Unity Gateway bereichert MODEL_SERVING Abrechnungsdaten system.billing.usage mit dienstspezifischen Metadaten, sodass Sie die Azure Databricks-Kosten den zugehörigen Diensten, Zielmodellen, Prinzipien und Service-Tags zuordnen können. Die vollständigen Schemadefinitionen und Felddefinitionen finden Sie in der Referenz zur Systemtabelle „Billing usage“.

Die Tabelle des abrechnungsfähigen Nutzungssystems enthält Kostenzuordnungen für Azure Databricks gehostete Modelle. Informationen zu externen Modellausgaben finden Sie unter "Externe Modelle".

Für Anfragen, die über einen Unity-Gateway-Modelldienst bedient werden, füllt Azure Databricks folgende Felder auf MODEL_SERVING Datensätzen in system.billing.usage:

Feld Beschreibung
usage_metadata.ai_gateway.endpoint_name Der Name des Unity-Gateway-Modelldienstes, der die Anfrage erhalten hat. Dies ist der vollqualifizierte Name des Unity-Katalogs in der Form <catalog>.<schema>.<modelservice>.
usage_metadata.ai_gateway.endpoint_id Die ID des Unity-Gateway-Modelldienstes.
usage_metadata.ai_gateway.destination_model Das Zielmodell, das die Anforderung verarbeitet hat, z. B GPT-5.2. .
usage_metadata.ai_gateway.destination_id Die ID des Ziels, das die Anforderung verarbeitet hat.
identity_metadata.run_by Der Benutzer oder Dienstprinzipal, der die Anforderung ausgestellt hat.
custom_tags Service-Tags, die auf dem Unity Gateway-Modelldienst konfiguriert wurden, wie zum Beispiel team oder cost_center.

Unity Gateway füllt diese Felder sowohl für Echtzeit- als auch für Batch-Inferenzanfragen, die durch es geleitet werden.

Externe Modelle

Für Anfragen, die über Modellanbieterdienste im Unity-Katalog an externe Modelle weitergeleitet werden, berechnet Azure Databricks den geschätzten USD-Aufwand für jede Anfrage aus der Tokennutzung und den veröffentlichten Preisen des externen Anbieters, angepasst durch einen beliebigen im Modellanbieter konfigurierten Preismultiplikator. Ausgaben werden stündlich aggregiert und in der system.ai_gateway.external_model_spend Systemtabelle aufgezeichnet. Verwenden Sie diese Tabelle, um Ausgaben für externe Modelle nach Dienst des Modellanbieters, Zielmodell und anfragendem Prinzipal zu analysieren.

Note

Externe Modellausgaben werden ausschließlich zu Informationszwecken bereitgestellt. Diese Schätzungen spiegeln möglicherweise nicht Ihre endgültige Anbieterrechnung wider, und Azure Databricks haftet nicht für Unstimmigkeiten bei der Abrechnung durch Dritte.

Ausgabenschema für externe Modelle

Die system.ai_gateway.external_model_spend Tabelle weist das folgende Schema auf:

Spaltenname Typ Beschreibung
record_id STRING Ein eindeutiger Bezeichner für den aggregierten Ausgabendatensatz.
account_id STRING Die Konto-ID.
workspace_id STRING Die ID des Arbeitsbereichs, in dem der Modellanbieterdienst konfiguriert ist.
usage_date DATE Das Datum des Nutzungsdatensatzes, abgeleitet aus usage_start_time.
usage_start_time TIMESTAMP Der Beginn des stündlichen Aggregationsfensters in UTC.
usage_end_time TIMESTAMP Das Ende des stündlichen Aggregationsfensters, in UTC.
ingestion_date DATE Das Datum, an dem der Datensatz in die Tabelle aufgenommen wurde.
usage_metadata STRUCT Metadaten zur Verwendung des externen Modells, einschließlich provider, , model, endpoint_id, endpoint_name, destination_idund destination_name.
custom_tags STRUCT Vom Benutzer bereitgestellte Tags für Kostenzuordnung, einschließlich endpoint_tags und request_tags.
usage_unit STRING Die Maßeinheit für usage_quantity. Immer USD.
usage_quantity DEZIMAL Die geschätzten Kosten in usage_unit für das Aggregationsfenster.
pricing_metadata STRUCT Metadaten zu den angewendeten Preisen, einschließlich service_tier und long_context.
identity_metadata STRUCT Identität des Antragstellers, einschließlich run_by und run_as.

Ausgaben im Nutzungs-Dashboard analysieren

Das integrierte Unity Gateway Nutzungs-Dashboard hilft Ihnen, Ausgabentrends zu erkennen, Modelle und Nutzer zu vergleichen und Ausgaben Teams und Projekten zuzuordnen. Sie umfasst die Ausgaben für Azure Databricks-gehostete Modelle und geschätzte externe Modellausgaben.

Open Unity Gateway > steuert > das Nutzungs-Dashboard.

ai-gateway Ausgaben-Tab

  • Überblick: Vergleichen Sie Modell- und Nutzerausgaben, verfolgen Sie Änderungen und bewerten Sie die durchschnittlichen Ausgaben pro Million Token oder pro Anfrage.
  • Ausgaben: Untersuchen Sie Ausgaben nach Modell und Nutzer sowie Token-Nutzung und Caching. Nutzen Sie User Spend Breakdown, um die Top-Spender sowie deren Modelle und Dienstleistungen mit den höchsten Ausgaben zu identifizieren.
  • Diensttags: Wenden Sie Tags auf Dienste an, um Ausgaben Teams oder Projekten zuzuordnen. Wählen Sie einen Service-Tag-Schlüssel und einen oder mehrere Service-Tag-Wert-Einträge in den globalen Filtern aus, um die Analyse zu fokussieren. Im Tab „Ausgaben“ verwenden Sie „Ausgaben nach Service-Tag gruppieren“, um Ausgaben über Tag-Werte hinweg zu vergleichen.
  • Anfrage-Tags: Senden Sie Tags über Anfrage-Header , um Ausgaben einzelnen Workloads zuzuordnen. Im Tab „Ausgaben“ verwenden Sie „Ausgaben nach Anfrage-Tag gruppieren“, um geschätzte Ausgaben über Anfrage-Tag-Werte zu vergleichen.
  • Coding-Agenten-Sitzungen: Untersuchen Sie Sitzungen mit hohen Ausgaben im Reiter Coding-Agenten, mit geschätzter Sitzungsausgabe sowie Token-Nutzung, Modellen und Subagenten-Aktivitäten.

Siehe Integriertes Nutzungs-Dashboard, um das Nutzungs-Dashboard einzurichten und zu aktualisieren.

Analysieren von Kosten

Tip

Genie Code kann das für dich übernehmen. Probieren Sie diese Beispielaufforderung aus:

Query system.billing.usage to show AI Gateway DBU cost for the past 30 days, broken down by usage_metadata.ai_gateway.endpoint_name, destination model, and requesting user. Filter to MODEL_SERVING records. Show top 10 in each.

Von Databricks gehostete Modelle

Die folgenden Abfragen analysieren die Kosten für in Azure Databricks gehostete Modelle in system.billing.usage. Kosten können nach Modelldienst, Zielmodell und Prinzipal aufgeschlüsselt werden.

Nach Modelldienst

SELECT
  usage_metadata.ai_gateway.endpoint_name AS endpoint_name,
  SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
  AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
  AND usage_unit = 'DBU'
  AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY endpoint_name
ORDER BY dbus DESC;

Nach Zielmodell

SELECT
  usage_metadata.ai_gateway.destination_model AS destination_model,
  SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
  AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
  AND usage_unit = 'DBU'
  AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY destination_model
ORDER BY dbus DESC;

Nach Benutzer oder Dienstprinzipal

SELECT
  identity_metadata.run_by AS run_by,
  SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
  AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
  AND identity_metadata.run_by IS NOT NULL
  AND usage_unit = 'DBU'
  AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY run_by
ORDER BY dbus DESC;

Externe Modelle

Die folgenden Abfragen analysieren externe Modellausgaben in system.ai_gateway.external_model_spend. Ausgaben können nach Modellanbieterdienst, Zielmodell und Anforderungstags aufgeschlüsselt werden.

Nach Dienst des Modellanbieters

SELECT
  usage_metadata.endpoint_name AS model_provider_service,
  SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY model_provider_service
ORDER BY usd DESC;

Nach Zielmodell

SELECT
  usage_metadata.model AS destination_model,
  SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY destination_model
ORDER BY usd DESC;

Nach Benutzer oder Dienstprinzipal

SELECT
  identity_metadata.run_by AS run_by,
  SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY run_by
ORDER BY usd DESC;

Nach Anforderungs-Tag

Um Anfrage-Tags an deine Anfragen anzuhängen, siehe Anfrage-Tagging.

SELECT
  custom_tags.request_tags['team'] AS team,
  SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY team
ORDER BY usd DESC;

Limitations

  • Die Kostenzuordnung für in Azure Databricks gehostete Modelle gilt für MODEL_SERVING Datensätze in system.billing.usage.
  • Für Modelldienste mit mehreren Zielen, z. B. bei Datenverkehrsaufteilung oder Fallbacks, identifizieren ai_gateway.destination_model und ai_gateway.destination_id das Ziel, das die Anfrage letztendlich bearbeitet hat.
  • Externe Modellausgaben werden nur für Modellanbieterdienste im Unity-Katalog unterstützt.
  • Die Kostenverfolgung für externe Modelle wird für den Custom-Anbieter derzeit nicht unterstützt. Azure Databricks schätzt die Kosten anhand der von jedem Anbieter veröffentlichten Preise, die für benutzerdefinierte Endpunkte nicht verfügbar sind.