Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Beobachten und analysieren Sie die Kosten für den gesamten Unity Gateway-Verkehr nach Modelldienst, Zielmodell und anforderndem Prinzipal.
Konto- und Arbeitsbereichsadministratoren können eine konsolidierte Übersicht über KI-Ausgaben auf der KI-Seite im Governance Hub anzeigen.
Note
Die Kostenbeobachtung basiert auf den Azure Databricks-Abrechnungsdatensätzen. Für Nutzungsanalysen auf Anfrageebene wie Token-Zählen, Latenz, Anfragendetails und Anfrage-Tags siehe Modellnutzung verfolgen.
Requirements
- Unity Gateway für dein Konto aktiviert.
- Ein Azure Databricks Workspace in einer von Unity Gateway unterstützten Region.
- Die für Ihr Konto aktivierte abrechnungsfähige Systemtabelle. Weitere Informationen finden Sie unter Aktivieren von Systemtabellen.
Namensnennung
Unity Gateway bietet eine Kostenzuweisung über die abrechenbare Nutzungssystemtabelle (system.billing.usage).
Unity Gateway bereichert MODEL_SERVING Abrechnungsdaten system.billing.usage mit dienstspezifischen Metadaten, sodass Sie die Azure Databricks-Kosten den zugehörigen Diensten, Zielmodellen, Prinzipien und Service-Tags zuordnen können. Die vollständigen Schemadefinitionen und Felddefinitionen finden Sie in der Referenz zur Systemtabelle „Billing usage“.
Die Tabelle des abrechnungsfähigen Nutzungssystems enthält Kostenzuordnungen für Azure Databricks gehostete Modelle. Informationen zu externen Modellausgaben finden Sie unter "Externe Modelle".
Für Anfragen, die über einen Unity-Gateway-Modelldienst bedient werden, füllt Azure Databricks folgende Felder auf MODEL_SERVING Datensätzen in system.billing.usage:
| Feld | Beschreibung |
|---|---|
usage_metadata.ai_gateway.endpoint_name |
Der Name des Unity-Gateway-Modelldienstes, der die Anfrage erhalten hat. Dies ist der vollqualifizierte Name des Unity-Katalogs in der Form <catalog>.<schema>.<modelservice>. |
usage_metadata.ai_gateway.endpoint_id |
Die ID des Unity-Gateway-Modelldienstes. |
usage_metadata.ai_gateway.destination_model |
Das Zielmodell, das die Anforderung verarbeitet hat, z. B GPT-5.2. . |
usage_metadata.ai_gateway.destination_id |
Die ID des Ziels, das die Anforderung verarbeitet hat. |
identity_metadata.run_by |
Der Benutzer oder Dienstprinzipal, der die Anforderung ausgestellt hat. |
custom_tags |
Service-Tags, die auf dem Unity Gateway-Modelldienst konfiguriert wurden, wie zum Beispiel team oder cost_center. |
Unity Gateway füllt diese Felder sowohl für Echtzeit- als auch für Batch-Inferenzanfragen, die durch es geleitet werden.
Externe Modelle
Für Anfragen, die über Modellanbieterdienste im Unity-Katalog an externe Modelle weitergeleitet werden, berechnet Azure Databricks den geschätzten USD-Aufwand für jede Anfrage aus der Tokennutzung und den veröffentlichten Preisen des externen Anbieters, angepasst durch einen beliebigen im Modellanbieter konfigurierten Preismultiplikator. Ausgaben werden stündlich aggregiert und in der system.ai_gateway.external_model_spend Systemtabelle aufgezeichnet. Verwenden Sie diese Tabelle, um Ausgaben für externe Modelle nach Dienst des Modellanbieters, Zielmodell und anfragendem Prinzipal zu analysieren.
Note
Externe Modellausgaben werden ausschließlich zu Informationszwecken bereitgestellt. Diese Schätzungen spiegeln möglicherweise nicht Ihre endgültige Anbieterrechnung wider, und Azure Databricks haftet nicht für Unstimmigkeiten bei der Abrechnung durch Dritte.
Ausgabenschema für externe Modelle
Die system.ai_gateway.external_model_spend Tabelle weist das folgende Schema auf:
| Spaltenname | Typ | Beschreibung |
|---|---|---|
record_id |
STRING | Ein eindeutiger Bezeichner für den aggregierten Ausgabendatensatz. |
account_id |
STRING | Die Konto-ID. |
workspace_id |
STRING | Die ID des Arbeitsbereichs, in dem der Modellanbieterdienst konfiguriert ist. |
usage_date |
DATE | Das Datum des Nutzungsdatensatzes, abgeleitet aus usage_start_time. |
usage_start_time |
TIMESTAMP | Der Beginn des stündlichen Aggregationsfensters in UTC. |
usage_end_time |
TIMESTAMP | Das Ende des stündlichen Aggregationsfensters, in UTC. |
ingestion_date |
DATE | Das Datum, an dem der Datensatz in die Tabelle aufgenommen wurde. |
usage_metadata |
STRUCT | Metadaten zur Verwendung des externen Modells, einschließlich provider, , model, endpoint_id, endpoint_name, destination_idund destination_name. |
custom_tags |
STRUCT | Vom Benutzer bereitgestellte Tags für Kostenzuordnung, einschließlich endpoint_tags und request_tags. |
usage_unit |
STRING | Die Maßeinheit für usage_quantity. Immer USD. |
usage_quantity |
DEZIMAL | Die geschätzten Kosten in usage_unit für das Aggregationsfenster. |
pricing_metadata |
STRUCT | Metadaten zu den angewendeten Preisen, einschließlich service_tier und long_context. |
identity_metadata |
STRUCT | Identität des Antragstellers, einschließlich run_by und run_as. |
Ausgaben im Nutzungs-Dashboard analysieren
Das integrierte Unity Gateway Nutzungs-Dashboard hilft Ihnen, Ausgabentrends zu erkennen, Modelle und Nutzer zu vergleichen und Ausgaben Teams und Projekten zuzuordnen. Sie umfasst die Ausgaben für Azure Databricks-gehostete Modelle und geschätzte externe Modellausgaben.
Open Unity Gateway > steuert > das Nutzungs-Dashboard.
- Überblick: Vergleichen Sie Modell- und Nutzerausgaben, verfolgen Sie Änderungen und bewerten Sie die durchschnittlichen Ausgaben pro Million Token oder pro Anfrage.
- Ausgaben: Untersuchen Sie Ausgaben nach Modell und Nutzer sowie Token-Nutzung und Caching. Nutzen Sie User Spend Breakdown, um die Top-Spender sowie deren Modelle und Dienstleistungen mit den höchsten Ausgaben zu identifizieren.
- Diensttags: Wenden Sie Tags auf Dienste an, um Ausgaben Teams oder Projekten zuzuordnen. Wählen Sie einen Service-Tag-Schlüssel und einen oder mehrere Service-Tag-Wert-Einträge in den globalen Filtern aus, um die Analyse zu fokussieren. Im Tab „Ausgaben“ verwenden Sie „Ausgaben nach Service-Tag gruppieren“, um Ausgaben über Tag-Werte hinweg zu vergleichen.
- Anfrage-Tags: Senden Sie Tags über Anfrage-Header , um Ausgaben einzelnen Workloads zuzuordnen. Im Tab „Ausgaben“ verwenden Sie „Ausgaben nach Anfrage-Tag gruppieren“, um geschätzte Ausgaben über Anfrage-Tag-Werte zu vergleichen.
- Coding-Agenten-Sitzungen: Untersuchen Sie Sitzungen mit hohen Ausgaben im Reiter Coding-Agenten, mit geschätzter Sitzungsausgabe sowie Token-Nutzung, Modellen und Subagenten-Aktivitäten.
Siehe Integriertes Nutzungs-Dashboard, um das Nutzungs-Dashboard einzurichten und zu aktualisieren.
Analysieren von Kosten
Tip
Genie Code kann das für dich übernehmen. Probieren Sie diese Beispielaufforderung aus:
Query system.billing.usage to show AI Gateway DBU cost for the past 30 days, broken down by usage_metadata.ai_gateway.endpoint_name, destination model, and requesting user. Filter to MODEL_SERVING records. Show top 10 in each.
Von Databricks gehostete Modelle
Die folgenden Abfragen analysieren die Kosten für in Azure Databricks gehostete Modelle in system.billing.usage. Kosten können nach Modelldienst, Zielmodell und Prinzipal aufgeschlüsselt werden.
Nach Modelldienst
SELECT
usage_metadata.ai_gateway.endpoint_name AS endpoint_name,
SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
AND usage_unit = 'DBU'
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY endpoint_name
ORDER BY dbus DESC;
Nach Zielmodell
SELECT
usage_metadata.ai_gateway.destination_model AS destination_model,
SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
AND usage_unit = 'DBU'
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY destination_model
ORDER BY dbus DESC;
Nach Benutzer oder Dienstprinzipal
SELECT
identity_metadata.run_by AS run_by,
SUM(usage_quantity) AS dbus
FROM system.billing.usage
WHERE billing_origin_product = 'MODEL_SERVING'
AND usage_metadata.ai_gateway.endpoint_name IS NOT NULL
AND identity_metadata.run_by IS NOT NULL
AND usage_unit = 'DBU'
AND usage_date >= current_date() - INTERVAL 30 DAYS
GROUP BY run_by
ORDER BY dbus DESC;
Externe Modelle
Die folgenden Abfragen analysieren externe Modellausgaben in system.ai_gateway.external_model_spend. Ausgaben können nach Modellanbieterdienst, Zielmodell und Anforderungstags aufgeschlüsselt werden.
Nach Dienst des Modellanbieters
SELECT
usage_metadata.endpoint_name AS model_provider_service,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY model_provider_service
ORDER BY usd DESC;
Nach Zielmodell
SELECT
usage_metadata.model AS destination_model,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY destination_model
ORDER BY usd DESC;
Nach Benutzer oder Dienstprinzipal
SELECT
identity_metadata.run_by AS run_by,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY run_by
ORDER BY usd DESC;
Nach Anforderungs-Tag
Um Anfrage-Tags an deine Anfragen anzuhängen, siehe Anfrage-Tagging.
SELECT
custom_tags.request_tags['team'] AS team,
SUM(usage_quantity) AS usd
FROM system.ai_gateway.external_model_spend
WHERE usage_start_time >= current_timestamp() - INTERVAL 30 DAYS
GROUP BY team
ORDER BY usd DESC;
Limitations
- Die Kostenzuordnung für in Azure Databricks gehostete Modelle gilt für
MODEL_SERVINGDatensätze insystem.billing.usage. - Für Modelldienste mit mehreren Zielen, z. B. bei Datenverkehrsaufteilung oder Fallbacks, identifizieren
ai_gateway.destination_modelundai_gateway.destination_iddas Ziel, das die Anfrage letztendlich bearbeitet hat. - Externe Modellausgaben werden nur für Modellanbieterdienste im Unity-Katalog unterstützt.
- Die Kostenverfolgung für externe Modelle wird für den Custom-Anbieter derzeit nicht unterstützt. Azure Databricks schätzt die Kosten anhand der von jedem Anbieter veröffentlichten Preise, die für benutzerdefinierte Endpunkte nicht verfügbar sind.