預算幫助你監控並控制 Unity Gateway 的支出,包括 Azure Databricks 託管的使用情況,以及啟用時的外部模型支出。 你可以將預算範圍限定在 Unity Gateway 產品上,只追蹤 Unity Gateway 的支出,或將 Unity Gateway 納入帳戶整體預算。
帳戶與工作區管理員可在治理中心的 AI 頁面 查看 AI 預算狀態與支出摘要。
Tip
對於套用於 Unity Gateway 的預算,強制執行與警示皆接近即時。 當支出超過門檻時,使用阻擋與警示郵件會在片刻內生效,與 system.billing.usage 刷新時間無關。
Requirements
- 已為您的帳號啟用 Unity Gateway。
預算涵蓋範圍
Unity Gateway 預算涵蓋透過 Unity Gateway 流動的支出,無論模型運行於何處:
- 按代幣計費用量。
- AI 功能。 請參閱 查看 AI 功能工作負載的成本。
- 精靈。 請參閱 Genie 的預算管理與成本控制。
- 透過模型提供者服務的外部模型,若您選擇包含外部模型提供者。
預算不涵蓋已配置吞吐量,或直接傳送至獨立模型服務端點且未經由 Unity Gateway 的流量。
誰可以設定預算
- 帳戶管理員:可在 帳戶主控台 或使用 Budget API 建立並修改預算。
- 工作區管理員:在 Governance Hub 中或使用 Budget API,建立其所管理工作區範圍內的預算。
- 委派角色:若要將預算管理委派至管理員以外,請在個別預算中授予預算經理或預算檢視者角色。 看看 誰能做什麼。
常見的預算設定
預算提供單一成本控制平面,管理經由 Unity Gateway 路由的流量,涵蓋 Azure Databricks 主機使用量,並在啟用時涵蓋外部模型支出。 利用它們讓 AI 支出可預測,並防止意外成本。
以下每種設定定義了預算適用範圍 (範圍)及其施加的限制(門檻值)。 金額僅為示例。 若要設定預算,請參閱 「建立預算」。
| Goal | 預算設定 |
|---|---|
| 為組織的 AI 總支出設定上限 | 將預算範圍涵蓋整個帳戶。 新增共享門檻,在 40,000 美元和 45,000 美元時傳送電子郵件,並在每月 50,000 美元時封鎖使用量。 設定每月每位用戶 200 美元的門檻,並為高級用戶設定較高的群組層級覆寫設定。 |
| 給每個團隊分配自己的配額 | 為每個團隊的工作空間制定預算。 在團隊每月分配額處加入共用門檻以封鎖使用,並設定一個較低的門檻,會寄送電子郵件通知團隊主管。 |
| 在用戶消費失控前,阻止其花費耗盡每月預算 | 新增每日每用戶會封鎖使用的門檻,例如 25 美元,並設定每月每用戶的門檻。 如果用戶的消費激增,會被封鎖到 UTC 00:00,而不是用完每月額度。 為需要較高每日上限的使用者新增群組覆寫,並提高每日上限。 |
| 限制使用你最昂貴的模型 | 將這些模型服務(例如 tier=frontier)加上標籤,並為該標籤設定預算範圍。 新增一個低的每位使用者每月門檻,在達到門檻時封鎖使用。 達到該門檻的用戶仍可使用其他模型。 |
| 讓每個人都能嘗試新模型,同時不冒預算風險 | 標註新模型的服務(例如 tier=experimental),並為該標籤設定預算。 新增每月每位使用者的門檻,封鎖使用量。 升級模型時,移除標籤,讓新的請求計入您的標準預算。 |
預算是加法的:請求會計入所有範圍相符的預算。 例如,組織範圍的上限可以與前沿模型與實驗模型的獨立預算同時運作。
帳號或工作區預算
預算的所在地及擁有者取決於您的組織如何管理支出:
- 集中式(帳戶層級):由帳戶層級管理的單一預算。 最適合你想要統一治理,且不希望各個工作區自行管理限制時。 在大規模情況下,將使用者分成不同層級(例如依角色或成本中心),而非設定每位使用者的限制。
- 去中心化(工作區層級):每個工作區擁有並管理自己的預算。 當團隊或專案擁有獨立的所有權與責任時,例如每個工作區對應到一個專案和環境,這會是最佳選擇。
- 混合型:帳戶層級預算與工作區層級預算共存。 一個常見的模式是,帳戶層級預算作為治理後盾,即使工作區尚未設定自己的預算,也能保持支出受控,而工作區則自行管理日常限制。
Note
帳戶層級預算與工作區層級預算可累加,而非階層式。 它們是獨立應用的,不會互相覆蓋。
建立預算
在工作區中,前往 Unity Gateway >管理>>管理預算,然後點選 建立預算。
若要在帳戶主控台建立預算,請前往使用量>預算>建立預算。
在 治理中心,前往 成本>預算。
完整步驟請參閱 「建立預算」。
若要使用程式碼建立預算,請使用 Budget API 或 databricks account budgets create 指令(account budgets 指令群組)。
步驟 1. 選擇預算範圍
範圍決定哪些支出會計入預算。 你在建立預算之後就無法更改。
資源類型:選擇 Unity Gateway 以僅追蹤 Unity Gateway 支出。
工作區與標籤:選取一個或多個工作區,或全部工作區,然後在 資源標籤下點選 「選取標籤」。 選取標籤會在您完成工作區選擇後變得可用。 標籤篩選器與服務標籤相符。 請求標籤不會影響哪些支出會計入預算。
包含外部模型提供者 (Beta):選擇此選項以計算外部模型的預估支出。 Azure Databricks 會根據代幣使用量與提供者公布的價格,並依模型提供者服務的任何價格乘數進行調整,估算此支出。
步驟二。 設定費用閾值
預算可以有以下門檻:
- 共享門檻:為所有在預算範圍內的用戶設定集體每月支出上限。
- 每位用戶的門檻:每日限制、每月限制,或兩者皆適用,適用於每位用戶。 每日門檻會追蹤每個UTC日曆日的支出,並於00:00 UTC重置。 每月門檻會在每個月的第一天重置。
- 每用戶覆蓋:給予特定使用者或團體高於該期間預設每用戶門檻的每日或每月支出上限。 套用覆寫設定的使用者,其可花費金額上限為覆寫金額,而不是預設的每位使用者上限。 若使用者屬於多個覆寫群組,則每個期間適用最高門檻。
步驟三。 設定警示與使用阻擋
對於每個共享及每用戶門檻,選擇一項或多項當支出達到該門檻時要採取的行動。 針對每位使用者的門檻,您分別為每日與每月期間選擇動作。
- 發送電子郵件:向已設定的地址發送電子郵件通知。 使用者仍可存取 Unity Gateway。
- 封鎖使用:防止使用者透過 Unity Gateway 發出進一步請求。 使用者會看到一則訊息,表示預算已用盡。 當門檻期間重置或管理員提高門檻後,存取權限會恢復。 封鎖是概略性的。 請參閱限制。
- 觸發 webhook (測試版):將 JSON 有效載荷傳送到一個或多個帳號層級的 webhook 目的地。 針對每使用者的門檻,有效載荷會識別達到該門檻的使用者。 帳戶管理員必須先啟用 帳戶層級的 Webhook 目的地 預覽,並建立目的地。 請參閱 觸發自訂 Webhook。
在較低門檻時寄送電子郵件,讓負責人能在支出被停止前做出反應,並將封鎖使用保留給最高的共享門檻。 只有最高的共享門檻才能阻擋使用。
監控預算支出
管理員會在 帳戶主控台中監控每個預算的支出情況。 工作區管理員可以使用治理中心的 費用頁面 。 開發者會透過終端機或 API 自行檢查限制。
以管理員身分監控支出
帳戶管理員,以及他們管理或檢視預算的工作區管理員,會在 預算詳細頁面上看到近乎即時的支出。 共用支出檢視會顯示截至目前的月結估計、剩餘預算,以及帶有門檻的累積支出圖表。 如果預算有每位使用者的門檻, 使用者 標籤會顯示每位使用者的支出與狀態:低於、接近或超過。
若要取得跨預算摘要,帳戶管理員與工作區管理員可以使用 Governance Hub 中的 AI 頁面 或 成本頁面 。 工作區管理員會查看其分配工作區的預算。
以開發者身分監控支出
使用編碼代理程式的開發者可以在已設定 ug 的終端機中自行檢查限制:
ug usage
輸出結果顯示最多五個個人及共用限額,包含使用百分比、剩餘額度,以及對每個限額進行強制限制的預算 ID。 執行 ug usage --all 查看所有適用的限制。 請參閱 查看使用情況。
若要在您自己的工具中顯示使用者的支出,請呼叫 Budget Spend Status API。 它回傳呼叫主體對預算封鎖門檻的支出,若預算沒有阻塞閾值,則回傳「找不到」。
為了幫助使用者了解自己的上限以及該向誰申請提高上限,請參閱 「向使用者顯示他們的支出上限」。
最佳做法
- 將覆寫授權給群組,而不是個別使用者。 對群組套用覆寫,這樣你就能新增更多使用者到該群組,而不必為每個用戶建立新的覆寫。 這比直接對每位使用者設定的覆寫更具擴充性,後者每一項都會計入每個預算 100 筆的上限。 一個實際的定義群組方式是根據你已經追蹤的屬性來定義,例如成本中心、團隊或角色。
- 保留帳戶層級的後備方案。 當各個工作區擁有自己的預算時,可以新增帳戶層級預算作為後備方案,這樣即使工作區沒有設定自己的預算,支出仍能受到規範。
- 記得預算是累加的。 在混合架構中,帳戶層級與工作區層級預算同時適用。 兩者不會互相覆寫。
Limitations
Important
Unity Gateway 的預算提供近乎即時的支出估算,且實際產生的成本可能與設定門檻不同。 此功能旨在協助近乎即時的成本控制。 請勿利用此功能來確保最終帳單金額的絕對支出上限。 Azure Databricks 不負責超出設定預算門檻的成本。
針對特定任務的 AI 功能 請求會計入 Unity Gateway 預算,但不會記錄在
system.ai_gateway.usage表格中。 要查看已計費用量,請查詢system.billing.usage。 請參閱 查看 AI 功能工作負載的成本。每個預算最多支援四個共享門檻及 100 個每位使用者覆寫。
您的帳戶最多可有1,000個預算。
系統會以約略方式強制執行區塊使用量門檻。 執法使用近乎即時的成本估算,因此實際支出可能高於或低於設定的門檻。 這意味著:
- 用戶可能在實際消費達到門檻前就被封鎖。
- 在執法生效前,可能會有超過門檻的支出發生。 當達到閾值時進行中的請求不會被中斷。
system.billing.usage仍是由 Databricks 計費的實際使用量的權威依據。 對於預算與實際成本的使用差異,Azure Databricks 可能會事後調整預算估算以進行對帳。 對於外部模型使用,外部供應商發票是實際提供者收費的真實來源。在預算提醒電子郵件、預算詳細資料頁面、
system.billing.usage和system.ai_gateway.external_model_spend中看到的支出金額,即使在同一時間點比較,也可能會有所不同。 這是預期之中的,因為每個來源的更新速度不同:- 預算警示郵件:反映警示觸發時的支出。
- 預算詳情頁面:經常更新,但查看後可能顯示的金額低於近期的提醒郵件。
-
system.billing.usage:每隔幾小時更新一次。 在收到警報後不久查詢系統表格,可能會回傳比預算詳情頁面或警示郵件更低的支出數字。 -
system.ai_gateway.external_model_spend:每小時更新,並估算外部模型花費。 估價可能與您最終的供應商發票有所不同。