Genie 使用指南

本指南協助帳戶管理員規劃並管理大型組織中的 Genie 支出。 它描述了分階段的方法:先觀察實際使用情況,根據數據將用戶分組到角色等級,然後設定與每個等級相符的預算。

關於建立預算的步驟,請參閱 Genie 的預算管理與成本控制。 若要查詢帳單系統表格中的使用情況,請參閱 「監控並了解您的 Genie 成本」。

為什麼基於使用量的規劃很重要

Genie 產品採用隨用付費模式,每位用戶每月可獲得免費津貼。 由於 Genie 的使用方式具代理特性,每位使用者的用量差異遠大於傳統按席次計費軟體的情況。 消費取決於以下因素:

  • 使用模式:使用者使用Genie的頻率及使用哪些產品。
  • 任務複雜度:修正查詢中的錯字,比起請 Genie Code 建置和除錯管線,所耗費的費用遠低於此。
  • 可用上下文:可用元資料的品質、目錄大小,以及 Genie 可用的自訂說明。

由於這些變數因組織而異,基於「典型任務」的自上而下估算往往會產生雙向的意外。 在你設定細緻的每位使用者限制前,先觀察你自己環境中的實際使用情況。

注意

使用本質上是不均勻的。 在觀察到的客戶部署中,只有少數用戶佔了總支出的絕大多數。 請為這種偏差做規劃,而不是假設用戶群分布平均。

Azure Databricks 建議先設定帳號和工作空間的上限,並花時間了解組織如何使用 Genie 來識別使用者層級。 請以三個階段來思考如何最佳化貴組織的支出與預算:

階段 Goal 預算配置
第一階段:發現 了解你的組織實際上如何使用 Genie。 僅適用於帳戶或工作區共享門檻。 封鎖前先提醒。
第二階段:定義分級 依據觀察到的消費量和商業價值來分組使用者。 目前還沒改變。 分析使用情況並建立使用者群組。
第三階段:治理 在套用各層級的限制時,同時保留帳戶層級的安全網。 共用門檻,加上每位使用者的門檻與覆蓋。

始終要把「不意外」放在優化之上。 先建立可見度和上限,然後在了解基準後再優化支出。

第一階段:進行探索階段

發現期的目標是觀察真實使用情況,包括你最重度使用者的激增,然後再設定個別限制。

選擇時間框架與範圍

  • 時間框架:理想為30天,實際最低為14天。 較短的使用週期很少能涵蓋完整的使用模式。
  • 範圍:選擇具代表性的使用案例或團隊,而非同時啟用所有用戶。 舉例來說,從一個使用 Genie Code 的資料工程團隊開始。
  • 天花板:把天花板設得夠高,讓你最重的使用者不會碰到。 如果上限過早限制使用,你了解的只會是你的限制在哪裡,而不是你的使用者需要什麼。

注意

Genie One 與 Genie Agents 的使用者使用權在 2027 年 1 月 31 日前是免費的。 在此促銷期間,該使用量不會計入每月免費額度,也不會計入依預算追蹤的 Genie 使用量。 在促銷期間試用這些產品時,顯示的用量會歸在 GENIE_FREE_USAGE SKU 名下,而不是你用來估算預算的帳單隨用隨付支出。 使用 Genie Code 來建立此期間的成本基準,或從免費使用資料 system.billing.usage估算等效成本。

設定發現預算

在探索階段,請使用帳號或工作區層級的共用門檻,並且先不要設定個別使用者層級的門檻。

  1. 建立限定於 Genie 的預算。 使用 Unity Gateway 資源類型和 databricks-product: genie 資源標籤。 請參見 「為精靈建立預算」。
  2. 將範圍設為 「所有 工作區」以取得帳號全範圍檢視,或選擇特定工作區以限制發現僅限於試點階段。
  3. 在你想觀察的支出等級上新增一個共享門檻,且只選擇 發送提醒 。 增加只限警報的門檻,例如80%,這樣花費增加時會收到警告。 預算最多可支持四個共享門檻。
  4. 您也可以新增最後一個共用門檻值,並選取 Block usage 作為防止支出失控的硬性防線。 因為您尚未設定每位使用者的限制,當共用集區耗盡時,這道保護機制會封鎖適用範圍內的所有使用者,因此請將它設得夠高,讓用量最高的使用者在探索階段也不會撞到這個限制。

注意

有些組織偏好單一集中的帳戶層級預算,而大多數則偏好在工作區層級管理預算。 如果你同時設定帳戶層級和工作區層級預算,兩者不會凌駕於另一層級。 先達到哪個限制會發送警示、封鎖使用,或兩者兼有,視你的設定而定。

小提示

在正常運作期間,應針對帳戶和工作區的總支出發出警示,並僅對個別使用者的限額採取封鎖措施,避免單一使用者的支出中斷其他所有人的使用。 Discovery 是個例外:目前尚未實施個別使用者限制,因此共用封鎖門檻是你唯一的最後一道防線,所以請將它維持在較高水準。

觀察使用情況的發展

在發現期間,監控使用量,找出你最常使用的人,以及驅動他們消費的原因:

  • 使用預算詳情頁面,幾乎即時監控本月的預估支出。 請參閱 查看預算詳情。 因為此頁面顯示的是當月累計支出,並會在每月 1 日重置,所以請將它用於監控,而不要用於在跨越月份分界的探索期間判定層級規模。
  • 查詢 system.billing.usage 在你精確發現期間範圍內的每位用戶及每產品使用量。 這是分級尺寸的可靠依據。 請參閱 監控並了解您的 Genie 成本。
  • 針對你預期會是重度使用者的團隊設置警示,讓你在他們接近使用上限前就知道他們的用電量。

第二階段:定義人格等級

在發現期結束後,根據觀察到的資訊,將使用者分組到不同層級。 這些層級應該從真實使用數據推導,而不是一開始就定義:在發現前設定每個用戶和每個群組的限制,意味著你得猜測用戶還沒顯示的限制。 大多數組織會找到類似以下的發行版本。 名稱各異,但職責是一致的。

Persona Description 典型的預算處理方式
AI 初學者 偶爾使用精靈來提升生產力。 使用量保持在極低,偶爾會有波動。 最低的每位使用者門檻。 這些用戶中多數維持在免費月費內。
人工智慧從業者 定期使用 Genie。 使用 Genie One 來提供洞察,或使用 Genie Code 來建立與優化資料管線。 中等的每位使用者閾值,根據觀察到的中位數及第 75 百分位使用量設定。
人工智慧進階使用者 執行長期且非同步的代理任務,為組織帶來顯著價值。 每位使用者的最高門檻值,用來覆寫進階使用者群組的設定。

重要

設定初學者門檻足夠高,讓使用者能成長為實務工作者。 阻礙他人首次試用 Genie 的限制,會妨礙他們的生產力。

根據你自己的資料來衡量每一層

請使用探索期間的資料,而非固定啟發式。 請根據已計費的隨用隨付費用來進行規模估算,因為這正是預算所追蹤的項目。由於每月免費額度已經排除在已計費費用之外,因此不要再次扣除。

  1. 建立整體基準:從帳單系統資料表中,針對您確切的探索期間日期範圍查詢 Genie 的總計費使用量。 請參閱 監控並了解您的 Genie 成本。
  2. 依消費分群:依發現期間的帳單支出排序用戶,並識別中位數、第75百分位及最重度使用者。 這些分別是初學者、練習者和高階使用者的層級。
  3. 計算各層級總額:將你觀察到的中位數和第75百分位帳單支出乘以每個層級的用戶數。
  4. 為進階使用者增加空間與成長:進階使用者的消費變化太大,無法平均。 在你的上限上加一個乘數以容納這些人,並套用反映你預期採用率的成長率。 保持總額在你組織核准的 AI 支出範圍內。
  5. 為每個層級建立用戶群組:為每個角色建立一個帳號群組,例如 genie-beginners、 genie-practitioners、 genie-power-users,並加入符合其觀察使用情況的用戶。 預算在第三階段對這些群體套用門檻。

注意

你可以請精靈幫忙做這個分析。 為了獲得最佳效果,請確保你能存取 system.billing.usage、 system.access.assistant_events、 system.access.audit和 。

考慮針對較高限額的核准流程

與其在使用者被封鎖時被動提高限制,不如定義使用者如何要求更高的門檻。 進階使用者存取的應用程式或票務流程,讓你能刻意授予高額度限制,以換取價值證明,並記錄每次覆蓋存在的原因。

第三階段:依角色設定預算

在定義分級並建立使用者群組後,將你的發現預算演進為每層級治理。 保持你的帳號和工作區上限作為安全網。

單一預算可結合以下內容:

  • 共用門檻:適用範圍內所有人共用的總量池。 請根據你觀察到的總使用量和成長率來決定。 警戒距離80%,防禦距離100%。
  • 每位使用者門檻:預設的個人上限,從你的初學者層級開始設定。 這適用於適用範圍內的每位使用者。
  • 按用戶覆蓋:對你的從業員和進階使用者群組設置更高的限制。

關於設定步驟,請參見 「為 Genie 建立預算」。

重要

共用門檻與個別使用者門檻會分別獨立評估。 兩者都不會覆蓋對方,使用者一旦達到第一個啟用 封鎖使用 門檻,就會被封鎖。 針對個別使用者的覆寫設定會提高該使用者的限制,而不會提高共享資源池的限制。 看看 共享門檻與每用戶門檻如何協同運作。

警示與封鎖分離

共享閾值與每位使用者閾值在處理警報與阻擋時會有所不同,因此請刻意將它們結合:

  • 在共用門檻中,最多可疊加四個門檻,在封鎖前先發出警示。 例如,將集區的僅警示門檻設為 80%,並將 封鎖使用 門檻設為 100%。 這會在彙總資金池逐漸接近滿額時提醒管理員,並在達到上限時停止支出。
  • 依每位使用者的閾值,動作會套用至預設的每位使用者閾值及所有覆寫設定。 若要同時啟用警示門檻和阻擋門檻,請建立兩個預算:一個僅發出警示,另一個僅阻擋。

預算範圍與 Genie 產品

所有 Genie 產品都共用 databricks-product: genie 資源標籤,所以一個預算同時涵蓋 Genie Code、Genie One 和 Genie Agents,你無法把預算範圍限定在單一 Genie 產品上。 在促銷期間,只有 Genie Code 可計費,因此預算實際上涵蓋了 Genie Code 的支出,而 Genie One 和 Genie Agents 的使用則是免費的。

為了讓限制配合不同的使用模式,應將針對個別使用者的覆寫設定限定於能反映各群組工作方式的使用者群組。 例如,將資料工程團隊的整體 Genie 門檻設得高於業務分析師團隊。 當使用者屬於多個群組時,系統會套用該預算內最寬鬆的覆寫設定。

預算僅追蹤大型語言模型(LLM)的使用情況。 用於執行 Genie 產生查詢的運算,例如 SQL 倉庫,會另行計費,且不計入 Genie 預算。

高效使用 Genie Code 的最佳實務

Genie Code 具備代理能力,因此其耗用多寡取決於使用者使用它的效率。 每一回合都會將整個聊天的上下文重新傳送給模型,而一個代理任務則會執行多回合來規劃、行動並檢查其工作。 聊天內容的消費會隨著聊天時間和上下文的增加而增加,因此聊天中第二十則訊息的成本會比第一則高。 目標是讓每次聊天的上下文與當前任務保持相關性。

一個實用的經驗法則是把 Genie Code 視為一位有能力的新同事:給它足夠的脈絡,讓它第一次就能完成任務,而不用再回頭釐清細節。

將以下做法分享給使用者,並以工作區 指示 和 代理技能 強化,讓 Genie Code 自動套用。 因為每則訊息都會載入這些指令,請讓指令保持精簡。

小提示

鼓勵使用者多加利用那些不會消耗付費用量的功能。 行內 自動完成建議、快速修正和重新命名建議,以及檢視 Genie 已在空間中產生的結果,都不會消耗付費額度。 每位用戶還會獲得一筆免費的每月津貼,該津貼會在每月一號重置。 把聊天留給真正需要聊天的工作,會讓這個空檔更長。

管理上下文視窗

  • 為每個任務開啟新的聊天室。 這是最有效的槓桿。 新的聊天會清除上下文視窗,所以新任務不會攜帶來自無關工作的標記。 將相關工作放在同一個聊天中,讓 Genie Code 保留脈絡並重用提示快取;但當你要進行下一項工作時,請開啟新的聊天。 Genie Code 會自動摘要、壓縮並截斷過長的上下文,但只有開啟新聊天才能將其完全清空。
  • 停用你沒用的 MCP 伺服器。 每台連接的 MCP 伺服器 都會將其工具加入 Genie Code 所承載的情境中。 關閉聊天室不需要的伺服器。

事先給 Genie Code 它所需的東西

Genie Code 越少探索就能理解你的意圖和資料,消耗的資源就越少。

  • 參考資產為 @。 要處理特定的表格、檔案或筆記本,可以指向它 @ ,而不是請 Genie Code 幫你找。
  • 具體說明任務和產出。 在一個提示中描述任務內容、細節程度,以及你想要的格式和長度。 模糊的提示會觸發較廣泛的探索和後續幾輪互動;具體的提示則可讓 Genie Code 只需最少的讀取次數,並給出較短的回應。
  • 直接舉例說明,而不是只用文字描述。 你想要的輸出或查詢的簡短範例,能用較少的標記來傳達意圖,而非長篇描述。
  • 不要重複 Genie Code 已有的脈絡。 Genie Code 已經能看到你的結構和目前的聊天內容,所以在每個提示中重述表格名稱或先前結果,會增加代幣,但不會增加資訊。
  • 記錄你的資料。 在 Unity Catalog 裡加入表格和欄位註解,讓 Genie Code 能理解你的結構,而不是猜測。 請參閱將 AI 產生的註解新增至 Unity Catalog 物件。
  • 提供確定性的捷徑。 提供 Genie Code 可靠的工具,例如指標檢視與 Unity 目錄函式,用於常見操作。 使用斜線命令,例如/findTables,來輸入原本需要多個 token 才能表達的常用提示。

將模型工作量與任務匹配

大多數任務在預設的努力等級自動( Auto)下都能順利執行,這會優化品質。 對於簡單且範圍明確的任務,請將工作量設定為 低 ,以使用更快、更便宜的模型。

引導冗長或複雜的工作

  • 分步驟進行,邊做邊驗證。 把大型任務拆成較小的任務,並在繼續之前先確認每一步的結果,這樣就能在修正成本還低時及早發現走錯方向。
  • 設定驗證目標。 包含預期輸出、範例或精確錯誤,讓 Genie Code 能自行檢查工作,而不必反覆迭代。
  • 早點修正航向。 如果 Genie Code 開始迴圈、回溯或過度探索,就停止並加入說明,而不是讓它繼續。

運用技能重複利用既有工作成果

對於團隊經常執行的任務,例如建立標準流程、產生例行報告或執行品質檢查,請在 技能 中記錄一次工作,而非每次都從頭推理。 技能可以包含可執行腳本,讓 Genie Code 能辨識請求、載入技能並執行腳本,而不必每次執行都規劃、生成和迭代。 這會讓多回合的任務變成一個低消耗回合,而工作空間技能則將節省的資源分配給所有執行同一任務的人。 好的候選人是指你的團隊多次完成且形狀一致的任務。

想了解更多獲得更好、更有效率回應的方法,請參閱 「提升精靈代碼回應的小技巧」。

注意以下常見的消費驅動因素:

  • 馬拉松式聊天:繼續進行一場長時間的聊天,處理許多無關任務,而不是重新開始聊天。
  • 反覆兜圈卻無法收斂:模糊不清或困難的任務可能導致 Genie Code 陷入循環、反覆回溯,或探索範圍過廣。 遇到這種情況時,請停止 Genie Code,並向它提供進一步說明。
  • 過度寬泛的探索:要求 Genie Code 讀取數百個素材,卻只需要特定資料夾。

找出成本飆升原因

當 Genie 支出意外增加時,預算和系統表會顯示支出 發生的時間 和 驅動 者,但不會顯示 原因。 在改變限制前找出原因:

  1. 找出消費集中的地方。 查詢 system.billing.usage,即可查看哪些工作區和使用者帶動了成長,以及成長發生在哪些日期區間。 請參閱 監控並了解您的 Genie 成本。 若要查看排名最高的 Genie Code 使用者及其最繁忙的任務,請使用 Genie Code 事件儀表板。 請參見 「衡量精靈代碼影響」。
  2. 找出原因。 對於推動激增的用戶,請看看他們實際做了什麼,而不是只停留在總數上:
    • 使用 Genie Code 活動儀表板,查看他們最忙碌的聊天內容及其背後的工作內容,例如建立儀表板、建立流程或多資產編輯。
    • 將你所見與 常見消費驅動因素相匹配:馬拉松式聊天、無收斂的循環循環,以及過於廣泛的探索。
    • 對於特定昂貴或偏離軌道的回應,請使用者點擊回應末尾的錯誤圖示,該圖示會複製會話 ID,然後傳送給你的帳戶團隊。 會話 ID 讓 Azure Databricks 追蹤驅動消費的原因。
  3. 解決具體原因。 給受影響的使用者唯一能針對你發現的做法,而不是整個清單:
    • 馬拉松式聊天:為每個任務開啟新聊天。
    • 廣泛探索或大量讀取資產時:使用帶有 @ 的參考資產,並撰寫更精確的提示詞。
    • 在預設模型上重複簡單任務:將努力等級設為 低。
    • 缺少防護機制:請確認工作區的 指示 和 技能 已設定妥當。 完整實務請參見 Genie Code 高效使用的最佳實務。
  4. 必要時限制花費。 如果某個使用者或群組持續超出你所核准的額度,請套用或調低個別使用者的覆寫值。 請參見 「為精靈建立預算」。

教育你的使用者

預算在使用者理解時效果最佳。 作為推廣的一部分,請告訴使用者以下事項:

  • Genie 使用量會被計費,每位用戶每月都會獲得一筆免費的月度津貼,該津貼會在每月一號重置。
  • 任務複雜度會影響消耗。 大型的主動性任務比短問題更耗費時間。
  • 當他們達到上限時會發生什麼事,以及如何申請更高的上限。

關於常見問題,請參閱 Genie 成本與預算常見問題。

局限性

預算提供近乎即時的支出估算,並非絕對的支出上限。 在依賴預算控制成本前,務必先完整檢視所有限制清單。 請參閱限制。

其他資源