在這個教學中,你會將外部程式代理程式(如 Claude Code、Codex、Cursor 或 Gemini CLI)連接到由 Unity Gateway 管理的大型語言模型(LLM)。 接著你控制誰能存取這些模型,以及代理人能消費和花費多少。 每位開發者不必再將供應商 API 金鑰貼到自己的工具中,而是讓每個請求都經由 Unity Gateway 模型服務路由。 Unity 目錄控制誰可以使用哪些模型,Unity Gateway 則會強制限制並記錄使用與成本。
完成這個教學後,你會得到:
- 一個程式代理程式會透過 Unity Gateway 發送所有模型請求,使用你的 Azure Databricks 憑證,開發者機器上沒有提供者 API 金鑰。
- 集中記錄代理程式的使用情況與成本,但須受你在模型服務上設定的速率限制與權限約束。
Prerequisites
- 已啟用 Unity Catalog 的工作區。 請參閱 開始使用 Unity 目錄。
- 可將流量路由至該模型服務,並在其上執行
EXECUTE。 由 Azure Databricks 託管的模型可作為可直接使用的模型服務提供。 請參閱 客製化模型服務。 若要治理自行管理的模型,請先建立模型。 參見 建立自訂模型服務 。 - Azure Databricks CLI,已驗證並連線到你的工作區。
- 你的 Azure Databricks workspace URL 格式為
https://<workspace-url>。
步驟一:連接你的編碼代理
你可以用兩種方式連接客服人員:
- Unity Gateway CLI (推薦):一個開源啟動器,負責處理 OAuth 並撰寫每個代理的設定檔,包括模型服務基底 URL 與模型。 你不會手動管理 API 金鑰或端點。
- 手動設定:在工具的內建設定(Claude Code、Codex、Cursor 或 Gemini CLI)中,自行設定模型服務的基礎 URL 和模型。 請參見 支援的程式設計與工作代理程式。
本節使用 Unity Gateway CLI。 安裝它,然後執行你想要的代理程式:
uv tool install git+https://github.com/databricks/unity-gateway
克勞德密碼
ug claude
Codex
ug codex
若要在非互動模式下執行,請將代理自身的旗標傳遞至 Unity Gateway CLI:
ug codex --full-auto
Gemini CLI
ug gemini
OpenCode
ug opencode
Copilot
ug copilot
第一次執行時,Unity Gateway CLI 會提示你提供工作區 URL 並進行認證;後續執行則直接傳送到代理程式。
步驟 2:管理代理的模型存取權限
你可以像管理 Unity Catalog 中的其他可保護物件一樣管理模型服務:授與 EXECUTE 來控制誰可以使用它,並使用 Unity Gateway 限制請求量與支出上限。 設置以下任一項:
-
管理誰可以存取模型:在目錄總管中,開啟模型服務,並在
EXECUTE標籤中授予使用者或群組。 - 限制請求量:在 Catalog Explorer 中,於模型服務的 概觀 分頁上,按一下 速率限制 下方的 設定。 為端點上的所有請求設定每分鐘請求數(QPM)或每分鐘令牌數(TPM) 速率限制 ,或每位使用者。
- 設定支出預算:帳戶管理員可以為所有 Unity Gateway 端點建立預算。 預算匯總涵蓋您的模型服務支出;設定一個警示閾值,在成本超過該閾值前通知或阻擋使用。
步驟 3:確認流量受控
確認代理程式的請求會透過 Unity Gateway 路由,且已被記錄:
來自經紀人:發送提示。 代理程式會用你設定的模型回應,且你的機器上沒有提供者 API 金鑰。
從使用系統表中:查詢 使用追蹤 以確認你的模型服務是否記錄了請求:
SELECT service_name, requester, status_code, COUNT(*) AS calls FROM system.ai_gateway.usage WHERE service_type = 'MODEL_SERVICE' GROUP BY service_name, requester, status_code ORDER BY calls DESC;
欲更詳細分析支出,請參閱 「分析 Unity Gateway 成本」。