Unity Gateway 是企業 AI 的 Azure Databricks 治理解決方案。 它建立在 Unity Catalog 之上,將治理範圍從您的資料與 AI 資產,進一步擴展到模型、代理程式、MCP 伺服器與工具之間的執行階段互動。 控制可使用哪些 AI 服務團隊、路由與管理 AI 流量、設定 服務政策的防護措施,並從單一控制平面監控使用情況。
Azure Databricks 透過 Foundation Model API 原生服務大型語言模型(LLM),因此你可以按代幣付費存取像 GPT、Claude 和 Gemini 這類模型,且無需基礎設施可執行。 你也可以連接外部模型供應商,並透過相同的存取控制和流量管理方式路由到他們的 API。
開始
在您的 AI 資產、流量與服務行為中建立並套用 AI 治理。
| 主題 | Description |
|---|---|
| 教學:使用 Unity Gateway 控制編碼代理的模型存取權 | 將外部編碼代理路由至受控的模型服務,然後控制誰能存取模型,並限制代理的使用與支出。 |
| 教學:控制程式代理程式在 GitHub MCP 上的存取權 | 利用 Unity 目錄權限及內建服務政策限制程式代理對 GitHub MCP 工具的存取。 |
| 以 GRANT 政策治理模型與 MCP | 透過系統提供或自訂的管控標籤,來管理對模型、模型服務、模型提供者服務及 MCP 服務 system.ai 的存取。 |
| 教學:為模型服務新增服務政策護欄 | 利用內建及自訂服務政策,對模型服務實施防護欄。 |
| 教學:依使用者、團隊或專案追蹤基金會模型支出 | 透過服務標籤與請求標籤,將成本歸因於使用者、團隊或專案,識別LLM支出驅動因素。 |
控制對 AI 服務的存取
將 AI 資產註冊為 Unity Catalog 可保護的物件,然後以與資料表和卷相同的權限授權與撤銷存取權。 代理則透過這些相同的安全資產來管理:代理被註冊為 Unity 目錄模型,而它呼叫的工具則以 MCP 服務、函式與連線的形式被管理。
| 主題 | Description |
|---|---|
| 模型服務 | 查詢在 system.ai 中原生提供的基礎模型,無需設定,並透過 Unity Catalog 權限控管存取。 |
| 外部模型提供者 | 將像 OpenAI 和 Anthropic 這樣的供應商與自帶金鑰(BYOK)連結起來,並透過一個控制點來管理他們。 |
| 型號 | 透過 Unity Catalog 權限管理註冊模型,包括由 Azure Databricks 提供服務的基礎模型。 |
| 基金會模型權限 | 限制您的組織可存取哪些由 Azure Databricks 提供的基礎模型,可在整個帳戶層級或依群組進行設定。 |
| MCP 工具 | 透過工具篩選和服務原則,治理已註冊為 Unity Catalog 可保護物件的 MCP 伺服器。 |
| 自訂工具 | 管理代理用作工具的 Unity 目錄函式,擁有與資料相同的權限。 |
| HTTP 連線 | 管理用於連接外部 API 與 MCP 伺服器的 Unity 目錄連線。 |
| 建立自訂模型服務 | 可選:當你需要可直接使用的 system.ai 預設以外的模型時,可自行新增受控端點。 |
路由與管理 AI 流量
Unity Gateway 會從中央控制平面將請求導向你的模型與 MCP 服務,讓你能跨供應商管理容量、可用性與支出。
| 主題 | Description |
|---|---|
| 套用速率限制 | 對模型服務與 MCP 服務實施用電限制,以管理容量與成本。 |
| 配置流量分割與備援 | 將請求分散到多個模型目的地,並加入故障移轉以提高可用性。 |
| 用智慧路由來路由編碼任務 | 自動為每個程式任務選擇最佳模型與架構,控制 AI 支出且不犧牲品質。 |
| 管理預算 | 監控支出,設定每位使用者的門檻和硬性上限。 |
設定護欄與存取政策
服務政策是你用來為 AI 服務實施護欄的機制。 他們根據請求內容及撥打者來決定每個請求與回應的進行方式。
| 主題 | Description |
|---|---|
| AI 安全性相關對象的服務政策 | 服務政策如何透過內建、自訂及外部政策來規範 AI 服務的請求與回應內容。 |
| 建立並附加服務政策 | 如何撰寫服務政策函式並將其附加到MCP服務或模型服務。 |
| 以外部服務政策強制執行合作夥伴防護機制 | 如何透過外部服務政策強制執行第三方護欄供應商對模型與 MCP 服務所做的決策。 |
監控使用情況、成本與風險
追蹤所有 Unity Gateway 服務的活動、支出與成果。
| 主題 | Description |
|---|---|
| 可檢視性概觀 | 選擇合適的工具來監控 AI 在各服務間的使用、成本、效能與活動。 |
| 監視使用量 | 利用系統表追蹤 Unity Gateway 上的請求、權杖使用情況及延遲。 |
| 分析成本 | 將 Azure Databricks 成本歸因於服務、目標模型、主體和標籤。 |
| 審計請求與回應 | 將請求與回應記錄到 Unity Catalog Delta 資料表,以供監控與除錯。 |