使用 Unity Gateway 的 AI 治理

Unity Gateway 是企業 AI 的 Azure Databricks 治理解決方案。 它建立在 Unity Catalog 之上,將治理範圍從您的資料與 AI 資產,進一步擴展到模型、代理程式、MCP 伺服器與工具之間的執行階段互動。 控制可使用哪些 AI 服務團隊、路由與管理 AI 流量、設定 服務政策的防護措施,並從單一控制平面監控使用情況。

Azure Databricks 透過 Foundation Model API 原生服務大型語言模型(LLM),因此你可以按代幣付費存取像 GPT、Claude 和 Gemini 這類模型,且無需基礎設施可執行。 你也可以連接外部模型供應商,並透過相同的存取控制和流量管理方式路由到他們的 API。

開始

在您的 AI 資產、流量與服務行為中建立並套用 AI 治理。

主題 Description
教學:使用 Unity Gateway 控制編碼代理的模型存取權 將外部編碼代理路由至受控的模型服務,然後控制誰能存取模型,並限制代理的使用與支出。
教學:控制程式代理程式在 GitHub MCP 上的存取權 利用 Unity 目錄權限及內建服務政策限制程式代理對 GitHub MCP 工具的存取。
以 GRANT 政策治理模型與 MCP 透過系統提供或自訂的管控標籤,來管理對模型、模型服務、模型提供者服務及 MCP 服務 system.ai 的存取。
教學:為模型服務新增服務政策護欄 利用內建及自訂服務政策,對模型服務實施防護欄。
教學:依使用者、團隊或專案追蹤基金會模型支出 透過服務標籤與請求標籤,將成本歸因於使用者、團隊或專案,識別LLM支出驅動因素。

控制對 AI 服務的存取

將 AI 資產註冊為 Unity Catalog 可保護的物件,然後以與資料表和卷相同的權限授權與撤銷存取權。 代理則透過這些相同的安全資產來管理:代理被註冊為 Unity 目錄模型,而它呼叫的工具則以 MCP 服務、函式與連線的形式被管理。

主題 Description
模型服務 查詢在 system.ai 中原生提供的基礎模型,無需設定,並透過 Unity Catalog 權限控管存取。
外部模型提供者 將像 OpenAI 和 Anthropic 這樣的供應商與自帶金鑰(BYOK)連結起來,並透過一個控制點來管理他們。
型號 透過 Unity Catalog 權限管理註冊模型,包括由 Azure Databricks 提供服務的基礎模型。
基金會模型權限 限制您的組織可存取哪些由 Azure Databricks 提供的基礎模型,可在整個帳戶層級或依群組進行設定。
MCP 工具 透過工具篩選和服務原則,治理已註冊為 Unity Catalog 可保護物件的 MCP 伺服器。
自訂工具 管理代理用作工具的 Unity 目錄函式,擁有與資料相同的權限。
HTTP 連線 管理用於連接外部 API 與 MCP 伺服器的 Unity 目錄連線。
建立自訂模型服務 可選:當你需要可直接使用的 system.ai 預設以外的模型時,可自行新增受控端點。

路由與管理 AI 流量

Unity Gateway 會從中央控制平面將請求導向你的模型與 MCP 服務,讓你能跨供應商管理容量、可用性與支出。

主題 Description
套用速率限制 對模型服務與 MCP 服務實施用電限制,以管理容量與成本。
配置流量分割與備援 將請求分散到多個模型目的地,並加入故障移轉以提高可用性。
用智慧路由來路由編碼任務 自動為每個程式任務選擇最佳模型與架構,控制 AI 支出且不犧牲品質。
管理預算 監控支出,設定每位使用者的門檻和硬性上限。

設定護欄與存取政策

服務政策是你用來為 AI 服務實施護欄的機制。 他們根據請求內容及撥打者來決定每個請求與回應的進行方式。

主題 Description
AI 安全性相關對象的服務政策 服務政策如何透過內建、自訂及外部政策來規範 AI 服務的請求與回應內容。
建立並附加服務政策 如何撰寫服務政策函式並將其附加到MCP服務或模型服務。
以外部服務政策強制執行合作夥伴防護機制 如何透過外部服務政策強制執行第三方護欄供應商對模型與 MCP 服務所做的決策。

監控使用情況、成本與風險

追蹤所有 Unity Gateway 服務的活動、支出與成果。

主題 Description
可檢視性概觀 選擇合適的工具來監控 AI 在各服務間的使用、成本、效能與活動。
監視使用量 利用系統表追蹤 Unity Gateway 上的請求、權杖使用情況及延遲。
分析成本 將 Azure Databricks 成本歸因於服務、目標模型、主體和標籤。
審計請求與回應 將請求與回應記錄到 Unity Catalog Delta 資料表,以供監控與除錯。