Unity 閘道可觀測性

Unity Gateway 可觀察性讓您能從單一控制平面監控每個 AI 服務的成本、使用情況、效能與存取權限,並由 Unity Catalog 系統表支持。 隨著團隊在組織中採用編碼代理、副駕駛和客製化代理,越來越難判斷誰存取哪些模型或工具、成本多少,以及端點是否健康。 因為每個請求都經過 Unity Gateway,你可以在同一個地方回答這些問題。

Note

存取這些系統資料表預設需要同時擁有帳號和元儲存管理員角色。 管理員可以 管理系統資料表的存取 ,或發布 AI 閘道使用儀表板 以分享使用分析,而無需授權資料表存取權。

需求

監控成本

在工作區 UI 中,前往 AI Gateway > 治理 > 使用情況儀表板 > 成本分析,即可依端點、Azure Databricks 提供的基礎模型或使用者,追蹤隨時間變化的美元支出。 內建儀表板利用使用量與帳單表:

Note

外部模型支出是根據各供應商公布的價格計算,僅供參考。 參見 外部模型。

若要依自訂維度歸屬支出,請使用請求或服務標籤,將成本歸類為事業單位、專案或您組織關心的任何維度(參見 「依使用者、團隊或專案追蹤基礎模型支出」)。

詳見 分析 Unity Gateway 成本。

監控使用與效能

Unity Gateway 使用儀表板(AI Gateway > Govern > Usage Dashboard)追蹤所有透過閘道所管理端點的請求量、令牌消耗量及延遲。 每個模型或 MCP 服務也都內建 指標 索引標籤,無需離開 Catalog Explorer UI 即可進行健康監控。 為了更深入的分析,可以查詢 system.ai_gateway.usage 表格,分析每個透過閘道路由請求的使用指標,如令牌數量、延遲、請求者及請求標籤(詳見 使用表結構)。

Note

Unity Gateway 端點會將記錄寫入 system.ai_gateway.usage,而 模型服務端點(舊版) 會將記錄寫入 system.serving.endpoint_usage。

常見用途:

  • 在同一處監控並優化整個 AI 技術堆疊中的所有 AI 服務
  • 追蹤團隊間編碼代理的採用情況與模型受歡迎程度
  • 識別最活躍的使用者、服務與模型,以發現優化機會

詳見 賽道模型使用。

檢查請求與回應

啟用模型服務上的 推論表 ,將請求與回應有效載荷記錄到 Unity 目錄資料表。 利用推論表來:

  • 排除失敗或意外回應的故障
  • 確認防護機制是否正常運作,例如 PII 遮蔽
  • 審計敏感資料暴露

請參閱 對推理表的日誌請求與回應。

稽核存取權

查詢 system.access.audit 表格以證明誰何時使用了哪個 AI 服務。 為了區分人類來電者與代表其行事的代理人,請使用 run_by 中的 run_as 和 identity_metadata 欄位。

常見用途:

  • 建立合規與法規報告的存取路徑
  • 區分人類來電者與代表其行事的代理人
  • 維持團隊所使用的編碼代理的中央稽核追蹤

請參閱 稽核記錄系統數據表參考。

追蹤相依性

Lineage 追蹤基礎模型與模型服務之間的依賴關係,以及其下游消費者。 利用沿襲關係來界定棄用或變更模型服務的影響範圍,並通知其擁有者。

詳見 Unity 目錄中的血統。

其他資源