Microsoft Foundry 治理,前稱 Foundry Control Plane,是企業 AI 團隊的集中管理體驗。
Microsoft Foundry 透過代理身分、代理存取政策、成本管理及安全防護,為 AI 代理程式、模型與工具提供內建治理。 平台團隊會利用支援的政策控制來建立組織界線,而工程師則在這些界線內建構。
Foundry 治理結合了內建控制、集中管理與可選整合功能。 透過 Foundry 入口網站中的管理功能,管理員、平台團隊與開發者可以了解他們的 AI 資產、監控營運、調查成本,並評估政策與防護措施。
可視需要透過支援的整合進一步延伸此內建基礎:使用 AI Gateway 進行集中式流量控制,使用 Microsoft Agent 365 進行企業級代理程式管理,使用 Microsoft Purview 進行資料安全與治理,以及使用 Microsoft Defender 進行威脅防護與回應。
這些整合進一步擴展了 Foundry 的治理基礎。 它們不是所有原生控制的先決條件,也不是單一可互換的控制平面。 可用功能取決於工作負載、權限、設定及支援的整合。
Important
本文標示為(預覽)的功能或能力目前處於公開預覽階段,並受 Microsoft Azure 預覽補充使用條款的約束。 預覽功能在沒有服務等級協議的情況下提供,且 Microsoft 不建議用於正式作業負載。 某些功能可能不被支援或功能受限。
前提條件與權限
要使用 Foundry 治理功能,您需要:
-
一個有有效訂閱的 Azure 帳號。 如果你還沒有,請建立一個free Azure帳號,其中包含免費試用訂閱。
一個鑄造廠的專案。 如果沒有,就 建立一個專案。
- 存取您想要檢視的 Foundry 資源與專案。
- 針對所選範圍及底層服務,提供適當的 Azure 角色基礎存取控制權限。
個別功能可能需要額外權限或設定:
- 車隊監控: 存取相關的 Application Insights 資源與日誌資料。 請參閱 設定艦隊監控。
- 費用: 在所需範圍內存取帳單與預測,範圍可能比專案更廣泛。 請參閱 檢視成本的權限。
- 政策: 讀取相關指派與合規結果的權限。 指派變更與豁免需要在 Azure 原則 中擁有獨立權限。
- 安全與資料治理:為 適用於雲端的 Microsoft Defender 與 Microsoft Purview 設定覆蓋範圍與存取權。
並非每一項 Foundry 治理能力都必須有 AI 閘道。 Agent 365、Purview 和 Defender 也不是所有原生身份、存取、成本或安全控制的先決條件。
Note
此功能僅在 Foundry(新)入口中提供。 在入口橫幅中尋找
確認你使用的是 Foundry(新版本)。
何時使用 Foundry 治理
當您的組織需要下列功能時,請使用 Foundry 治理功能:
- 建立代理存取權、成本與安全性的受支援治理界限,並檢視其跨專案的應用。
- 了解各團隊支援的代理程式、模型和工具。
- 找出導致錯誤、延遲、消耗增加或支出的資產。
- 檢視政策需求、指派範圍及不合規資產。
- 調查來自已設定整合的安全性建議與資料保護缺口。
- 從整體層級的監督,轉向專案層級的調查,以及負責控制項的服務。
涵蓋範圍因資產類型與平台而異。 外部代理程式不一定擁有與 Foundry 代理相同的庫存、遙測或管理支援。 請參閱 支援的代理程式平台。
內建治理,必要時可擴充
Foundry 內建的治理架構涵蓋四個領域。 兩者共同協助您的組織釐清代理人身份、可存取什麼、使用如何管理,以及適用哪些安全控管。
| Area | 內建功能 | 深入了解 |
|---|---|---|
| 代理程式身分識別 | 透過 Microsoft Entra 代理身分與藍圖來表示代理。 使用支援的驗證與代表使用者(OBO)委派流程進行下游存取。 | 代理程式身分概念與工具的使用者委派。 |
| 代理程式存取 | 套用模型部署、代理程式類型及託管代理程式容器映像、核准工具及網路出口的政策。 涵蓋範圍與強制執行方式會依政策和代理程式類型而有所不同。 | 模型部署政策、 代理程式部署政策、 工具治理政策與控制措施,以及 託管代理程式網路出口政策。 |
| 成本管理與 FinOps | 監控成本與消耗、管理模型配額,並設定成本控制(預覽版),搭配支援的支出或代幣預算,並警示或封鎖動作。 | 檢視訂閱費用、管理配額及成本控制概覽(預覽)。 |
| 安全與負責任的 AI | 為輸入、輸出及代理程式互動中的風險設定防護欄及支援的執行時控制。 適用性因模型、代理人類型及介入點而異。 | 護欄與控制概述。 |
內建並不代表每個控制項都會自動啟用,或對每個執行環境都完全相同。 部分功能目前仍在預覽階段。 設定您工作負載所需的控制項,並在連結文件中檢視其支援範圍與可用性。
了解強制執行發生在哪裡
Azure 原則 及其在相關服務中的執行,是治理基礎的一部分。 管理 功能提供整體環境的可視性,合規 顯示政策指派及可用的合規結果。 管理體驗不能取代強制執行。
例如:
- 模型部署政策 規範已核准的模型及其部署資格。
- 代理程式部署政策 會限制適用的託管代理程式的代理程式種類與容器映像。
- 原生工具治理使用 Azure 原則 進行支援的設定檢查,並以獨立的專案控制來控管執行時工具存取。 指派政策並不會自動設定 Project 執行時的控制項。
- Hosted-Agent 的出口治理 檢查支援的出口設定。 執行時強制執行需要適當的 護欄設定。
並非每個控制項都使用相同的政策機制或評估點。 請分別檢視設定時間檢查與執行時限制。 合規的設定並不代表每一個執行時動作都被允許,或所有治理需求都已被評估。
透過整合擴展基礎架構
當您的需求超出工作負載所需的原生能力時,請連接更多服務。
| Integration | 它增加了什麼 | 了解的範圍 | 深入了解 |
|---|---|---|---|
| AI 閘道 | 針對支援的模型與工具端點提供集中式流量控制,包括路由、速率或令牌限制,以及監控。 | 控制項適用於經由已設定閘道器路由的流量。 原生 Foundry 治理並不普遍需要閘道。 | 為 Foundry 設定 AI 閘道。 |
| Microsoft Agent 365 | 企業代理程式清單、基於身份的治理、可觀察性,以及跨支援平台的生命週期管理。 | 代理程式支援、遙測、管理操作及啟用需求會依整合而異。 | Agent 365 與 Foundry 的整合。 |
| Microsoft Purview | 資料安全與治理能力,包括稽核、資料保護洞察,以及支援的資料遺失防護情境。 | 覆蓋範圍取決於情境、驗證、設定及授權。 稽核可見性並不等同於政策執行。 | Foundry 的 Purview 資料安全性與合規性。 |
| Microsoft Defender | 透過支援的整合,建立安全態勢、威脅防護,以及調查與回應能力。 | Foundry 及威脅防護或回應工作流程中的 適用於雲端的 Defender 建議,具有獨特的設定與覆蓋範圍需求。 | 設定 適用於雲端的 Defender,並為 AI 服務啟用威脅防護。 |
這些服務彼此補充。 不要假設會有通用的政策同步、各執行時的覆蓋範圍相同,或所有發現都會自動建立關聯。
探索「管理」體驗
在 Foundry 入口網站中,選擇 「管理」 以存取集中式的艦隊管理與系統管理功能。
| Experience | 它能幫助你做什麼 |
|---|---|
| Fleet | 探索庫存、活動、代幣消耗、成本及違規重點。 |
| 成本 | 分析支出與預測,並管理適用的成本控制(預覽)。 |
| Operations | 檢視呼叫、錯誤、延遲、令牌使用情況及可用的代理程式品質資訊。 |
| 合規性 | 檢視政策、資產合規性、適用於雲端的 Defender 建議及 Purview 洞察。 |
| 配額 | 檢視適用的模型配額及存取配額管理功能。 |
| 閘道 | 存取閘道管理功能。 |
資源詳細資料與 Project 詳細資料提供資源與 Project 管理的入口。
範圍控制因頁面而異。 「車隊」、「成本」與「營運」支援選擇訂閱,並依資源群組或專案縮小檢視範圍。 在頁面間切換時,請檢查所選範圍與時間範圍。 管理 不限於目前選取的專案。
了解您的 AI 車隊
Fleet 是了解您所選範圍內資產與活動的起點。 摘要卡片顯示專案、啟用中的代理與模型、代理執行次數、代幣消耗、成本,以及有政策違規的資產。
營運與治理重點指出存在高錯誤事件、高代理程式執行延遲、成本增加及政策違規的資產。 請使用清單與情境連結繼續進入營運、成本或相關政策檢視。
例如,找出一個經常出現錯誤的代理程式,在 Operations 中調查其執行時行為,並在合規中檢視其適用需求。 比較資源識別與範圍,而非假設這些發現有共同原因。
指標不可用並不代表完全沒有活動或沒有違規紀錄。 關於頁面的資料來源、篩選條件及調查路徑,請參閱「監控您的代理程式團隊」。
了解並管理 AI 成本
使用 成本 來調查支出模式,並找出在所選訂閱中對成本有貢獻的專案、代理程式與模型。
「概覽」標籤顯示來自 Azure 成本管理 的成本,包括代理程式與模型明細。 其 預估成本 標籤反映出當月成本可能在發票最終完成前變動。 成本數據比營運使用量指標晚到;不要將代幣計數視為帳單記錄,也不要假設兩個檢視會同時更新。
可用的預測與比較取決於權限與資料。 缺少預測並不代表零支出,缺少前期資料可能使比較變得無法取得。
成本控制標籤提供 Foundry 成本控制(預覽)的存取。 這些控制項會分別維持支出或代幣的運行總額,並套用您設定的閾值動作。 當達到閾值時,這些控制項可以警示或封鎖新的適用請求。
僅有預算或儀表板摘要並不能保證支出會停止。 封鎖必須設定封鎖使用量動作。 超過門檻的請求仍可完成,且成本控制總額與已核對的帳單資料不同。
如需詳細指引,請參閱「檢視訂閱成本」、「成本控制概覽(預覽)」以及「建立與管理成本控制(預覽)」。
監控整個資源群組的營運
Operations 提供支援代理程式與模型的跨專案活動與可靠性檢視。 檢視代理執行次數、模型請求、工具呼叫及總代幣數。 在叫用次數、權杖、錯誤與延遲之間切換,以檢視趨勢並找出需要調查的項目。
可用的代理程式品質資訊取決於已設定的評估與結果。 品質值不可用並不代表分數低。
營運指標協助您決定調查的方向。 它們不會自動找出根本原因,也不會保證每個事件都有匹配的追蹤。 繼續進入專案層級監控,以取得可用的指標、評估與追蹤資料。
請參閱「 監控代理程式與模型操作 」以及 「使用代理程式監控儀表板監控代理程式」。
監控合規與安全性
管理>合規 整合了互補的治理觀點。
| Tab | 焦點 |
|---|---|
| 政策 | 政策與倡議指派、範圍、合規結果、違規資產及強制模式資訊。 |
| 資產 | 針對代理程式、模型與工具箱的可用政策評估與影響。 |
| 安全態勢 | 關於安全設定風險與修復的 適用於雲端的 Defender 建議。 |
| 資料安全與治理 | Purview 涵蓋範圍指標、資料保護缺口及優先處理的調查行動。 |
先從政策開始,了解其範圍與影響,或從資產開始檢視適用需求。 接著進入 Azure 原則、Purview、Defender 或相關的 Foundry 設定體驗。
合規性集中管理可視性與調查作業。 它不會自行制定或執行所有控制。 合規結果不一定代表執行時封鎖,而 Purview 的調查負責人也不代表惡意活動的證據。
有關詳細工作流程與整合需求,請參閱 《監控 Foundry 中的 AI 治理與合規性》。
管理配額與閘道
使用 Quota 查看模型配額、存取權分配,以及申請提高配額的功能。 配額存取權可能需要單一 Project 以外的權限。 請參閱「管理 Foundry 資源的配額」。
使用 閘道 來存取閘道管理功能。 如需選擇與設定 Azure AI Gateway 或 Azure API 管理 的指引,請參閱〈在 Foundry 資源中設定 Azure AI Gateway〉。
配額管理與閘道流量控制是不同的機制。 不需要設定閘道器即可使用所有原生 Foundry 配額、成本或治理功能。
從整個車隊的洞察到 Project 層級的調查
艦隊層級與 Project 層級視圖彼此互補。
| Experience | Role |
|---|---|
| 管理 | 更廣泛的庫存、營運、成本、治理與行政管理。 |
| Project 層級監控 | Project 的代理與模型的詳細操作資訊與可用追蹤資料。 |
| 建造 | 在適用的組織範圍內開發與配置 AI 資產。 |
| 綜合服務 | 專業企業代理管理、流量治理、資料保護或威脅調查與回應。 |
例如,平台團隊會制定核准的工具與模型需求。 工程師會在這些範圍內設定代理程式。 操作員注意到 Fleet 的延遲增加,會在 Operations 中調查受影響的代理程式,並在可用時追蹤 Project 層級的追蹤。 若出現獨立的資料保護或安全疑慮,團隊會透過已設定的 Purview 或 Defender 整合進行調查。
比較跨檢視的資源識別碼、範圍與時間範圍。 這些頁面不一定是同一個自動關聯的事故,追蹤可用性取決於收集到的遙測資料和權限。
開始
先從 Foundry 內建的治理開始,然後針對需要的相關需求加入整合。
- 建立身份與存取界限。 檢視 代理程式識別 以及 身份與存取概覽。 只授予您的情境所需的管理、端點及下游權限。
- 設定支援的治理與安全控制。 在適用情況下,使用 模型部署政策、代理程式部署政策、原生工具治理以及防護措施。 請分別驗證設定檢查與執行時行為。
- 建立成本可視化與控制措施。 檢視 成本權限、檢查 訂閱費用,並為您打算涵蓋的使用量設定 成本控制門檻動作(預覽)。
- 檢查所形成的環境。 在 Foundry 入口網站中開啟「管理」。 先從 Fleet 開始,然後使用 營運、成本或 合規 來檢視。
- 在需要時擴充。 依照各服務的覆蓋範圍與設定需求,新增閘道控制、Agent 365 整合、Purview 資料保護或 Defender 威脅防護。