開發並部署安全且合規的 Microsoft Foundry 或客製化 AI 應用程式

安全性與合規性對於企業 AI 採用至關重要。 企業客戶期望 AI 應用設計上具備安全性，並遵守內部政策與外部法規。

未能達成這些期望可能導致：

• 安全與合規審查時的拒絕。
• 資料外洩或其他有害的 AI 行為。
• 失去顧客信任與降低採用率。

為了負責任地擴展 AI，組織必須建立在強大的資料安全與治理基礎上。 由於 AI 應用越來越多地處理敏感的企業資料，開發者應在開發生命週期的早期——設計與實作階段——就納入安全與合規控管。

Microsoft Purview 提供 API 與服務，使 Microsoft Foundry 及其他 AI 平台能將企業級資料安全與治理控制整合進客製化 AI 應用程式與代理中，無論其模型或部署平台為何。

本文說明開發者如何整合 Microsoft Purview，以支援其使用 Microsoft Foundry、Agent Framework 或自訂 AI 應用程式所建構的 AI 應用程式與代理程式中的資料安全與合規要求。 下表總結了 Microsoft Purview 的情境，以及開發者應為每個情境選擇的選項。

管理 AI 應用程式執行時使用的資料

以下 Microsoft Purview 功能可用於為 AI 應用程式提供資料治理：

• 針對敏感資料使用、風險行為及不道德的 AI 互動進行即時分析。
• 審核可追溯性。
• 通訊合規以偵測有害或未經授權的內容。
• 為法律及法規需求提供資料生命週期管理與電子發現服務。

您可以使用以下選項，將這些 Microsoft Purview 功能整合到您的 Microsoft Foundry 或自訂 AI 應用程式中：

• Microsoft Purview 原生整合到 Microsoft Foundry 中（建議）：在 Microsoft Foundry 中使用模型時，請使用內嵌於 Microsoft Foundry 的 Microsoft Purview 設定，以進行稽核及相關治理。 Azure 管理員可以為任何特定 Azure 訂閱開啟設定。 開發者不需要採取任何行動。 此設定允許所有在該訂閱中運行的 Azure AI 應用程式資料傳送至 Microsoft Purview，以支援治理與合規成果。 欲了解更多關於開啟此設定的資訊，請參閱啟用 Microsoft Purview 的 Azure AI 資料安全。

• 使用 API：Microsoft Foundry 的開發者可以在 Microsoft Graph 中使用 Microsoft Purview API，將 AI 應用程式的提示與回應資料程式化傳送至 Microsoft Purview。

  使用以下 API 進行基於 API 的整合：

  • 計算保護範圍。
  • 處理內容。

  欲了解更多資訊，請參閱 Microsoft Graph 中的 Microsoft Purview API。

• 代理框架：如果你是使用 Microsoft 代理框架建置代理程式，可以加入 Microsoft Purview 功能來保護代理程式。 這些功能將為代理提供資料安全與合規性。 在您的代理程式的中介軟體流程中，新增 Microsoft Purview 政策中介軟體至：

  • 攔截並將提示詞與回應傳送給 Microsoft Purview。
  • 在 Microsoft Purview 中執行貴組織的 DLP 政策。

  欲了解更多資訊，請參閱「使用 Microsoft Purview SDK 搭配代理框架」。

防範資料外洩與內部風險

開發者可以使用代理框架或Microsoft Purview API來在應用程式中強制執行Microsoft Purview 資料外洩防護（DLP）政策。

代理框架：如果你是使用 Microsoft 代理框架建置代理程式，可以加入 Microsoft Purview 功能來保護代理程式。 這些功能將為代理提供資料安全與合規性。 在您的代理程式的中介軟體流程中，新增 Microsoft Purview 政策中介軟體至：

• 攔截並將提示與回應傳遞給 Microsoft Purview。
• 在 Microsoft Purview 中執行貴組織的 DLP 政策。

欲了解更多資訊，請參閱「使用 Microsoft Purview SDK 搭配代理框架」。

使用 API：此選項允許應用程式依照 Microsoft Purview 設定的政策，理解並強制執行 AI 應用程式與代理的行為。 例如，你可以保護與大型語言模型（LLM）共享的敏感資訊，或在你的 AI 應用程式中控制與風險使用者分享的敏感資訊。

使用以下 API 進行基於 API 的整合：

• 計算保護範圍
• 製程內容

Azure AI 代碼範例：

• serverless-chat-langchainjs-purview AI 程式碼範例

防止資料過度分享

當資料被貼上敏感標籤時，過度分享資料會受到限制。 開發者可以使用 Microsoft Purview API 或 Azure AI 搜尋服務，來確認 LLM 用來產生回應的資料所貼有的敏感性標籤。 這兩種方式都確保 AI 生成的回應會遵守存取控制、防止資料過度分享，並限制使用者只能看到他們被授權的內容——就像在 AI 應用環境外一樣。

啟用 Microsoft Purview 敏感度標籤索引時，Azure AI 搜尋服務 會在查詢時檢查文件標籤的中繼資料，根據 Microsoft Purview 政策套用存取篩選器，並只回傳請求使用者被允許存取的結果。

在建立此情境時，您可以使用以下任一 API：

• 列出敏感度標籤。
• 取得敏感度標籤。
• 清單使用權。
• 運算繼承。
• 計算權限與繼承。