使用 Microsoft Defender（預覽版）偵測並調查對 AI 代理的威脅

部署的 AI 代理能自主運作，能調用工具、存取資料，並根據自然語言輸入對連網系統採取行動。 這使得持續偵測與調查變得至關重要。 Microsoft Defender 偵測可疑且惡意的代理人行為，提供近乎即時的警示，並協助資安團隊調查事件，追蹤完整根源與爆炸範圍。

Microsoft Defender 偵測並協助資安團隊調查透過 Microsoft Agent 365 管理的 AI 代理威脅，包括支援代理平台所提供的擴展偵測功能。 要在執行時阻擋不安全的代理行為，請參考使用 Microsoft Defender 即時保護 AI 代理。

必要條件

• 啟用 AI 代理的安全機制，包括 Microsoft 365 應用程式連接器，以收集 AI 代理行動所需的 Agent 365 可觀察性資料。 請參見「啟用使用 Microsoft Defender 的 AI 代理安全」。

• 確保您的 AI 代理能向 Microsoft 365 發布可觀察性資料：

  • 使用 Microsoft Copilot Studio、Microsoft Foundry 所建置的代理程式，以及使用 Microsoft Copilot 代理建構器所建置的宣告式代理，預設會將可觀察性資料傳送給Microsoft 365。
  • 對於在其他平台上建置的 AI 代理，請依 Agent 365 開發生命週期文件中描述，啟用 Microsoft Agent 365 SDK 來啟用可觀察性。

    附註

    威脅偵測僅支援已公開的 Microsoft Foundry 代理程式。 未公開代理，包括僅在遊樂場環境中使用的代理，則不被支援。 欲了解更多資訊，請參閱 Foundry 入口網站中的「發佈代理至 Microsoft Copilot 與 Microsoft Teams」

• 要偵測對端點上運行的本地 AI 代理的威脅，請在 適用於端點的 Microsoft Defender 中設定 AI 代理執行時保護。 適用於端點的 Microsoft Defender 必須以主動模式執行。 本地代理會與雲端代理分開上線。

• （可選） 若要將觸發偵測的提示片段納入警示中作為證據，請啟用 提示證據收集。 此設定預設為啟用狀態。

近乎即時偵測 AI 代理威脅

Microsoft Defender 持續監控 AI 代理的活動，並偵測所有代理 365 管理代理的可疑及惡意行為。 Defender 分析代理的遙測、工具使用及執行模式，以識別威脅，如越獄嘗試、間接提示注入（XPIA）、惡意內容傳播、秘密與憑證外洩、規避技術、大型語言模型（LLM）偵察，以及可疑的使用者或 IP 存取。

Microsoft Defender 將偵測結果以近即時警示形式呈現於 Defender 入口網站，並讓安全團隊能利用熟悉的安全作業流程進行調查，包括警示分流、事件關聯及進階狩獵。

欲了解更多資訊，請參閱 Microsoft Defender 入口網站中的事件與警示。

近即時偵測依賴 Agent 365 可觀察性資料，該資料同時為調查事件與威脅狩獵提供寶貴背景。 Microsoft Defender 會分析這些資料，以識別可疑客服行為並產生警示。

若要以觸發偵測的提示片段來豐富警示調查內容，請啟用提示證據收集。 欲了解更多資訊，請參閱 警示中的控制提示證據。

利用進階搜捕，調查 AI Agent 威脅並搜捕風險

Microsoft Defender 將 AI 代理警示與事件關聯，並呈現相關脈絡，讓資安團隊能快速評估影響並優先處理。 進階狩獵讓分析師能利用 Kusto 查詢語言（KQL）查詢 Agent 365 的可觀察性資料，調查事件並在整個環境中搜尋風險。

調查事件與警報

Microsoft Defender 將 AI 代理從近即時偵測到的警示與事件做關聯。 即時的防護稽核與封鎖事件會以行為記錄在 BehaviorInfo 表格中，您可以將其與調查期間的警示相關聯。

資安分析師可利用事件圖表與調查經驗，了解潛在攻擊的完整背景，包括相關實體間的關係及 AI 代理威脅的爆炸半徑。 欲了解更多資訊，請參閱 Microsoft Defender 入口網站中的事件與警示。

將警報與 Agent 365 可觀察性資料相關聯，並利用先進狩獵技術搜尋風險

Microsoft Defender 的進階狩獵讓安全團隊能利用 Kusto 查詢語言 (KQL) ，查詢Agent 365可觀察性資料及其他安全資料。 這支援針對代理、應用程式、身份與裝置的主動威脅搜尋、事件調查及根本原因分析。

例如，使用進階搜捕來完成下列工作：

• 追蹤特定代理工具的呼叫，並將其與相關警示或封鎖事件關聯起來

• 調查偵測到的 AI 代理威脅的根本原因與範圍

• 識別環境中異常執行模式或高風險代理行為

• 根據代理活動訊號建立自訂偵測規則

用於 AI 代理程式調查的進階搜捕資料表

以下進階狩獵表提供 AI 代理設定、警示與活動的可視化。 你可以單獨查詢這些表格，或將它們關聯起來，以調查事件並尋找與代理人相關的風險。

後續步驟

• 使用 Microsoft Defender 即時保護 AI 代理

• 使用 Microsoft Defender 探索 AI 代理並評估安全態勢

• 使用 Microsoft Defender 保護 AI 資產免受新興威脅與漏洞侵害