應用程式卡:Autopilot(Frontier)

[本文是發行前文件,可能會有所變動。]

Important

  • 使用 Autopilot(Frontier)需符合適用的 Frontier 預覽計畫 註冊、預覽指派及參與條款。 僅靠 Frontier 註冊並不能啟用所有預覽功能。 Frontier 預覽版受您客戶協議中適用的預覽條款約束,其可用性與功能可能會有所變動。
  • 這項功能處於預覽狀態。
  • 預覽功能可能功能受限,而且可能不會正式發行。 這些功能是在正式發行前先行推出,讓客戶能夠搶先體驗並提供意見反應。
  • 欲了解更多資訊,請參閱我們的 Microsoft 產品條款。

什麼是申請卡或平台卡?

Microsoft 的應用程式與平台卡旨在幫助您了解 AI 技術的運作方式、應用程式擁有者可做出影響應用程式效能與行為的選擇,以及考量整個應用程式的重要性,包括技術、人員與環境。 應用程式卡是為 AI 應用製作,平台卡則是為 AI 平台服務製作。 這些資源可以支援您自家應用程式的開發或部署,並可與受影響的使用者或利害關係人分享。

作為負責任 AI 承諾的一部分,Microsoft 遵循 六大核心原則:公平、可靠性與安全、隱私與安全、包容性、透明度與問責制。 負責任的 AI 標準與資源指導團隊設計、建置與測試 AI 應用。 應用卡與平台卡提供關於功能、預期用途及限制的透明度。 另請參閱 Microsoft Enterprise AI Services 行為準則。

Overview

Autopilot 是 Microsoft Copilot 中一個永遠在線、雲端架構的代理程式。 你描述你想要的結果、該使用的資料來源以及界限。 它能準備可編輯的工作、檢視可存取的對話、跟進承諾事項,並執行排程自動化。 其識別、記憶體、電腦與工作空間,支撐著超越單一對話的連續性。

Autopilot 是為在 Microsoft 365 中委派工作的資訊工作者所設計。 有些操作會使用其專用身分;其他操作則代表你使用授權存取權限。 代理帳戶、資源、行動與政策決定存取權限。 在發送、分享、刪除或變更某項動作之前,會自動檢查該動作是否能執行或需您的核准。

Autopilot 目前仍為預覽版。 背景操作並不保證執行不中斷、完整擷取或在特定時間內完成。 有關功能與可用性,請參閱 Autopilot 概覽 與 需求。

關鍵術語

以下清單提供了與 Autopilot 相關的關鍵術語詞彙表。

期間 Description
操作核准 一張核准卡,要求擁有者允許或拒絕一項或多項操作。 允許會執行該卡上的動作一次。
自主型助理 一個由 AI 驅動的助理,根據自然語言指令及該人授權使用的資料存取權,代表使用者規劃並執行多步驟工作。
Activity 以使用者為導向的工作視圖,包括執行中的項目、審核要求及結果。 這並不保證擁有完整的行政審計紀錄。
Memory Autopilot 保留並應用於未來工作的對話、個人及工作空間資訊。 您可以在 Autopilot 面板中的 「檢視 [name] 所知道的資訊 」下檢視,或在對話中詢問相關資訊。
Authorization 對特定行動或工作範圍的許可,但須視資源存取及組織政策而定。
Automation 依照已儲存指令、身份、目的地及權限的排程執行的工作。
Skill 針對一種任務類型的指示,搭配可用工具與權限使用。
外掛程式 一組功能或連線,可以包含技能。 目錄清單不代表已安裝或具有權限。
Workspace 一個能在各工作階段之間保留上下文的雲端工作環境;它與您的本機裝置以及已發佈交付物的目的地是分開的。 Autopilot 無法存取本機資料夾或應用程式。
工作場所身分識別 Autopilot 使用的名稱、頭像及電子郵件地址,讓隊友能辨識其在 Copilot、Teams 和 Outlook 中的工作。

主要特色或能力

此處列出的關鍵功能與能力說明 Autopilot 的設計目的,以及它在支援任務中的表現。

  • 適用於 Microsoft 365:Autopilot 透過其可用工具使用授權的 Teams、Outlook、OneDrive 和 SharePoint 資訊。
  • 準備可編輯內容:Autopilot 可以草擬訊息、文件、簡報及分析文件。 您可以指定它是否要產生草稿、儲存檔案、分享或傳送訊息。
  • 動作授權:Autopilot 可在每個步驟無需詢問的情況下完成任務。 自動化審查系統會審查每一個發送、分享、刪除或變更內容,或建立或變更自動化的動作。 符合擁有者要求的動作會執行;其他則顯示核准卡。 付款和敏感的瀏覽器操作總是需要審核。
  • 透過自動化執行重複工作:Autopilot 使用排程和已儲存的完整指示。 監控標準本身不會將每個事件或工作訊號啟用為觸發條件。
  • 為老闆與同事協作:應老闆要求,Autopilot 可在 Teams 中與同事傳訊息、追蹤承諾,並協助安排會議,並取得批准。
  • 職場身份:Autopilot 有自己的名稱、頭像和電子郵件地址,並會在 Copilot、Teams 和 Outlook 中與您並列顯示,讓隊友能分辨其工作與您的工作。
  • 活動:檢視進行中的工作、需要判斷的請求與結果,然後驗證其外部影響。
  • 記憶:儲存的偏好設定和決策有助於維持連貫性。 使用者可以在 Autopilot 面板中檢視、修正並刪除記憶,或透過聊天提出要求。 本次發行無法關閉記憶。 記憶並不是完全的回憶或存取資料的權限。
  • 技能與外掛:從 外掛新增外掛、建立或上傳技能,並與組織中指定的人員分享技能。 政策可以封鎖外掛,而分享技能不會共享憑證或權限。
  • 瀏覽器使用:在啟用此功能時,Autopilot 可在擁有者裝置上的 Microsoft Edge 中運作,以回應擁有者在其私人對話中提出的請求。 它在敏感動作前會先徵求核准,而它所閱讀的頁面內容則由其雲端模型處理。
  • 點數:Autopilot 會根據 Copilot 點數的使用量計費,並透過由管理員設定的支出政策執行。 如果某位使用者未被保障,或政策達到上限,Autopilot 會停止執行自動化、監控及處理新的請求。
  • 敏感度標籤辨識:Autopilot 能辨識支援內容上的標籤。 標註內容不會被排除在 Autopilot 可讀取的範圍之外,而辨識也不會建立標籤繼承或資料遺失防護涵蓋範圍。
  • 行動裝置存取:使用者可透過 Microsoft 365 Copilot、Microsoft Teams 及 Microsoft Outlook 應用程式,在 iOS 和 Android 上使用 Autopilot。

作為一個代理型 AI 助理,Autopilot 展現出以下特性:

  • 規劃:Autopilot 可以將自然語言請求拆分成步驟,並運用該任務可用的功能。
  • 適應性:你可以發送後續指示來要求變更。 檢查產生的成果,而不是假設已經進行中的動作已經變更或停止。
  • 記憶:關於使用者及其工作所保存的背景資料,支持後續工作。
  • 擴充性:技能與外掛在啟用時提供任務指引與連結,且不會單獨授權額外資料存取。 更多資訊請參閱 外掛文件。

預期用途

Autopilot 可用於多種情境,適用於使用 Microsoft 365 並希望委派多步驟工作的資訊工作者。 一些使用案例範例包括:

  • 每日簡報與優先篩選:從指定且可存取的行事曆、電子郵件及 Teams 來源中,設定預定的簡報,並設定預定的交付目的地。
  • 起草與溝通:Autopilot 會為您撰寫訊息、文件、試算表與簡報供您檢視,例如將上市準備備註與每週指標整理成一頁的專案更新。
  • 追蹤承諾與截止日期:要求定期檢查未解決的決策及後續跟進內容草稿。
  • 監控與警示:指定來源、檢查頻率,以及自動化中變更或風險的判定標準。 監控並不保證能立即偵測到問題。
  • 定期報告:Autopilot 會依照排程執行自動化,以核對每週指標、消化客戶回饋,或產生定期狀態摘要。
  • 跨應用程式後續執行:Autopilot 能在一次對話中完成跨越多個 Microsoft 365 應用程式的工作,例如研究相關工作、準備文件,以及撰寫要分享的訊息。

代理範圍: 請求或自動化描述預期結果,但不會授權每一個動作或連結每一個工作訊號。 其他人能看到的行動需要核准,無論是在工作開始時,還是在執行該動作時。 檢視任務與自動化所使用的身份、權限、收件人及目的地。 無論是 Teams @Copilot 功能,還是其他 Copilot 體驗中的軟體平行代理程式,都無法在 Autopilot 中建立相同的功能。

Autopilot 並不適用於需要在沒有人工審核的情況下保證準確度的使用情境。 範例包括法律申報文件、醫療決策或繞過審批流程的金融交易。

模型與訓練資料

Autopilot 使用 AI 模型來解讀請求並執行工作。 它運行於 GPT-6.1 Sol,由 OpenAI 提供,作為 Microsoft 的子處理器運作。 如果管理員在作為 Microsoft 子處理器運作的 AI 供應商下關閉 OpenAI,Autopilot 會改用託管在 Azure OpenAI 中的 GPT-5.6 Sol。 使用者無法透過提示切換模型,Autopilot 也沒有獨立的模型選擇控制。 自動審核系統使用獨立的 AI 模型來審查操作。 有關管理員指引,請參閱 檢視模型治理。

Microsoft 的 Copilot 隱私指引指出,透過 Microsoft 365 服務存取的提示、回應及組織資料不會用於訓練基礎模型。 檢視 Microsoft Copilot 的資料、隱私與安全性,以及您組織啟用的模型條款。

當 OpenAI 被啟用時,提示詞及相關資料會由 OpenAI 作為 Microsoft 子處理器處理。 處理位置與適用的承諾可能與 Azure OpenAI 託管模型有所不同。 管理者應確認該安排符合其資料駐留要求及歐盟資料邊界要求。 在 Microsoft Online Services 中將 OpenAI 作為子處理者 一文中深入了解。

Performance

效能評估重點在於 Autopilot 是否完成所要求的多步驟工作,以及輸出是否符合您的預期。 結果取決於所檢視的任務、存取權限、工具、模型及配置。

支援的模式

  • 輸入: 自然語言文字及支援的上下文,透過授權工具提供或擷取。
  • 輸出: 文字、草稿訊息、文件、簡報、分析及在支援的情況下的自動化結果。 輸出目的地取決於任務及可用能力。

Autopilot 如何處理請求

  1. Autopilot 會接收來自你的自然語言指令。
  2. Autopilot 會根據您的 Microsoft 365 內容及其所需技能,規劃完成請求所需的步驟。
  3. Autopilot 會使用可用的工具嘗試執行這些步驟。 當需要更多資訊時,它能提出問題;在授權後續行動前,先釐清模糊的指示。
  4. Autopilot 會套用該動作的權限與政策。 自動審核系統會將該動作與您的請求進行比對,然後讓它執行或請求您的批准。
  5. Autopilot 會回報結果或限制。 確認已儲存的檔案、已發送訊息或行事曆事件在目的地,並區分執行與送達。

可靠運行的條件

  • 當指示清晰且具體時,Autopilot 表現最佳,包括你想要的結果、收件人及格式的細節。
  • Autopilot 在雲端執行,取決於您的 Microsoft 365 應用程式及連線服務是否可用。
  • 執行帳戶必須獲得授權,才能存取所要求的資源並執行該作業;專用代理程式身分識別無法繞過這些檢查。
  • 對於高度複雜、多步驟且相互依賴多重的工作,效能可能會下降。

多語言能力

語言支援會因預覽、模型及連接服務而異。 Autopilot 已為英語優化。 翻譯介面並不能證明每種語言都被評估過用於相同的任務。 在用於會因語言而異的工作流程之前,請先確認受支援的組態。

Limitations

了解 Autopilot 的限制對於判斷其是否在安全且有效的範圍內使用至關重要。 雖然我們鼓勵客戶在工作中使用 Autopilot,但必須注意的是,Autopilot 並非為所有可能的情況設計。 我們鼓勵使用者參考 Microsoft Enterprise AI Services 行為準則(針對組織)或 Microsoft 服務合約 中的行為準則章節(針對個人),並在選擇使用情境時參考以下事項:

  • 指令解讀:Autopilot 可能會誤解模糊或過於籠統的指示,導致產出的結果不符合你的意圖。 例如,提出清理舊專案檔案的要求,可能會影響到比你預期更多的內容。 在核准行動前,提出明確且具體的要求,並仔細核查該行動涉及哪些檔案、資料、人員與通訊。
  • 內容準確性:將 AI 生成的文件、訊息及其他內容視為草稿。 在核准傳送、分享或執行相關操作之前,務必先審查內容。 Autopilot 可能會產生不準確的資訊,特別是當它所依據的原始資料不完整或過時時。
  • 任務複雜度:複雜且多步驟且依賴眾多的工作,可能不一定能如預期般完成。 監控進度,並在需要時暫停或調整任務。
  • 權限邊界:授權帳戶、資源、動作及對話上下文決定存取權限。 記憶與技能指示不會賦予權限。 Autopilot 並不會擴展使用者可存取的資料範圍。
  • 自動核准檢查:自動審查系統無法看到 Autopilot 所知道的一切,因此可能會犯錯。 它判斷是否符合你的請求的動作,會在沒有核准卡的情況下執行。 請明確提出要求,並設定「暫時不要寄出」等限制,並檢視結果。 允許 在核准卡上執行這些動作一次;它不會授權之後類似或無關的行動。
  • 本機裝置與瀏覽器:Autopilot 無法存取本機資料夾或應用程式。 在啟用瀏覽器使用時,Autopilot 在 Microsoft Edge 中讀取的頁面內容(包括已登入網站的內容)會被傳送到其雲端模型。 政策與網站規則仍可能阻擋瀏覽器操作。
  • 自動化以已儲存的權限執行:檢視完整指示、排程、身分、收件人及目的地。 排程工作不會繼承所有創建對話的權限。
  • 模型與提供者差異:處理地點與合規承諾取決於 OpenAI 或 Azure OpenAI 託管模型是否處理請求。 一般的 Copilot 保護措施並不代表每種模型配置或工具都有相同的保障。
  • 敏感度標籤:有標籤的電子郵件和檔案不會被排除在 Autopilot 可讀取的範圍之外。 它產生或修改的內容可能不會自動繼承或強制執行來源標籤。 在分享或儲存內容前,請套用適當的標籤與控制措施。
  • 資料遺失防護:預覽期間提示的 DLP 功能有限,阻擋的提示可能會顯示一般錯誤。 不要假設所有工具與目的地的 Microsoft Purview DLP 強制執行都一致。
  • 合規保障:電子發現、保留與法律保留不涵蓋 Autopilot 對話,且 Autopilot 也未出現在 AI 資料安全態勢管理中。 代表擁有者進行的讀取作業會依其帳戶進行稽核。 權限與加密是可靠地將內容排除在 Autopilot 之外的控制措施。
  • 儲存與回憶:工作情境、對話歷史、儲存的記憶與匯出檔案是不同的紀錄。 刪除對話不會移除已儲存的記憶,且刪除的對話會一直保存,直到使用者要求 Autopilot 永久移除。 匯出為快照,可能不帶有原始的敏感度標籤。 使用者可以下載完整回憶與會話副本,若經核准合規或隱私申請,租戶管理員可匯出使用者的記憶與會話副本。 工作區檔案不一定是已發佈、可存取的交付成果。
  • 訊息可見性:Teams 聊天中的每個人都可以看到 Autopilot 發送到那裡的訊息。 先檢視收件人,再允許傳送訊息。
  • 結果不完整或不確定:停止請求並不能證明取消或回退。 核准不是執行的證明,而一個成功的工作步驟也不等於交付的證明。
  • 偏見、刻板印象與缺乏根據的內容:儘管有負責任的 AI 控制,AI 生成的內容仍可能反映偏見、刻板印象或缺乏根據的資訊。 在核准前,務必先審查回應與行動。
  • 高影響力決策:不要使用 Autopilot 來做出或自動化帶有法律、醫療、財務、教育、就業、住房或保險後果的決策。 必須由合格的人來做出這些決定。
  • 語言:Autopilot 已為英語優化。 可用性可能因地區與語言而有所限制。

Evaluations

效能與安全評估檢視任務完成度、回應品質,以及有害內容或未經授權行為的風險。 以下區域描述的是評估涵蓋範圍與期望結果,而非公開認證或保證每個預覽配置都通過所有情境。

績效與品質評估

績效與品質評估領域包括:

  • 任務完成 — Autopilot 是否能在多個步驟中成功執行所要求的工作。
  • 一致性——Autopilot 的輸出是否符合邏輯結構且一致。
  • 回應品質——根據自然語言指令,輸出是否符合使用者的意圖。

績效與品質評估方法

Autopilot 是透過文字為基礎的情境進行評估,這些情境反映人們在 Microsoft 365 應用程式中的工作方式,包括多步驟任務執行、文件建立、訊息起草、排程以及具代表性的企業情境。 評估者會評估所請求的行動是否被正確執行、回應是否由使用者的內容事實支持,以及輸出是否在同一任務的不同變體中保持一致。 理想成果反映的是任務完成度的準確與持續的表現;次優結果包括錯誤收件人、生成內容中無支持的聲明,或工作不完整。

自訂評估

除了品質評估外,Autopilot 的評估架構還包含基於情境的案例,涵蓋內容損害、隱私與資訊外洩、即時注入抗性,以及行動授權等安全領域。 這些案例檢驗必要的核准與權限界限是否成立、代理人是否抗拒隱藏於外部內容中的指示,以及是否避免未經授權的揭露。 理想成果是在其授權範圍內完成合法工作;不理想的結果包括遵循注入指令、未經授權行事,或產生有害內容。 對某個情境的涵蓋並不代表每個預覽配置都已通過該測試。

風險與安全評估

風險與安全評估領域包括有害內容及試圖操控代理的行為。 保障範圍可能包括:

  • 仇恨與不公平
  • 色情內容
  • Violence
  • 自殘
  • 受保護的資料
  • 提示注入抗性(指令隱藏於外部內容中)
  • 未經授權或未經核准的動作執行
  • 資訊外洩

風險與安全評估方法

風險與安全評估會利用對抗情境與評分來評估潛在危害。 對動作的評估會測試是否包含非預期收件者、缺少所需權限、權限繞過,以及隱藏在電子郵件、檔案或網頁內容中的指示。 理想的結果是拒絕或重新導向未經授權的工作,同時允許合法且已授權的行動。 測試結果受所檢驗的案例、測試夾具、模型及配置所限制;它們不是對實際生產行為的保證,也不是合規認證。 這張卡沒有公布量化通過率。

安全組件與緩解措施

當我們透過紅隊測試等流程識別潛在風險和濫用並進行測量時,我們開發了緩解措施來減少潛在的傷害。 下列清單說明其中一些緩和措施。 我們持續評估 Autopilot,以提升產品效能並採取緩解措施。

  • 行動授權。 第二個 AI 模型會在執行前,根據擁有者的請求審查行動。 不明確符合或無法檢查的操作,則需等待所有者批准。 付款和敏感的瀏覽器操作總是需要審核。 每張核准卡片都會說明其出現的原因,並將組織外的收件人標示為 外部。
  • 權限界限。 存取檢查適用於執行的身份、資源及操作。 新增技能或外掛並不會擴大這些權限。
  • 範圍限定權限。 任務、對話和週期性工作可能具有不同的授權範圍。 不要假設某個情境下的權限適用於另一個情境。
  • 防止外部內容中的指示。 只有擁有者本人的訊息才算是請求,因此,隱藏在電子郵件、檔案或網頁中的指示(稱為提示注入)不能作為執行動作的授權。 緩解措施能降低這種風險,但無法完全消除;檢視所請求的動作。
  • 內容安全性。 安全控制旨在減少有害輸出。 這些措施並不能取代審查內容或驗證行動的必要性。
  • 以組織資料為基礎。 授權的 Microsoft 365 來源提供任務的背景說明。 根據來源建立依據並不能保證輸出準確;請根據來源查證重要事實。
  • 進度可見度。 對話與活動有助於你檢視工作與審核請求。 它們並不是完整的行政稽核紀錄。
  • 管理員控管。 管理員管理預覽資格、提供者與資源存取,以及適用的使用控制。 針對模型條款、稽核、保留、標籤及資料外洩防護,請在啟用的配置中確認涵蓋範圍。 請參閱「 為您的組織設定 Autopilot」以了解更多資訊。

部署與採用 Autopilot 的最佳實務

負責任的 AI 是 Microsoft 與其客戶之間的共同承諾。 雖然 Microsoft 以安全、公平與透明為核心打造 AI 應用與平台服務,但客戶在自身環境中負責任地部署與使用這些技術方面扮演關鍵角色。 為支持此合作,我們提供以下最佳實務,供部署者與終端用戶協助客戶有效實施負責任的 AI。

部署者與終端使用者應:

  • 在使用 Autopilot 進行重大決策或處理敏感領域時,請謹慎並評估結果。 具有後果性的決定是指那些可能對個人取得教育、就業、財務服務、政府福利、醫療保健、住房、保險或法律服務的取得產生法律或重大影響,或可能造成身體、心理或財務傷害的決定。 敏感領域——如金融服務、醫療保健與住房——因可能對不同族群造成不成比例的影響,因此需要特別關注。 在這些領域使用 AI 做決策時,務必確保受影響的利害關係人能理解決策過程、申訴決策並更新相關輸入資料。
  • 評估法律與法規考量。 客戶在使用任何 AI 服務與解決方案時,需要評估潛在的具體法律與監管義務,而這些服務未必適用於所有產業或情境。 此外,AI 服務或解決方案並非針對 所設計,而且不得以適用的服務條款和相關行為規範禁止的方式使用。

部署者應:

  • 適當地設定存取權。 確認已註冊 Frontier、涵蓋 Autopilot 使用者的支出政策、Autopilot 啟用及 AI 提供者設定。 先從有限的受眾開始。 請參閱「 為您的組織設定 Autopilot」以了解更多資訊。
  • 教育使用者關於授權的知識。 說明 Autopilot 可以在自動審核系統發現某個動作符合請求時,無需逐步驟確認即可採取行動,且使用者必須審查核准卡並驗證結果。
  • 引導使用者了解權限。 將授權的動作、資源與收件人與工作流程及貴組織需求相匹配。 不要將預覽介面控制項視為原則涵蓋範圍的證明。
  • 監控使用情況。 檢視 Autopilot 在您的組織中如何被使用,以識別模式、常見問題或可能需要額外指引的領域。

終端使用者應:

  • 在適當時進行人工監督。 人工監督是與人工智慧應用程式互動時的重要保障。 雖然我們持續改進 Autopilot,AI 仍可能犯錯。 產生的輸出可能不準確、不完整、有偏見、不對齊,或與你的預期目標無關,原因包括輸入內容的模糊或底層模型的限制。 檢視 Autopilot 產生的回應,並確認其符合您的期望與需求。
  • 請注意過度依賴的風險。 當使用者接受不正確或不完整的 AI 輸出時,就會發生過度依賴 AI,主要是因為 AI 輸出中的錯誤可能難以偵測。 因為 Autopilot 可以代表您行事,請在核准傳送或分享資訊的動作前,先檢視其工作內容——特別是收件人、日期與內容。
  • 提供清楚、具體的指示。 請包含您想要的結果、收件人、格式及內容期望的詳細資訊。 說明越具體,結果就越好。 舉例來說,與其說「電子郵件協助」,不如改成「草擬回覆 Mira,確認我將負責安全審查,並註明付款修正已完成」。
  • 在啟用自動化前請先檢視它們。 自動化會依照其儲存的指令、身份與權限依照排程執行。 在啟用自動化前,請先檢視已儲存的權限範圍,若其行為不如預期,請暫停。
  • 在敏感領域請保持謹慎。 當 Autopilot 的行為可能不可逆或影響重大時,請特別小心,如 Microsoft Enterprise AI Services 行為準則(針對組織)或 Microsoft 服務合約 中行為準則章節(針對個人)所述。

如需更多指引或進一步了解負責任使用 Autopilot,建議您參考以下文件:

負責任的 AI 資源

利用這些資源來了解 Microsoft 對負責任 AI 的做法。