注意
- 本文中的資訊僅適用於在使用者使用其公司或學校帳戶登入的組織中使用 Microsoft Copilot。
- 如需使用 Microsoft 帳戶登入的個人使用Microsoft Copilot的相關資訊，例如個人電子郵件地址，請參閱適用於個人Microsoft Copilot (的透明度注意事項) 。
什麼是應用程式卡或平台卡？
Microsoft 的應用程式和平台卡片旨在協助您瞭解我們的 AI 技術的運作方式、應用程式擁有者可以做出的影響應用程式效能和行為的選擇，以及考慮整個應用程式的重要性，包括技術、人員和環境。 為 AI 應用程式建立應用程式卡，為 AI 平台服務建立平台卡片。 這些資源可以支援您自己的應用程式的開發或部署，並且可以與受其影響的使用者或利害關係人共用。
作為對負責任 AI 的承諾的一部分，Microsoft 遵守 六個核心原則：公平、可靠性和安全性、隱私權和安全性、包容性、透明度和問責制。 這些原則已內嵌在負責任的 AI Standard 中，可引導團隊設計、建置及測試 AI 應用程式。 應用程式和平台卡透過提供有關功能、預期用途和限制的透明度，在實施這些原則方面發揮關鍵作用。 為了進一步深入瞭解，鼓勵讀者探索 Microsoft 的 負責任 AI 透明度報告 和組織的 Microsoft 企業 AI 服務行為準則 () 或個人) 的 Microsoft 服務協議 (中的行為準則一節 ，這兩者都概述了如何負責任地與 AI 互動。
概觀
Microsoft Copilot 是 AI 支援的生產力工具，可透過使用大型語言模型 (LLM) 和您有存取權的內容，協助提升您的創造力、生產力和技能。 它透過與流行的 Microsoft 365 應用程式和服務（例如 Word、Excel、PowerPoint、Outlook、Teams 等）搭配使用來提供即時智慧協助。
例如，在工作中，您可以要求 Microsoft Copilot 摘要您錯過的 Teams 會議。 在家裡，您可以使用 Microsoft Copilot，使用家庭度假的相片產生投影片放映。
如需組織的詳細資訊，請參閱 Microsoft Copilot 概觀和 Microsoft Copilot 中心。 對於個人，請參閱 Microsoft Copilot 說明和學習。
重要詞彙
下表提供與 Microsoft Copilot 相關的關鍵詞彙表。
| 詞彙 | 描述 |
|---|---|
| 代理程式 | 代理程式的設計是根據預先定義的指示和組織資料的存取權，使用 AI 自動化和執行商務流程。 他們可以代表個人或團隊協助或獨立行動，範圍從簡單的提示和回應互動到完全自主的任務執行。 如需有關在 Copilot 代理程式中使用 AI 的詳細資訊，請直接參閱這些供應項目。 |
| 互動內容 | 用來描述使用者提示和 Microsoft Copilot 對該提示的回應的字詞。 |
| 擴充提示 | 當系統在提示中新增其他指示以引導 Microsoft Copilot 產生更具體且相關的回應時，提示就會擴充。 |
| 基礎設置 | 基礎設置是指向 LLM 提供與提示相關的輸入來源的過程。 藉由讓 Microsoft Copilot 存取資料以做為輸入來源使用，例如來自 Microsoft Graph 或 Bing 的資料，Microsoft Copilot 可以向使用者提供更準確、與內容相關的回應。 |
| 索引 | Microsoft 同時使用 Microsoft Graph 資料的字彙和語意索引，以基礎回應企業資料中的 Microsoft Copilot。 索引會解譯提示，以產生與內容相關的回應。 |
| 推斷 | 推理是 AI 模型執行提示以產生輸出或回應時的處理步驟，例如摘要內容或回答問題。 |
| 大型語言模型 (LLM) | 在此情境下) 大型語言模型 (LLM 是經過大量文字資料訓練的 AI 模型，以依序預測單字。 LLM 能夠執行各種任務，例如文本生成、摘要、翻譯、分類等。 |
| Microsoft Graph | Microsoft Graph 是 Microsoft 365 中資料和智慧的閘道。 它包括使用者、活動和組織資料之間關係的相關資訊。 |
| 後續處理 | Microsoft Copilot 在收到 LLM 的回應之後執行的處理。 此後續處理包括對 Microsoft Graph 的其他基礎呼叫、負責任的 AI、安全性、合規性和隱私權檢查。 |
| 正在處理 | 在 Microsoft Copilot 中處理使用者提示涉及數個步驟，包括負責任的 AI 檢查，以協助 Microsoft Copilot 提供相關且可採取動作的回應。 |
| 提示 | 提示是傳送給 Microsoft Copilot 以執行特定工作或提供資訊的文字。 例如，使用者可能會輸入下列提示： 撰寫電子郵件祝賀我的團隊結束會計年度。 |
| 紅隊測試 | 專家用來評估系統的局限性和漏洞以及測試計劃緩解措施有效性的技術。 紅隊測試用於識別潛在風險，與系統化的風險衡量不同。 |
| 回應 | 由 LLM 產生並作為提示回覆傳回給 Microsoft Copilot 的內容。 |
| 負責任的人工智慧 | Microsoft 的原則、研究和工程做法以我們的 AI 原則為基礎，並透過我們的負責任 AI 標準付諸實踐。 |
主要特性和功能
下表中的主要特性和功能說明 Microsoft Copilot 的設計目的，以及它在支援的工作中的執行方式。
| 功能 | 描述 |
|---|---|
| Word 中的 Microsoft Copilot | Word 中的 Microsoft Copilot 能以效率和創意轉換寫作方式，讓使用者能夠建立、摘要、理解、精簡及提升文件。 使用者還可以使用增強的功能，例如將文字視覺化和轉換為表格。 其他一些功能也包括新增現有提示、參照其他文件來草擬文件，以及探索文件相關資訊。 如需詳細資訊，請參閱 Word 中的 Copilot 常見問題。 |
| PowerPoint 中的 Microsoft Copilot | PowerPoint 中的 Microsoft Copilot 可讓使用者運用企業範本，從提示或 Word 檔案建立新簡報。 聊天功能可啟用 [摘要] 和 Q&A，而燈光命令可讓使用者新增投影片、圖片，或進行整個投影片組的格式設定變更。 PowerPoint 檔案也可用於基礎資料。 如需詳細資訊，請參閱 PowerPoint 中關於 Copilot 的常見問題。 |
| Excel 中的 Microsoft Copilot | Excel 中的 Microsoft Copilot 可協助使用者提供公式、圖表類型建議，以及試算表中資料的深入解析。 如需詳細資訊，請參閱 Excel 中的 Copilot 常見問題。 |
| Outlook 中的 Microsoft Copilot | Outlook 中的 Microsoft Copilot 可協助管理電子郵件收件匣，並更有效率地建立具影響力的通訊。 Outlook 中的 Microsoft Copilot 可以摘要電子郵件對話、建議動作項目、回覆和後續會議。 它還可以在起草電子郵件時調整長度和語氣。 如需詳細資訊，請參閱 Outlook 中的 Copilot 常見問題集。 |
| Teams 中的 Microsoft Copilot | Teams 中的 Microsoft Copilot 可以回顧交談、整理關鍵討論重點，以及摘要關鍵動作。 使用者可以取得特定問題的答案，並掌握他們在會議或聊天中錯過的內容 如需詳細資訊，請參閱 Microsoft Teams 中關於 Copilot 的常見問題。 |
| Loop 中的 Microsoft Copilot | Loop 中的 Microsoft Copilot 可讓使用者建立可透過直接編輯或由 Copilot 精簡來共同改善的內容。 如需詳細資訊，請參閱 Loop 中的 Copilot 常見問題。 |
| Microsoft Clipchamp 影片播放器中的 Microsoft Copilot | Microsoft Clipchamp 影片播放器中的 Microsoft Copilot 可協助從任何具有文字記錄的影片取得資訊。 Clipchamp 影片播放器中的 Microsoft Copilot 可以提供影片摘要、回答特定問題、快速跳至特定主題或討論重點，以及識別行動號召。 如需詳細資訊，請參閱 Clipchamp 影片播放器中關於 Copilot 的常見問題。 |
| Whiteboard 中的 Microsoft Copilot | Whiteboard 中的 Microsoft Copilot 可協助啟動構思程序，以產生、分類及摘要想法。 如需詳細資訊，請參閱 Whiteboard 中的 Copilot 常見問題。 |
| OneNote 中的 Microsoft Copilot | OneNote 中的 Microsoft Copilot 可讓使用者草擬計劃、產生構想、建立清單以及整理資訊，以協助他們在 OneNote 應用程式中找到所需的資訊。 如需詳細資訊，請參閱 OneNote 中的 Copilot 常見問題集。 |
| Microsoft Forms 中的 Microsoft Copilot | Microsoft Forms 中的 Microsoft Copilot 提供 AI 支援的協助，包括問卷、測驗和投票。 Copilot 可協助使用者草擬、檢閱、傳送及分析結果。 如需詳細資訊，請參閱 Forms 中的 Copilot 常見問題。 |
| Microsoft Copilot Chat | Microsoft Copilot Chat結合大型語言模型與網際網路、工作內容和內容以及其他應用程式，協助使用者草擬內容、掌握遺漏的內容，並透過提示取得問題的答案。 如需詳細資訊，請參閱 Microsoft Copilot Chat 常見問題集。 |
| SharePoint 中的 Microsoft Copilot RTF 編輯器 | Microsoft SharePoint 中的 Microsoft Copilot RTF 編輯器 簡化 SharePoint 頁面和文章的內容建立。 藉由 Copilot，您可以重寫文字、調整語調，濃縮資訊和闡述構想。 如需詳細資訊，請參閱 SharePoint 中的 Copilot 常見問題集。 |
| OneDrive 中的 Microsoft Copilot | OneDrive 中的 Microsoft Copilot 是創新的 AI 支援助理，旨在透過擷取資訊、比較主要差異、摘要檔案和產生深入解析，協助您與文件互動。 如需詳細資訊，請參閱 OneDrive 中的 Copilot 常見問題。 |
| Microsoft Copilot 概覽卡片 | 掃視卡提供工作實體的快速預覽，例如文件，以協助評估相關性或召回率。 您可以將游標停留在 Microsoft Copilot 應用程式的 [搜尋] 索引標籤中的檔案上來存取。 |
| Power Platform 連接器 | Power Platform 連接器可讓客戶在 Microsoft Copilot 體驗中存取一系列商務和個人生產力應用程式的資料。 |
| Microsoft 365 Copilot 連接器 | Microsoft 365 Copilot 連接器可讓您將非結構化的企業營運資料擷取至 Microsoft Graph，讓 Microsoft Copilot 可以推理整個企業內容。 如需詳細資訊，請參閱 Microsoft 365 Copilot 連接器概觀。 |
| Microsoft Purview | Microsoft Purview 是協助組織管理和保護其資料的解決方案。 它為數據治理、信息保護、風險管理和合規性提供了一個統一的平台。 客戶可以擴充客戶的 Microsoft 訂閱 (Microsoft Purview 功能，例如 Microsoft 365 E3 或 E5 訂閱) ，Microsoft Copilot資料和互動。 |
| Microsoft Copilot 微調 | Microsoft Copilot 微調可讓組織使用自己的租用戶資料來微調大型語言模型 (LLM) 。 這些模型可用於根據組織的獨特知識執行特定領域的任務。 如需詳細資訊，請參閱 Copilot 微調常見問題。 |
| Microsoft Copilot Studio | Microsoft Copilot Studio 是一個功能強大的平台，可建置跨 Microsoft 365 和企業營運系統運作的安全、可調整且智慧型代理程式。 如需詳細資訊，請參閱申請卡：Microsoft Copilot Studio。 |
| Microsoft Copilot 中的代理程式建立器功能 | Microsoft Copilot 中的代理程式建立器功能提供簡單的介面，您可以使用此介面，以使用自然語言或手動方式快速且輕鬆地建立宣告式代理程式。 如需詳細資訊，請參閱 Microsoft Copilot 中的 Agent Builder。 |
| 具有電腦使用代理程式的 Microsoft Copilot | 搭配使用電腦代理程式的 Microsoft Copilot 可讓您自動化瀏覽器或桌面工作，讓提示能夠使用更多的內容和內容。 由於代理程式可以代表您執行工作，因此系統安全性或隱私權的風險可能會增加。 為了協助降低此風險，代理程式具有多種保護措施，包括以模型導向的方式檢查內容和動作，以及租用戶系統管理員控制項，這些控制項可啟用或停用使用電腦的代理程式，並限制代理程式可以存取的網際網路網站和網域。 建議您套用這些控制措施，並評估代理程式的使用情況。 |
| Microsoft Copilot Cowork | Microsoft Copilot Cowork 使用 AI 代表您在 Microsoft 365 上執行多步驟工作。 您以自然語言描述您需要的內容，Cowork 會透過傳送電子郵件、排程會議、建立文件、在 Teams 中張貼內容、進行研究以及管理檔案來執行。 如需詳細資訊，請參閱申請卡：Microsoft Copilot Cowork。 |
| 適用於 Microsoft Copilot 的同盟連接器 | 適用於 Microsoft Copilot 的同盟連接器可讓 Copilot 使用模型內容通訊協定 (MCP) ，即時在外部系統讀取和寫入資料。 資料會使用使用者的身分識別和權限進行存取，並保留在其原始位置。 資料不會編製索引或儲存在 Microsoft Graph 中。 系統管理員可以在 Microsoft 365 系統管理中心管理這些連接器。 如需詳細資訊，請參閱 同盟連接器概觀。 |
擴充性和自訂
Microsoft Copilot 中的代理程式建立器功能和 Copilot Studio 是建置跨 Microsoft 365 和企業營運系統運作的安全、可調整且智慧型代理程式的工具。 這兩種工具都允許您創建代理，但它們滿足不同的需求。 如果您想要使用自然語言和現有內容，為自己或小型團隊快速建立代理程式，請使用 Agent Builder 功能。 如果您需要適用於更廣泛受眾的代理程式，或代理程式需要多步驟工作流程或自訂整合等進階功能，請選擇 Copilot Studio。 如需詳細資訊，請參閱在 Microsoft Copilot 和 Copilot Studio 之間進行選擇，以為您的Microsoft Copilot 建置代理程式和宣告式代理程式。
對於開發人員，Microsoft 365 Agents SDK 提供工具，可建置與 Microsoft 365 應用程式和服務密切搭配運作的代理程式。
預期用途
Microsoft Copilot 可用於各種產業的多個案例。 一些使用案例範例包括：
- Chat和對話互動和創建：用戶可以與Microsoft Copilot Chat互動並生成從受信任文檔（例如內部公司文檔或技術支持文檔）中提取的響應。
- 搜尋： 使用者可以搜尋受信任來源文件，例如公司內部文件。
- 總結： 使用者可以提交要針對應用程式內建的預先定義主題進行摘要的內容。 範例包括 Teams 聊天、電子郵件、網頁和 Word 文件的摘要。
- 特定主題的撰寫協助： 使用者可以建立新內容或重寫使用者提交的內容，作為商務內容或預先定義主題的撰寫輔助工具。 例如，在 Microsoft Outlook 中草擬電子郵件，或在 Microsoft Word 中撰寫內容。
- 輔助字幕或轉譯： 用戶可以將音頻文件轉錄為文本，以進行自然語言理解或摘要等分析任務。 範例包括 Teams 會議文字記錄和 Microsoft Clipchamp 影片播放器中的影片。
Microsoft 提供著重於常見使用案例和案例的詳細指導方針，以協助客戶加速將 Microsoft Copilot 功能採用至其組織。 如需詳細資訊，請參閱 Microsoft 案例文件庫 - Microsoft 採用。
模型和訓練資料
Microsoft Copilot 利用各種 AI 模型來強化使用者看到的體驗，例如下列範例：
- 由 Microsoft (Azure OpenAI 服務) 提供的 GPT) 模型 (生成式預訓練轉換器
- Claude Opus 和 Claude Sonnet 模型由 Anthropic 提供
- OpenAI 提供的 GPT 模型
注意
- Anthropic 是 Microsoft Copilot 的輔助處理者。 如需詳細資訊，請參閱 Microsoft Online Services 中 Anthropic 的 Claude 模型。
- OpenAI 是 Microsoft Copilot 的輔助處理者。 如需詳細資訊，請參閱 Microsoft Online Services 中的 OpenAI 做為輔助處理者。
- 我們可能會部署由 Microsoft 託管和營運的其他 AI 模型供 Microsoft Copilot 使用。 這些模型受到已確立的相同合約和資料保護承諾的規範，包括沒有任何資料離開 Microsoft。 如需 Copilot 可能使用的模型詳細資訊，請參閱 瞭解 Microsoft Online Services 中的 AI 功能和模型。
若要深入瞭解用來在 Microsoft Copilot 背後訓練這些模型的資料，請參閱下列資源：
Microsoft Copilot 使用 LLM 的組合來摘要、預測和產生內容，包括 Microsoft (Azure OpenAI 服務) 、Anthropic 和 OpenAI 提供的模型。 這可讓我們將每個功能的特定需求 （例如速度、創意） 與正確的模型相匹配，讓 Microsoft Copilot 可以提供即時智慧協助，讓使用者能夠提升他們的創造力、生產力和技能。 如需 OpenAI 提供給 Microsoft 之 LLM 的其他資訊，請參閱其位於 模型 - OpenAI API 的公開文件。
效能
在許多 AI 系統中，效能的定義通常與準確性相關，也就是 AI 系統提供正確預測或輸出的頻率。 使用 Microsoft Copilot，兩個不同的使用者可能會看到相同的輸出，並且對其有用性或相關性有不同意見，這表示必須更靈活地定義這些系統的效能。 我們廣義上認為效能意味著應用程式如使用者預期執行。
Microsoft Copilot 的運作方式
- Microsoft Copilot 會在應用程式 （例如 Word 或 PowerPoint） 中接收來自使用者的輸入提示。 如需支援的語言清單，請參閱 Microsoft Copilot 支援的語言。
- 接著，Microsoft Copilot 會處理提示，改善提示的特異性，以協助使用者取得與其特定工作相關且可採取動作的解答。 提示可以包含來自輸入檔案的文字，或 Microsoft Copilot 使用 Microsoft Graph 探索的其他內容，而 Microsoft Copilot 會將此提示傳送至 LLM 進行處理。 Microsoft Copilot 只會根據現有的 Microsoft 365 角色型存取控制，存取個別使用者具有現有存取權的資料。
- Microsoft Copilot 會從 LLM 取得回應並進行後處理。 此後處理包含對 Microsoft Graph 的其他基礎呼叫、負責任的 AI 檢查，例如內容分類器、安全性、合規性和隱私權檢查，以及命令產生。
- Microsoft Copilot 會將回應傳回給應用程式，使用者可以在這裡檢閱及評估回應。
儲存的關於使用者與 Microsoft Copilot 互動的資料經過加密，不會用來訓練基礎模型 (包括 Microsoft (Azure Open AI Service) 、Anthropic 或 OpenAI 等模型提供者的Microsoft Copilot) 使用。 如需詳細資訊，請參閱 Microsoft Copilot 的資料、隱私權和安全性。
Microsoft Copilot 如何在沒有 Web 內容或組織資料的情況下產生回應
Microsoft Copilot 不需要網頁內容或組織資料來提供回應，但該資訊可協助改善回應的品質、正確性和相關性。 在沒有 Web 或組織資料的情況下回應時，Microsoft Copilot 只會仰賴其 LLM 來瞭解提示並產生回應。 該過程涉及解析輸入、利用模型的內部知識庫以及完善響應以幫助使其適合上下文。
限制
瞭解 Microsoft Copilot 的限制對於判斷其是否在安全且有效的範圍內使用至關重要。 雖然我們鼓勵客戶在其創新解決方案或應用程式中運用 Microsoft Copilot，但請務必注意，Microsoft Copilot 並非專為所有可能的情況所設計。 我們鼓勵使用者參閱適用於組織) 的 Microsoft 企業 AI 服務管理辦法 (或適用於個人) 的 Microsoft 服務合約 (中的管理辦法一節 以及選擇使用案例時的下列考量：
資訊可靠性： 雖然 Copilot 旨在以可靠的來源回應，並尋求基礎資訊，但 AI 可能會犯錯。 它可能會產生無意義的內容或捏造聽起來合理但實際上不準確的內容。 即使在從高權限 Web 資料中提取回應時，回應也可能以可能不完全準確、最新或不可靠的方式歪曲該內容。 我們透過使用者介面和這類文件提醒使用者，Copilot 可能會犯錯。 我們也會持續教育使用者了解 AI 的限制，例如鼓勵他們在做出決策或根據 Copilot 的回應採取行動之前，先仔細查核事實。 當使用者透過文字與 Copilot 互動時，它會嘗試以高品質的 Web 資料為基礎，以降低世代未接地的風險。
回應的年齡適當性： 被 組織的 IT 系統管理員) 分類為「非成人」 (青少年 的使用者，將在特定 Copilot 聊天體驗上啟用額外的保護。 然而，適合青少年的做法可能會根據年齡、地理位置、文化、語言、個人情況和背景等因素而有所不同。 Copilot 可能不一定都能完全解譯這些因素，而且其針對青少年的保護措施可能無法防止每一個不適當或可能有害的回應。 青少年也可能因為年齡和發展階段而面臨特定 AI 互動帶來的更高風險。 信任的成人在決定青少年如何使用 Copilot 時應考慮這些限制，而且可能會選擇不提供存取權，或限制提供這些選項的特定功能。 應鼓勵青少年在針對敏感性或重要主題使用 Copilot 時，與信任的成人或合格的專業人員交談。
相容性：雖然 Microsoft Copilot 的設計是要與 Microsoft 365 應用程式順暢地運作，但在某些環境中的相容性可能存在限制或問題，特別是協力廠商 (非Microsoft) 應用程式，以及自訂或非標準設定。
客製化和靈活性：雖然 Microsoft Copilot 可以進行量身訂做，但針對特定組織需求或工作流程的自訂程度存在限制。 組織可能會發現某些功能或回應僵化或不完全符合組織需求。
依賴網際網路連線： Microsoft Copilot 仰賴網際網路連線才能運作。 連線中斷都可能影響服務的可用性和效能。
使用者訓練和採用：有效使用 Microsoft Copilot 需要使用者了解其功能和限制。 可能會有一個學習曲線，需要用戶接受培訓才能有效地與服務互動並從中受益。
資源密集度： 執行進階 AI 模型需要大量的運算資源，這可能會影響效能，尤其是在資源受限的環境中。 使用者可能會在尖峰使用時間遇到延遲或效能問題。
偏見、刻板印象和毫無根據的內容：儘管 OpenAI 和 Anthropic 進行了密集培訓，並且 Microsoft 對使用者提示和 LLM 輸出實施了負責任的 AI 控制，但 AI 服務是容易出錯且具有機率性的。 這使得全面阻止所有不當內容變得具有挑戰性，從而導致人工智慧生成的內容中潛在的偏見、刻板印象或不接地氣。 如需 AI 產生內容的已知限制詳細資訊，請參閱下列資源：
支援的語言：目前，Microsoft Copilot 支援的語言比 Microsoft 365 少。 如果目前不支援您在提示中使用或要求的語言，就會收到錯誤訊息。 如需詳細資訊，請參閱 Microsoft Copilot 支援的語言。
對個人可能造成的重大身體或心理傷害。 避免使用或誤用可能對個人造成重大身體或心理傷害的系統。 例如，診斷患者或開藥的場景可能會造成重大傷害。
對生活機會或法律地位的間接影響。 避免使用或濫用可能對生活機會或法律地位產生間接影響的系統。 範例包括 AI 系統可能會影響個人的法律狀態、法律權利，或其獲得信貸、教育、雇用、醫療保健、住房、保險、社會福利、服務、機會或提供這些條款的案例。
高風險的網域或產業。 仔細考慮高風險領域或行業的用例。 範例包括但不限於醫療或財務。
評估
效能和安全性評估透過檢查基礎性、相關性和一致性等因素，同時識別產生有害內容的風險，來評估 AI 應用程式是否可靠且安全地運作。 以下評估是在已經就位的安全組件的情況下進行的，這些組件也在 安全組件和緩解措施中進行了描述。
效能和品質評估
AI 應用程式的效能評估對於幫助提高其在實際應用程式中的可靠性至關重要。 回應相關性、正確性和基礎性等計量有助於評估 AI 產生輸出的準確性和一致性，以便在基礎內容案例中得到事實支援、內容適當且結構化邏輯。 針對 Microsoft Copilot，我們會定期針對相關性、正確性和基礎性等多個計量進行嚴格的品質評估。
效能和品質評估方法
Microsoft Copilot 是使用文字和影像型案例進行評估，以反映使用者在 Microsoft 365 應用程式中的工作方式。 對基礎性、回應品質和引文相關性等指標的評估使用了既定的法學碩士作為法官的方法。 離線測試集包括事實查詢、多文檔理解、摘要和代表性企業場景。 評估人員評估回應是否得到事實支持、上下文適當和邏輯結構。 理想的結果反映了準確的基礎、清晰的推理以及同一任務的變化的一致表現。 次優結果包括未經支持的主張、缺失或不相關的引用，或在類似提示下輸出不一致。
風險與安全評估
評估與人工智慧生成的內容相關的潛在風險對於防範不同嚴重程度的內容風險至關重要。 這包括評估人工智慧系統產生有害內容的傾向或測試越獄攻擊的漏洞。 針對 Microsoft Copilot，以下是我們進行的一些風險和安全評估：
- 仇恨與不公平
- 性的
- 暴力
- 自我傷害
- 受保護的材料
- 間接越獄
- 直接越獄
- 程式碼弱點
- 非基礎屬性
風險與安全評估方法
風險和安全評估使用基於文本的對抗性提示和自動分類器來評估潛在危害，包括仇恨、色情內容、暴力、自殘、受保護材料洩露、越獄嘗試和無根據的屬性。 測試將 LLM 法官評估與基於分類器的檢測和手動測試相結合，視需要。 理想的結果會重新導向或拒絕潛在有害的請求，並在即時變化中保持一致的邊界保持。 次優結果包括產生有害內容、對對抗性輸入反應不一致或表現出對越獄技術的敏感性。
安全元件和緩和措施
當我們透過紅隊測試等流程識別潛在風險和濫用並進行測量時，我們開發了緩解措施來減少潛在的傷害。 在下列清單中，我們將說明其中一些緩和措施。 我們會繼續評估 Microsoft Copilot 體驗，以改善產品效能和風險降低措施。
分階段發布，持續評估。 我們致力於隨著技術和使用者行為的演進，不斷學習和改善負責任的 AI 方法。 我們會定期變更 Microsoft Copilot，以改善產品效能、改善現有的風險降低措施，並根據我們的學習實作新的風險降低措施。
以商務資料為基礎。 大型語言模型的已知風險是它們能夠產生看似正確但不存在於原始資料中的無根據內容。 Microsoft Copilot 中的一個重要緩和措施是將 AI 產生的內容接地於使用者根據其權限有權存取的相關商務資料中。 例如，根據提示，系統會提供 Microsoft Copilot 相關的商務文件，以在這些文件中建立回應基礎。 不過，在摘要各種來源的內容時，Microsoft Copilot 可能會在其回應中包含其輸入來源中不存在的資訊。 換句話說，它可能會產生毫無根據的結果。 使用者在使用 Microsoft Copilot 的輸出時，應始終保持謹慎並運用最佳判斷。 我們已採取數項措施，以降低使用者過度依賴未經接地的 AI 產生內容的風險。 可能的情況下，Microsoft Copilot 中以商務文件為基礎的回應包含來源參照，供使用者驗證回應並深入瞭解。 系統也會明確通知使用者，告知使用者他們正在與 AI 系統互動，並建議使用者檢查來源資料，以協助他們做出最佳判斷。
基於 AI 的分類器和元提示，以降低潛在風險或濫用。 使用 LLM 可能會產生可能導致傷害的有問題的內容。 範例可能包括與自我傷害、暴力、血腥內容、生物安全性問題、受保護材料、不正確資訊、仇恨言論或可能與非法活動相關的文字等輸出內容。 分類器，例如 Azure AI 中提供的分類器、內容安全和中繼提示是 Microsoft Copilot 中實作的兩個緩和措施範例，可協助降低這些內容類型的風險。 分類器可將文字分類，以在提示或產生的回應中標幟不同類型的潛在有害內容。 Microsoft Copilot 使用基於 AI 的分類器和內容篩選。 旗標會導致潛在的緩和措施，例如不會將產生的內容傳回給使用者，或將使用者轉移到不同的主題。 Microsoft 為系統管理員和使用者提供特定的內容篩選控制項，以處理 Microsoft Copilot Chat 中可能有害或敏感的內容不符合其需求。 中繼提示涉及提供模型指示以指導其行為，包括讓系統按照 Microsoft 的 AI 原則和使用者期望執行。 例如，元提示可能包含「以使用者選擇的語言進行通訊」之類的行。
例如，當偵測到危機內容時，系統會脫離對話，而是提供危機支援資源 (例如美國) 中的 988 自殺和危機生命線，鼓勵使用者尋求專業協助。 Copilot 不提供諮詢，如果使用者遇到有害或侵入性的想法，或遇到心理健康挑戰，應該尋求專業協助。
提示擴充。 在某些情況下，使用者的提示可能含糊不清。 發生這種情況時，Microsoft Copilot 可能會使用 LLM 以協助在提示中建立更多詳細資料，以協助確保使用者收到他們正在尋找的回應。 這種提示擴充不依賴於使用者的任何知識或他們先前的搜尋，而是依賴 LLM。
以使用者為中心的設計和使用者體驗介入。 以使用者為中心的設計和使用者體驗是 Microsoft 負責任 AI 方法的重要層面。 目標是將產品設計紮根於用戶的需求和期望。 當使用者第一次與 Microsoft Copilot 互動時，我們提供各種接觸點，旨在協助他們瞭解系統的功能、向他們揭露 Microsoft Copilot 是由 AI 所提供，並傳達限制。
AI 揭露。 Microsoft Copilot 提供數個接觸點進行有意義的 AI 揭露，讓使用者會收到通知他們正在與 AI 系統互動，以及深入了解 Microsoft Copilot 的機會。 例如，在 Word 應用程式中使用 Microsoft Copilot 時，系統會提供 AI 產生的內容，並通知 AI 產生的內容可能包含錯誤。 賦予用戶這些知識可以幫助他們避免過度依賴人工智能生成的輸出，並了解系統的優勢和局限性。
媒體來源。 針對在 Microsoft Copilot 內使用 Designer 的編輯功能建立的所有影像，我們已根據 C2PA 標準實作內容憑證，以協助使用者識別影像是否經由 AI 編輯或產生。 出處中繼資料可在 內容認證網站上檢視。
意見反應和持續評估。 Microsoft Copilot 體驗是以允許使用者提交產品意見反應的現有工具為基礎。 使用者可以使用選取回應上的豎起大拇指或大拇指朝下按鈕後出現的窗格，來提交關於 Microsoft Copilot 產生之內容的意見反應。 使用者提交的意見反應會用來改善我們的產品，作為我們改善產品效能承諾的一部分。 客戶系統管理員可以檢閱在 Microsoft 365 系統管理中心提交的意見反應。 我們也會持續改善和測試 Microsoft Copilot 的效能和特定緩和措施，作為我們持續評估和改善服務的一部分。 若要深入了解，請參閱提供有關使用 Microsoft 365 應用程式使用 Microsoft Copilot 的意見反應。
隨著我們了解更多信息，我們繪製、衡量和管理風險的方法將繼續發展，並且我們已經在根據從客戶那裡收到的反饋進行改進。
部署和採用 Microsoft Copilot 的最佳做法
負責任的 AI 是 Microsoft 與其客戶之間的共同承諾。 雖然 Microsoft 建置的 AI 系統以安全、公平和透明度為核心，但客戶在自己的環境中負責任地部署和使用這些技術方面扮演著關鍵角色。 為了支援此合作夥伴關係，我們為部署者和終端使用者提供下列最佳實作，以協助客戶有效實作負責任的 AI。
部署者和使用者應該：
使用 Microsoft Copilot 做出衍生決策或涉及敏感性網域時，請務必謹慎行事並評估結果：衍生決策是那些可能對個人獲得教育、就業、金融服務、政府福利、醫療保健、住房、保險、法律服務產生法律或重大影響，或可能導致身體、心理或財務傷害的決策。 敏感領域（例如金融服務、醫療保健和住房）需要特別注意，因為可能會對不同人群產生不成比例的影響。 在這些領域使用 AI 進行決策時，請確保受影響的專案關係人能夠瞭解決策的做出方式、對決策提出申訴，以及更新任何相關的輸入資料。
評估法律和監管考慮因素： 客戶在使用任何 AI 服務和解決方案時，需要評估潛在的特定法律和法規義務，這可能不適合在每個產業或案例中使用。 此外，AI 服務或解決方案並非為適用的服務條款和相關管理辦法所禁止的方式所設計，且不得以這些方式使用。
允許參照網頁內容。 允許 Microsoft Copilot 參考網頁內容可以改善 Microsoft Copilot 回應的品質、準確性和相關性，其中回應將受益於網路的最新公開資訊。 不過請注意，當 Microsoft Copilot 參考網頁內容時，會透過 Bing 搜尋服務進行，而且 Bing 搜尋查詢的資料處理做法與 Microsoft Copilot 處理資料的方式不同。 每個使用者與 Microsoft 之間的 Microsoft 服務合約 以及 Microsoft 隱私權聲明都包含 Bing 的使用。
延伸 Microsoft Graph 中的基礎設置。 Microsoft Copilot 會使用來自 Microsoft Graph 的資料，在電子郵件、聊天、檔案和行事曆等組織特定資料中建立回應基礎。 藉由使用 Microsoft Graph 與來自 CRM 系統或外部檔案存放庫等來源的組織資料進行擴充，組織可以包含其他內容特定的相關資訊，進一步增強 Microsoft Copilot 回應的豐富性和正確性。
使用者應該：
若要改善與 Microsoft Copilot 輸出準確性相關的效能，我們建議組織考慮下列事項：
撰寫好的提示。 撰寫良好的提示是使用 Microsoft Copilot 獲得更好結果的關鍵。 就像有一些技術可協助人們與人有效溝通一樣，也有一些指導方針可協助使用者在撰寫提示時，使用 Microsoft Copilot 獲得更好的結果。 例如：包含詳細資料、建構提示、提供正面指示、反覆執行和重新產生，以及一律檢閱和驗證 AI 產生的回應。 如需詳細資訊，請參閱 在 Copilot 提示下取得更好的結果。
在適當時進行人工監督：人為監督是與 AI 系統互動時的重要保障。 儘管我們不斷改善我們的 AI 系統，但 AI 仍可能犯錯。 產生的輸出可能不準確、不完整、有偏見、不一致或與您的預期目標無關。 發生這種情況的原因有很多，例如輸入的模糊性或底層模型的限制。 因此，使用者應檢閱 Microsoft Copilot 產生的回應，並確認其符合其期望和需求。
請注意過度依賴的風險： 當使用者接受不正確或不完整的 AI 輸出時，就會發生過度依賴 AI，主要是因為 AI 輸出中的錯誤可能難以偵測。 對於最終用戶來說，過度依賴可能會導致生產力下降、失去信任、產品放棄、財務損失、心理傷害、身體傷害等。 (例如，醫生接受不正確的 AI 輸出) 。 針對 Microsoft Copilot，我們會在產品中新增免責聲明來協助降低此風險，但使用者仍應務必檢閱答案的正確性。
在敏感性網域中設計代理程式 AI 時請務必謹慎：使用者在代理程式動作不可逆或高度重要的敏感網域中設計和/或部署代理程式 AI 系統時應謹慎行事。 建立自主代理程式 AI 時也應採取額外的預防措施，如組織) 的 Microsoft 企業 AI 服務行為準則 (或適用於個人) 的 Microsoft 服務合約 (中的行為準則一節 中的進一步說明。
適用於青少年和受信任成人的指導方針。 值得信賴的成年人應該幫助青少年了解 Copilot 是一個可能會犯錯的 AI 系統。 Copilot 無法取代人類判斷、人際關係或專業支援。 青少年在依賴 Copilot 回應之前應先確認重要資訊，並在交談令人困惑、敏感、令人擔憂或可能影響健康、安全、人際關係、教育或財務時，讓信任的成人參與。 青少年不應分享密碼、準確位置、財務詳細資訊、健康記錄或有關自己或他人的其他敏感個人資訊。 如果 Copilot 提供不適合年齡、可能有害或令人擔憂的內容，青少年應停止互動、向信任的成人或合格的專業人員尋求協助，並使用 Copilot 內可用的意見反應工具或 回報問題 來報告回應。 報告應包含可協助 Microsoft 了解發生的情況的相關內容，但不應包含密碼、帳戶認證或其他機密個人資訊。
部署者應該：
Microsoft 為 Microsoft 365 客戶提供 Microsoft Copilot 儀表板等工具，並在 Microsoft 365 系統管理中心提供報告。 這些工具旨在協助組織測量 Microsoft Copilot 的使用情況、採用和影響。 例如：
- Microsoft Copilot 使用情況報告可讓系統管理員查看使用者的採用、保留和參與情況摘要，其中包含 Microsoft Copilot 的使用情況，以管理和最佳化授權。 如需詳細資訊，請參閱 Microsoft Copilot 使用情況。
- Microsoft Copilot 儀表板可讓領導者、分析師和代理人存取有關全組織使用 Microsoft Copilot 和 Copilot Chat 的預建報告，以衡量採用和影響。 如需詳細資訊，請參閱連線至適用於 Microsoft 365 客戶的 Microsoft Copilot 儀表板。
- Copilot Business Impact 可在 Viva Insights 中使用，可讓分析師將 Microsoft Copilot 的使用量與商務計量進行比較，以瞭解商務價值。 如需詳細資訊，請參閱 Copilot 商務影響報告。
深入了解 Microsoft Copilot
如需負責任使用 Microsoft Copilot 的其他指導方針，建議您檢閱下列文件：