這些常見問題集 (FAQ) 說明 Copilot Studio 中生成式回應功能對 AI 的影響。
什麼是生成式回應？
生成式回應讓 Agent 一開始就能產生價值，並增加 Agent 可進行交談的主題數量，無需手動製作任何對話樹狀結構。
生成式回應的功能是什麼？
當使用者向 Agent 詢問未觸發設定主題的問題時，Agent 可以選擇從您選擇的來源搜尋相關內容。 此搜尋包含公開網站、SharePoint 或您自己的自訂資料來源，包括上傳檔案中的非文字元素，例如影像、資料表資料和圖表。 Agent 使用生成式 AI 將該資訊匯總為傳回給 Agent 使用者的回應。
生成式回應的預期用途為何?
Agent 可以將生成式回應做為主要資訊來源,或在已撰寫的主題無法回答使用者查詢時做為備援。
如何評估生成式回應，以及使用哪些計量來衡量效能？
此功能會在一系列手動管理的問答資料集上持續進行評估，內容涵蓋多個產業。 評估程序也包含用於攻擊性與惡意提示及回應的自訂資料集。 系統會使用自動化與專屬人工工作階段,擴充測試套件。
生成式回應有哪些限制？
您必須為每個 Agent 啟用生成式回應選項。
有關此功能及其各自階段支援的語言清單，請參閱語言支援。 您也授權以使用其他語言，但產生的答案可能不一致，且 Agent 可能無法正確回應或無法按照您的預期做出回應。
此功能可能會受到使用限制或容量限制。
由生成式回應功能產生的回覆並不一定完美，可能包含錯誤。
此系統的設計目的是要從您選擇的網站查詢知識，並將相關的發現整理成一個容易使用的回覆。 但是，重要的是要記住 AI 的一些特性，這些特徵可能會導致意外的回應：
語言模型提供的答案並非確定性結果。 即使在新的交談中,重複詢問語意 (近乎) 相同的問題,也可能得到不同的答案。 問答程序會納入先前的交談內容,因此在同一個交談工作階段中重複相同查詢,幾乎必定會得到不同的答案。 這項行為表示,在回歸測試或自動化健康情況檢查中重複固定查詢,可能會導致答案不一致,並產生誤判的錯誤報告。
Copilot Studio 可讓您為生成式回應選取不同的模型做為主要回應模型。 請留意您所選模型中所含資料的截止日期。
有一些緩解措施可以防止模型使用其訓練語料庫作為答案來源，但是答案可能包含來自您選擇的網站以外的網站的內容。系統不執行準確性檢查，因此如果選定的資料來源包含不準確的訊息，則可能會顯示給您的 Agent 的使用者。 我們實施了緩解措施來篩選掉不相關和攻擊性的回應，並且該功能旨在當偵測到攻擊性語言時不做出回應。 這些篩選器和緩解措施並非萬無一失。
注意
您應該始終在發佈 Agent 之前對其進行測試和審查，並考慮收集 Agent 使用者的意見反應。 您的管理員可以在 Power Platform 系統管理中心為您的租用戶關閉發佈提供生成式回應之 Agent 的功能。
功能會收集哪些資料? 資料是如何使用的？
如果客戶明確同意記錄他們與您的 Agent 的交談，則該功能將收集使用者提示、系統返回的回應以及您提供的任何意見反應。
我們將使用此資料來評估和改善功能的品質。
為了有效並負責任地使用生成式回應，應顧及哪些操作因素和設定？
若您指定可信任且有效的來源來查詢內容,生成式回應的效果最佳。 此來源可能是您公司的網站,例如 www.microsoft.com。 系統會搜尋屬於此網域的所有網頁,以比對使用者的問題。
我們將根據您對產生的回應的滿意度提供的意見反應來改善系統品質。 您可以透過對產生的回應選擇「按讚」或「倒讚」圖示來提供意見反應。 您也可以在自由文字中加入更多意見反應。
Copilot Studio 為負責任 AI 提供了哪些保護措施？
生成式回應包括各種保護措施，以確保管理員、製作者和使用者享受安全、合規的體驗。 管理員可以完全控制其租用戶中的功能，並且可以隨時關閉在組織中發佈具有生成式回應的 Agent 的功能。 製作者可以新增自訂指令來影響其 Agent 返回的回應類型。 有關編寫自訂說明的最佳做法的更多資訊，請參閱使用提示修改向您的 Agent 提供自訂說明。
製作者也可以限制 Agent 用來回答問題的知識來源。 若要讓 Agent 回答超出其已設定知識來源範圍的問題,製作者可以開啟允許不根據來源的回應功能。 若要將 Agent 限制為僅回答其已設定知識來源範圍內的問題,製作者應關閉此功能。
Copilot Studio 還會對所有生成式 AI 要求套用內容審核原則，以保護管理員、製作者和使用者，使其免受攻擊性或有害內容的侵害。 這些內容審核原則也擴展到惡意越獄、快速注入、快速洩漏和侵犯版權的行為。 所有內容都會被檢查兩次：第一次是在使用者輸入時，第二次是在 Agent 即將回應時。 如果系統發現有害、攻擊性或惡意的內容，它會阻止您的 Agent 回應。
最後,最佳做法是讓使用者知道該 Agent 會使用人工智慧,因此下列預設訊息會告知使用者:「提醒您,我有時會使用 AI 來回答您的問題。」