AI 核准常見問題集

這些常見問題集說明 Microsoft Copilot Studio 中 AI 驅動的核准階段(AI 核准)的功能、使用方式及保護措施。 AI 核准可讓Agent流程根據預先定義的準則自動核准或拒絕要求,同時確保重要決策仍由人員掌控。 以下是此功能的一些常見問題與解答。

什麼是 AI 核准?

AI 核准是核准工作流程中的智慧型自動化決策步驟。 AI 核准會使用 AI(Azure OpenAI 模型或您可從 Azure AI Foundry 帶入的模型),根據您的商務規則評估核准要求,並傳回「已核准」或「已拒絕」決策及理由。

AI 核准有哪些功能?

與基本規則式自動化不同,AI 核准可以解讀非結構化資料和複雜文件(例如附加至要求的 PDF 或影像),並套用細緻的邏輯來做出決策。 例如,AI 核准可以閱讀書面理由、檢查原則關鍵字,然後做出決定。

AI 核准階段也可以與人工階段結合,因此在 AI 處理例行決策時,人員仍會監督並完成任何重大或例外案例的最終決定。 總結來說,AI 核准會自動化流程中重複的是/否決策,加快工作流程,而不會移除關鍵處的人員監督。

AI 核准的預期用途是什麼?

AI 核准專為具有明確準則的常見商務情境而設計,透過自動化例行決策來簡化日常工作流程。 典型使用案例包括:

費用報銷核准: 自動核准低於特定金額且具有有效收據的請款,讓主管只需專注於例外情況。

採購訂單 (PO) 核准: 根據預算限制和廠商清單評估要求,並自動核准符合原則的標準 PO。

差旅申請核准: 自動核准符合規範的差旅申請,同時拒絕違反原則的要求。

廠商上線: 根據預先定義的準則檢查資格和合規性需求,以接受或拒絕申請。

發票處理核准: 透過比對發票金額與採購訂單,並確認所需文件齊全,以驗證發票。

文件審查核准: 確認合約或原則包含必要元素並符合格式標準,然後再進入後續步驟。

休假申請核准: 當員工具有足夠的假期餘額且沒有排程衝突時,核准休假申請。

AI 核准專為例行且定義明確的決策而設計。 然而,在某些情境下,系統可能無法可靠或負責任地執行。 我們鼓勵客戶在創新解決方案或應用程式中使用 AI 核准,但在選擇使用案例時,請考慮下列原則:

  • 高風險或足以改變人生的決策: 本系統並非設計用來處理會影響健康、安全、財務或法律狀態的決策。 範例包括保險理賠、醫療授權、貸款核准或移民裁定,這些都需要人員判斷與課責。

  • 法律或紀律事項: 涉及法律責任、合規性解釋或員工紀律處分的使用案例,可能超出系統的預期範圍。 雖然 AI 可以摘要輸入內容,但這些領域的最終決策應由人員做出。

  • 主觀或模糊的準則: 系統在處理仰賴品味、裁量或複雜權衡的決策時可能會遇到困難,例如評估創意作品或品質,因為這些標準不容易編纂成明確規則。

  • 敏感或倫理上複雜的情境: AI 核准並非設計用於涉及個人屬性、潛在歧視或產生受限內容的決策。 這些用途會引發負責任 AI 疑慮,並可能需要額外的保護措施。

  • 受監管產業和合規性敏感工作流程: 在醫療保健、金融或航空等領域,即使是例行決策,法規要求也可能需要人員監督。 本系統並未針對這些情境進行合規性評估。

  • 可預見但非預期的用途: 隨著採用率提升,使用者可能會嘗試將 AI 核准套用至績效審查、聘用決策或客戶資格評估等領域。 這些用途未納入系統設計或影響評估,若未妥善受控,可能會帶來風險。

重要

法律與法規考量 組織在使用任何 AI 服務與解決方案時,需評估潛在的具體法律與監管義務。 服務與解決方案可能不適用於所有產業或案例。 限制可能會因地區或地方的法規規定而有所不同。 此外,AI 服務或解決方案既不是為適用服務條款及相關行為準則中禁止的用途所設計,也不得用於這些用途。

AI 核准有哪些技術限制?使用者如何將這些限制的影響降至最低?

雖然 AI 核准是一項強大的功能,我們仍敦促使用者注意其限制:

AI 核准仰賴提供的規則: AI 會嚴格遵循您的指示和資料。 如果您的提示不夠明確或不完整,AI 核准可能會做出錯誤決策或失敗。 請明確定義審核準則;若僅以「符合合理即可核准」而未明確說明「合理」的定義,將可能導致誤解。

錯誤的可能性:AI 核准可能會因為模棱兩可的輸入、複雜的邊緣案例或誤讀掃描不清的文件而發生錯誤。 結果並非永遠百分之百準確,因此對於邊緣案例,監督至關重要。

缺乏人類直覺: AI 核准無法理解所提供資訊以外的背景,也無法提出澄清問題或運用直覺。 AI 核准可能會忽略人類所能捕捉到的細微差別,例如發現「對那次出差來說似乎過高」的可疑費用。

無法從經驗中學習: AI 核准不會從每次核准中自行調整;除非您更新提示,否則不會改變行為。 現有規則未涵蓋的新案例需要隨著政策演變持續維護。

資料品質相依性: AI 核准決策的品質取決於輸入資料的品質。 品質不佳的檔案、不完整的文件或無法辨識的掃描檔可能導致錯誤決策或系統失敗。

整合與效能限制: 複雜的核准準則,或需要多個系統提供即時資料的決策,可能會降低準確度並增加處理時間。

需負責任的設定:使用者必須以倫理方式配置 AI 核准,並具備適當的人為安全機制及無偏見規則。 永遠確保指示符合公司原則及倫理指引。

無法存取即時資訊: AI 核准只能使用明確提供作為輸入的資料。 除非將相關資訊輸入核准程序,AI 核准無法查詢或存取時事、新聞或事件。

為了降低風險並提升使用 AI 核准的可靠性:

  • 納入人力監督:將關鍵或模糊案件導向人工審查階段,以確保問責與判斷力。

  • 透過多樣化範例進行測試:利用歷史資料與邊緣案例驗證系統行為,部署前進行確認。

  • 定期優化提示:隨著原則演變或新案例出現,請更新指示,以維持相關性與準確性。

  • 避免模糊標準:確保提示明確且具體,避免在無明確上下文的情況下使用「合理」等詞彙。

  • 監視決策:使用像提示產生器活動這樣的工具來追蹤核准率,並識別模式或錯誤。

  • 訓練使用者:教導員工解讀 AI 推理邏輯和覆寫程序,以建立信任和透明度。

請記住:AI 能自信地執行錯誤指令,因此明確且正確的指引至關重要。

哪些作業因素和設定可讓您有效且負責任地使用Agent核准體驗?

若要有效且安全地使用 AI 核准,請考慮下列作業最佳做法:

  • 設定低溫度以保持一致性: 使用低溫度設定(接近 0),確保 AI 做出確定且可預測的決策,而不是對相同輸入產生不同回應。 預設的 Copilot Studio 設定已經針對可靠性進行最佳化。

  • 選擇合適的模型:GPT-4.1 通常適用於大多數核准案例。 進階推理模型(如 O3)在處理複雜邏輯時表現可能更佳,但運算速度較慢。 Microsoft 提供的模型已預先整合並測試過,但若有特定需求或自訂需求,也可自備 Azure AI Foundry 的微調模型。

  • 實作人工監督: 設定人工或手動階段,以便將關鍵決策路由至這些階段。 人工和手動階段可確保由人員全程掌控。

  • 在沙盒環境中全面測試:在上線前,透過歷史資料、範例請求執行大量測試。 刻意測試邊緣案例——遺漏欄位、規則衝突、異常案例。 確認端對端工作流程是否能正確觸發。

  • 監控決策:所有決策都記錄在Power Automate 的提示建構器活動區段。 利用這些資料來追蹤核准率等指標,並評估 AI 核准決策的正確性。

  • 定期更新準則:將 AI 提示視為動態文件。 根據原則變更或新案例出現,及時更新指示。 併入管理者對於 AI 在特定領域過於嚴格或寬鬆的意見反應。

  • 提供透明度與訓練: 訓練相關員工解讀 AI 理由和覆寫程序。 通知終端使用者,請求可能會先由 AI 評估。 明確的期望能避免混淆並建立信任。

透過調整 AI 設定以維持一致性、納入人工監督並主動管理流程,您可以確保 AI 核准保持有效且不偏離正軌。可將其視為合作關係:AI 負責大量快速處理,人員則負責指導和處理例外狀況。

Copilot Studio 為負責任 AI 提供了哪些保護措施?

實施了什麼樣的內容審核?

GPT 模型是根據網際網路資料進行訓練的,這對於建置通用世界模型非常有用。 同時,它可能會繼承同一來源有毒、有害和偏頗的內容。 這些模型經過訓練,會安全運作且不產生有害內容,但有時仍可能產生有毒輸出。 AI核准使用 Azure AI 內容安全 服務在 AI提示中提供最先進的內容審核功能。 此審核包括使用多重嚴重性文字掃描器分析產生的輸出,以及防範提示插入攻擊的安全措施。 還會掃描輸出以尋找受保護材料的逆流情況。

支援哪些語言模型?它們被託管於何處?我可以如何存取它們?

AI 核准支援託管於 Azure OpenAI 服務的 GPT 4.1 mini、GPT 4.o、GPT 4.1 和 o3 模型。 您可以在應用程式、流程和Agent中,透過 Power Platform 中的提示存取這些模型。

若要瞭解詳細資訊,請參閱 Azure OpenAI 服務中的新增功能

我的資料是否用於訓練或改進大型語言模型?

AI 核准會在 Microsoft 託管的 Azure OpenAI 服務上執行。 客戶資料不會用來訓練或改善任何 Azure OpenAI 服務 基礎模型。 Microsoft 不會與第三方共用您的客戶資料,除非您已授予這麼做的權限。 客戶提示(輸入)及其基礎資料,以及模型回覆(輸出),皆不會用於訓練或改進 Azure OpenAI 服務的基礎模型。

如何處理人像影像?

AI 核准並非用於根據臉部特徵或生物特徵資料識別個人。 當您在 AI核准過程中提交含有人像的影像時,系統會在分析影像之前自動套用臉部模糊功能,以保障個人隱私權。 這一模糊步驟可以防止基於臉部特徵的識別,從而有助於解決隱私問題。 模糊處理不涉及臉部辨識或臉部範本比對。 相反,對知名人士的任何識別依賴於關聯式線索,例如制服或獨特的場景,而不是他們的面部特徵。 此隱私權措施不應影響您所獲得結果的品質。 系統回應中可能偶爾會提到臉部模糊。

如需進一步瞭解,請參閱面部模糊。

在提示中使用影像或文件時,可能會有哪些潛在危害?

AI核准可降低使用影像或文件在提示中所涉及的大部分風險,但仍有部分風險需要提示創作者額外注意:

  • 影像或文件可能包含有害的文字或視覺效果,可能會影響您的下游流程。

  • 影像或文件可能包含特殊的、可能隱藏的指令,這些指令可能會損害或覆寫初始提示。

  • 影像或文件可能包含導致產生受智慧財產權 (IP) 保護的內容的指令。

  • 提示可能會對影像或文件產生有偏見的評論。

  • 從低品質的影像或文件中擷取資訊可能會導致幻覺。

在使用 AI 核准時,可能會遇到哪些問題?我該如何處理?

在使用 AI 核准時,您可能會遇到分析失敗(AI 無法自信套用規則)、錯誤核准決策(誤判/誤報)、類似請求結果不一致,或複雜案件處理延遲等問題。 若要有效處理這些挑戰,請確定您的工作流程會將要求路由傳送至人工階段。

在開發與部署過程中實施一致且嚴謹的測試,及早發現潛在失敗點。 使用低溫設定以獲得可預測的結果,並根據觀察到的錯誤持續優化提示。 定期監控與持續改進將協助持續維持系統的可靠性與準確性。