僅適用於:
Standard harness
標準的 harness 會將上下文分配到處理請求的各個元件。 每個元件都從自己的上下文運作,且 harness 不會自動在頂層調和上下文。 這種分離提供了彈性,但若獨立元件未明確回傳資訊,可能導致訊息重複或漏答。
本文說明為什麼上下文是分散式的,Microsoft Copilot 的整合器有何不同,上下文如何在代理協調層與元件之間移動,以及每個元件能看到和回傳什麼。 利用這些資訊來識別情境缺口,並設計有意識管理情境的代理人。
下圖說明了在標準框架中,編排層、個別元件與使用者之間的上下文與通訊流程。
Note
Copilot Studio 內建的裝置由線束驅動,所選模型提供推理與生成。 協調層是一個存在於兩者之間的執行環境:它決定何時呼叫模型、要將哪些元件傳送給模型、解讀返回的結果,並呼叫正確的工具。 了解更多關於 Copilot Studio 架構的資訊,包括如何在 Access 標準代理與代理流程中存取標準功能。
為什麼標準線束會分配上下文
標準安全帶設計為靈活性:
- 它協調任務並支援交易性使用案例。
- 它透過變數、觸發器和專門功能,平衡確定性控制與人工智慧。
- 它將控制權分配到主題、知識、子代理、連通代理和工具等元件之間。
- 它支援多種認證、通道及整合選項。
將工作分散到獨立元件之間雖然有彈性,但也可能在情境中產生空隙:
- 代理編排層會在特定元件呼叫時交接控制權。
- 當元件執行時,編排層無法看到元件發送給使用者的訊息。
- 編排層無法在頂層調和上下文。
若設計無法處理代理的情境,會出現缺口,請求可能未被回應。 這些空白可能導致重複或漏答。
Microsoft Copilot 協調框架有何不同
Microsoft Copilot 架構的協調層透過作為唯一與使用者溝通的一方,避免了上下文不匹配。 它絕不讓已連接的客服人員接管通訊:
- 推理與溝通循環不需要刻意的情境管理。
- 連接的客服訊息在每個環節都會經過母方的 AI 層。
Microsoft Copilot 協調架構的編排層對上下文大小的處理方式也不同,這使其上下文比標準協調架構大好幾個數量級:
- 它能直接存取模型上下文。
- 它可採用壓縮整理。
- 它可以將資料和檔案寫入其 Bash 沙盒容器。
上下文如何傳遞給元件,再返回編排層
要在標準架構中有效管理上下文,請同時考慮編排層傳遞給元件的內容,以及元件回傳的內容。
情境傳遞給元件的方式有兩種:
明確輸入與請求:編排層會從每個元件的主動上下文中填入其輸入,並依設計傳遞請求。
隱含對話上下文:編排層也會將較長的對話上下文傳遞給知識等元件及子代理,且未明確設定。 請注意,子代理總是接收父對話的上下文。 連通代理人有一個包含或排除該功能的設定。 工具或流程只接收其輸入。
元件以兩種方式將資訊回傳至協調層:
- 明確的輸出與回應,依設計。
- 來自某些元件的隱式脈絡。
元件只顯示給使用者,或只保留在自身變數中的內容,可能永遠無法傳到編排層,除非它透過這兩個通道中的其中一個回傳。
隱式傳遞資訊會導致約半數案例出現重複回答或遺漏回答,因為元件可能會對一個從未被明確傳遞給它的請求採取動作。
各組成部分的情境差異
使用者可見的對話和編排層的上下文有重疊,但它們並不相同。 下列原則適用於從元件呼叫傳入編排層上下文的內容:
元件自行保留的內容會維持隱藏。 子代理中的主題變數與多回合對話存在於元件內。 編排層只有在這些資料以輸出形式回傳時才會看到它們。
只有兩種資訊會回傳。 編排層接收元件設計的明確輸出及隱含上下文。 一個能運作但什麼都回不來的元件,可能會讓編排層不知道發生了什麼事。
每個組件都有其獨特的背景或觀點。 編排層會利用其主動上下文來選擇步驟並產生輸入。 連接代理擁有自己的編排層、指令,以及內部工具與知識呼叫。
請參考下表提出一個精確的問題: 哪個組件在其主動語境中具有特定事實?
| 觀點 | 在其主動語境中 | 可以寫入聊天視窗 | 可以作為上下文回傳 |
|---|---|---|---|
| 協調流程層 | 使用者請求、對話上下文、元件描述、輸入描述、輸出描述、計畫狀態、隱含回應( 但不包括 隱含資訊是否已顯示給使用者) | Yes. 它有自己的問題與回答。 | 它有自己的問題、答案、推理和計畫。 |
| Topic | 主題變數、目前節點狀態 | Yes. 透過訊息節點、問題節點以及用自適應卡提問。 | 主題輸出與隱含訊息交換仍可能導致重複。 |
| 工具或流程 | 由協調層產生的輸入 | No. | 工具或流程輸出。 |
| 知識步驟 | 使用者請求加上其代理目前作用中的上下文 | No. 它會寫入自己的代理程式,而不是聊天窗格。 | 答案是。 |
| 生成式答案節點(主題內) | 在其輸入中傳送的內容,加上其代理程式的上下文 | Yes. 直接,或傳送至主題變數。 | 未明確說明,但可能可重複。 |
| 子代理程式(子層級或相連的代理程式) | 其初始請求、父層提供的輸入,以及任何納入的父層脈絡,都位於其自身編排層的脈絡中 | 是的,如果經過設定,或被指示直接回應。 | 回應及其產生的輸出。 |
Important
主題:主題回傳的隱含上下文僅包含純文字資訊,但不包括使用者是否看到該資訊。 純文字資訊可以來自訊息節點、問題節點、自適應卡片內容,以及使用者打字回覆。 然而,Adaptive Card 的動作按鈕,以及使用者與這些按鈕的互動,都不會傳遞到標準 harness 上下文。 自適應卡片處理造成大多數上下文不匹配。 不要只靠卡牌內容當作背景。 而是將後續步驟所需的任何資訊作為主題輸出回傳,並設定已回答狀態輸出。 如需詳細資訊,請參閱 將主題設計為可避免重複訊息的迷你代理程式。
子代理:當父上下文傳遞給連接的代理時,可能會影響代理所發出的每一個工具、主題與知識呼叫。 如果所附上下文中仍包含看似尚未獲得回應的請求,已連線的客服人員可能會嘗試補上該回覆,並再次作答。 兒童代理人的風險相同,但控制力較少。 它在父層內執行,且一律會取得父層的對話脈絡,沒有可將其排除在外的設定。 如需詳細資訊,請參閱設計可避免重複訊息的子代理。
下一步
基於此情境模型,本系列下一篇文章將說明為何此模型會導致重複訊息,並建議設計模式以防重疊。