標準線束中的上下文分布

僅適用於:Standard harness

標準的 harness 會將上下文分配到處理請求的各個元件。 每個元件都從自己的上下文運作,且 harness 不會自動在頂層調和上下文。 這種分離提供了彈性,但若獨立元件未明確回傳資訊,可能導致訊息重複或漏答。

本文說明為什麼上下文是分散式的,Microsoft Copilot 的整合器有何不同,上下文如何在代理協調層與元件之間移動,以及每個元件能看到和回傳什麼。 利用這些資訊來識別情境缺口,並設計有意識管理情境的代理人。

下圖說明了在標準框架中,編排層、個別元件與使用者之間的上下文與通訊流程。

圖示顯示標準線束代理中編排層、每個元件與使用者之間傳遞的上下文與通訊。

Note

Copilot Studio 內建的裝置由線束驅動,所選模型提供推理與生成。 協調層是一個存在於兩者之間的執行環境:它決定何時呼叫模型、要將哪些元件傳送給模型、解讀返回的結果,並呼叫正確的工具。 了解更多關於 Copilot Studio 架構的資訊,包括如何在 Access 標準代理與代理流程中存取標準功能。

為什麼標準線束會分配上下文

標準安全帶設計為靈活性:

  • 它協調任務並支援交易性使用案例。
  • 它透過變數、觸發器和專門功能,平衡確定性控制與人工智慧。
  • 它將控制權分配到主題、知識、子代理、連通代理和工具等元件之間。
  • 它支援多種認證、通道及整合選項。

將工作分散到獨立元件之間雖然有彈性,但也可能在情境中產生空隙:

  • 代理編排層會在特定元件呼叫時交接控制權。
  • 當元件執行時,編排層無法看到元件發送給使用者的訊息。
  • 編排層無法在頂層調和上下文。

若設計無法處理代理的情境,會出現缺口,請求可能未被回應。 這些空白可能導致重複或漏答。

Microsoft Copilot 協調框架有何不同

Microsoft Copilot 架構的協調層透過作為唯一與使用者溝通的一方,避免了上下文不匹配。 它絕不讓已連接的客服人員接管通訊:

  • 推理與溝通循環不需要刻意的情境管理。
  • 連接的客服訊息在每個環節都會經過母方的 AI 層。

Microsoft Copilot 協調架構的編排層對上下文大小的處理方式也不同,這使其上下文比標準協調架構大好幾個數量級:

  • 它能直接存取模型上下文。
  • 它可採用壓縮整理。
  • 它可以將資料和檔案寫入其 Bash 沙盒容器。

上下文如何傳遞給元件,再返回編排層

要在標準架構中有效管理上下文,請同時考慮編排層傳遞給元件的內容,以及元件回傳的內容。

情境傳遞給元件的方式有兩種:

  • 明確輸入與請求:編排層會從每個元件的主動上下文中填入其輸入,並依設計傳遞請求。

  • 隱含對話上下文:編排層也會將較長的對話上下文傳遞給知識等元件及子代理,且未明確設定。 請注意,子代理總是接收父對話的上下文。 連通代理人有一個包含或排除該功能的設定。 工具或流程只接收其輸入。

元件以兩種方式將資訊回傳至協調層:

  • 明確的輸出與回應,依設計。
  • 來自某些元件的隱式脈絡。

元件只顯示給使用者,或只保留在自身變數中的內容,可能永遠無法傳到編排層,除非它透過這兩個通道中的其中一個回傳。

隱式傳遞資訊會導致約半數案例出現重複回答或遺漏回答,因為元件可能會對一個從未被明確傳遞給它的請求採取動作。

各組成部分的情境差異

使用者可見的對話和編排層的上下文有重疊,但它們並不相同。 下列原則適用於從元件呼叫傳入編排層上下文的內容:

  • 元件自行保留的內容會維持隱藏。 子代理中的主題變數與多回合對話存在於元件內。 編排層只有在這些資料以輸出形式回傳時才會看到它們。

  • 只有兩種資訊會回傳。 編排層接收元件設計的明確輸出及隱含上下文。 一個能運作但什麼都回不來的元件,可能會讓編排層不知道發生了什麼事。

每個組件都有其獨特的背景或觀點。 編排層會利用其主動上下文來選擇步驟並產生輸入。 連接代理擁有自己的編排層、指令,以及內部工具與知識呼叫。

請參考下表提出一個精確的問題: 哪個組件在其主動語境中具有特定事實?

觀點 在其主動語境中 可以寫入聊天視窗 可以作為上下文回傳
協調流程層 使用者請求、對話上下文、元件描述、輸入描述、輸出描述、計畫狀態、隱含回應( 但不包括 隱含資訊是否已顯示給使用者) Yes. 它有自己的問題與回答。 它有自己的問題、答案、推理和計畫。
Topic 主題變數、目前節點狀態 Yes. 透過訊息節點、問題節點以及用自適應卡提問。 主題輸出與隱含訊息交換仍可能導致重複。
工具或流程 由協調層產生的輸入 No. 工具或流程輸出。
知識步驟 使用者請求加上其代理目前作用中的上下文 No. 它會寫入自己的代理程式,而不是聊天窗格。 答案是。
生成式答案節點(主題內) 在其輸入中傳送的內容,加上其代理程式的上下文 Yes. 直接,或傳送至主題變數。 未明確說明,但可能可重複。
子代理程式(子層級或相連的代理程式) 其初始請求、父層提供的輸入,以及任何納入的父層脈絡,都位於其自身編排層的脈絡中 是的,如果經過設定,或被指示直接回應。 回應及其產生的輸出。

Important

主題:主題回傳的隱含上下文僅包含純文字資訊,但不包括使用者是否看到該資訊。 純文字資訊可以來自訊息節點、問題節點、自適應卡片內容,以及使用者打字回覆。 然而,Adaptive Card 的動作按鈕,以及使用者與這些按鈕的互動,都不會傳遞到標準 harness 上下文。 自適應卡片處理造成大多數上下文不匹配。 不要只靠卡牌內容當作背景。 而是將後續步驟所需的任何資訊作為主題輸出回傳,並設定已回答狀態輸出。 如需詳細資訊,請參閱 將主題設計為可避免重複訊息的迷你代理程式。

子代理:當父上下文傳遞給連接的代理時,可能會影響代理所發出的每一個工具、主題與知識呼叫。 如果所附上下文中仍包含看似尚未獲得回應的請求,已連線的客服人員可能會嘗試補上該回覆,並再次作答。 兒童代理人的風險相同,但控制力較少。 它在父層內執行,且一律會取得父層的對話脈絡,沒有可將其排除在外的設定。 如需詳細資訊,請參閱設計可避免重複訊息的子代理。

下一步

基於此情境模型,本系列下一篇文章將說明為何此模型會導致重複訊息,並建議設計模式以防重疊。