什麼是透明度注意事項？
AI 系統不僅包含技術本身，還包括使用者、受影響者，以及其部署的環境。 建立適合其預期用途的系統，需要了解技術的運作方式、其功能和限制，以及如何達到最佳效能。 Microsoft 透明說明幫助你了解我們的 AI 技術如何運作、系統擁有者能做出影響系統效能與行為的選擇，以及思考整個系統的重要性，包括技術、人員與環境。 在開發或部署自己的系統時，使用透明筆記，或與使用或受系統影響的人分享。
Microsoft 透明度說明是 Microsoft 將 AI 原則付諸實踐的更廣泛努力的一部分。 欲了解更多資訊，請參閱 Microsoft AI 原則。
即時智慧運作代理的基本原理
簡介
Real-Time 情報行動代理是一個平台，用於建立代理，監控資料流、偵測異常或狀況，並根據真實事件建議行動。 這些代理自動化任務、提供洞察，並支持及時決策。 透過配置業務目標、知識來源、行動與指示，代理建立追蹤目標、監控資料並套用規則偵測狀況的計畫。 當出現適當條件時，代理會通知使用者建議採取的行動。
重要詞彙
知識來源：代理人可用來尋找並監控資料的資料庫連線。
工具：內建功能，使代理能執行任務，例如從自然語言產生結構化查詢、執行異常偵測，以及發送 Microsoft Teams 或電子郵件訊息。
線程：代理人與使用者之間的對話會話。 執行緒儲存訊息並自動處理截斷，以使內容適應模型的上下文。
操作手冊：代理對構成其操作手冊的實體、資料、規則及可能行動的內部表徵。
實體：代理人正在監控的企業物件。 例如，在自行車租賃業務中，自行車和停靠站可能是相關的實體。 在機場管理中，報到隊伍、安檢檢查站及乘客都是相關單位。
實例：實體的特定發生，例如
Bike 0451或Flight MS1234。規則：代理人在提出建議前監控的資料狀況或模式。
自主規則：包含相關行動的規則，代理人可在未經人工確認的情況下執行。
能力
系統行為
當你建立營運代理時，你會設定以下設定：業務目標、知識來源、可能的動作和指示。 透過這些輸入，代理利用大型語言模型（LLM）建立一套包含實體、映射資料及監控規則的手本。 你可以透過調整目標和指令來精煉模型。 當你啟用代理時，代理會在背景監控資料。 當條件符合規則時，它會分析資料、找出原因，並建議達成業務目標的行動。
客服人員會透過 Teams 發出自然語言警示通知你，讓你隨時掌握初步建議。 你可以批准、拒絕或讓規則自動生效，讓代理人無需進一步確認即可行動。
由於代理使用大型語言模型來建立代理的操作手冊並建議行動，你應該：
在開始使用代理前，請仔細檢視行為模型。
密切監控代理人的建議，並確認其提出建議的理由，然後再採取行動。
仔細檢視你與代理人建立的任何自主規則。 這些規則自動推動行動。
使用案例
預定用途
你可以在各種情境中使用操作代理。 系統的預定用途包括：
自行車租賃管理：您可以設定營運代理，利用即時數據持續監控各車站的自行車可用性。 設定目標確保自行車的可用性，這樣它就能找到正確的查詢來追蹤每個停靠站的數值。
風力發電機優化：代理監控來自風力發電場的數據，追蹤功率輸出、葉片的方向與角度等指標。 它會尋找功率輸出的異常或低落，並建議調整操作參數。
倉庫庫存平衡：代理人即時監控多個倉庫的庫存水準。 設定目標以維持最佳庫存分布，避免缺貨或過剩。
費用監控：讓客服人員能取得有關費用請求和報告的資料。 請它標示不符合常見規則的支出，並發現每位員工或成本中心長期模式中的異常。
事件回應自動化：代理監控 IT 基礎設施日誌與遙測數據，以尋找服務退化或安全異常的跡象。 其目標是縮短平均偵測時間（MTTD）及平均解析時間（MTTR）。
選擇其他使用案例時的考量事項
我們鼓勵您在創新解決方案或應用中運用營運代理。 不過，請考慮以下因素，以確保代理人適合您的特定使用情境：
避免使用或濫用系統可能會導致個人身體或心理嚴重傷害的情況。 例如，診斷病患或開立藥物的情境，可能造成重大傷害。
避免使用或濫用系統可能會對生命機會或法律狀態產生重大影響的情況。 範例包括 AI 系統或代理程式可能會影響個人的法律地位、法律權利，或他們存取信貸、教育、就業、醫療保健、住房、保險、社會福利、服務、機會，或提供這些服務的條款的案例。
避免可能導致傷害的高利害關係案例。 代理人所用的模型可能反映訓練資料或提示範例中某些社會觀點、偏見及其他不良內容。 因此，我們提醒不要在高風險情境中使用代理人，因為不公平、不可靠或冒犯行為可能造成高昂代價或造成傷害。
仔細考慮高風險領域或產業中的使用案例，當代理行動不可逆或影響深遠的時。 這些產業包括但不限於醫療保健、醫療、金融或法律領域。
法律和法規考慮。 組織在使用任何 AI 服務與解決方案時，需要評估潛在的法律與監管義務，這些可能不適合所有產業或情境。 限制可能會因地區或當地法規需求而有所不同。 此外，AI 服務或解決方案不是為適用的服務條款和相關行為準則所禁止的方式而設計，也不應以這些被禁止的方式使用。
局限性
技術限制、操作因素和範圍
儘管 OpenAI 進行了密集訓練，Microsoft 也實施了負責任的 AI 控制，AI 服務仍是有缺陷且機率性的。 這種限制使得全面封鎖所有不當內容變得困難，進而可能導致偏見、刻板印象或 AI 生成內容缺乏根基。 關於 AI 生成內容的已知限制，請參閱 Azure OpenAI 透明說明，其中包括對於操作代理背後的大型語言模型的參考。
你可以給營運人員各種指示和目標。 LLM 行為模型的機率特性意味著你可能無法將代理與你的需求對齊。 代理人行為模型的描述也是用 AI 生成的，因此可能不完全準確。
要有效使用營運代理，你需要接受訓練，才能有效與服務互動並受益。
先進的 AI 模型需要大量計算資源，尤其在資源有限的環境中，這會影響效能。 你可能會在使用高峰時段遇到延遲或效能問題。
由於智能代理將大型語言模型結合外部系統，你可能難以理解為何它選擇特定工具或工具組合來回答用戶查詢。 此挑戰使代理人輸出或行為的信任與驗證變得複雜。
組織在使用營運代理人時，特別是在受規範產業中，必須考慮自身的法律與合規義務。 Microsoft 正在檢視適用於 Microsoft 作為技術提供者的法規要求，並透過持續改進的過程在產品內加以解決。
透過代理使用者體驗，你可以隨時快速中斷或關閉代理。 此舉會停止監控任何新資料及代理人可能建議或採取的新行動。 代理在其他系統中呼叫的動作（例如啟動 Power Automate 工作流程）可能不會立即停止。 代理程式會啟動這些行動，作為需要您在其他產品使用情境中管理的獨立流程。
代理與使用者之間的訊息透過 Teams 傳遞。 當你向代理發送訊息時，Azure Bot Service 會處理這些訊息。 使用 Azure AI Bot Service 有一個技術限制，即每個 Bot 只能有一個全域端點。 針對 Teams 第一方 Bot，要求會先傳送至全域端點，然後轉送至靠近使用者的區域端點。 營運代理使用的端點位於歐盟，這表示您的使用者資料可以被移出地理區域進行處理。
系統效能
在 AI 系統中，效能通常與準確度（系統提供正確輸出的頻率）相關。 對於操作代理來說，效能更具彈性，因為使用者可能會以不同方式解讀輸出。 錯誤通常發生在客服人員誤解目標、資料或業務流程中的關鍵實體時。 當代理人提出建議時，使用者應仔細審閱所提供的上下文，然後再核准行動。
改善系統效能的最佳做法
為了在營運代理中獲得最佳效果，請專注於製作詳細且結構良好的提示。 您提供的目標與指示幫助客服人員辨識正確的數據點與監控變化的規則。 透過明確定義客服應監控的資料值與條件來提升準確性。 清楚說明行動如何影響結果，以及預期監控值將如何改變。
高品質的數據同樣重要。 確保資料結構組織良好，使用有意義的欄位名稱而非編碼值。 盡可能扁平化巢狀事件資料。 這種結構讓客服人員更容易有效地定位並監控相關資訊。
操作代理的評估
評估方法
營運代理平台採用嚴謹且多階段的流程來評估準確性、安全性及持續改進。 其核心是一個三階段循環：追蹤>、迭代>、評估。 此週期始於實施遙測技術以監控代理的決策過程，包括規劃、本體建立、資料基礎、規則產生與執行。 評估資料集來自真實世界的應用案例與合成資料，這些資料帶來變異性。 你可以在代理的整個生命週期中，從開發到生產，衡量準確度、收斂率、失敗率與安全性等指標。
評估環境反映生產條件，強調開發與評估流程的分離，以避免偏見。 你必須手動策劃初始資料集，並事先定義預期的本體論與輸出。 之後，你再用合成生成來擴展這些資料集。 這些資料集聚焦於與業務監控與決策相關的營運目標。 雖然它們代表了真實世界的情境，但尚未涵蓋更廣泛的用戶族群或動態目標配置。 此方法使評估聚焦、可重現，並與負責任的 AI 原則保持一致。
評估結果
我們的評估流程採用結構化的追踪>迭代>評估方法論。 我們在代理人決策迴圈的每個階段都嵌入評估。 這些評估確認代理持續產出準確的本體論，產生有效且相關的查詢，並選擇符合使用者目標的適當行動。 這些結果支持系統符合問責目標，特別是在確保其在真實運作環境中如預期般運作。
評估中使用的訓練與測試資料集經過精心挑選，以反映廣泛的操作情境。 你從真實世界的應用案例中手動建構初始資料集，並有明確定義的預期輸出，包括本體論和查詢結果。 後來，你透過合成生成來擴充這些資料集，以增加變異性和覆蓋範圍。 你設計資料集時，代表代理預期會遇到的目標類型與資料環境，包括結構複雜度、資料可用性及使用者意圖的差異。 此方法確保評估涵蓋具代表性的操作因素與環境，支持負責任的系統開發與部署。
評估結果影響了系統中的多項關鍵設計限制。 例如，我們引入了最大查詢大小與最小本體複雜度的限制，以確保效能一致並降低失敗率。 雖然這些結果廣泛適用於許多營運監控與決策支援情境，但初步評估未涵蓋動態目標重構與多代理協作等領域。 這些領域代表未來測試與開發的機會。
評估並整合營運代理以供您使用。
客服人員的行為會受到你所提供的指令、目標、數據和行動所塑造。 精確的提示與乾淨且組織良好的資料，搭配直覺的欄位名稱，能提升準確度並減少錯誤。
設定代理後，透過檢視 KQL 查詢來驗證代理的行為模型與規則，以確保與業務流程一致。 雖然基於規則的條件會觸發代理，但其由大型語言模型產生的建議可能存在不準確之處，因此行動前務必先審查輸出。
高度響應的代理可能導致過多通知或過度使用自動化操作，進而造成系統不穩定。 為了降低風險，調整規則、定期稽核、模擬邊緣案例，並設計促進透明度的介面。 例如，展示信心分數及對建議的明確解釋。