AI 目標： 每個組織都希望 AI 能為其人員和流程增值。 這種價值必須來自於能夠保持安全且高效運作的 AI。 它必須符合你已有的技能和數據，並且在預算內。 人工智慧挑戰： 目標明確，但達成這個數值並不總是簡單。 團隊經常嘗試大量實驗，卻收穫有限。 有些則在組織內建立相互衝突的解決方案。 在其他地方，安全疑慮和低信心限制了人們能使用的資源，這也阻礙了 AI 的發展。
AI 解決方案：許多組織已轉向 Microsoft 的 AI 解決方案來應對這些挑戰。 Microsoft 提供廣泛的功能，讓你能靈活應對每個使用案例，並在擴展過程中保障 AI 的安全。 此指引為決策者提供框架，引導工作並使 AI 投資與企業需求相符。
推薦： 透過依序處理以下章節的決策，制定符合您企業需求的 AI 策略。 每個決策都設定了影響下一次決策的限制，並持續聚焦於價值創造。
1. AI 使用案例識別
制定 AI 策略的第一步是用例識別。 此步驟定義決策者如何發現 AI 能改善組織整體業務成果。 目標是先發掘有意義的機會。 這份清單不必詳盡，但也可以。 其目的是讓每個人對企業最重視的事物有一個共同的觀點。 依序進行，確保每個使用案例都能追溯到真實價值。
先從商業問題開始。 在考慮 AI 之前，先找出組織需要更好成果的地方。 最明顯的訊號來自於人們的工作方式，例如反覆手動操作或審核緩慢。 用簡單的詞彙來框定搜尋，例如「結果在哪些地方超出預期」或「人們在哪些地方花時間做重複性任務」。這種做法讓 AI 專注於價值而非新奇。 取捨：廣泛掃描會發現許多機會，因此請專注於既可衡量又有意義的結果差距。
將問題轉化為應用案例。 將每個業務問題整理成簡短陳述，說明活動內容及預期結果，例如「協助支援人員從內部文件回答，縮短解決時間」。確認這些活動發生頻率足夠高，足以證明投資的合理性。 權衡：早期情境往往模糊，所以在繼續前進前，先將它們精煉成清晰且可執行的描述。
分類使用情境。 根據每個用例如何創造價值來分類。 利用這個決定來指導後續的科技選擇。
個人工作： 這些使用案例改善了個人或團隊在現有工具中的運作方式。 例如寫作協助或會議準備。 它們與生成式 AI 解決方案如 Microsoft 365 Copilot 高度契合。
商業自動化： 這些使用案例改變了組織的運作方式或價值的傳遞方式。 例如自動化客戶路由或需求預測。 它們通常需要與其他系統整合，且能結合多種 AI 類型。
考慮所需的 AI 類型。 這是考量因素，不是最終決定，隨著使用情境更明確，你可以再重新檢視。 大致了解你想要的一致性，就能縮小接下來的技術選擇範圍。 你之後有自由調整。
生成式 AI（非確定性 ）產生的輸出即使相同輸入也可能有所不同，且在輸入非結構化（如自然語言或文件）時效果良好。 它適合工作流程不固定的情況，且你希望系統能創造內容或協助人類決策。 當你事先不知道確切步驟，且可以接受輸出結果有些差異時，請採用這種方式。
非生成式 AI（確定性 ）從結構化輸入產生一致且可重複的輸出。 它適用於工作流程已定義且相同輸入應該導致相同結果的情況。 對於依賴準確度的任務如預測或異常偵測，則傾向於此。
將同樣的順序應用於每個業務領域。 可重複的流程減少混淆，防止你在不必要的地方使用生成式 AI，並讓你準備好選擇下一步解決方案。
2. 人工智慧技術策略
您應該選擇哪一款 Microsoft AI 解決方案？ 當你確定哪些使用情境需要哪種 AI 後，開始縮小範圍，找出如何建造或購買每種 AI。 Microsoft 提供四種採用模式，透過共同責任模式，將客製化換取簡化。 它們分別為可直接使用的 Copilot、低程式碼 SaaS 開發、代管式 PaaS 開發，以及 Azure 基礎結構。 當你從第一個模型移到最後一個模型時，你會獲得更多控制權，但也會犧牲速度。
每種方法都需要不同的技術層級，並帶來不同的控制力。 請使用下一節的決策樹縮小選項範圍。 接著依照以下指引，權衡 AI 解決方案的四個因素：
- 功能：檢視 Microsoft 與 Azure AI 解決方案的功能，看看它們是否符合您的使用情境需求。
- 需要資料： 確認所需資料是否存在且可取得。
- 所需技能： 在選擇解決方案前，先驗證每個使用案例是否可用現有能力達成。
- 費用： 評估解決方案是否符合您的預算。
Microsoft AI 決策樹
Microsoft Copilots (SaaS 代理程式)
Microsoft 的現成型 AI 解決方案稱為 Copilots，能快速提升效率，因為它們只需少量設定，且能處理你已有的資料。 Microsoft 365 Copilot 在 Office 應用程式中加入了 AI 協助。 產品內及職務導向的副駕駛專注於特定職務與產業。 權衡：Copilot 能提供最快的結果，但可自訂程度不如自訂解決方案。
| Microsoft Copilot | 說明 | User | 所需的數據 | 需要的技能 | 主要成本因素 |
|---|---|---|---|---|---|
| Microsoft 365 Copilot | 以 Web 和 Work IQ 為依據的聊天與應用程式內協助，遍及 Microsoft 365，並以您的 Microsoft 資料為基礎。 | 商業 | 對 Microsoft 365 資料施加保護敏感標籤，讓保護隨內容而來。 | 一般IT和數據管理 | 每個使用者授權 |
| 角色型 Copilot 與代理程式 | 針對資安、銷售、服務及財務專員的職務特定協助。 | 商業 | 是的。 數據連線和外掛程式選項可供使用。 | 一般IT和數據管理 | Microsoft 365 Copilot 存取權或適用於 Security Copilot 的安全運算單元（SCU） |
| 產品內副駕駛與代理人 | AI 滲入產品，如 GitHub、Power Apps、Power BI、Dynamics 365、Power Automate、Microsoft Fabric、Microsoft Entra，以及Azure。 | 商務和個人 | 是的。 大部分都需要最少的數據準備。 | 最小 （基本系統管理設定和資料整備） | 免費或訂用帳戶 |
| Microsoft Copilot | Microsoft Copilot 是一款免費的網路聊天應用程式。 | 個人 | No | 沒有 | 免費 |
SaaS AI 開發平台（低程式碼）
Microsoft 提供 SaaS 開發選項來打造 AI 代理。 Copilot Studio 讓商業用戶能用自然語言建立 AI 助理，而 Microsoft 365 Copilot 擴充功能則能讓你自訂企業專用的資料與流程 Copilot。 取捨：SaaS 開發平台讓業務團隊也能參與開發，但高度客製化終究會遇到限制，且可能需要轉向代管平台。
| 平台 | 說明 | User | 所需的數據 | 需要的技能 | 主要成本因素 |
|---|---|---|---|---|---|
| Copilot Studio | 使用 Copilot Studio 建立對話式 AI 代理與自動化工作流程，並搭配低程式碼工具與自然語言。 | 資訊科技 | 自動化大部分資料整合，以建立與各種資料來源連線的自訂副手。 | 用於連接資料來源、設計交談流程和部署副手的平台設定 | 授權 |
| Microsoft 365 Copilot 的擴充性工具 | Customize Microsoft 365 Copilot 透過宣告代理提供更多資料或功能。 可以使用像 Copilot Studio、Agent Builder 和 Agents Toolkit 這類工具。 | 商務和個人 | 使用 Microsoft 365 Copilot 連接器來新增資料。 | 數據管理、一般 IT 或開發人員技能 | Microsoft 365 Copilot 授權 |
Azure 平台上的 AI （PaaS）
平台即服務是大多數自訂應用程式和代理程式的起點。 當低程式碼 SaaS 開發無法提供足夠的客製化，但仍希望 Microsoft 能幫你執行平台時，選擇它。 你會得到一個受管理環境來建立自訂代理和模型。 這份工作比 SaaS 開發花更多力氣，但比自己管理基礎架構要少。 Microsoft 管理平台，你不需要維護伺服器或訓練基礎模型。 取捨：託管平台比 SaaS 開發模式提供更多的控制權，但也需要 SaaS 開發選項不需要的工程能力。
| AI 目標 | Microsoft 解決方案 | 所需的數據 | 需要的技能 | 主要成本因素 |
|---|---|---|---|---|
| 組建代理程式 | Microsoft Foundry 代理服務 | 是的 | 代理程式類型選擇、新增工具與資料、追蹤除錯、評估、優化、發布、監控。 參見 代理生命週期 | 使用模型令牌、儲存空間、功能、計算能力、基本連接 |
| 建立 RAG | 鑄造廠 | 是的 | 選擇模型、協調資料流、分塊資料、豐富區塊、選擇索引、理解查詢類型（全文、向量、混合）、了解篩選與面向、執行重新排序、提示工程、部署端點，以及應用程式中的端點消耗 | 計算、進出令牌數目、取用的 AI 服務、記憶體和數據傳輸 |
| 微調 GenAI 模型 | 鑄造廠 | 是的 | 前置處理數據、將數據分割成定型和驗證數據、驗證模型、設定其他參數、改善模型、部署模型，以及在應用程式中取用端點 | 計算、進出令牌數目、取用的 AI 服務、記憶體和數據傳輸 |
| 定型和推斷模型 |
Azure Machine Learning 或 Microsoft Fabric |
是的 | 使用程式代碼或自動化預先處理數據、定型模型、改善模型、部署機器學習模型，以及在應用程式中取用端點 | 計算、記憶體和數據傳輸 |
| 取用預先建置的 AI 模型和服務 | 鑄造工具 | 是的 | 選取 AI 模型、保護端點、取用應用程式中的端點，以及視需要微調 | 使用模型端點、儲存空間、資料傳輸、計算資源（如果您訓練自訂模型） |
| 隔離 AI 應用程式 | Azure 容器應用程式 支援無伺服器 GPU | 是的 | 選取 AI 模型、協調資料流程、區塊化資料、擴充區塊、選擇索引、瞭解查詢類型 （全文、向量、混合式）、瞭解篩選器和 Facet、執行重新排名、提示工程、部署端點，以及在應用程式中使用端點;用於網路隔離的選擇性環境/VNet 設定 （區域可用性和功能狀態可能會有所不同） | 計算、進出令牌數目、取用的 AI 服務、記憶體和數據傳輸 |
請參閱 AI + 機器學習及 Azure 價格計算器下列出的產品個別價格頁面，以產生成本估算。
在 Azure 基礎結構上的 AI
Azure 基礎設施讓你完全掌控自己的模型和執行環境。 它通常建造時間最長，且長期維護起來需要最多的努力。 當你必須自備模型、使用自訂執行環境，或滿足受管理平台無法滿足的效能與合規需求時，請選擇此選項。 取捨：基礎建設提供最多的控制權，但同時擁有最多的營運所有權。
| AI 目標 | Microsoft 解決方案 | 所需的數據 | 需要的技能 | 主要成本因素 |
|---|---|---|---|---|
| 在你管理的基礎設施上訓練並運行自己的模型 | Azure 基礎結構上的 AI | 是的 | 基礎結構管理、IT、程式安裝、模型定型、模型基準檢驗、協調流程、部署端點、保護端點，以及取用應用程式中的端點 | 計算、計算節點編排器、管理磁碟（可選）、儲存服務、Azure Bastion 及其他 Azure 服務 |
請參考 Linux 和 Windows 虛擬機的 GPU 價格。 使用 Azure 價格計算器來估算。
3. 負責任的人工智慧策略
無論你在上述步驟中選擇哪種模式和預算，負責任的使用都是大規模生產中執行 AI 的條件。 你的組織需要制定標準，確保 AI 對每個團隊公平且負責任。 你選擇的模式決定了這些標準適用的範圍，但這些標準本身在整個組織中保持一致。 應該建立在 Microsoft 負責任 AI 的指引之上，而不是在這裡定義那些標準。 請參閱CAF指引，制定 負責任的人工智慧政策 ，建立一致的框架。
4. 資料策略
負責任的 AI 標準取決於背後的數據強度，因此接下來是你的數據策略。 你的資料策略決定你的優先使用案例是否具備治理且高品質的資料可供使用。 持久策略負責蒐集與分類資料，並隨著 AI 在 Microsoft 365 與 Azure 中普及，保持其合規性。 應專注於治理基線與生命週期管理，而非逐項工作負載設計。 請參閱 CAF 指引，以制定 AI 與分析的數據策略。
5. 如何採用 AI
策略確定後，進入規劃與準備階段。 AI 採用指引提供新創及企業的檢查清單，將上述決策帶入生產環境，並內建治理與安全機制。
| AI 採用步驟 | 適用的 AI 技術 | 創業檢查清單 | 企業檢查清單 |
|---|---|---|---|
| AI 方案 | 副駕駛員 Azure |
☐ 存取 AI 資源 ☐ 建立負責任的 AI |
☐ 評估 AI 技能 ☐ 取得 AI 技能 ☐ 存取 AI 資源 ☐ 排定 AI 使用案例的優先順序 ☐ 建立 AI 概念證明 ☐ 實施負責任的人工智慧 |
| AI 就緒 | Azure | ☐ Azure 著陸區的 AI ☐ 選擇架構 |
☐ 人工智慧治理 ☐ AI 網路 ☐ AI 可靠性 ☐ Azure 著陸區的 AI ☐ 選擇架構 ☐ 使用 AI 設計區域 |
| 治理 AI | 副駕駛員 Azure |
☐ 強制執行 AI 治理原則 | ☐ 評估 AI 組織風險 ☐ 文件 AI 治理政策 ☐ 強制執行 AI 原則 ☐ 監視 AI 組織風險 |
| 保護 AI | 副駕駛員 Azure |
☐ 保護 AI 資源和數據 | ☐ 發現人工智慧安全風險 ☐ 保護 AI 資源和數據 ☐ 偵測 AI 安全威脅 |
| 管理 AI | 副駕駛員 Azure |
☐ 管理 AI 模型 ☐ 管理 AI 成本 |
☐ 管理 AI 作業 ☐ 管理 AI 部署 ☐ 管理 AI 模型 ☐ 管理 AI 成本 ☐ 管理 AI 數據 ☐ 管理 AI 商務持續性 |