選擇你的 Windows AI 解決方案

Windows AI 領域發展迅速,術語可能難以理解。 這頁就切入了這個主題:找到你的情境,選擇你的起點。

選項

  • 現成型 AI 模型與 API — 由Microsoft分發與管理的模型;程式碼簡約,無需機器學習專業知識。
    • Windows AI APIs — 大型語言模型(LLM,Phi Silica)、影像模型、OCR、語意搜尋等。 大多數 API 需要 Copilot+ PC;部分(Phi Silica如 GPU、語音辨識、視訊超解析度)也能在其他 Windows 11 硬體上執行——詳見支援硬體表。
    • Foundry Local — 透過 OpenAI 相容的 API 提供 20+ 個開源 LLM 與語音模型。 任何 Windows 硬體都可以。
  • 本地執行任何模型 — 帶著你自己的 ONNX 模型,完全掌控推論管線。
    • Windows ML — 對 CPU、GPU 或 NPU 進行硬體加速推論。 任何 Windows 硬體都可以。
  • 其他
    • Microsoft Foundry — 透過 REST API 進行雲端託管的前沿模型(GPT-4o、DALL-E 等)。 結合 Foundry Local 用於裝置內或雲端回退機制。

術語解碼器

Windows AI 領域經歷了快速的品牌重塑。 這裡有一張你可能會遇到的術語翻譯表:

你見過的術語 現在的意義
Copilot 執行時 API 以前的名稱(2024年)用於Windows AI APIs。 功能相同,只是重新命名。
Windows Copilot 運行時間 2024 年用來描述現稱為 Microsoft Foundry on Windows 的 AI 功能的舊統稱。
Windows AI Foundry 舊有的總稱(2025年)指的是現在稱為Microsoft Foundry on Windows的人工智慧功能。
Microsoft Foundry on Windows 目前傘品牌涵蓋Windows AI APIs + Foundry Local + Windows ML。
Microsoft 鑄造廠 Microsoft 的雲端 AI 平台。 不同產品、不同團隊、類似名稱。
Phi Silica 針對 Windows PC Copilot+ (NPU) 優化並內建的特定 Phi 模型。 也適用於非Copilot+ 電腦且支援 NVIDIA 或 AMD 顯示卡的玩家。 透過 Windows AI APIs 存取。
Phi (一般) Microsoft 的小型語言模型家族。 Phi-4-mini 等裝置可在 Azure AI 及 Foundry Local 取得。 Phi Silica是 Windows 收件匣版本,針對 NPU 及支援的 GPU 進行優化。
Windows ML(舊) 舊版基於 WinRT 的推論 API,自 Windows 10 1809 起便內建於系統中。 仍然有效;沒有新投資。
Windows ML(新) 新的基於 ONNX 執行環境的 NuGet 套件。 目前且持續開發中。
直接機器學習 不再積極開發(維持性工程階段)。 低階 DirectX 12 ML API 用於 GPU/NPU 加速。
Windows ML IHV 專用執行提供者 作為 DirectML 的後繼,它以原生方式運作於 Windows 硬體上,從而提高性能。
Copilot+ PC PC 類別由硬體定義:配備具有 40+ TOPS 的 NPU、16GB+ 記憶體、特定 SoC。 大多數電腦皆需Windows AI APIs;越來越多的 API(Phi Silica如 GPU、語音辨識、視訊超解析度)也能在非Copilot+ Windows 11 電腦上運行。 或 並非必要條件Foundry LocalWindows ML。
神經處理單元(NPU) 神經處理單元 — 專用於Copilot+電腦中的人工智慧加速硬體。 在 PC 上 Copilot+ ,推 Windows AI APIs 理會自動透過 NPU 路由;有些 API 也支援在非Copilot+ 裝置的 GPU 或 CPU 上執行。

在同一個應用程式中合併選項

這些選項並不互相排斥。 韌性 AI 功能的典型模式會分三個層級:先嘗試Windows AI APIs在支援硬體上取得最快、最優化的體驗;若無法使用,則回退Foundry Local至在任何 Windows 硬體上執行開源模型;若同樣無法使用,則回頭使用雲端的 Azure AI。 下列範例會示範此模式:

// 1. Try Windows AI APIs (Copilot+ PC, or supported GPU/CPU for some APIs)
using Microsoft.Windows.AI;
using Microsoft.Windows.AI.Text;

var readyState = LanguageModel.GetReadyState();
if (readyState == AIFeatureReadyState.NotReady)
{
    var deploymentResult = await LanguageModel.EnsureReadyAsync();
    if (deploymentResult.Status == AIFeatureReadyResultState.Success)
    {
        readyState = LanguageModel.GetReadyState();
    }
    else
    {
        // Optional: inspect deploymentResult.ExtendedError for diagnostics.
        // Treat as unavailable so we fall through to Foundry/Azure.
        readyState = AIFeatureReadyState.NotSupportedOnCurrentSystem;
    }
}

if (readyState == AIFeatureReadyState.Ready)
{
    // Use Phi Silica via Windows AI APIs
    using LanguageModel languageModel = await LanguageModel.CreateAsync();
}
// 2. Fall back to Foundry Local (any hardware)
else if (await foundryClient.IsModelAvailableAsync("phi-4-mini"))
{
    // Use Foundry Local OpenAI-compatible API
}
// 3. Fall back to Azure AI (always available)
else
{
    // Use Azure OpenAI
}

此模式為 Copilot+ 使用者提供最佳體驗,同時保持功能在所有硬體上正常運作。

還不確定嗎?