Provider di esecuzione di Windows ML

Windows ML offre fornitori di esecuzione per accelerare l'inferenza su NPU, GPU e CPU. Per altre informazioni sull'accelerazione dell'inferenza, vedere Accelerare i modelli di intelligenza artificiale.

Provider di esecuzione inclusi

I provider di esecuzione seguenti sono inclusi nel runtime ONNX fornito con Windows ML:

  • CPU (unità centrale di elaborazione)
  • DirectML (precedente)

Provider di esecuzione disponibili

A differenza dei provider CPU e DirectML, che vengono forniti nella casella (vedere Provider di esecuzione inclusi), i provider di esecuzione seguenti non sono inclusi nel runtime, ma vengono scaricati su richiesta.

I provider di esecuzione elencati di seguito sono disponibili nei PC Windows 11 che eseguono la versione 24H2 (build 26100) o versione successiva (a seconda della compatibilità dei dispositivi e dei driver) per il download dinamico tramite le API di Windows ML ExecutionProviderCatalog . Per usare questi provider, vedere Installare gli EP di Windows ML e Registrare gli EP di Windows ML. Per vedere quale versione di ogni EP è attualmente disponibile e le informazioni sulle prossime versioni, consulta Rilasci del provider di esecuzione Windows ML.

I provider di esecuzione seguenti sono disponibili per gli sviluppatori che usano Microsoft. WindowsAppSDK.ML o Microsoft.Windows. Intelligenza artificiale. MachineLearning versione 2.x:

Provider di esecuzione EpName Fornitore
MIGraphX MIGraphXExecutionProvider AMD
NvTensorRtRtx NvTensorRtRtxExecutionProvider NVIDIA
OpenVINO OpenVINOExecutionProvider Intel
QNN QNNExecutionProvider Qualcomm
VitisAI VitisAIExecutionProvider AMD
WebGPU (sperimentale) WebGpuExecutionProvider Microsoft

Prima che l'app usi un provider di esecuzione, assicurarsi di leggere le licenze corrispondenti al provider di esecuzione.

MIGraphX (AMD)

NvTensorRtRtx (NVIDIA)

OpenVINO (Intel)

  • EpName: "OpenVINOExecutionProvider"
  • Requisiti:
    • CPU: processori Intel® Core™ di prima generazione (in precedenza il nome di codice Tiger Lake) o versione successiva con almeno 8 GB di memoria
    • GPU: processori Intel® Core™ di seconda generazione (in precedenza nome di codice Alder Lake) o versione successiva con almeno 16 GB di memoria
    • NPU: processori Intel® Core™ Ultra Series 1 (in precedenza nome codice Meteor Lake) o versione successiva con almeno 16 GB di memoria
  • Documentazione: Documentazione
  • Supporto: supporto
  • Condizioni di licenza: Contratto di licenza Intel OBL Distribution Commercial Use v2025.02.12
  • Cronologia delle versioni e delle release: Release del provider di esecuzione Windows ML

QNN (Qualcomm)

  • EpName: "QNNExecutionProvider"
  • Requisiti:
    • Snapdragon(R) X Elite - X1Exxxxx
      • Qualcomm(R) Hexagon(TM) NPU con versione minima del driver 30.0.140.0 e versioni successive
    • Snapdragon(R) X Plus - X1Pxxxxx
      • Qualcomm(R) Hexagon(TM) NPU con versione minima del driver 30.0.140.0 e versioni successive
  • Documentazione: Documentazione
  • Supporto: supporto
  • Condizioni di licenza: per visualizzare la licenza QNN, scaricare Qualcomm® Neural Processing SDK, estrarre il file ZIP e aprire il file LICENSE.pdf .
  • Cronologia delle versioni e delle release: Release del provider di esecuzione di Windows ML

VitisAI (AMD)

WebGPU (sperimentale)

Importante

WebGPU EP è sperimentale e richiede l'installazione di pacchetti NuGet sperimentali. Non è disponibile in Windows ML 1.8.x. Per informazioni dettagliate sull'utilizzo, vedere WebGPU EP.

Versioni precedenti
Versione MSIX Note di rilascio di WebGPU EP
0.2.1.0 0.2.1
0.1.0.0 0.1.0

Vedere anche

  • Last updated on