Windows ML-Ausführungsanbieter

Windows ML bietet Ausführungsumgebungen zur Beschleunigung der Inferenz auf NPU, GPU und CPU. Weitere Informationen zur Beschleunigung der Ableitung finden Sie unter "Beschleunigen von KI-Modellen".

Eingeschlossene Ausführungsanbieter

Die folgenden Ausführungsanbieter sind in der ONNX-Runtime enthalten, die im Lieferumfang von Windows ML enthalten ist:

• Prozessor
• DirectML (veraltet)

Verfügbare Ausführungsanbieter

Im Gegensatz zu den CPU- und DirectML-Anbietern, die im Lieferumfang enthalten sind (siehe eingeschlossene Ausführungsanbieter), sind die unten aufgeführten Ausführungsanbieter nicht in der Laufzeit enthalten – sie werden bei Bedarf heruntergeladen.

Die unten aufgeführten Ausführungsanbieter sind auf Windows 11-PCs mit Version 24H2 (Build 26100) oder höher (je nach Geräte- und Treiberkompatibilität) für den dynamischen Download über die Windows ML-APIs ExecutionProviderCatalog verfügbar. Informationen zur Verwendung dieser Anbieter finden Sie unter Installieren von Windows ML-EPs und Registrieren von Windows ML-EPs. Wenn Sie sehen möchten, welche Version der einzelnen EP derzeit verfügbar ist und welche Informationen zu bevorstehenden Versionen verfügbar sind, lesen Sie Windows ML Execution Provider Releases.

Bevor Ihre App einen Ausführungsanbieter verwendet, lesen Sie unbedingt die Lizenzen, die dem Ausführungsanbieter entsprechen.

MIGraphX (AMD)

• EpName: "MIGraphXExecutionProvider"
• Anforderungen:
  • GPU mit Version 25.10.13.09 (genau)
  • Dieser Ausführungsanbieter wird für GenAI-Szenarien heute nicht unterstützt.
• Dokumentation: Dokumentation
• Unterstützung: Unterstützung
• Lizenzbedingungen: Ryzen AI-Lizenzierungsinformationen
• Versions- und Versionsverlauf: Windows ML-Ausführungsanbieterversionen

NvTensorRtRtx (NVIDIA)

• EpName: "NvTensorRtRtxExecutionProvider"
• Anforderungen:
  • NVIDIA GeForce RTX 30XX und höher mit mindestens empfohlener Treiberversion 32.0.15.5585 + Cuda Version 12.5
• Dokumentation: Dokumentation
• Unterstützung: Unterstützung
• Lizenzbedingungen: NVIDIA SOFTWARE LICENSE AGREEMENT und Lizenzvertrag für NVIDIA Software Development Kits — EULA
• Versions- und Versionsverlauf: Windows ML-Ausführungsanbieterversionen

OpenVINO (Intel)

• EpName: "OpenVINOExecutionProvider"
• Anforderungen:
  • CPU: Intel Core-Prozessoren™ der 11. Generation® (früher Codename Tiger Lake) oder höher mit mindestens 8 GB Arbeitsspeicher
  • GPU: Intel® Core-Prozessoren™ der 12. Generation (früher Codename Alder Lake) oder höher mit mindestens 16 GB Arbeitsspeicher
  • NPU: Intel® Core™ Ultra Series 1 Prozessoren (früher Codename Meteor Lake) oder neuer mit mindestens 16 GB Arbeitsspeicher
• Dokumentation: Dokumentation
• Unterstützung: Unterstützung
• Lizenzbedingungen: Intel OBL Distribution Commercial Use License Agreement v2025.02.12
• Versions- und Versionsverlauf: Windows ML-Ausführungsanbieterversionen

QNN (Qualcomm)

• EpName: "QNNExecutionProvider"
• Anforderungen:
  • Snapdragon(R) X Elite - X1Exxxxx
    • Qualcomm(R) Hexagon(TM) NPU mit mindester Treiberversion 30.0.140.0 und höher
  • Snapdragon(R) X Plus - X1Pxxxxx
    • Qualcomm(R) Hexagon(TM) NPU mit mindester Treiberversion 30.0.140.0 und höher
• Dokumentation: Dokumentation
• Unterstützung: Unterstützung
• Lizenzbedingungen: Um die QNN-Lizenz anzuzeigen, laden Sie das Neural Processing SDK von Qualcomm® herunter, extrahieren Sie die ZIP-Datei, und öffnen Sie die LICENSE.pdf Datei.
• Versions- und Versionsverlauf: Windows ML-Ausführungsanbieterversionen

VitisAI (AMD)

• EpName: "VitisAIExecutionProvider"
• Anforderungen:
  • Min: Adrenalin Edition 25.6.3 mit NPU Treiber 32.00.0203.280
  • Max: Adrenalin Edition 25.9.1 mit NPU Treiber 32.00.0203.297
• Dokumentation: Dokumentation
• Unterstützung: Unterstützung
• Lizenzbedingungen: Ryzen AI-Lizenzierungsinformationen
• Versions- und Versionsverlauf: Windows ML-Ausführungsanbieterversionen

WebGPU (experimentell)

• EpName: "WebGpuExecutionProvider"
• Paketfamilienname: Microsoft.WinML.ONNX.WebGPU.EP.2
• Mindestens erforderliche Microsoft.Windows. AI. MachineLearning-Version:2.4.66-preview
• Anforderungen:
  • Jede DirectX 12-fähige GPU mit aktuellen Treibern (empfohlen werden integrierte Intel-Grafik der etwa 11. Generation oder NVIDIA-GPUs der Turing-Generation und neuer)
• Dokumentation: WebGPU EP
• Unterstützung: Unterstützung
• Lizenzbedingungen: WebGPU EP für Windows App SDK License und ONNX Runtime License
• Versions- und Versionsverlauf: Windows ML-Ausführungsanbieterversionen

Siehe auch

• Windows ML Execution Provider Releases (aktuelle, bevorstehende und frühere Versionen)
• Installieren Sie Windows ML-EPs
• Windows ML-EPs registrieren
• Auswählen von Ausführungsanbietern
• Installieren und Bereitstellen von Windows ML