Windows ML CLI

Windows ML CLI ist ein Befehlszeilentool zum Erstellen von tragbaren, leistungsfähigen und qualitativ hochwertigen KI-Modellen für Windows ML. Sie können mit einem Quellmodell auf Hugging Face oder ihrer eigenen Pipeline beginnen und dann ein hardwareoptimiertes Artefakt in einem reproduzierbaren Workflow erstellen.

Windows ML CLI verarbeitet Konvertierung, Graphoptimierung und Kompilierung für AMD, Intel, NVIDIA und Qualcomm Ziele. Sie können es auch in CI/CD-Pipelines verwenden, um Modelle zu validieren und für die Veröffentlichung vorzubereiten.

Mögliche Aktionen

  • Erstellen Sie einmal, führen Sie die Hardware aus– Verwenden Sie primitive Befehle wie export, analyze, , optimize, quantizeund compile, oder verwenden winml build Sie, um einen Workflow zu generieren, der tragbare Modelle für Windows Hardware erzeugt.
  • Überprüfen Sie jede Stufe – Überprüfen Sie die Operatorkompatibilität, Shape-Übereinstimmungen, Graphoptimierungen und Optimierungen des Ausführungsanbieters während der gesamten Pipeline.
  • Automatisieren Sie die Modellvorbereitung – Integrieren Sie CLI-gesteuerte Workflows in Ihre vorhandene Build- und Releaseautomatisierung.

Was Sie aus der Box herausholen?

  • Windows ML-Ausführungsanbieterunterstützung – Verwenden Sie dieselben Befehle für unterstützte Ausführungsanbieter.
  • Kuratierter Modellkatalog – Beginnen Sie aus einer überprüften Liste der unterstützten Modelle, die über Windows ML-Ausführungsanbieter hinweg ausgeführt werden.
  • Bring your own ONNX model - Analyze and optimize an existing ONNX model, even if you did not convert it from PyTorch.

Weitere Informationen