Windows ML CLI

O Windows ML CLI é uma ferramenta de linha de comandos para construir modelos de IA portáteis, performantes e de alta qualidade para Windows ML. Pode começar a partir de um modelo de origem no Hugging Face ou a partir do seu próprio pipeline, e depois produzir um artefacto otimizado para hardware num fluxo de trabalho reproduzível.

O Windows ML CLI gere a conversão, otimização de grafos e compilação nos alvos AMD, Intel, NVIDIA e Qualcomm. Também pode usá-lo em pipelines CI/CD para validar modelos e prepará-los para lançamento.

O que pode fazer

  • Compilar uma vez, executar através de hardware - Use comandos primitivos como export, analyze, optimize, quantize, e compile, ou use winml build para gerar um fluxo de trabalho que produza modelos portáteis para hardware Windows.
  • Inspecionar cada etapa - Rever a compatibilidade do operador, desajustes de formas, otimizações de grafos e ajustes conscientes do fornecedor de execução ao longo do pipeline.
  • Automatize a preparação do modelo - Integre fluxos de trabalho baseados em CLI com a automação de compilação e lançamento existente.

O que recebes da caixa

  • Suporte ao fornecedor de execução para Windows ML - Use os mesmos comandos entre os fornecedores de execução suportados.
  • Catálogo de modelos selecionados - Comece a partir de uma lista verificada de modelos suportados que correm entre os fornecedores de execução do Windows ML.
  • Traga o seu próprio modelo ONNX - Analise e otimize um modelo ONNX existente, mesmo que não o tenha convertido do PyTorch.

Mais informações