Inferência de IA distribuída na documentação do Windows Server

Compreender as abordagens de inferência de IA

Descrição geral

• Planear inferência distribuída de IA no Windows Server

Conceito

• O que é o Windows ML?

Planeia aceleração de GPU no Windows Server

Conceito

• Planejar a aceleração da GPU no Windows Server

Explorar os tempos de execução de inferência

Começar agora

• Comece com o Foundry Local para inferência no dispositivo

Liga aplicações e ferramentas para modelar endpoints

Manual de Instruções

• Ligue a CLI do GitHub Copilot a um endpoint de inferência do Windows Server
• Ligue o Visual Studio Code a endpoints de modelos locais e remotos
• Ligue o Intelligent Terminal Preview a um endpoint do modelo Windows Server

Construa soluções de IA com SQL Server

Descrição geral

• Aplicações inteligentes e IA no SQL Server

Configurar GPUs para VMs em cluster

Manual de Instruções

• Usar GPUs com atribuição de dispositivo discreto em VMs clusterizadas