Distribuerad AI-inferens i dokumentation för Windows Server

Förstå AI-inferensmetoder

Översikt

• Planera distribuerad AI-inferens på Windows Server

Koncept

• Vad är Windows ML?

Planera GPU-acceleration i Windows Server

Koncept

• Planera för GPU-acceleration i Windows Server

Utforska körmiljöer för inferens

Kom igång

• Kom igång med Foundry Local för inferens på enheten

Koppla appar och verktyg för att modellera slutpunkter

Instruktioner

• Koppla GitHub Copilot CLI till en Windows Server-inferenspunkt
• Koppla Visual Studio Code till lokala och fjärrbaserade modellslutpunkter
• Koppla Intelligent Terminal Preview till en Windows Server-modell-endpoint

Bygg AI-lösningar med SQL Server

Översikt

• Intelligenta program och AI i SQL Server

Konfigurera GPU:er för VM:ar i kluster

Instruktioner

• Använda GPU:er med diskret enhetstilldelning på klustrade virtuella datorer