在 Batch 集區內使用 RDMA 或 GPU 執行個體

若要執行某些 Batch 作業，您可以利用專為大規模運算所設計的 Azure VM 規格。 例如：

• 若要執行多重實例 MPI 工作負載，請選擇 HB、HC、NC 或 ND 系列，或具有遠端直接記憶體存取網路介面的其他大小（RDMA）。 這些規格可連線至 InfiniBand 網路，以進行節點間通訊，從而加速 MPI 應用程式。

• 對於 CUDA 應用程式，請選擇包含 NVIDIA Tesla GPU 卡的 N 系列規格。

本文提供指引與範例，說明如何在 Batch 集區中使用 Azure 的某些專門大小。 若要了解規格及背景，請參閱：

• 高效能計算 VM 大小 (Linux、Windows)

• 已啟用 GPU 功能的 VM 大小 (Linux、Windows)

相依性

只有特定作業系統會支援 Batch 中需要大量運算之大小的 RDMA 或 GPU 功能 這些 VM 大小所支援的作業系統，僅包含可用於建立虛擬機器的作業系統其中一部分。 視您建立 Batch 集區的方式而定，您可能需要在節點上安裝或設定額外的驅動程式或其他軟體。 下表摘要說明這些相依性。 如需詳細資訊，請參閱連結的文章。 若要了解用來設定 Batch 集區的選項，請參閱本文稍後的內容。

Linux 集區 - 虛擬機器組態

^*支援 RDMA 的 N 系列大小也包含 NVIDIA Tesla GPU

Windows 集區 - 虛擬機器設定

^*支援 RDMA 的 N 系列大小也包含 NVIDIA Tesla GPU

Windows 集區 - 雲端服務組態

集區組態選項

為了對 Batch 集區設定特製 VM 大小，有數個選項可供您安裝必要的軟體或驅動程式：

• 針對虛擬機器設定中的集區，選擇預先設定的 Azure Marketplace VM 映像，其中已預先安裝驅動程式和軟體。 範例：

  • 適用於 Linux 或 Windows 的資料科學虛擬機器 - 包含 NVIDIA CUDA 驅動程式

  • 用於批次容器工作負載且同時包含 GPU 與 RDMA 驅動程式的 Linux 映像檔

• 使用已安裝的驅動程式、軟體或其他 VM 大小所需的設定，建立 自定義 Windows 或 Linux VM 映射 。

• 依 VM 擴充功能安裝 GPU 和 RDMA 驅動程式。

• 從壓縮的驅動程式或應用程式安裝程式建立 Batch 應用程式套件 。 然後，設定 Batch 將此套件部署至集區節點，並在建立每個節點時安裝一次。 例如，如果該應用程式套件是安裝程式，請建立啟動工作命令列，以在所有集區節點上以無訊息方式安裝應用程式。 如果您的工作負載相依於特定驅動程式版本，請考慮使用應用程式套件和集區啟動工作。

  注意

  啟動工作必須以提升的 (系統管理員) 權限來執行，而且必須等候到成功。 長時間執行的工作會增加 Batch 集區的佈建時間。

範例：Windows NC VM 集區上的 NVIDIA GPU 驅動程式

若要在 Windows NC 節點的集區上執行 CUDA 應用程式，您需要安裝 NVIDIA GPU 驅動程式。 下列範例步驟使用應用程式套件來安裝 NVIDIA GPU 驅動程式。 如果您的工作負載相依於特定 GPU 驅動程式版本，您可以選擇此選項。

1. 從 NVIDIA 網站下載 Windows Server 2016 版 GPU 驅動程式的安裝套件 - 例如 411.82 版。 使用 GPUDriverSetup.exe 之類的簡短名稱將檔案儲存在本機。
2. 建立該套件的 zip 檔案。
3. 將套件上傳至您的 Batch 帳戶。 如需相關步驟，請參閱應用程式套件指引。 指定應用程式識別碼 (例如 GPUDriver) 和版本 (例如 411.82)。
4. 使用 Batch API 或 Azure 入口網站，在虛擬機器設定中建立具有所需節點數目和規模大小的集區。 下表顯示透過啟動工作以靜默方式安裝 NVIDIA GPU 驅動程式的範例設定：

範例：Linux NC VM 集區上的 NVIDIA GPU 驅動程式

若要在 Linux NC 節點所構成的集區上執行 CUDA 應用程式，您必須從 CUDA Toolkit 安裝必要的 NVIDIA Tesla GPU 驅動程式。 下列範例步驟會建立和部署具有 GPU 驅動程式的自訂 Ubuntu 22.04 LTS 映像：

1. 部署執行 Ubuntu 22.04 LTS 的 Azure NC 系列 VM。 例如，在美國中南部地區建立虛擬機器。
2. 使用 Azure 入口網站、連線到 Azure 訂用帳戶的用戶端電腦或 Azure Cloud Shell，將 NVIDIA GPU 驅動程式延伸模組新增至 VM。 或者，遵循步驟來手動連線到 VM 並安裝 CUDA 驅動程式。
3. 按照下列步驟，為 Batch 建立 Azure Compute Gallery 映像。
4. 在支援 NC VM 的區域建立 Batch 帳戶。
5. 使用 Batch API 或 Azure 入口網站，使用自訂映像建立具有所需節點數目和規模大小的集區。 下表顯示此映像的集區設定範例：

範例：Windows H16r VM 集區上的 Microsoft MPI

若要在 Azure H16r VM 節點所構成的集區上執行 Windows MPI 應用程式，您必須設定 HpcVmDrivers 延伸模組並安裝 Microsoft MPI。 以下的範例步驟可供您部署具有必要驅動程式和軟體的自訂 Windows Server 2016 映像：

1. 部署執行 Windows Server 2016 的 Azure H16r VM。 例如，在美國西部區域建立 VM。
2. 從連線到 Azure 訂用帳戶的用戶端電腦執行 Azure PowerShell 命令，或使用 Azure Cloud Shell，將 HpcVmDrivers 延伸模組新增至 VM。
3. 建立對 VM 的遠端桌面連線。
4. 下載適用於最新版 Microsoft MPI 的安裝套件 (MSMpiSetup.exe)，然後安裝 Microsoft MPI。
5. 按照下列步驟，為 Batch 建立 Azure Compute Gallery 映像。
6. 使用 Batch API 或 Azure 入口網站，建立使用 Azure Compute Gallery、且具有所需節點數目及規模的集區。 下表顯示此映像的集區設定範例：

下一步

• 若要在 Azure Batch 集區上執行 MPI 作業，請參閱 Windows 或 Linux 範例。