在執行 Linux 的 N 系列 VM 上安裝 NVIDIA GPU 驅動程式

適用於: ✔️ Linux VM

這很重要

為了符合包容性語言慣例,本文件將「黑名單」一詞替換為「封鎖名單」。 此變更反映出避免使用可能帶有無意負面涵義或種族偏見的術語的承諾。 不過,在程式碼片段和技術參考中,「黑名單」是已建立語法或工具 (例如組態檔、命令列參數) 的一部分,會保留原始術語以保留功能精確度。 這種用法是嚴格的技術性用法,並不意味著任何歧視意圖。

要利用由 NVIDIA GPU 支援的 Azure N 系列虛擬機(VM)的圖形處理器(GPU)功能,必須安裝 NVIDIA GPU 驅動程式。 NVIDIA GPU 驅動程式擴充功能會在 N 系列虛擬機上安裝適當的 NVIDIA 運算統一裝置架構(CUDA)或 GRID 驅動程式。 你可以透過 Azure 入口網站或像 Azure PowerShell 這類工具來安裝和管理擴充功能。 有關支援的作業系統(OS)及部署步驟,請參閱 NVIDIA GPU 驅動程式擴充文件。

若要手動安裝 NVIDIA GPU 驅動程式,請依照本文說明的步驟操作。 手動驅動程式設定資訊也提供給 Windows虛擬機。

技術規格請參見 GPU Linux 虛擬機大小。

警告

若使用本文所述以外的方法安裝 NVIDIA 驅動程式,可能會導致驅動程式安裝失敗。 Microsoft 和 NVIDIA 不支援這種安裝方式。 為確保功能與支援,請僅依照安裝步驟操作,並使用本文指定的驅動版本。


CUDA 驅動程式

NVIDIA 為 NCasT4_v3、NC_A100_v4 及 NCads_H100_v5 虛擬機發佈 CUDA 驅動程式。

支援的 CUDA 驅動程式

如需最新 CUDA 驅動程式及支援作業系統,請造訪 NVIDIA 官網。 請確保您安裝或升級至適用於您所使用發行版本的最新受支援 CUDA 驅動程式。

CUDA 驅動程式安裝

如需安裝 CUDA 驅動程式,請造訪 NVIDIA 官方網站。

驗證 CUDA 驅動程式安裝

執行 nvidia-smi。 如果驅動程式已安裝,NVIDIA SMI 會將 GPU 工具 標示為 N/A,直到你在虛擬機上執行 GPU 工作負載。


GRID 驅動程式

Microsoft 重新分發 NVIDIA GRID 驅動程式安裝程式,用於 NVv3、NCasT4_v3、NVadsA10_v5 及 NCv6 RTX PRO 6000 BSE 虛擬機,作為虛擬工作站或虛擬應用程式使用。

支援的 GRID 驅動程式

請僅在這些虛擬機上安裝這些 GRID 驅動程式,且僅限於下表列出的作業系統上。 這些驅動程式包含 Azure 中 GRID 虛擬 GPU(vGPU)軟體的授權。 你不需要架設 NVIDIA vGPU 軟體授權伺服器。

NCasT4_v3 與 NCv6 RTX PRO 6000 BSE 系列是唯一支援 GRID 驅動程式的非 NV GPU VM 系列。

警告

NVIDIA v17.x(R550)和v18.x(R570)的 GRID 驅動程式已不再支援NVadsA10_v5虛擬機。 相反地,請使用下表中列出的 v19.x 和 v20.x 驅動程式。

VM 系列 GPU GRID 驅動程式 支援的 Linux 作業系統版本
NCv6 RTX PRO 6000 BSE NVIDIA RTX PRO 6000 Blackwell Server Edition 顯示卡(96GB) vGPU20.2 • Ubuntu 24.04 LTS
• Ubuntu 22.04 LTS
• Ubuntu 20.04 LTS
• 紅帽企業Linux(RHEL)9.4、9.6、9.7
• Red Hat Enterprise Linux (RHEL) 8.10
• SUSE Linux Enterprise Server 15 SP7
NCasT4_v3 NVIDIA Tesla T4 GPU(16GB) vGPU20.2 • Ubuntu 24.04 LTS
• Ubuntu 22.04 LTS
• Ubuntu 20.04 LTS
• 紅帽企業Linux(RHEL)9.4、9.6、9.7
• Red Hat Enterprise Linux (RHEL) 8.10
NVadsA10_v5 NVIDIA A10 GPU(24GB) • vGPU20.2
• vGPU19.6(LTS)
• Ubuntu 24.04 LTS
• Ubuntu 22.04 LTS
• Ubuntu 20.04 LTS
• 紅帽企業Linux(RHEL)9.4、9.6、9.7
• Red Hat Enterprise Linux (RHEL) 8.10
NVv3(將於 2026 年 9 月 30 日退役) NVIDIA Tesla M60 GPU(16GB) vGPU16(LTS) • Ubuntu 20.04 LTS
• 紅帽企業Linux(RHEL)8.6、8.8、8.9

如需特定 vGPU 和驅動程式分支版本的詳細資訊,請流覽 NVIDIA 網站。

GRID 驅動程式安裝

  1. 確保安全開機和 vTPM 都被停用。

  2. 安裝必要條件。

    烏班圖:

    sudo apt update 
    sudo apt install -y build-essential 
    

    RHEL(8.10、9.4、9.6、9.7):

    sudo yum check-update 
    sudo yum install -y make automake gcc gcc-c++ kernel-devel-$(uname -r) kernel-headers-$(uname -r) 
    
  3. 下載 Linux 驅動程式。

    a. 適用於 NCv6 RTX PRO 6000 BSE、NCasT4_v3:

    wget -O ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run https://download.microsoft.com/download/51239696-ec04-4c02-a6b3-1d9c608fb57c/NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    

    b. 對於 NVadsA10_v5:

    wget -O ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run https://download.microsoft.com/download/2a04ca6a-9eec-40d9-9564-9cdea1ab795f/NVIDIA-Linux-x86_64-570.211.01-grid-azure.run
    

    c. 關於NVv3:

    wget -O ./NVIDIA-Linux-x86_64-535.161.08-grid-azure.run https://download.microsoft.com/download/8/d/a/8da4fb8e-3a9b-4e6a-bc9a-72ff64d7a13c/NVIDIA-Linux-x86_64-535.161.08-grid-azure.run
    
  4. 安裝驅動程式。

    a. 關於 NCv6 RTX PRO 6000 BSE:

    sudo chmod +x ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run -M open
    

    b. 適用於 NCasT4_v3:

    sudo chmod +x ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    

    c. 對於 NVadsA10_v5:

    sudo chmod +x ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run
    

    d. 關於NVv3:

    sudo chmod +x ./NVIDIA-Linux-x86_64-535.161.08-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-535.161.08-grid-azure.run
    

驗證 GRID 驅動程式安裝

執行 nvidia-smi。 如果驅動程式已安裝,NVIDIA SMI 會將 GPU 工具 標示為 N/A,直到你在虛擬機上執行 GPU 工作負載。


疑難排解

  • 您可以使用 nvidia-smi 設定持續性模式,如此當您需要查詢卡片時,命令的輸出更快。 要設定持久模式,執行 nvidia-smi -pm 1。 如果虛擬機重新啟動,模式設定就會消失。 您也可以將模式設定的指令碼一律撰寫為在啟動時執行。

  • 如果作業因 GPU 上的 ECC 錯誤而中斷(可更正或無法更正),請先檢查 GPU 是否符合 ECC 錯誤的任何 Nvidia RMA 準則。 如果顯示卡符合 RMA 資格,請聯絡客服進行維修;否則,請重啟虛擬機,重新接上 GPU,就像 這裡描述的那樣。 較不具侵入性的方法,如 nvidia-smi -r,無法與 Azure 部署的虛擬化解決方案相容。


後續步驟