支援 GPU 的池能加速財務模型,執行足夠的平行數值運算,以抵銷資料傳輸與初始化成本。 模型之所以能受益於 GPU 不只是因為它的模擬試驗是獨立進行的。 在更換池子之前,先分析計算結果。
找出合適的計算方法
當型號具備以下條件時,GPU 更有可能提供幫助:
- 在大量情境或路徑中套用相同的數值運算。
- 每個任務都有足夠的工作量讓 GPU 忙碌。
- 傳輸的資料量比計算量少。
- 使用已支援目標 GPU 執行環境的框架或實作。
當任務短、分支頻繁、傳輸大量資料集,或大部分時間用於讀取儲存空間時,CPU 池會更有效率。
比較配置
每個基準測試使用相同的模型版本、輸入、分區數量及驗證標準。 比較:
- 池配置與節點初始化時間。
- 模型與驅動程式初始化時間。
- 任務持續時間與吞吐量。
- 失敗率與重試率。
- 每次完成與驗證執行的虛擬機總成本。
先從一個小池開始,並根據 CPU 實作確認數值結果。 不同的硬體或數值函式庫可能會產生微小的浮點差,因此在測試前請先定義可接受的公差。
準備一個 GPU 池
使用支援支援 GPU 的虛擬機大小,搭配提供所需 NVIDIA 驅動程式的映像檔。 選擇預先設定的 Azure Marketplace 映像,或在自訂映像中安裝驅動程式。 在未驗證現有支援前,請勿延續舊範例的映像名稱、驅動版本或 CUDA 版本。
關於目前的池需求與範例,請參見「 在批次池中使用啟用 GPU 的虛擬機大小」。
GPU 虛擬機可能有有限的區域容量和獨立的配額要求。 在排程生產前,先檢視 批次產能規劃 。