這很重要
這項功能目前處於 公開預覽版。
AI 執行環境提供無伺服器的 GPU 運算,用於推論、訓練與微調 AI 與深度學習模型。 以下頁面依任務將範例筆記本分組:經典機器學習、推薦系統、電腦視覺、開源大型語言模型的後訓練、批次推論,以及多 GPU 分散式訓練。
| 任務 | 說明 |
|---|---|
| 經典機器學習 | 傳統機器學習任務範例,包括 XGBoost 訓練、零樣本表格預測及時間序列預測。 |
| 推薦系統 | 使用現代深度學習方法(例如雙塔模型)建立推薦系統的範例。 |
| 電腦視覺 | 電腦視覺任務的範例,包括物件偵測和影像分類。 |
| 訓練後的開源模型(LLM) | 開源大型語言模型的微調與後訓練範例,包括參數效率高的方法。 |
| 批次推論 | 跨多GPU進行大規模批次推論的Ray Data與vLLM範例。 |
| 多GPU分散式訓練 | 利用無伺服器 GPU API 在多個 GPU 和節點上擴展訓練的範例。 |