AI 執行環境範例筆記本

這很重要

這項功能目前處於 公開預覽版。

AI 執行環境提供無伺服器的 GPU 運算,用於推論、訓練與微調 AI 與深度學習模型。 以下頁面依任務將範例筆記本分組:經典機器學習、推薦系統、電腦視覺、開源大型語言模型的後訓練、批次推論,以及多 GPU 分散式訓練。

任務 說明
經典機器學習 傳統機器學習任務範例,包括 XGBoost 訓練、零樣本表格預測及時間序列預測。
推薦系統 使用現代深度學習方法(例如雙塔模型)建立推薦系統的範例。
電腦視覺 電腦視覺任務的範例,包括物件偵測和影像分類。
訓練後的開源模型(LLM) 開源大型語言模型的微調與後訓練範例,包括參數效率高的方法。
批次推論 跨多GPU進行大規模批次推論的Ray Data與vLLM範例。
多GPU分散式訓練 利用無伺服器 GPU API 在多個 GPU 和節點上擴展訓練的範例。