探索部署與監控架構

已完成

為了在演進中保持無缺席模式的可靠性,Proseware 團隊採用 機器學習操作 (MLOps)流程,涵蓋從初始設定到持續監控的各個環節。

機器學習運維架構示意圖。

注意

此圖為 MLOps 架構的簡化表示。 欲探索更詳細的實作集,請參閱 MLOps v2 解決方案加速器。

架構包含:

  • 設定:建立解決方案所需的 Azure 資源。
  • 模型開發(內迴圈):探索資料,並訓練與評估候選模型。
  • 持續整合:封裝並註冊模型。
  • 模型部署(外環):將模型部署到端點。
  • 持續部署:測試部署並安全地將其提升至生產環境。
  • 監控:追蹤端點的運作健康狀況及模型隨時間的預測。

註冊模型是銜接前三個階段和後三個階段的樞紐。 資料科學團隊訓練並註冊模型後,本模組的其餘部分將聚焦於週期的後半段:將已註冊模型帶入部署、安全推廣、自動化與監控。

決定要自動化什麼

你可以在 Azure Machine Learning 工作室 手動執行這些後期階段。 然而,由於 Proseware 計劃定期重新訓練並重新部署無缺席模型,團隊會用 GitHub Actions 自動化註冊、部署與測試,並在新模型版本準備好時觸發工作流程。 自動化這些重複步驟,讓團隊能專注於檢視模型品質,而不必手動重複部署指令。

注意

自動化是MLOps的核心,但它無法取代人類的判斷。 最佳做法是讓相關人員參與決策,例如將新模型版本升級至全面生產流量或調查監控警示。

下一個單元展示受保護的 GitHub 環境如何將該審查點轉化為可執行的部署門檻。