探索部署與監控架構
為了在演進中保持無缺席模式的可靠性,Proseware 團隊採用 機器學習操作 (MLOps)流程,涵蓋從初始設定到持續監控的各個環節。
注意
此圖為 MLOps 架構的簡化表示。 欲探索更詳細的實作集,請參閱 MLOps v2 解決方案加速器。
架構包含:
- 設定:建立解決方案所需的 Azure 資源。
- 模型開發(內迴圈):探索資料,並訓練與評估候選模型。
- 持續整合:封裝並註冊模型。
- 模型部署(外環):將模型部署到端點。
- 持續部署:測試部署並安全地將其提升至生產環境。
- 監控:追蹤端點的運作健康狀況及模型隨時間的預測。
註冊模型是銜接前三個階段和後三個階段的樞紐。 資料科學團隊訓練並註冊模型後,本模組的其餘部分將聚焦於週期的後半段:將已註冊模型帶入部署、安全推廣、自動化與監控。
決定要自動化什麼
你可以在 Azure Machine Learning 工作室 手動執行這些後期階段。 然而,由於 Proseware 計劃定期重新訓練並重新部署無缺席模型,團隊會用 GitHub Actions 自動化註冊、部署與測試,並在新模型版本準備好時觸發工作流程。 自動化這些重複步驟,讓團隊能專注於檢視模型品質,而不必手動重複部署指令。
注意
自動化是MLOps的核心,但它無法取代人類的判斷。 最佳做法是讓相關人員參與決策,例如將新模型版本升級至全面生產流量或調查監控警示。
下一個單元展示受保護的 GitHub 環境如何將該審查點轉化為可執行的部署門檻。