聯繫我們
 課程時長 21 時間:

課程簡介

AI 工作流中 CI/CD 的簡介

  • AI 模型交付流水線面臨的獨特挑戰
  • 傳統 DevOps 與 MLOps 流程的比較
  • 自動化模型部署的核心組件

使用 Docker 對 AI 模型進行容器化

  • 為 ML 推論設計高效的 Dockerfile
  • 管理依賴關係和模型工件
  • 構建安全且優化的映像

設置 CI/CD 流水線

  • CI/CD 工具選項及其生態系統
  • 構建用於自動化模型打包的流水線
  • 通過自動化檢查驗證流水線

在 CI 中測試 AI 模型

  • 自動化數據完整性檢查
  • 模型服務的單元測試和集成測試
  • 性能和回歸驗證

自動化部署基於 Docker 的 AI 服務

  • 將 AI 容器部署到雲環境
  • 實施藍綠部署和灰度發布
  • 失敗部署的回滾策略

管理模型版本和工件

  • 使用註冊表進行模型和容器版本控制
  • 映像的標記、簽名和促進(promotion)
  • 協調跨服務的模型更新

AI 的 CI/CD 中的監控和可觀察性

  • 追蹤流水線和模型性能
  • 對構建失敗或模型漂移進行警報
  • 追蹤跨環境的推論行為

擴展 AI 系統的 CI/CD 流水線

  • 為大型模型並行化構建
  • 優化計算和存儲資源
  • 集成分佈式及遠程運行器

總結與下一步

最低要求

  • 理解機器學習模型的生命週期
  • 具有 Docker 容器化經驗
  • 熟悉 CI/CD 概念及流水線

目標受眾

  • DevOps 工程師
  • MLOps 團隊
  • AI-ops 工程師

課程分類