聯繫我們

課程簡介

AI部署簡介

  • AI部署生命週期概覽
  • 將AI代理部署至生產環境的挑戰
  • 關鍵考量因素:可擴展性、可靠性及可維護性

容器化與編排

  • Docker簡介及容器化基礎
  • 使用Kubernetes進行AI代理編排
  • 管理容器化AI應用程式的最佳實務

AI模型服務化

  • 模型服務化框架概覽(例如:TensorFlow Serving、TorchServe)
  • 建構用於AI代理推論的REST API
  • 處理批次預測與即時預測

AI代理的CI/CD

  • 設定用於AI部署的CI/CD管道
  • 自動化AI模型的測試與驗證
  • 滾動式更新及版本控制管理

監控與優化

  • 實施監控工具以追蹤AI代理效能
  • 分析模型漂移及重新訓練需求
  • 優化資源利用率及可擴展性

安全與治理

  • 確保符合數據隱私法規
  • 保障AI部署管道及API的安全性
  • AI應用程式的稽核與日誌記錄

實作活動

  • 使用Docker對AI代理進行容器化
  • 使用Kubernetes部署AI代理
  • 設定監控以追蹤AI效能及資源使用情況

總結與後續步驟

最低要求

  • 熟練Python程式語言
  • 了解機器學習工作流
  • 熟悉Docker等容器化工具
  • 具備DevOps實務經驗(建議具備)

受眾對象

  • MLOps工程師
  • DevOps專業人士
 14 小時

課程分類