聯繫我們

課程簡介

AI 部署簡介

  • AI 部署生命週期概覽。
  • 將 AI 代理部署到生產環境的挑戰。
  • 關鍵考量因素:可扩展性、可靠性和可維護性。

容器化與編排

  • Docker 與容器化基礎介紹。
  • 使用 Kubernetes 對 AI 代理進行編排。
  • 管理容器化 AI 應用程序的最佳實踐。

AI 模型服務

  • 模型服務框架概覽(如 TensorFlow Serving、TorchServe)。
  • 為 AI 代理推理構建 REST API。
  • 處理批量預測與實時預測。

AI 代理的 CI/CD

  • 設置用於 AI 部署的 CI/CD 流程。
  • 自動化測試和驗證 AI 模型。
  • 滾動更新與版本控制管理。

監控與優化

  • 實施用於監控 AI 代理性能的 tooling。
  • 分析模型漂移並評估重新訓練需求。
  • 優化資源利用率与可扩展性。

安全與治理

  • 確保符合數據隱私法規。
  • 保護 AI 部署流程與 API 的安全。
  • 對 AI 應用程序進行審計和日誌記錄。

實作活動

  • 使用 Docker 將 AI 代理容器化。
  • 使用 Kubernetes 部署 AI 代理。
  • 設置用於監控 AI 性能和資源利用的工具。

總結與下一步計劃

最低要求

  • 精通 Python 編程。
  • 了解機器學習工作流程。
  • 熟悉 Docker 等容器化工具。
  • 具有 DevOps 實踐經驗(推薦)。

受眾

  • MLOps 工程師。
  • DevOps 專業人員。
 14 小時

課程分類