聯繫我們

課程簡介

生產環境部署介紹

  • 微調模型部署的關鍵挑戰
  • 開發環境與生產環境的差異
  • 模型部署的工具與平台

為部署準備模型

  • 以標準格式匯出模型(ONNX、TensorFlow SavedModel 等)
  • 最佳化模型的延遲與吞吐量
  • 在極端案例與真實資料上測試模型

模型部署的容器化

  • Docker 介紹
  • 為機器學習模型建立 Docker 映像檔
  • 容器安全性與效能的最佳實踐

使用 Kubernetes 擴展部署

  • Kubernetes 對 AI 工作負載的介紹
  • 設定用於模型託管的 Kubernetes 集群
  • 負載平衡與水平擴展

模型監控與維護

  • 使用 Prometheus 和 Grafana 實施監控
  • 自動化日誌記錄以追蹤錯誤與效能
  • 用於模型漂移與更新的重新訓練管線

確保生產環境的安全性

  • 保護模型推理的 API
  • 身分驗證與授權機制
  • 解決資料隱私疑慮

案例研究與實作實驗室

  • 部署情感分析模型
  • 擴展機器翻譯服務
  • 為影像分類模型實施監控

總結與後續步驟

最低要求

  • 具備鞏固的機器學習工作流程理解
  • 擁有微調機器學習模型的經驗
  • 熟悉 DevOps 或 MLOps 原則

受眾

  • DevOps 工程師
  • MLOps 從業者
  • AI 部署專家
 21 小時

客戶評論 (2)

課程分類