聯繫我們

課程簡介

AI 推理與 Docker 介紹

  • 了解 AI 推理負載。
  • 容器化推理的好處。
  • 部署情境與限制。

建構 AI 推理容器

  • 選取基礎映像檔與框架。
  • 打包預訓練模型。
  • 為容器執行而建構推理程式碼。

確保容器化 AI 服務的安全

  • 最小化容器的攻擊面。
  • 管理機密檔案與敏感檔案。
  • 安全的網路配置與 API 暴露策略。

可攜式部署技術

  • 最佳化映像檔以利於可攜性。
  • 確保可預測的執行環境。
  • 管理跨平台的相依性。

本地部署與測試

  • 使用 Docker 在本地運行服務。
  • 除錯推理容器。
  • 測試效能與可靠性。

在伺服器與雲端 VM 上部署

  • 調整容器以適應遠端環境。
  • 配置安全的伺服器存取。
  • 在雲端 VM 上部署推理 API。

使用 Docker Compose 建構多服務 AI 系統

  • 協調推理與支援元件的作業。
  • 管理環境變數與配置。
  • 透過 Compose 擴展微服務。

AI 推理服務的監控與維護

  • 日誌記錄與可觀測性的方法。
  • 偵測推理管線中的故障。
  • 在生產環境中更新與版本管理模型。

總結與下一步

最低要求

  • 具備基本的機器學習概念知識。
  • 擁有 Python 或後端開發的經驗。
  • 熟悉基礎容器概念。

受眾對象

  • 開發人員。
  • 後端工程師。
  • 部署 AI 服務的團隊。
 14 小時

客戶評論 (3)

課程分類