聯繫我們

課程簡介

AI 推論與 Docker 簡介

  • 理解 AI 推論負載
  • 容器化推論的優勢
  • 部署場景與限制

構建 AI 推論容器

  • 選擇基礎映象和框架
  • 封裝預訓練模型
  • 結構化用於容器執行的推論代碼

保護容器化的 AI 服務

  • 最小化容器的攻擊面
  • 管理密鑰與敏感文件
  • 安全網路與 API 暴露策略

可移植部署技術

  • 優化映象以增強可移植性
  • 確保可預測的運行環境
  • 跨平台管理依賴關係

本地部署與測試

  • 使用 Docker 在本地運行服務
  • 除錯推論容器
  • 測試性能與可靠性

在伺服器與雲端 VM 上部署

  • 適應遠端環境的容器
  • 配置安全的伺服器存取
  • 在雲端 VM 上部署推論 API

使用 Docker Compose 構建多服務 AI 系統

  • 協調推論與支援元件
  • 管理環境變數與配置
  • 利用 Compose 擴展微服務

AI 推論服務的監控與維護

  • 日誌記錄與可觀測性方法
  • 檢測推論管道中的故障
  • 更新生產環境中的模型並進行版本控制

總結與下一步計劃

最低要求

  • 具備基本機器學習概念的知識
  • 擁有 Python 或後端開發經驗
  • 熟悉基礎的容器概念

受眾

  • 開發人員
  • 後端工程師
  • 部署 AI 服務的團隊
 14 小時

客戶評論 (3)

課程分類