聯繫我們

課程簡介

混合式 AI 部署基礎

  • 理解混合式、雲端與邊緣部署模型
  • AI 負載特性與基礎架構限制
  • 選擇合適的部署拓撲結構

使用 Docker 容器化 AI 負載

  • 建構 GPU 與 CPU 推論容器
  • 管理安全映像檔與登錄檔
  • 建立可重複的 AI 環境

將 AI 服務部署至雲端環境

  • 透過 Docker 在 AWS、Azure 及 GCP 上執行推論
  • 為模型服務配置雲端運算資源
  • 保護基於雲端的 AI 端點

邊緣與本地部署技術

  • 在物聯網裝置、閘道器及微型伺服器上運行 AI
  • 適用於邊緣環境的輕量級執行階段
  • 管理間歇性連線狀態與本地持久化儲存

混合式網路與安全連線

  • 建立邊緣與雲端間的安全隧道
  • 憑證、機密金鑰與基於權杖的存取控制
  • 針對低延遲推論進行效能調校

編排分散式 AI 部署

  • 使用 K3s、K8s 或輕量級編排工具設定混合架構
  • 服務發現與負載排程
  • 自動化多地點展開策略

跨環境監控可觀測性

  • 追蹤各站點的推論效能
  • 混合式 AI 系統的集中式日誌記錄
  • 故障偵測與自動化復原

縮放與優化混合式 AI 系統

  • 縮放邊緣叢集與雲端節點
  • 優化頻寬使用率與快取機制
  • 平衡雲端與邊緣間的運算負載

總結與下一步行動

最低要求

  • 理解容器化的基本概念
  • 具備 Linux 命令列操作經驗
  • 熟悉 AI 模型部署工作流程

受眾

  • 基礎架構架構師
  • 網站可靠性工程師 (SREs)
  • 邊緣運算與物聯網開發人員
 21 小時

客戶評論 (3)

課程分類