聯繫我們

課程簡介

混合式 AI 部署基礎

  • 了解混合式、雲端及邊緣部署模型
  • AI 負載特性與基礎設施限制
  • 選擇合適的部署拓撲結構

使用 Docker 將 AI 負載容器化

  • 建立 GPU 與 CPU 推理容器
  • 管理安全影像與登錄檔伺服器
  • 為 AI 實現可重現的環境

將 AI 服務部署至雲端環境

  • 透過 Docker 在 AWS、Azure 及 GCP 上執行推理
  • 配置雲端運算資源以進行模型推論
  • 保護基於雲端的 AI 端點

邊緣與內部部署技術

  • 在物聯網裝置、閘道器及微伺服器上運行 AI
  • 適用於邊緣環境的輕量級執行時環境
  • 管理間歇性連線與本地持久化儲存

混合網路與安全連線

  • 在邊緣與雲端之間建立安全隧道
  • 憑證、機密及基於權杖的存取控制
  • 針對低延遲推理效能進行微調

協調分散式 AI 部署

  • 使用 K3s、K8s 或輕量級協調工具處理混合環境
  • 服務發現與負載排程
  • 自動化多地點推出策略

跨環境監控與可觀測性

  • 追蹤各地點的推理效能
  • 為混合式 AI 系統建立集中式日誌
  • 故障偵測與自動復原

擴展與最佳化混合式 AI 系統

  • 擴展邊緣叢集與雲端節點
  • 最佳化頻寬使用與快取機制
  • 平衡雲端與邊緣之間的運算負載

總結與後續步驟

最低要求

  • 了解容器化概念
  • 具備 Linux 命令列操作經驗
  • 熟悉 AI 模型部署工作流程

受眾

  • 基礎架構架構師
  • 網站可靠性工程師 (SREs)
  • 邊緣與物聯網開發人員
 21 小時

客戶評論 (3)

課程分類