聯繫我們

課程簡介

GPU 加速容器化簡介

  • 理解 GPU 在深度學習工作流程中的應用
  • Docker 如何支持基於 GPU 的工作負載
  • 關鍵性能考慮因素

安裝與配置 NVIDIA 容器工具包

  • 設置驅動程序及 CUDA 兼容性
  • 驗證容器內的 GPU 訪問權限
  • 配置運行時環境

構建 GPU 啟用型 Docker 鏡像

  • 使用 CUDA 基礎鏡像
  • 在 GPU 就緒容器中打包 AI 框架
  • 管理訓練與推斷的依賴項

運行 GPU 加速的 AI 工作負載

  • 使用 GPU 執行訓練任務
  • 管理多 GPU 工作負載
  • 監控 GPU 使用率

優化性能與資源分配

  • 限制與隔離 GPU 資源
  • 優化內存、批量大小及設備放置
  • 性能調優與診斷

容器化推斷與模型服務

  • 構建就緒於推斷的容器
  • 在 GPU 上服務高負載工作負載
  • 集成模型運行器與 API

使用 Docker 擴展 GPU 工作負載

  • 分布式 GPU 訓練策略
  • 擴展推斷微服務
  • 協調多容器 AI 系統

GPU 啟用型容器的安全性與可靠性

  • 確保共享環境中的 GPU 安全訪問
  • 加固容器鏡像
  • 管理更新、版本及兼容性

總結與後續步驟

最低要求

  • 了解深度學習基礎知識
  • 具備 Python 及常見 AI 框架的使用經驗
  • 熟悉基本的容器化概念

適合人群

  • 深度學習工程師
  • 研發團隊
  • AI 模型訓練師
 21 小時

客戶評論 (3)

課程分類