感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
GPU 加速容器化簡介
- 理解 GPU 在深度學習工作流程中的應用
- Docker 如何支持基於 GPU 的工作負載
- 關鍵性能考慮因素
安裝與配置 NVIDIA 容器工具包
- 設置驅動程序及 CUDA 兼容性
- 驗證容器內的 GPU 訪問權限
- 配置運行時環境
構建 GPU 啟用型 Docker 鏡像
- 使用 CUDA 基礎鏡像
- 在 GPU 就緒容器中打包 AI 框架
- 管理訓練與推斷的依賴項
運行 GPU 加速的 AI 工作負載
- 使用 GPU 執行訓練任務
- 管理多 GPU 工作負載
- 監控 GPU 使用率
優化性能與資源分配
- 限制與隔離 GPU 資源
- 優化內存、批量大小及設備放置
- 性能調優與診斷
容器化推斷與模型服務
- 構建就緒於推斷的容器
- 在 GPU 上服務高負載工作負載
- 集成模型運行器與 API
使用 Docker 擴展 GPU 工作負載
- 分布式 GPU 訓練策略
- 擴展推斷微服務
- 協調多容器 AI 系統
GPU 啟用型容器的安全性與可靠性
- 確保共享環境中的 GPU 安全訪問
- 加固容器鏡像
- 管理更新、版本及兼容性
總結與後續步驟
最低要求
- 了解深度學習基礎知識
- 具備 Python 及常見 AI 框架的使用經驗
- 熟悉基本的容器化概念
適合人群
- 深度學習工程師
- 研發團隊
- AI 模型訓練師
21 小時
客戶評論 (3)
培訓師如何如此有效地傳授知識
Vu Thoai Le - Reply Polska sp. z o. o.
課程 - Certified Kubernetes Administrator (CKA) - exam preparation
機器翻譯
培訓師知識淵博,耐心地向我們分享了很多內容
Bogdan Olaru
課程 - Introduction to Docker
機器翻譯
與Augustin的知識交流
Laurent - L'Office national des vacances annuelles (ONVA)
課程 - Docker and Kubernetes
機器翻譯