感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
GPU 加速容器化入門
- 理解 GPU 在深度學習工作流中的使用
- Docker 如何支持基於 GPU 的負載
- 關鍵性能考量
安裝和配置 NVIDIA Container Toolkit
- 設置驅動程序和 CUDA 兼容性
- 驗證容器內的 GPU 訪問
- 配置運行時環境
構建支持 GPU 的 Docker 鏡像
- 使用 CUDA 基礎鏡像
- 將 AI 框架打包到支持 GPU 的容器中
- 管理訓練和推理的依賴項
運行 GPU 加速的 AI 負載
- 使用 GPU 執行訓練任務
- 管理多 GPU 負載
- 監控 GPU 利用率
優化性能和資源分配
- 限制和隔離 GPU 資源
- 優化內存、批次大小和设备放置
- 性能調試和診斷
容器化推理與模型服務
- 構建準備好推理的容器
- 在 GPU 上提供高負載工作流
- 整合模型運行器和 API
使用 Docker 擴展 GPU 負載
- 分布式 GPU 訓練策略
- 擴展推理微服務
- 協調多容器 AI 系統
支持 GPU 的容器的安全性和可靠性
- 確保共享環境中安全的 GPU 訪問
- 強化容器鏡像
- 管理更新、版本和兼容性
總結與後續步驟
最低要求
- 理解深度學習基礎知識
- 具備 Python 和常見 AI 框架的使用經驗
- 熟悉基本的容器化概念
受眾
- 深度學習工程師
- 研究和開發團隊
- AI 模型訓練師
21 小時
客戶評論 (3)
培訓師如何如此有效地傳授知識
Vu Thoai Le - Reply Polska sp. z o. o.
課程 - Certified Kubernetes Administrator (CKA) - exam preparation
機器翻譯
培訓師知識淵博,耐心地向我們分享了很多內容
Bogdan Olaru
課程 - Introduction to Docker
機器翻譯
與Augustin的知識交流
Laurent - L'Office national des vacances annuelles (ONVA)
課程 - Docker and Kubernetes
機器翻譯