聯繫我們
 課程時長 28 時間:

課程簡介

簡介

  • 什麼是 CUDA?
  • CUDA 與 OpenCL 及 SYCL 的比較
  • CUDA 功能和架構概述
  • 設置開發環境

入門

  • 使用 Visual Studio Code 創建新的 CUDA 項目
  • 探索項目結構和文件
  • 編譯和運行程序
  • 使用 printf 和 fprintf 顯示輸出

CUDA API

  • 理解 CUDA API 在宿主程序中的角色
  • 使用 CUDA API 查詢設備信息和功能
  • 使用 CUDA API 分配和釋放設備內存
  • 使用 CUDA API 在主機和設備之間複製數據
  • 使用 CUDA API 啟動內核函數 (kernels) 並同步線程
  • 使用 CUDA API 處理錯誤和異常

CUDA C/C++

  • 理解 CUDA C/C++ 在設備程序中的角色
  • 使用 CUDA C/C++ 編寫在 GPU 上執行並操作數據的內核函數 (kernels)
  • 使用 CUDA C/C++ 數據類型、限定符、操作符和表達式
  • 使用 CUDA C/C++ 內置函數,如數學、原子操作、warp 等。
  • 使用 CUDA C/C++ 內置變量,如 threadIdx、blockIdx、blockDim 等。
  • 使用 CUDA C/C++ 庫,如 cuBLAS、cuFFT、cuRAND 等。

CUDA 內存模型

  • 理解主機內存模型和設備內存模型之間的差異
  • 使用 CUDA 內存空間,如全局、共享、常量和局部內存
  • 使用 CUDA 內存對象,如指針、數組、紋理和表面
  • 使用 CUDA 內存訪問模式,如隻讀、隻寫、讀寫等。
  • 使用 CUDA 內存一致性模型和同步機制

CUDA 執行模型

  • 理解主機執行模型和設備執行模型之間的差異
  • 使用 CUDA 線程、線程塊 (blocks) 和網格 (grids) 來定義並行性
  • 使用 CUDA 線程函數,如 threadIdx、blockIdx、blockDim 等。
  • 使用 CUDA 線程塊函數,如 __syncthreads、__threadfence_block 等。
  • 使用 CUDA 網格函數,如 gridDim、gridSync、協作組 (cooperative groups) 等。

調試

  • 理解 CUDA 程序中常見的錯誤和 Bug
  • 使用 Visual Studio Code 調試器檢查變量、斷點、調用堆棧等。
  • 在 Linux 上使用 CUDA-GDB 調試 CUDA 程序
  • 使用 CUDA-MEMCHECK 檢測內存錯誤和洩漏
  • 在 Windows 上使用 NVIDIA Nsight 調試和分析 CUDA 程序

優化

  • 理解影響 CUDA 程序性能的因素
  • 使用 CUDA 並行訪問 (coalescing) 技術來提高內存吞吐量
  • 使用 CUDA 緩存 (caching) 和預取 (prefetching) 技術來降低內存延遲
  • 使用 CUDA 共享內存和局部內存技術來優化內存訪問和頻寬
  • 使用 CUDA 性能分析 (profiling) 和性能分析工具來測量並改善執行時間和資源利用率

最低要求

  • 理解 C/C++ 語言及並行程式設計概念
  • 具備計算機架構和內存層次的基礎知識
  • 有使用命令線工具和代碼編輯器的經驗

目標受眾

  • 希望學習如何使用 CUDA 對 NVIDIA GPU 進行程式設計並發揮其並行性優勢的開發人員
  • 希望編寫高性能且可擴展、能在不同 CUDA 設備上運行的代碼的開發人員
  • 希望探索 GPU 程式設計的底層細節並優化其代碼性能的程式員

課程分類