澳門現場GPU培訓

華為昇騰是專為高性能推理和訓練設計的一系列AI處理器。

本課程由講師親自授課，提供線上或線下培訓形式，旨在協助具備中級水平的AI工程師及數據科學家利用華為昇騰平台和CANN工具包來開發與優化神經網絡模型。

完成本課程後，學員將能夠：

• 設置並配置CANN開發環境。
• 使用MindSpore和CloudMatrix工作流開發AI應用。
• 通過自定義運算元和分片技術在昇騰NPU上優化性能。
• 將模型部署至邊緣或雲端環境。

課程形式

• 互動式講授與討論。
• 在示例應用中實際操作華為昇騰和CANN工具包。
• 圍繞模型構建、訓練及部署的引導式練習。

課程定製選項

• 如需根據您的基礎設施或數據集對此課程進行定製培訓，請聯繫我們以安排相關事宜。

華為的AI棧涵蓋了從底層CANN SDK到高層MindSpore框架，為Ascend硬件量身打造了一個緊密整合的AI開發與部署環境。

此培訓由講師主導，提供線上或線下實體課程（live形式）。對象為初級至中級的技術專業人士，旨在幫助其理解CANN和MindSpore組件如何協同工作，以支援AI生命週期管理及基礎設施決策。

培訓結束時，學員將能夠：

• 掌握華為AI計算棧的分層架構。
• 識別CANN如何支援模型優化與硬體級部署。
• 評估MindSpore框架及工具鏈，並對比業界其他替代方案。
• 將華為AI棧置於企業雲端或本機端環境中的定位。

課程形式

• 互動式講授與討論。
• 實時系統演示與案例導向的 walkthrough。
• 可選的指導實驗室練習，涵蓋從MindSpore到CANN的模型流程。

課程客製化選項

• 如需此課程的客製化培訓，請聯繫我們安排。

此課程為現場指導的實地培訓 澳門（線上或線下），旨在幫助初級至中級開發者使用 OpenACC 程式設計異構設備，並發揮其平行運算能力。

參加完培訓後，學員將能夠：

• 配置 OpenACC 開發環境。
• 撰寫及運行基本的 OpenACC 程序。
• 為代碼添加 OpenACC 指令和子句。
• 使用 OpenACC API 和庫。
• 分析、除錯及優化 OpenACC 程序。

CANN SDK（神經網路計算架構）提供強大的部署和優化工具，用於在華為昇騰硬體上進行電腦視覺和自然語言處理的即時人工智慧應用。

此培訓由講師指導，可線上或線下進行，旨在幫助具有中級水平的 AI 從業人員構建、部署並使用 CANN SDK 優化視覺和語言模型以滿足生產需求。

完成本課程後，參與者將能夠：

• 使用 CANN 和 AscendCL 部署和優化電腦視覺（CV）及自然語言處理（NLP）模型。
• 利用 CANN 工具轉換模型，並將其整合至即時流水線。
• 優化檢測、分類和情感分析等任務的推理效能。
• 構建適用於邊緣或雲端部署場景的即時 CV/NLP 流水線。

課程格式

• 互動式講授與演示。
• 實作練習：包含模型部署與效能分析。
• 使用真實 CV 和 NLP 應用案例設計即時流水線。

課程客製化選項

• 如需申請此課程的客製化培訓，請聯絡我們安排。

本課程在 澳門（線上或線下）由講師帶領進行，旨在幫助初級至中級的開發人員掌握 GPU 程式設計的基礎知識，以及開發 GPU 應用程式的主要框架與工具。

• 完成培訓後，學員將能夠：
  了解 CPU 與 GPU 運算的差異，並理解 GPU 程式設計的優勢與挑戰。
• 為其 GPU 應用程式選擇合適的框架和工具。
• 編寫基本的 GPU 程式，使用一個或多個框架和工具執行向量加法。
• 使用相應的 API、語言和函式庫來查詢裝置資訊、配置與釋放裝置記憶體、在主機與裝置間複製資料、啟動核心（kernels）以及同步線程。
• 利用不同的記憶體空間（如全域、局部、常數和私有），最佳化資料傳輸和記憶體存取。
• 使用各自的執行模型（如工作項目、工作群組、線程、區塊和網格），控制平行運算。
• 使用 CodeXL、CUDA-GDB、CUDA-MEMCHECK 和 NVIDIA Nsight 等工具除錯和測試 GPU 程式。
• 使用合并（coalescing）、快取（caching）、預取（prefetching）和分析（profiling）等技術最佳化 GPU 程式。

CANN TIK（張量指令核心）與 Apache TVM 可實現華為昇騰硬件上 AI 模型運算子的高級優化與定制。

本培訓由導師現場指導，提供線上或線下實時課程。對象為希望使用 CANN 的 TIK 編程模型及 TVM 編譯器集成來構建、部署並調優 AI 模型自定義運算子的高級系統開發人員。

完成本培訓後，學員將能夠：

• 使用昇騰處理器的 TIK DSL 編寫和測試自定義 AI 運算子。
• 將自定義運算子集成至 CANN 運行時與執行圖中。
• 使用 TVM 進行運算子調度、自動調優及基準測試。
• 除錯並優化針對自定義計算模式的指令級性能。

課程形式

• 互動式講授與演示。
• 使用 TIK 和 TVM 管線進行運算子實作編碼。
• 在昇騰硬件或模擬器上進行測試與調優。

課程定制選項

• 如需申請本課程的定制培訓，請聯繫我們以安排相關事宜。

本課程透過線上或線下方式進行實地培訓（Live），旨在幫助初級至中級的開發人員使用不同的 GPU 程式設計框架，並比較它們的功能、效能和相容性。

完成本課程後，學員將能夠：

• 設定包含 OpenCL SDK、CUDA Toolkit、ROCm 平臺、支援 OpenCL、CUDA 或 ROCm 的裝置以及 Visual Studio Code 的開發環境。
• 建立一個執行向量相加的基本 GPU 程式，並比較各框架的語法、結構和執行方式。
• 使用各自的 API 查詢裝置資訊、配置與釋放裝置記憶體、複製主機與裝置之間的資料、啟動核心以及同步執行緒。
• 使用各自的語言編寫在裝置上執行的核心程式碼以處理資料。
• 使用各自的內建函式、變數和函式庫來完成常見任務和運算。
• 利用不同的記憶體空間，如全域、區域、常數和私有等，以最佳化資料傳輸和記憶體存取。
• 使用各自的執行模型來控制定義平行性的執行緒、區塊和網格。
• 使用 CodeXL、CUDA-GDB、CUDA-MEMCHECK 和 NVIDIA Nsight 等工具進行 GPU 程式除錯與測試。
• 透過合併、快取、預取和分析技術來最佳化 GPU 程式。

CloudMatrix是華為推出的統一AI開發和部署平台，旨在支援可擴展且符合生產標準的推理管道。

這門由講師指導的實地培訓（線上或線下），針對初級至中級的AI專業人士，他們希望使用CloudMatrix平台以及CANN和MindSpore整合來部署和監控AI模型。

通過本次培訓，學員將能夠：

• 使用CloudMatrix進行模型打包、部署及服務化。
• 為昇騰晶片組轉換並優化模型。
• 設置用於實時和批量推理任務的管道。
• 監控部署情況並在生產環境中調整效能。

課程形式

• 互動式講授和討論。
• 在實際部署場景中動手使用CloudMatrix。
• 重點關注轉換、優化及擴展的引導式練習。

課程定制選項

• 如需基於您的AI基礎設施或雲端環境請求定制培訓，請聯繫我們安排。

華為的Ascend CANN工具包讓Ascend 310等邊緣設備能夠實現強大的AI推理。CANN為在算力和內存受限的環境中編譯、優化及部署模型提供了必要的工具。

此培訓由講師帶領進行，提供線上或線下（Onsite）形式。旨在協助中級水平的AI開發者和整合人員使用CANN工具鏈部署並優化Ascend邊緣設備上的模型。

完成本課程後，學員將能夠：

• 準備並使用CANN工具將AI模型轉換為Ascend 310可用格式。
• 使用MindSpore Lite和AscendCL構建輕量級的推理管道。
• 針對受限的算力和內存環境優化模型性能。
• 在真實世界邊緣應用場景中部署並監控AI應用程式。

課程形式

• 互動式授課與示範。
• 結合邊緣特定模型和情境的實作練習。
• 在虛擬或實體邊緣硬體上的即時部署範例。

課程客製化選項

• 如需此課程的客製化培訓，請聯繫我們安排。

此由講師主導的現場培訓 澳門（線上或線下）旨在幫助初級至中級的開發人員學習如何在 Windows 上安裝和使用 ROCm，以對 AMD GPU 進行程式設計並發揮其平行運算能力。

在完成本課程後，學員將能夠：

• 設定包含 ROCm 平台、AMD GPU 以及 Visual Studio Code 的開發環境於 Windows 上。
• 建立執行向量加法的基本 ROCm 程式，並將結果從 GPU 記憶體讀回。
• 使用 ROCm API 查詢裝置資訊、配置和釋放裝置記憶體、在主機與裝置間複製資料、啟動核心（kernels）及同步執行緒。
• 使用 HIP 語言編寫可在 GPU 上執行的核心並操作資料。
• 使用 HIP 內建函數、變數及程式庫來執行常見任務和運算。
• 利用 ROCm 和 HIP 的記憶體空間（如全域、共用、常數和本地）來最佳化資料傳輸與記憶體存取。
• 使用 ROCm 和 HIP 的執行模型來控制定義平行化的執行緒、區塊及網格。
• 使用 ROCm Debugger 和 ROCm Profiler 等工具除錯及測試 ROCm 和 HIP 程式。
• 使用合併存取、快取、預取及效能分析等技术來最佳化 ROCm 和 HIP 程式。

本課程在 澳門（線上或線下）以講師帶隊的即時培訓形式進行。目標受眾為初級至中級開發者，希望使用 ROCm 和 HIP 來程式設計 AMD GPU，並發揮其平行運算能力。

完成本課程後，參與者將能夠：

• 建立包含 ROCm 平台、AMD GPU 及 Visual Studio Code 的開發環境。
• 編寫基礎 ROCm 程式，在 GPU 上執行向量加法，並從 GPU 記憶體中檢索結果。
• 使用 ROCm API 查詢裝置資訊、配置與釋放裝置記憶體、在主機與裝置間複製資料、啟動核心以及同步化執行緒。
• 使用 HIP 語言編寫在 GPU 上執行的核心程式並操作資料。
• 運用 HIP 內建函式、變數及函式庫來執行常見任務和運算。
• 運用 ROCm 和 HIP 的記憶體空間，如全域、共享、常數和本地空間，以最佳化資料傳輸和記憶體存取。
• 運用 ROCm 和 HIP 的執行模型來控制定義平行化的執行緒、區塊和網格。
• 使用 ROCm Debugger 和 ROCm Profiler 等工具除錯和測試 ROCm 和 HIP 程式。
• 運用交織、快取、預取及效能剖析等技術最佳化 ROCm 和 HIP 程式。

CANN（神經網絡計算架構）是華為的AI計算工具包，用於在昇騰AI處理器上編譯、優化並部署AI模型。

本課程為講師指導的實時培訓（線上或線下），旨在幫助初級AI開發者理解CANN如何融入從訓練到部署的模型生命週期，以及它如何與MindSpore、TensorFlow和PyTorch等框架協同工作。

完成本課程後，學員將能夠：

• 了解CANN工具包的目的和架構。
• 使用CANN和MindSpore設置開發環境。
• 將簡單的AI模型轉換並部署至昇騰硬件。
• 為未來的CANN優化或集成項目奠定基礎知識。

課程形式

• 互動式講授與討論。
• 包含簡單模型部署的實操實驗。
• 逐步講解CANN工具鏈及集成點。

課程定制選項

• 如需此課程的定制化培訓，請聯繫我們安排。

昇騰、壁仞和寒武紀是中國領先的AI硬件平台，各自為生產級AI工作負載提供獨特的加速和剖析工具。

本課程採用講師在場指導形式，提供線上或線下培訓。目標受眾為希望優化跨多個中國AI芯片平台模型推理與訓練工作流程的高階AI基礎設施及性能工程師。

完成本課程後，學員將能夠：

• 在昇騰、壁仞和寒武紀平台上對模型進行基準測試。
• 識別系統瓶頸以及記憶體/運算效率問題。
• 應用圖層、核心層和運算元層的優化技術。
• 調整部署流程以提升吞吐量並降低延遲。

課程格式

• 互動式授課與討論。
• 實作使用各平台上的剖析與優化工具。
• 著重於實際調參情境的引導練習。

課程客製化選項

• 如需根據您的性能環境或模型類型為本課程請求客製化培訓，請聯繫我們進行安排。

CANN SDK（用於神經網路的計算架構）是華為的AI運算基礎設施，可讓開發人員調整和優化部署在昇騰AI處理器上的神經網路效能。

本課程由講師指導，提供線上或線下培訓形式。目標受眾為希望使用CANN進階工具集（包括圖引擎、TIK和自訂算子開發）來優化推論效能的初級AI開發人員及系統工程師。

完成本課程後，學員將能夠：

• 理解CANN的運行時架構與效能生命週期。
• 使用剖析工具和圖引擎進行效能分析與優化。
• 使用TIK和TVM建立並優化自訂算子。
• 解決記憶體瓶頸並提升模型吞吐量。

課程形式

• 互動式講授與討論。
• 實作練習，包括即時剖析與算子調整。
• 使用邊緣部署案例進行優化練習。

課程客製化選項

• 如需為本課程申請客製化培訓，請與我們聯繫以安排。

華為昇騰、比特大陸以及寒武紀 MLU 等中國 GPU 架構，提供了針對本地 AI 和高性能計算 (HPC) 市場量身定制的 CUDA 替代方案。

此講師指導的培訓（線上或線下）旨在為希望遷移並優化現有 CUDA 應用程式以在中國硬體平台上部署的高階 GPU 程式設計師和基礎設施專家而設計。

完成本培訓後，學員將能夠：

• 評估現有 CUDA 工作負載與中國晶片替代方案的相容性。
• 將 CUDA 程式碼庫遷移至華為 CANN、比特大陸 SDK 以及寒武紀 BANGPy 環境。
• 比較各平台的效能並識別優化點。
• 解決跨架構支援和部署中的實際挑戰。

課程格式

• 互動式講授與討論。
• 實作程式碼遷移與效能比較實驗室。
• 聚焦於多 GPU 適應策略的引導練習。

課程客製化選項

• 如需根據您的平台或 CUDA 專案申請此課程的客製化培訓，請聯繫我們以安排。

此培訓為由導師指導的現場課程澳門（線上或線下），旨在幫助初級至中級開發人員使用CUDA編程NVIDIA GPU，並充分利用其平行運算能力。

完成此培訓後，學員將能夠：

• 搭建包含CUDA Toolkit、NVIDIA GPU和Visual Studio Code的開發環境。
• 創建基本的CUDA程序，在GPU上執行向量加法並將結果從GPU記憶體取回。
• 使用CUDA API查詢設備資訊、配置和釋放裝置記憶體、在主機與設備間複製數據、啟動內核以及同步執行緒。
• 使用CUDA C/C++語言編寫在GPU上執行的內核並操作數據。
• 使用CUDA內建函式、變數和庫來完成常見任務和操作。
• 使用CUDA記憶體空間（如全域、共享、常數和本地）來優化資料傳輸和記憶體存取。
• 使用CUDA執行模型控制定義平行化的執行緒、區塊和網格。
• 使用CUDA-GDB、CUDA-MEMCHECK及NVIDIA Nsight等工具調試和測試CUDA程序。
• 通過並行存取、快取利用、預取以及分析技術最佳化CUDA程序。

97% 的客戶滿意。

CANN（神經網路計算架構）是華為用於在 Ascend AI 處理器上部署及優化 AI 模型的 AI 計算棧。

本課程採用講師授課模式，提供線上或線下培訓。對象為希望使用 CANN 工具組及 MindSpore、TensorFlow 或 PyTorch 等工具，高效部署訓練好的 AI 模型至華為 Ascend 硬件的中級 AI 開發人員和工程師。

完成本課程後，學員將能夠：

• 理解 CANN 架構及其在 AI 部署流程中的角色。
• 將來自熱門框架的模型轉換並適應為 Ascend 兼容格式。
• 使用 ATC、OM 模型轉換及 MindSpore 等工具，進行邊緣和雲端推理部署。
• 診斷部署問題，並優化 Ascend 硬件上的性能表現。

課程形式

• 互動式講授與示範演示。
• 透過使用 CANN 工具組及 Ascend 模擬器或設備，進行實作實驗室操作。
• 以真實世界 AI 模型為基礎的實務部署場景。

課程自訂選項

• 如需申請本課程的客製化培訓，請聯繫我們以安排。

必能 AI 加速器是為 AI 和 HPC 負載設計的高效能 GPU，支援大規模訓練與推論。

此種由講師帶領的即時培訓（線上或線下），旨在針對初級至進階開發人員，讓他們學習使用必能專有 GPU 堆疊進行程式編寫與應用最佳化，並與基於 CUDA 的環境進行實際比較。

完成此培訓後，參與者將能夠：

• 了解必能 GPU 架構及記憶體階層。
• 設定開發環境並使用必能的程式設計模型。
• 針對必能平台轉換並最佳化 CUDA 風格的程式碼。
• 應用效能微調與除錯技術。

課程形式

• 互動式講座與討論。
• 在範例 GPU 負載中實際使用必能 SDK。
• 專注於移植與效能微調的引導式練習。

課程客製化選項

• 若要依據您的應用程式堆疊或整合需求請求此課程的客製化培訓，請聯繫我們以安排。

Cambricon MLU（機器學習單元）是專為邊緣數據中心場景中的推理和訓練而優化的AI芯片。

此有講師指導的實地培訓（線上或線下）旨在面向中級開發人員，幫助他們在Cambricon MLU硬件上使用BANGPy框架和Neuware SDK構建和部署AI模型。

通過參加本次培訓，參與者將能夠：

• 設置並配置BANGPy與Neuware開發環境。
• 為Cambricon MLU開發及優化基於Python和C++的模型。
• 在運行Neuware runtime的邊緣設備與數據中心設備上部署模型。
• 將ML工作流與MLU特定加速功能整合。

課程格式

• 互動講座與討論。
• 實地使用BANGPy和Neuware進行開發及部署。
• 專注於優化、整合和測試的指導練習。

課程自定義選項

• 如需為本課程申請基於您的Cambricon設備型號或使用案例的自定義培訓，請聯繫我們安排。

此由講師帶領的現場培訓在澳門（線上或線下）旨在針對初級系統管理員和IT專業人士，使他們能夠安裝、配置、管理和除錯CUDA環境。

在培訓結束時，參與者將能夠：

• 了解CUDA的架構、元件和功能。
• 安裝並配置CUDA環境。
• 管理和優化CUDA資源。
• 除錯並解決常見的CUDA問題。

本課程採用講師帶領的現場培訓方式（澳門 線上或線下），旨在協助初級至中級的開發者使用 OpenCL 編程異構裝置，並善用其平行運算能力。

完成此課程後，學員將能夠：

• 建立包含 OpenCL SDK、支援 OpenCL 的裝置以及 Visual Studio Code 的開發環境。
• 建立基本的 OpenCL 程式，在裝置上執行向量加法並將結果從裝置記憶體讀回。
• 使用 OpenCL API 查詢裝置資訊、建立內容（context）、命令佇列（command queues）、緩衝區（buffers）、核心（kernels）以及事件（events）。
• 使用 OpenCL C 語言編寫在裝置上執行的核心程式並操作資料。
• 利用 OpenCL 內建函數、擴展及函式庫執行常見任務與運算。
• 運用 OpenCL 主機與裝置記憶體模型來最佳化資料傳輸與記憶體存取。
• 使用 OpenCL 執行模型控制工作項目（work-items）、工作群組（work-groups）以及 ND-ranges。
• 使用 CodeXL、Intel VTune 和 NVIDIA Nsight 等工具除錯和測試 OpenCL 程式。
• 運用向量化、迴圈展開、本地記憶體及效能分析等技術最佳化 OpenCL 程式。

此 澳門（線上或線下）的講師指導培訓，
主要針對希望使用 CUDA 加速應用程式、撰寫高效能 GPU 核心，
並利用平行演算法函式庫處理科學運算、數據處理和機器學習負載的 C++ 開發者。

此種在 澳門 舉辦、由講師帶領的實地培訓（線上或線下），旨在幫助希望利用 CUDA 來加速運算密集型應用程式的 C/C++ 開發者，這些應用涵蓋資料處理、科學模擬、機器學習工作負載以及影像處理管線等領域。

本課程在 澳門 提供線上或線下實時培訓（Live），旨在幫助軟件開發人員、數據分析師和技術專業人士使用 TensorFlow 2.x 和 Keras，為計算機視覺、自然語言處理及多模態應用構建、訓練並部署深度學習模型。

本課程由講師主導的實時培訓，在澳門地點進行，涵蓋如何為平行運算對 GPU 進行程式設計、如何使用各種平台、如何操作 CUDA 平台及其功能，以及如何利用 CUDA 執行多種優化技術。應用領域包括深度學習、數據分析、影像處理及工程應用。