使用 CANN TIK 和 TVM 構建自定義 AI 運算子培訓
CANN TIK（張量指令核心）與 Apache TVM 可實現華為昇騰硬件上 AI 模型運算子的高級優化與定制。
本培訓由導師現場指導，提供線上或線下實時課程。對象為希望使用 CANN 的 TIK 編程模型及 TVM 編譯器集成來構建、部署並調優 AI 模型自定義運算子的高級系統開發人員。
完成本培訓後，學員將能夠：
- 使用昇騰處理器的 TIK DSL 編寫和測試自定義 AI 運算子。
- 將自定義運算子集成至 CANN 運行時與執行圖中。
- 使用 TVM 進行運算子調度、自動調優及基準測試。
- 除錯並優化針對自定義計算模式的指令級性能。
課程形式
- 互動式講授與演示。
- 使用 TIK 和 TVM 管線進行運算子實作編碼。
- 在昇騰硬件或模擬器上進行測試與調優。
課程定制選項
- 如需申請本課程的定制培訓，請聯繫我們以安排相關事宜。
課程簡介
自定義運算子開發簡介
- 為何構建自定義運算子？用例與限制條件。
- CANN 運行時結構及運算子集成點。
- 華為 AI 生態系統中的 TBE、TIK 和 TVM 概述。
使用 TIK 進行低級運算子編程
- 理解 TIK 編程模型及其支持 APIs。
- TIK 中的內存管理與分塊策略。
- 創建、編譯並向 CANN 註冊自定義運算子。
測試與驗證自定義運算子
- 圖中運算子的單元測試與集成測試。
- 除錯核心級性能問題。
- 可視化運算子執行與緩衝區行為。
基於 TVM 的調度與優化
- TVM 作為張量運算子編譯器的概述。
- 在 TVM 中為自定義運算子編寫調度代碼。
- TVM 調優、基準測試及昇騰平台的代碼生成。
與框架和模型的集成
- 為 MindSpore 和 ONNX 註冊自定義運算子。
- 驗證模型完整性及降級行為。
- 支持具有混合精度的多運算子圖。
案例研究與專業優化
- 案例研究：針對小輸入尺寸的極高能效卷積。
- 案例研究：內存感知的注意力運算子優化。
- 跨設備部署自定義運算子的最佳實踐。
總結與後續步驟
最低要求
- 具備深厚的 AI 模型內部結構及運算子級計算知識。
- 擁有 Python 和 Linux 開發環境的使用經驗。
- 熟悉神經網絡編譯器或圖層優化技術。
受眾
- 從事 AI 工具鏈開發的編譯器工程師。
- 專注於低級 AI 優化的系統開發人員。
- 構建自定義運算子或針對新型 AI 工作負載的開發人員。
需要幫助選擇合適的課程嗎？
macao@nobleprog.com 或 +852 81990613
使用 CANN TIK 和 TVM 構建自定義 AI 運算子培訓 - 詢問
使用 CANN TIK 和 TVM 構建自定義 AI 運算子 - 咨詢詢問
相關課程
使用華為昇騰和CANN開發AI應用
21 小時華為昇騰是專為高性能推理和訓練設計的一系列AI處理器。
本課程由講師親自授課，提供線上或線下培訓形式，旨在協助具備中級水平的AI工程師及數據科學家利用華為昇騰平台和CANN工具包來開發與優化神經網絡模型。
完成本課程後，學員將能夠：
- 設置並配置CANN開發環境。
- 使用MindSpore和CloudMatrix工作流開發AI應用。
- 通過自定義運算元和分片技術在昇騰NPU上優化性能。
- 將模型部署至邊緣或雲端環境。
課程形式
- 互動式講授與討論。
- 在示例應用中實際操作華為昇騰和CANN工具包。
- 圍繞模型構建、訓練及部署的引導式練習。
課程定製選項
- 如需根據您的基礎設施或數據集對此課程進行定製培訓，請聯繫我們以安排相關事宜。
部署使用 CANN 和 Ascend AI 處理器的 AI 模型
14 小時CANN（神經網路計算架構）是華為用於在 Ascend AI 處理器上部署及優化 AI 模型的 AI 計算棧。
本課程採用講師授課模式，提供線上或線下培訓。對象為希望使用 CANN 工具組及 MindSpore、TensorFlow 或 PyTorch 等工具，高效部署訓練好的 AI 模型至華為 Ascend 硬件的中級 AI 開發人員和工程師。
完成本課程後，學員將能夠：
- 理解 CANN 架構及其在 AI 部署流程中的角色。
- 將來自熱門框架的模型轉換並適應為 Ascend 兼容格式。
- 使用 ATC、OM 模型轉換及 MindSpore 等工具，進行邊緣和雲端推理部署。
- 診斷部署問題，並優化 Ascend 硬件上的性能表現。
課程形式
- 互動式講授與示範演示。
- 透過使用 CANN 工具組及 Ascend 模擬器或設備，進行實作實驗室操作。
- 以真實世界 AI 模型為基礎的實務部署場景。
課程自訂選項
- 如需申請本課程的客製化培訓，請聯繫我們以安排。
AI框架開發者CANN入門
7 小時CANN（神經網絡計算架構）是華為的AI計算工具包，用於在昇騰AI處理器上編譯、優化並部署AI模型。
本課程為講師指導的實時培訓（線上或線下），旨在幫助初級AI開發者理解CANN如何融入從訓練到部署的模型生命週期，以及它如何與MindSpore、TensorFlow和PyTorch等框架協同工作。
完成本課程後，學員將能夠：
- 了解CANN工具包的目的和架構。
- 使用CANN和MindSpore設置開發環境。
- 將簡單的AI模型轉換並部署至昇騰硬件。
- 為未來的CANN優化或集成項目奠定基礎知識。
課程形式
- 互動式講授與討論。
- 包含簡單模型部署的實操實驗。
- 逐步講解CANN工具鏈及集成點。
課程定制選項
- 如需此課程的定制化培訓，請聯繫我們安排。
CANN用於邊緣AI部署
14 小時華為的Ascend CANN工具包讓Ascend 310等邊緣設備能夠實現強大的AI推理。CANN為在算力和內存受限的環境中編譯、優化及部署模型提供了必要的工具。
此培訓由講師帶領進行，提供線上或線下（Onsite）形式。旨在協助中級水平的AI開發者和整合人員使用CANN工具鏈部署並優化Ascend邊緣設備上的模型。
完成本課程後，學員將能夠：
- 準備並使用CANN工具將AI模型轉換為Ascend 310可用格式。
- 使用MindSpore Lite和AscendCL構建輕量級的推理管道。
- 針對受限的算力和內存環境優化模型性能。
- 在真實世界邊緣應用場景中部署並監控AI應用程式。
課程形式
- 互動式授課與示範。
- 結合邊緣特定模型和情境的實作練習。
- 在虛擬或實體邊緣硬體上的即時部署範例。
課程客製化選項
- 如需此課程的客製化培訓，請聯繫我們安排。
深入理解華為AI計算棧：從CANN到MindSpore
14 小時華為的AI棧涵蓋了從底層CANN SDK到高層MindSpore框架，為Ascend硬件量身打造了一個緊密整合的AI開發與部署環境。
此培訓由講師主導，提供線上或線下實體課程（live形式）。對象為初級至中級的技術專業人士，旨在幫助其理解CANN和MindSpore組件如何協同工作，以支援AI生命週期管理及基礎設施決策。
培訓結束時，學員將能夠：
- 掌握華為AI計算棧的分層架構。
- 識別CANN如何支援模型優化與硬體級部署。
- 評估MindSpore框架及工具鏈，並對比業界其他替代方案。
- 將華為AI棧置於企業雲端或本機端環境中的定位。
課程形式
- 互動式講授與討論。
- 實時系統演示與案例導向的 walkthrough。
- 可選的指導實驗室練習，涵蓋從MindSpore到CANN的模型流程。
課程客製化選項
- 如需此課程的客製化培訓，請聯繫我們安排。
使用CANN SDK優化神經網路效能
14 小時CANN SDK（用於神經網路的計算架構）是華為的AI運算基礎設施，可讓開發人員調整和優化部署在昇騰AI處理器上的神經網路效能。
本課程由講師指導，提供線上或線下培訓形式。目標受眾為希望使用CANN進階工具集（包括圖引擎、TIK和自訂算子開發）來優化推論效能的初級AI開發人員及系統工程師。
完成本課程後，學員將能夠：
- 理解CANN的運行時架構與效能生命週期。
- 使用剖析工具和圖引擎進行效能分析與優化。
- 使用TIK和TVM建立並優化自訂算子。
- 解決記憶體瓶頸並提升模型吞吐量。
課程形式
- 互動式講授與討論。
- 實作練習，包括即時剖析與算子調整。
- 使用邊緣部署案例進行優化練習。
課程客製化選項
- 如需為本課程申請客製化培訓，請與我們聯繫以安排。
CANN SDK for Computer Vision and NLP Pipelines
14 小時CANN SDK（神經網路計算架構）提供強大的部署和優化工具，用於在華為昇騰硬體上進行電腦視覺和自然語言處理的即時人工智慧應用。
此培訓由講師指導，可線上或線下進行，旨在幫助具有中級水平的 AI 從業人員構建、部署並使用 CANN SDK 優化視覺和語言模型以滿足生產需求。
完成本課程後，參與者將能夠：
- 使用 CANN 和 AscendCL 部署和優化電腦視覺（CV）及自然語言處理（NLP）模型。
- 利用 CANN 工具轉換模型，並將其整合至即時流水線。
- 優化檢測、分類和情感分析等任務的推理效能。
- 構建適用於邊緣或雲端部署場景的即時 CV/NLP 流水線。
課程格式
- 互動式講授與演示。
- 實作練習：包含模型部署與效能分析。
- 使用真實 CV 和 NLP 應用案例設計即時流水線。
課程客製化選項
- 如需申請此課程的客製化培訓，請聯絡我們安排。
