感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
自定義運算子開發簡介
- 為何構建自定義運算子？用例與限制條件。
- CANN 運行時結構及運算子集成點。
- 華為 AI 生態系統中的 TBE、TIK 和 TVM 概述。
使用 TIK 進行低級運算子編程
- 理解 TIK 編程模型及其支持 APIs。
- TIK 中的內存管理與分塊策略。
- 創建、編譯並向 CANN 註冊自定義運算子。
測試與驗證自定義運算子
- 圖中運算子的單元測試與集成測試。
- 除錯核心級性能問題。
- 可視化運算子執行與緩衝區行為。
基於 TVM 的調度與優化
- TVM 作為張量運算子編譯器的概述。
- 在 TVM 中為自定義運算子編寫調度代碼。
- TVM 調優、基準測試及昇騰平台的代碼生成。
與框架和模型的集成
- 為 MindSpore 和 ONNX 註冊自定義運算子。
- 驗證模型完整性及降級行為。
- 支持具有混合精度的多運算子圖。
案例研究與專業優化
- 案例研究：針對小輸入尺寸的極高能效卷積。
- 案例研究：內存感知的注意力運算子優化。
- 跨設備部署自定義運算子的最佳實踐。
總結與後續步驟
最低要求
- 具備深厚的 AI 模型內部結構及運算子級計算知識。
- 擁有 Python 和 Linux 開發環境的使用經驗。
- 熟悉神經網絡編譯器或圖層優化技術。
受眾
- 從事 AI 工具鏈開發的編譯器工程師。
- 專注於低級 AI 優化的系統開發人員。
- 構建自定義運算子或針對新型 AI 工作負載的開發人員。
14 小時
