CANN 用於 Edge AI 部署 培訓
華爲的Ascend CANN工具包能夠在邊緣設備(如Ascend 310)上實現強大的AI推理。CANN提供了在計算和內存受限的環境中編譯、優化和部署模型所需的必要工具。
本次由講師指導的培訓(線上或線下)面向希望使用CANN工具鏈在Ascend邊緣設備上部署和優化模型的中級AI開發人員和集成人員。
培訓結束後,學員將能夠:
- 使用CANN工具爲Ascend 310準備和轉換AI模型。
- 使用MindSpore Lite和AscendCL構建輕量級推理管道。
- 在計算和內存受限的環境中優化模型性能。
- 在實際邊緣用例中部署和監控AI應用。
課程形式
- 互動講座與演示。
- 針對邊緣特定模型和場景的實踐操作。
- 在虛擬或物理邊緣硬件上進行即時部署示例。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們進行安排。
課程簡介
Edge AI 和 Ascend 310 簡介
- Edge AI 概述:趨勢、限制和應用
- Huawei Ascend 310 芯片架構及支持的工具鏈
- 在邊緣 AI 部署棧中定位 CANN
模型準備與轉換
- 從 TensorFlow、PyTorch 和 MindSpore 導出訓練好的模型
- 使用 ATC 將模型轉換爲 OM 格式,以便在 Ascend 設備上使用
- 處理不支持的算子及輕量級轉換策略
使用 AscendCL 開發推理管道
- 使用 AscendCL API 在 Ascend 310 上運行 OM 模型
- 輸入/輸出預處理、內存處理和設備控制
- 在嵌入式容器或輕量級運行時環境中部署
針對邊緣限制的優化
- 減少模型大小,精度調優(FP16、INT8)
- 使用 CANN 分析器識別性能瓶頸
- 管理內存佈局和數據流以提高性能
使用 MindSpore Lite 部署
- 使用 MindSpore Lite 運行時在移動和嵌入式目標上運行
- 比較 MindSpore Lite 與原生 AscendCL 管道
- 爲設備特定部署打包推理模型
邊緣部署場景與案例研究
- 案例研究:在 Ascend 310 上部署智能攝像頭的目標檢測模型
- 案例研究:在物聯網傳感器中心進行即時分類
- 在邊緣監控和更新部署的模型
總結與下一步
最低要求
- 具備AI模型開發或部署工作流程的經驗
- 具備嵌入式系統、Linux和Python的基礎知識
- 熟悉深度學習框架,如TensorFlow或PyTorch
受衆
- IoT解決方案開發者
- 嵌入式AI工程師
- 邊緣系統集成商和AI部署專家
需要幫助選擇合適的課程嗎?
CANN 用於 Edge AI 部署 培訓 - Enquiry
CANN 用於 Edge AI 部署 - 咨詢詢問
咨詢詢問
相關課程
高級Edge AI技術
14 時間:本課程爲講師指導的澳門(線上或線下)培訓,面向高級AI從業者、研究人員和開發者,旨在幫助他們掌握Edge AI的最新技術進展,優化AI模型以進行邊緣部署,並探索各行業中的專業應用。
培訓結束後,學員將能夠:
- 探索Edge AI模型開發和優化的先進技術。
- 實施在邊緣設備上部署AI模型的前沿策略。
- 利用專用工具和框架進行高級Edge AI應用。
- 優化Edge AI解決方案的性能和效率。
- 探索Edge AI的創新用例和新興趨勢。
- 解決Edge AI部署中的高級倫理和安全問題。
使用Huawei Ascend和CANN開發AI應用程式
21 時間:Huawei Ascend 是一系列专为高性能推理和训练设计的AI处理器。
本课程为讲师指导的培训(线上或线下),面向中级AI工程师和数据科学家,旨在帮助他们使用华为的Ascend平台和CANN工具包开发和优化神经网络模型。
在本培训结束时,参与者将能够:
- 设置和配置CANN开发环境。
- 使用MindSpore和CloudMatrix工作流开发AI应用。
- 使用自定义运算符和分块优化Ascend NPU的性能。
- 将模型部署到边缘或云环境。
课程形式
- 互动讲座和讨论。
- 在示例应用中动手使用Huawei Ascend和CANN工具包。
- 专注于模型构建、训练和部署的指导练习。
课程定制选项
- 如需根据您的基础设施或数据集定制本课程,请联系我们安排。
使用CANN和Ascend AI處理器部署AI模型
14 時間:CANN(Neural Networks計算架構)是華爲的AI計算堆棧,用於在Ascend AI處理器上部署和優化AI模型。
本次由講師指導的培訓(線上或線下)面向中級AI開發人員和工程師,旨在幫助他們使用CANN工具包及MindSpore、TensorFlow或PyTorch等工具,將訓練好的AI模型高效部署到Huawei Ascend硬件上。
通過本次培訓,學員將能夠:
- 瞭解CANN架構及其在AI部署流程中的作用。
- 將來自流行框架的模型轉換爲與Ascend兼容的格式。
- 使用ATC、OM模型轉換和MindSpore等工具進行邊緣和雲端推理。
- 診斷部署問題並優化Ascend硬件上的性能。
課程形式
- 互動式講座和演示。
- 使用CANN工具和Ascend模擬器或設備進行動手實驗。
- 基於真實AI模型的實際部署場景。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
構建邊緣AI解決方案
14 時間:本次由講師指導的線下或線上培訓,面向中級開發者、數據科學家和技術愛好者,旨在幫助他們掌握在各種應用中在邊緣設備上部署AI模型的實用技能。
培訓結束後,參與者將能夠:
- 理解Edge AI的原理及其優勢。
- 設置和配置邊緣計算環境。
- 開發、訓練和優化用於邊緣部署的AI模型。
- 在邊緣設備上實現實用的AI解決方案。
- 評估並改進邊緣部署模型的性能。
- 解決Edge AI應用中的倫理和安全問題。
CANN AI 框架開發者入門
7 時間:CANN(Neural Networks的計算架構)是華爲的AI計算工具包,用於在Ascend AI處理器上編譯、優化和部署AI模型。
本次由講師指導的培訓(線上或線下)面向初級的AI開發者,旨在幫助他們瞭解CANN如何融入從訓練到部署的模型生命週期,以及它如何與MindSpore、TensorFlow和PyTorch等框架協作。
在培訓結束時,參與者將能夠:
- 理解CANN工具包的用途和架構。
- 搭建包含CANN和MindSpore的開發環境。
- 將簡單的AI模型轉換並部署到Ascend硬件上。
- 爲未來的CANN優化或集成項目打下基礎。
課程形式
- 互動式講座和討論。
- 實踐實驗,包含簡單模型部署。
- 逐步講解CANN工具鏈和集成點。
課程定製選項
- 如需定製本課程,請聯繫我們安排。
理解華為AI計算堆疊:從CANN到MindSpore
14 時間:華爲的AI技術棧——從底層的CANN SDK到高層的MindSpore框架——提供了一個緊密集成的AI開發和部署環境,專爲Ascend硬件優化。
本次由講師指導的培訓(線上或線下)面向初級到中級的技術專業人員,旨在幫助他們理解CANN和MindSpore組件如何協同工作,以支持AI生命週期管理和基礎設施決策。
培訓結束後,學員將能夠:
- 理解華爲AI計算棧的分層架構。
- 瞭解CANN如何支持模型優化和硬件級部署。
- 評估MindSpore框架和工具鏈,並與行業替代方案進行比較。
- 將華爲的AI技術棧定位到企業或雲/本地環境中。
課程形式
- 互動講座與討論。
- 即時系統演示和基於案例的講解。
- 可選的指導實驗,涵蓋從MindSpore到CANN的模型流程。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
使用CANN SDK優化神經網絡性能
14 時間:CANN SDK(Neural Networks 的計算架構)是華為的 AI 計算基礎,允許開發者在 Ascend AI 處理器上微調和優化已部署的神經網絡性能。
這是一個由講師主導的培訓(線上或線下),旨在針對高級 AI 開發者和系統工程師,他們希望使用 CANN 的先進工具集(包括 Graph Engine、TIK 和自定義算子開發)來優化推理性能。
培訓結束時,參與者將能夠:
- 了解 CANN 的運行時架構和性能生命周期。
- 使用性能分析工具和 Graph Engine 進行性能分析和優化。
- 使用 TIK 和 TVM 創建和優化自定義算子。
- 解決內存瓶頸並提高模型吞吐量。
課程形式
- 互動式講座和討論。
- 實時性能分析和算子調優的實踐實驗室。
- 使用邊緣案例部署示例的優化練習。
課程定制選項
- 如需為此課程請求定制培訓,請聯繫我們進行安排。
CANN SDK for Computer Vision and NLP Pipelines
14 時間:CANN SDK(Neural Networks 的计算架构)为计算机视觉和自然语言处理(NLP)中的实时AI应用提供了强大的部署和优化工具,特别是在Huawei Ascend硬件上。
本课程为讲师指导的培训(线上或线下),面向中级AI从业者,旨在帮助他们使用CANN SDK构建、部署和优化视觉与语言模型,以应对实际生产用例。
培训结束后,学员将能够:
- 使用CANN和AscendCL部署和优化CV与NLP模型。
- 使用CANN工具转换模型并将其集成到实时管道中。
- 优化检测、分类和情感分析等任务的推理性能。
- 为边缘或云端部署场景构建实时CV/NLP管道。
课程形式
- 互动讲座与演示。
- 动手实验:模型部署与性能分析。
- 使用真实CV和NLP用例设计实时管道。
课程定制选项
- 如需为本课程定制培训,请联系我们进行安排。
使用CANN TIK和TVM构建自定义AI算子
14 時間:CANN TIK(張量指令內核)和Apache TVM能夠對Huawei Ascend硬件的AI模型操作符進行高級優化和定製。
本次由講師指導的培訓(線上或線下)面向高級系統開發者,旨在幫助他們使用CANN的TIK編程模型和TVM編譯器集成,構建、部署和調優AI模型的自定義操作符。
培訓結束後,參與者將能夠:
- 使用TIK DSL爲Ascend處理器編寫和測試自定義AI操作符。
- 將自定義操作符集成到CANN運行時和執行圖中。
- 使用TVM進行操作符調度、自動調優和基準測試。
- 調試和優化自定義計算模式的指令級性能。
課程形式
- 互動講座與演示。
- 使用TIK和TVM管道進行實際操作符編碼。
- 在Ascend硬件或模擬器上進行測試和調優。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
邊緣人工智能在自主系統中的應用
14 時間:本次由講師指導的線下或線上培訓,面向中級機器人工程師、自動駕駛汽車開發者和AI研究人員,旨在幫助他們利用Edge AI技術開發創新的自主系統解決方案。
培訓結束後,參與者將能夠:
- 理解Edge AI在自主系統中的作用和優勢。
- 開發和部署用於邊緣設備即時處理的AI模型。
- 在自動駕駛汽車、無人機和機器人中實施Edge AI解決方案。
- 使用Edge AI設計和優化控制系統。
- 解決自主AI應用中的倫理和監管問題。
Edge AI:從概念到實現
14 時間:本次由講師指導的澳門(線上或線下)培訓面向中級開發人員和IT專業人士,旨在幫助他們全面瞭解Edge AI從概念到實際實施的全過程,包括設置和部署。
培訓結束後,學員將能夠:
- 理解Edge AI的基本概念。
- 設置和配置Edge AI環境。
- 開發、訓練和優化Edge AI模型。
- 部署和管理Edge AI應用。
- 將Edge AI與現有系統和工作流集成。
- 解決Edge AI實施中的倫理問題,並瞭解最佳實踐。
Edge AI 醫療應用
14 時間:本課程爲講師主導的澳門(線上或線下)培訓,面向希望利用Edge AI開發創新醫療解決方案的中級醫療專業人員、生物醫學工程師和AI開發者。
通過本培訓,學員將能夠:
- 瞭解Edge AI在醫療領域的作用和優勢。
- 在邊緣設備上開發和部署用於醫療應用的AI模型。
- 在可穿戴設備和診斷工具中實施Edge AI解決方案。
- 設計和部署基於Edge AI的患者監護系統。
- 解決醫療AI應用中的倫理和監管問題。
Edge AI 在物聯網應用中的應用
14 時間:本次由講師指導的線下或線上培訓,面向中級開發人員、系統架構師和行業專業人士,旨在幫助他們利用Edge AI增強物聯網應用的智能數據處理和分析能力。
培訓結束後,學員將能夠:
- 理解Edge AI的基礎知識及其在物聯網中的應用。
- 爲物聯網設備設置和配置Edge AI環境。
- 在邊緣設備上開發和部署用於物聯網應用的AI模型。
- 在物聯網系統中實現即時數據處理和決策。
- 將Edge AI與各種物聯網協議和平臺集成。
- 解決Edge AI在物聯網中的倫理問題和最佳實踐。
Edge AI 簡介
14 時間:本課程爲講師指導的澳門(線上或線下)培訓,面向希望瞭解Edge AI基礎知識及其入門應用的初級開發者和IT專業人士。
通過本培訓,參與者將能夠:
- 理解Edge AI的基本概念和架構。
- 設置和配置Edge AI環境。
- 開發和部署簡單的Edge AI應用。
- 識別並理解Edge AI的用例和優勢。
邊緣AI中的安全與隱私
14 時間:本課程爲講師主導的澳門(線上或線下)培訓,面向中級網絡安全專業人員、系統管理員和AI倫理研究人員,旨在幫助他們安全且符合倫理地部署Edge AI解決方案。
培訓結束後,學員將能夠:
- 瞭解Edge AI中的安全和隱私挑戰。
- 實施保護邊緣設備和數據的最佳實踐。
- 制定策略,緩解Edge AI部署中的安全風險。
- 解決倫理問題,並確保符合法規要求。
- 對Edge AI應用進行安全評估和審計。