Cambricon MLU Development with BANGPy and Neuware培訓
Cambricon MLUs (Machine Learning 单元) 是专为边缘和数据中心场景中的推理和训练优化的AI芯片。
本次由讲师指导的培训(线上或线下)面向中级开发者,旨在帮助他们使用BANGPy框架和Neuware SDK在Cambricon MLU硬件上构建和部署AI模型。
通过本次培训,参与者将能够:
- 设置和配置BANGPy和Neuware开发环境。
- 开发和优化基于Python和C++的模型,适用于Cambricon MLUs。
- 将模型部署到运行Neuware运行时的边缘和数据中心设备。
- 将ML工作流与MLU特定的加速功能集成。
课程形式
- 互动式讲座和讨论。
- 动手实践,使用BANGPy和Neuware进行开发和部署。
- 指导练习,专注于优化、集成和测试。
课程定制选项
- 如需根据您的Cambricon设备型号或使用场景定制本次培训,请联系我们安排。
課程簡介
Cambricon與MLU架構介紹
- Cambricon AI晶片產品概覽
- MLU架構與指令流水線
- 支援的模型類型與應用場景
安裝開發工具鏈
- 安裝BANGPy與Neuware SDK
- Python與C++的環境設置
- 模型兼容性與預處理
使用BANGPy進行模型開發
- 張量結構與形狀管理
- 計算圖構建
- BANGPy中的自定義操作支援
使用Neuware Runtime進行部署
- 模型轉換與加載
- 執行與推理控制
- 邊緣與數據中心部署實踐
性能優化
- 內存映射與層調優
- 執行追蹤與性能分析
- 常見瓶頸與解決方案
將MLU整合至應用中
- 使用Neuware APIs進行應用整合
- 串流與多模型支援
- 混合CPU-MLU推理場景
端到端項目與Use Case
- 實驗室:部署視覺或NLP模型
- 使用BANGPy整合進行邊緣推理
- 測試準確性與吞吐量
總結與下一步
最低要求
- 了解機器學習模型結構
- 具備Python和/或C++的經驗
- 熟悉模型部署與加速概念
目標受眾
- 嵌入式AI開發者
- 部署至邊緣或數據中心的ML工程師
- 使用中國AI基礎設施的開發者
需要幫助選擇合適的課程嗎?
Cambricon MLU Development with BANGPy and Neuware培訓 - Enquiry
Cambricon MLU Development with BANGPy and Neuware - 咨詢詢問
咨詢詢問
相關課程
Advanced Edge AI Techniques
14 時間:這種以講師為主導的 澳門(在線或現場)現場培訓面向希望掌握邊緣 AI 最新進展、優化其 AI 模型以進行邊緣部署並探索跨各個行業的專業應用的高級 AI 從業者、研究人員和開發人員。
在培訓結束時,參與者將能夠:
- 探索邊緣 AI 模型開發和優化中的高級技術。
- 實施在邊緣設備上部署 AI 模型的尖端策略。
- 將專用工具和框架用於高級邊緣 AI 應用程式。
- 優化邊緣 AI 解決方案的性能和效率。
- 探索邊緣 AI 的創新用例和新興趨勢。
- 解決邊緣 AI 部署中的高級道德和安全注意事項。
Building AI Solutions on the Edge
14 時間:這種以講師為主導的 澳門(在線或現場)現場培訓面向希望獲得在邊緣設備上為各種應用程式部署 AI 模型的實用技能的中級開發人員、數據科學家和技術愛好者。
在培訓結束時,參與者將能夠:
- 了解邊緣 AI 的原理及其優勢。
- 設置和配置邊緣計算環境。
- 開發、訓練和優化用於邊緣部署的 AI 模型。
- 在邊緣設備上實施實用的 AI 解決方案。
- 評估和改進邊緣部署模型的性能。
- 解決邊緣 AI 應用程式中的道德和安全注意事項。
Migrating CUDA Applications to Chinese GPU Architectures
21 時間:中國的GPU架構,如Huawei Ascend、Biren和Cambricon MLU,提供了專為本地AI和HPC市場量身定制的CUDA替代方案。
這項由講師指導的培訓(線上或線下)旨在為高級GPU程式設計師和基礎設施專家提供遷移和優化現有CUDA應用程序,以便在中國硬件平台上部署的能力。
培訓結束後,參與者將能夠:
- 評估現有CUDA工作負載與中國芯片替代方案的兼容性。
- 將CUDA代碼庫移植到華為CANN、Biren SDK和Cambricon BANGPy環境中。
- 比較性能並識別跨平台的優化點。
- 解決跨架構支持和部署中的實際挑戰。
課程形式
- 互動式講座和討論。
- 實踐代碼翻譯和性能比較實驗。
- 專注於多GPU適應策略的指導練習。
課程定制選項
- 如需根據您的平台或CUDA項目定制培訓,請聯繫我們安排。
Edge AI in Autonomous Systems
14 時間:這種由講師指導的現場澳門(在線或現場)培訓面向希望利用邊緣人工智慧提供創新自主系統解決方案的中級機器人工程師、自動駕駛汽車開發人員和人工智慧研究人員。
在培訓結束時,參與者將能夠:
- 瞭解邊緣 AI 在自主系統中的作用和優勢。
- 開發和部署 AI 模型,以便在邊緣設備上進行即時處理。
- 在自動駕駛汽車、無人機和機器人技術中實施邊緣 AI 解決方案。
- 使用 Edge AI 設計和優化控制系統。
- 解決自主 AI 應用中的道德和監管考慮。
Edge AI: From Concept to Implementation
14 時間:這種由講師指導的 澳門(在線或現場)實時培訓面向希望全面了解邊緣 AI 從概念到實際實施(包括設置和部署)的中級開發人員和 IT 專業人員。
在培訓結束時,參與者將能夠:
- 了解邊緣 AI 的基本概念。
- 設置和配置邊緣 AI 環境。
- 開發、訓練和優化邊緣 AI 模型。
- 部署和管理邊緣 AI 應用程式。
- 將邊緣 AI 與現有系統和工作流整合。
- 解決邊緣 AI 實施中的道德考慮和最佳實踐。
Edge AI for Financial Services
14 時間:這種以講師為主導的澳門(在線或現場)現場培訓面向希望在金融服務中實施邊緣人工智慧解決方案的中級金融專業人士、金融科技開發人員和人工智慧專家。
在培訓結束時,參與者將能夠:
- 了解邊緣 AI 在金融服務中的作用。
- 使用 Edge AI 實施欺詐檢測系統。
- 通過 AI 驅動的解決方案增強客戶服務。
- 應用邊緣 AI 進行風險管理和決策。
- 在金融環境中部署和管理邊緣 AI 解決方案。
Edge AI for Healthcare
14 時間:這種以講師為主導的澳門(在線或現場)現場培訓面向希望利用邊緣 AI 提供創新醫療保健解決方案的中級醫療保健專業人員、生物醫學工程師和 AI 開發人員。
在培訓結束時,參與者將能夠:
- 了解邊緣 AI 在醫療保健中的作用和優勢。
- 在醫療保健應用的邊緣設備上開發和部署 AI 模型。
- 在可穿戴設備和診斷工具中實施邊緣 AI 解決方案。
- 使用邊緣 AI 設計和部署患者監護系統。
- 解決醫療保健 AI 應用程式中的道德和監管考慮因素。
Edge AI in Industrial Automation
14 時間:這種以講師為主導的澳門(在線或現場)現場培訓面向希望在工業自動化中實施邊緣 AI 解決方案的中級工業工程師、製造專業人員和 AI 開發人員。
在培訓結束時,參與者將能夠:
- 了解邊緣 AI 在工業自動化中的作用。
- 使用Edge AI實施預測性維護解決方案。
- 在製造過程中應用人工智慧技術進行品質控制。
- 使用邊緣 AI 優化工業流程。
- 在工業環境中部署和管理邊緣 AI 解決方案。
Edge AI for IoT Applications
14 時間:這種以講師為主導的 澳門(在線或現場)現場培訓面向希望利用邊緣 AI 通過智慧數據處理和分析功能增強物聯網應用程式的中級開發人員、系統架構師和行業專業人士。
在培訓結束時,參與者將能夠:
- 瞭解邊緣 AI 基礎知識及其在物聯網中的應用。
- 為IoT設備設置和配置邊緣 AI 環境。
- 在邊緣設備上為IoT應用程式開發和部署 AI 模型。
- 在物聯網系統中實現即時數據處理和決策。
- 將邊緣 AI 與各種物聯網協定和平臺整合。
- 解決面向物聯網的邊緣 AI 中的道德考量和最佳實踐。
Edge AI for Smart Cities
14 時間:這種以講師為主導的現場澳門(在線或現場)培訓面向希望利用邊緣人工智慧實施智慧城市計劃的中級城市規劃師、土木工程師和智慧城市項目經理。
在培訓結束時,參與者將能夠:
- 了解邊緣 AI 在智慧城市基礎設施中的作用。
- 實施用於流量管理和監控的邊緣 AI 解決方案。
- 使用邊緣 AI 技術優化城市資源。
- 將邊緣 AI 與現有的智慧城市系統整合。
- 解決智慧城市部署中的道德和監管考慮因素。
Edge AI with TensorFlow Lite
14 時間:這種由講師指導的 澳門(在線或現場)實時培訓面向希望利用 TensorFlow Lite 進行邊緣 AI 應用程式的中級開發人員、數據科學家和 AI 從業者。
在培訓結束時,參與者將能夠:
- 瞭解 TensorFlow Lite 的基礎知識及其在邊緣 AI 中的作用。
- 使用 TensorFlow Lite 開發和優化 AI 模型。
- 在各種邊緣設備上部署 TensorFlow Lite 模型。
- 利用工具和技術進行模型轉換和優化。
- 使用 TensorFlow Lite 實現實用的邊緣 AI 應用程式。
Introduction to Edge AI
14 時間:這種以講師為主導的 澳門(在線或現場)現場培訓面向希望了解邊緣 AI 及其入門應用程式基礎知識的初級開發人員和 IT 專業人員。
在培訓結束時,參與者將能夠:
- 瞭解邊緣 AI 的基本概念和架構。
- 設置和配置邊緣 AI 環境。
- 開發和部署簡單的邊緣 AI 應用程式。
- 識別並了解邊緣 AI 的用例和優勢。
Optimizing AI Models for Edge Devices
14 時間:這種由講師指導的 澳門(在線或現場)實時培訓面向希望優化 AI 模型以進行邊緣部署的中級 AI 開發人員、機器學習工程師和系統架構師。
在培訓結束時,參與者將能夠:
- 瞭解在邊緣設備上部署 AI 模型的挑戰和要求。
- 應用模型壓縮技術來減小 AI 模型的大小和複雜性。
- 利用量化方法提高邊緣硬體上的模型效率。
- 實施修剪和其他優化技術以提高模型性能。
- 在各種邊緣設備上部署優化的 AI 模型。
Performance Optimization on Ascend, Biren, and Cambricon
21 時間:Ascend、Biren 和 Cambricon 是中國領先的 AI 硬體平台,各自提供獨特的加速和性能分析工具,用於生產規模的 AI 工作負載。
這項由講師指導的培訓(線上或線下)針對高級 AI 基礎設施和性能工程師,旨在優化跨多個中國 AI 晶片平台的模型推理和訓練工作流程。
在培訓結束時,參與者將能夠:
- 在 Ascend、Biren 和 Cambricon 平台上進行模型基準測試。
- 識別系統瓶頸和記憶體/計算效率低下的問題。
- 應用圖層級、核心層級和操作層級的優化。
- 調整部署管道以提高吞吐量和減少延遲。
課程形式
- 互動式講座和討論。
- 在每個平台上實際使用性能分析和優化工具。
- 專注於實際調整情境的指導練習。
課程定制選項
- 如需根據您的性能環境或模型類型定制此課程,請聯繫我們安排。
Security and Privacy in Edge AI
14 時間:這種以講師為主導的 澳門(在線或現場)現場培訓面向希望保護和合乎道德地部署邊緣 AI 解決方案的中級網路安全專業人員、系統管理員和 AI 倫理研究人員。
在培訓結束時,參與者將能夠:
- 瞭解邊緣 AI 中的安全和隱私挑戰。
- 實施保護邊緣設備和數據的最佳實踐。
- 制定策略以降低邊緣 AI 部署中的安全風險。
- 解決道德考慮並確保遵守法規。
- 對邊緣 AI 應用程式進行安全評估和審計。