聯繫我們

課程簡介

Cambricon和MLU架構介紹

  • Cambricon AI芯片組合概覽
  • MLU架構及指令流水線
  • 支持的模型類型和使用案例

安裝開發工具鏈

  • 安裝BANGPy與Neuware SDK
  • 為Python和C++設置環境
  • 模型兼容性與預處理

使用BANGPy進行模型開發

  • Tensor結構與形狀管理
  • 計算圖構建
  • BANGPy自定義操作支持

使用Neuware Runtime部署

  • 轉換加載模型
  • 執行與推理控制
  • 邊緣和數據中心部署實踐

性能優化

  • 內存映射層調優
  • 執行追蹤和概要分析
  • 常見瓶頸及其解決方法

將MLU集成到應用程序

  • 使用Neuware API進行應用集成
  • 串流與多模型支持
  • 混合CPU-MLU推理場景

端到端項目和使用案例

  • 實驗室:部署視覺或NLP模型
  • BANGPy整合邊緣推理
  • 測試準確性與吞吐量

總結及後續步驟

最低要求

  • 了解機器學習模型結構
  • 有Python和/或C++使用經驗
  • 熟悉模型部署和加速概念

受眾

  • 嵌入式AI開發人員
  • 向邊緣或數據中心部署的ML工程師
  • 與中國AI基礎設施協同工作的開發人員
 21 小時

客戶評論 (1)

課程分類