聯繫我們

課程簡介

寒武紀及 MLU 架構入門

  • 寒武紀 AI 晶片產品組合概覽
  • MLU 架構與指令流水線
  • 支援的模型類型及應用場景

安裝開發工具鏈

  • 安裝 BANGPy 和 Neuware SDK
  • Python 和 C++ 環境配置
  • 模型兼容性與預處理

使用 BANGPy 進行模型開發

  • 張量結構與形狀管理
  • 計算圖構建
  • BANGPy 中的自定義算子支援

使用 Neuware 運行時進行部署

  • 模型轉換與載入
  • 執行與推理控制
  • 邊緣及數據中心部署實務

效能優化

  • 記憶體映射與層級調優
  • 執行追蹤與性能分析
  • 常見瓶頸及解決方案

將 MLU 整合至應用程序

  • 使用 Neuware API 進行應用整合
  • 流式處理與多模型支援
  • CPU-MLU 混合推理場景

端到端項目與用例

  • 實驗室:部署視覺或 NLP 模型
  • 結合 BANGPy 的邊緣推理
  • 測試準確率與吞吐量

總結與後續步驟

最低要求

  • 了解機器學習模型結構
  • 具備 Python 和/或 C++ 開發經驗
  • 熟悉模型部署與加速相關概念

受眾

  • 嵌入式 AI 開發人員
  • 部署於邊緣或數據中心的 ML 工程師
  • 從事中國 AI 基礎設施開發的開發人員
 21 小時

客戶評論 (1)

課程分類