課程簡介

TinyML與嵌入式AI簡介

  • TinyML模型部署的特點
  • 微控制器環境中的約束
  • 嵌入式AI工具鏈概述

模型優化基礎

  • 理解計算瓶頸
  • 識別內存密集型操作
  • 基線性能分析

量化技術

  • 訓練後量化策略
  • 量化感知訓練
  • 評估準確性與資源權衡

剪枝與壓縮

  • 結構化和非結構化剪枝方法
  • 權重共享與模型稀疏性
  • 輕量級推理的壓縮算法

硬件感知優化

  • 在ARM Cortex-M系統上部署模型
  • 針對DSP和加速器擴展進行優化
  • 內存映射與數據流考慮

基準測試與驗證

  • 延遲與吞吐量分析
  • 功耗與能耗測量
  • 準確性與魯棒性測試

部署工作流與工具

  • 使用TensorFlow Lite Micro進行嵌入式部署
  • 將TinyML模型與Edge Impulse管道集成
  • 在真實硬件上進行測試與調試

高級優化策略

  • TinyML的神經架構搜索
  • 混合量化-剪枝方法
  • 嵌入式推理的模型蒸餾

總結與下一步

最低要求

  • 瞭解機器學習工作流程
  • 具備嵌入式系統或基於微控制器的開發經驗
  • 熟悉Python編程

目標受衆

  • AI研究人員
  • 嵌入式ML工程師
  • 從事資源受限推理系統工作的專業人員
 21 時間:

課程分類