課程簡介

邊緣AI與Nano Banana簡介

  • 邊緣AI工作負載的關鍵特性。
  • Nano Banana的架構與功能。
  • 邊緣與雲部署策略的對比。

準備模型進行邊緣部署

  • 模型選擇與基線評估。
  • 依賴性與兼容性考慮。
  • 導出模型以進一步優化。

模型壓縮技術

  • 剪枝策略與結構稀疏性。
  • 權重共享與參數減少。
  • 評估壓縮效果。

量化提升邊緣性能

  • 後訓練量化方法。
  • 量化感知訓練工作流程。
  • INT8、FP16與混合精度方法。

使用Nano Banana加速

  • 使用Nano Banana加速器。
  • 集成ONNX與硬件後端。
  • 加速推理的基準測試。

部署到邊緣設備

  • 將模型集成到嵌入式或移動應用中。
  • 運行時配置與監控。
  • 排查部署問題。

性能分析與權衡評估

  • 延遲、吞吐量與熱約束。
  • 準確性與性能的權衡。
  • 迭代優化策略。

維護邊緣AI系統的最佳實踐

  • 版本控制與持續更新。
  • 模型回滾與兼容性管理。
  • 安全性與完整性考慮。

總結與下一步

最低要求

  • 瞭解機器學習工作流程。
  • 具備基於Python的模型開發經驗。
  • 熟悉神經網絡架構。

受衆

  • ML工程師。
  • 數據科學家。
  • MLOps從業者。
 14 時間:

客戶評論 (1)

課程分類