聯繫我們

課程簡介

邊緣與代理式 AI 簡介

  • 代理式 AI 和邊緣計算概覽。
  • 延遲、隱私和頻寬考量。
  • 架構比較:雲端 versus 邊緣代理。

設計輕量級代理架構

  • 分解受限系統的代理循環。
  • 用於高效運算的非同步設計。
  • 平衡自主性與連線能力。

設定開發環境

  • 安裝用於邊緣 AI 的 Python 框架。
  • 配置 TensorFlow Lite 和 PyTorch Mobile。
  • 在 Raspberry Pi 或類似設備上部署測試環境。

實現設備端推理

  • 轉換並量化模型以部署至邊緣。
  • 使用 TensorFlow Lite 和 ONNX Runtime 運行推理。
  • 將推理結果整合至代理決策循環。

將代理與硬體及 IoT 整合

  • 連線感測器、執行器和 IoT 模組。
  • 本地資料收集與處理管道。
  • 離線運作與事件觸發行為。

最佳化與監控

  • 針對低功耗和高速度進行效能調優。
  • 邊緣快取和模型壓縮技術。
  • 監控和除錯邊緣代理。

實作專案:在邊緣硬體上部署輕量級代理

  • 為 IoT 或機器人任務設計小型自主代理。
  • 實現模型推理和本地邏輯。
  • 針對延遲和可靠性進行測試與優化。

總結與下一步

最低要求

  • 具備 Python 程式設計經驗。
  • 對機器學習工作流程有基礎了解。
  • 熟悉嵌入式或邊緣計算概念。

受訓對象

  • 將 AI 整合至硬體系統的嵌入式開發人員。
  • 設計設備端推理方案的邊緣 ML 工程師。
  • 部署代理式 AI 以實現自主運作的機器人團隊。
 21 小時

課程分類