課程簡介

邊緣與代理式AI簡介

  • 代理式AI與邊緣計算概述
  • 延遲、隱私與帶寬的考量
  • 架構對比:雲代理與邊緣代理

設計輕量級代理架構

  • 爲受限系統分解代理循環
  • 異步設計以提高計算效率
  • 平衡自主性與連接性

設置開發環境

  • 安裝邊緣AI的Python框架
  • 配置TensorFlow Lite和PyTorch Mobile
  • 在Raspberry Pi或類似設備上部署測試環境

實現設備端推理

  • 轉換和量化模型以進行邊緣部署
  • 使用TensorFlow Lite和ONNX Runtime進行推理
  • 將推理結果集成到代理決策循環中

將代理與硬件和物聯網集成

  • 連接傳感器、執行器和物聯網模塊
  • 本地數據收集與處理管道
  • 離線操作與事件觸發行爲

優化與監控

  • 針對低功耗與高速進行性能調優
  • 邊緣緩存與模型壓縮技術
  • 監控與調試邊緣代理

實踐項目:在邊緣硬件上部署輕量級代理

  • 設計用於物聯網或機器人任務的小型自主代理
  • 實現模型推理與本地邏輯
  • 測試並優化延遲與可靠性

總結與後續步驟

最低要求

  • 具備Python編程經驗
  • 對機器學習工作流程有基本瞭解
  • 熟悉嵌入式或邊緣計算概念

受衆

  • 將AI集成到硬件系統中的嵌入式開發人員
  • 設計設備端推理解決方案的邊緣ML工程師
  • 部署代理式AI以實現自主操作的機器人團隊
 21 時間:

課程分類