聯繫我們

課程簡介

利用 CANN 進行 CV/NLP 部署簡介

  • AI 模型生命週期:從訓練到部署
  • 即時 CV 和 NLP 的關鍵效能考量
  • CANN SDK 工具概覽及其在模型整合中的角色

準備 CV 和 NLP 模型

  • 從 PyTorch、TensorFlow 和 MindSpore 匯出模型
  • 處理圖像和文字任務的模型輸入與輸出
  • 使用 ATC 將模型轉換為 OM 格式

使用 AscendCL 部署推理流水線

  • 透過 AscendCL API 執行 CV/NLP 推理
  • 前置處理流水線:圖像縮放、標記化、正規化
  • 後置處理:邊界框、分類分數、文字輸出

效能優化技術

  • 使用 CANN 工具分析 CV 和 NLP 模型效能
  • 透過混合精度與批次調校降低延遲
  • 管理串流任務的記憶體與運算資源

電腦視覺應用案例

  • 應用案例:智慧監控中的物體檢測
  • 應用案例:製造業中的視覺品質檢驗
  • 在昇騰 310 上構建即時影片分析流水線

自然語言處理應用案例

  • 應用案例:情感分析和意圖偵測
  • 應用案例:文件分類和摘要生成
  • 透過 REST API 和訊息系統進行即時 NLP 整合

總結與下一步行動

最低要求

  • 熟悉用於電腦視覺或自然語言處理的深度學習
  • 具備 Python 和 AI 框架(如 TensorFlow、PyTorch 或 MindSpore)的實作經驗
  • 對模型部署或推理工作流程有基本了解

受眾

  • 使用華為昇騰平台的電腦視覺和自然語言處理從業人員
  • 開發即時感知模型的數據科學家和 AI 工程師
  • 在製造業、監控或媒體分析領域整合 CANN 流水線的開發人員
 14 小時

課程分類