聯繫我們

課程簡介

華為 CloudMatrix 簡介

  • CloudMatrix 生態系統和部署流程
  • 支持的模型、格式和部署模式
  • 典型應用場景和支持的晶片

部署前的模型準備

  • 從訓練工具(MindSpore、TensorFlow、PyTorch)導出模型
  • 使用 ATC(Ascend Tensor Compiler)進行格式轉換
  • 靜態形狀與動態形狀模型

部署到 CloudMatrix

  • 服務創建和模型註冊
  • 通過 UI 或 CLI 部署推理服務
  • 路由、身份驗證和訪問控制

提供推理請求服務

  • 批量與實時推理流程
  • 數據預處理和後處理流程
  • 從外部應用調用 CloudMatrix 服務

監控與性能調優

  • 部署日誌和請求追蹤
  • 資源擴展和負載均衡
  • 延遲調優和吞吐量優化

與企業工具的集成

  • 將 CloudMatrix 與 OBS 和 ModelArts 連接
  • 使用工作流和模型版本控制
  • 模型部署和回滾的 CI/CD

端到端推理流程

  • 部署完整的圖像分類流程
  • 基準測試和準確性驗證
  • 模擬故障轉移和系統告警

總結與下一步

最低要求

  • 了解 AI 模型訓練工作流程
  • 具有 Python 機器學習框架的使用經驗
  • 熟悉基本的雲部署概念

目標受眾

  • AI 運營團隊
  • 機器學習工程師
  • 使用華為基礎設施的雲部署專員
 21 小時

客戶評論 (2)

課程分類