聯繫我們

課程簡介

大型模型優化入門

  • 大型模型架構概述
  • 微調大型模型的挑戰
  • 具成本效益優化的重要性

分散式訓練技術

  • 資料與模型並行性介紹
  • 分散式訓練框架:PyTorch 與 TensorFlow
  • 跨多個 GPU 和節點擴展

模型量化與剪枝

  • 理解量化技術
  • 應用剪枝以減少模型大小
  • 準確性與效率之間的權衡

硬體優化

  • 為微調任務選擇合適的硬體
  • 優化 GPU 和 TPU 利用率
  • 使用專用加速器處理大型模型

高效資料管理

  • 管理大量資料集的戰略
  • 用於效能的前處理與批次處理
  • 資料增強技術

部署優化後的模型

  • 部署微調後模型的技術
  • 監控與維持模型效能
  • 優化模型部署的現實案例

進階優化技術

  • 探索低秩適應 (LoRA)
  • 使用適配器進行模組化微調
  • 模型優化的未來趨勢

總結與下一步

最低要求

  • 具備 PyTorch 或 TensorFlow 等深度學習框架的經驗
  • 熟悉大型語言模型及其應用
  • 理解分散式計算概念

受眾

  • 機器學習工程師
  • 雲端 AI 專家
 21 小時

課程分類