聯繫我們

課程簡介

開源大型語言模型簡介

  • 什麼是開源權重模型及其重要性。
  • LLaMA、Mistral、Qwen 及其他社群模型的概覽。
  • 私有、本地或安全部署的應用場景。

環境設定與工具

  • 安裝和配置 Transformers、Datasets 以及 PEFT 函式庫。
  • 選擇適合的微調硬體。
  • 從 Hugging Face 或其他倉儲載入預訓練模型。

資料準備與預處理

  • 資料集格式(指令微調、對話資料、純文字)。
  • 詞元化(Tokenization)與序列管理。
  • 建立自訂資料集與資料載入器。

微調技術

  • 標準全量微調與參數高效方法之比較。
  • 應用 LoRA 和 QLoRA 進行高效微調。
  • 使用 Trainer API 快速進行實驗。

模型評估與最佳化

  • 利用生成效果與準確率指標評估微調模型。
  • 管理過擬合、泛化能力及驗證集。
  • 效能調整技巧與記錄。

部署與私有應用

  • 儲存與載入用於推論的模型。
  • 在安全企業環境中部署已微調的模型。
  • 本地與雲端部署策略比較。

案例研究與應用場景

  • LLaMA、Mistral 和 Qwen 在企業應用的範例。
  • 處理多語言與領域特定的微調。
  • 討論:開源模型與封閉式模型之間的權衡。

總結與後續步驟

最低要求

  • 了解大型語言模型 (LLM) 及其架構。
  • 具備 Python 和 PyTorch 的使用經驗。
  • 對 Hugging Face 生態體系有基本熟悉度。

受眾

  • 機器學習從業者
  • 人工智慧開發人員
 14 小時

課程分類