微調開源大型語言模型 (LLaMA、Mistral、Qwen 等)培訓
微調開源大型語言模型，是希望在其安全、具成本效益且私密的環境中客製化 AI 能力之組織的新興最佳實踐。
此種由講師指導的即時培訓（線上或線下），旨在幫助具有中級水準的機器學習從業者與人工智慧開發人員，為特定業務或內部應用而微調並部署 LLaMA、Mistral 及 Qwen 等開源權重模型。
完成本培訓後，學員將能夠：
- 理解開源大型語言模型的生態體系及其差異。
- 為 LLaMA、Mistral 及 Qwen 等模型準備資料集與微調設定。
- 使用 Hugging Face Transformers 和 PEFT 執行微調流程。
- 在安全環境中評估、儲存並部署已微調的模型。
課程格式
- 互動式講座與討論。
- 大量的練習與實作。
- 在即時實驗室環境中進行實作。
課程客製化選項
- 如需為本課程申請客製化培訓，請與我們聯繫以安排。
課程簡介
開源大型語言模型簡介
- 什麼是開源權重模型及其重要性。
- LLaMA、Mistral、Qwen 及其他社群模型的概覽。
- 私有、本地或安全部署的應用場景。
環境設定與工具
- 安裝和配置 Transformers、Datasets 以及 PEFT 函式庫。
- 選擇適合的微調硬體。
- 從 Hugging Face 或其他倉儲載入預訓練模型。
資料準備與預處理
- 資料集格式（指令微調、對話資料、純文字）。
- 詞元化（Tokenization）與序列管理。
- 建立自訂資料集與資料載入器。
微調技術
- 標準全量微調與參數高效方法之比較。
- 應用 LoRA 和 QLoRA 進行高效微調。
- 使用 Trainer API 快速進行實驗。
模型評估與最佳化
- 利用生成效果與準確率指標評估微調模型。
- 管理過擬合、泛化能力及驗證集。
- 效能調整技巧與記錄。
部署與私有應用
- 儲存與載入用於推論的模型。
- 在安全企業環境中部署已微調的模型。
- 本地與雲端部署策略比較。
案例研究與應用場景
- LLaMA、Mistral 和 Qwen 在企業應用的範例。
- 處理多語言與領域特定的微調。
- 討論：開源模型與封閉式模型之間的權衡。
總結與後續步驟
最低要求
- 了解大型語言模型 (LLM) 及其架構。
- 具備 Python 和 PyTorch 的使用經驗。
- 對 Hugging Face 生態體系有基本熟悉度。
受眾
- 機器學習從業者
- 人工智慧開發人員
需要幫助選擇合適的課程嗎？
macao@nobleprog.com 或 +852 81990613
微調開源大型語言模型 (LLaMA、Mistral、Qwen 等)培訓 - 詢問
微調開源大型語言模型 (LLaMA、Mistral、Qwen 等) - 咨詢詢問
相關課程
進階 LangGraph：優化、除錯與監控複雜圖
35 小時使用 Devstral 構建編碼智能體：從設計到工具整合
14 小時在澳門 澳門 舉行的這堂現場培訓中，精通 Devstral。課程涵蓋架構、智能體工作流設計及工具整合。該課程理想適合高級工程師，透過動手實驗室構建能提升現代開發環境中生產力與安全性的編碼智能體。
開源模型運維：使用 Devstral 與 Mistral 模型進行自我託管、微調與治理
14 小時這門在 澳門 進行的講師實時培訓課程，旨在幫助機械學習工程師掌握 Devstral 和 Mistral 模型的自我託管與微調技巧。學員將學習實務性的治理、監控及合規技術，以便在生產環境中自信地部署開源人工智能。
金融領域的 LangGraph 應用
35 小時LangGraph 基礎：基於圖的 LLM 提示與鏈接
14 小時LangGraph 在醫療領域的應用：受監管環境下的工作流程編排
35 小時LangGraph 在法務應用程式中的應用
35 小時利用 LangGraph 與 LLM 智能體構建動態工作流程
14 小時LangGraph 用於營銷自動化
14 小時Le Chat Enterprise：私人ChatOps、整合與管理員控制
14 小時本澳門內的即時培訓涵蓋 Le Chat Enterprise，這是一款用於安全、受治理對話式 AI 的私有 ChatOps 解決方案。學員將學習如何部署、配置並將其與企業應用進行整合，從而啟用 RBAC、SSO 及基於合規性的控制措施，以實現可擴展且安全的 AI 工作流。
具成本效益的 LLM 架構：大規模 Mistral（效能／成本工程）
14 小時透過這門 澳門 的 14 小時實時培訓，掌握具成本效益的 Mistral LLM 架構。學習如何部署、優化並擴展 Mistral Medium 3，利用批次處理、量化及高效服務策略，針對企業工作負載實現最大吞吐量與最低成本。
使用 Mistral 連接器與整合功能將對話式助手產品化
14 小時本實時培訓課程涵蓋將 Mistral 對話式助手整合至企業工作流程的內容。澳門 參與者將學習連接 SaaS 工具、實施檢索增強生成（RAG），並為面向客戶及內部的聊天界面設計有效的用戶體驗（UX）模式。
使用 Mistral Medium 3 進行企業級部署
14 小時這門在 澳門 舉行的講師主導培訓，協助高級 AI 工程師部署並保護 Mistral Medium 3。您將學習如何優化推理成本、實作多模態應用場景，並應用企業合規實務。課程包含 API 及自託管設置的動手實驗室。
Mistral 負責任 AI：隱私、資料駐留及企業級控制
14 小時這門在 澳門 舉行的 Mistral 負責任 AI 現場培訓課程，專為合規及安全負責人設計。學員將掌握隱私保護技術、資料駐留策略，以及 RBAC 和 SSO 等企業級控制機制，以確保 AI 部署的安全與合規性。
使用 Mistral 模型構建多模態應用（視覺、OCR 及文件理解）
14 小時學習使用 Mistral 模型構建多模態應用，重點關注 OCR、文件理解及視覺-文本搜索。這門實戰培訓涵蓋管道實現、NLP 集成及企業級設計，可線上或在 澳門 進行。
