大型語言模型 (LLMs) 介紹培訓
大型語言模型 (LLMs) 是一種深度神經網絡，能夠根據給定的輸入或上下文生成自然語言文本。它們在來自各種領域和來源的大量文本數據上進行訓練，並能捕捉自然語言的句法和語義模式。LLMs 在文本摘要、問答系統、文本生成等多種自然語言任務中取得了令人印象深刻的成果。
本課程由講師主導，提供現場（線上或線下）實戰培訓，適合希望將大型語言模型應用於各種自然語言任務的初級至中級開發人員。
完成本培訓後，參與者將能夠：
- 搭建包含流行 LLM 的開發環境。
- 創建基礎 LLM 並在自定義數據集上進行微調。
- 將 LLMs 應用於文本摘要、問答系統、文本生成等多種自然語言任務。
- 使用 TensorBoard、PyTorch Lightning 和 Hugging Face Datasets 等工具調試和評估 LLMs。
課程形式
- 互動式講授與討論。
- 大量的練習與實戰。
- 在實時實驗室環境中進行動手實踐。
課程定製選項
- 如需為本課程申請定制培訓，請聯繫我們安排。
課程簡介
簡介
- 什麼是大型語言模型 (LLMs)?
- LLMs 與傳統 NLP 模型的比較
- LLM 的特點與架構概述
- LLMs 面臨的挑戰與限制
理解 LLMs
- LLM 的生命週期
- LLM 的工作原理
- LLM 的主要組件：編碼器、解碼器、注意力機制、嵌入層等。
入門指南
- 設置開發環境
- 安裝 LLM 作為開發工具，例如 Google Colab、Hugging Face
使用 LLMs
- 探索可用的 LLM 選項
- 創建和使用 LLM
- 在自定義數據集上對 LLM 進行微調
文本摘要
- 了解文本摘要任務及其應用
- 使用 LLM 進行抽取式和生成式文本摘要
- 使用 ROUGE、BLEU 等指標評估生成摘要的質量。
問答系統
- 了解問答系統任務及其應用
- 使用 LLM 進行開放域和封閉域的問答
- 使用 F1、EM 等指標評估生成答案的準確性。
文本生成
- 了解文本生成任務及其應用
- 使用 LLM 進行條件和非條件文本生成
- 通過調整溫度、top-k、top-p 等參數控制生成文本的風格、語調和內容。
將 LLMs 與其他框架和平台集成
- 在 PyTorch 或 TensorFlow 中使用 LLMs
- 在 Flask 或 Streamlit 中使用 LLMs
- 在 Google Cloud 或 AWS 中使用 LLMs
故障排除
- 了解 LLMs 中常見的錯誤和 bug。
- 使用 TensorBoard 監控和可視化訓練過程。
- 使用 PyTorch Lightning 簡化訓練代碼並提高性能。
- 使用 Hugging Face Datasets 加載和預處理數據。
總結與下一步
最低要求
- 具備自然語言處理和深度學習的知識
- 擁有 Python 及 PyTorch 或 TensorFlow 的使用經驗
- 基本的編程經驗
受眾對象
- 開發人員
- NLP 愛好者
- 數據科學家
需要幫助選擇合適的課程嗎？
macao@nobleprog.com 或 +852 81990613
大型語言模型 (LLMs) 介紹培訓 - 詢問
大型語言模型 (LLMs) 介紹 - 咨詢詢問
相關課程
進階 LangGraph：優化、除錯與監控複雜圖
35 小時使用 Devstral 構建編碼智能體：從設計到工具整合
14 小時在澳門 澳門 舉行的這堂現場培訓中，精通 Devstral。課程涵蓋架構、智能體工作流設計及工具整合。該課程理想適合高級工程師，透過動手實驗室構建能提升現代開發環境中生產力與安全性的編碼智能體。
開源模型運維：使用 Devstral 與 Mistral 模型進行自我託管、微調與治理
14 小時這門在 澳門 進行的講師實時培訓課程，旨在幫助機械學習工程師掌握 Devstral 和 Mistral 模型的自我託管與微調技巧。學員將學習實務性的治理、監控及合規技術，以便在生產環境中自信地部署開源人工智能。
金融領域的 LangGraph 應用
35 小時LangGraph 基礎：基於圖的 LLM 提示與鏈接
14 小時LangGraph 在醫療領域的應用：受監管環境下的工作流程編排
35 小時LangGraph 在法務應用程式中的應用
35 小時利用 LangGraph 與 LLM 智能體構建動態工作流程
14 小時LangGraph 用於營銷自動化
14 小時Le Chat Enterprise：私人ChatOps、整合與管理員控制
14 小時本澳門內的即時培訓涵蓋 Le Chat Enterprise，這是一款用於安全、受治理對話式 AI 的私有 ChatOps 解決方案。學員將學習如何部署、配置並將其與企業應用進行整合，從而啟用 RBAC、SSO 及基於合規性的控制措施，以實現可擴展且安全的 AI 工作流。
具成本效益的 LLM 架構：大規模 Mistral（效能／成本工程）
14 小時透過這門 澳門 的 14 小時實時培訓，掌握具成本效益的 Mistral LLM 架構。學習如何部署、優化並擴展 Mistral Medium 3，利用批次處理、量化及高效服務策略，針對企業工作負載實現最大吞吐量與最低成本。
使用 Mistral 連接器與整合功能將對話式助手產品化
14 小時本實時培訓課程涵蓋將 Mistral 對話式助手整合至企業工作流程的內容。澳門 參與者將學習連接 SaaS 工具、實施檢索增強生成（RAG），並為面向客戶及內部的聊天界面設計有效的用戶體驗（UX）模式。
使用 Mistral Medium 3 進行企業級部署
14 小時這門在 澳門 舉行的講師主導培訓，協助高級 AI 工程師部署並保護 Mistral Medium 3。您將學習如何優化推理成本、實作多模態應用場景，並應用企業合規實務。課程包含 API 及自託管設置的動手實驗室。
Mistral 負責任 AI：隱私、資料駐留及企業級控制
14 小時這門在 澳門 舉行的 Mistral 負責任 AI 現場培訓課程，專為合規及安全負責人設計。學員將掌握隱私保護技術、資料駐留策略，以及 RBAC 和 SSO 等企業級控制機制，以確保 AI 部署的安全與合規性。
使用 Mistral 模型構建多模態應用（視覺、OCR 及文件理解）
14 小時學習使用 Mistral 模型構建多模態應用，重點關注 OCR、文件理解及視覺-文本搜索。這門實戰培訓涵蓋管道實現、NLP 集成及企業級設計，可線上或在 澳門 進行。
