大型語言模型(LLMs)簡介培訓
Large Language Models (LLMs) 是深度神經網路模型,可以根據給定的輸入或上下文生成自然語言文本。它們使用來自各種域和來源的大量文本數據進行訓練,並且可以捕獲自然語言的句法和語義模式。LLM 在各種自然語言任務上取得了令人印象深刻的成果,例如文本摘要、問答、文本生成等。
此講師指導的現場培訓(在線或現場)面向希望使用大型語言模型完成各種自然語言任務的初級到中級開發人員。
在本次培訓結束時,參與者將能夠:
- 設置包含常用 LLM 的開發環境。
- 創建基本 LLM 並在自訂數據集上對其進行微調。
- 將 LLM 用於不同的自然語言任務,例如文本摘要、問答、文字生成等。
- 使用 TensorBoard、PyTorch Lightning 和 Hugging Face Datasets 等工具調試和評估 LLM。
課程形式
- 互動講座和討論。
- 大量的練習和練習。
- 在即時實驗室環境中動手實施。
課程自定義選項
- 要申請本課程的定製培訓,請聯繫我們進行安排。
課程簡介
介紹
- 什麼是 Large Language Models (LLMs)?
- LLM 與傳統 NLP 模型
- LLM 功能和架構概述
- LLM 的挑戰和局限性
瞭解 LLM
- LLM的生命週期
- LLM 的工作原理
- LLM 的主要元件:編碼器、解碼器、注意力、嵌入等。
開始
- 設置開發環境
- 將 LLM 安裝為開發工具,例如 Google Colab, Hugging Face
使用 LLM
- 探索可用的 LLM 選項
- 創建和使用 LLM
- 在自訂數據集上微調 LLM
文本摘要
- 瞭解文本摘要的任務及其應用
- 使用 LLM 進行抽取式和抽象式文本摘要
- 使用 ROUGE、BLEU 等指標評估生成的摘要的品質。
問答
- 瞭解問答的任務及其應用
- 使用 LLM 進行開放域和封閉域問答
- 使用 F1、EM 等指標評估生成答案的準確性。
文本生成
- 瞭解文本生成的任務及其應用
- 使用 LLM 產生條件和無條件文本
- 使用 temperature、top-k、top-p 等參數控制生成文本的樣式、語氣和內容。
將 LLM 與其他框架和平臺整合
- 將 LLM 與 PyTorch 或 TensorFlow 一起使用
- 將 LLM 與 Flask 或 Streamlit 一起使用
- 將 LLM 與 Google Cloud 或 AWS 結合使用
故障排除
- 瞭解 LLM 中的常見錯誤和錯誤
- 使用 TensorBoard 監控和可視化訓練過程
- 使用 PyTorch Lightning 簡化訓練代碼並提高性能
- 使用 Hugging Face 數據集載入和預處理數據
總結和後續步驟
最低要求
- 瞭解自然語言處理和深度學習
- 使用 Python 和 PyTorch 或 TensorFlow 的經驗
- 基本程式設計經驗
觀眾
- 開發人員
- NLP愛好者
- 數據科學家
需要幫助選擇合適的課程嗎?
大型語言模型(LLMs)簡介培訓 - Enquiry
大型語言模型(LLMs)簡介 - 咨詢詢問
咨詢詢問
相關課程
高級LangGraph:複雜圖的優化、調試與監控
35 時間:LangGraph 是一個用於構建具狀態、多參與者 LLM 應用程式的框架,其特點是可組合的圖結構、持久狀態以及對執行的控制。
這是一個由講師主導的培訓課程(線上或線下),旨在為高階 AI 平台工程師、AI DevOps 工程師以及處理生產級 LangGraph 系統的 ML 架構師提供優化、調試、監控和運營的相關技能。
在本課程結束時,參與者將能夠:
- 設計並優化複雜的 LangGraph 拓撲結構,以實現速度、成本和可擴展性的最佳化。
- 通過重試、超時、冪等性和基於檢查點的恢復來實現可靠性工程。
- 調試和追蹤圖執行過程,檢查狀態,並系統性地重現生產問題。
- 為圖添加日誌、指標和追蹤,部署到生產環境,並監控 SLA 和成本。
課程形式
- 互動式講座與討論。
- 大量練習與實踐。
- 在即時實驗環境中進行實作。
課程定制選項
- 如需定制本課程,請聯繫我們進行安排。
使用 Devstral 構建編碼代理:從代理設計到工具化
14 時間:Devstral 是一個開源框架,旨在構建和運行編碼代理,這些代理可以與代碼庫、開發者工具和 API 交互,以提升工程效率。
本課程由講師指導,採用線上或線下培訓形式,面向中高級 ML 工程師、開發者工具團隊以及 SRE,幫助他們使用 Devstral 設計、實現和優化編碼代理。
通過本課程,學員將能夠:
- 設置和配置 Devstral 以進行編碼代理開發。
- 設計用於代碼庫探索和修改的代理工作流。
- 將編碼代理與開發者工具和 API 集成。
- 實施安全和高效代理部署的最佳實踐。
課程形式
- 互動式講座和討論。
- 大量練習和實踐。
- 在即時實驗室環境中進行動手操作。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
Open-Source Model Ops: Self-Hosting, Fine-Tuning and Governance with Devstral & Mistral Models
14 時間:Devstral and Mistral models are open-source AI technologies designed for flexible deployment, fine-tuning, and scalable integration.
This instructor-led, live training (online or onsite) is aimed at intermediate–level to advanced–level ML engineers, platform teams, and research engineers who wish to self-host, fine-tune, and govern Mistral and Devstral models in production environments.
By the end of this training, participants will be able to:
- Set up and configure self-hosted environments for Mistral and Devstral models.
- Apply fine-tuning techniques for domain-specific performance.
- Implement versioning, monitoring, and lifecycle governance.
- Ensure security, compliance, and responsible usage of open-source models.
Format of the Course
- Interactive lecture and discussion.
- Hands-on exercises in self-hosting and fine-tuning.
- Live-lab implementation of governance and monitoring pipelines.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
LangGraph在金融領域的應用
35 時間:LangGraph 是一個用於構建有狀態、多參與者 LLM 應用的框架,通過可組合的圖結構實現持久狀態和執行控制。
本次由講師主導的培訓(線上或線下)面向中級到高級專業人士,旨在幫助他們設計、實施和運營基於 LangGraph 的金融解決方案,確保其具備適當的治理、可觀測性和合規性。
通過本次培訓,參與者將能夠:
- 設計與監管和審計要求一致的金融專用 LangGraph 工作流。
- 將金融數據標準和本體集成到圖狀態和工具中。
- 爲關鍵流程實施可靠性、安全性和人工介入控制。
- 部署、監控和優化 LangGraph 系統,以滿足性能、成本和 SLA 要求。
課程形式
- 互動式講座與討論。
- 大量練習與實踐。
- 在即時實驗室環境中進行實際操作。
課程定製選項
- 如需定製本課程,請聯繫我們安排。
LangGraph基礎:基於圖的LLM提示與鏈式編程
14 時間:LangGraph 是一個用於構建圖結構 LLM 應用的框架,支持規劃、分支、工具使用、內存和可控執行。
本次由講師指導的培訓(線上或線下)面向初級開發者、提示工程師和數據從業者,旨在幫助他們使用 LangGraph 設計和構建可靠的多步驟 LLM 工作流。
培訓結束後,參與者將能夠:
- 解釋 LangGraph 的核心概念(節點、邊、狀態)及其使用場景。
- 構建支持分支、調用工具和保持內存的提示鏈。
- 將檢索和外部 API 集成到圖工作流中。
- 測試、調試和評估 LangGraph 應用的可靠性和安全性。
課程形式
- 互動講座和引導討論。
- 在沙盒環境中進行指導實驗和代碼演練。
- 基於場景的設計、測試和評估練習。
課程定製選項
- 如需爲此課程定製培訓,請聯繫我們安排。
LangGraph在醫療保健中的應用:受監管環境中的工作流編排
35 時間:LangGraph 支持由 LLM 驅動的有狀態、多參與者工作流,並能精確控制執行路徑和狀態持久化。在醫療領域,這些功能對於合規性、互操作性以及構建符合醫療工作流的決策支持系統至關重要。
本次講師主導的培訓(線上或線下)面向中高級專業人員,旨在幫助他們設計、實施和管理基於 LangGraph 的醫療解決方案,同時應對監管、道德和操作挑戰。
培訓結束後,參與者將能夠:
- 設計符合合規性和可審計性的醫療專用 LangGraph 工作流。
- 將 LangGraph 應用與醫療本體和標準(FHIR、SNOMED CT、ICD)集成。
- 在敏感環境中應用可靠性、可追溯性和可解釋性的最佳實踐。
- 在醫療生產環境中部署、監控和驗證 LangGraph 應用。
課程形式
- 互動式講座與討論。
- 基於真實案例的實踐練習。
- 在即時實驗環境中進行實施實踐。
課程定製選項
- 如需定製本課程,請聯繫我們安排。
LangGraph 法律應用
35 時間:LangGraph 是一個框架,用於構建具有持久狀態和執行精確控制的多參與者 LLM 應用程序,作爲可組合的圖。
本次由講師指導的培訓(線上或線下)面向中高級專業人士,旨在幫助他們設計、實施和操作基於 LangGraph 的法律解決方案,並確保必要的合規性、可追溯性和治理控制。
通過本次培訓,參與者將能夠:
- 設計特定於法律的 LangGraph 工作流程,確保可審計性和合規性。
- 將法律本體和文檔標準集成到圖狀態和處理中。
- 實施防護措施、人工審批和可追溯的決策路徑。
- 在生產環境中部署、監控和維護 LangGraph 服務,確保可觀測性和成本控制。
課程形式
- 互動式講座和討論。
- 大量練習和實踐。
- 在即時實驗室環境中進行實際操作。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
使用LangGraph和LLM代理構建動態工作流
14 時間:LangGraph 是一個用於構建圖結構 LLM 工作流的框架,支持分支、工具使用、內存和可控執行。
本次由講師指導的培訓(線上或線下)面向中級工程師和產品團隊,他們希望將 LangGraph 的圖邏輯與 LLM 代理循環相結合,以構建動態、上下文感知的應用程序,如客戶支持代理、決策樹和信息檢索系統。
在培訓結束時,參與者將能夠:
- 設計基於圖的工作流,協調 LLM 代理、工具和內存。
- 實現條件路由、重試和回退,以確保穩健執行。
- 將檢索、API 和結構化輸出集成到代理循環中。
- 評估、監控並強化代理行爲,以確保可靠性和安全性。
課程形式
- 互動講座和引導討論。
- 在沙盒環境中進行引導實驗和代碼演練。
- 基於場景的設計練習和同行評審。
課程定製選項
- 如需爲此課程定製培訓,請聯繫我們安排。
LangGraph用於營銷自動化
14 時間:LangGraph 是一個基於圖的編排框架,支持條件化、多步驟的 LLM 和工具工作流,非常適合自動化和個性化內容管道。
本課程由講師主導,提供線上或線下培訓,面向中級營銷人員、內容策略師和自動化開發人員,旨在幫助他們使用 LangGraph 實現動態、分支的電子郵件營銷活動和內容生成管道。
在本培訓結束時,參與者將能夠:
- 設計具有條件邏輯的圖結構內容和電子郵件工作流。
- 集成 LLM、API 和數據源以實現自動化個性化。
- 在多步驟營銷活動中管理狀態、記憶和上下文。
- 評估、監控和優化工作流性能和交付結果。
課程形式
- 互動式講座和小組討論。
- 動手實驗,實現電子郵件工作流和內容管道。
- 基於場景的練習,涵蓋個性化、分段和分支邏輯。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們進行安排。
Le Chat Enterprise:私有ChatOps、集成與管理控制
14 時間:Le Chat Enterprise 是一款私有的 ChatOps 解決方案,爲組織提供安全、可定製且受管控的對話式 AI 功能,支持 RBAC、SSO、連接器以及企業應用集成。
本次由講師主導的培訓(線上或線下)面向中級產品經理、IT 負責人、解決方案工程師以及安全/合規團隊,旨在幫助他們部署、配置和管理企業環境中的 Le Chat Enterprise。
培訓結束後,參與者將能夠:
- 爲安全部署設置和配置 Le Chat Enterprise。
- 啓用 RBAC、SSO 和合規驅動的控制。
- 將 Le Chat 與企業應用程序和數據存儲集成。
- 爲 ChatOps 設計和實施治理和管理手冊。
課程形式
- 互動式講座和討論。
- 大量練習和實踐。
- 在即時實驗環境中進行實際操作。
課程定製選項
- 如需爲此課程定製培訓,請聯繫我們安排。
高性價比LLM架構:大規模Mistral(性能/成本工程)
14 時間:Mistral 是一個高性能的大型語言模型系列,專爲經濟高效的大規模生產部署而優化。
本課程爲講師指導的培訓(線上或線下),面向高級基礎設施工程師、雲架構師和 MLOps 負責人,旨在幫助他們設計、部署和優化基於 Mistral 的架構,以實現最大吞吐量和最低成本。
通過本培訓,參與者將能夠:
- 爲 Mistral Medium 3 實施可擴展的部署模式。
- 應用批處理、量化和高效服務策略。
- 在保持性能的同時優化推理成本。
- 爲企業工作負載設計生產就緒的服務拓撲。
課程形式
- 互動式講座和討論。
- 大量練習和實踐。
- 在即時實驗室環境中進行實際操作。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
Productizing Conversational Assistants with Mistral Connectors & Integrations
14 時間:Mistral AI is an open AI platform that enables teams to build and integrate conversational assistants into enterprise and customer-facing workflows.
This instructor-led, live training (online or onsite) is aimed at beginner-level to intermediate-level product managers, full-stack developers, and integration engineers who wish to design, integrate, and productize conversational assistants using Mistral connectors and integrations.
By the end of this training, participants will be able to:
- Integrate Mistral conversational models with enterprise and SaaS connectors.
- Implement retrieval-augmented generation (RAG) for grounded responses.
- Design UX patterns for internal and external chat assistants.
- Deploy assistants into product workflows for real-world use cases.
Format of the Course
- Interactive lecture and discussion.
- Hands-on integration exercises.
- Live-lab development of conversational assistants.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
企業級部署與Mistral Medium 3
14 時間:Mistral Medium 3 是一款高性能、多模態的大型語言模型,專爲在企業環境中進行生產級部署而設計。
本課程爲講師指導的線下或線上培訓,面向希望在企業用例中部署、優化和保護 Mistral Medium 3 的中級到高級 AI/ML 工程師、平臺架構師和 MLOps 團隊。
培訓結束後,參與者將能夠:
- 使用 API 和自託管選項部署 Mistral Medium 3。
- 優化推理性能和成本。
- 使用 Mistral Medium 3 實現多模態用例。
- 在企業環境中應用安全和合規最佳實踐。
課程形式
- 互動講座和討論。
- 大量練習和實踐。
- 在即時實驗室環境中進行動手實踐。
課程定製選項
- 如需爲此課程定製培訓,請聯繫我們安排。
Mistral for Responsible AI: Privacy, Data Residency & Enterprise Controls
14 時間:Mistral AI is an open and enterprise-ready AI platform that provides features for secure, compliant, and responsible AI deployment.
This instructor-led, live training (online or onsite) is aimed at intermediate-level compliance leads, security architects, and legal/ops stakeholders who wish to implement responsible AI practices with Mistral by leveraging privacy, data residency, and enterprise control mechanisms.
By the end of this training, participants will be able to:
- Implement privacy-preserving techniques in Mistral deployments.
- Apply data residency strategies to meet regulatory requirements.
- Set up enterprise-grade controls such as RBAC, SSO, and audit logs.
- Evaluate vendor and deployment options for compliance alignment.
Format of the Course
- Interactive lecture and discussion.
- Compliance-focused case studies and exercises.
- Hands-on implementation of enterprise AI controls.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Multimodal Applications with Mistral Models (Vision, OCR, & Document Understanding)
14 時間:Mistral models are open-source AI technologies that now extend into multimodal workflows, supporting both language and vision tasks for enterprise and research applications.
This instructor-led, live training (online or onsite) is aimed at intermediate-level ML researchers, applied engineers, and product teams who wish to build multimodal applications with Mistral models, including OCR and document understanding pipelines.
By the end of this training, participants will be able to:
- Set up and configure Mistral models for multimodal tasks.
- Implement OCR workflows and integrate them with NLP pipelines.
- Design document understanding applications for enterprise use cases.
- Develop vision-text search and assistive UI functionalities.
Format of the Course
- Interactive lecture and discussion.
- Hands-on coding exercises.
- Live-lab implementation of multimodal pipelines.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.