檢索增強生成(RAG)系統的微調培訓
檢索增強生成(RAG)系統的微調,是指優化大型語言模型如何從外部來源檢索並生成與企業應用程式相關的資訊的過程。
此課程為講師帶領的現場培訓(線上或線下),目標受眾為希望微調 RAG 管線,以提升問答、企業搜尋及摘要應用場景表現的中階自然語言處理工程師和知識管理團隊。
完成本課程後,參與者將能夠:
- 理解 RAG 系統的架構與工作流程。
- 為領域特定資料微調檢索器與生成器組件。
- 評估 RAG 效能,並透過 PEFT 技術實施改進。
- 部署優化的 RAG 系統,供內部或生產環境使用。
課程形式
- 互動式講授與討論。
- 大量的練習與實作。
- 在實驗室環境中進行實作開發。
課程客製化選項
- 如需針對此課程提出客製化培訓需求,請聯絡我們安排。
課程簡介
檢索增強生成(RAG)簡介
- RAG 是什麼以及它為何對企業 AI 至關重要
- RAG 系統的組件:檢索器、生成器、文件儲存庫
- 與獨立大型語言模型及向量搜尋的比較
設定 RAG 管線
- 安裝與配置 Haystack 或類似框架
- 文件 ingestion 與預處理
- 將檢索器連接至向量資料庫(例如 FAISS、Pinecone)
微調檢索器
- 使用領域特定資料訓練密集檢索器
- 運用句子轉換器與對比學習
- 使用 top-k 準確度評估檢索器品質 <
微調生成器
- 選擇基礎模型(例如 BART、T5、FLAN-T5)
- 指令微調與監督式微調之比較
- 運用 LoRA 及 PEFT 方法進行高效更新
評估與最佳化
- 評估 RAG 效能的指標(例如 BLEU、EM、F1)
- 延遲、檢索品質及虛假資訊減少
- 實驗追蹤與迭代改進
部署與現實世界整合
- 在內部搜尋引擎與聊天機器人中部署 RAG
- 安全、資料存取與治理考量
- 與 API、儀表板或知識入口網站的整合
案例研究與最佳實踐
- 金融、醫療保健與法律領域的企業應用場景
- 管理領域漂移與知識庫更新
- 檢索增強型 LLM 系統的發展方向
總結與下一步行動
最低要求
- 具備自然語言處理(NLP)概念的基礎知識
- 擁有基於轉換器架構的語言模型使用經驗
- 熟悉 Python 及基本機器學習工作流程
目標受眾
- NLP工程師
- 知識管理團隊
需要幫助選擇合適的課程嗎?
macao@nobleprog.com 或 +852 81990613
檢索增強生成(RAG)系統的微調培訓 - 詢問
檢索增強生成(RAG)系統的微調 - 咨詢詢問
相關課程
Vertex AI中的進階微調與提示管理
14 小時Vertex AI提供先進工具,用於微調大型模型及管理提示,幫助開發人員和數據團隊優化模型準確性、簡化迭代工作流程,並透過內建程式庫與服務確保嚴謹的評估。
本課程為講師主導的實作培訓(線上或線下),旨在協助中階至高階從業者,利用監督式微調、提示版本控制以及Vertex AI中的評估服務,提升生成式AI應用程式的性能與可靠性。
完成本培訓後,學員將能夠:
- 在Vertex AI中應用監督式微調技術於Gemini模型。
- 實施包含版本控制與測試的提示管理工作流程。
- 利用評估程式庫進行基準測試並優化AI性能。
- 在生產環境中部署及監控改進後的模型。
課程形式
- 互動式講授與討論。
- 結合Vertex AI微調與提示工具的實作練習。
- 企業模型優化案例研究。
課程自訂選項
- 如需此課程的客製化培訓,請聯繫我們以進行安排。
遷移學習的高級技術
14 小時在澳門(線上或線下)進行的由講師指導的實時培訓,旨在讓高級機器學習專業人士掌握最前沿的遷移學習技術,並將它們應用於複雜的實際問題。
通過本培訓,參加者能夠:
- 理解遷移學習中的高級概念和方法論。
- 實現針對預訓練模型的特定領域適應技術。
- 應用持續學習來管理不斷演變的任務和數據集。
- 掌握多任務微調以增強跨任務的模型性能。
精細調整模型的持續學習與模型更新策略
14 小時這項由講師主導的實時培訓在澳門(線上或線下)進行,旨在幫助進階AI維護工程師和MLOps專業人員,為已部署的精細調整模型建立強大的持續學習管道及有效的更新策略。
完成本課程後,學員將能夠:
- 設計並實施已部署模型的持續學習工作流。
- 透過適當的訓練與記憶體管理,減輕災難性遺忘現象。
- 依據模型漂移或數據變化自動監控與觸發更新。
- 將模型更新策略整合至現有的CI/CD與MLOps管道。
在生產環境中部署微調模型
21 小時本課程為講師帶領的即時培訓(澳門線上或線下),目標對象為希望可靠且高效部署微調模型的高階專業人士。
完成本培訓後,學員將能夠:
- 理解將微調模型部署至生產環境所面臨的挑戰。
- 使用 Docker 和 Kubernetes 等工具進行模型容器化與部署。
- 為已部署的模型實施監控與日誌記錄。
- 在現實場景中最佳化模型的延遲與可擴展性。
面向金融領域的專屬微调
21 小時此由導師指導、現場進行 澳門(線上或線下)的培訓旨在為中級專業人士提供針對關鍵金融任務定制 AI 模型的實用技能。
通過本培訓,參與者將能夠:
- 了解金融應用中微调的基本原理。
- 利用預先訓練的模型進行金融領域專屬任務。
- 應用欺詐檢測、風險評估和財務諮詢生成的技術。
- 確保遵守 GDPR 和 SOX 等金融法規。
- 在金融應用中實施數據安全和道德 AI 實踐。
微調模型與大型語言模型(LLM)
14 小時這項由講師主導的實作培訓 澳門(線上或線下)旨在針對初級至中級,以及中級至高級專業人士,協助其自適應預訓練模型以應用於特定任務與數據集。
完成本培訓後,參與者將能夠:
- 理解微調的原則及其套用場景
- 準備用於微調預訓練模型的數據集
- 為自然語言處理(NLP)任務微調大型語言模型(LLM)
- 優化模型績效並解決常見挑戰
使用低秩適應 (LoRA) 進行高效微調
14 小時此位於 澳門(線上或線下)的講師主導實時培訓,旨在服務於希望在不依賴大量計算資源的情況下實現大型模型微調策略的中級開發人員和 AI 從業者。
完成本培訓後,學員將能夠:
- 理解低秩適應 (LoRA) 的基礎原理。
- 實施 LoRA 以高效微調大型模型。
- 優化資源受限環境中的微調流程。
- 評估並部署經過 LoRA 微調的模型用於實際應用。
微調多模態模型
28 小時本課程由講師指導,提供實時培訓(線上或線下),旨在幫助希望掌握多模態模型微調技能以開發創新AI解決方案的高級專業人士。
完成本培訓後,學員將能夠:
- 理解CLIP和Flamingo等模型的架構
- 有效準備和預處理多模態數據集
- 為特定任務微調多模態模型
- 優化模型在現實應用中的性能
自然語言處理(NLP)的微調
21 小時本課程由導師主導的實時培訓,地點在澳門(線上或線下),旨在協助中級專業人員透過有效微調預訓練語言模型,提升其NLP項目表現。
完成本培訓後,參與者將能夠:
- 理解NLP任務微調的基本原理。
- 針對特定NLP應用場景,對GPT、BERT和T5等預訓練模型進行微調。
- 優化超參數以提升模型性能。
- 評估並在現實場景中部署微調後的模型。
微調 AI 於金融服務:風險預測與欺詐偵測
14 小時這項由講師主導的現場培訓在 澳門(線上或線下)針對金融領域中高級別數據科學家和 AI 工程師,他們希望使用領域特定的金融數據來微調模型,應用於信用評分、欺詐偵測和風險建模等用途。
完成本課程後,學員將能夠:
- 在金融數據集上微調 AI 模型,以改善欺詐和風險預測。
- 應用遷移學習、LoRA 和正則化等技術以提高模型效率。
- 將金融合規考量整合到 AI 建模工作流中。
- 部署微調後的模型,供金融服務平台生產使用。
微調AI用於醫療保健:醫學診斷和預測性分析
14 小時這門由講師指導的現場培訓澳門(線上或線下)旨在為中級至高級醫療AI開發者和數據科學家提供臨床診斷、疾病預測及患者預後預測的微調技能,使用結構化和非結構化醫療數據。
完成此培訓後,參與者將能夠:
- 在包括電子病歷、影像和時間序列數據的醫療保健數據集上微調AI模型。
- 在醫療背景下應用遷移學習、領域適應和模型壓縮技術。
- 解決模型開發中的隱私、偏差和監管合規問題。
- 在現實世界的醫療保健環境中部署和監控微調後的模型。
微調 DeepSeek LLM 以建立客製化 AI 模型
21 小時此 澳門(線上或線下)講師主導的即時培訓,旨在幫助進階 AI 研究人員、機器學習工程師和開發者微調 DeepSeek LLM 模型,以建立適合特定行業、領域或業務需求的專用 AI 應用程式。
完成培訓後,學員將能夠:
- 了解 DeepSeek 模型的架構與功能,包括 DeepSeek-R1 和 DeepSeek-V3。
- 準備資料集並對資料進行微調前的預處理。
- 針對領域特定應用微調 DeepSeek LLM。
- 高效優化並部署經過微調的模型。
針對自主系統與監控的防禦AI微調防禦
14 小時這堂由講師主導的現場培訓,在澳門(線上或線下)進行,旨在為初級到進級的防禦AI工程師及軍事技術開發人員,提供如何微調深度學習模型用於自動駕駛車輛、無人機和監控系統的知識,並滿足嚴格的安防與可靠標準。
完成本課程後,學員將能夠:
- 微調計算機視覺和感測器融合模型以進行監視及目標定位任務。
- 使自主AI系統適應變化的環境和任務配置。
- 實施強大的驗證機制與故障保護措施於模型流水線中。
- 確保符合國防相關的合規性、安全性和可靠性標準。
微調法律AI模型:合約審閱與法律研究
14 小時這項在澳門(線上或線下)進行的由講師指導的現場培訓,旨在為中級的法律科技工程師和AI開發人員提供合約分析、條款提取以及法律服務環境中的自動化法律研究等任務的微調語言模型訓練。
通過本次培訓,參與者將能夠:
- 準備和清理用於微調NLP模型的法律文件。
- 應用微調策略以提高模型在法律任務上的準確性。
- 部署模型以協助進行合約審閱、分類和研究。
- 確保在法律情境下AI輸出的合規性、可審計性和可追溯性。
使用 QLoRA 微調大型語言模型
14 小時此由講師指導的實時培訓,在 澳門(線上或線下)舉行,面向初級到高級的機器學習工程師、AI開發人員和數據科學家,旨在教導如何使用 QLoRA 高效地為特定任務和自定義需求微調大型模型。
培訓結束後,參與者將能夠:
- 理解 QLoRA 理論及 LLMs 量化技術原理。
- 在領域特定應用程式中實施 QLoRA進行大型語言模型微調。
- 利用量化在有限計算資源上優化微調效能。
- 在實際應用中高效部署與評估經微調的模型。