聯繫我們

課程簡介

檢索增強生成(RAG)簡介

  • RAG 是什麼以及它為何對企業 AI 至關重要
  • RAG 系統的組件:檢索器、生成器、文件儲存庫
  • 與獨立大型語言模型及向量搜尋的比較

設定 RAG 管線

  • 安裝與配置 Haystack 或類似框架
  • 文件 ingestion 與預處理
  • 將檢索器連接至向量資料庫(例如 FAISS、Pinecone)

微調檢索器

  • 使用領域特定資料訓練密集檢索器
  • 運用句子轉換器與對比學習
  • 使用 top-k 準確度評估檢索器品質
  • <

微調生成器

  • 選擇基礎模型(例如 BART、T5、FLAN-T5)
  • 指令微調與監督式微調之比較
  • 運用 LoRA 及 PEFT 方法進行高效更新

評估與最佳化

  • 評估 RAG 效能的指標(例如 BLEU、EM、F1)
  • 延遲、檢索品質及虛假資訊減少
  • 實驗追蹤與迭代改進

部署與現實世界整合

  • 在內部搜尋引擎與聊天機器人中部署 RAG
  • 安全、資料存取與治理考量
  • 與 API、儀表板或知識入口網站的整合

案例研究與最佳實踐

  • 金融、醫療保健與法律領域的企業應用場景
  • 管理領域漂移與知識庫更新
  • 檢索增強型 LLM 系統的發展方向

總結與下一步行動

最低要求

  • 具備自然語言處理(NLP)概念的基礎知識
  • 擁有基於轉換器架構的語言模型使用經驗
  • 熟悉 Python 及基本機器學習工作流程

目標受眾

  • NLP工程師
  • 知識管理團隊
 14 小時

課程分類