聯繫我們

課程簡介

LLM架構與攻擊表面概覽

  • LLM如何建構、部署並透過API存取
  • LLM應用堆疊中的關鍵組件(例如提示、智能體、記憶體、API)
  • 實際應用中安全問題產生之處及原因

提示注入與越獄攻擊

  • 何為提示注入及其危險性
  • 直接與間接提示注入情境
  • 繞過安全過濾器的越獄技術
  • 偵測與減輕策略

資料外洩與隱私風險

  • 透過回應意外暴露的資料
  • 個人資訊外洩與模型記憶體誤用
  • 設計兼顧隱私的提示及檢索增強生成(RAG)

LLM輸出過濾與防護

  • 使用Guardrails AI進行內容過濾與驗證
  • 定義輸出模式與約束條件
  • 監控與記錄不安全輸出

人機互動與工作流方法

  • 何處及何時導入人工監督
  • 審核佇列、評分閾值、降級處理
  • 信任校準與可解釋性的角色

安全LLM應用設計模式

  • 最小權限原則及對API呼叫和智能體進行沙箱隔離
  • 速率限制、節流及濫用偵測
  • 結合LangChain與提示隔離的穩健串接

合規性、日誌與治理

  • 確保LLM輸出的可審計性
  • 維持追蹤性及提示/版本控制
  • 符合內部安全政策與法規需求

總結與下一步

最低要求

  • 了解大型語言模型及基於提示介面的概念
  • 具備使用Python建構LLM應用的經驗
  • 熟悉API整合與雲端部署

對象

  • AI開發人員
  • 應用程式及解決方案架構師
  • 使用LLM工具的產品經理
 14 小時

課程分類