課程簡介

基礎:Agentic AI的威脅模型

  • Agentic威脅類型:濫用、升級、數據泄露和供應鏈風險。
  • 針對自主代理的對手畫像與攻擊能力。
  • 代理的資產映射、信任邊界和關鍵控制點。

治理、策略與風險管理

  • Agentic系統的治理框架(角色、職責、審批關卡)。
  • 策略設計:可接受使用、升級規則、數據處理與可審計性。
  • 合規考慮與審計證據收集。

非人類身份與代理認證

  • 設計代理身份:服務賬戶、JWTs和短期憑證。
  • 最小權限訪問模式與即時憑證管理。
  • 身份生命週期、輪換、委派與撤銷策略。

訪問控制、密鑰與數據保護

  • 細粒度訪問控制模型與基於能力的代理模式。
  • 密鑰管理、傳輸與靜態加密及數據最小化。
  • 保護敏感知識源與PII免受未授權代理訪問。

可觀測性、審計與事件響應

  • 設計代理行爲遙測:意圖追蹤、命令日誌與來源追溯。
  • SIEM集成、告警閾值與取證準備。
  • 代理相關事件與遏制的運行手冊與劇本。

Agentic系統紅隊測試

  • 策劃紅隊演練:範圍、參與規則與安全故障轉移。
  • 對抗技術:提示注入、工具濫用、思維鏈操縱與API濫用。
  • 執行受控攻擊並評估暴露與影響。

加固與緩解措施

  • 工程控制:響應限速、能力限制與沙盒化。
  • 策略與編排控制:審批流程、人在迴路與治理鉤子。
  • 模型與提示級防禦:輸入驗證、規範化與輸出過濾。

安全代理部署的運營化

  • 部署模式:分階段、金絲雀與漸進式代理發佈。
  • 變更控制、測試管道與預部署安全檢查。
  • 跨職能治理:安全、法律、產品與運維劇本。

最終項目:紅隊/藍隊演練

  • 在沙盒代理環境中執行模擬紅隊攻擊。
  • 作爲藍隊使用控制與遙測進行防禦、檢測與修復。
  • 展示發現、修復計劃與策略更新。

總結與後續步驟

最低要求

  • 紮實的安全工程、系統管理或雲運維背景。
  • 熟悉AI/ML概念及大語言模型(LLM)行爲。
  • 具備身份與訪問管理(IAM)和安全系統設計經驗。

目標受衆

  • 安全工程師與紅隊成員。
  • AI運維與平臺工程師。
  • 合規官與風險經理。
  • 負責代理部署的工程負責人。
 21 時間:

課程分類