聯繫我們
 課程時長 21 時間:

課程簡介

基础:代理式AI的威胁模型

  • 代理式威胁类型:滥用、权限提升、数据泄露及供应链风险
  • 针对自主代理的对手画像及攻击者能力
  • 映射代理的资产、信任边界及关键控制点

治理、政策与风险管理

  • 代理式系统的治理框架(角色、职责、审批关卡)
  • 政策设计:可接受使用规范、升级规则、数据处理及可审计性
  • 合规性考量及审计证据收集

代理的非人类身份与认证

  • 设计代理身份:服务账户、JWT及短期凭证
  • 最小权限访问模式及即时凭证机制
  • 身份生命周期、轮换、委派及撤销策略

访问控制、密钥与数据保护

  • 针对代理的细粒度访问控制模型及基于能力的模式
  • 密钥管理、传输中及静态时的加密,以及数据最小化
  • 保护敏感知识来源及个人身份信息(PII),防止代理未经授权的访问

可观测性、审计与事件响应

  • 设计代理行为的遥测系统:意图追踪、命令日志及来源追溯
  • SIEM集成、告警阈值及取证准备
  • 针对代理相关事件及遏制措施的运行手册及操作剧本

代理式系统的红队测试

  • 规划红队演练:范围、交战规则及安全回退机制
  • 对抗性技术:提示词注入、工具滥用、思维链操纵及API滥用
  • 执行受控攻击并衡量暴露面及影响程度

强化与缓解措施

  • 工程控制:响应节流、能力门控及沙箱隔离
  • 政策与编排控制:审批流程、人在回路(Human-in-the-loop)及治理挂钩
  • 模型及提示词层防御:输入验证、规范化及输出过滤

安全代理部署的运营化

  • 部署模式:代理的暂存环境、金丝雀发布及渐进式推出
  • 变更控制、测试流水线及部署前安全检查
  • 跨职能治理:安全、法务、产品及运维的操作剧本

毕业项目:红队 / 蓝队演练

  • 对沙箱化代理环境执行模拟红队攻击
  • 作为蓝队,利用控制措施及遥测系统进行防御、检测及修复
  • 提交调查结果、修复计划及政策更新建议

总结与后续步骤

最低要求

  • 具备扎实的安全工程、系统管理或云端运维背景
  • 熟悉AI/ML概念及大型语言模型(LLM)的行为特征
  • 拥有身份与访问管理(IAM)及安全系统设计的经验

目标受众

  • 安全工程师及红队成员
  • AI运维及平台工程师
  • 合规官员及风险管理人员
  • 负责代理部署的工程主管

客戶評論 (1)

課程分類