感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程時長 21 時間:
課程簡介
基础:代理式AI的威胁模型
- 代理式威胁类型:滥用、权限提升、数据泄露及供应链风险
- 针对自主代理的对手画像及攻击者能力
- 映射代理的资产、信任边界及关键控制点
治理、政策与风险管理
- 代理式系统的治理框架(角色、职责、审批关卡)
- 政策设计:可接受使用规范、升级规则、数据处理及可审计性
- 合规性考量及审计证据收集
代理的非人类身份与认证
- 设计代理身份:服务账户、JWT及短期凭证
- 最小权限访问模式及即时凭证机制
- 身份生命周期、轮换、委派及撤销策略
访问控制、密钥与数据保护
- 针对代理的细粒度访问控制模型及基于能力的模式
- 密钥管理、传输中及静态时的加密,以及数据最小化
- 保护敏感知识来源及个人身份信息(PII),防止代理未经授权的访问
可观测性、审计与事件响应
- 设计代理行为的遥测系统:意图追踪、命令日志及来源追溯
- SIEM集成、告警阈值及取证准备
- 针对代理相关事件及遏制措施的运行手册及操作剧本
代理式系统的红队测试
- 规划红队演练:范围、交战规则及安全回退机制
- 对抗性技术:提示词注入、工具滥用、思维链操纵及API滥用
- 执行受控攻击并衡量暴露面及影响程度
强化与缓解措施
- 工程控制:响应节流、能力门控及沙箱隔离
- 政策与编排控制:审批流程、人在回路(Human-in-the-loop)及治理挂钩
- 模型及提示词层防御:输入验证、规范化及输出过滤
安全代理部署的运营化
- 部署模式:代理的暂存环境、金丝雀发布及渐进式推出
- 变更控制、测试流水线及部署前安全检查
- 跨职能治理:安全、法务、产品及运维的操作剧本
毕业项目:红队 / 蓝队演练
- 对沙箱化代理环境执行模拟红队攻击
- 作为蓝队,利用控制措施及遥测系统进行防御、检测及修复
- 提交调查结果、修复计划及政策更新建议
总结与后续步骤
最低要求
- 具备扎实的安全工程、系统管理或云端运维背景
- 熟悉AI/ML概念及大型语言模型(LLM)的行为特征
- 拥有身份与访问管理(IAM)及安全系统设计的经验
目标受众
- 安全工程师及红队成员
- AI运维及平台工程师
- 合规官员及风险管理人员
- 负责代理部署的工程主管
客戶評論 (1)
库存盘点及识别AI内部的不同风险敞口
Gary Cook - Cybersecurity and Information Technology Risk Division
課程 - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
機器翻譯