安全與可信的Agentic AI:治理、身份管理與紅隊測試培訓
本課程涵蓋Agentic AI系統的治理、身份管理和對抗性測試,重點關注企業安全部署模式和實踐紅隊技術。
本次講師指導的培訓(線上或線下)面向希望在生產環境中設計、保護和評估基於代理的AI系統的高級從業者。
通過本培訓,學員將能夠:
- 定義安全Agentic AI部署的治理模型與策略。
- 設計非人類身份驗證流程,爲代理提供最小權限訪問。
- 實施針對自主代理的訪問控制、審計跟蹤和可觀測性。
- 策劃並執行紅隊演練,發現濫用、升級路徑和數據泄露風險。
- 通過策略、工程控制和監控緩解Agentic系統的常見威脅。
課程形式
- 互動講座與威脅建模工作坊。
- 實踐實驗室:身份配置、策略執行和對手模擬。
- 紅隊/藍隊演練及課程結束評估。
課程定製選項
- 如需定製本課程,請聯繫我們安排。
課程簡介
基礎:Agentic AI的威脅模型
- Agentic威脅類型:濫用、升級、數據泄露和供應鏈風險。
- 針對自主代理的對手畫像與攻擊能力。
- 代理的資產映射、信任邊界和關鍵控制點。
治理、策略與風險管理
- Agentic系統的治理框架(角色、職責、審批關卡)。
- 策略設計:可接受使用、升級規則、數據處理與可審計性。
- 合規考慮與審計證據收集。
非人類身份與代理認證
- 設計代理身份:服務賬戶、JWTs和短期憑證。
- 最小權限訪問模式與即時憑證管理。
- 身份生命週期、輪換、委派與撤銷策略。
訪問控制、密鑰與數據保護
- 細粒度訪問控制模型與基於能力的代理模式。
- 密鑰管理、傳輸與靜態加密及數據最小化。
- 保護敏感知識源與PII免受未授權代理訪問。
可觀測性、審計與事件響應
- 設計代理行爲遙測:意圖追蹤、命令日誌與來源追溯。
- SIEM集成、告警閾值與取證準備。
- 代理相關事件與遏制的運行手冊與劇本。
Agentic系統紅隊測試
- 策劃紅隊演練:範圍、參與規則與安全故障轉移。
- 對抗技術:提示注入、工具濫用、思維鏈操縱與API濫用。
- 執行受控攻擊並評估暴露與影響。
加固與緩解措施
- 工程控制:響應限速、能力限制與沙盒化。
- 策略與編排控制:審批流程、人在迴路與治理鉤子。
- 模型與提示級防禦:輸入驗證、規範化與輸出過濾。
安全代理部署的運營化
- 部署模式:分階段、金絲雀與漸進式代理發佈。
- 變更控制、測試管道與預部署安全檢查。
- 跨職能治理:安全、法律、產品與運維劇本。
最終項目:紅隊/藍隊演練
- 在沙盒代理環境中執行模擬紅隊攻擊。
- 作爲藍隊使用控制與遙測進行防禦、檢測與修復。
- 展示發現、修復計劃與策略更新。
總結與後續步驟
最低要求
- 紮實的安全工程、系統管理或雲運維背景。
- 熟悉AI/ML概念及大語言模型(LLM)行爲。
- 具備身份與訪問管理(IAM)和安全系統設計經驗。
目標受衆
- 安全工程師與紅隊成員。
- AI運維與平臺工程師。
- 合規官與風險經理。
- 負責代理部署的工程負責人。
需要幫助選擇合適的課程嗎?
安全與可信的Agentic AI:治理、身份管理與紅隊測試培訓 - 詢問
安全與可信的Agentic AI:治理、身份管理與紅隊測試 - 咨詢詢問
咨詢詢問
相關課程
AI Trust, Risk, and Security Management (AI TRiSM) 介紹
21 時間:這是一個由講師指導的澳門(線上或線下)培訓課程,旨在幫助初級到中級IT專業人員理解並在他們的組織中實施AI TRiSM。
在培訓結束時,參與者將能夠:
- 掌握AI信任、風險和安全管理(AI TRiSM)的關鍵概念及其重要性。
- 識別並減輕與AI系統相關的風險。
- 實施AI的安全最佳實踐。
- 理解AI的監管合規性和倫理考量。
- 制定有效的AI治理和管理策略。
構建安全且負責任的LLM應用
14 時間:本次由講師指導的線下或線上培訓,面向中級到高級的AI開發者、架構師和產品經理,旨在幫助他們識別和緩解與LLM驅動的應用程序相關的風險,包括提示注入、數據泄露和未經過濾的輸出,同時融入輸入驗證、人在迴路監督和輸出防護等安全控制措施。
培訓結束後,參與者將能夠:
- 理解基於LLM系統的核心漏洞。
- 將安全設計原則應用於LLM應用架構。
- 使用諸如Guardrails AI和LangChain等工具進行驗證、過濾和安全防護。
- 將沙盒測試、紅隊演練和人在迴路審查等技術集成到生產級流程中。
AI 系統中的網路安全
14 時間:這是由講師指導的澳門(線上或線下)培訓,旨在為中級AI和網絡安全專業人士提供理解並解決AI模型和系統特有安全漏洞的能力,特別是在金融、數據治理和諮詢等高度監管行業中。
通過本培訓,參與者將能夠:
- 了解針對AI系統的對抗攻擊類型及其防禦方法。
- 實施模型硬化技術以保護機器學習管道。
- 確保機器學習模型中的數據安全性和完整性。
- 應對與AI安全相關的監管合規要求。
企業中的WrenAI治理與安全模式
14 時間:WrenAI 是一個由人工智能驅動的分析平臺,旨在連接數據、模型洞察並生成儀表板。在企業環境中,強大的治理和安全性對於確保安全且合規的採用至關重要。
本次由講師主導的培訓(線上或線下)面向希望大規模實施 WrenAI 治理、合規性和安全性模式的高級企業專業人士。
在培訓結束時,參與者將能夠:
- 在 WrenAI 中設計和實施權限模型。
- 應用可審計性和監控實踐以確保合規性。
- 設置具有企業級控制的安全環境。
- 在大型組織中安全地推出 WrenAI。
課程形式
- 互動式講座和討論。
- 動手實驗,涵蓋治理和安全性配置。
- 模擬企業推出場景的實踐練習。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們進行安排。
AI安全與風險管理導論
14 時間:本次由講師主導的培訓在澳門(線上或線下)面向初級的IT安全、風險和合規專業人員,旨在幫助他們理解AI安全的基礎概念、威脅向量以及全球框架,如NIST AI RMF和ISO/IEC 42001。
培訓結束後,參與者將能夠:
- 理解AI系統引入的獨特安全風險。
- 識別威脅向量,如對抗性攻擊、數據中毒和模型反演。
- 應用基礎治理模型,如NIST AI風險管理框架。
- 將AI使用與新興標準、合規指南和倫理原則對齊。
使用WrenAI現代化傳統BI:採用、遷移與應變管理
14 時間:WrenAI 使組織能夠超越靜態儀表盤,邁向對話式分析和嵌入式生成式 BI。這一轉型需要細緻的採用規劃、資產遷移以及有效的應變管理實踐。
本課程爲講師主導的培訓(線上或線下),面向希望使用 WrenAI 現代化傳統 BI 系統的中級 BI 和數據平臺專業人員。
通過本培訓,學員將能夠:
- 評估傳統 BI 環境,識別現代化機會。
- 規劃並執行從靜態儀表盤到 WrenAI 的遷移。
- 採用對話式分析和嵌入式 GenBI 功能。
- 領導 BI 現代化的組織應變管理。
課程形式
- 互動式講座與討論。
- 遷移與採用規劃的實踐練習。
- 對話式分析和嵌入式 GenBI 的實踐實驗室。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
WrenAI的質量與可觀測性:評估、提示調優與監控
14 時間:WrenAI能夠實現自然語言到SQL的生成以及AI驅動的分析,使數據訪問更快、更直觀。對於企業級應用,質量保證和可觀測性實踐對於確保準確性、可靠性和合規性至關重要。
本課程爲講師主導的培訓(線上或線下),面向希望在生產環境中評估查詢準確性、應用提示調優並實施可觀測性實踐的高級數據和分析專業人士。
通過本培訓,參與者將能夠:
- 評估自然語言到SQL輸出的準確性和可靠性。
- 應用提示調優技術以提升性能。
- 監控隨時間變化的漂移和查詢行爲。
- 爲WrenAI集成日誌記錄和可觀測性框架。
課程形式
- 互動式講座與討論。
- 實踐練習,涵蓋評估與調優技術。
- 可觀測性與監控集成的實踐實驗室。
課程定製選項
- 如需定製本課程,請聯繫我們安排。
Securing AI Models: Threats, Attacks, and Defenses
14 時間:這是由講師指導的澳門(線上或線下)培訓,針對中級機器學習和網絡安全專業人士,旨在幫助他們理解並緩解針對AI模型的新興威脅,使用概念框架和實戰防禦技術,如魯棒訓練和差分隱私。
在培訓結束時,參與者將能夠:
- 識別和分類AI特定威脅,如對抗攻擊、反轉和數據中毒。
- 使用Adversarial Robustness Toolbox(ART)等工具模擬攻擊並測試模型。
- 應用實戰防禦技術,包括對抗訓練、噪聲注入和隱私保護技術。
- 在生產環境中設計威脅感知的模型評估策略。
使用WrenAI API構建應用、圖表和自然語言轉SQL
14 時間:WrenAI API 是一個強大的接口,用於從自然語言生成 SQL 查詢、構建自定義應用程序,並將圖表集成到內部平臺中。
本次由講師主導的培訓(線上或線下)面向中級工程師,旨在幫助他們將 WrenAI API 應用於實際場景,包括 SQL 生成、可視化以及應用程序集成。
培訓結束後,參與者將能夠:
- 驗證並將應用程序連接到 WrenAI API。
- 從自然語言輸入生成 SQL 查詢。
- 使用 API 端點創建並嵌入圖表。
- 將 WrenAI 集成到後端系統和內部工具中。
課程形式
- 互動式講座與討論。
- 動手實踐,包括 API 調用與集成。
- 實際項目,連接應用程序、圖表和數據管道。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
WrenAI雲基礎:從數據源到儀表板
14 時間:WrenAI Cloud 是一個現代平臺,用於連接數據源、數據建模和構建交互式儀表板。
本次由講師主導的培訓(線上或線下)面向初學者到中級數據專業人員,旨在幫助他們學習如何設置 WrenAI Cloud、進行數據建模,並在儀表板中可視化洞察。
通過本次培訓,參與者將能夠:
- 設置和配置 WrenAI Cloud 環境。
- 將 WrenAI Cloud 連接到多個數據源。
- 進行數據建模並定義分析關係。
- 創建交互式儀表板以獲取業務洞察。
課程形式
- 互動講座和討論。
- 動手操作雲平臺配置和數據建模。
- 儀表板構建和可視化的實踐練習。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
WrenAI金融分析:KPI建模與合規儀表板
14 時間:WrenAI爲財務團隊提供了建模關鍵績效指標(KPI)、整合標準化指標以及設計符合監管要求和審計標準的儀表板的能力。
本次由講師主導的培訓(線上或線下)面向中高級財務專業人士,他們希望使用WrenAI構建合規的財務數據模型和儀表板,以支持決策和風險管理。
通過本次培訓,參與者將能夠:
- 在WrenAI中建模財務KPI和指標。
- 構建符合監管和審計要求的儀表板。
- 將WrenAI與財務數據源集成,實現即時報告。
- 應用財務分析和風險監控的最佳實踐。
課程形式
- 互動式講座和討論。
- 使用財務數據模型進行實際操作練習。
- 儀表板設計和合規報告的實踐實驗室。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
WrenAI OSS 深度解析:語義建模、文本到 SQL 與防護機制
21 時間:WrenAI 是一個開源的生成式 BI 工具,支持自然語言到 SQL 的轉換以及語義數據建模。
本次由講師主導的培訓(線上或線下)面向高級數據工程師、分析工程師和機器學習工程師,旨在幫助他們構建強大的語義層、優化提示,並確保可靠的 SQL 生成。
培訓結束後,參與者將能夠:
- 實現語義模型,確保團隊間一致的指標定義。
- 優化文本到 SQL 的性能,提高準確性和可擴展性。
- 配置並實施防護措施,避免無效或高風險查詢。
- 將 WrenAI OSS 集成到數據管道和分析工作流中。
課程形式
- 互動式講座與討論。
- 大量練習與實踐。
- 在即時實驗室環境中進行實際操作。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們進行安排。
WrenAI 產品團隊課程:對話分析與自助式 BI
14 時間:WrenAI是一個對話式分析平臺,能夠將自然語言查詢轉換爲可靠的分析結果,使非技術團隊能夠快速、一致地生成洞察。
本次由講師主導的培訓(線上或線下)面向中級產品經理、分析師和數據倡導者,他們希望採用對話式分析,並使用WrenAI構建自助式BI能力。
培訓結束後,參與者將能夠:
- 設計對話式分析工作流,以揭示可靠的產品洞察。
- 創建並維護標準化的指標層,以實現一致的報告。
- 有效使用自然語言到SQL功能,回答產品問題。
- 在產品工作流中嵌入WrenAI驅動的自助式儀表板和防護措施。
課程形式
- 互動式講座與討論。
- 使用WrenAI和樣本數據集進行實踐操作。
- 工作坊:構建自助式儀表板和對話式查詢集。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
部署WrenAI用於SaaS:在面向客戶的產品中嵌入GenBI
14 時間:WrenAI使SaaS提供商能夠將生成式商業智能(GenBI)直接嵌入面向客戶的產品中。本課程爲SaaS團隊提供了通過Embedded API集成WrenAI、配置白標分析以及管理多租戶部署的技能。
本課程爲講師指導的培訓(線上或線下),面向希望將WrenAI作爲嵌入式分析解決方案部署在SaaS環境中的中級到高級SaaS產品負責人、數據工程師和全棧開發者。
培訓結束後,參與者將能夠:
- 使用Embedded API將WrenAI集成到面向客戶的應用程序中。
- 實現帶有品牌和自定義的白標對話式BI。
- 設計安全且可擴展的多租戶部署。
- 監控使用情況、優化性能並確保SaaS環境中的合規性。
課程形式
- 互動式講座與討論。
- 使用WrenAI Embedded API的實踐實驗室。
- 研討會:爲SaaS用例設計和部署白標分析功能。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
使用WrenAI電子表格和指標庫進行運營分析
14 時間:WrenAI Spreadsheets和Metrics Library通過AI驅動的電子表格工作流程和預建的跨平臺業務指標庫,實現了快速報告。
本次由講師指導的培訓(線上或線下)面向希望使用WrenAI Spreadsheets和Metrics Library加速報告和分析的初級到中級運營專業人員。
培訓結束後,參與者將能夠:
- 構建AI驅動的電子表格,用於數據分析和報告。
- 利用WrenAI Metrics Library獲取標準化的KPI。
- 將電子表格連接到多個數據源,實現即時更新。
- 創建自動化工作流程,簡化運營報告。
課程形式
- 互動式講座和討論。
- 使用WrenAI進行電子表格構建的實踐操作。
- 指標和KPI報告的實用練習。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。