安全且可靠的代理型 AI:治理、身份與紅隊測試培訓
本課程涵蓋針對代理型 AI 系統的治理、身份管理以及對抗性測試,重點在於企業級安全部署模式及實務紅隊測試技巧。
這項由講師帶線的現場培訓(線上或線下)對象為進階從業人員,旨在協助其設計、保護並評估生產環境中的基於代理的 AI 系統。
完成本培訓後,學員將能夠:
- 定義安全代理型 AI 部署的治理模式與政策。
- 設計具備最小權限訪問的非人類身份驗證流程。
- 實施專為自主代理設計的訪問控制、審計軌跡及可觀測性機制。
- 規劃並執行紅隊演習,以發現濫用、升級路徑及資料外洩風險。
- 透過政策、工程控制及監控手段,緩解代理型系統的常見威脅。
課程形式
- 互動式講座與威脅建模研討會。
- 實作實驗室:身份設置、政策執行及對手模擬。
- 紅隊對藍隊演習及課程結束評估。
課程客製化選項
- 如需此課程的客製化培訓,請聯絡我們進行安排。
課程簡介
基礎:代理型 AI 威脅模型
- 代理型威脅類型:濫用、升級、資料洩漏及供應鏈風險
- 特定於自主代理的對手畫像與攻擊者能力
- 為代理映射資產、信任邊界及關鍵控制點
治理、政策與風險管理
- 代理型系統的治理框架(角色、職責、審批節點)
- 政策設計:允許使用、升級規則、資料處理及可審計性
- 合規考量與審計證據收集
代理的非人類身份與認證
- 設計代理身份:服務帳戶、JWT 及短期憑證
- 最小權限訪問模式及即需憑證授予
- 身份生命週期、輪替、委派及撤銷策略
訪問控制、機密與資料保護
- 針對代理的細粒度訪問控制模型及基於能力的模式
- 機密管理、傳輸中與靜態資料加密及資料最小化
- 保護敏感知識來源及 PII 免受未經授權的代理訪問
可觀測性、審計與事件回應
- 設計代理行為的遥測數據:意圖追蹤、命令日誌及源頭追溯
- SIEM 整合、警報閾值及法證準備
- 針對代理相關事件的劇本與應對手冊
代理型系統的紅隊測試
- 規劃紅隊演習:範圍、互動規則及安全故障轉移
- 對抗性技術:提示注入、工具濫用、思維鏈操縱及 API 濫用
- 執行受控攻擊並測量暴露面與影響
加固與緩解措施
- 工程控制:回應節流、能力閘道及沙箱隔離
- 政策與編排控制:審批流程、人類介入及治理鉤子
- 模型層級與提示層級防護:輸入驗證、規範化及輸出過濾器
安全代理部署的運營化
- 部署模式:代理的分階段、金絲雀部署及漸進式發布
- 變更控制、測試管道及預部署安全檢查
- 跨功能治理:資安、法務、產品與運營應對手冊
綜合專案:紅隊對藍隊演習
- 在沙箱代理環境中執行模擬紅隊攻擊
- 作為藍隊,使用控制措施與遥測數據進行防禦、檢測及修復
- 陳述發現結果、修復計劃及政策更新
總結與下一步行動
最低要求
- 具備紮實的資安工程、系統管理或雲端運營背景
- 熟悉 AI/ML 概念及大型語言模型 (LLM) 行為
- 具有身份與訪問管理 (IAM) 及安全系統設計經驗
受眾
- 資安工程師及紅隊成員
- AI 運營與平台工程師
- 合規官員及風險經理
- 負責代理部署的工程主管
需要幫助選擇合適的課程嗎?
macao@nobleprog.com 或 +852 81990613
安全且可靠的代理型 AI:治理、身份與紅隊測試培訓 - 詢問
安全且可靠的代理型 AI:治理、身份與紅隊測試 - 咨詢詢問
相關課程
ISACA 進階人工智能安全管理專業認證 (AAISM)
21 小時AAISM 是一個先進的架構,用於評估、管治及管理人工智能系統中的安全風險。
此由導師指導的實操課程(線上或線下)旨在幫助高階專業人士實施有效的企業人工智能環境安全控制措施與管治實踐。
完成本課程後,學員將能夠:
- 使用行業認可的方法論評估 AI 安全風險。
- 實施負責任的人工智能部署管治模型。
- 使 AI 安全政策與組織目標及法規要求保持一致。
- 提升人工智能驅動運營中的韌性與問責制。
課程形式
- 由專家分析支持的引導式講座。
- 實操工作坊與基於評估的活動。
- 運用真實企業 AI 管治場景的實務練習。
課程客製化選項
- 如需根據貴組織的人工智能策略進行客製化培訓,請聯繫我們以定製課程。
企業領導者的AI治理、合規與安全
14 小時此為由導師主導的現場培訓(澳門,線上或線下),目標受眾為希望了解如何依循歐盟AI法案、GDPR、ISO/IEC 42001及美國總統AI行政命令等新興全球框架,負責任且合規地治理並保障AI系統的初級企業領導者。
完成本培訓後,參與者將能夠:
- 了解跨部門使用AI的法律、倫理與監管風險。
- 詮釋並應用主要的AI治理框架(歐盟AI法案、NIST AI RMF、ISO/IEC 42001)。
- 建立企業部署AI的安全、審計與監督政策。
- 制定第三方與內部AI系統的採購與使用指南。
公共部門的AI風險管理與安全
7 小時人工智慧(AI)為政府機關和部門帶來了新的營運風險維度、治理挑戰及網路安全暴露。
本課程由講師主講,提供線上或線下實訓,針對對AI經驗有限但希望了解如何在政府或監管環境中評估、監控並保障AI系統的公共部門IT與風險專業人員而設計。
完成本課程後,學員將能夠:
- 解讀與AI系統相關的主要風險概念,包括偏差、不可預測性及模型漂移。
- 應用專為AI設計的治理與稽核框架,如NIST AI RMF及ISO/IEC 42001。
- 識別針對AI模型和數據管道的網路安全威脅。
- 建立跨部門的風險管理計畫與AI部署的政策一致性。
課程形式
- 公共部門案例的互動講座與討論。
- AI治理框架練習與政策映射。
- 基於情境的威脅建模與風險評估。
課程自訂選項
- 如需為本課程申請自訂培訓,請聯繫我們安排。
面向安全團隊的 AI 安全
35 小時本課程提供了保護現代基於 AI 的應用程序、API、協作助手和自主代理的實踐入門。參與者將學習 AI 安全如何區別於傳統 Web 安全,探索常見的特定於 AI 的威脅(如提示注入、RAG 投毒和代理濫用),並了解如何使用包括 WAF、AI 網關、API 安全和防護柵欄在内的分層防禦來保護 AI 系統。通過實操實驗和真實案例,學生將獲得識別 AI 攻擊模式、保護基於 LLM 的應用程序以及為生產環境部署有效運行時防護的技能。
AI信任、風險與安全管理(AI TRiSM)介紹
21 小時本課程為講師導航的現場培訓(線上或線下),旨在幫助初級至中級IT專業人員理解並在組織中實施AI TRiSM。
完成此培訓後,學員將能夠:
- 掌握AI信任、風險和安全管理的核心概念及其重要性。
- 識別並減輕與AI系統相關的風險。
- 實施AI的最佳安全實踐。
- 理解AI的合規性和道德考量。
- 制定有效的AI治理和管理策略。
企業級 WrenAI 的治理與安全模式
14 小時WrenAI 是一個由人工智慧驅動的 Analytics 平台,旨在連接數據、建模洞察並生成效儀表板。在企業環境中,強大的治理和安全保障對於確保安全且合規的採用至關重要。
這項由講師主導的線上或線下培訓,針對希望大規模實施 WrenAI 治理、合規及安全模式的進階企業專業人士。
完成本課程後,學員將能夠:
- 設計並實作 WrenAI 的授權模型。
- 套用審計與監控實踐以符合合規要求。
- 設立具備企業級控制措施的資安環境。
- 在大型組織中安全地推行 WrenAI。
課程形式
- 互動式講授與討論。
- 具備治理和安全設定的實務操作實驗室。
- 模擬企業推行場景的實戰練習。
課程客製化選項
- 如需針對此課程申請客製化培訓,請聯繫我們以進行安排。
利用WrenAI現代化傳統商業智能:採用、遷移與變革管理
14 小時WrenAI使組織能夠突破靜態儀表板的限制,轉向對話式分析和嵌入式生成式商業智能。這一轉型需要謹慎的採用規劃、資產遷移以及有效的變革管理實踐。
本課程由導師主導,提供線上或線下實訓模式,旨在幫助具備初級水平的BI和數據平台專業人士利用WrenAI現代化其傳統商業智能系統。
完成本培訓後,學員將能夠:
- 評估傳統BI環境並識別現代化機會。
- 規劃並執行從靜態儀表板到WrenAI的遷移工作。
- 採用對話式分析及嵌入式GenBI功能。
- 領導組織針對BI現代化的變革管理工作。
課程形式
- 互動式講座與討論。
- 結合遷移與採用規劃的實作練習。
- 關於對話式分析及嵌入式GenBI的實用實驗室環節。
課程定制選項
- 如需申請此課程的定制培訓,請聯繫我們以安排。
WrenAI 的品質與可觀察性:評估、提示調優及監控
14 小時WrenAI 實現自然語言轉 SQL 生成,以及 AI 驅動的分析,讓資料存取更快速且直觀。企業級應用中,品質保證和可觀察性實踐對於確保準確性、可靠性與合規性至關重要。
本培訓為導師引領的現場教學(線上或線下),旨在幫助高級數據和分析專業人士評估查詢準確性、應用提示調優技術,並實施可觀察性實踐以監控生產環境中的 WrenAI。
完成此培訓後,參與者將能夠:
- 評估自然語言轉 SQL 輸出的準確性和可靠性。
- 應用提示調優技術提升性能。
- 監控隨時間變化的漂移和查詢行為。
- 為 WrenAI 加入日誌記錄和可觀察性框架。
課程格式
- 互動式授課與討論。
- 評估和調優技術的實作練習。
- 關於可觀察性和監控整合的實務實驗室環節。
課程客製化選項
- 如需為本課程申請客製化培訓,請聯絡我們安排。
使用 WrenAI API 建構應用程式、圖表與 NL to SQL
14 小時WrenAI API 是一個強大的介面,用於從自然語言生成 SQL 查詢,建構自訂應用程式,並將圖表整合至內部平台。
此由導師指導的實作培訓(線上或線下)旨在服務中階工程師,使其能夠實踐應用 WrenAI API,涵蓋 SQL 生成、視覺化及應用程式整合。
完成本培訓後,學員將能:
- 驗證身分並將應用程式連接至 WrenAI API。
- 從自然語言輸入生成 SQL 查詢。
- 建立並嵌入圖表(透過 API 端點)。
- 將 WrenAI 整合至後端系統與內部工具。
課程格式
- 互動式講授與討論。
- 實作練習,包含 API 呼叫與整合。
- 連結應用程式、圖表與資料管線的實際專案。
課程客製化選項
- 如需針對此課程申請客製化培訓,請聯繫我們進行安排。
WrenAI 雲端基礎:從資料來源到儀表板
14 小時WrenAI Cloud 是一個現代化平台,用於連接資料來源、建立資料模型以及建構互動式儀表板。
本課程由講師現場指導,提供線上或線下培訓模式。對象為初級至中級數據專業人士,學習如何設定 WrenAI Cloud、建模資料並在儀表板中視覺化洞察結果。
完成本培訓後,學員將能夠:
- 設定和配置 WrenAI Cloud 環境。
- 將 WrenAI Cloud 連接至多個資料來源。
- 對資料進行建模並定義關聯關係以利分析。
- 建立用於業務洞察的互動式儀表板。
課程形式
- 互動式講授與討論。
- 動手操作雲端平台配置和資料建模。
- 儀表板建構與視覺化的實務練習。
課程客製化選項
- 如需為此課程申請客製化培訓,請聯繫我們以安排。
WrenAI用於財務分析:KPI建模與合規導向儀表板
14 小時WrenAI讓財務團隊能夠建模KPI、整合標準化指標,並設計符合監管要求及審計標準的儀表板。
本課程由導師進行直播(線上或線下),對象為中階到高階財務專業人員,協助他們使用WrenAI建立合規的財務資料模型與儀表板,支援決策制定與風險管理。
完成本課程後,學員將能夠:
- 在WrenAI中建模財務KPI與指標。
- 建立符合監管及審計要求的儀表板。
- 將WrenAI與財務資料來源整合,實現即時報告。
- 應用財務分析與風險監控的最佳實踐。
課程形式
- 互動式講授與討論。
- 搭配財務資料模型的實務練習。
- 儀表板設計與合規報告的實作演練。
課程客製化選項
- 如需為本課程申請客製化培訓,請聯繫我們以安排。
WrenAI OSS 深度探討:語義建模、文本轉 SQL 及防護機制
21 小時WrenAI 是一款開源的生成式商業智能(BI)工具,支持將自然語言轉換為 SQL 查詢以及語義數據建模。
本課程由講師授課的實時培訓(線上或線下),旨在幫助高級數據工程師、分析工程師和機器學習工程師構建穩健的語義層、優化提示詞並確保可靠的 SQL 生成。
參加完本次培訓後,學員將能夠:
- 實現語義模型,以在團隊之間保持指標定義的一致性。
- 優化文本到 SQL 的性能,提高準確性和可擴展性。
- 配置並強制實施防護機制,避免無效或高風險的查詢。
- 將 WrenAI OSS 集成到數據管道和分析工作流程中。
課程格式
- 互動式講座與討論。
- 大量的練習與實踐環節。
- 在實時實驗室環境中進行手動實現。
課程自定義選項
- 如需針對本課程要求定制化培訓,請聯繫我們安排。
產品團隊的 WrenAI:對話式分析與自助式 BI
14 小時WrenAI 是一個對話式分析平台,可將自然語言查詢轉化為可靠的分析結果,讓非技術團隊能快速且一致地生成洞察。
本課程由講師親自指導,提供線上或線下培訓形式。對象為希望採用對話式分析並使用 WrenAI 建立自助式 BI 能力的中階產品經理、數據分析師和數據推動者。
完成本培訓後,參與者將能夠:
- 設計能呈現可靠產品洞察的對話式工作流程。
- 建立並維護標準化的指標層,以確保報告的一致性。
- 有效利用自然語言轉 SQL 功能回答產品相關問題。
- 在產品工作流程中嵌入由 WrenAI 驅動的自助儀表板與規範機制。
課程形式
- 互動式講授與討論。
- 使用 WrenAI 和範例數據集的實作練習。
- 工作坊:建置自助儀表板與對話式查詢集。
課程客製化選項
- 如需本課程的客製化培訓,請聯絡我們安排。
為SaaS部署WrenAI:嵌入客戶導向產品的生成式商業智能
14 小時WrenAI允許SaaS提供商將生成式商業智能(GenBI)直接嵌入到面向客戶的產品中。此課程使SaaS團隊具備通過其嵌入式API整合Wren AI、配置白標籤分析以及管理多租戶部署的技能。
此由導師主導的培訓(線上或線下)旨在針對中級到高階的SaaS產品負責人、數據工程師和全棧開發人員,他們希望將WrenAI作為嵌入式分析解決方案部署在SaaS環境中。
完成本培訓後,參與者將能夠:
- 使用嵌入式API整合WrenAI以用於面向客戶的應用程序。
- 實施帶有品牌識別和定制功能的白標籤對話式BI。
- 設計安全且可擴展的多租戶部署架構。
- 監控使用情況、優化性能,並確保在SaaS環境中的合規性。
課程形式
- 互動式授課與討論。
- 使用WrenAI嵌入式API的實作實驗室練習。
- 工作坊:為SaaS用例設計並部署白標籤分析功能。
課程自訂選項
- 如需申請此課程的客製化培訓,請聯繫我們以進行安排。
運用WrenAI電子表格與指標庫進行營運分析
14 小時WrenAI電子表格與指標庫透過AI驅動的電子表格工作流程和預建、跨平台的商業指標庫,實現快速報告。
這門由導師指導的培訓課程(線上或線下),旨在協助初級至中級的營運專業人員,利用WrenAI電子表格與指標庫加速報告與分析。
完成培訓後,學員將能夠:
- 建構AI驅動的電子表格進行數據分析與報告。
- 運用WrenAI指標庫建立標準化KPI。
- 將電子表格連線至多個數據源,實現即時更新。
- 建立自動化工作流程,精簡營運報告流程。
課程格式
- 互動式講授與討論。
- 實際動手使用WrenAI建構電子表格。
- 指標與KPI報告的實務練習。
課程客製化選項
- 如需此課程的客製化培訓,請聯繫我們安排。