保護AI模型：威脅、攻擊與防禦培訓

AAISM是一個高級框架，用於評估、治理和管理人工智能系統中的安全風險。

本課程爲講師指導的培訓（線上或線下），面向希望在企業AI環境中實施有效安全控制和治理實踐的高級專業人士。

課程結束後，參與者將能夠：

• 使用行業認可的方法評估AI安全風險。
• 實施負責任AI部署的治理模型。
• 將AI安全政策與組織目標和監管期望保持一致。
• 增強AI驅動操作中的彈性和問責制。

課程形式

• 專家分析支持的引導式講座。
• 實踐工作坊和基於評估的活動。
• 使用真實世界AI治理場景的應用練習。

課程定製選項

• 如需根據組織的AI戰略定製培訓，請聯繫我們進行課程定製。

本課程由講師主導，提供線上或線下培訓，面向中級企業領導者，旨在幫助他們瞭解如何負責任地治理和保障AI系統，並遵守新興的全球框架，如歐盟AI法案、GDPR、ISO/IEC 42001和美國AI行政命令。

通過本培訓，參與者將能夠：

• 瞭解跨部門使用AI的法律、倫理和監管風險。
• 解讀並應用主要的AI治理框架（歐盟AI法案、NIST AI RMF、ISO/IEC 42001）。
• 爲企業中的AI部署建立安全、審計和監督政策。
• 制定第三方和內部AI系統的採購與使用指南。

人工智能（AI）爲政府機構和部門引入了新的運營風險、治理挑戰和網絡安全問題。

本課程由講師主導，提供線上或線下培訓，面向公共部門的IT和風險專業人員，這些人員對AI經驗有限，但希望瞭解如何在政府或監管背景下評估、監控和保護AI系統。

培訓結束後，學員將能夠：

• 解釋與AI系統相關的關鍵風險概念，包括偏見、不可預測性和模型漂移。
• 應用AI特定的治理和審計框架，如NIST AI RMF和ISO/IEC 42001。
• 識別針對AI模型和數據管道的網絡安全威脅。
• 爲AI部署建立跨部門的風險管理計劃和政策一致性。

課程形式

• 互動講座和討論公共部門的使用案例。
• AI治理框架練習和政策映射。
• 基於場景的威脅建模和風險評估。

課程定製選項

• 如需定製本課程，請聯繫我們進行安排。

本課程爲講師指導的澳門（線上或線下）培訓，面向希望瞭解並在其組織中實施AI TRiSM的初級到中級IT專業人員。

培訓結束後，學員將能夠：

• 掌握AI信任、風險與安全管理的關鍵概念和重要性。
• 識別並緩解與AI系統相關的風險。
• 實施AI安全的最佳實踐。
• 瞭解AI的法規合規性和倫理考量。
• 制定有效的AI治理和管理策略。

本次由講師指導的線下或線上培訓，面向中級到高級的AI開發者、架構師和產品經理，旨在幫助他們識別和緩解與LLM驅動的應用程序相關的風險，包括提示注入、數據泄露和未經過濾的輸出，同時融入輸入驗證、人在迴路監督和輸出防護等安全控制措施。

培訓結束後，參與者將能夠：

• 理解基於LLM系統的核心漏洞。
• 將安全設計原則應用於LLM應用架構。
• 使用諸如Guardrails AI和LangChain等工具進行驗證、過濾和安全防護。
• 將沙盒測試、紅隊演練和人在迴路審查等技術集成到生產級流程中。

本課程爲講師指導的澳門（線下或線上）培訓，面向中級AI和網絡安全專業人士，旨在幫助其理解和解決AI模型和系統特有的安全漏洞，特別是在金融、數據治理和諮詢等高度監管的行業中。

培訓結束後，學員將能夠：

• 瞭解針對AI系統的對抗性攻擊類型及防禦方法。
• 實施模型加固技術以保護機器學習管道。
• 確保機器學習模型中的數據安全性和完整性。
• 掌握與AI安全相關的法規合規要求。

本次由講師主導的培訓在澳門（線上或線下）面向初級的IT安全、風險和合規專業人員，旨在幫助他們理解AI安全的基礎概念、威脅向量以及全球框架，如NIST AI RMF和ISO/IEC 42001。

培訓結束後，參與者將能夠：

• 理解AI系統引入的獨特安全風險。
• 識別威脅向量，如對抗性攻擊、數據中毒和模型反演。
• 應用基礎治理模型，如NIST AI風險管理框架。
• 將AI使用與新興標準、合規指南和倫理原則對齊。

基於最新的 OWASP GenAI 安全項目指南，學員將通過實踐練習和真實場景學習如何識別、評估和緩解 AI 特定威脅。

本課程由講師主導，提供澳門的線上或線下培訓，面向希望在實際機器學習管道中實施和評估聯邦學習、安全多方計算、同態加密和差分隱私等技術的專業人士。

通過本培訓，學員將能夠：

• 理解並比較ML中的關鍵隱私保護技術。
• 使用開源框架實施聯邦學習系統。
• 應用差分隱私進行安全的數據共享和模型訓練。
• 使用加密和安全計算技術保護模型輸入和輸出。

本課程爲講師主導的線下或線上培訓，面向高級安全專業人員和ML專家，旨在模擬對AI系統的攻擊，發現漏洞，並增強已部署AI模型的魯棒性。

在本培訓結束時，參與者將能夠：

• 模擬對機器學習模型的真實威脅。
• 生成對抗性樣本來測試模型的魯棒性。
• 評估AI API和管道的攻擊面。
• 設計針對AI部署環境的紅隊策略。

本次由講師主導的培訓在澳門（線上或線下）面向中級工程師和安全專業人員，旨在幫助他們保護部署在邊緣的AI模型，抵禦篡改、數據泄露、對抗性輸入和物理攻擊等威脅。

通過本培訓，參與者將能夠：

• 識別和評估邊緣AI部署中的安全風險。
• 應用防篡改和加密推理技術。
• 加固邊緣部署的模型並保護數據管道。
• 實施針對嵌入式與受限系統的威脅緩解策略。

TinyML是一種在低功耗、資源受限的邊緣網絡設備上部署機器學習模型的方法。

本課程爲講師指導的培訓（線上或線下），面向希望保護TinyML管道並在邊緣AI應用中實施隱私保護技術的高級專業人員。

課程結束後，學員將能夠：

• 識別設備端TinyML推理中特有的安全風險。
• 爲邊緣AI部署實施隱私保護機制。
• 強化TinyML模型和嵌入式系統，抵禦對抗性威脅。
• 在受限環境中應用安全數據處理的最佳實踐。

課程形式

• 專家主導的討論支持的互動講座。
• 強調真實威脅場景的實踐練習。
• 使用嵌入式安全和TinyML工具進行動手實踐。

課程定製選項

• 組織可以請求定製版本的培訓，以滿足其特定的安全和合規需求。

本課程涵蓋Agentic AI系統的治理、身份管理和對抗性測試，重點關注企業安全部署模式和實踐紅隊技術。

本次講師指導的培訓（線上或線下）面向希望在生產環境中設計、保護和評估基於代理的AI系統的高級從業者。

通過本培訓，學員將能夠：

• 定義安全Agentic AI部署的治理模型與策略。
• 設計非人類身份驗證流程，爲代理提供最小權限訪問。
• 實施針對自主代理的訪問控制、審計跟蹤和可觀測性。
• 策劃並執行紅隊演練，發現濫用、升級路徑和數據泄露風險。
• 通過策略、工程控制和監控緩解Agentic系統的常見威脅。

課程形式

• 互動講座與威脅建模工作坊。
• 實踐實驗室：身份配置、策略執行和對手模擬。
• 紅隊/藍隊演練及課程結束評估。

課程定製選項

• 如需定製本課程，請聯繫我們安排。