AI 安全與風險管理簡介培訓

AAISM 是一個先進的架構，用於評估、管治及管理人工智能系統中的安全風險。

此由導師指導的實操課程（線上或線下）旨在幫助高階專業人士實施有效的企業人工智能環境安全控制措施與管治實踐。

完成本課程後，學員將能夠：

• 使用行業認可的方法論評估 AI 安全風險。
• 實施負責任的人工智能部署管治模型。
• 使 AI 安全政策與組織目標及法規要求保持一致。
• 提升人工智能驅動運營中的韌性與問責制。

課程形式

• 由專家分析支持的引導式講座。
• 實操工作坊與基於評估的活動。
• 運用真實企業 AI 管治場景的實務練習。

課程客製化選項

• 如需根據貴組織的人工智能策略進行客製化培訓，請聯繫我們以定製課程。

此為由導師主導的現場培訓（澳門，線上或線下），目標受眾為希望了解如何依循歐盟AI法案、GDPR、ISO/IEC 42001及美國總統AI行政命令等新興全球框架，負責任且合規地治理並保障AI系統的初級企業領導者。

完成本培訓後，參與者將能夠：

• 了解跨部門使用AI的法律、倫理與監管風險。
• 詮釋並應用主要的AI治理框架（歐盟AI法案、NIST AI RMF、ISO/IEC 42001）。
• 建立企業部署AI的安全、審計與監督政策。
• 制定第三方與內部AI系統的採購與使用指南。

人工智慧（AI）為政府機關和部門帶來了新的營運風險維度、治理挑戰及網路安全暴露。

本課程由講師主講，提供線上或線下實訓，針對對AI經驗有限但希望了解如何在政府或監管環境中評估、監控並保障AI系統的公共部門IT與風險專業人員而設計。

完成本課程後，學員將能夠：

• 解讀與AI系統相關的主要風險概念，包括偏差、不可預測性及模型漂移。
• 應用專為AI設計的治理與稽核框架，如NIST AI RMF及ISO/IEC 42001。
• 識別針對AI模型和數據管道的網路安全威脅。
• 建立跨部門的風險管理計畫與AI部署的政策一致性。

課程形式

• 公共部門案例的互動講座與討論。
• AI治理框架練習與政策映射。
• 基於情境的威脅建模與風險評估。

課程自訂選項

• 如需為本課程申請自訂培訓，請聯繫我們安排。

本課程為講師導航的現場培訓（線上或線下），旨在幫助初級至中級IT專業人員理解並在組織中實施AI TRiSM。

完成此培訓後，學員將能夠：

• 掌握AI信任、風險和安全管理的核心概念及其重要性。
• 識別並減輕與AI系統相關的風險。
• 實施AI的最佳安全實踐。
• 理解AI的合規性和道德考量。
• 制定有效的AI治理和管理策略。

本課程在 澳門 進行（線上或線下），旨在協助中階至高階的AI開發人員、架構師與產品經理識別降低LLM應用風險，包括提示注入、資料外洩及未經過濾的輸出，同時導入輸入驗證、人機互動監督以及輸出防護等安全控制機制。

完成本培訓後，參與者將能夠：

• 理解LLM系統的核心漏洞。
• 應用安全設計原則於LLM應用程式架構。
• 使用Guardrails AI及LangChain等工具進行驗證、過濾及安全防護。
• 將沙箱技術、紅隊演練及人機互動審查整合至生產級流程中。

本課程由講師親自指導，並提供現場培訓或遠程培訓（線上或實體授課），主要針對希望理解並解決人工智慧模型與系統特有資安弱點的中階人工智慧及資訊安全專業人士，尤其適用於金融、資料治理及顧問等高度監管行業。

完成本課程後，學員將能夠：

• 理解針對人工智慧系統的對抗性攻擊類型及其防禦方法。
• 實施模型加固技術，以保護機器學習管線的安全。
• 確保機器學習模型中的資料安全與完整性。
• 應對與人工智慧資安相關的法規合規要求。

這項在 澳門 的導師指導即時培訓（線上或線下），旨在幫助希望強化 EXO 部署、控制模型存取，並治理完全在本地運行的人工智慧工作負載的安全工程師和合規官。

基於最新的 OWASP GenAI 安全項目指導方針，學員將通過動手練習和真實場景，學習識別、評估和緩解與 AI 相關的威脅。

此由講師指導的現場培訓 澳門（線上或線下），旨在幫助具備高級水平的專業人士實施和評估聯邦學習、安全多方計算、同態加密和差分隱私等技術，以用於真實世界中的機器學習流程。

完成本培訓後，參與者將能夠：

• 理解並比較關鍵的保護隱私的機器學習技術。
• 使用開源框架實施聯邦學習系統。
• 應用差分隱私來安全地共享數據和訓練模型。
• 利用加密和安全計算技術來保護模型的輸入與輸出。

此課程為由導師帶領的即時培訓（線上或線下），主要對象為希望模擬對AI系統進行攻擊、發現漏洞並提升已部署AI模型韌性的進階安全專業人員及ML專家。

完成本培訓後，學員將能夠：

• 模擬對機器學習模型的現實世界威脅。
• 生成對抗性樣本以測試模型韌性。
• 評估AI API與管線的攻擊面。
• 為AI部署環境設計紅隊測試策略。

此為澳門（線上或線下）講師帶領的實作培訓，旨在保護部署於邊緣的 AI 模型免受篡改、資料洩露、對抗性輸入及實體攻擊等威脅，針對中階工程師與安全專業人士。

完成本培訓後，參與者將能夠：

• 識別並評估邊緣 AI 部署中的安全風險。
• 應用防篡改與加密推論技術。
• 強化邊緣部署的模型並保護資料管線。
• 實施針對嵌入式及受限系統特定的威脅緩釋策略。

本課程由講師親自指導，在 澳門（線上或線下）提供實戰培訓，對象為希望理解並減輕針對 AI 模型新興威脅的初級到中级機器學習與網路安全專業人員。課程將結合概念框架與實用防護技術，如魯棒性訓練和差分隱私。

完成本培訓後，學員將能夠：

• 識別並分類特定於 AI 的威脅，例如對抗性攻擊、反演和投毒。
• 使用 Adversarial Robustness Toolbox (ART) 等工具來模擬攻擊並測試模型。
• 應用實用防護措施，包括對抗性訓練、噪音注入及隱私保護技術。
• 在生產環境中設計具有威脅意識的模型評估策略。

TinyML 是一種在網路邊緣運行的低電源、資源受限裝置上部署機器學習模型的方法。

本課程由導師指導，提供線上或線下培訓（線上或現場），旨在幫助進階專業人士保護 TinyML 管線並實現隱私保護技術，這些技術適用於邊緣 AI 應用程式。

完成本課程後，參與者將能夠：

• 識別設備端 TinyML 推論中特有的安全風險。
• 實施邊緣 AI 部署的隱私保護機制。
• 強化 TinyML 模型和嵌入式系統以應對對抗性威脅。
• 在資源受限環境中應用數據處理的最佳實踐。

課程格式

• 由專家引導討論支持的引人入勝的講解。
• 強調真實世界威脅情境的實用練習。
• 使用嵌入式安全性和 TinyML 工具進行實作。

課程客製化選項

• 企業可要求針對其特定安全及合規需求量身打造的培訓版本。

本課程涵蓋針對代理型 AI 系統的治理、身份管理以及對抗性測試，重點在於企業級安全部署模式及實務紅隊測試技巧。

這項由講師帶線的現場培訓（線上或線下）對象為進階從業人員，旨在協助其設計、保護並評估生產環境中的基於代理的 AI 系統。

完成本培訓後，學員將能夠：

• 定義安全代理型 AI 部署的治理模式與政策。
• 設計具備最小權限訪問的非人類身份驗證流程。
• 實施專為自主代理設計的訪問控制、審計軌跡及可觀測性機制。
• 規劃並執行紅隊演習，以發現濫用、升級路徑及資料外洩風險。
• 透過政策、工程控制及監控手段，緩解代理型系統的常見威脅。

課程形式

• 互動式講座與威脅建模研討會。
• 實作實驗室：身份設置、政策執行及對手模擬。
• 紅隊對藍隊演習及課程結束評估。

課程客製化選項

• 如需此課程的客製化培訓，請聯絡我們進行安排。