AI信任、風險與安全管理（AI TRiSM）介紹培訓

AAISM 是一個先進的架構，用於評估、管治及管理人工智能系統中的安全風險。

此由導師指導的實操課程（線上或線下）旨在幫助高階專業人士實施有效的企業人工智能環境安全控制措施與管治實踐。

完成本課程後，學員將能夠：

• 使用行業認可的方法論評估 AI 安全風險。
• 實施負責任的人工智能部署管治模型。
• 使 AI 安全政策與組織目標及法規要求保持一致。
• 提升人工智能驅動運營中的韌性與問責制。

課程形式

• 由專家分析支持的引導式講座。
• 實操工作坊與基於評估的活動。
• 運用真實企業 AI 管治場景的實務練習。

課程客製化選項

• 如需根據貴組織的人工智能策略進行客製化培訓，請聯繫我們以定製課程。

此為由導師主導的現場培訓（澳門，線上或線下），目標受眾為希望了解如何依循歐盟AI法案、GDPR、ISO/IEC 42001及美國總統AI行政命令等新興全球框架，負責任且合規地治理並保障AI系統的初級企業領導者。

完成本培訓後，參與者將能夠：

• 了解跨部門使用AI的法律、倫理與監管風險。
• 詮釋並應用主要的AI治理框架（歐盟AI法案、NIST AI RMF、ISO/IEC 42001）。
• 建立企業部署AI的安全、審計與監督政策。
• 制定第三方與內部AI系統的採購與使用指南。

人工智慧（AI）為政府機關和部門帶來了新的營運風險維度、治理挑戰及網路安全暴露。

本課程由講師主講，提供線上或線下實訓，針對對AI經驗有限但希望了解如何在政府或監管環境中評估、監控並保障AI系統的公共部門IT與風險專業人員而設計。

完成本課程後，學員將能夠：

• 解讀與AI系統相關的主要風險概念，包括偏差、不可預測性及模型漂移。
• 應用專為AI設計的治理與稽核框架，如NIST AI RMF及ISO/IEC 42001。
• 識別針對AI模型和數據管道的網路安全威脅。
• 建立跨部門的風險管理計畫與AI部署的政策一致性。

課程形式

• 公共部門案例的互動講座與討論。
• AI治理框架練習與政策映射。
• 基於情境的威脅建模與風險評估。

課程自訂選項

• 如需為本課程申請自訂培訓，請聯繫我們安排。

本課程提供了保護現代基於 AI 的應用程序、API、協作助手和自主代理的實踐入門。參與者將學習 AI 安全如何區別於傳統 Web 安全，探索常見的特定於 AI 的威脅（如提示注入、RAG 投毒和代理濫用），並了解如何使用包括 WAF、AI 網關、API 安全和防護柵欄在内的分層防禦來保護 AI 系統。通過實操實驗和真實案例，學生將獲得識別 AI 攻擊模式、保護基於 LLM 的應用程序以及為生產環境部署有效運行時防護的技能。

本課程在 澳門 進行（線上或線下），旨在協助中階至高階的AI開發人員、架構師與產品經理識別降低LLM應用風險，包括提示注入、資料外洩及未經過濾的輸出，同時導入輸入驗證、人機互動監督以及輸出防護等安全控制機制。

完成本培訓後，參與者將能夠：

• 理解LLM系統的核心漏洞。
• 應用安全設計原則於LLM應用程式架構。
• 使用Guardrails AI及LangChain等工具進行驗證、過濾及安全防護。
• 將沙箱技術、紅隊演練及人機互動審查整合至生產級流程中。

本課程教導軟體開發者如何以安全設計理念建構AI驅動應用程式。學員學習如何保護聊天機器人、協作助手、RAG管線及AI代理，抵禦提示注入、資料毒化、工具濫用、機密洩露及不安全模型輸出等特定於AI的威脅。課程涵蓋安全提示設計、RAG安全、最小權限存取、防護網及紅隊測試，協助開發者在現實環境中建構安全、可靠且具韌性的AI功能。

本課程由講師親自指導，並提供現場培訓或遠程培訓（線上或實體授課），主要針對希望理解並解決人工智慧模型與系統特有資安弱點的中階人工智慧及資訊安全專業人士，尤其適用於金融、資料治理及顧問等高度監管行業。

完成本課程後，學員將能夠：

• 理解針對人工智慧系統的對抗性攻擊類型及其防禦方法。
• 實施模型加固技術，以保護機器學習管線的安全。
• 確保機器學習模型中的資料安全與完整性。
• 應對與人工智慧資安相關的法規合規要求。

這項在 澳門 的導師指導即時培訓（線上或線下），旨在幫助希望強化 EXO 部署、控制模型存取，並治理完全在本地運行的人工智慧工作負載的安全工程師和合規官。

這項在 澳門（線上或線下）由講師主導的實時培訓，針對初級 IT 安全、風險和合規專業人員，旨在讓他們理解基礎 AI 安全概念、威脅向量以及全球框架，如 NIST AI RMF 和 ISO/IEC 42001。

完成本培訓後，參與者將能夠：

• 理解 AI 系統帶來的獨特安全風險。
• 識別威脅向量，例如對抗性攻擊、數據毒化和模型反演。
• 應用基礎治理模型，如 NIST AI 風險管理框架。
• 使 AI 使用符合新興標準、合規指南和道德原則。

此導師指導的實操培訓 澳門（線上或線下）旨在幫助安全和 ML 工程師識別、測試並防禦對 ML 模型及 LLM 驅動應用的攻擊。

基於最新的 OWASP GenAI 安全項目指導方針，學員將通過動手練習和真實場景，學習識別、評估和緩解與 AI 相關的威脅。

此由講師指導的現場培訓 澳門（線上或線下），旨在幫助具備高級水平的專業人士實施和評估聯邦學習、安全多方計算、同態加密和差分隱私等技術，以用於真實世界中的機器學習流程。

完成本培訓後，參與者將能夠：

• 理解並比較關鍵的保護隱私的機器學習技術。
• 使用開源框架實施聯邦學習系統。
• 應用差分隱私來安全地共享數據和訓練模型。
• 利用加密和安全計算技術來保護模型的輸入與輸出。

此課程為由導師帶領的即時培訓（線上或線下），主要對象為希望模擬對AI系統進行攻擊、發現漏洞並提升已部署AI模型韌性的進階安全專業人員及ML專家。

完成本培訓後，學員將能夠：

• 模擬對機器學習模型的現實世界威脅。
• 生成對抗性樣本以測試模型韌性。
• 評估AI API與管線的攻擊面。
• 為AI部署環境設計紅隊測試策略。

此為澳門（線上或線下）講師帶領的實作培訓，旨在保護部署於邊緣的 AI 模型免受篡改、資料洩露、對抗性輸入及實體攻擊等威脅，針對中階工程師與安全專業人士。

完成本培訓後，參與者將能夠：

• 識別並評估邊緣 AI 部署中的安全風險。
• 應用防篡改與加密推論技術。
• 強化邊緣部署的模型並保護資料管線。
• 實施針對嵌入式及受限系統特定的威脅緩釋策略。

本課程由講師親自指導，在 澳門（線上或線下）提供實戰培訓，對象為希望理解並減輕針對 AI 模型新興威脅的初級到中级機器學習與網路安全專業人員。課程將結合概念框架與實用防護技術，如魯棒性訓練和差分隱私。

完成本培訓後，學員將能夠：

• 識別並分類特定於 AI 的威脅，例如對抗性攻擊、反演和投毒。
• 使用 Adversarial Robustness Toolbox (ART) 等工具來模擬攻擊並測試模型。
• 應用實用防護措施，包括對抗性訓練、噪音注入及隱私保護技術。
• 在生產環境中設計具有威脅意識的模型評估策略。