ML 安全與 AI 紅隊測試培訓

此為由導師主導的現場培訓（澳門，線上或線下），目標受眾為希望了解如何依循歐盟AI法案、GDPR、ISO/IEC 42001及美國總統AI行政命令等新興全球框架，負責任且合規地治理並保障AI系統的初級企業領導者。

完成本培訓後，參與者將能夠：

• 了解跨部門使用AI的法律、倫理與監管風險。
• 詮釋並應用主要的AI治理框架（歐盟AI法案、NIST AI RMF、ISO/IEC 42001）。
• 建立企業部署AI的安全、審計與監督政策。
• 制定第三方與內部AI系統的採購與使用指南。

這門在 澳門（線上或線下）舉行的由講師主導的現場培訓，面向希望將 LLM 和 AI 整合到監控、警報和事件分析工作流中的可觀測性和 SRE 工程師。

本課程提供了保護現代基於 AI 的應用程序、API、協作助手和自主代理的實踐入門。參與者將學習 AI 安全如何區別於傳統 Web 安全，探索常見的特定於 AI 的威脅（如提示注入、RAG 投毒和代理濫用），並了解如何使用包括 WAF、AI 網關、API 安全和防護柵欄在内的分層防禦來保護 AI 系統。通過實操實驗和真實案例，學生將獲得識別 AI 攻擊模式、保護基於 LLM 的應用程序以及為生產環境部署有效運行時防護的技能。

本課程為講師導航的現場培訓（線上或線下），旨在幫助初級至中級IT專業人員理解並在組織中實施AI TRiSM。

完成此培訓後，學員將能夠：

• 掌握AI信任、風險和安全管理的核心概念及其重要性。
• 識別並減輕與AI系統相關的風險。
• 實施AI的最佳安全實踐。
• 理解AI的合規性和道德考量。
• 制定有效的AI治理和管理策略。

這門由講師帶領的實時培訓在 澳門 進行（線上或線下），面向希望設計、構建並安全部署AI智能體以實現自主IT運維的SRE和DevOps工程師。

本課程在 澳門 進行（線上或線下），旨在協助中階至高階的AI開發人員、架構師與產品經理識別降低LLM應用風險，包括提示注入、資料外洩及未經過濾的輸出，同時導入輸入驗證、人機互動監督以及輸出防護等安全控制機制。

完成本培訓後，參與者將能夠：

• 理解LLM系統的核心漏洞。
• 應用安全設計原則於LLM應用程式架構。
• 使用Guardrails AI及LangChain等工具進行驗證、過濾及安全防護。
• 將沙箱技術、紅隊演練及人機互動審查整合至生產級流程中。

本課程教導軟體開發者如何以安全設計理念建構AI驅動應用程式。學員學習如何保護聊天機器人、協作助手、RAG管線及AI代理，抵禦提示注入、資料毒化、工具濫用、機密洩露及不安全模型輸出等特定於AI的威脅。課程涵蓋安全提示設計、RAG安全、最小權限存取、防護網及紅隊測試，協助開發者在現實環境中建構安全、可靠且具韌性的AI功能。

本培訓由講師主講，以線上或線下形式於 澳門 進行，旨在協助 ML 工程師與平台團隊建立可擴充且穩健的操作管道，用於大規模部署 LLM 驅動的應用程式。