ML安全與AI紅隊測試培訓

本課程由導師引導，並提供直播培訓於台灣（線上或線下）。對象為初階至中階的企業領導者，旨在幫助他們了解如何負責任地治理和保護AI系統，並符合歐盟AI法案、GDPR、ISO/IEC 42001以及美國AI行政命令等新興全球框架。

課程結束後，學員將能夠：

• 理解跨部門使用AI的法律、倫理及監管風險。
• 詮釋並應用主要AI治理框架（歐盟AI法案、NIST AI RMF、ISO/IEC 42001）。
• 建立企業中部署AI的安全、稽核與監督政策。
• 制定第三方及內部AI系統的採購和使用指南。

本課程為在台灣舉辦、有導師指導的實戰培訓（線上或線下），主要面向希望將LLM和AI整合至監控、警報處理及事件分析工作流程的可觀測性工程師和SRE工程師。

This course provides a practical introduction to securing modern AI-powered applications, APIs, copilots, and autonomous agents. Participants learn how AI security differs from traditional web security, explore common AI-specific threats such as prompt injection, RAG poisoning, and agent abuse, and understand how to protect AI systems using layered defenses including WAFs, AI gateways, API security, and guardrails. Through hands-on labs and real-world examples, students gain the skills to identify AI attack patterns, secure LLM-based applications, and deploy effective runtime defenses for production environments.

此課程由講師帶領，在 台灣（線上或線下）進行。目標受眾為初級至中級 IT 專業人員，希望了解並在其組織中實施 AI TRiSM。

完成此培訓後，參與者將能夠：

• 掌握 AI 信任、風險與安全管理的关键概念及其重要性。
• 識別並緩解與 AI 系統相關的風險。
• 落實 AI 的安全最佳實踐。
• 理解 AI 的監管合規性与伦理考量。
• 制定有效的 AI 治理與管理策略。

此授課式培訓於 台灣 進行（線上或線下），旨在幫助SRE和DevOps工程師設計、建置並安全部署用於自主IT營運的AI代理。

本在 台灣 舉辦的即時培訓（線上或線下），旨在協助初階至進階的人工智慧開發人員、架構師與產品經理識別並降低與大型語言模型驅動應用程式相關的風險，包括提示注入、資料洩漏及未經過濾的輸出，同時納入輸入驗證、人工監督以及輸出防護等安全控制措施。

完成本培訓後，參與者將能夠：

• 理解基於大型語言模型系統的潛在弱點。
• 將安全設計原則應用於大型語言模型應用程式架構。
• 使用 Guardrails AI 和 LangChain 等工具進行驗證、過濾及安全防護。
• 在生產級管線中整合沙盒隔離、紅隊測試及人工監督審查等技術。

本課程教導軟體開發者如何以安全為設計基礎建構 AI 應用程式。學員將學習如何保護聊天機器人、Copilot、RAG 管線和 AI 代理程序免受特定於 AI 的威脅，如提示注入、資料毒化、工具濫用、密碼洩漏和不安全的模型輸出。課程涵蓋安全提示設計、RAG 安全性、最小權限存取、防護網和紅隊測試，幫助開發者建構在現實環境中安全、可靠且具有韌性的 AI 功能。

本培訓在台灣地區提供（線上或線下），由導師主導，針對需要建構規模化、健壯營運管道的ML工程師與平台團隊。