紅隊測試AI系統：機器學習模型的進攻式安全培訓

AAISM 是一個先進框架，用於評估、治理和管理人工智慧系統中的安全風險。

本課程由講師指導，提供線上或線下培訓模式。此課程旨在幫助高階專業人士在企業人工智慧環境中實施有效的安全控制措施和治理實踐。

完成本課程後，學員將能夠：

• 使用業界認可的方法論評估 AI 安全風險。
• 實施負責任 AI 部署的治理模型。
• 使 AI 安全政策與組織目標及法規期望保持一致。
• 增強 AI 驅動操作中的韌性和問責制。

課程格式

• 由專家分析支持的引導式講座。
• 實作工作坊和基於評估的活動。
• 應用實際企業 AI 治理案例的練習。

課程客製化選項

• 若需根據您組織的人工智慧戰略進行定制培訓，請聯絡我們。

本課程由導師引導，並提供直播培訓於台灣（線上或線下）。對象為初階至中階的企業領導者，旨在幫助他們了解如何負責任地治理和保護AI系統，並符合歐盟AI法案、GDPR、ISO/IEC 42001以及美國AI行政命令等新興全球框架。

課程結束後，學員將能夠：

• 理解跨部門使用AI的法律、倫理及監管風險。
• 詮釋並應用主要AI治理框架（歐盟AI法案、NIST AI RMF、ISO/IEC 42001）。
• 建立企業中部署AI的安全、稽核與監督政策。
• 制定第三方及內部AI系統的採購和使用指南。

人工智慧（AI）為政府機構和部門引入了新的營運風險、治理挑戰以及網絡安全威脅。

本課程由講師現場指導進行（可選擇線上或線下培訓），旨在幫助缺乏人工智慧經驗的公共部門資訊技術及風險管理專業人士，了解如何在政府或監管環境中評估、監控並保障人工智慧系統的安全。

完成本培訓後，學員將能夠：

• 解讀與人工智慧系統相關的關鍵風險概念，包括偏見、不可預測性及模型漂移。
• 應用特定於人工智慧的治理和審計框架，如 NIST AI RMF 和 ISO/IEC 42001。
• 識別針對人工智慧模型及數據管線的網絡安全威脅。
• 建立跨部門的人工智慧部署風險管理計劃和政策一致性。

課程格式

• 互動式講座並討論公共部門的案例。
• 人工智慧治理框架練習及政策映射。
• 基於情境的威脅建模與風險評估。

課程自訂選項

• 如需為本課程要求自訂培訓，請聯繫我們以安排。

This course provides a practical introduction to securing modern AI-powered applications, APIs, copilots, and autonomous agents. Participants learn how AI security differs from traditional web security, explore common AI-specific threats such as prompt injection, RAG poisoning, and agent abuse, and understand how to protect AI systems using layered defenses including WAFs, AI gateways, API security, and guardrails. Through hands-on labs and real-world examples, students gain the skills to identify AI attack patterns, secure LLM-based applications, and deploy effective runtime defenses for production environments.

此課程由講師帶領，在 台灣（線上或線下）進行。目標受眾為初級至中級 IT 專業人員，希望了解並在其組織中實施 AI TRiSM。

完成此培訓後，參與者將能夠：

• 掌握 AI 信任、風險與安全管理的关键概念及其重要性。
• 識別並緩解與 AI 系統相關的風險。
• 落實 AI 的安全最佳實踐。
• 理解 AI 的監管合規性与伦理考量。
• 制定有效的 AI 治理與管理策略。

本在 台灣 舉辦的即時培訓（線上或線下），旨在協助初階至進階的人工智慧開發人員、架構師與產品經理識別並降低與大型語言模型驅動應用程式相關的風險，包括提示注入、資料洩漏及未經過濾的輸出，同時納入輸入驗證、人工監督以及輸出防護等安全控制措施。

完成本培訓後，參與者將能夠：

• 理解基於大型語言模型系統的潛在弱點。
• 將安全設計原則應用於大型語言模型應用程式架構。
• 使用 Guardrails AI 和 LangChain 等工具進行驗證、過濾及安全防護。
• 在生產級管線中整合沙盒隔離、紅隊測試及人工監督審查等技術。

本課程教導軟體開發者如何以安全為設計基礎建構 AI 應用程式。學員將學習如何保護聊天機器人、Copilot、RAG 管線和 AI 代理程序免受特定於 AI 的威脅，如提示注入、資料毒化、工具濫用、密碼洩漏和不安全的模型輸出。課程涵蓋安全提示設計、RAG 安全性、最小權限存取、防護網和紅隊測試，幫助開發者建構在現實環境中安全、可靠且具有韌性的 AI 功能。

此由講師帶領的即時培訓在台灣（線上或線下）進行，針對初階至中階AI與資安專業人員，協助理解並解決AI模型及系統的特定安全漏洞，特別適用於金融、數據治理及顧問等高度監管產業。

完成本培訓後，學員將能：

• 了解針對AI系統的對抗性攻擊類型及其防禦方法
• 實作模型加固技術，保護機器學習管線
• 確保機器學習模型的資料安全與完整性
• 掌握AI資安相關的法規合規要求

這堂由導師主導的即時培訓，在台灣提供線上或線下形式，旨在協助希望強化EXO部署、控制模型存取權限並管理完全在本地運行的AI工作負載的安全工程師和合規專員。

此課程為由講師主導的現場培訓（台灣 線上或線下），旨在協助初階資訊安全、風險管理及合規專業人士掌握基礎人工智慧安全概念、威脅途徑以及 NIST AI RMF 和 ISO/IEC 42001 等全球框架。

課程結束時，參與者將能夠：

• 理解人工智慧系統帶來的獨特安全風險。
• 識別對抗性攻擊、資料毒化和模型反轉等威脅途徑。
• 應用如 NIST AI 風險管理框架等基礎治理模型。
• 使人工作業與新興標準、合規指南及倫理原則保持一致。

此由講師主導的現場培訓在台灣（線上或線下）進行，旨在幫助安全工程師和ML工程師識別、測試並防禦對ML模型和LLM驅動應用程序的攻擊。

依據最新的 OWASP GenAI 安全計畫指南，學員將透過動手練習和真實情境案例，學習識別、評估並減輕特定於 AI 的威脅。

這份由講師主導的培訓課程（台灣線上或線下），旨在讓進階專業人員能夠在實際的機器學習流程中，實施並評估聯邦學習、安全多方計算、同態加密和差分隱私等技術。

完成本培訓後，學員將能夠：

• 理解並比較機器學習中的關鍵隱私保護技術。
• 使用開源框架實現聯邦學習系統。
• 應用差分隱私來確保安全的資料共享和模型訓練。
• 使用加密和安全計算技術來保護模型的輸入和輸出。

此培訓為講師親自授課，並於 台灣（線上或線下）進行。課程主要針對希望強化部署於邊緣之 AI 模型安全性、以抵禦篡改、資料洩漏、對抗性輸入及物理攻擊等威脅的初階工程師與資安專業人員而設計。

完成本培訓後，學員將能：

• 識別並評估邊緣 AI 部署中的資安風險。
• 應用防篡改技術與加密推理技術。
• 強化邊緣部署之模型，並確保資料管線安全。
• 實施針對嵌入式及受限系統之特定威脅緩解策略。

本課程由講師親自指導，提供台灣（線上或線下）的實戰訓練，目標對象為中階機器學習與資安專業人士，旨在協助他們理解並緩解針對AI模型的新型威脅，透過概念框架以及包含穩健訓練與差分隱私等實務防禦手段來達成。

培訓結束後，學員將能夠：

• 識別並分類特定於AI的威脅，如對抗性攻擊、反轉與投毒。
• 使用如對抗性魯棒性工具箱（ART）等工具模擬攻擊並測試模型。
• 應用實務防禦措施，包含對抗性訓練、噪聲注入及隱私保護技術。
• 在生產環境中設計具備威脅意識的模型評估策略。