ML安全與AI紅隊測試培訓
人工智慧系統引入了全新的攻擊面:提示注入、數據投毒、模型提取、對抗性輸入以及供應鏈 compromised。傳統的應用程式安全性雖然必要但不足夠。ML安全需要理解經典漏洞類別以及人工智慧特有的威脅,包括LLM應用程序的OWASP Top 10。
此由講師主導的現場培訓(線上或線下)旨在幫助安全工程師和ML工程師識別、測試並防禦對ML模型和LLM驅動應用程序的攻擊。
完成本培訓後,參與者將能夠:
- 從訓練到推理階段對ML生命周期內的AI系統進行威脅建模。
- 針對LLM應用程序執行紅隊測試,包括提示注入和越獄嘗試。
- 檢測並防禦數據投毒、模型提取以及成員推斷攻擊。
- 將LLM應用程序的OWASP Top 10應用於現實世界的部署。
- 實施輸入驗證、輸出過濾以及防護策略。
- 對模型工件和依賴項進行供應鏈安全評估。
- 建立用於持續驗證的AI安全測試劇本。
課程格式
- 互動式講座與討論。
- 大量的練習與實踐。
- 在現場實驗室環境中的實作實施。
課程客製化選項
- 如需客製化培訓,請聯繫我們進行安排。
課程簡介
AI威脅環境
- 為什麼AI安全性不同:非確定性、不透明的推理過程,以及提示作為攻擊面
- 攻擊分類學:訓練時、推論時與供應鏈攻擊
- ML對手模型:誰會攻擊AI系統及其原因
LLM應用程序的OWASP Top 10
- 提示注入:直接和間接攻擊向量
- 不安全的輸出處理和跨插件請求偽造
- 訓練數據投毒和供應鏈漏洞
- 模型拒絕服務、敏感信息泄露以及過度代理權
- 實作實驗室:針對測試應用程序利用每個OWASP類別
提示注入與越獄紅隊測試
- 注入技術分類學:直接、間接、多輪和多模態
- 使用Giskard、Garak和自定義模糊工具進行自動化紅隊測試
- 越獄分類與防禦評估
- 構建用於持續LLM安全測試的紅隊框架
模型層級攻擊與防禦
- 模型提取:通過API查詢竊取模型權重和功能
- 成員推斷:確定數據是否包含在訓練集中
- 對抗樣本:能夠欺騙分類器和嵌入的微調
- 數據投毒:篡改訓練數據以植入後門或降低性能
輸入與輸出安全控制
- 超越傳統Web防禦的輸入清理
- 輸出過濾:毒性、PII洩露以及幻覺代碼執行
- 將防護欄作為基礎設施:NeMo、Guardrails AI及自定義策略
- 結構化輸出執行作為安全邊界
AI供應鏈安全
- 模型來源:驗證模型的真實性和完整性
- 對ML框架和模型格式進行依賴掃描
- 安全的模型服務:沙箱化、網絡隔離以及最小特權訪問
- 檢測微調模型和社區模型是否嵌入惡意軟件
AI系統的運營安全
- 對模型端點、向量存儲和代理工具進行訪問控制
- 對每次模型交互和決策進行審計日誌記錄
- 針對AI特有洩漏的事件響應:當模型本身被滲透時
- 在ML流水線的CI/CD中進行持續安全測試
構建AI安全計劃
- AI安全成熟度模型與路線圖
- 將AI安全整合到現有的AppSec和雲端安全計劃中
- 針對AI系統的治理框架以及新興法規
- 創建並維護組織的AI安全劇本
最低要求
- 擁有在生產環境中部署ML模型或LLM應用程序的經驗。
- 熟悉安全概念,包括身份驗證、授權和威脅建模。
- 具備Python能力以進行對抗性測試練習。
受眾
- 擴展到AI/ML威脅表面的安全工程師。
- 負責模型安全性和魯棒性的ML工程師。
- 將AI系統納入測試範圍的紅隊成員。
公開培訓課程需要5名以上參與者。
ML安全與AI紅隊測試培訓 - 訂單
ML安全與AI紅隊測試培訓 - 詢問
ML安全與AI紅隊測試 - 咨詢詢問
即將到來的課程
相關課程
ISACA 進階 AI 安全管理 (AAISM)
21 小時AAISM 是一個進階框架,用於評估、治理和管理人工智慧(AI)系統中的安全風險。
本課程為授課型實地培訓(線上或現場),專為希望為企業 AI 環境實施有效安全控制與治理實踐的高階專業人士設計。
完成本課程後,學員將具備以下能力:
- 運用業界認可的方法論評估 AI 安全風險。
- 實施用於負責任地部署 AI 的治理模型。
- 使 AI 安全政策與組織目標及法規要求保持一致。
- 增強 AI 驅動業務的韌性與問責機制。
課程形式
- 由專家提供深度分析支持的輔導式講座。
- 結合實踐工作坊與評估性活動。
- 運用真實世界的 AI 治理情境進行應用練習。
課程客製化選項
- 若需根據貴組織的 AI 策略進行量身打造的培訓,請聯繫我們以客製化課程內容。
企業領導者的AI治理、合規與安全
14 小時本課程由導師引導,並提供直播培訓於台灣(線上或線下)。對象為初階至中階的企業領導者,旨在幫助他們了解如何負責任地治理和保護AI系統,並符合歐盟AI法案、GDPR、ISO/IEC 42001以及美國AI行政命令等新興全球框架。
課程結束後,學員將能夠:
- 理解跨部門使用AI的法律、倫理及監管風險。
- 詮釋並應用主要AI治理框架(歐盟AI法案、NIST AI RMF、ISO/IEC 42001)。
- 建立企業中部署AI的安全、稽核與監督政策。
- 制定第三方及內部AI系統的採購和使用指南。
AI驅動的可觀測性:從日誌到LLM驅動的洞察
14 小時本課程為在台灣舉辦、有導師指導的實戰培訓(線上或線下),主要面向希望將LLM和AI整合至監控、警報處理及事件分析工作流程的可觀測性工程師和SRE工程師。
AIOps 實務應用:事件預測與根因自動化
14 小時AIOps(IT運作的AI)正被廣泛用於在事件發生前進行預測,並自動化根因分析(RCA),以減少停機時間並加快解決速度。
此為由講師帶領的現場培訓(線上或線下),目標對象為希望使用 AIOps 工具和機器學習模型來實現預測性分析、自動化修復及設計智能 RCA 工作流的高階 IT 專業人員。
培訓結束後,參與者將能夠:
- 建構和訓練 ML 模型,以檢測導致系統故障的模式。
- 基於多來源日誌與指標的關聯性,自動化 RCA 工作流。
- 將警報與修復流程整合至現有平台。
- 在生產環境中部署並擴展智能 AIOps 管線。
課程格式
- 互動式講授與討論。
- 大量練習與實作。
- 在即時實驗室環境中的實作環節。
課程客製化選項
- 如需此課程的客製化培訓,請聯繫我們以安排。
AIOps 基礎:監控、關聯與智慧告警
14 小時AIOps(IT營運的人工智慧)是一種運用機器學習和分析技術,自動化並改善IT營運的實踐方法,特別是在監控、事件偵測與應變等領域。
本課程由講師帶領進行即時培訓(線上或線下),適合具備中階技能的IT營運專業人員,協助您運用AIOps技術關聯指標與日誌數據,降低告警雜訊,並透過智慧自動化提升可觀察性。
完成本課程後,學員將能夠:
- 了解AIOps平台的核心原則與架構。
- 關聯日誌、指標與追蹤資料,以找出根本原因。
- 透過智慧過濾與雜訊抑制,減少告警疲勞。
- 運用開源或商業工具,自動化監控與事件應變流程。
課程形式
- 互動式講授與討論。
- 大量練習與實作。
- 於即時實驗室環境中進行實作演練。
課程客製化選項
- 如需為本課程安排客製化培訓,請與我們聯繫。
使用開源工具建置 AIOps 管線
14 小時AIOps 管線完全採用開源工具建置,讓團隊能夠設計具成本效益且靈活的解決方案,用於生產環境中的可觀測性、異常檢測與智能警報。
此課程由講師帶領並提供實作訓練(線上或線下),主要對象為希望使用 Prometheus、ELK、Grafana 以及自訂機器學習模型等工具來建置並部署端到端 AIOps 管線的進階工程師。
完成本課程後,學員將能夠:
- 僅利用開源元件設計 AIOps 架構。
- 收集並標準化來自日誌、指標和追蹤的數據。
- 應用機器學習模型檢測異常並預測事件。
- 使用開源工具自動化警報與修復流程。
課程格式
- 互動式講座與討論。
- 大量的練習與實作。
- 在即時實驗室環境中進行動手實作。
課程客製化選項
- 如需為本課程申請客製化培訓,請聯絡我們安排。
公共部門的人工智慧風險管理與安全
7 小時人工智慧(AI)為政府機構和部門引入了新的營運風險、治理挑戰以及網絡安全威脅。
本課程由講師現場指導進行(可選擇線上或線下培訓),旨在幫助缺乏人工智慧經驗的公共部門資訊技術及風險管理專業人士,了解如何在政府或監管環境中評估、監控並保障人工智慧系統的安全。
完成本培訓後,學員將能夠:
- 解讀與人工智慧系統相關的關鍵風險概念,包括偏見、不可預測性及模型漂移。
- 應用特定於人工智慧的治理和審計框架,如 NIST AI RMF 和 ISO/IEC 42001。
- 識別針對人工智慧模型及數據管線的網絡安全威脅。
- 建立跨部門的人工智慧部署風險管理計劃和政策一致性。
課程格式
- 互動式講座並討論公共部門的案例。
- 人工智慧治理框架練習及政策映射。
- 基於情境的威脅建模與風險評估。
課程自訂選項
- 如需為本課程要求自訂培訓,請聯繫我們以安排。
AI安全:為安全團隊量身打造
35 小時This course provides a practical introduction to securing modern AI-powered applications, APIs, copilots, and autonomous agents. Participants learn how AI security differs from traditional web security, explore common AI-specific threats such as prompt injection, RAG poisoning, and agent abuse, and understand how to protect AI systems using layered defenses including WAFs, AI gateways, API security, and guardrails. Through hands-on labs and real-world examples, students gain the skills to identify AI attack patterns, secure LLM-based applications, and deploy effective runtime defenses for production environments.
AI信任、風險與安全管理 (AI TRiSM) 介紹
21 小時此課程由講師帶領,在 台灣(線上或線下)進行。目標受眾為初級至中級 IT 專業人員,希望了解並在其組織中實施 AI TRiSM。
完成此培訓後,參與者將能夠:
- 掌握 AI 信任、風險與安全管理的关键概念及其重要性。
- 識別並緩解與 AI 系統相關的風險。
- 落實 AI 的安全最佳實踐。
- 理解 AI 的監管合規性与伦理考量。
- 制定有效的 AI 治理與管理策略。
建構安全且負責任的大型語言模型應用程式
14 小時本在 台灣 舉辦的即時培訓(線上或線下),旨在協助初階至進階的人工智慧開發人員、架構師與產品經理識別並降低與大型語言模型驅動應用程式相關的風險,包括提示注入、資料洩漏及未經過濾的輸出,同時納入輸入驗證、人工監督以及輸出防護等安全控制措施。
完成本培訓後,參與者將能夠:
- 理解基於大型語言模型系統的潛在弱點。
- 將安全設計原則應用於大型語言模型應用程式架構。
- 使用 Guardrails AI 和 LangChain 等工具進行驗證、過濾及安全防護。
- 在生產級管線中整合沙盒隔離、紅隊測試及人工監督審查等技術。
建構安全的 AI 應用程式
21 小時本課程教導軟體開發者如何以安全為設計基礎建構 AI 應用程式。學員將學習如何保護聊天機器人、Copilot、RAG 管線和 AI 代理程序免受特定於 AI 的威脅,如提示注入、資料毒化、工具濫用、密碼洩漏和不安全的模型輸出。課程涵蓋安全提示設計、RAG 安全性、最小權限存取、防護網和紅隊測試,幫助開發者建構在現實環境中安全、可靠且具有韌性的 AI 功能。
企業級 AIOps 解決方案:整合 Splunk、Moogsoft 與 Dynatrace
14 小時Splunk、Moogsoft 和 Dynatrace 等企業級 AIOps 平台提供強大功能,可在大規模 IT 環境中檢測異常、關聯警報並自動化響應。
此類培訓由講師現場授課(可線上或線下進行),適合希望將 AIOps 工具整合至現有可觀測性堆疊及營運工作流的初階以上企業 IT 團隊。
完成此培訓後,學員將能夠:
- 配置並整合 Splunk、Moogsoft 和 Dynatrace 到統一的 AIOps 架構中。
- 使用 AI 驅動的分析技術,在分散式系統中關聯指標、日誌與事件。
- 透過內建與自訂工作流,自動化事故檢測、優先級排序與響應流程。
- 優化效能,降低 MTTR(平均修復時間),提升企業規模下的營運效率。
課程格式
- 互動式講授與討論。
- 大量練習與實作環節。
- 於即時實驗室環境中進行實作演練。
課程客製化選項
- 如需此課程的客製化培訓,請聯繫我們安排事宜。
使用 Prometheus、Grafana 和 ML 實施 AIOps
14 小時Prometheus 和 Grafana 是現代基礎設施中廣泛採用的可觀察性工具,而機器學習則通過預測性和智能洞察來增強這些工具,從而自動化運營決策。
本講師主導的實時培訓(線上或線下)旨在幫助初級以上的可觀察性專業人士,通過整合使用 Prometheus、Grafana 和 ML 技術實施 AIOps 實踐,實現監控基礎設施的現代化。
完成本課程後,學員將能夠:
- 配置 Prometheus 和 Grafana,以實現跨系統和服務的可觀察性。
- 收集、存儲和可視化高質量的時間序列數據。
- 應用機器學習模型進行異常檢測和預測。
- 基於預測洞察構建智能告警規則。
課程格式
- 互動式授課與討論。
- 大量的練習與實操。
- 在實時實驗環境中進行動手實施。
課程定製選項
- 如需為本課程申請定製培訓,請聯繫我們以安排。