感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程時長 21 時間:
課程簡介
基礎概念:代理式 AI 的威脅模型
- 代理式威脅的類型:濫用、特權提升、資料洩漏及供應鏈風險
- 針對自主代理的攻擊者檔案與攻擊者能力
- 映射代理的資產、信任邊界及關鍵控制點
治理、政策與風險管理
- 代理系統的治理框架(角色、職責、審批閘門)
- 政策設計:可接受的使用方式、升級規則、資料處理及可稽核性
- 合規考量與稽核證據收集
代理的非人類身分與驗證
- 為代理設計身分:服務帳戶、JWT 及短時效憑證
- 最小權限存取模式及即時(Just-in-time)憑證管理
- 身分生命週期、輪替、委派及撤銷策略
存取控制、機密資訊與資料保護
- 代理的細粒度存取控制模型及基於能力的模式
- 機密資訊管理、傳輸與靜態資料加密、以及資料最小化原則
- 防止未經授權的代理存取敏感知識來源及個人識別資訊(PII)
可觀察性、稽核與事件回應
- 設計代理行為的遙測機制:意圖追蹤、命令日誌及來源證明
- SIEM 整合、告警閾值及法醫準備
- 代理相關事件及遏制措施的運行手冊(Runbooks)與行動腳本(Playbooks)
代理系統的紅隊測試
- 規劃紅隊演練:範圍、參與規則及安全故障轉移
- 對抗性技術:提示注入(Prompt injection)、工具濫用、思維鏈操縱及 API 濫用
- 執行受控攻擊並衡量暴露面與影響
強化與緩解措施
- 工程控制:回應節流(Throttling)、能力閘門及沙箱環境
- 政策與編排控制:審批流程、人工介入(Human-in-the-loop)及治理掛鉤
- 模型與提示層級的防禦:輸入驗證、正規化(Canonicalization)及輸出過濾器
安全代理部署的營運化
- 部署模式:代理的預備(Staging)、灰度(Canary)及漸進式推出
- 變更控制、測試管線及部署前安全性檢查
- 跨職能治理:安全、法務、產品及營運的行動腳本
綜合演練:紅隊 / 藍隊演練
- 在沙箱代理環境中執行模擬紅隊攻擊
- 作為藍隊,利用控制措施與遙測數據進行防禦、偵測及修復
- 提出發現結果、修復計畫及政策更新
總結與下一步
最低要求
- 具備安全工程、系統管理或雲端營運的扎實背景知識
- 熟悉 AI/ML 概念及大型語言模型(LLM)的行為特性
- 具有身分與存取管理(IAM)及安全系統設計的經驗
目標受眾
- 安全工程師與紅隊人員
- AI 營運及平台工程師
- 合規人員與風險管理者
- 負責代理部署的工程主管
客戶評論 (1)
库存盘点及识别AI内部的不同风险敞口
Gary Cook - Cybersecurity and Information Technology Risk Division
課程 - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
機器翻譯