聯繫我們
 課程時長 21 時間:

課程簡介

基礎概念:代理式 AI 的威脅模型

  • 代理式威脅的類型:濫用、特權提升、資料洩漏及供應鏈風險
  • 針對自主代理的攻擊者檔案與攻擊者能力
  • 映射代理的資產、信任邊界及關鍵控制點

治理、政策與風險管理

  • 代理系統的治理框架(角色、職責、審批閘門)
  • 政策設計:可接受的使用方式、升級規則、資料處理及可稽核性
  • 合規考量與稽核證據收集

代理的非人類身分與驗證

  • 為代理設計身分:服務帳戶、JWT 及短時效憑證
  • 最小權限存取模式及即時(Just-in-time)憑證管理
  • 身分生命週期、輪替、委派及撤銷策略

存取控制、機密資訊與資料保護

  • 代理的細粒度存取控制模型及基於能力的模式
  • 機密資訊管理、傳輸與靜態資料加密、以及資料最小化原則
  • 防止未經授權的代理存取敏感知識來源及個人識別資訊(PII)

可觀察性、稽核與事件回應

  • 設計代理行為的遙測機制:意圖追蹤、命令日誌及來源證明
  • SIEM 整合、告警閾值及法醫準備
  • 代理相關事件及遏制措施的運行手冊(Runbooks)與行動腳本(Playbooks)

代理系統的紅隊測試

  • 規劃紅隊演練:範圍、參與規則及安全故障轉移
  • 對抗性技術:提示注入(Prompt injection)、工具濫用、思維鏈操縱及 API 濫用
  • 執行受控攻擊並衡量暴露面與影響

強化與緩解措施

  • 工程控制:回應節流(Throttling)、能力閘門及沙箱環境
  • 政策與編排控制:審批流程、人工介入(Human-in-the-loop)及治理掛鉤
  • 模型與提示層級的防禦:輸入驗證、正規化(Canonicalization)及輸出過濾器

安全代理部署的營運化

  • 部署模式:代理的預備(Staging)、灰度(Canary)及漸進式推出
  • 變更控制、測試管線及部署前安全性檢查
  • 跨職能治理:安全、法務、產品及營運的行動腳本

綜合演練:紅隊 / 藍隊演練

  • 在沙箱代理環境中執行模擬紅隊攻擊
  • 作為藍隊,利用控制措施與遙測數據進行防禦、偵測及修復
  • 提出發現結果、修復計畫及政策更新

總結與下一步

最低要求

  • 具備安全工程、系統管理或雲端營運的扎實背景知識
  • 熟悉 AI/ML 概念及大型語言模型(LLM)的行為特性
  • 具有身分與存取管理(IAM)及安全系統設計的經驗

目標受眾

  • 安全工程師與紅隊人員
  • AI 營運及平台工程師
  • 合規人員與風險管理者
  • 負責代理部署的工程主管

客戶評論 (1)

即將到來的課程

課程分類