聯繫我們

課程簡介

基礎:自治 AI 的威脅模型

  • 自治威脅類型:誤用、權限提升、資料洩露及供應鏈風險
  • 針對自主代理人的對手畫像與攻擊者能力
  • 映射代理人相關的資產、信任邊界及關鍵控制點

治理、政策與風險管理

  • 自治系統的治理框架(角色、職責、審批節點)
  • 政策設計:合規使用、權限提升規則、資料處理及可審計性
  • 合規考量與審計證據蒐集

代理人的非人類身份與認證

  • 設計代理人身份:服務帳戶、JWT 及短效憑證
  • 最小權限存取模式與按需(Just-in-Time)憑證發放
  • 身份生命週期、輪換、委派及撤銷策略

存取控制、機密性與資料保護

  • 細粒度存取控制模型及代理人適用的基於能力(capability-based)的模式
  • 機密管理、傳輸中與靜態加密,以及資料最小化
  • 保護敏感知識來源及個人資訊 (PII) 免受未經授權的代理人存取

可觀測性、審計與事件回應

  • 設計代理人行為的 telemetry(遙測資料):意圖追蹤、指令日誌及來源追溯
  • SIEM 整合、警報閾值設定及法證準備
  • 針對代理人相關事件與隔離的運作手冊與劇本

自治系統的紅隊測試

  • 規劃紅隊測試:範圍、交互規則及安全故障轉移
  • 對抗性技術:提示注入、工具誤用、思維鏈操縱及 API 濫用
  • 執行受控攻擊並評估暴露程度與影響

強化與緩解措施

  • 工程控制:回應限速、能力閥值及沙箱隔離
  • 政策與協作控制:審批流程、人類在環(human-in-the-loop)機制及治理鉤子
  • 模型層與提示層防禦:輸入驗證、標準化及輸出過濾

安全代理人部署的運營化

  • 部署模式: staging(預發布環境)、canary(先遣部署)及漸進式 rollout(滾動發布)
  • 變更控制、測試管線及預部署安全檢查
  • 跨部門治理:安全、法律、產品與運營團隊的協作劇本

綜合實作:紅隊/藍隊對抗演練

  • 對沙箱化代理人環境執行模擬紅隊攻擊
  • 作為藍隊,利用控制措施與 telemetry 資料進行防禦、偵測及修復
  • 呈現發現結果、修復計劃及政策更新

總結與後續步驟

最低要求

  • 具備紮實的安全工程、系統管理或雲端操作背景
  • 熟悉 AI/ML 概念及大型語言模型 (LLM) 的行為特性
  • 擁有身份與存取管理 (IAM) 及安全系統設計經驗

對象

  • 安全工程師與紅隊測試人員
  • AI 運營與平台工程師
  • 合規官員與風險經理
  • 負責代理人部署的工程主管
 21 小時

人數


每位參與者的報價

即將到來的課程

課程分類