感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
基礎:自治 AI 的威脅模型
- 自治威脅類型:誤用、權限提升、資料洩露及供應鏈風險
- 針對自主代理人的對手畫像與攻擊者能力
- 映射代理人相關的資產、信任邊界及關鍵控制點
治理、政策與風險管理
- 自治系統的治理框架(角色、職責、審批節點)
- 政策設計:合規使用、權限提升規則、資料處理及可審計性
- 合規考量與審計證據蒐集
代理人的非人類身份與認證
- 設計代理人身份:服務帳戶、JWT 及短效憑證
- 最小權限存取模式與按需(Just-in-Time)憑證發放
- 身份生命週期、輪換、委派及撤銷策略
存取控制、機密性與資料保護
- 細粒度存取控制模型及代理人適用的基於能力(capability-based)的模式
- 機密管理、傳輸中與靜態加密,以及資料最小化
- 保護敏感知識來源及個人資訊 (PII) 免受未經授權的代理人存取
可觀測性、審計與事件回應
- 設計代理人行為的 telemetry(遙測資料):意圖追蹤、指令日誌及來源追溯
- SIEM 整合、警報閾值設定及法證準備
- 針對代理人相關事件與隔離的運作手冊與劇本
自治系統的紅隊測試
- 規劃紅隊測試:範圍、交互規則及安全故障轉移
- 對抗性技術:提示注入、工具誤用、思維鏈操縱及 API 濫用
- 執行受控攻擊並評估暴露程度與影響
強化與緩解措施
- 工程控制:回應限速、能力閥值及沙箱隔離
- 政策與協作控制:審批流程、人類在環(human-in-the-loop)機制及治理鉤子
- 模型層與提示層防禦:輸入驗證、標準化及輸出過濾
安全代理人部署的運營化
- 部署模式: staging(預發布環境)、canary(先遣部署)及漸進式 rollout(滾動發布)
- 變更控制、測試管線及預部署安全檢查
- 跨部門治理:安全、法律、產品與運營團隊的協作劇本
綜合實作:紅隊/藍隊對抗演練
- 對沙箱化代理人環境執行模擬紅隊攻擊
- 作為藍隊,利用控制措施與 telemetry 資料進行防禦、偵測及修復
- 呈現發現結果、修復計劃及政策更新
總結與後續步驟
最低要求
- 具備紮實的安全工程、系統管理或雲端操作背景
- 熟悉 AI/ML 概念及大型語言模型 (LLM) 的行為特性
- 擁有身份與存取管理 (IAM) 及安全系統設計經驗
對象
- 安全工程師與紅隊測試人員
- AI 運營與平台工程師
- 合規官員與風險經理
- 負責代理人部署的工程主管
21 小時