聯繫我們

課程簡介

大型語言模型架構與攻擊面概覽

  • 大型語言模型的建構、部署方式及透過 API 存取機制
  • 大型語言模型應用程式堆疊中的關鍵組件(如提示、代理程式、記憶體、API)
  • 實務應用中安全問題發生的時機與原因

提示注入與越獄攻擊

  • 何謂提示注入及其危險性
  • 直接與間接提示注入情境
  • 用於繞過安全過濾器的越獄技術
  • 檢測與緩解策略

資料洩漏與隱私風險

  • 透過回應造成的意外資料暴露
  • 個人 identifiable information(PII)洩漏及模型記憶濫用
  • 設計注重隱私的提示及檢索增強生成(RAG)

大型語言模型輸出過濾與防護

  • 使用 Guardrails AI 進行內容過濾與驗證
  • 定義輸出結構與約束條件
  • 監控並記錄不安全輸出

人工監督與工作流程方法

  • 引入人工監督的時機與位置
  • 核准佇列、評分閾值及備援處理
  • 信任校準與可解釋性的角色

安全的大型語言模型應用程式設計模式

  • API 呼叫與代理程式的最小權限與沙盒隔離
  • 速率限制、節流及濫用偵測
  • 結合 LangChain 的強大鏈結與提示隔離

合規性、日誌與治理

  • 確保大型語言模型輸出的可審計性
  • 維持追蹤性以及提示/版本控制
  • 符合內部安全政策與法規需求

總結與下一步計畫

最低要求

  • 理解大型語言模型及基於提示的介面
  • 具備使用 Python 建構大型語言模型應用程式的經驗
  • 熟悉 API 整合與雲端部署

受眾

  • 人工智慧開發人員
  • 應用程式與解決方案架構師
  • 使用大型語言模型工具的技術產品經理
 14 小時

人數


每位參與者的報價

即將到來的課程

課程分類