建構安全且負責任的大型語言模型應用程式培訓
大型語言模型應用程式的安全性，是一套運用大型語言模型設計、建構及維護安全、可信賴且符合政策之系統的專業領域。
本為期授課的即時培訓（線上或線下），旨在協助初階至進階的人工智慧開發人員、架構師與產品經理識別並降低與大型語言模型驅動應用程式相關的風險，包括提示注入、資料洩漏及未經過濾的輸出，同時納入輸入驗證、人工監督以及輸出防護等安全控制措施。
完成本培訓後，參與者將能夠：
- 理解基於大型語言模型系統的潛在弱點。
- 將安全設計原則應用於大型語言模型應用程式架構。
- 使用 Guardrails AI 和 LangChain 等工具進行驗證、過濾及安全防護。
- 在生產級管線中整合沙盒隔離、紅隊測試及人工監督審查等技術。
課程形式
- 互動式講授與討論。
- 大量的練習與實作。
- 在即時實驗室環境中進行實作。
課程客製化選項
- 若需為本課程申請客製化培訓，請聯絡我們安排。
感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程時長 14 時間：
課程簡介
大型語言模型架構與攻擊面概覽
- 大型語言模型的建構、部署方式及透過 API 存取機制
- 大型語言模型應用程式堆疊中的關鍵組件（如提示、代理程式、記憶體、API）
- 實務應用中安全問題發生的時機與原因
提示注入與越獄攻擊
- 何謂提示注入及其危險性
- 直接與間接提示注入情境
- 用於繞過安全過濾器的越獄技術
- 檢測與緩解策略
資料洩漏與隱私風險
- 透過回應造成的意外資料暴露
- 個人 identifiable information（PII）洩漏及模型記憶濫用
- 設計注重隱私的提示及檢索增強生成（RAG）
大型語言模型輸出過濾與防護
- 使用 Guardrails AI 進行內容過濾與驗證
- 定義輸出結構與約束條件
- 監控並記錄不安全輸出
人工監督與工作流程方法
- 引入人工監督的時機與位置
- 核准佇列、評分閾值及備援處理
- 信任校準與可解釋性的角色
安全的大型語言模型應用程式設計模式
- API 呼叫與代理程式的最小權限與沙盒隔離
- 速率限制、節流及濫用偵測
- 結合 LangChain 的強大鏈結與提示隔離
合規性、日誌與治理
- 確保大型語言模型輸出的可審計性
- 維持追蹤性以及提示/版本控制
- 符合內部安全政策與法規需求
總結與下一步計畫
最低要求
- 理解大型語言模型及基於提示的介面
- 具備使用 Python 建構大型語言模型應用程式的經驗
- 熟悉 API 整合與雲端部署
受眾
- 人工智慧開發人員
- 應用程式與解決方案架構師
- 使用大型語言模型工具的技術產品經理
公開培訓課程需要5名以上參與者。
建構安全且負責任的大型語言模型應用程式培訓 - 訂單
建構安全且負責任的大型語言模型應用程式培訓 - 詢問
建構安全且負責任的大型語言模型應用程式 - 咨詢詢問
即將到來的課程
相關課程
進階 LangGraph：最佳化、除錯與監控複雜圖形
35 小時
這門由講師主導的 台灣 課程專為進階 AI 平台工程師、AI DevOps 專業人員及 ML 架構師設計，協助他們最佳化、除錯、監控並營運生產級 LangGraph 系統，以建構具有狀態、多參與者 LLM 應用程式的可組合圖形。
更多...
使用 Devstral 打造程式碼代理：從代理設計到工具整合
14 小時
在 台灣 舉行的這場即時訓練中掌握 Devstral。課程內容涵蓋架構、代理工作流設計及工具整合。本課程專為高階工程師打造，透過實作實驗室建構程式碼代理，以提升現代開發環境中的生產力與安全性。
更多...
開放原始碼模型運維：使用 Devstral 與 Mistral 模型進行自我託管、微調與治理
14 小時
此由講師主導的 台灣 培訓課程，旨在幫助機器學習工程師掌握 Devstral 與 Mistral 模型的自我託管與微調技巧。學員將學習實際的治理、監控與合規技術，以便在生產環境中自信地部署開放原始碼人工智慧。
更多...
金融領域中的 LangGraph 應用
35 小時
這門 台灣 授課式培訓協助專業人士設計基於 LangGraph 的金融解決方案。學員將學習如何實施符合監管要求的工作流程，整合數據標準，並部署具備強大治理、可觀察性及合規控制能力的系統。
更多...
LangGraph 基礎：基於圖的 LLM 提示與鏈接
14 小時
這門由 台灣 提供的 LangGraph 基礎課程，由講師主導，協助開發人員建置基於圖的 LLM 應用。學員將學習節點與邊等核心概念、狀態管理及分支邏輯，並整合工具、檢索增強生成及外部 API，透過實作實驗室測試並部署可靠的工作流。
更多...
LangGraph 在醫療領域的應用：針對受監管環境的流程編排
35 小時
透過這門在 台灣 舉行的實境培訓，探索 LangGraph 在醫療領域的應用，專門為中級至高級專業人員量身打造。學習設計具備狀態式與合規性的工作流，整合 FHIR 和 SNOMED CT 等標準，並應對受監管環境中的倫理與運營挑戰。
更多...
LangGraph 在legal應用中的實務
35 小時
透過這門 35 小時的授課式培訓，掌握 LangGraph 在 台灣 中的法務應用。本課程適合中階至高階專業人員，涵蓋工作流程設計、合規控制及人為介入審批機制。自信地建構可審計、具備生產就緒能力的 LLM 解決方案。
更多...
使用 LangGraph 與 LLM 代理建構動態工作流
14 小時
這門在 台灣 舉行的線上或現場課程，引導中級工程師透過 LangGraph 建構動態 LLM 工作流。學習如何設計具狀態的圖結構、實作分支邏輯，並整合檢索、API 與記憶功能，以打造穩健且具備情境感知能力的應用程式。
更多...
LangGraph 行銷自動化
14 小時
這堂由講師帶領的 台灣 課程介紹 LangGraph 在行銷自動化中的應用。學員將學習設計條件式內容工作流、整合 LLM 以打造個性化電子郵件活動，並管理多步驟管線中的狀態，從而掌握現代行銷的實用技能。
更多...
Le Chat Enterprise：私有 ChatOps、整合與管理員控制
14 小時
此 台灣 的實地培訓涵蓋 Le Chat Enterprise，這是一款用於安全、受管治對話式 AI 的私有 ChatOps 解決方案。學員將部署並配置該系統，與企業應用程式進行整合，啟用 RBAC、SSO 及基於合規要求的控制措施，以建立可擴展且安全的 AI 工作流。
更多...
高成本效益的 LLM 架構：大規模部署 Mistral（效能/成本工程）
14 小時
透過這項在 台灣 舉行為期 14 小時的即時訓練，掌握高成本效益的 Mistral LLM 架構。學習如何部署、最佳化並擴展 Mistral Medium 3，利用批處理、量化及高效能服務策略，在企業級工作負載中實現極致吞吐量與最低成本。
更多...
運用 Mistral Connectors 與整合功能將對話式助理產品化
14 小時
這門在 台灣 舉行的實時培訓涵蓋將 Mistral 對話式助理整合至企業工作流程的內容。參與者將學習如何連接 SaaS 工具、實施檢索增強生成技術，並為面向客戶及內部的聊天介面設計有效的用戶體驗模式。
更多...
使用 Mistral Medium 3 進行企業級部署
14 小時
這是由講師指導的 台灣 訓練，協助高級 AI 工程師部署並保護 Mistral Medium 3。您將優化推論成本、實現多模態用例，並應用企業合規實務。課程包含 API 及自託管配置的實作實驗室。
更多...
Mistral 負責任的 AI：隱私、數據主權與企業級管控
14 小時
在 台灣 舉行的這堂 Mistral 負責任 AI 現場培訓，專為合規與安全負責人量身打造。您將掌握隱私保護技術、數據主權策略，以及 RBAC 和 SSO 等企業級管控機制，以確保 AI 部署的安全與合規性。
更多...
使用 Mistral 模型開發多模態應用（視覺、OCR 及文件理解）
14 小時
學習如何使用 Mistral 模型建構多模態應用，重點涵蓋 OCR、文件理解及視覺文本搜尋。此實作培訓涵蓋流程實作、NLP 整合及企業級設計，可透過線上或 台灣 方式進行。
更多...
