大型語言模型（LLMs）的參數高效微調（PEFT）技術培訓
參數高效微調（PEFT）是一組技術，透過僅修改參數的一小部分，即可高效地適配大型語言模型（LLMs）。
這門由講師主導的現場培訓課程（線上或線下）專為具備中等經驗的數據科學家和AI工程師設計，旨在利用LoRA、適配器微調（Adapter Tuning）和前綴微調（Prefix Tuning）等方法，以更經濟高效的方式微調大型語言模型。
課程結束後，學員將能夠：
- 理解參數高效微調方法背後的理論基礎。
- 使用 Hugging Face PEFT 實現 LoRA、適配器微調和前綴微調。
- 比較 PEFT 方法與全量微調在性能和成本方面的權衡。
- 在降低計算和存儲需求的條件下，部署並擴展微調後的大型語言模型。
課程形式
- 互動式講座與討論。
- 大量的練習與實作訓練。
- 在實時實驗室環境中進行動手實作。
課程客製化選項
- 如需申請本課程的客製化培訓，請聯繫我們進行安排。
課程簡介
參數高效微調（PEFT）簡介
- 全量微調的動機與局限性
- PEFT 概覽：目標與優勢
- 行業應用場景與案例
LoRA（低秩適配）
- LoRA 的概念與直覺理解
- 使用 Hugging Face 和 PyTorch 實現 LoRA
- 動手實作：使用 LoRA 微調模型
適配器微調（Adapter Tuning）
- 適配器模塊的工作原理
- 與基於 Transformer 模型的整合
- 動手實作：將適配器微調應用於 Transformer 模型
前綴微調（Prefix Tuning）
- 使用軟提示（soft prompts）進行微調
- 與 LoRA 和適配器相比的優勢與局限
- 動手實作：在大型語言模型任務中進行前綴微調
評估與比較 PEFT 方法
- 評估性能與效率的指標
- 訓練速度、內存使用量與準確性之間的權衡
- 基準測試實驗與結果解讀
部署微調後模型
- 保存與載入微調後模型
- 基於 PEFT 模型的部署考量
- 整合至應用程序與工作流程中
最佳實踐與延伸應用
- 結合量化與知識蒸餾進行 PEFT
- 在低資源與多語言環境中的應用
- 未來發展方向與前沿研究領域
最低要求
- 了解機器學習基礎知識
- 具備操作大型語言模型（LLMs）的經驗
- 熟悉 Python 和 PyTorch
適用對象
- 數據科學家
- AI 工程師
需要幫助選擇合適的課程嗎？
taiwan@nobleprog.com 或 +65 88708290
大型語言模型（LLMs）的參數高效微調（PEFT）技術培訓 - 詢問
大型語言模型（LLMs）的參數高效微調（PEFT）技術 - 咨詢詢問
即將到來的課程
相關課程
進階 LangGraph：最佳化、除錯與監控複雜圖形
35 小時使用 Devstral 建構編碼代理：從代理設計到工具整合
14 小時在這場於 台灣 舉行的實地培訓中掌握 Devstral。課程內容涵蓋架構、代理工作流設計及工具整合。本課程專為進階工程師設計，透過動手實驗，建構能提升現代開發環境中生產力與安全性的編碼代理。
開源模型運維：使用 Devstral 與 Mistral 模型進行自我託管、微調與治理
14 小時這門由講師授課的訓練 台灣 專為尋求精通 Devstral 和 Mistral 模型自我託管與微調的機器學習工程師設計。學員將學習實務性的治理、監控與合規技術，以在生產環境中自信地部署開源人工智慧。
金融領域中的 LangGraph 應用
35 小時LangGraph 基礎：基於圖的 LLM 提示與鏈接
14 小時LangGraph 在醫療領域的應用：針對受監管環境的流程編排
35 小時LangGraph 在legal應用中的實務
35 小時使用 LangGraph 與 LLM 代理建構動態工作流
14 小時LangGraph 行銷自動化
14 小時Le Chat Enterprise：私訊 ChatOps、整合功能與管理控制
14 小時這門在 台灣 舉行的現場培訓課程涵蓋 Le Chat Enterprise，這是一款用於安全、治理型對話式 AI 的私訊 ChatOps 解決方案。學員將學習如何部署、配置該系統，並將其與企業應用程式進行整合，以啟用 RBAC、SSO 及合規驅動的控制機制，從而建立可擴展且安全的 AI 工作流程。
具成本效益的 LLM 架構：Mistral 規模化應用（效能與成本工程）
14 小時透過這門 14 小時的即時培訓課程，掌握具成本效益的 Mistral LLM 架構。您將學習如何在 台灣 環境中部署、優化並擴展 Mistral Medium 3，利用批次處理、量化及高效能推論服務策略，針對企業工作負載實現最大吞吐量與最低成本。
透過 Mistral 連接器與整合功能，實現對話式助手的產品化
14 小時這門在 台灣 舉行的即時培訓課程，涵蓋了將 Mistral 對話式助手整合至企業工作流程的內容。參與者將學習如何連接 SaaS 工具、實施檢索增強生成技術，並為面向客戶及內部的聊天介面設計有效的使用者體驗模式。
使用 Mistral Medium 3 進行企業級部署
14 小時這門在 台灣 進行的導師帶領訓練，協助高級 AI 工程師部署並保護 Mistral Medium 3。您將最佳化推理成本、實施多模態用例，並套用企業合規實務。課程包含 API 和自託管設定的動手實驗室。
Mistral 負責任 AI：隱私、資料駐留與企業級控制
14 小時這門在 台灣 舉辦的 Mistral 負責任 AI 現場培訓專為合規與安全負責人打造。您將掌握隱私保護技術、資料駐留策略，以及 RBAC 和 SSO 等企業級控制機制，以確保 AI 部署的安全與合規。
使用 Mistral 模型建立多模態應用（視覺、OCR 與文件理解）
14 小時學習如何使用 Mistral 模型建立多模態應用，專注於 OCR、文件理解及視覺-文字搜尋。此實戰培訓涵蓋管線建置、NLP 整合及企業級設計，提供線上或於 台灣 現場授課的選擇。
