聯繫我們

課程簡介

QLoRA 與量化的介紹

  • 概述量化及其在模型優化中的角色
  • 介紹 QLoRA 框架及其優點
  • QLoRA 與傳統微調方法之間的主要差異

大型語言模型(LLM)的基礎

  • LLM 及其架構簡介
  • 大規模微調大型模型的挑戰
  • 量化如何幫助克服 LLM 微調中的運算限制

為微調 LLM 實施 QLoRA

  • 設置 QLoRA 框架與環境
  • 準備用於 QLoRA 微調的數據集
  • 使用 Python 和 PyTorch/TensorFlow 逐步指導實現 QLoRA 於 LLM 上

透過 QLoRA 優化微調效能

  • 如何平衡模型準確性與量化帶來的性能
  • 減少微調過程中運算成本和內存使用的技術
  • 以最低硬體需求進行微調的策略

評估微調後的模型

  • 如何評估微調後模型的有效性
  • 語言模型的常見評估指標
  • 微調後優化模型性能及故障排除的技術

部署與擴展微調後的模型

  • 將量化 LLM 部署到生產環境的最佳實踐
  • 擴展部署以處理即時請求
  • 用於模型部署和監控的工具與框架

現實世界的用例與案例研究

  • 案例研究:為客戶服務和自然語言處理任務微調 LLM
  • 在醫療保健、金融和電子商務等各個行業中微調 LLM 的範例
  • 從基於 QLoRA 模型的現實部署中獲得的經驗教訓

總結與下一步

最低要求

  • 具備機器學習基礎知識及神經網路的理解
  • 有模型微調與遷移學習的經驗
  • 熟悉大型語言模型(LLM)和深度學習框架(如 PyTorch、TensorFlow)

受眾

  • 機器學習工程師
  • AI 開發者
  • 數據科學家
 14 小時

人數


每位參與者的報價

即將到來的課程

課程分類