感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
QLoRA 與量化的介紹
- 概述量化及其在模型優化中的角色
- 介紹 QLoRA 框架及其優點
- QLoRA 與傳統微調方法之間的主要差異
大型語言模型（LLM）的基礎
- LLM 及其架構簡介
- 大規模微調大型模型的挑戰
- 量化如何幫助克服 LLM 微調中的運算限制
為微調 LLM 實施 QLoRA
- 設置 QLoRA 框架與環境
- 準備用於 QLoRA 微調的數據集
- 使用 Python 和 PyTorch/TensorFlow 逐步指導實現 QLoRA 於 LLM 上
透過 QLoRA 優化微調效能
- 如何平衡模型準確性與量化帶來的性能
- 減少微調過程中運算成本和內存使用的技術
- 以最低硬體需求進行微調的策略
評估微調後的模型
- 如何評估微調後模型的有效性
- 語言模型的常見評估指標
- 微調後優化模型性能及故障排除的技術
部署與擴展微調後的模型
- 將量化 LLM 部署到生產環境的最佳實踐
- 擴展部署以處理即時請求
- 用於模型部署和監控的工具與框架
現實世界的用例與案例研究
- 案例研究：為客戶服務和自然語言處理任務微調 LLM
- 在醫療保健、金融和電子商務等各個行業中微調 LLM 的範例
- 從基於 QLoRA 模型的現實部署中獲得的經驗教訓
總結與下一步
最低要求
- 具備機器學習基礎知識及神經網路的理解
- 有模型微調與遷移學習的經驗
- 熟悉大型語言模型（LLM）和深度學習框架（如 PyTorch、TensorFlow）
受眾
- 機器學習工程師
- AI 開發者
- 數據科學家
14 小時
