Fine-Tuning 使用QLoRA的大型语言模型 培訓
QLoRA 是一種先進的技術,通過利用量化方法來微調大型語言模型(LLMs),提供了一種更高效的方式來微調這些模型,而無需承擔巨大的計算成本。本次培訓將涵蓋使用 QLoRA 微調 LLMs 的理論基礎和實際應用。
這是一個由講師主導的培訓(線上或線下),針對中高級別的機器學習工程師、AI 開發者和數據科學家,他們希望學習如何使用 QLoRA 來高效地微調大型模型,以適應特定任務和自定義需求。
在培訓結束時,參與者將能夠:
- 理解 QLoRA 和量化技術在 LLMs 中的理論基礎。
- 在微調大型語言模型時,實現 QLoRA 以應用於特定領域。
- 在有限的計算資源下,使用量化技術優化微調性能。
- 高效地部署和評估微調後的模型,應用於實際場景。
課程形式
- 互動式講座和討論。
- 大量的練習和實踐。
- 在即時實驗室環境中進行動手操作。
課程定制選項
- 如需為此課程定制培訓,請聯繫我們安排。
課程簡介
QLoRA與量化簡介
- 量化概述及其在模型優化中的作用
- QLoRA框架介紹及其優勢
- QLoRA與傳統微調方法的關鍵差異
Large Language Models (LLMs)基礎知識
- LLM簡介及其架構
- 大規模微調大型模型的挑戰
- 量化如何幫助克服LLM微調中的計算限制
為Fine-Tuning LLM實施QLoRA
- 設置QLoRA框架和環境
- 準備用於QLoRA微調的數據集
- 使用Python和PyTorch/TensorFlow在LLM上實施QLoRA的逐步指南
使用QLoRA優化Fine-Tuning性能
- 如何平衡模型準確性和量化性能
- 在微調期間減少計算成本和內存使用的技術
- 使用最低硬件需求進行微調的策略
評估微調模型
- 如何評估微調模型的有效性
- 語言模型的常見評估指標
- 微調後優化模型性能並解決問題
部署和擴展微調模型
- 將量化LLM部署到生產環境的最佳實踐
- 擴展部署以處理實時請求
- 用於模型部署和監控的工具和框架
實際Use Case和案例研究
- 案例研究:為客戶支持和NLP任務微調LLM
- 在醫療、金融和電子商務等行業中微調LLM的示例
- 從實際部署QLoRA模型中學到的經驗教訓
總結與下一步
最低要求
- 了解機器學習基礎知識和神經網路
- 具備模型微調和遷移學習的經驗
- 熟悉大型語言模型(LLMs)和深度學習框架(例如PyTorch, TensorFlow)
目標受眾
- 機器學習工程師
- AI開發人員
- 數據科學家
Open Training Courses require 5+ participants.
Fine-Tuning 使用QLoRA的大型语言模型 培訓 - Booking
Fine-Tuning 使用QLoRA的大型语言模型 培訓 - Enquiry
Fine-Tuning 使用QLoRA的大型语言模型 - 咨詢詢問
咨詢詢問
Upcoming Courses
相關課程
高級LangGraph:複雜圖的優化、調試與監控
35 時間:LangGraph 是一個用於構建具狀態、多參與者 LLM 應用程式的框架,其特點是可組合的圖結構、持久狀態以及對執行的控制。
這是一個由講師主導的培訓課程(線上或線下),旨在為高階 AI 平台工程師、AI DevOps 工程師以及處理生產級 LangGraph 系統的 ML 架構師提供優化、調試、監控和運營的相關技能。
在本課程結束時,參與者將能夠:
- 設計並優化複雜的 LangGraph 拓撲結構,以實現速度、成本和可擴展性的最佳化。
- 通過重試、超時、冪等性和基於檢查點的恢復來實現可靠性工程。
- 調試和追蹤圖執行過程,檢查狀態,並系統性地重現生產問題。
- 為圖添加日誌、指標和追蹤,部署到生產環境,並監控 SLA 和成本。
課程形式
- 互動式講座與討論。
- 大量練習與實踐。
- 在即時實驗環境中進行實作。
課程定制選項
- 如需定制本課程,請聯繫我們進行安排。
使用 Devstral 構建編碼代理:從代理設計到工具化
14 時間:Devstral 是一個開源框架,旨在構建和運行編碼代理,這些代理可以與代碼庫、開發者工具和 API 交互,以提升工程效率。
本課程由講師指導,採用線上或線下培訓形式,面向中高級 ML 工程師、開發者工具團隊以及 SRE,幫助他們使用 Devstral 設計、實現和優化編碼代理。
通過本課程,學員將能夠:
- 設置和配置 Devstral 以進行編碼代理開發。
- 設計用於代碼庫探索和修改的代理工作流。
- 將編碼代理與開發者工具和 API 集成。
- 實施安全和高效代理部署的最佳實踐。
課程形式
- 互動式講座和討論。
- 大量練習和實踐。
- 在即時實驗室環境中進行動手操作。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
Open-Source Model Ops: Self-Hosting, Fine-Tuning and Governance with Devstral & Mistral Models
14 時間:Devstral and Mistral models are open-source AI technologies designed for flexible deployment, fine-tuning, and scalable integration.
This instructor-led, live training (online or onsite) is aimed at intermediate–level to advanced–level ML engineers, platform teams, and research engineers who wish to self-host, fine-tune, and govern Mistral and Devstral models in production environments.
By the end of this training, participants will be able to:
- Set up and configure self-hosted environments for Mistral and Devstral models.
- Apply fine-tuning techniques for domain-specific performance.
- Implement versioning, monitoring, and lifecycle governance.
- Ensure security, compliance, and responsible usage of open-source models.
Format of the Course
- Interactive lecture and discussion.
- Hands-on exercises in self-hosting and fine-tuning.
- Live-lab implementation of governance and monitoring pipelines.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
LangGraph在金融領域的應用
35 時間:LangGraph 是一個用於構建有狀態、多參與者 LLM 應用的框架,通過可組合的圖結構實現持久狀態和執行控制。
本次由講師主導的培訓(線上或線下)面向中級到高級專業人士,旨在幫助他們設計、實施和運營基於 LangGraph 的金融解決方案,確保其具備適當的治理、可觀測性和合規性。
通過本次培訓,參與者將能夠:
- 設計與監管和審計要求一致的金融專用 LangGraph 工作流。
- 將金融數據標準和本體集成到圖狀態和工具中。
- 爲關鍵流程實施可靠性、安全性和人工介入控制。
- 部署、監控和優化 LangGraph 系統,以滿足性能、成本和 SLA 要求。
課程形式
- 互動式講座與討論。
- 大量練習與實踐。
- 在即時實驗室環境中進行實際操作。
課程定製選項
- 如需定製本課程,請聯繫我們安排。
LangGraph基礎:基於圖的LLM提示與鏈式編程
14 時間:LangGraph 是一個用於構建圖結構 LLM 應用的框架,支持規劃、分支、工具使用、內存和可控執行。
本次由講師指導的培訓(線上或線下)面向初級開發者、提示工程師和數據從業者,旨在幫助他們使用 LangGraph 設計和構建可靠的多步驟 LLM 工作流。
培訓結束後,參與者將能夠:
- 解釋 LangGraph 的核心概念(節點、邊、狀態)及其使用場景。
- 構建支持分支、調用工具和保持內存的提示鏈。
- 將檢索和外部 API 集成到圖工作流中。
- 測試、調試和評估 LangGraph 應用的可靠性和安全性。
課程形式
- 互動講座和引導討論。
- 在沙盒環境中進行指導實驗和代碼演練。
- 基於場景的設計、測試和評估練習。
課程定製選項
- 如需爲此課程定製培訓,請聯繫我們安排。
LangGraph在醫療保健中的應用:受監管環境中的工作流編排
35 時間:LangGraph 支持由 LLM 驅動的有狀態、多參與者工作流,並能精確控制執行路徑和狀態持久化。在醫療領域,這些功能對於合規性、互操作性以及構建符合醫療工作流的決策支持系統至關重要。
本次講師主導的培訓(線上或線下)面向中高級專業人員,旨在幫助他們設計、實施和管理基於 LangGraph 的醫療解決方案,同時應對監管、道德和操作挑戰。
培訓結束後,參與者將能夠:
- 設計符合合規性和可審計性的醫療專用 LangGraph 工作流。
- 將 LangGraph 應用與醫療本體和標準(FHIR、SNOMED CT、ICD)集成。
- 在敏感環境中應用可靠性、可追溯性和可解釋性的最佳實踐。
- 在醫療生產環境中部署、監控和驗證 LangGraph 應用。
課程形式
- 互動式講座與討論。
- 基於真實案例的實踐練習。
- 在即時實驗環境中進行實施實踐。
課程定製選項
- 如需定製本課程,請聯繫我們安排。
LangGraph 法律應用
35 時間:LangGraph 是一個框架,用於構建具有持久狀態和執行精確控制的多參與者 LLM 應用程序,作爲可組合的圖。
本次由講師指導的培訓(線上或線下)面向中高級專業人士,旨在幫助他們設計、實施和操作基於 LangGraph 的法律解決方案,並確保必要的合規性、可追溯性和治理控制。
通過本次培訓,參與者將能夠:
- 設計特定於法律的 LangGraph 工作流程,確保可審計性和合規性。
- 將法律本體和文檔標準集成到圖狀態和處理中。
- 實施防護措施、人工審批和可追溯的決策路徑。
- 在生產環境中部署、監控和維護 LangGraph 服務,確保可觀測性和成本控制。
課程形式
- 互動式講座和討論。
- 大量練習和實踐。
- 在即時實驗室環境中進行實際操作。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
使用LangGraph和LLM代理構建動態工作流
14 時間:LangGraph 是一個用於構建圖結構 LLM 工作流的框架,支持分支、工具使用、內存和可控執行。
本次由講師指導的培訓(線上或線下)面向中級工程師和產品團隊,他們希望將 LangGraph 的圖邏輯與 LLM 代理循環相結合,以構建動態、上下文感知的應用程序,如客戶支持代理、決策樹和信息檢索系統。
在培訓結束時,參與者將能夠:
- 設計基於圖的工作流,協調 LLM 代理、工具和內存。
- 實現條件路由、重試和回退,以確保穩健執行。
- 將檢索、API 和結構化輸出集成到代理循環中。
- 評估、監控並強化代理行爲,以確保可靠性和安全性。
課程形式
- 互動講座和引導討論。
- 在沙盒環境中進行引導實驗和代碼演練。
- 基於場景的設計練習和同行評審。
課程定製選項
- 如需爲此課程定製培訓,請聯繫我們安排。
LangGraph用於營銷自動化
14 時間:LangGraph 是一個基於圖的編排框架,支持條件化、多步驟的 LLM 和工具工作流,非常適合自動化和個性化內容管道。
本課程由講師主導,提供線上或線下培訓,面向中級營銷人員、內容策略師和自動化開發人員,旨在幫助他們使用 LangGraph 實現動態、分支的電子郵件營銷活動和內容生成管道。
在本培訓結束時,參與者將能夠:
- 設計具有條件邏輯的圖結構內容和電子郵件工作流。
- 集成 LLM、API 和數據源以實現自動化個性化。
- 在多步驟營銷活動中管理狀態、記憶和上下文。
- 評估、監控和優化工作流性能和交付結果。
課程形式
- 互動式講座和小組討論。
- 動手實驗,實現電子郵件工作流和內容管道。
- 基於場景的練習,涵蓋個性化、分段和分支邏輯。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們進行安排。
Le Chat Enterprise:私有ChatOps、集成與管理控制
14 時間:Le Chat Enterprise 是一款私有的 ChatOps 解決方案,爲組織提供安全、可定製且受管控的對話式 AI 功能,支持 RBAC、SSO、連接器以及企業應用集成。
本次由講師主導的培訓(線上或線下)面向中級產品經理、IT 負責人、解決方案工程師以及安全/合規團隊,旨在幫助他們部署、配置和管理企業環境中的 Le Chat Enterprise。
培訓結束後,參與者將能夠:
- 爲安全部署設置和配置 Le Chat Enterprise。
- 啓用 RBAC、SSO 和合規驅動的控制。
- 將 Le Chat 與企業應用程序和數據存儲集成。
- 爲 ChatOps 設計和實施治理和管理手冊。
課程形式
- 互動式講座和討論。
- 大量練習和實踐。
- 在即時實驗環境中進行實際操作。
課程定製選項
- 如需爲此課程定製培訓,請聯繫我們安排。
高性價比LLM架構:大規模Mistral(性能/成本工程)
14 時間:Mistral 是一個高性能的大型語言模型系列,專爲經濟高效的大規模生產部署而優化。
本課程爲講師指導的培訓(線上或線下),面向高級基礎設施工程師、雲架構師和 MLOps 負責人,旨在幫助他們設計、部署和優化基於 Mistral 的架構,以實現最大吞吐量和最低成本。
通過本培訓,參與者將能夠:
- 爲 Mistral Medium 3 實施可擴展的部署模式。
- 應用批處理、量化和高效服務策略。
- 在保持性能的同時優化推理成本。
- 爲企業工作負載設計生產就緒的服務拓撲。
課程形式
- 互動式講座和討論。
- 大量練習和實踐。
- 在即時實驗室環境中進行實際操作。
課程定製選項
- 如需爲本課程定製培訓,請聯繫我們安排。
Productizing Conversational Assistants with Mistral Connectors & Integrations
14 時間:Mistral AI is an open AI platform that enables teams to build and integrate conversational assistants into enterprise and customer-facing workflows.
This instructor-led, live training (online or onsite) is aimed at beginner-level to intermediate-level product managers, full-stack developers, and integration engineers who wish to design, integrate, and productize conversational assistants using Mistral connectors and integrations.
By the end of this training, participants will be able to:
- Integrate Mistral conversational models with enterprise and SaaS connectors.
- Implement retrieval-augmented generation (RAG) for grounded responses.
- Design UX patterns for internal and external chat assistants.
- Deploy assistants into product workflows for real-world use cases.
Format of the Course
- Interactive lecture and discussion.
- Hands-on integration exercises.
- Live-lab development of conversational assistants.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
企業級部署與Mistral Medium 3
14 時間:Mistral Medium 3 是一款高性能、多模態的大型語言模型,專爲在企業環境中進行生產級部署而設計。
本課程爲講師指導的線下或線上培訓,面向希望在企業用例中部署、優化和保護 Mistral Medium 3 的中級到高級 AI/ML 工程師、平臺架構師和 MLOps 團隊。
培訓結束後,參與者將能夠:
- 使用 API 和自託管選項部署 Mistral Medium 3。
- 優化推理性能和成本。
- 使用 Mistral Medium 3 實現多模態用例。
- 在企業環境中應用安全和合規最佳實踐。
課程形式
- 互動講座和討論。
- 大量練習和實踐。
- 在即時實驗室環境中進行動手實踐。
課程定製選項
- 如需爲此課程定製培訓,請聯繫我們安排。
Mistral for Responsible AI: Privacy, Data Residency & Enterprise Controls
14 時間:Mistral AI is an open and enterprise-ready AI platform that provides features for secure, compliant, and responsible AI deployment.
This instructor-led, live training (online or onsite) is aimed at intermediate-level compliance leads, security architects, and legal/ops stakeholders who wish to implement responsible AI practices with Mistral by leveraging privacy, data residency, and enterprise control mechanisms.
By the end of this training, participants will be able to:
- Implement privacy-preserving techniques in Mistral deployments.
- Apply data residency strategies to meet regulatory requirements.
- Set up enterprise-grade controls such as RBAC, SSO, and audit logs.
- Evaluate vendor and deployment options for compliance alignment.
Format of the Course
- Interactive lecture and discussion.
- Compliance-focused case studies and exercises.
- Hands-on implementation of enterprise AI controls.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Multimodal Applications with Mistral Models (Vision, OCR, & Document Understanding)
14 時間:Mistral models are open-source AI technologies that now extend into multimodal workflows, supporting both language and vision tasks for enterprise and research applications.
This instructor-led, live training (online or onsite) is aimed at intermediate-level ML researchers, applied engineers, and product teams who wish to build multimodal applications with Mistral models, including OCR and document understanding pipelines.
By the end of this training, participants will be able to:
- Set up and configure Mistral models for multimodal tasks.
- Implement OCR workflows and integrate them with NLP pipelines.
- Design document understanding applications for enterprise use cases.
- Develop vision-text search and assistive UI functionalities.
Format of the Course
- Interactive lecture and discussion.
- Hands-on coding exercises.
- Live-lab implementation of multimodal pipelines.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.