聯繫我們

課程簡介

大型模型優化簡介

  • 大型模型架構概覽。
  • 微調大型模型的挑戰。
  • 具成本效益優化的重要性。

分佈式訓練技術

  • 數據並行與模型並行入門。
  • 分佈式訓練框架:PyTorch與TensorFlow。
  • 跨越多個GPU和節點擴展。

模型量化與剪枝

  • 理解量化技術。
  • 應用剪枝以縮小模型尺寸。
  • 準確率與效率之間的權衡。

硬件優化

  • 為微調任務選擇合適的硬件。
  • 優化GPU和TPU利用率。
  • 使用專門加速器處理大型模型。

高效數據管理

  • 管理大型數據集的策略。
  • 用於性能優化的預處理與分批。
  • 數據增強技術。

部署優化後的模型

  • 部署微調後模型的技術。
  • 監控與維持模型效能。
  • 優化模型部署的實際案例。

進階優化技術

  • 探索低秩適應(LoRA)。
  • 使用適配器進行模組化微調。
  • 模型優化的未來趨勢。

摘要與下一步計劃

最低要求

  • 具備PyTorch或TensorFlow等深度學習框架的經驗。
  • 熟悉大型語言模型及其應用。
  • 理解分佈式計算概念。

目標受眾

  • 機器學習工程師。
  • 雲端AI專家。
 21 小時

人數


每位參與者的報價

即將到來的課程

課程分類