聯繫我們

課程簡介

GPU 加速容器化介紹

  • 了解 GPU 在深度學習工作流程中的應用
  • Docker 如何支援基於 GPU 的工作負載
  • 關鍵效能考量事項

安裝與配置 NVIDIA Container Toolkit

  • 設定驅動程式與 CUDA 相容性
  • 驗證容器內的 GPU 存取權限
  • 配置執行階段環境

建立 GPU 支援的 Docker 映像檔

  • 使用 CUDA 基礎映像檔
  • 將 AI 框架打包至 GPU 預備好的容器中
  • 管理訓練與推論所需的相依性

運行 GPU 加速 AI 工作負載

  • 使用 GPU 執行訓練作業
  • 管理多 GPU 工作負載
  • 監控 GPU 利用率

最佳化效能與資源配置

  • 限制與隔離 GPU 資源
  • 最佳化記憶體、批次大小與裝置配置
  • 效能調整與診斷

容器化推論與模型服務

  • 建立可供推論使用的容器
  • 在 GPU 上服務高負載工作負載
  • 整合模型執行器與 API

使用 Docker 擴展 GPU 工作負載

  • 分散式 GPU 訓練策略
  • 擴展推論微服務
  • 協調多容器 AI 系統

GPU 支援容器的安全性與可靠性

  • 確保共享環境中 GPU 的安全存取
  • 強化容器映像檔
  • 管理更新、版本與相容性

總結與後續步驟

最低要求

  • 了解深度學習基礎知識
  • 具備 Python 與常見 AI 框架的使用經驗
  • 熟悉基本的容器化概念

適用對象

  • 深度學習工程師
  • 研發團隊
  • AI 模型訓練師
 21 小時

人數


每位參與者的報價

客戶評論 (3)

即將到來的課程

課程分類