感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
GPU 加速容器化介紹
- 了解 GPU 在深度學習工作流程中的應用
- Docker 如何支援基於 GPU 的工作負載
- 關鍵效能考量事項
安裝與配置 NVIDIA Container Toolkit
- 設定驅動程式與 CUDA 相容性
- 驗證容器內的 GPU 存取權限
- 配置執行階段環境
建立 GPU 支援的 Docker 映像檔
- 使用 CUDA 基礎映像檔
- 將 AI 框架打包至 GPU 預備好的容器中
- 管理訓練與推論所需的相依性
運行 GPU 加速 AI 工作負載
- 使用 GPU 執行訓練作業
- 管理多 GPU 工作負載
- 監控 GPU 利用率
最佳化效能與資源配置
- 限制與隔離 GPU 資源
- 最佳化記憶體、批次大小與裝置配置
- 效能調整與診斷
容器化推論與模型服務
- 建立可供推論使用的容器
- 在 GPU 上服務高負載工作負載
- 整合模型執行器與 API
使用 Docker 擴展 GPU 工作負載
- 分散式 GPU 訓練策略
- 擴展推論微服務
- 協調多容器 AI 系統
GPU 支援容器的安全性與可靠性
- 確保共享環境中 GPU 的安全存取
- 強化容器映像檔
- 管理更新、版本與相容性
總結與後續步驟
最低要求
- 了解深度學習基礎知識
- 具備 Python 與常見 AI 框架的使用經驗
- 熟悉基本的容器化概念
適用對象
- 深度學習工程師
- 研發團隊
- AI 模型訓練師
21 小時
客戶評論 (3)
培訓師如何如此有效地傳授知識
Vu Thoai Le - Reply Polska sp. z o. o.
課程 - Certified Kubernetes Administrator (CKA) - exam preparation
機器翻譯
培訓師知識淵博,耐心地向我們分享了很多內容
Bogdan Olaru
課程 - Introduction to Docker
機器翻譯
與Augustin的知識交流
Laurent - L'Office national des vacances annuelles (ONVA)
課程 - Docker and Kubernetes
機器翻譯