感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
生產部署簡介
- 部署微調模型的主要挑戰
- 開發環境與生產環境的差異
- 用於模型部署的工具與平台
為部署準備模型
- 以標準格式匯出模型(ONNX、TensorFlow SavedModel 等)
- 優化模型的延遲時間與吞吐量
- 針對邊緣案例和真實資料測試模型
用於模型部署的容器化
- Docker 簡介
- 為 ML 模型建立 Docker 映像檔
- 容器安全與效率的最佳實踐
使用 Kubernetes 擴展部署
- Kubernetes 用於 AI 工作負載的簡介
- 設定用於模型託管的 Kubernetes 叢集
- 負載平衡與水平擴展
模型監控與維護
- 使用 Prometheus 和 Grafana 實施監控
- 用於錯誤追蹤與效能的自動化日誌記錄
- 用於模型漂移和更新的重新訓練管線
確保生產環境中的安全性
- 保護用於模型推論的 API
- 驗證與授權機制
- 解決資料隱私問題
案例研究與實作實驗室
- 部署情感分析模型
- 擴展機器翻譯服務
- 為影像分類模型實施監控
總結與後續步驟
最低要求
- 具備強大的機器學習工作流知識
- 擁有微調 ML 模型的經驗
- 熟悉 DevOps 或 MLOps 原則
受眾
- DevOps 工程師
- MLOps 從業人員
- AI 部署專家
21 小時
客戶評論 (2)
Craig在培訓中非常投入,始終確保我們保持專注,將示例調整到我們的日常活動中,並在被提問時總是提供答案,即使信息未在演示中提及。
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
課程 - DevOps Foundation®
機器翻譯
培訓師的高度承諾和專業知識
Jacek - Softsystem
課程 - DevOps Engineering Foundation (DOEF)®
機器翻譯