聯繫我們

課程簡介

生產部署簡介

  • 部署微調模型的主要挑戰
  • 開發環境與生產環境的差異
  • 用於模型部署的工具與平台

為部署準備模型

  • 以標準格式匯出模型(ONNX、TensorFlow SavedModel 等)
  • 優化模型的延遲時間與吞吐量
  • 針對邊緣案例和真實資料測試模型

用於模型部署的容器化

  • Docker 簡介
  • 為 ML 模型建立 Docker 映像檔
  • 容器安全與效率的最佳實踐

使用 Kubernetes 擴展部署

  • Kubernetes 用於 AI 工作負載的簡介
  • 設定用於模型託管的 Kubernetes 叢集
  • 負載平衡與水平擴展

模型監控與維護

  • 使用 Prometheus 和 Grafana 實施監控
  • 用於錯誤追蹤與效能的自動化日誌記錄
  • 用於模型漂移和更新的重新訓練管線

確保生產環境中的安全性

  • 保護用於模型推論的 API
  • 驗證與授權機制
  • 解決資料隱私問題

案例研究與實作實驗室

  • 部署情感分析模型
  • 擴展機器翻譯服務
  • 為影像分類模型實施監控

總結與後續步驟

最低要求

  • 具備強大的機器學習工作流知識
  • 擁有微調 ML 模型的經驗
  • 熟悉 DevOps 或 MLOps 原則

受眾

  • DevOps 工程師
  • MLOps 從業人員
  • AI 部署專家
 21 小時

人數


每位參與者的報價

客戶評論 (2)

即將到來的課程

課程分類