聯繫我們

課程簡介

AI 部署簡介

  • AI 部署生命週期概覽
  • 將 AI 代理部署至生產環境時的挑戰
  • 關鍵考量:可擴展性、可靠性與可維護性

容器化與編排

  • Docker 與容器化基礎介紹
  • 使用 Kubernetes 進行 AI 代理編排
  • 管理容器化 AI 應用程式的最佳實踐

AI 模型服務化

  • 模型服務框架概覽(例如:TensorFlow Serving, TorchServe)
  • 建構 AI 代理推理的 REST API
  • 處理批量與即時預測

AI 代理的 CI/CD

  • 為 AI 部署設定 CI/CD 流程
  • 自動測試與驗證 AI 模型
  • 滾動更新與版本控制管理

監控與優化

  • 實施用於監控 AI 代理效能的工具
  • 分析模型漂移並評估重新訓練需求
  • 優化資源利用率與可擴展性

安全與治理

  • 確保符合數據隱私法規
  • 保護 AI 部署流程與 API 的安全性
  • AI 應用程式的審計與日誌記錄

實作活動

  • 使用 Docker 容器化 AI 代理
  • 使用 Kubernetes 部署 AI 代理
  • 設定 AI 效能與資源使用的監控機制

總結與下一步行動

最低要求

  • 精通 Python 編程
  • 了解機器學習工作流程
  • 熟悉 Docker 等容器化工具
  • 具備 DevOps 實務經驗(建議)

對象

  • MLOps 工程師
  • DevOps 專業人士
 14 小時

人數


每位參與者的報價

即將到來的課程

課程分類