課程簡介

AI部署簡介

  • AI部署生命週期概述
  • 將AI代理部署到生產環境中的挑戰
  • 關鍵考慮因素:可擴展性、可靠性和可維護性

容器化與編排

  • Docker與容器化基礎介紹
  • 使用Kubernetes進行AI代理編排
  • 管理容器化AI應用的最佳實踐

AI模型服務

  • 模型服務框架概述(如TensorFlow Serving、TorchServe)
  • 爲AI代理推理構建REST API
  • 處理批處理與即時預測

AI代理的CI/CD

  • 爲AI部署設置CI/CD流水線
  • 自動化AI模型的測試與驗證
  • 滾動更新與版本控制管理

監控與優化

  • 實施AI代理性能監控工具
  • 分析模型漂移與再訓練需求
  • 優化資源利用率與可擴展性

安全與治理

  • 確保符合數據隱私法規
  • 保護AI部署流水線與API
  • AI應用的審計與日誌記錄

實踐環節

  • 使用Docker容器化AI代理
  • 使用Kubernetes部署AI代理
  • 設置AI性能與資源使用監控

總結與下一步

最低要求

  • 精通Python編程
  • 理解機器學習工作流程
  • 熟悉容器化工具如Docker
  • 具備DevOps實踐經驗(推薦)

受衆

  • MLOps工程師
  • DevOps專業人員
 14 時間:

人數


每位參與者的報價

客戶評論 (1)

Upcoming Courses

課程分類