課程簡介

Docker與AI推理簡介

  • 瞭解AI推理工作負載
  • 容器化推理的優勢
  • 部署場景與限制

構建AI推理容器

  • 選擇基礎鏡像和框架
  • 打包預訓練模型
  • 爲容器執行結構化推理代碼

保護容器化的AI服務

  • 最小化容器攻擊面
  • 管理密鑰和敏感文件
  • 安全的網絡和API暴露策略

便攜部署技術

  • 優化鏡像以實現便攜性
  • 確保可預測的運行時環境
  • 跨平臺管理依賴項

本地部署與測試

  • 使用Docker在本地運行服務
  • 調試推理容器
  • 測試性能和可靠性

在服務器和雲虛擬機上部署

  • 爲遠程環境適配容器
  • 配置安全的服務器訪問
  • 在雲虛擬機上部署推理API

使用Docker Compose構建多服務AI系統

  • 編排推理與支持組件
  • 管理環境變量和配置
  • 使用Compose擴展微服務

AI推理服務的監控與維護

  • 日誌記錄與可觀測性方法
  • 檢測推理管道中的故障
  • 在生產環境中更新和版本化模型

總結與下一步

最低要求

  • 對基本機器學習概念的理解
  • Python或後端開發經驗
  • 熟悉基礎的容器概念

受衆

  • 開發者
  • 後端工程師
  • 部署AI服務的團隊
 14 時間:

人數


每位參與者的報價

客戶評論 (5)

即將到來的課程

課程分類