聯繫我們

課程簡介

AI 推論與 Docker 簡介

  • 理解 AI 推論負載
  • 容器化推論的優勢
  • 部署場景與限制

構建 AI 推論容器

  • 選擇基礎映像和框架
  • 封裝預訓練模型
  • 構建適合容器執行的推論程式碼結構

確保容器化 AI 服務安全

  • 最小化容器攻擊面
  • 管理機密和敏感文件
  • 安全的網路配置與 API 暴露策略

可攜式部署技術

  • 優化映像以實現可攜性
  • 確保可預測的運行時環境
  • 跨平台管理相依性

本地部署與測試

  • 使用 Docker 在本地運行服務
  • 除錯推論容器
  • 測試效能與可靠性

伺服器與雲端 VM 部署

  • 調整容器以適應遠端環境
  • 配置安全的伺服器訪問
  • 在雲端 VM 上部署推論 API

使用 Docker Compose 構建多服務 AI 系統

  • 編排推論與支援組件
  • 管理環境變數和配置
  • 擴展 Compose 中的微服務

AI 推論服務的監控與維護

  • 日誌記錄與可觀測方法
  • 檢測推論管線中的故障
  • 生產環境中模型的更新與版本控制

總結與下一步

最低要求

  • 了解基本的機器學習概念
  • 具備 Python 或後端開發經驗
  • 熟悉基礎容器概念

受眾

  • 開發人員
  • 後端工程師
  • 部署 AI 服務的團隊
 14 小時

人數


每位參與者的報價

客戶評論 (3)

即將到來的課程

課程分類