聯繫我們

課程簡介

Docker 與 AI 推論入門

  • 理解 AI 推論負載。
  • 容器化推論的益處。
  • 部署情境與限制條件。

建構 AI 推論容器

  • 選取基礎映像檔和框架。
  • 打包預先訓練的模型。
  • 為容器執行結構化推論程式碼。

保障容器化 AI 服務的安全

  • 最小化容器的攻擊表面。
  • 管理金鑰和敏感檔案。
  • 安全的網路與 API 暴露策略。

可移植的部署技術

  • 最佳化映像檔以實現可移植性。
  • 確保可預測的執行時間環境。
  • 跨平台管理相依性。

本地部署與測試

  • 使用 Docker 在本地運行服務。
  • 除錯推論容器。
  • 測試效能和可靠性。

在伺服器和雲端虛擬機器上部署

  • 調整容器以適應遠端環境。
  • 配置安全的伺服器存取。
  • 在雲端 VM 上部署推論 API。

使用 Docker Compose 管理多服務 AI 系統

  • 與支援組件協調推論過程。
  • 管理環境變數和配置。
  • 透過 Compose 擴充微服務。

AI 推論服務的監控與維護

  • 日誌記錄和可觀察性方法。
  • 檢測推論管線中的故障。
  • 在生產環境中更新和版本控制模型。

總結與後續步驟

最低要求

  • 具備基本機器學習概念的理解。
  • 擁有 Python 或後端開發經驗。
  • 熟悉基礎的容器概念。

受眾

  • 開發人員。
  • 後端工程師。
  • 部署 AI 服務的團隊。
 14 小時

人數


每位參與者的報價

客戶評論 (3)

即將到來的課程

課程分類