聯繫我們
 課程時長 14 時間:

課程簡介

使用 Docker 進行 AI 推理簡介

  • 了解 AI 推理工作負載
  • 容器化推理的好處
  • 部署場景與限制

建構 AI 推理容器

  • 選擇基礎映像檔與框架
  • 打包預訓練模型
  • 結構化推理代碼以適應容器執行

確保容器化 AI 服務的安全性

  • 最小化容器攻擊面
  • 管理祕密資訊與敏感檔案
  • 安全的網路與 API 公開策略

可攜式部署技術

  • 最佳化映像檔以提升可攜性
  • 確保可預期的運行時環境
  • 跨平台管理相依套件

本機部署與測試

  • 使用 Docker 在本機運行服務
  • 偵錯推理容器
  • 測試效能與可靠性

部署於伺服器與雲端虛擬機器

  • 調整容器以適應遠端環境
  • 設定安全的伺服器存取
  • 在雲端虛擬機器上部署推理 API

使用 Docker Compose 處理多服務 AI 系統

  • 協調推理與支援元件
  • 管理環境變數與設定
  • 使用 Compose 擴展微服務

AI 推理服務的監控與維護

  • 記錄與可觀察性方法
  • 偵測推理管線中的故障
  • 在生產環境中更新與版本化模型

總結與後續步驟

最低要求

  • 了解基礎機器學習概念
  • 具備 Python 或後端開發經驗
  • 熟悉基礎容器概念

目標受眾

  • 開發人員
  • 後端工程師
  • 部署 AI 服務的團隊

人數


每位參與者的報價

客戶評論 (2)

即將到來的課程

課程分類