聯繫我們

課程簡介

混合 AI 部署基礎

  • 理解混合式、雲端與邊緣部署模式
  • AI 工作負載特性與基礎架構限制
  • 選擇適當的部署拓撲結構

使用 Docker 將 AI 工作負載容器化

  • 建構 GPU 與 CPU 推論容器
  • 管理安全映像檔與登錄檔
  • 建立可重現的 AI 環境

將 AI 服務部署至雲端環境

  • 透過 Docker 在 AWS、Azure 和 GCP 上執行推論
  • 為模型伺服器配置雲端運算資源
  • 保護雲端 AI 端點安全

邊緣與內部部署技術

  • 在 IoT 裝置、閘道器及微伺服器上運行 AI
  • 輕量級邊緣環境執行階段
  • 管理間歇性連線與本地持久化儲存

混合網路與安全連線

  • 建立邊緣與雲端間的安全隧道
  • 憑證、金鑰與基於權杖的存取控制
  • 為低延遲推論進行效能調校

協調分散式 AI 部署

  • 使用 K3s、K8s 或輕量級協調工具建構混合環境
  • 服務發現與工作負載排程
  • 自動化多地點擴展策略

跨環境的監控與可觀測性

  • 追蹤各地點的推論效能
  • 為混合 AI 系統建立集中式日誌
  • 故障偵測與自動化恢復

縮放與優化混合 AI 系統

  • 縮放邊緣叢集與雲端節點
  • 最佳化頻寬使用與快取機制
  • 平衡雲端與邊緣之間的運算負載

總結與後續步驟

最低要求

  • 理解容器化相關概念
  • 具備 Linux 命令列操作經驗
  • 熟悉 AI 模型部署工作流程

適用對象

  • 基礎架構架構師
  • 網站可靠度工程師 (SREs)
  • 邊緣運算與物聯網開發人員
 21 小時

人數


每位參與者的報價

客戶評論 (3)

即將到來的課程

課程分類