聯繫我們

課程簡介

混合 AI 部署基礎

  • 理解混合、雲端及邊緣部署模型
  • AI 負載特性與基礎設施限制
  • 選擇合適的部署拓撲結構

使用 Docker 容器化 AI 負載

  • 建立 GPU 與 CPU 推理容器
  • 管理安全映像檔與登錄庫
  • 實施可重複的 AI 環境

將 AI 服務部署至雲端環境

  • 透過 Docker 在 AWS、Azure 和 GCP 上執行推理
  • 配置雲端運算資源以提供模型服務
  • 保護基於雲端的 AI 端點

邊緣與內部部署技術

  • 在物聯網裝置、閘道器及微型伺服器上運行 AI
  • 用於邊緣環境的輕量級運行時
  • 管理間歇性連線與本地持久化儲存

混合網路與安全連線

  • 建立邊緣與雲端間的安全隧道
  • 憑證、機密金鑰與基於權杖的存取控制
  • 針對低延遲推理進行效能調整

編排分佈式 AI 部署

  • 使用 K3s、K8s 或輕量級編排工具進行混合設置
  • 服務發現與負載調度
  • 自動化多地點 rollout 策略

跨環境監控與可觀測性

  • 追蹤各地點的推理效能
  • 混合 AI 系統的集中式日誌記錄
  • 故障檢測與自動化恢復

擴展與最佳化混合 AI 系統

  • 擴展邊緣叢集與雲端節點
  • 最佳頻寬使用率與快取機制
  • 平衡雲端與邊緣之間的運算負載

總結與下一步行動

最低要求

  • 具備容器化概念的理解
  • 熟悉 Linux 命令列操作
  • 熟悉 AI 模型部署工作流程

受眾對象

  • 基礎架構架構師
  • Site Reliability Engineers (SREs)
  • 邊緣計算與物聯網開發人員
 21 小時

人數


每位參與者的報價

客戶評論 (3)

即將到來的課程

課程分類