聯繫我們
 課程時長 21 時間:

課程簡介

混合式 AI 部署基礎

  • 理解混合、雲端與邊緣部署模型
  • AI 工作負載特徵與基礎設施限制
  • 選擇合適的部署拓撲

使用 Docker 容器化 AI 工作負載

  • 建構 GPU 與 CPU 推論容器
  • 管理安全映像檔與註冊表
  • 為 AI 實施可重現的環境

將 AI 服務部署至雲端環境

  • 透過 Docker 在 AWS、Azure 及 GCP 上執行推論
  • 為模型服務配置雲端計算資源
  • 保護雲端 AI 端點安全

邊緣與本地部署技術

  • 在 IoT 裝置、閘道器及微型伺服器上運行 AI
  • 邊緣環境的輕量級執行時期
  • 管理間歇性連線與本地持續性

混合網路與安全連線

  • 邊緣與雲端間的安全隧道
  • 憑證、金鑰及基於權杖的存取
  • 低延遲推論的效能調校

編排分佈式 AI 部署

  • 在混合設定中使用 K3s、K8s 或輕量級編排工具
  • 服務發現與工作負載排程
  • 自動化多站點推出策略

跨環境監控與可觀測性

  • 追蹤各站點的推論效能
  • 混合式 AI 系統的中央化記錄
  • 故障偵測與自動復原

擴展與優化混合式 AI 系統

  • 擴展邊緣叢集與雲端節點
  • 優化頻寬使用與快取
  • 平衡雲端與邊緣之間的計算負載

總結與下一步

最低要求

  • 了解容器化概念
  • 具備 Linux 命令列操作經驗
  • 熟悉 AI 模型部署工作流

適用對象

  • 基礎設施架構師
  • 站點可靠性工程師(SRE)
  • 邊緣與 IoT 開發人員

人數


每位參與者的報價

客戶評論 (2)

即將到來的課程

課程分類