感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程時長 14 時間:
課程簡介
使用 Docker 進行 AI 推理簡介
- 了解 AI 推理工作負載
- 容器化推理的好處
- 部署場景與限制
建構 AI 推理容器
- 選擇基礎映像檔與框架
- 打包預訓練模型
- 結構化推理代碼以適應容器執行
確保容器化 AI 服務的安全性
- 最小化容器攻擊面
- 管理祕密資訊與敏感檔案
- 安全的網路與 API 公開策略
可攜式部署技術
- 最佳化映像檔以提升可攜性
- 確保可預期的運行時環境
- 跨平台管理相依套件
本機部署與測試
- 使用 Docker 在本機運行服務
- 偵錯推理容器
- 測試效能與可靠性
部署於伺服器與雲端虛擬機器
- 調整容器以適應遠端環境
- 設定安全的伺服器存取
- 在雲端虛擬機器上部署推理 API
使用 Docker Compose 處理多服務 AI 系統
- 協調推理與支援元件
- 管理環境變數與設定
- 使用 Compose 擴展微服務
AI 推理服務的監控與維護
- 記錄與可觀察性方法
- 偵測推理管線中的故障
- 在生產環境中更新與版本化模型
總結與後續步驟
最低要求
- 了解基礎機器學習概念
- 具備 Python 或後端開發經驗
- 熟悉基礎容器概念
目標受眾
- 開發人員
- 後端工程師
- 部署 AI 服務的團隊
客戶評論 (2)
如前所述,对于像我这样没有经验的人来说,这是了解这些程序/工具等功能与用途的入门途径。
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
課程 - Docker and Kubernetes
機器翻譯
多层次、结构化的课程体系。
Bert Paelinckx - Cube SoftwareSolutions
課程 - Introduction to Docker
機器翻譯