感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
Docker與AI推理簡介
- 瞭解AI推理工作負載
- 容器化推理的優勢
- 部署場景與限制
構建AI推理容器
- 選擇基礎鏡像和框架
- 打包預訓練模型
- 爲容器執行結構化推理代碼
保護容器化的AI服務
- 最小化容器攻擊面
- 管理密鑰和敏感文件
- 安全的網絡和API暴露策略
便攜部署技術
- 優化鏡像以實現便攜性
- 確保可預測的運行時環境
- 跨平臺管理依賴項
本地部署與測試
- 使用Docker在本地運行服務
- 調試推理容器
- 測試性能和可靠性
在服務器和雲虛擬機上部署
- 爲遠程環境適配容器
- 配置安全的服務器訪問
- 在雲虛擬機上部署推理API
使用Docker Compose構建多服務AI系統
- 編排推理與支持組件
- 管理環境變量和配置
- 使用Compose擴展微服務
AI推理服務的監控與維護
- 日誌記錄與可觀測性方法
- 檢測推理管道中的故障
- 在生產環境中更新和版本化模型
總結與下一步
最低要求
- 對基本機器學習概念的理解
- Python或後端開發經驗
- 熟悉基礎的容器概念
受衆
- 開發者
- 後端工程師
- 部署AI服務的團隊
14 時間:
客戶評論 (5)
OC is new to us and we learnt alot and the labs were excellent
sharkey dollie
課程 - OpenShift 4 for Administrators
Very informative and to the point. Hands on pratice
Gil Matias - FINEOS
課程 - Introduction to Docker
Labs and technical discussions.
Dinesh Panchal - AXA XL
課程 - Advanced Docker
It gave a good grounding for Docker and Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
課程 - Docker (introducing Kubernetes)
I mostly enjoyed the knowledge of the trainer.