感謝您提交詢問！我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂！我們的一位團隊成員將在短時間內與您聯繫。
課程時長 14 時間：
課程簡介
CANN 最佳化能力概述
- CANN 中推理效能的處理機制
- 邊緣與嵌入式 AI 系統的最佳化目標
- 理解 AI 核心利用率與記憶體配置
使用 Graph Engine 進行分析
- Graph Engine 與執行管線簡介
- 可視化算子圖與執行時指標
- 修改計算圖以進行最佳化
剖析工具與效能指標
- 使用 CANN 剖析工具 (profiler) 進行工作負載分析
- 分析內核執行時間與瓶頸
- 記憶體存取剖析與圖騰 (Tiling) 策略
使用 TIK 進行自訂算子開發
- TIK 與算子編程模型概述
- 使用 TIK DSL 實現自訂算子
- 測試與基準測試算子效能
使用 TVM 進行進階算子最佳化
- TV M 與 CANN 整合簡介
- 計算圖的自動調優策略
- 何時以及如何切換 TVM 與 TIK
記憶體最佳化技術
- 管理記憶體佈局與緩衝區放置
- 減少晶片上記憶體消耗的技巧
- 非同步執行與複用的最佳實踐
實際部署與案例研究
- 案例研究：智慧城市相機管線的效能調校
- 案例研究：自動駕駛車輛推理堆疊的最佳化
- 迭代剖析與持續改進的指導原則
總結與後續步驟
最低要求
- 對深度學習模型架構與訓練工作流程有深入的理解
- 具有使用 CANN、TensorFlow 或 PyTorch 進行模型部署的經驗
- 熟悉 Linux 命令行界面 (CLI)、Shell 腳本編程及 Python 編程
受眾
- AI 效能工程師
- 推理最佳化專員
- 從事邊緣 AI 或即時系統開發的開發人員
