感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
CANN 最佳化能力概覽
- 了解 CANN 如何處理推論效能
- 邊緣與嵌入式 AI 系統的最佳化目標
- 理解 AI Core 利用率與記憶體配置
使用圖形引擎進行分析
- 圖形引擎與執行管線的介紹
- 視覺化運算子圖表與執行階段指標
- 修改計算圖表以進行最佳化
剖析工具與效能指標
- 使用 CANN 剖析工具(profiler)分析工作負載
- 分析核心執行時間與瓶頸
- 記憶體存取剖析與分塊策略
使用 TIK 開發自訂運算子
- TIK 與運算子程式設計模型概覽
- 使用 TIK DSL 實作自訂運算子
- 測試與基準測試運算子效能
使用 TVM 進行進階運算子最佳化
- TVM 整合至 CANN 的介紹
- 計算圖表的自動調整策略
- 何時以及如何在 TVM 與 TIK 之間切換
記憶體最佳化技術
- 管理記憶體配置與緩衝區放置
- 降低晶片內記憶體消耗的技術
- 非同步執行與重用的最佳實務
實際部署與案例研究
- 案例研究:智慧城市攝影機管線效能微調
- 案例研究:優化自動駕駛車輛推論堆疊
- 迭代剖析與持續改進指南
總結與後續步驟
最低要求
- 深入理解深度學習模型架構與訓練流程
- 具備使用 CANN、TensorFlow 或 PyTorch 部署模型的經驗
- 熟悉 Linux CLI、Shell 腳本及 Python 程式設計
受眾
- AI 效能工程師
- 推論最佳化專家
- 從事邊緣 AI 或即時系統的開發者
14 小時