聯繫我們

課程簡介

CANN 最佳化能力概覽

  • 了解 CANN 如何處理推論效能
  • 邊緣與嵌入式 AI 系統的最佳化目標
  • 理解 AI Core 利用率與記憶體配置

使用圖形引擎進行分析

  • 圖形引擎與執行管線的介紹
  • 視覺化運算子圖表與執行階段指標
  • 修改計算圖表以進行最佳化

剖析工具與效能指標

  • 使用 CANN 剖析工具(profiler)分析工作負載
  • 分析核心執行時間與瓶頸
  • 記憶體存取剖析與分塊策略

使用 TIK 開發自訂運算子

  • TIK 與運算子程式設計模型概覽
  • 使用 TIK DSL 實作自訂運算子
  • 測試與基準測試運算子效能

使用 TVM 進行進階運算子最佳化

  • TVM 整合至 CANN 的介紹
  • 計算圖表的自動調整策略
  • 何時以及如何在 TVM 與 TIK 之間切換

記憶體最佳化技術

  • 管理記憶體配置與緩衝區放置
  • 降低晶片內記憶體消耗的技術
  • 非同步執行與重用的最佳實務

實際部署與案例研究

  • 案例研究:智慧城市攝影機管線效能微調
  • 案例研究:優化自動駕駛車輛推論堆疊
  • 迭代剖析與持續改進指南

總結與後續步驟

最低要求

  • 深入理解深度學習模型架構與訓練流程
  • 具備使用 CANN、TensorFlow 或 PyTorch 部署模型的經驗
  • 熟悉 Linux CLI、Shell 腳本及 Python 程式設計

受眾

  • AI 效能工程師
  • 推論最佳化專家
  • 從事邊緣 AI 或即時系統的開發者
 14 小時

人數


每位參與者的報價

即將到來的課程

課程分類