聯繫我們

課程簡介

自訂運算元開發介紹

  • 為何要建立自訂運算元?應用情境與限制
  • CANN 執行階段結構與運算元整合點
  • TBE、TIK 和 TVM 在華為 AI 生態系中的概覽

使用 TIK 進行低階運算元程式設計

  • 理解 TIK 程式設計模型與支援的 API
  • TIK 中的記憶體管理與分塊策略
  • 建立、編譯並將自訂運算元註冊至 CANN

測試與驗證自訂運算元

  • 圖形中運算元的單元測試與整合測試
  • 除錯核心層級的效能問題
  • 視覺化運算元執行與緩衝區行為

基於 TVM 的排程與最佳化

  • 作為張量運算元編譯器的 TVM 概覽
  • 為 TVM 中的自訂運算元撰寫排程
  • 針對 Ascend 的 TVM 微調、基準測試與程式碼產生

與框架及模型的整合

  • 為 MindSpore 和 ONNX 註冊自訂運算元
  • 驗證模型完整性與 fallback 行為
  • 支援具有混合精度的多運算元圖形

案例研究與特殊最佳化

  • 案例研究:針對小型輸入尺寸的高效卷積
  • 案例研究:記憶體意識型注意力運算元最佳化
  • 跨裝置部署自訂運算元的最佳實踐

總結與後續步驟

最低要求

  • 具備深厚的 AI 模型內部結構與運算元層級計算知識
  • 具備 Python 與 Linux 開發環境的實務經驗
  • 熟悉神經網路編譯器或圖形層級最佳化工具

目標受眾

  • 負責 AI 工具鏈的編譯器工程師
  • 專注於低階 AI 最佳化的系統開發人員
  • 建構自訂運算元或針對新興 AI 工作負載的開發人員
 14 小時

人數


每位參與者的報價

即將到來的課程

課程分類