感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
自訂運算元開發介紹
- 為何要建立自訂運算元?應用情境與限制
- CANN 執行階段結構與運算元整合點
- TBE、TIK 和 TVM 在華為 AI 生態系中的概覽
使用 TIK 進行低階運算元程式設計
- 理解 TIK 程式設計模型與支援的 API
- TIK 中的記憶體管理與分塊策略
- 建立、編譯並將自訂運算元註冊至 CANN
測試與驗證自訂運算元
- 圖形中運算元的單元測試與整合測試
- 除錯核心層級的效能問題
- 視覺化運算元執行與緩衝區行為
基於 TVM 的排程與最佳化
- 作為張量運算元編譯器的 TVM 概覽
- 為 TVM 中的自訂運算元撰寫排程
- 針對 Ascend 的 TVM 微調、基準測試與程式碼產生
與框架及模型的整合
- 為 MindSpore 和 ONNX 註冊自訂運算元
- 驗證模型完整性與 fallback 行為
- 支援具有混合精度的多運算元圖形
案例研究與特殊最佳化
- 案例研究:針對小型輸入尺寸的高效卷積
- 案例研究:記憶體意識型注意力運算元最佳化
- 跨裝置部署自訂運算元的最佳實踐
總結與後續步驟
最低要求
- 具備深厚的 AI 模型內部結構與運算元層級計算知識
- 具備 Python 與 Linux 開發環境的實務經驗
- 熟悉神經網路編譯器或圖形層級最佳化工具
目標受眾
- 負責 AI 工具鏈的編譯器工程師
- 專注於低階 AI 最佳化的系統開發人員
- 建構自訂運算元或針對新興 AI 工作負載的開發人員
14 小時