感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程時長 21 時間:
課程簡介
寒武紀與 MLU 架構簡介
- 寒武紀 AI 晶片產品組合概觀
- MLU 架構與指令管線
- 支援的模型類型與使用情境
安裝開發工具鏈
- 安裝 BANGPy 與 Neuware SDK
- 設定 Python 與 C++ 開發環境
- 模型相容性檢查與前處理
使用 BANGPy 進行模型開發
- 張量結構與形狀管理
- 計算圖建構
- BANGPy 中的自定義算子支援
使用 Neuware 執行時進行部署
- 模型轉換與載入
- 執行與推論控制
- 邊緣端與數據中心部署實務
效能最佳化
- 記憶體映射與層級調整
- 執行追蹤與剖析(Profiling)
- 常見瓶頸與解決方案
將 MLU 整合至應用程式
- 使用 Neuware API 進行應用程式整合
- 串流與多模型支援
- CPU 與 MLU 混合推論情境
端到端專案與使用案例
- 實驗:部署視覺或 NLP 模型
- 結合 BANGPy 的邊緣端推論
- 準確率與吞吐量測試
總結與後續步驟
最低要求
- 了解機器學習模型結構
- 具備 Python 及/或 C++ 開發經驗
- 熟悉模型部署與加速相關概念
適合對象
- 嵌入式 AI 開發人員
- 負責在邊緣端或數據中心部署的 ML 工程師
- 從事中國 AI 基礎架構開發的開發人員
客戶評論 (1)
我們可以涵蓋高級主題,並運用實際案例
Ruben Khachaturyan - iris-GmbH infrared & intelligent sensors
課程 - Advanced Edge AI Techniques
機器翻譯