聯繫我們
 課程時長 21 時間:

課程簡介

寒武紀與 MLU 架構簡介

  • 寒武紀 AI 晶片產品組合概觀
  • MLU 架構與指令管線
  • 支援的模型類型與使用情境

安裝開發工具鏈

  • 安裝 BANGPy 與 Neuware SDK
  • 設定 Python 與 C++ 開發環境
  • 模型相容性檢查與前處理

使用 BANGPy 進行模型開發

  • 張量結構與形狀管理
  • 計算圖建構
  • BANGPy 中的自定義算子支援

使用 Neuware 執行時進行部署

  • 模型轉換與載入
  • 執行與推論控制
  • 邊緣端與數據中心部署實務

效能最佳化

  • 記憶體映射與層級調整
  • 執行追蹤與剖析(Profiling)
  • 常見瓶頸與解決方案

將 MLU 整合至應用程式

  • 使用 Neuware API 進行應用程式整合
  • 串流與多模型支援
  • CPU 與 MLU 混合推論情境

端到端專案與使用案例

  • 實驗:部署視覺或 NLP 模型
  • 結合 BANGPy 的邊緣端推論
  • 準確率與吞吐量測試

總結與後續步驟

最低要求

  • 了解機器學習模型結構
  • 具備 Python 及/或 C++ 開發經驗
  • 熟悉模型部署與加速相關概念

適合對象

  • 嵌入式 AI 開發人員
  • 負責在邊緣端或數據中心部署的 ML 工程師
  • 從事中國 AI 基礎架構開發的開發人員

客戶評論 (1)

即將到來的課程

課程分類