Cambricon MLU Development with BANGPy and Neuware 培訓
Cambricon MLUs (Machine Learning 单元) 是专为边缘和数据中心场景中的推理和训练优化的AI芯片。
本次由讲师指导的培训(线上或线下)面向中级开发者,旨在帮助他们使用BANGPy框架和Neuware SDK在Cambricon MLU硬件上构建和部署AI模型。
通过本次培训,参与者将能够:
- 设置和配置BANGPy和Neuware开发环境。
- 开发和优化基于Python和C++的模型,适用于Cambricon MLUs。
- 将模型部署到运行Neuware运行时的边缘和数据中心设备。
- 将ML工作流与MLU特定的加速功能集成。
课程形式
- 互动式讲座和讨论。
- 动手实践,使用BANGPy和Neuware进行开发和部署。
- 指导练习,专注于优化、集成和测试。
课程定制选项
- 如需根据您的Cambricon设备型号或使用场景定制本次培训,请联系我们安排。
課程簡介
Cambricon與MLU架構介紹
- Cambricon AI晶片產品概覽
- MLU架構與指令流水線
- 支援的模型類型與應用場景
安裝開發工具鏈
- 安裝BANGPy與Neuware SDK
- Python與C++的環境設置
- 模型兼容性與預處理
使用BANGPy進行模型開發
- 張量結構與形狀管理
- 計算圖構建
- BANGPy中的自定義操作支援
使用Neuware Runtime進行部署
- 模型轉換與加載
- 執行與推理控制
- 邊緣與數據中心部署實踐
性能優化
- 內存映射與層調優
- 執行追蹤與性能分析
- 常見瓶頸與解決方案
將MLU整合至應用中
- 使用Neuware APIs進行應用整合
- 串流與多模型支援
- 混合CPU-MLU推理場景
端到端項目與Use Case
- 實驗室:部署視覺或NLP模型
- 使用BANGPy整合進行邊緣推理
- 測試準確性與吞吐量
總結與下一步
最低要求
- 了解機器學習模型結構
- 具備Python和/或C++的經驗
- 熟悉模型部署與加速概念
目標受眾
- 嵌入式AI開發者
- 部署至邊緣或數據中心的ML工程師
- 使用中國AI基礎設施的開發者
Open Training Courses require 5+ participants.
Cambricon MLU Development with BANGPy and Neuware 培訓 - Booking
Cambricon MLU Development with BANGPy and Neuware 培訓 - Enquiry
Cambricon MLU Development with BANGPy and Neuware - 咨詢詢問
咨詢詢問
Upcoming Courses
相關課程
高級Edge AI技術
14 時間:本課程爲講師指導的台灣(線上或線下)培訓,面向高級AI從業者、研究人員和開發者,旨在幫助他們掌握Edge AI的最新技術進展,優化AI模型以進行邊緣部署,並探索各行業中的專業應用。
培訓結束後,學員將能夠:
- 探索Edge AI模型開發和優化的先進技術。
- 實施在邊緣設備上部署AI模型的前沿策略。
- 利用專用工具和框架進行高級Edge AI應用。
- 優化Edge AI解決方案的性能和效率。
- 探索Edge AI的創新用例和新興趨勢。
- 解決Edge AI部署中的高級倫理和安全問題。
構建邊緣AI解決方案
14 時間:本次由講師指導的線下或線上培訓,面向中級開發者、數據科學家和技術愛好者,旨在幫助他們掌握在各種應用中在邊緣設備上部署AI模型的實用技能。
培訓結束後,參與者將能夠:
- 理解Edge AI的原理及其優勢。
- 設置和配置邊緣計算環境。
- 開發、訓練和優化用於邊緣部署的AI模型。
- 在邊緣設備上實現實用的AI解決方案。
- 評估並改進邊緣部署模型的性能。
- 解決Edge AI應用中的倫理和安全問題。
Migrating CUDA Applications to Chinese GPU Architectures
21 時間:中國的GPU架構,如Huawei Ascend、Biren和Cambricon MLU,提供了專為本地AI和HPC市場量身定制的CUDA替代方案。
這項由講師指導的培訓(線上或線下)旨在為高級GPU程式設計師和基礎設施專家提供遷移和優化現有CUDA應用程序,以便在中國硬件平台上部署的能力。
培訓結束後,參與者將能夠:
- 評估現有CUDA工作負載與中國芯片替代方案的兼容性。
- 將CUDA代碼庫移植到華為CANN、Biren SDK和Cambricon BANGPy環境中。
- 比較性能並識別跨平台的優化點。
- 解決跨架構支持和部署中的實際挑戰。
課程形式
- 互動式講座和討論。
- 實踐代碼翻譯和性能比較實驗。
- 專注於多GPU適應策略的指導練習。
課程定制選項
- 如需根據您的平台或CUDA項目定制培訓,請聯繫我們安排。
邊緣人工智能在自主系統中的應用
14 時間:本次由講師指導的線下或線上培訓,面向中級機器人工程師、自動駕駛汽車開發者和AI研究人員,旨在幫助他們利用Edge AI技術開發創新的自主系統解決方案。
培訓結束後,參與者將能夠:
- 理解Edge AI在自主系統中的作用和優勢。
- 開發和部署用於邊緣設備即時處理的AI模型。
- 在自動駕駛汽車、無人機和機器人中實施Edge AI解決方案。
- 使用Edge AI設計和優化控制系統。
- 解決自主AI應用中的倫理和監管問題。
Edge AI:從概念到實現
14 時間:本次由講師指導的台灣(線上或線下)培訓面向中級開發人員和IT專業人士,旨在幫助他們全面瞭解Edge AI從概念到實際實施的全過程,包括設置和部署。
培訓結束後,學員將能夠:
- 理解Edge AI的基本概念。
- 設置和配置Edge AI環境。
- 開發、訓練和優化Edge AI模型。
- 部署和管理Edge AI應用。
- 將Edge AI與現有系統和工作流集成。
- 解決Edge AI實施中的倫理問題,並瞭解最佳實踐。
邊緣AI在金融服務中的應用
14 時間:本課程爲講師指導的台灣(線上或線下)培訓,面向中級財務專業人士、金融科技開發者和AI專家,旨在幫助他們實現在金融服務中應用Edge AI的解決方案。
通過本培訓,學員將能夠:
- 瞭解Edge AI在金融服務中的作用。
- 使用Edge AI實施欺詐檢測系統。
- 通過AI驅動的解決方案提升客戶服務。
- 應用Edge AI進行風險管理和決策支持。
- 在金融環境中部署和管理Edge AI解決方案。
Edge AI 醫療應用
14 時間:本課程爲講師主導的台灣(線上或線下)培訓,面向希望利用Edge AI開發創新醫療解決方案的中級醫療專業人員、生物醫學工程師和AI開發者。
通過本培訓,學員將能夠:
- 瞭解Edge AI在醫療領域的作用和優勢。
- 在邊緣設備上開發和部署用於醫療應用的AI模型。
- 在可穿戴設備和診斷工具中實施Edge AI解決方案。
- 設計和部署基於Edge AI的患者監護系統。
- 解決醫療AI應用中的倫理和監管問題。
邊緣AI在工業自動化中的應用
14 時間:本次由講師指導的台灣(線上或線下)培訓面向中級工業工程師、製造專業人士和AI開發者,旨在幫助他們在工業自動化中實施Edge AI解決方案。
培訓結束後,參與者將能夠:
- 瞭解Edge AI在工業自動化中的作用。
- 使用Edge AI實施預測性維護解決方案。
- 在製造過程中應用AI技術進行質量控制。
- 使用Edge AI優化工業流程。
- 在工業環境中部署和管理Edge AI解決方案。
Edge AI 在物聯網應用中的應用
14 時間:本次由講師指導的線下或線上培訓,面向中級開發人員、系統架構師和行業專業人士,旨在幫助他們利用Edge AI增強物聯網應用的智能數據處理和分析能力。
培訓結束後,學員將能夠:
- 理解Edge AI的基礎知識及其在物聯網中的應用。
- 爲物聯網設備設置和配置Edge AI環境。
- 在邊緣設備上開發和部署用於物聯網應用的AI模型。
- 在物聯網系統中實現即時數據處理和決策。
- 將Edge AI與各種物聯網協議和平臺集成。
- 解決Edge AI在物聯網中的倫理問題和最佳實踐。
Edge AI 智慧城市
14 時間:本次由講師主導的線下或線上培訓,面向中級城市規劃師、土木工程師和智慧城市項目經理,旨在幫助他們利用Edge AI推動智慧城市項目。
培訓結束後,參與者將能夠:
- 理解Edge AI在智慧城市基礎設施中的作用。
- 實施Edge AI解決方案,用於交通管理和監控。
- 利用Edge AI技術優化城市資源。
- 將Edge AI與現有智慧城市系統集成。
- 解決智慧城市部署中的倫理和監管問題。
Edge AI with TensorFlow Lite
14 時間:本課程爲講師指導的線下或線上培訓,面向中級開發者、數據科學家和AI從業者,旨在幫助他們利用TensorFlow Lite開發Edge AI應用。
通過本培訓,學員將能夠:
- 理解TensorFlow Lite的基礎知識及其在Edge AI中的作用。
- 使用TensorFlow Lite開發和優化AI模型。
- 在各種邊緣設備上部署TensorFlow Lite模型。
- 掌握模型轉換和優化的工具與技術。
- 使用TensorFlow Lite實現實際的Edge AI應用。
Edge AI 簡介
14 時間:本課程爲講師指導的台灣(線上或線下)培訓,面向希望瞭解Edge AI基礎知識及其入門應用的初級開發者和IT專業人士。
通過本培訓,參與者將能夠:
- 理解Edge AI的基本概念和架構。
- 設置和配置Edge AI環境。
- 開發和部署簡單的Edge AI應用。
- 識別並理解Edge AI的用例和優勢。
優化AI模型以適用於邊緣設備
14 時間:本次由講師指導的線下或線上培訓,面向希望優化AI模型以在邊緣設備上部署的中級AI開發者、機器學習工程師和系統架構師。
在培訓結束時,參與者將能夠:
- 瞭解在邊緣設備上部署AI模型的挑戰和需求。
- 應用模型壓縮技術,減少AI模型的規模和複雜性。
- 利用量化方法,提升模型在邊緣硬件上的效率。
- 實施剪枝和其他優化技術,提升模型性能。
- 在各種邊緣設備上部署優化後的AI模型。
Performance Optimization on Ascend, Biren, and Cambricon
21 時間:Ascend、Biren 和 Cambricon 是中國領先的 AI 硬體平台,各自提供獨特的加速和性能分析工具,用於生產規模的 AI 工作負載。
這項由講師指導的培訓(線上或線下)針對高級 AI 基礎設施和性能工程師,旨在優化跨多個中國 AI 晶片平台的模型推理和訓練工作流程。
在培訓結束時,參與者將能夠:
- 在 Ascend、Biren 和 Cambricon 平台上進行模型基準測試。
- 識別系統瓶頸和記憶體/計算效率低下的問題。
- 應用圖層級、核心層級和操作層級的優化。
- 調整部署管道以提高吞吐量和減少延遲。
課程形式
- 互動式講座和討論。
- 在每個平台上實際使用性能分析和優化工具。
- 專注於實際調整情境的指導練習。
課程定制選項
- 如需根據您的性能環境或模型類型定制此課程,請聯繫我們安排。
邊緣AI中的安全與隱私
14 時間:本課程爲講師主導的台灣(線上或線下)培訓,面向中級網絡安全專業人員、系統管理員和AI倫理研究人員,旨在幫助他們安全且符合倫理地部署Edge AI解決方案。
培訓結束後,學員將能夠:
- 瞭解Edge AI中的安全和隱私挑戰。
- 實施保護邊緣設備和數據的最佳實踐。
- 制定策略,緩解Edge AI部署中的安全風險。
- 解決倫理問題,並確保符合法規要求。
- 對Edge AI應用進行安全評估和審計。