使用 CloudMatrix 進行 AI 推論與部署培訓

華為昇騰是一系列專為高性能推理與訓練設計的AI處理器。

本課程由講師進行實時授課（線上或線下），旨在幫助初級以上的人工智能工程師及數據科學家，利用華為昇騰平台和CANN工具包開發及優化神經網絡模型。

完成本培訓後，學員將能夠：

• 設置並配置CANN開發環境。
• 使用MindSpore和CloudMatrix工作流開發AI應用。
• 使用自定義算子和分塊技術優化昇騰NPU的性能。
• 將模型部署至邊緣或雲端環境。

課程格式

• 互動式授課與討論。
• 在樣本應用中實踐操作華為昇騰和CANN工具包。
• 聚焦於模型構建、訓練及部署的引導式練習。

課程自定義選項

• 如需根據您的基礎設施或數據集為本課程要求客製化培訓，請聯繫我們進行安排。

CANN（神經網絡計算架構）是華為專為在昇騰 AI 處理器上部署和优化 AI 模型而設計的 AI 計算棧。

本課程由導師指導，提供線上或線下直播培訓形式，主要面向希望使用 CANN 工具包及 MindSpore、TensorFlow 或 PyTorch 等工具，高效地將訓練好的 AI 模型部署到華為昇騰硬件上的中級 AI 開發人員和工程師。

通過本課程的學習，參與者將能夠：

• 理解 CANN 架構及其在 AI 部署流程中的作用。
• 將來自主流框架的模型轉換並適應為昇騰兼容格式。
• 使用 ATC、OM 模型轉換和 MindSpore 等工具進行端側和雲側推理。
• 診斷部署問題並優化昇騰硬件上的性能。

課程形式

• 互動式講授與演示。
• 使用 CANN 工具和昇騰模擬器或設備的實操實驗。
• 基於真實世界 AI 模型的實際部署場景。

課程客製化選項

• 如需申請本課程的客製化培訓，請聯繫我們進行安排。

本課程由講者親自指導，在台灣（線上或離線）提供培訓，旨在幫助初級至中級 AI 工程師和軟體開發人員建立對 AI 工程原則與實踐的基礎理解。

完成此培訓後，學員將能夠：

• 理解 AI 和機器學習背後的核心概念與技術。
• 使用 TensorFlow 和 PyTorch 實施基本的機器學習模型。
• 應用 AI 技術解決軟體開發中的實際問題。
• 透過最佳實踐管理並維護 AI 專案。
• 認識開發 AI 系統時涉及的倫理影響與責任。

這門為期兩天的實作課程，旨在讓學員掌握如何有效、安全且一致地在技術與運營工作中使用生成式AI工具的實用技能。培訓重點在於將AI轉化為日常助手，協助撰寫和優化文件、結構化需求、加速分析與報告、支持問題解決以及簡化跨部門溝通。學員將學習經過驗證的提示模式、減少錯誤與「幻覺」的驗證技術，以及輕量級的治理實踐以保護機密資訊與智慧財產權。課程設計旨在產出可直接使用的模板、工作流以及可重複的AI輔助工作方法。

這種在台灣（線上或線下）進行的由講師指導的實時培訓旨在為希望利用AI和ML構建智能應用的中級到高階AI專業人士和軟件開發人員提供培訓。

完成本課程後，學員將能夠：

• 理解AI和ML背後的先進概念與技術。
• 分析並可視化數據，以輔助AI/ML模型開發。
• 有效構建、訓練和部署AI/ML模型。
• 創建能夠解決現實世界問題的智能應用程序。
• 評估AI應用在各個行業中的倫理影響。

CANN（Compute Architecture for Neural Networks）是華為的AI計算工具包，用於在昇騰AI處理器上編譯、優化並部署AI模型。

此課程為導師帶領的實地培訓（線上或線下）。對象為初級AI開發人員，旨在讓他們了解CANN如何融入從訓練到部署的整個模型生命週期，以及它如何與MindSpore、TensorFlow和PyTorch等框架協作。

完成此培訓後，學員將能夠：

• 理解CANN工具包的宗旨與架構。
• 使用CANN和MindSpore設置開發環境。
• 將簡單的AI模型轉換並部署至昇騰硬體。
• 獲得未來進行CANN優化或整合專案的基礎知識。

課程形式

• 互動式講授與討論。
• 結合簡單模型部署的實作演練。
• CANN工具鏈及其整合點的逐步解說。

課程客製化選項

• 如需為本課程要求客製化培訓，請聯繫我們以安排。

華為的 Ascend CANN 套件讓 Ascend 310 等邊緣設備能夠進行強大的 AI 推理。CANN 提供編譯、優化與部署模型所必需的essential工具，適用於運算能力和記憶體受限的環境。

這堂由講師主導的培訓課程（線上或線下），旨在協助初級至中級的 AI 開發人員與整合專家，學習如何使用 CANN 工具鏈在 Ascend 邊緣設備上部署並優化模型。

完成本課程後，學員將能夠：

• 使用 CANN 工具準備並轉換 AI 模型以供 Ascend 310 使用。
• 利用 MindSpore Lite 和 AscendCL 建立輕量級推理管線。
• 為受限的運算與記憶體環境優化模型效能。
• 在真實世界的邊緣應用場景中部署並監控 AI 應用程式。

課程格式

• 互動式講授與示範。
• 針對邊緣特定模型與情境的實作實驗。
• 在虛擬或實體邊緣硬體上的即時部署範例。

課程客製化選項

• 如需為此課程申請客製化培訓，請聯繫我們以安排相關事宜。

華為的 AI 堆疊——從底層的 CANN SDK 到高階的 MindSpore 框架——提供了一個緊密整合的 AI 開發與部署環境，並針對昇騰硬體進行了最佳化。

本課程由導師進行 live 培訓（線上或線下），旨在幫助初級至中級技術專業人士了解 CANN 和 MindSpore 組件如何協同工作，以支援 AI 生命週期管理和基礎設施決策。

參加完本課程後，學員將能夠：

• 理解華為 AI 計算堆疊的分層架構。
• 識別 CANN 如何支援模型最佳化及硬體級別的部署。
• 評估 MindSpore 框架及其工具鏈相對於業界其他選擇的優勢。
• 將華為的 AI 堆疊定位於企業或雲端/本機環境中。

課程形式

• 互動式講授與討論。
• live 系統演示和基於案例的逐步解說。
• 可選的引導式實驗，展示從 MindSpore 到 CANN 的模型流程。

課程客製化選項

• 如需為本課程申請客製化培訓，請聯繫我們以安排。

CANN SDK（Compute Architecture for Neural Networks，神經網路計算架構）是華為的 AI 運算基礎設施，讓開發者能夠微調並最佳化部署於昇騰（Ascend）AI 處理器的神經網路效能。

本課程由講師帶隊進行，提供線上或線下培訓。目標對象為希望使用 CANN 進階工具組（包括圖形引擎、TIK 與自訂運算子開發）來最佳化推論效能的高階 AI 開發者與系統工程師。

完成本課程後，參與者將能夠：

• 理解 CANN 的執行階段架構與效能生命週期。
• 使用剖析工具與圖形引擎進行效能分析與最佳化。
• 使用 TIK 和 TVM 建立並最佳化自訂運算子。
• 解決記憶體瓶頸，並提升模型吞吐量。

課程形式

• 互動式講授與討論。
• 實作實驗室，包含即時剖析與運算子微調。
• 透過邊緣部署範例進行最佳化練習。

課程客製化選項

• 如需針對本課程進行客製化培訓，請聯繫我們以安排。

CANN SDK（神經網路計算架構）為電腦視覺和 NLP 的即時 AI 應用提供強大的部署與優化工具，特別是在華為昇騰硬體上。

這項由講師指導的現場培訓（線上或線下），旨在幫助中階 AI 從業人員使用 CANN SDK 建立、部署及優化視覺與語言模型，以滿足生產用例需求。

完成本課程後，學員將能夠：

• 使用 CANN 和 AscendCL 部署並優化 CV 和 NLP 模型。
• 使用 CANN 工具轉換模型，並將它們整合到即時管線中。
• 優化檢測、分類及情感分析等任務的推論效能。
• 為邊緣或雲端部署場景建立實時的 CV/NLP 管線。

課程格式

• 互動式講授與示範。
• 實作實驗室，包含模型部署與效能分析。
• 使用真實 CV 和 NLP 用例設計即時管線。

課程客製化選項

• 如需為本課程請求客製化培訓，請聯絡我們安排。

CANN TIK（張量指令核心）與 Apache TVM 能夠針對華為 Ascend 硬體進行先進的 AI 模型運算元最佳化與客製化。

本課程提供講師指導及線上或線下即時培訓，目標受眾為進階系統開發人員，旨在協助其使用 CANN 的 TIK 程式設計模型與 TVM 編譯器整合功能，建立、部署並微調 AI 模型的自訂運算元。

完成本課程後，學員將能夠：

• 使用適用於 Ascend 處理器的 TIK DSL 撰寫並測試自訂 AI 運算元。
• 將自訂運算元整合至 CANN 執行階段與執行圖形。
• 使用 TVM 進行運算元排程、自動微調及基準測試。
• 除錯並最佳化自訂計算模式的指令層級效能。

課程格式

• 互動式講授與示範。
• 使用 TIK 和 TVM 管線進行運算元實作編碼。
• 在 Ascend 硬體或模擬器上進行測試與微調。

課程客製化選項

• 若需針對此課程申請客製化培訓，請聯繫我們安排。

中國的 GPU 架構（如華為昇騰、必易科技及寒武紀 MLU）為當地 AI 和高性能運算市場提供了針對性的 CUDA 替代方案。

本課程由講師進行現場或線上實作培訓，旨在協助進階等級的 GPU 程式設計師和基礎設施專家遷移並優化現有的 CUDA 應用程式，以部署至中國硬體平台。

完成本培訓後，學員將能夠：

• 評估現有 CUDA 工作負載與中國晶片替代方案的相容性。
• 將 CUDA 程式碼庫移植至華為 CANN、必易科技 SDK 及寒武紀 BANGPy 環境。
• 比較不同平台的效能並找出優化點。
• 解決跨架構支援和部署中的實際挑戰。

課程格式

• 互動式講座與討論。
• 實作程式碼移植及效能比較實驗室。
• 指導式練習，專注於多 GPU 適應策略。

課程客製化選項

• 若需根據您的平台或 CUDA 專案申請此課程的客製化培訓，請聯繫我們進行安排。

本課程為由講師指導的培訓（台灣 線上或線下），旨在幫助初級IT專業人士建立對智能應用的基礎理解，以及這些技術在各行業中的應用方式。

完成本課程後，學員將能夠：

• 了解人工智能的歷史、原則及其影響。
• 識別並應用不同的機器學習算法。
• 有效管理和分析AI應用所需的數據。
• 認識不同領域中AI的實際應用與局限性。
• 探討AI技術的道德考量及其社會影響。

此講師授課的實戰培訓在台灣（線上或線下）進行，針對希望掌握智能應用精髓，並運用其解決複雜實際問題的中階到高階資料科學家、工程師及AI從業人員而設。

完成本培訓後，學員將能夠：

• 實施並分析深度學習架構。
• 在分散式運算環境中擴展應用機器學習。
• 設計並執行強化學習模型以輔助決策。
• 開發精密的自然語言處理系統以理解語言。
• 運用電腦視覺技術進行影像和影片分析。
• 解決AI系統開發與部署中的倫理考量。

Ascend、Biren和寒武紀是中國領先的AI硬體平台，各自提供獨特的加速和分析工具，以支援生產級別的AI工作負載。

本課程由講師現場授課，可採線上或線下方式進行。對象為進階級的AI基礎設施與效能工程師，旨在協助學員優化跨多個中國AI晶片平台的模型推理與訓練工作流程。

完成本課程後，學員將能夠：

• 在Ascend、Biren和寒武紀平台上對模型進行基準測試。
• 識別系統瓶頸及記憶體/運算效率低下之處。
• 套用圖層、核心層及運算子層級的優化策略。
• 調整部署流程，以提升吞吐量並降低延遲。

課程形式

• 互動式講授與討論。
• 動手使用各平台的分析與優化工具。
• 聚焦於實際調參場景的引導式練習。

課程自訂選項

• 若需根據您的效能環境或模型類型，為此課程安排客製化培訓，請聯繫我們以便安排。