使用CloudMatrix進行AI推理和部署培訓

華為昇騰是專為高性能推理和訓練設計的一系列AI處理器。

本課程由講師親自授課，提供線上或線下培訓形式，旨在協助具備中級水平的AI工程師及數據科學家利用華為昇騰平台和CANN工具包來開發與優化神經網絡模型。

完成本課程後，學員將能夠：

• 設置並配置CANN開發環境。
• 使用MindSpore和CloudMatrix工作流開發AI應用。
• 通過自定義運算元和分片技術在昇騰NPU上優化性能。
• 將模型部署至邊緣或雲端環境。

課程形式

• 互動式講授與討論。
• 在示例應用中實際操作華為昇騰和CANN工具包。
• 圍繞模型構建、訓練及部署的引導式練習。

課程定製選項

• 如需根據您的基礎設施或數據集對此課程進行定製培訓，請聯繫我們以安排相關事宜。

CANN（神經網路計算架構）是華為用於在 Ascend AI 處理器上部署及優化 AI 模型的 AI 計算棧。

本課程採用講師授課模式，提供線上或線下培訓。對象為希望使用 CANN 工具組及 MindSpore、TensorFlow 或 PyTorch 等工具，高效部署訓練好的 AI 模型至華為 Ascend 硬件的中級 AI 開發人員和工程師。

完成本課程後，學員將能夠：

• 理解 CANN 架構及其在 AI 部署流程中的角色。
• 將來自熱門框架的模型轉換並適應為 Ascend 兼容格式。
• 使用 ATC、OM 模型轉換及 MindSpore 等工具，進行邊緣和雲端推理部署。
• 診斷部署問題，並優化 Ascend 硬件上的性能表現。

課程形式

• 互動式講授與示範演示。
• 透過使用 CANN 工具組及 Ascend 模擬器或設備，進行實作實驗室操作。
• 以真實世界 AI 模型為基礎的實務部署場景。

課程自訂選項

• 如需申請本課程的客製化培訓，請聯繫我們以安排。

這項由講師指導的實體或線上培訓課程旨在為初階至中階AI工程師及軟體開發人員提供對AI工程原則和實踐的基礎理解。

參加者完成本培訓後將能：

• 了解人工智慧和機器學習背後的核心理念與技術。
• 使用TensorFlow和PyTorch實現基本的機器學習模型。
• 在軟體開發中應用AI技術解決實際問題。
• 運用最佳實踐管理並維護AI專案。
• 認識開發AI系統所涉及倫理影響及責任。

這門兩天的實作課程，旨在讓參與者掌握有效、安全且一致地運用生成式AI工具的實用技能，將其應用於技術與營運工作中。培訓重點在於將AI轉化為日常助手，協助撰寫與優化文件、建構需求結構、加速分析與報告流程、支援問題解決，以及簡化跨部門溝通。參與者將學習經過驗證的提示詞模式、減少錯誤與「幻覺」現象的驗證技術，以及輕量級的治理實踐，以保護機密資訊與智慧財產權。本課程設計目標在於產出立即可用的範本、工作流程，以及一套可重複執行的AI輔助工作方法論。

本次在澳門（線上或線下）舉行的講師主導培訓，針對希望利用AI和ML開發智能應用的中高級AI專業人員及軟件開發者。

完成本課程後，學員將能夠：

• 理解AI與ML背後的進階概念與技術。
• 分析並可視化數據，為AI/ML模型開發提供依據。
• 有效構建、訓練並部署AI/ML模型。
• 創造能解決實際問題的智能應用。
• 評估AI在各行業應用的倫理影響。

CANN（神經網絡計算架構）是華為的AI計算工具包，用於在昇騰AI處理器上編譯、優化並部署AI模型。

本課程為講師指導的實時培訓（線上或線下），旨在幫助初級AI開發者理解CANN如何融入從訓練到部署的模型生命週期，以及它如何與MindSpore、TensorFlow和PyTorch等框架協同工作。

完成本課程後，學員將能夠：

• 了解CANN工具包的目的和架構。
• 使用CANN和MindSpore設置開發環境。
• 將簡單的AI模型轉換並部署至昇騰硬件。
• 為未來的CANN優化或集成項目奠定基礎知識。

課程形式

• 互動式講授與討論。
• 包含簡單模型部署的實操實驗。
• 逐步講解CANN工具鏈及集成點。

課程定制選項

• 如需此課程的定制化培訓，請聯繫我們安排。

華為的Ascend CANN工具包讓Ascend 310等邊緣設備能夠實現強大的AI推理。CANN為在算力和內存受限的環境中編譯、優化及部署模型提供了必要的工具。

此培訓由講師帶領進行，提供線上或線下（Onsite）形式。旨在協助中級水平的AI開發者和整合人員使用CANN工具鏈部署並優化Ascend邊緣設備上的模型。

完成本課程後，學員將能夠：

• 準備並使用CANN工具將AI模型轉換為Ascend 310可用格式。
• 使用MindSpore Lite和AscendCL構建輕量級的推理管道。
• 針對受限的算力和內存環境優化模型性能。
• 在真實世界邊緣應用場景中部署並監控AI應用程式。

課程形式

• 互動式授課與示範。
• 結合邊緣特定模型和情境的實作練習。
• 在虛擬或實體邊緣硬體上的即時部署範例。

課程客製化選項

• 如需此課程的客製化培訓，請聯繫我們安排。

華為的AI棧涵蓋了從底層CANN SDK到高層MindSpore框架，為Ascend硬件量身打造了一個緊密整合的AI開發與部署環境。

此培訓由講師主導，提供線上或線下實體課程（live形式）。對象為初級至中級的技術專業人士，旨在幫助其理解CANN和MindSpore組件如何協同工作，以支援AI生命週期管理及基礎設施決策。

培訓結束時，學員將能夠：

• 掌握華為AI計算棧的分層架構。
• 識別CANN如何支援模型優化與硬體級部署。
• 評估MindSpore框架及工具鏈，並對比業界其他替代方案。
• 將華為AI棧置於企業雲端或本機端環境中的定位。

課程形式

• 互動式講授與討論。
• 實時系統演示與案例導向的 walkthrough。
• 可選的指導實驗室練習，涵蓋從MindSpore到CANN的模型流程。

課程客製化選項

• 如需此課程的客製化培訓，請聯繫我們安排。

CANN SDK（用於神經網路的計算架構）是華為的AI運算基礎設施，可讓開發人員調整和優化部署在昇騰AI處理器上的神經網路效能。

本課程由講師指導，提供線上或線下培訓形式。目標受眾為希望使用CANN進階工具集（包括圖引擎、TIK和自訂算子開發）來優化推論效能的初級AI開發人員及系統工程師。

完成本課程後，學員將能夠：

• 理解CANN的運行時架構與效能生命週期。
• 使用剖析工具和圖引擎進行效能分析與優化。
• 使用TIK和TVM建立並優化自訂算子。
• 解決記憶體瓶頸並提升模型吞吐量。

課程形式

• 互動式講授與討論。
• 實作練習，包括即時剖析與算子調整。
• 使用邊緣部署案例進行優化練習。

課程客製化選項

• 如需為本課程申請客製化培訓，請與我們聯繫以安排。

CANN SDK（神經網路計算架構）提供強大的部署和優化工具，用於在華為昇騰硬體上進行電腦視覺和自然語言處理的即時人工智慧應用。

此培訓由講師指導，可線上或線下進行，旨在幫助具有中級水平的 AI 從業人員構建、部署並使用 CANN SDK 優化視覺和語言模型以滿足生產需求。

完成本課程後，參與者將能夠：

• 使用 CANN 和 AscendCL 部署和優化電腦視覺（CV）及自然語言處理（NLP）模型。
• 利用 CANN 工具轉換模型，並將其整合至即時流水線。
• 優化檢測、分類和情感分析等任務的推理效能。
• 構建適用於邊緣或雲端部署場景的即時 CV/NLP 流水線。

課程格式

• 互動式講授與演示。
• 實作練習：包含模型部署與效能分析。
• 使用真實 CV 和 NLP 應用案例設計即時流水線。

課程客製化選項

• 如需申請此課程的客製化培訓，請聯絡我們安排。

CANN TIK（張量指令核心）與 Apache TVM 可實現華為昇騰硬件上 AI 模型運算子的高級優化與定制。

本培訓由導師現場指導，提供線上或線下實時課程。對象為希望使用 CANN 的 TIK 編程模型及 TVM 編譯器集成來構建、部署並調優 AI 模型自定義運算子的高級系統開發人員。

完成本培訓後，學員將能夠：

• 使用昇騰處理器的 TIK DSL 編寫和測試自定義 AI 運算子。
• 將自定義運算子集成至 CANN 運行時與執行圖中。
• 使用 TVM 進行運算子調度、自動調優及基準測試。
• 除錯並優化針對自定義計算模式的指令級性能。

課程形式

• 互動式講授與演示。
• 使用 TIK 和 TVM 管線進行運算子實作編碼。
• 在昇騰硬件或模擬器上進行測試與調優。

課程定制選項

• 如需申請本課程的定制培訓，請聯繫我們以安排相關事宜。

華為昇騰、比特大陸以及寒武紀 MLU 等中國 GPU 架構，提供了針對本地 AI 和高性能計算 (HPC) 市場量身定制的 CUDA 替代方案。

此講師指導的培訓（線上或線下）旨在為希望遷移並優化現有 CUDA 應用程式以在中國硬體平台上部署的高階 GPU 程式設計師和基礎設施專家而設計。

完成本培訓後，學員將能夠：

• 評估現有 CUDA 工作負載與中國晶片替代方案的相容性。
• 將 CUDA 程式碼庫遷移至華為 CANN、比特大陸 SDK 以及寒武紀 BANGPy 環境。
• 比較各平台的效能並識別優化點。
• 解決跨架構支援和部署中的實際挑戰。

課程格式

• 互動式講授與討論。
• 實作程式碼遷移與效能比較實驗室。
• 聚焦於多 GPU 適應策略的引導練習。

課程客製化選項

• 如需根據您的平台或 CUDA 專案申請此課程的客製化培訓，請聯繫我們以安排。

這門培訓師現場引導的直播課程在澳門（線上或線下）舉行，旨在幫助初級IT專業人士建立對智能應用的基礎認識，並了解其在各行業中的應用方式。

參加完本課程後，學員將能夠：

• 理解人工智慧的歷史、原理及影響。
• 識別並運用不同的機器學習演算法。
• 有效管理並分析用於AI應用的數據。
• 認識不同領域中AI的實際應用場景與限制。
• 討論AI技術帶來的道德考量與社會影響。

這門由導師指導的實時培訓在澳門（線上或線下）進行，旨在為中級至高級數據科學家、工程師和AI從業人員提供深入掌握智能應用細節的機會，以便他們能利用這些技術解決複雜的現實問題。

完成本培訓後，參與者將能夠：

• 實施和分析深度學習架構。
• 在分佈式計算環境中大規模應用機器學習。
• 設計並執行強化學習模型以支持決策。
• 開發複雜的NLP系統用於語言理解。
• 利用計算機視覺技術進行圖像和視頻分析。
• 處理AI系統開發和部署中的倫理問題。

昇騰、壁仞和寒武紀是中國領先的AI硬件平台，各自為生產級AI工作負載提供獨特的加速和剖析工具。

本課程採用講師在場指導形式，提供線上或線下培訓。目標受眾為希望優化跨多個中國AI芯片平台模型推理與訓練工作流程的高階AI基礎設施及性能工程師。

完成本課程後，學員將能夠：

• 在昇騰、壁仞和寒武紀平台上對模型進行基準測試。
• 識別系統瓶頸以及記憶體/運算效率問題。
• 應用圖層、核心層和運算元層的優化技術。
• 調整部署流程以提升吞吐量並降低延遲。

課程格式

• 互動式授課與討論。
• 實作使用各平台上的剖析與優化工具。
• 著重於實際調參情境的引導練習。

課程客製化選項

• 如需根據您的性能環境或模型類型為本課程請求客製化培訓，請聯繫我們進行安排。