頭圖 | 視覺中國
極度缺乏AI人才,已成為中國人工智能產業發展道路上的瓶頸。在國家政策的支持下,眾高校初建AI專業者甚多,但高校教師應掌握哪些知識儲備來傳道授業,大家都是“摸著石頭過河”。
將高校AI人才培養教學大綱與廠商成熟落地實踐相結合,無疑是一個合理的教學方式。
華為昇騰學院師資培訓沙龍,就為中國產學研相結合提供了一個高校教師和華為專家的交流平臺!
8月11-12日,華為昇騰學院在深圳舉行了為期兩天的師資培訓沙龍活動,面向廣大高校教師提供昇騰全棧全場景AI技術知識點賦能培訓。與會老師學完課程后,可以把學習到的昇騰AI知識融入到高校學生的課程培養體系中。
華為的專家們為高校教師帶來了哪些精彩分享呢?我們來總結一下這兩天的課程集錦。
Day 1
華為云與計算BG高??蒲信c人才發展部部長 曾偉勝:AI教育者是先行者,是領路人
為了讓學生緊跟最新的技術潮流,華為希望能夠與高校合作,從教學、科研、學生就業,乃至整個產業落地形成一個完整的閉環。為推進產學研結合,華為將聯合教育界廣大力量,把實踐基地、大賽、慕課等結合在一起,在場的各位教師將會是華為與高校教學合作的第一批實踐者。
智能是新基建的底座,AI教育從業者就是種子,以星星之火燎原,不斷影響其他學科。在座的AI教育者是先行者,是領路人,希望華為能夠與教育領域的頂尖人才一起,從事這項有意義和使命感的事。
華為昇騰計算業務CTO周斌:這10年,是計算架構創新的黃金時代
華為昇騰計算業務CTO周斌以主題演講正式開啟了培訓課程。他表示,因為其本身也曾是一名高校老師,所以更明確應該如何利用華為昇騰計算產業中提供的資源與高校的教學科研結合起來。
計算產業是一個變化非??斓漠a業,新的技術層出不窮,尤其是以AI為代表的新計算體系的出現,讓以前學習的知識很快落伍。
為這10年的計算機體系結構做一個定義,是計算架構創新的黃金時代。原因也很簡單,芯片級摩爾定律基本上將走到盡頭,物理限制導致單芯片計算性能提升遇到瓶頸。所以,AI計算面臨的核心問題,在于如何與教學和產業結合,讓計算系統最大化地發揮價值。
全愛科技 王中山:華為&全愛科技機器視覺平臺聯合解決方案
華為&全愛科技機器視覺平臺聯合解決方案是全愛科技基于Atlas200研發的一款教育平臺和半導體AI開發平臺。
在AI+云+大數據+5G的快速發展下,機器視覺產業正在經歷第四次新物種爆炸,在這個背景下,全愛基于華為昇騰Atlas200和全流程開發工具鏈MindStudio 2.0創建了全愛機器視覺平臺。這是一個國產自主、開源開放、模塊化、平臺化的產品,華為提供半導體和嵌入式/AI教育開發工具,可實現教育平臺自主可控,廣泛應用于教學科研、智能硬件、智慧安防、自動駕駛等產業應用。
全愛與華為的聯合解決方案展示了昇騰處理器應用的廣泛可能性,希望未來會有更多人認識和了解昇騰處理器可以用來做什么,預祝開發者和教育從業者能夠與鯤鵬共展翅昇騰九萬里!
人工智能課程套件
人工智能課程套件是華為提供的輔助高校人工智能專業多門專業課程教學實踐的方案套件?;谌A為豐富的人工智能項目實踐經驗,匯集昇騰AI前沿技術,融合實驗環境為高校提供的一站式、多領域的實驗案例集和通用參考課件,輔助專業學科建設,攜手高校共塑精品課堂。
講師:王豪聰 華為人工智能高級培訓講師
昇騰課程設計理論與實踐相結合,產業落地與高校教學大綱緊密聯系,尤其強調實踐,共設計了10門課程的知識點,包括人工智能導論、機器學習、深度學習、計算機視覺、自然語言處理、語音識別智能芯片與應用、智能系統與應用等。
昇騰AI處理器之所以厲害,在于其獨特的軟硬件架構!
下午,培訓課程介紹了昇騰AI全棧全場景解決方案、昇騰AI處理器硬件和軟件架構、以及昇騰AI處理器產品形態和Mind Studio 2.0 工具鏈。
講師:圖靈解決方案架構師符秋杰
昇騰AI處理器的硬件架構基于達芬奇AI技術架構。達芬奇架構的獨特之處,主要在于它3D cube的三維彈性立方體設計,這樣的設計能夠極大地提高計算性能。另外,達芬奇架構在端、邊、云側共用一套架構,這意味著軟件棧統一,在任意場景下開發的應用都可以很便利地遷移到其他場景。
昇騰AI處理器的軟件架構由若干子系統組成:
-
GE子系統
-
FE子系統
-
AICPU子系統
-
HCCL子系統,這是一個集成通信的引擎,包括適配器等部分。
-
TBE子系統,算子層架構,定義圖推導算子信息,管理算子信息,算子融合規則等,使應用在各種場景可以運行。
-
Runtime&TS子系統,運行時和任務調度系統,主要為神經網絡任務分配提供資源管理通道。
-
DVPP子系統,視覺處理模塊,為AI core和AICPU提供服務,作為整個軟件流程中的編解碼和圖像處理模塊,為神經網絡發揮預處理輔助功能。
-
ACL子系統,接口調用流程,根據應用開發中的典型功能抽象出主要的接口調用流程,寶庫ACL初始化、運行管理資源申請、算子調用、模型推理、運行管理資源釋放、ACL去初始化。
如今,昇騰AI處理器已廣泛應用于Atlas 200、Atlas 300、Atlas 800 AI 服務器等華為AI解決方案中,并在政府、醫療、公共安全和制造等多個領域有成熟的行業應用落地。
昇騰開發環境搭建與工具鏈Mind Studio 2.0
這一節課程介紹了昇騰的開發&運行環境搭建(基于Atlas200DK或者Ai1)與工具鏈(昇騰軟件棧集成開發工具Mind Studio),并基于具體案例進行應用開發實戰,講解了使用ACL接口進行應用開發的基本流程和實現方法。
講師:昇騰布道師 毛紅朝
在具體開發過程中,高校教學場景用到最多的是基于Atlas 300的Ai1推理彈性云服務和Atlas 200 DK開發者套件。
-
推理平臺Ai1彈性云服務器
講師在現場展示了基于Ai1推理云服務的昇騰開發環境部署方法,包括安裝驅動包、固件、環境依賴、環境驗證等?,F場與會老師在30分鐘左右即可完成整個開發環境部署。
-
Atlas 200 DK(開發者套件)
Atlas開發者套件 Atlas 200 Developer Kit是一個以Ascend 310處理器為核心的開發者板形態的產品,主要功能是將Ascend310處理器的核心功能通過板上的外圍接口開放出來,方便用戶快速簡捷地接入并使用Ascend 310強大的計算能力。
Atlas 200 DK的環境部署流程包括環境準備、系統SD卡制作、Mind Studio 部署等幾個步驟。
運行環境即Atlas200DK開發者板環境,此環境系統是基于ubuntu-arm的小型片上系統,運行環境需要通過制作SD卡,將運行代碼和系統程序燒寫到開發者板上。
開發板制卡并啟動成功后,需要將開發板連接到開發環境的ubuntu服務器,然后在ubuntu服務器上通過ssh登錄開發者板,進行運行環境配置。
-
Mind Studio工具鏈
在本周剛剛結束的華為HAI 2020大會上,華為正式發布了最新的MindStudio 2.0版本,宣布了一些重大功能更新與增加。
Mind Studio是一套基于IntelliJ框架的開發工具鏈平臺,提供了應用開發、調試、Profiling工具、模型轉換、模型可視化功能,以及對開發者來說至關重要的精度對比、自定義算子開發等重要功能,同時還提供了網絡移植、優化和分析功能,方便用戶開發應用程序。
講師在培訓中講到,Mind Studio只能安裝在Ubuntu服務器上,開發者可以在Ubuntu服務器上使用原生桌面自帶的終端gnome-terminal進行安裝,也可以在Windows PC上通過SSH登錄到Ubuntu服務器進行安裝。另外,因為Mind Studio是一款GUI程序,所以在Windows PC上通過SSH登錄到Ubuntu服務器進行安裝時,需要使用集成了X schmerver的SSH終端(比如MobaXterm)。
昇騰應用案例實戰
最后,毛紅朝現場展示并講解了部分昇騰應用案例,例如黑白電影上色,其實現是在基于昇騰AI處理器在神經網絡上進行模型訓練和上色處理。
Day 2
基于昇騰Ai1推理云服務的ACL開發實踐
昇騰AI處理器分為訓練和推理兩種,其中推理芯片支持將訓練好的離線模型通過ACL(Ascend Computing Language)編程框架部署到具體業務場景,并對深度神經網絡進行特殊優化。本節課程主要介紹如何基于昇騰Ai1推理云服務的ACL進行開發。
講師:華為海思技術專家 杜鵬
ACL有Python和C++兩套接口,主要處理離線模型,與訓練是解耦的。
ACL開發流程包括模型初始化、申請計算資源、加載模型等步驟。
TBE算子開發實踐
對于不支持的算子,華為提供TBE算子開發工具,用戶可以用TBE自定義開發算子,嵌入到應用中,幫助開發者高效完成目前主流深度神經網絡計算。
TBE基于開源的TVM深度學習編譯棧,有兩種開發方式可供選擇,一是TBE DSL,適用于入門開發者,TBE工具提供自動優化機制,給出較優的調度流程;二是TIK,適用于高級開發者,接口偏底層,用戶需要自己控制數據流和算子的硬件調度。
現場還展示了TBE算子開發流程、代碼結構、執行環境等,現場教師聯網實操和練習。
MindSpore開源AI計算框架
針對業界AI開發者所面臨的開發門檻高、運行成本高、部署難度大等挑戰,MindSpore提出對應的三點技術創新點:新編程范式、新執行模式、新協同模式,幫助開發者更簡單、更高效實現AI應用的開發和部署。
講師:華為中央軟件院技術專家 劉微
MindSpore集成與借鑒了業界主流框架的優勢,能夠提供全場景統一的API,可進行自動微分、自動并行、自動調優;MindSpore IR計算圖表達可以執行深度圖優化等。
相比同類產品,MindSpore有三個特點,一是開發態友好,AI算法即代碼;運行高效,與昇騰芯片對接;部署靈活,全場景按需協同。
在架構層面,MindSpore由Mind Extend、MindExpress、MindCompiler、MIndRT等部分組成。
-
MindExpress是一個Python前端,包含High-Level和Low-Level兩層API設計,高級API提供訓練推理接口,Low-Level提供基礎的Tensor、優化器等API,Executor則提供計算的執行控制。
-
MindCompiler是MindSpore的一個重要的子系統,很多核心系統基于這個系統,提供面向Mind IR的圖級即時編譯能力。
-
Mind IR是MindSpore的一個核心中間表達,通過嵌套式的表達,很簡便地支持不同語言的推導。
-
MindRT 子系統是一個統一的運行時系統,可與昇騰芯片進行深度優化,整圖下沉到卡上(on-device執行),減小host-device交互開銷,提高深度學習訓練的效率。
-
MindData子系統負責高效執行訓練數據處理pipeline,與計算形成流水,數據及時導入訓練。它的關鍵功能包括用流水線+并行方式,可提高數據處理吞吐量。數據加載上,MindRecord自帶元數據,通過聚合存儲讓數據檢索更快。用戶還可以自定義Python算子,進行靈活定制。
-
MindInsight子系統是MindSpore的調試調優子系統,提供訓練過程可視化、模型溯源、debugger和性能profiling功能。
-
MindArmour子系統可針對可信AI的各個領域提供全面、有效、易用的評測工具和增強方法
目前,基于MindSpore的華為云訓練服務,已服務于華為內部各AI部門,并成為華為數據通信網絡平臺智能控流的支撐,解決擁塞精準控制的難題。
ModelArts AI開發平臺及環境配置
ModelArts是華為的一站式AI開發平臺,提供數據預處理、模型訓練、自動學習和模型部署等能力,為不同級別開發者提供AI開發方案。MindSpore支持ModelArts和本地硬件平臺等多種使用方式,最佳匹配Ascend硬件平臺,同時也支持在CPU和GPU硬件平臺上安裝使用。
講師:昇騰布道師 董永漢
ModelArts模型訓練模塊中包含ExeML引擎,可自動學習三步創建AI模型,適合沒有基礎的小白開發者。另外,ModelArts提供大量預置算法進行遷移學習,所有模型基于開源或行業數據及訓練完畢,實現精度和速度優化,一鍵訓練,簡化模型創建的過程。
-
MindSpore環境配置
MindSpore開源社區官網有安裝指導,目前有多種版本供選擇:https://www.mindspore.cn/
MindSpore開發實踐
在最后的開發實踐課上,講師介紹了MindSpore實驗指導及model_zoo的使用方法,現場教師也在講師的指導下完成了在本地CPU和ModelArts平臺上進行了LeNet、checkpoint、Liner Regression、KNN等模型開發、訓練、驗證和推理。
至此,為期兩天的深圳站華為師資培訓沙龍活動正式結束!培訓課程中干貨滿滿,理論與實踐緊密結合,相信讓與會高校教師滿載而歸!
學無止境,還有5站等你打卡!
還沒看過癮或想了解更多培訓詳情?沒關系,還有機會。接下來,華為還將在杭州、武漢、上海、南京、成都5站繼續精彩培訓課程!