此外,Arm中國也表示,正在開展AI大學教育和開發者節計劃,首批有南京大學、浙江大學、武漢大學和上海理工大學四所高校。
一、軟硬件一體化開發套件EAIDK
安謀科技(中國)副總裁金勇斌表示,過去26年里,基于Arm架構的芯片市場份額達到了一千億臺,而隨著AI技術的發展,沖上下一個一千億的時間將會從26年壓縮到4年,到2020年左右可以達到。
不過,隨著IoT x AI=AIoT的時代到來,終端設備應用開發生態,雖然存在著,差異化、場景化和普及化的市場機會,但也存在著碎片化、定制化和入門難的挑戰。
比如,有芯片和應用場景的開發者缺少算法和平臺、有算法的開發者缺少好的嵌入式跨平臺框架、有算法和硬件平臺的開發者則找不到算力優良的嵌入式平臺。
為此,Arm聯合OPEN AI LAB、瑞芯微推出嵌入式AI開發安全套件EAIDK(Embedded AI Development Kit),包含硬件平臺、嵌入式人工智能平臺、人工智能算法以及應用軟件的一體化開發平臺。
金勇斌告訴智東西,從今年4月份開始,Arm就有了此套方案的構想,今天則推出第一塊開發板卡EAIDK-610。
硬件方面,EAIDK-610基于瑞芯微RK3399芯片,同期也推出了不少配件,包括嵌入式可編程接口板、高清相機模組、4K相機模組、以及MIPI接口和eDP接口的顯示觸摸一體化屏等選件。
軟件層面,EAIDK搭載了OPEN AI LAB的核心AI開發平臺AID,包含支持異構計算的嵌入式深度學習推理加速引擎Tengine、計算庫HCL、ML/DL視覺/語音算法庫,為AI應用開發者提供簡潔、高效、統一的API接口。
二、神經網絡推理引擎Tengine
Tengine是一款輕量級模塊化高性能的神經網絡推理引擎,專門針對Arm嵌入式設備優化,支持Arm Cortex CPU、Arm Mali GPU、Arm DLA以及第三方DSP。開發者可以使用Tengine在主流框架模型和嵌入式操作系統間切換,還能異構調度平臺里的各類硬件,充分利用硬件算力。
此外,Tengine還提供了常見AI應用算法,包括圖像檢測,人臉識別,語音識別等。Tengine同時還支持各類常見卷積神經網絡,包括SqueezeNet,MobileNet,AlexNet,ResNet等,支持層融合、8位量化等優化策略,并且通過調用針對不同CPU微構架優化的HCL庫,將Arm CPU的性能充分挖掘出來。
在Tengine框架中,HCL計算庫將作為其一個插件,是性能最快的Arm CPU NN計算庫,并且支持動態8位量化計算,精度幾乎不變,相比于NCNN最快能帶來2-3倍的性能提升,內存使用減少為三分之一。
Tengine不僅對上層應用提供推理API接口,支持主流模型與格式,還在下層定義硬件接口,適配嵌入式平臺各類計算模塊,支持同時運行多個AI應用算法以及調用多個計算模塊計算。
Tengine可以使應用和算法廠商擺脫復雜的嵌入式平臺適配工作,配合HCL直接挖掘硬件的潛能,芯片廠商可以利用它以最快速度開發芯片,并將其應用于邊緣AI應用中。
三、投身AI開發者教育的Arm
作為全球芯片架構IP授權商,ARM的芯片架構代號在業內耳熟能祥,如去年推出的 CPU架構Cortex-A76。
目前,ARM在全球擁有3家設計團隊,分別是位于美國德州的奧斯丁團隊、位于法國南部的索菲亞團隊以及位于英國大本營的劍橋團隊。
今年4月ARM在中國成立合資公司——安謀科技(中國),中方投資者占股51%,ARM占股49%,接管ARM在國內的所有業務。安謀科技(中國)商務副總裁劉潤國表示,Arm看好中國的產業鏈、生態和資本優勢,未來將開發出符合中國產業的IP方案。
Arm公司機器學習市場開發總監John Kourentis認為AI正在無處不在,并且正在向著終端移動,寬帶、電力、支付、駕駛、安全等領域。
2017年初,Arm曾經推出了一套全新芯片架構技術DynamIQ,不僅采用了新的指令集,專門針對人工智能進行了優化;而且同時可容納8個核,并且提高了芯片架構的靈活性,支持大小核的靈活配置。
今年3月,ARM推出了一套全新的Mali多媒體IP套件,適用于手機、平板、電視等終端。
目前,Arm中國正在開展AI大學教育和開發者節計劃,首批有四家高校:南京大學、浙江大學、武漢大學和上海理工大學。此外,金勇斌也說到,Arm此前在中國已與500所高校建立了直接聯系。
結語:Arm正在積極擁抱端智能
Arm是智能設備第一大主流芯片架構提供商,全球有超過90%的智能設備采用了其芯片架構。隨著深度學習在終端設備上的應用,端智能時代已經逐步到來。在此之時,Arm也開始不遺余力地推動端智能時代的發展。
從今年開始,Arm先是通過優化芯片GPU性能,使中低端設備更容易切入端智能,將AI能力推向平民化。在底層硬件打完基礎后,今天Arm將目光聚焦到了應用開發者的身上。
無論是在中國建立合資公司,還是積極與中國的產業鏈以及開發者互動,我們都可以看出Arm已將端智能發展作為一項重要的戰略,正在積極擁抱端智能。而在Arm的積極入局后,終端領域的AI應用開發也將進入全面平民化的前夜。