《白皮書》首次整合了國際化的學(xué)術(shù)和產(chǎn)業(yè)資源,緊扣學(xué)術(shù)研究和產(chǎn)業(yè)發(fā)展前沿,對人工智能芯片技術(shù)進(jìn)行了深入探討、專業(yè)闡述,完成了對AI芯片各種技術(shù)路線梳理及對未來技術(shù)發(fā)展趨勢和風(fēng)險(xiǎn)預(yù)判。
據(jù)悉,《白皮書》由斯坦福大學(xué)、清華大學(xué)、香港科技大學(xué)、臺灣新竹清華大學(xué),北京半導(dǎo)體行業(yè)協(xié)會及新思科技的頂尖研究者和產(chǎn)業(yè)界資深專家,包括10余位IEEE Fellow共同編寫完成。
無芯片不AI,新計(jì)算范式來襲
近些年隨著大數(shù)據(jù)的積聚、理論算法的革新、計(jì)算能力的提升及網(wǎng)絡(luò)設(shè)施的發(fā)展,使得持續(xù)積累了半個(gè)多世紀(jì)的人工智能產(chǎn)業(yè),又一次迎來革命性的進(jìn)步,人工智能的研究和應(yīng)用進(jìn)入全新的發(fā)展階段。
實(shí)際上,人工智能產(chǎn)業(yè)得以快速發(fā)展,都離不開目前唯一的物理基礎(chǔ)——芯片。可以說,“無芯片不AI”。
目前,關(guān)于AI芯片的定義沒有一個(gè)嚴(yán)格和公認(rèn)的標(biāo)準(zhǔn)。較為寬泛的看法是面向人工智能應(yīng)用的芯片都可以稱為AI芯片。具體來說,報(bào)告中探討的AI芯片主要分為三類,一是經(jīng)過軟硬件優(yōu)化可高效支持AI應(yīng)用的通用芯片,如GPU;二是側(cè)重加速機(jī)器學(xué)習(xí)(尤其是神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí))算法的芯片,這也是目前AI芯片中最多的形式;三是受生物腦啟發(fā)設(shè)計(jì)的神經(jīng)形態(tài)計(jì)算芯片。
AI芯片的計(jì)算既不脫離傳統(tǒng)計(jì)算,也具有新的計(jì)算特質(zhì),主要特點(diǎn)有三:處理內(nèi)容往往是非結(jié)構(gòu)化數(shù)據(jù),如視頻、圖像及語音等,需要通過樣本訓(xùn)練、擬合基環(huán)境交互等方式,利用大量數(shù)據(jù)來訓(xùn)練模型,再用訓(xùn)練好的模型處理數(shù)據(jù);處理過程需要很大的計(jì)算量,基本的計(jì)算主要是線性代數(shù)運(yùn)算,大規(guī)模并行計(jì)算硬件更為適合;處理過程參數(shù)量大,需要巨大的存儲容量,高帶寬、低延時(shí)的訪存能力,及計(jì)算單元和存儲器件間豐富且靈活的連接。
AI芯片的新計(jì)算范式,也為芯片提出了處理非結(jié)構(gòu)化數(shù)據(jù)、計(jì)算量大及存儲和計(jì)算間的訪問連接等新問題。
AI芯片發(fā)展現(xiàn)狀:云、邊結(jié)合
在應(yīng)用場景上,AI芯片的應(yīng)用主要分為云端和終端,以深度學(xué)習(xí)的算法來說,云端人工智能硬件負(fù)責(zé)“訓(xùn)練+推斷”,終端人工智能硬件負(fù)責(zé)“推斷”,因而終端的計(jì)算量更小,相對沒有傳輸問題。但從自動(dòng)駕駛、智慧家庭,到loT設(shè)備等,速度、能效、安全和硬件成本等是重要因素。
人工智能芯片技術(shù)白皮書
云端AI計(jì)算:目前各大科技巨頭紛紛在自有云平臺基礎(chǔ)上搭載人工智能系統(tǒng),主要有IBM的waston、亞馬遜的AWS、以及國內(nèi)的阿里云、百度云平臺等。其中英偉達(dá)的GPU采用更為廣泛,賽靈思、英特爾、百度等廠商也在積極采用FPGA在云端進(jìn)行加速,一些初創(chuàng)公司,如深鑒科技等也在開發(fā)專門支持 FPGA 的 AI 開發(fā)工具。另外,除GPU和FPGA外,AI領(lǐng)域?qū)S眉軜?gòu)芯片ASIC則因其更好的性能和功耗,成為云端領(lǐng)域新的攪局者,如谷歌的TPU。
邊緣AI計(jì)算:隨著人工智能應(yīng)用生態(tài)的爆發(fā),越來越多的AI應(yīng)用開始在端設(shè)備上開發(fā)和部署。
智能手機(jī)是目前應(yīng)用最為廣泛的邊緣計(jì)算設(shè)備,包括蘋果、華為、高通、聯(lián)發(fā)科和三星在內(nèi)的手機(jī)芯片廠商紛紛推出或者正在研發(fā)專門適應(yīng) AI 應(yīng)用的芯片產(chǎn)品。另外,也有很多初創(chuàng)公司加入這個(gè)領(lǐng)域,如地平線機(jī)器人、寒武紀(jì)、深鑒科技、元鼎音訊等。傳統(tǒng)的IP 廠商,包括 ARM、Synopsys 等公司也都為包括手機(jī)、智能攝像頭、無人機(jī)、工業(yè)和服務(wù)機(jī)器人、智能音箱以及各種物聯(lián)網(wǎng)設(shè)備等邊緣計(jì)算設(shè)備開發(fā)專用 IP 產(chǎn)品。
自動(dòng)駕駛是未來邊緣AI 計(jì)算的最重要應(yīng)用之一,MobileEye SOC 和 NVIDIA Drive PX 系列提供神經(jīng)網(wǎng)絡(luò)的處理能力可以支持半自動(dòng)駕駛和完全自動(dòng)駕駛。
目前云和邊緣設(shè)備在各種AI應(yīng)用中往往是配合工作。最普遍的方式是在云端訓(xùn)練神經(jīng)網(wǎng)絡(luò),然后在云端(由邊緣設(shè)備采集數(shù)據(jù))或者邊緣設(shè)備進(jìn)行推斷。