智東西在此前AI芯片系列報(bào)道第一季之后，再次出發(fā)，進(jìn)一步對AI芯片全產(chǎn)業(yè)鏈上下近百間核心企業(yè)進(jìn)行差異化的深度追蹤報(bào)道。此為智東西AI芯片產(chǎn)業(yè)系列報(bào)道第二季之一。
隨著大數(shù)據(jù)發(fā)展和算力的提升，AI芯片正迎來新一輪的爆發(fā)期。
近兩年來，越來越多以FPGA切入AI芯片的玩家涌現(xiàn)出來，包括國內(nèi)AI芯片創(chuàng)企深鑒科技、百度XPU、微軟Project Brainwave、深思考醫(yī)療影像專用AI芯片等等。
盡管ASIC在性能功耗上往往有更好的表現(xiàn)，不過我們發(fā)現(xiàn)，在一片紅海的AI芯片市場中，F(xiàn)PGA憑借自己獨(dú)特的優(yōu)勢占有了一席之地。甚至有媒體報(bào)道稱，F(xiàn)PGA是AI芯片的終極未來。
這一觀點(diǎn)是否準(zhǔn)確我們暫且不論，但它的確在AI芯片領(lǐng)域引起了不少波瀾，也不禁讓我們想要問一句，“AI芯片新救星?FPGA真的這么神嗎?”
一、FPGA屆的肯德基跟麥當(dāng)勞：賽靈思vs英特爾Altera
FPGA(Field-Programmable Gate Array)即現(xiàn)場可編程門陣列，其靈活性介于CPU、GPU等通用處理器和專用集成電路ASIC之間，在硬件固定的前提下，允許使用者靈活使用軟件進(jìn)行編程。它的開發(fā)周期比ASIC短，不過相對于批量出貨ASIC，單個(gè)FPGA的成本會(huì)更高。
由于FPGA容錯(cuò)空間相對更大，以前FPGA常被用作ASIC芯片流片前的硬件驗(yàn)證方法。
目前，F(xiàn)PGA芯片的主要四家生產(chǎn)廠家都在美國：Xilinx(賽靈思)、Altera(阿爾特拉)、Lattice(萊迪思)和Microsemi(美高森美)。它們一共占了98%以上的市場份額，其中，絕大多數(shù)市場被賽靈思和Altera瓜分，賽靈思約占49%，Altera約占39%。
近三年，F(xiàn)PGA行業(yè)完成了多項(xiàng)并購。2015年6月，英特爾宣布以167億美元收購Altera(阿爾特拉)。2016年上半年，紫光在公開市場收購萊迪思6.07%的股權(quán)，同年11月萊迪思被Canyon Bridge以13億美元收購，但此案一直沒有獲得美國監(jiān)管單位同意。
這些并購案并未影響到FPGA在AI芯片市場的整體格局。幾乎二分天下的賽靈思和英特爾確立了相似的FPGA戰(zhàn)略布局，均將重心放在了數(shù)據(jù)中心市場，并都致力于讓FPGA編程更簡單。
1、FPGA的創(chuàng)造者——賽靈思
說到FPGA，絕對避不開的公司就是賽靈思，因?yàn)檫@項(xiàng)芯片技術(shù)就是賽靈思開創(chuàng)的。從2011年起，賽靈思提出全可編程(All Programmale)理念，將FPGA技術(shù)從傳統(tǒng)的通訊、航空、國防等領(lǐng)域拓展到了AI和云計(jì)算領(lǐng)域的應(yīng)用。
去年12月，智東西曾對賽靈思全球銷售和市場部亞太及日本地區(qū)高級總監(jiān)周海天進(jìn)行深度專訪(對話賽靈思：33年老牌芯片廠如何在AI浪潮里新興業(yè)務(wù)年增46%)，周海天告訴智東西，16nm產(chǎn)品是賽靈思眾多產(chǎn)品線中最受AI應(yīng)用廠商歡迎的產(chǎn)品，其尖端技術(shù)能將更多可編程應(yīng)用邏輯元件集成在芯片上，滿足AI對強(qiáng)大計(jì)算能力的需求。
作為FPGA行業(yè)長期的霸主，賽靈思擁有超過2萬家下游客戶，其中亞馬遜AWS、以及中國的BAT云服務(wù)巨頭都是它的客戶。
今年3月，賽靈思新CEO Victor Peng上任之后不久，就宣布了賽靈思在AI時(shí)代的三大戰(zhàn)略布局：數(shù)據(jù)中心優(yōu)先、加速八大主流市場發(fā)展、以及重磅推出全新一代AI芯片架構(gòu)ACAP。
首款代號為“珠穆朗瑪峰(Everest)”的ACAP AI芯片新品將采用臺(tái)積電7nm工藝打造，今年內(nèi)實(shí)現(xiàn)流片，2019年向客戶交付發(fā)貨。(首發(fā)!賽靈思推顛覆性AI芯片 正面宣戰(zhàn)英偉達(dá)英特爾)
而在終端AI方面，賽靈思則在今年收購了國內(nèi)三大AI芯片獨(dú)角獸之一的深鑒科技，主攻終端人工智能。深鑒科技是國內(nèi)少數(shù)以FPGA切入AI芯片、并取得不錯(cuò)成果的代表性玩家之一。(突發(fā)!AI芯片獨(dú)角獸深鑒科技被美國賽靈思收購)
此外，賽靈思FPGA也長期深耕在車用領(lǐng)域，適用于處理越來越復(fù)雜的先進(jìn)駕駛輔助系統(tǒng)(ADAS)和自動(dòng)駕駛。
某AI芯片創(chuàng)業(yè)公司CEO透露，相較其他進(jìn)入自動(dòng)駕駛車市場的AI芯片公司，只有賽靈思有車規(guī)級的 FPGA，L1-L3層找不到比賽靈思性價(jià)比更高的平臺(tái)， 因此賽靈思至少在5年內(nèi)有較好的市場契機(jī)。
2、英特爾收購Altera
另一個(gè)FPGA行業(yè)不得不提的大事就是英特爾收購Altera。為了增強(qiáng)其在AI芯片領(lǐng)域的競爭力，2015年，英特爾以167億美元天價(jià)收購Altera，這也是迄今為止英特爾史上最大手筆的收購。英特爾隨即設(shè)立研發(fā)FPGA芯片的可編碼部門(PSG)。
FPGA是英特爾的AI芯片布局之一，但英特爾最重要的AI芯片項(xiàng)目還是難產(chǎn)多年的Nervana神經(jīng)網(wǎng)絡(luò)處理器項(xiàng)目。
英特爾采用雙管齊下的FPGA戰(zhàn)略：一方面打造CPU-FPGA混合器件，讓FPGA與處理器協(xié)同工作;另一方面基于Arria FPGA或Stratix FPGA打造可編程加速卡(PAC/programmable acceleration card)。
基于FPGA技術(shù)，英特爾已經(jīng)構(gòu)建了一個(gè)完善的NFV生態(tài)，覆蓋軟硬件廠商、系統(tǒng)集成商、電信運(yùn)營商、OTT廠商等相關(guān)企業(yè)。
此外，英特爾還為OME廠商提供一個(gè)面向包含F(xiàn)PGA的英特爾至強(qiáng)可擴(kuò)展處理器的英特爾加速堆棧，進(jìn)而為客戶提供完整的軟硬件一體的FPGA解決方案。
英特爾在7月收購芯片公司eASIC后將其并入PSG部門，并隨后透露這一收購案主要是為了滿足解決客戶痛點(diǎn)，滿足FPGA客戶端的降低成本和能耗需求，并提供可降低16nm、10nm、7nm制程的FPGA產(chǎn)品成本的規(guī)模化技術(shù)。
目前加速卡還是FPGA進(jìn)入硬件領(lǐng)域的主要形態(tài)之一，不過英特爾已經(jīng)在進(jìn)行其他方向、其他形態(tài)的探索，并在積極推進(jìn)和其他數(shù)據(jù)中心OEM廠商在FPGA方面的合作。
二、FPGA AI芯片市場的主要玩家
近兩年來，F(xiàn)PGA在數(shù)據(jù)中心的應(yīng)用日益廣泛。目前，F(xiàn)PGA服務(wù)器已在全球七大超級云計(jì)算數(shù)據(jù)中心IBM、Facebook、微軟Azure、AWS、百度云、阿里云、騰訊云得到部署。由于ASIC路線風(fēng)險(xiǎn)高，目前僅有谷歌批量部署TPU。
1、最會(huì)玩FPGA的微軟AI：BrainWave項(xiàng)目
微軟Azure與FPGA的淵源可以追溯到八年前，當(dāng)時(shí)的Bing(必應(yīng))搜索引擎無論是搜索結(jié)果還是相應(yīng)速度都比不過谷歌搜索。為了滿足Bing的需求，2010年底，一位微軟研究員提出了能在FPGA上運(yùn)行Bing機(jī)器學(xué)習(xí)算法的硬件設(shè)計(jì)得到了微軟的認(rèn)可。
如今，F(xiàn)PGA在加速數(shù)據(jù)處理方面的出色表現(xiàn)使它在微軟Bing、Azure云計(jì)算服務(wù)和Office 365中均得到部署。
今年3月26日，微軟Bing官方微博宣布通過英特爾Arria FPGA和Stratix FPGA芯片打造出Project Brainwave深度學(xué)習(xí)加速平臺(tái)。該平臺(tái)將DNN處理單元整合入FPGA，支持微軟Cognitive Toolkit、谷歌Tensorflow等流行深度學(xué)習(xí)框架的軟件棧，能夠執(zhí)行Bing智能搜尋功能所需的大規(guī)模機(jī)器閱讀理解任務(wù)。
在5月微軟Build 2018大會(huì)上，微軟AI芯片Brainwave開放了云端試用版，開發(fā)者現(xiàn)在可以接入微軟Azure云，試用由Project Brainwave芯片計(jì)算平臺(tái)提供的AI服務(wù)。微軟稱其延遲比谷歌TPU低5倍，正面對標(biāo)谷歌。Project Brainwave可以看作微軟基于英特爾FPGA芯片打造的低延遲AI芯片。
總的來說，微軟基于FPGA打造的AI芯片是目前業(yè)內(nèi)最認(rèn)可的FPGA方案之一。
2、百度XPU
相比微軟對英特爾FPGA的專一，百度對FPGA生產(chǎn)廠商的態(tài)度更為開放。從2011年起，百度已就開始將FPGA應(yīng)用到搜索、圖像、語音等多個(gè)核心業(yè)務(wù)，它的數(shù)據(jù)中心、云計(jì)算平臺(tái)和自動(dòng)駕駛項(xiàng)目都部署了大量的FPGA。
在去年加州Hot Chips大會(huì)上，百度發(fā)布和賽靈思合作完成的基于FPGA的256核云計(jì)算加速芯片XPU。基于FPGA加速器擅長處理計(jì)算任務(wù)的特點(diǎn)，XPU兼具GPU的通用性和FPGA高效率、低能耗的特點(diǎn)，旨在處理多樣化的計(jì)算任務(wù)，對百度深度學(xué)習(xí)平臺(tái)PaddlePaddle優(yōu)化和加速，并實(shí)現(xiàn)性能和效率的平衡。
百度和英特爾已有超過十年的合作歷史，近兩年雙方在AI領(lǐng)域的合作加強(qiáng)。
在今年的百度AI開發(fā)者大會(huì)上，英特爾人工智能事業(yè)部副總裁兼人工智能架構(gòu)總經(jīng)理Gadi Singer透露，百度正在開發(fā)基于英特爾最新FPGA技術(shù)的異構(gòu)計(jì)算平臺(tái)，這項(xiàng)技術(shù)將靈活加速百度云上的工作負(fù)載。
3、深鑒科技
深鑒科技是國內(nèi)一家年輕卻履歷亮眼的AI芯片公司，前年成立，去年年初估值超過10億，今年7月18日被全球第一大FPGA廠商賽靈思收購，其科研成果也在國際AI頂級會(huì)議屢獲大獎(jiǎng)。
FPGA開發(fā)難度大、周期長(一般需要3-6個(gè)月)的高門檻曾將許多公司拒之門外，深鑒從這一痛點(diǎn)嗅到商機(jī)。從2016年成立以來，深鑒科技一直基于賽靈思FPGA技術(shù)平臺(tái)開發(fā)機(jī)器學(xué)習(xí)解決方案。經(jīng)深鑒科技優(yōu)化的神經(jīng)網(wǎng)絡(luò)剪枝技術(shù)運(yùn)行在賽靈思FPGA器件上，可實(shí)現(xiàn)更優(yōu)的性能和能效。
該公司提出深度學(xué)習(xí)處理單元DPU(Deep Learning Processing Unit)系列，為不愿直接使用FPGA的廠商提供了一個(gè)帶接口的黑盒子。廠商只需把自己的模型訓(xùn)練好，將模型和數(shù)據(jù)從接口導(dǎo)入，就能直接獲得需要的輸出。深鑒負(fù)責(zé)其中的壓縮和編譯，生成指令可在FPGA上運(yùn)行。
不過在后期，深鑒科技也開始涉足ASIC AI芯片的設(shè)計(jì)與流片，曾經(jīng)發(fā)布“聽濤”、“觀海”兩款A(yù)I芯片并宣布2018年流片，不過暫時(shí)沒有看到相關(guān)產(chǎn)品信息。
4、騰訊云、華為云、阿里云
近年來，賽靈思和英特爾在中國云服務(wù)市場可謂是動(dòng)作頻頻，和華為云、阿里云、騰訊云等國內(nèi)頂尖的云計(jì)算服務(wù)提供商分別展開合作。
去年年初，騰訊云發(fā)布國內(nèi)首款高性能異構(gòu)計(jì)算基礎(chǔ)設(shè)施——FPGA云服務(wù)器，隨后推出基于賽靈思VU9P FPGA卡的FX3實(shí)例和基于Intel Stratix10 FPGA卡的FI3實(shí)例。
華為云也在今年年初聯(lián)合賽靈思FPGA宣布在歐洲首次推出華為云FPGA加速云服務(wù)器(FACS)平臺(tái)，該平臺(tái)搭載了賽靈思高性能 Virtex UltraScale+ VU9P FPGA，為用戶提供高性能的FPGA加速云服務(wù)。華為云還推出FPGA加速云服務(wù)器FP1 DPDK實(shí)例和推出了FP1 OpenCL實(shí)例。
今年5月，阿里云發(fā)布新一代FPGA計(jì)算實(shí)例F3，采用其自研高性能FPGA加速卡，搭載賽靈思16nm Virtex UltraScale+器件VU9P，提供16個(gè)VU9P實(shí)力規(guī)格，首創(chuàng)統(tǒng)一FPGA SHELL架構(gòu)和FPGA虛擬化支持方案，使阿里云客戶能加速機(jī)器學(xué)習(xí)、數(shù)據(jù)分析、基因組學(xué)和視頻處理等多種工作負(fù)載。
5、其他玩家
目前，國內(nèi)能夠生產(chǎn)FPGA的公司包括紫光國芯、智多晶和AgateLogic等。而國內(nèi)深思考人工智能、瑞為智能、深維科技、高云半導(dǎo)體、安路科技、京微雅格等公司，都曾宣布具有基于FPGA的AI芯片開發(fā)能力。
紫光國芯是國內(nèi)上市公司中唯一能夠量產(chǎn)FPGA的廠商，其FPGA、ASIC和特種微處理器常年為軍方穩(wěn)定供貨。該公司在2016年9月正式推出國內(nèi)首款內(nèi)嵌高速接口(serdes)的千萬門級高性能FPGA芯片——Pango PGT180H。
深思考人工智能公司在今年3月的GTIC 2018全球AI芯片創(chuàng)新峰會(huì)上發(fā)布全球首款基于FPGA醫(yī)療影像專用AI芯片——M-DPU，該芯片在100秒內(nèi)可以分類90000個(gè)細(xì)胞，同時(shí)具備先進(jìn)醫(yī)學(xué)影像算法加速核心和深度學(xué)習(xí)加速核心。
深思考CEO楊志明告訴智東西，F(xiàn)PGA的研發(fā)周期比ASIC快很多，適于算法還在不斷演進(jìn)智慧醫(yī)療影像領(lǐng)域。深思考的DPU不是通用DPU，而是面向特定應(yīng)用領(lǐng)域的DPU，在AI領(lǐng)域的最大優(yōu)勢是DPU與特定領(lǐng)域算法的深度整合，形成面向特定場景的一站式整體解決方案。
瑞為智能是國內(nèi)最早使用FPGA實(shí)現(xiàn)技術(shù)路徑的AI芯片公司之一，該公司在2015年就做了基于FPGA的AI芯片，滿足前端攝像機(jī)對高算力和低功耗的需求，并在2016年實(shí)現(xiàn)規(guī)模商用。其AI芯片能使攝像機(jī)的圖像處理達(dá)到每秒25幀，從而提取清晰的人臉圖像供云端識(shí)別分析。
除了創(chuàng)企外，國內(nèi)研究機(jī)構(gòu)如北京大學(xué)、清華大學(xué)、中國科學(xué)院等在基于FPGA的AI芯片領(lǐng)域都有深入研究。比如，北京大學(xué)曾聯(lián)合商湯科技提出一種基于 FPGA 的快速 Winograd 算法，可大幅降低算法復(fù)雜度，改善 FPGA 上的 CNN 性能。
三、FPGA在AI芯片行業(yè)的發(fā)展趨勢
目前FPGA在AI芯片行業(yè)呈現(xiàn)出幾種不同的發(fā)展趨勢，一個(gè)是在FPGA的基礎(chǔ)上推出優(yōu)化架構(gòu)，一個(gè)是最大化程度挖掘FPGA的使用疆域，還有一個(gè)是將FPGA作為跳板，逐步轉(zhuǎn)向?qū)Ｓ枚ㄖ菩酒珹SIC。
1、基于FPGA優(yōu)化架構(gòu)
基于FPGA進(jìn)行優(yōu)化架構(gòu)的發(fā)展路線以賽靈思為代表。面對價(jià)格貴、開發(fā)難度大的問題，今年3月，賽靈思發(fā)布?xì)v時(shí)4年、投入超過10億美元打造的新一代AI芯片架構(gòu)ACAP，直接宣戰(zhàn)英偉達(dá)、英特爾處理器，對此智東西曾做深入報(bào)道(首發(fā)!賽靈思推顛覆性AI芯片 正面宣戰(zhàn)英偉達(dá)英特爾)。
2、長期最大化使用FPGA
微軟則是長期最大化程度挖掘FPGA使用邊界的典型玩家。從八年前起，微軟就執(zhí)著于將FPGA作為其核心AI計(jì)算平臺(tái)。從使用裝滿FPGA的專用服務(wù)器集群，到用專用網(wǎng)絡(luò)連接的FPGA加速卡集群，再到將共享數(shù)據(jù)中心網(wǎng)絡(luò)的大規(guī)模FPGA云服務(wù)，微軟一直在嘗試FPGA部署的各種可能，尋找將FPGA優(yōu)勢發(fā)揮的最優(yōu)路徑。
3、FPGA的終點(diǎn)是ASIC?
目前，業(yè)內(nèi)的主流觀點(diǎn)是：隨著AI算法的進(jìn)一步成熟固化，AI芯片最終會(huì)走向ASIC——也就是較為固定的芯片架構(gòu)。
不過，賽靈思CEO Victor Peng持有不同觀點(diǎn)，他曾經(jīng)智東西，AI算法迭代、應(yīng)用創(chuàng)新的速度還將持續(xù)很長一段時(shí)間，甚至?xí)S持10-20年之久，因此一款靈活、可應(yīng)變的計(jì)算平臺(tái)將成為創(chuàng)新的重中之重。
而且，未來最終并不會(huì)是一款A(yù)I芯片架構(gòu)統(tǒng)一天下的局面，我們越來越需要能夠適應(yīng)眾多AI應(yīng)用、適應(yīng)不斷變化的AI算法的新型芯片架構(gòu)出現(xiàn)。
與此同時(shí)，英特爾可編程解決方案事業(yè)部亞太區(qū)市場拓展經(jīng)理劉斌也認(rèn)為，，F(xiàn)PGA在所有市場領(lǐng)域里都會(huì)占有一定的市場份額，從原生市場環(huán)境而言，F(xiàn)PGA和ASIC都有一個(gè)競爭合作的共生環(huán)境。
“專用的ASIC其實(shí)還是非常有競爭力的，”劉斌表示，“不過FPGA是在所有的垂直市場都會(huì)有一定的份額，這種靈活性和普適性是FPGA最主要的價(jià)值。”
某AI芯片創(chuàng)業(yè)公司CEO告訴智東西，至少在在深度學(xué)習(xí)算法穩(wěn)定前，F(xiàn)PGA都有其生存空間。因?yàn)楹芏喙径及l(fā)現(xiàn)，剛做完傳統(tǒng)算法硬化，過了半年，內(nèi)部算法團(tuán)隊(duì)又把算法換了。
深思考CEO楊志明則認(rèn)為，F(xiàn)PGA與ASIC融合是AI計(jì)算的未來。單純的ASIC芯片無法完全替代FPGA，也不具備FPGA的靈活性。就如同ASIC到現(xiàn)在都無法在傳統(tǒng)領(lǐng)域完全替代FPGA一樣，在AI領(lǐng)域，F(xiàn)PGA與ASIC也會(huì)分而治之。智慧工業(yè)機(jī)器人、智慧通信、智慧醫(yī)療、智慧裝備等領(lǐng)域都是除FPGA以外的其他AI芯片難以介入的應(yīng)用領(lǐng)域。
結(jié)語：深度學(xué)習(xí)加持，F(xiàn)PGA前景可期
最近一年，AI芯片踏入紅海，除了賽靈思、英特爾等傳統(tǒng)芯片巨頭外，國內(nèi)外眾多AI芯片創(chuàng)企也紛紛加入戰(zhàn)場。FPGA的可編程性使軟件和終端應(yīng)用公司能夠根據(jù)算法靈活修改解決方案，這讓它在AI芯片市場愈發(fā)有存在感。
當(dāng)下AI仍處于早期階段，AI算法正從訓(xùn)練環(huán)節(jié)走向推理環(huán)節(jié)，這個(gè)過程需要對訓(xùn)練后的模型進(jìn)行壓縮，在基本不損失模型精度的情況下將模型壓縮到原來的幾十分之一。在這一階段，AI是向著有利于FPGA發(fā)展的方向進(jìn)行優(yōu)化和升級的。
FPGA或許只是小眾的芯片，但在AI市場上，它的普適性和靈活性都使其有適合發(fā)揮其優(yōu)勢的應(yīng)用場景。在各類AI芯片之間沒有拉開絕對差距之前，每一種技術(shù)路線都有其發(fā)揮更多價(jià)值的空間。
京公網(wǎng)安備 11010502049343號