AI芯片遍地開花
從去年下半年到今年上半年,國內不少AI初創企業紛紛推出了自己的芯片。兩個月前,云知聲在北京召開發布會,推出其第一代UniOne物聯網AI芯片及解決方案。僅僅在這兩個月內,就有多家公司發布AI芯片或模組。出門問問正式發布了AI語音芯片模組“問芯”;Rokid發布KAMINO18AI語音專用芯片;思必馳也宣布將在下半年推出AI芯片……
按使用場景劃分,AI芯片主要分為云端和終端芯片。而目前主流的深度學習人工神經網絡算法包括訓練和推斷兩個環節。由于訓練側需要大量數據去訓練人工神經網絡,因此訓練主要在云端進行。云端追求高性能,開發成本更大,終端更側重低成本和低功耗,目前中國AI初創企業主要布局在此。
云端芯片方面,寒武紀在2016年推出全球首款商用終端智能處理器IP產品后,于5月3日正式發布了首款云端智能芯片MLU100。7月,百度在AI開發者大會上正式推出了昆侖,基于百度CPU、GPU、FPGA的AI加速器研發。官方稱,這是中國首款云端全功能AI芯片。
根據市場研究公司CompassIntelligence發布的全球AI芯片排行榜,除了英偉達、英特爾等傳統芯片公司巨頭,寒武紀、地平線等AI芯片公司也位居前列。
由于靈活性高,在AI算法并未成熟固定的當下,FPGA(現場可編輯門陣列)被認為是一種中間方案,其最大的優勢在于能夠使系統的硬件功能可以像軟件一樣通過編程修改。與GPU、CPU通用芯片相比,性能更高、能耗更低。
深鑒科技開始從賽靈思采購FPGA,將核心算法DPU放到FPGA,然后以模組的方式銷售給客戶,但FPGA價格相對較貴,而且與專用定制芯片ASIC相比,性能和功耗方面也有不小差距。除了FPGA方案,深鑒科技也在研發AI專用芯片,目前正在流片,該公司一相關負責人對記者表示:“如果在這個時間點,AI的初創類企業做硬件再選擇FPGA,可能就有點滯后了。”
ASIC是專為特定目的而設計的芯片,效能高、功耗低,但靈活性較差,更適合AI算法成熟固定后期使用。一旦規模量產,成本也會顯著降低。
云知聲創始人兼CEO黃偉表示,無論是CPU還是GPU、FPGA,現有的芯片架構并非為AI專門設計,不能滿足物聯網AI算力需求,且考慮了太多的向后兼容性,因此在性能上遠非最優。“基于業務方面對芯片產品、場景的反復驗證,以及對AIoT(人工智能+物聯網)終局的判斷,云知聲在2014年就明確必須自主研發面向物聯網的AI芯片。”他稱,如果云知聲不做芯片,必死。對此,Rokid創始人兼CEO祝銘明也同意做語音的公司一定都會做芯片,“現在排在頂級的公司都做”。
出門問問創始人兼CEO李志飛在被問到為何要做芯片模組時表示,主要為了滿足特定需求,“比如今年智能電視所謂的智能化,遠場語音交互是很強的需求,但市場上沒有很好的解決方案。一是貴,二是效果沒有那么好,集成起來沒有那么方便。”
另一AI語音公司思必馳在宣布獲得D輪5億元融資消息后,也表示將推出智能語音芯片,預計在下半年流片。
AI芯片難在何處?
芯片行業是一個高投入、高風險、慢回報的行業。多位業內人士對記者表示,芯片研發周期非常長,從立項到上市通常需要兩年左右時間。作為創業企業,特別是從事算法的企業,如果自己獨立研發芯片,在時間和資金方面都面臨巨大壓力,其中最重要的原因是芯片成本高,對錯誤零容忍。
與軟件可以修正和快速迭代不同,芯片的迭代周期會很長。如果已經流片,糾正一個錯誤可能需要半年以后花幾百萬美元再去流一次片。“你得有非常強大的心理素質、極其嚴謹的工作作風,以及對任何事情寧可錯殺一千,不能漏掉一個的態度去做,不僅是要一個這樣的人,而且是需要一個這樣的團隊,才能把這個事做好。”深鑒科技芯片研發副總裁陳忠民告訴記者。
這是芯片行業本身具有的特點,但目前AI算法尚未固定,如果直接做專用芯片無疑又有新的風險。地平線智能解決方案與芯片事業部總經理張永謙對記者說,傳統芯片公司在設計IP和做一個芯片之前,已經確定了目標客戶,“如果你做一個很大的決定的話,要有一個頭部的大客戶一起合作。相當于芯片還沒出來,你已經確定誰會用它,怎么用它或者對一個市場研究得很透”。但這是傳統的方式,AI芯片則有所不同,他指出,“現在的AI落地還在早期,你沒有辦法事先就已經知道誰一定會用你,這個時候是帶有一定風險的,也需要考驗一定的眼光。如果你要盯著有量的市場去做AI芯片,首先這樣的判斷也有可能錯,第二你在做出來的時候已經晚了。等你看到有量再去做,有一些預判的公司已經做出來,在那個市場里面等著了。”
杭州國芯于去年10月底發布其首顆語音AI芯片GX8010,今年初正式上市。國芯AI事業部的總經理凌苯云在接受記者采訪時表示,該公司于2016年初確定布局AI芯片,而在當時該款芯片也沒有明確的客戶。“我們當時為什么敢做這個決策?我們認為這些算法底層的架構都基于神經網絡來做。不管你的形態怎么變,那個核心不太會變。”另一方面,沒有產品也很難和客戶深入接觸,“我們也去跟客戶聊過,但是通常來說,當你還沒有一個東西的時候,你跟客戶去聊需求的時候,通常來說聊不到很深入。”他表示,上市半年后,目前該芯片已經有百萬級的訂單。
正是因為造芯不易,有AI算法企業選擇與芯片公司合作一起服務客戶。上述的杭州國芯此前主要從事于數字電視、家庭多媒體的芯片設計和系統方案開發。出門問問的芯片模組、Rokid的芯片都是和該公司合作,思必馳也是該公司的合作伙伴。凌苯云告訴記者,在和這些AI公司合作時,“我們出芯片,他們出算法,我們一起去推客戶”。根據不同的市場場景選擇不同的合作方,“我們跟Rokid的合作主要就是智能音箱,跟出門問問現在合作主要是電視、機頂盒和部分家電,跟思必馳現在合作主要也是以家電、IoT為主。因為領域不一樣,算法也需要去優化。”
Rokid一芯片負責人告訴第一財經記者,雙方的合作中,Rokid提架構與性能需求,國芯設計生產芯片并提供底層bsp(板級支持包),“我們負責輸出基于Rokid語音服務的os整體解決方案。”
祝銘明表示,Rokid不是芯片公司,只是芯片會成為其中非常有競爭力的元素,“如果這個競爭力元素不存在,我們也不會做芯片。”他指出,今天的芯片基本都是SoC,“SoC里邊有90%的東西,Rokid沒有必要花精力去做各類IP。Rokid做芯片不是做以芯片為出發點。因為做行業的人都知道芯片的利潤特別低。如果市面上沒有,我來做;如果市面上有,我就用它。”
黃偉也表示,對云知聲來說,造芯不是目的,只是起點。
行業或更趨理性
在AI概念普及之后,各方都在尋找商業模式,期待AI技術盡快落地,但目前大部分的AI創業公司處于依靠融資燒錢階段,AI芯片也被認為是AI技術落地的一種方式,但目前而言,這條路并不容易。
有業內人士認為,AI芯片行業將迎來整合并購時期,也讓大家更清楚地看清做芯片的難度。
以FPGA龍頭賽靈思收購深鑒科技為例,賽靈思表示,將繼續加大對深鑒科技的投入,不斷推進公司從云到端應用領域部署機器學習加速的共同目標。該人士指出,深鑒科技掌握的是DPU的算法,但是芯片的鏈條太長,光有DPU不夠,如果僅靠自己,在可見的范圍內一直要不斷加大芯片設計和研發費用,燒錢非常快。
陳忠民在接受第一財經記者采訪時表示:“為什么芯片這么難?不是說知識有多復雜,資金投入高。更重要的原因是,從研發層面上來說,芯片與其他行業最大的差別是對于錯誤的零容忍性。”
他指出,現在單次流片的費用越來越高,如果使用目前最先進的7納米工藝,流一次片就需要花費幾億人民幣,因此對于錯誤的容忍幾乎是零。就算是較為成熟的40納米和55納米工藝,一套光罩費用也需要上百萬美元,更不用說上千萬美元的設計軟件。
清華大學微電子所所長魏少軍曾指出,AI無疑十分重要,但AI芯片的發展很可能會在未來2~3年遭遇一個挫折期。今天的部分,甚至大部分創業者將成為這場技術變革中的“先烈”。
張永謙也對記者表示,AI芯片市場將來肯定很大,但容納不下那么多家公司,所以肯定有些公司會死掉。“這個也很正常,任何一個新技術起來的時候,特別像AI這么大的一個底層技術崛起的時候,有泡沫很正常,2000年的互聯網泡沫破滅的那個時間,很多大的互聯網公司就倒閉、裁員,然后再起來。產業有周期,現在就是已經到了一個最高點了,我覺得后面一年肯定會下來,然后再回歸一個理性成長。”