蘋果想方設(shè)法要做GPU、小米也推出了自己的芯片加上華為、三星,似乎大點的科技企業(yè)都迷上做芯片了,這不,谷歌也發(fā)布了一塊宣稱要比GPU和CPU快15-30倍,這節(jié)奏帶得,是要顛覆現(xiàn)有硬件版圖的節(jié)奏嗎?
谷歌推了一塊叫TPU的芯片
2016年的I/O 開發(fā)者大會上,谷歌公布了自己研發(fā)的定制化芯片——Tensor Processing Units (TPU) ,并且透露已經(jīng)在公司內(nèi)部的數(shù)據(jù)中心使用了將近一年。該定制化芯片主要用來加速公司的機器學習算法,而且會優(yōu)化公司的TensorFlow機器學習架構(gòu),但其并未透露更多的內(nèi)容。
日前,谷歌在一份文件中介紹了更多關(guān)于該芯片的詳細內(nèi)容和一些使用標準。如果你是一個芯片設(shè)計者,你可以在該份文件中找到TPU工作的原理所在。谷歌方面表示TPU的運轉(zhuǎn)速度很快,但這都是基于公司的數(shù)據(jù)進行的評估。
夸張的性能表現(xiàn)
在運行谷歌常規(guī)的機器學習工作量的時候,TPU的平均運轉(zhuǎn)速度要比標準的GPU/CPU組合(比如Intel的Haswell處理器和Nvidia 的 K80 GPU)快15-30倍。在數(shù)據(jù)中心計算功耗時,TPU還提供30-80倍的TeraOps/瓦特(如果未來使用更快的存儲,這一數(shù)字可能還會提高)。
值得注意的是,這些數(shù)字是關(guān)于在生產(chǎn)中使用機器學習模型的,而不是首先創(chuàng)建模型。
Google還表示,大多數(shù)架構(gòu)師為卷積神經(jīng)網(wǎng)絡(luò)(比如一種可以很好的識別圖像的神經(jīng)網(wǎng)絡(luò))優(yōu)化了其芯片,但這些網(wǎng)絡(luò)負責的工作量只占到公司數(shù)據(jù)中心總工作量的5%。事實上,大部分應(yīng)用使用的是多層感知器。
谷歌說這塊芯片讓他們省了15個數(shù)據(jù)中心
谷歌表示公司從2006年就開始研究如何在數(shù)據(jù)中心中使用GPU、FPGA和定制的ASICS(這對定義TPU很重要)。然而,當時并沒有很多的應(yīng)用程序真的可以從這種特殊硬件中受益,因為他們所需的大量工作量可以在數(shù)據(jù)中心已經(jīng)有的硬件中進行處理。
這種改變發(fā)生在2013年,公司當時預(yù)測DNN可能會變得越來越流行,這可能會使公司數(shù)據(jù)中心的計算需求增加一倍。如果用傳統(tǒng)的CPU來滿足這一計算量將變得很昂貴。因此,公司開始了一個優(yōu)先項目,可以快速生成用于推理的定制ASIC(同時公司買了用于培訓的現(xiàn)成GPU)。這樣做的目的是,把芯片的性能提高10倍(比起GPU)。
對于谷歌來說,公司不太可能在自己的云端之外提供TPU。但公司表示,其他公司可以通過所掌握的技術(shù)進一步的提高進入這一領(lǐng)域的門檻。
隨著人工智能、深度學習等技術(shù)的加入,行業(yè)里對芯片的要求也越來越高。像ARM、高通、英偉達這樣的芯片公司在不斷研發(fā)新的芯片。比如ARM此前推出了DynamlQ芯片,公司表示未來3年-5年,使用DynamlQ技術(shù)的Cortex-A系列處理器,其人工智能運算性能將提升50倍。而且可將CPU和SoC上特定硬件加速器的反應(yīng)速度提升10倍。
英特爾他們怎么辦
谷歌全球數(shù)據(jù)中心網(wǎng)絡(luò)主管烏爾斯·霍勒澤(Urs H?lzle)表示,他們今后還將研發(fā)更多這樣的芯片。
谷歌不會把這種芯片出售給其他公司,不會直接與英特爾或NVIDIA進行競爭。但谷歌擁有龐大的數(shù)據(jù)中心,是這兩家公司迄今為止最大的潛在客戶。與此同時,隨著越來越多的企業(yè)使用谷歌提供的云計算服務(wù),它們自己購買服務(wù)器(和芯片)的數(shù)量就會越來越少,也就給芯片市場帶來進一步的沖擊。
將GPU擠出局?
暫時來說,谷歌的深層神經(jīng)網(wǎng)絡(luò)將同時使用的TPU和GPU。霍勒澤不愿詳細解釋谷歌使用TPU的方式,只表示用TPU來處理Android手機語音識別所需要的“一部分計算”。但他說,谷歌將發(fā)布一篇闡述TPU好處的論文,而且谷歌將繼續(xù)設(shè)計一些以其他方式推動機器學習的芯片。這樣看上去,GPU似乎最終就會被擠出局。霍勒澤說,“GPU已經(jīng)在一點點出局。GPU太通用了,對于機器學習針對性不強。機器學習本來就不是GPU的設(shè)計初衷 。”
NVIDIA可不想聽到這樣的話。作為全球最大的GPU廠商,NVIDIA正在推動自身業(yè)務(wù)向AI領(lǐng)域擴展。正如霍勒澤指出,NVIDIA最新的 GPU有一個專門針對機器學習的型號。但顯然,谷歌希望進展能更大一些。
寫在最后:芯片是項必要技能
谷歌、蘋果、小米……越來越多的科技企業(yè)開始嘗試向半導體芯片領(lǐng)域發(fā)起沖擊,軟件與硬件,尤其是芯片的融合,力圖為用戶帶來更好的綜合使用體驗,這似乎成為了科技企業(yè)的發(fā)展方向,不過這樣的方向,也為人們帶來了更優(yōu)秀的應(yīng)用體驗。