編者按:機(jī)器學(xué)習(xí)技術(shù)日益發(fā)達(dá),芯片制造商也開(kāi)始跟上人工智能的腳步競(jìng)相開(kāi)發(fā)新型芯片。本文選自《快公司》,作者 Steven Melendez 在文中講述了機(jī)器學(xué)習(xí)與人工智能會(huì)碰撞出怎樣的火花,芯片制造商又該如何應(yīng)對(duì)。
近年來(lái),隨著機(jī)器學(xué)習(xí)技術(shù)的提高,計(jì)算機(jī)已經(jīng)擁有了在圖像中識(shí)別物體、“聽(tīng)”懂語(yǔ)音命令以及翻譯文字信息等功能。
然而,雖然Apple的Siri或Google翻譯能夠?qū)崟r(shí)執(zhí)行命令,實(shí)際上如果讓傳統(tǒng)計(jì)算機(jī)來(lái)完成這些工具所依賴的復(fù)雜的數(shù)學(xué)建模,不僅會(huì)耗費(fèi)大量的時(shí)間與能源,也需要更好的處理能力。因此,像英特爾公司、“圖像動(dòng)力廠” Nvidia 公司、移動(dòng)計(jì)算首腦高通公司以及許多芯片制造類的創(chuàng)業(yè)公司都開(kāi)始競(jìng)相開(kāi)發(fā)能夠讓現(xiàn)代深度學(xué)習(xí)技術(shù)成本更低、效率更高的專門化硬件。
圖:Nvidia 的特斯拉P100 GPU就是為高效能數(shù)據(jù)中心的應(yīng)用和人工智能(AI)而開(kāi)發(fā)的。
一些人工智能(AI)的研究者們說(shuō),人們可能不太理解這些專門為提高開(kāi)發(fā)與撰寫新型AI算法速度而設(shè)計(jì)的芯片的重要性。Nvidia 的 CEO 黃仁勛在11月的一次財(cái)報(bào)電話會(huì)議中談及培訓(xùn)計(jì)算機(jī)執(zhí)行一個(gè)新任務(wù)所需的時(shí)間時(shí)表示,“(需要的時(shí)間)肯定不是幾個(gè)月,可能也就是幾天的事,”他說(shuō),“本質(zhì)上其實(shí)就是擁有了一個(gè)時(shí)光機(jī)。”
雖然 Nvidia 的工作大致在開(kāi)發(fā)幫助游戲玩家以盡可能高的分辨率玩最新的射擊游戲的顯卡,該公司同樣重視調(diào)整其圖像加工單元芯片或GPU以適應(yīng)嚴(yán)肅的科學(xué)計(jì)算與數(shù)據(jù)中心的數(shù)字處理。
Nvidia 的加速計(jì)算業(yè)務(wù)部副總裁兼總經(jīng)理Ian Buck說(shuō),“在過(guò)去的10年間,我們已經(jīng)將此前只用于圖像中的GPU技術(shù)用到了更多更普遍的領(lǐng)域中。”
快速繪制視頻游戲的圖像與其它事實(shí)圖像都依賴于能夠執(zhí)行特定類型的數(shù)學(xué)計(jì)算(例如矩陣乘法)并且可以同時(shí)處理大量基本計(jì)算的GPU技術(shù)。研究人員發(fā)現(xiàn)這些相同的特征對(duì)于具有相似算法的其它應(yīng)用同樣有用,包括氣候模擬的運(yùn)行和復(fù)雜生物分子結(jié)構(gòu)的建模。
最近,GPU已經(jīng)證明了其擅長(zhǎng)于訓(xùn)練深層神經(jīng)網(wǎng)絡(luò)。該網(wǎng)絡(luò)像是松散地建立在人類大腦中的數(shù)學(xué)結(jié)構(gòu),是現(xiàn)代機(jī)器學(xué)習(xí)技術(shù)的主力。與此同時(shí),GPU同樣嚴(yán)重依賴于重復(fù)的并行矩陣計(jì)算。
“深度學(xué)習(xí)技術(shù)就是因此而變得特別的:它需要大量密集型的矩陣乘法。”英特爾的人工智能解決方案副總裁兼總經(jīng)理Naveen Rao說(shuō)。Rao同時(shí)也是一家機(jī)器學(xué)習(xí)初創(chuàng)企業(yè)Nervana Systems的創(chuàng)始人兼CEO,該公司于今年早些時(shí)候被英特爾公司收購(gòu)。“這(深度學(xué)習(xí)技術(shù))就不同于只支持文字處理程序或電子表格的工作量。”
圖形處理與人工智能在數(shù)學(xué)操作之間的相似之處使得 Nvidia 在競(jìng)爭(zhēng)者中處于領(lǐng)先的地位。該公司報(bào)告稱,截止10月31日的第三季度中,數(shù)據(jù)中心的收入同比增長(zhǎng)了一倍以上,達(dá)到了2.4億美元,這批增長(zhǎng)很大一部分是因?yàn)樯疃葘W(xué)習(xí)技術(shù)相關(guān)的需求的增加。其他GPU制造商也很可能對(duì)新出現(xiàn)的產(chǎn)品需求感到興奮。因?yàn)榇饲皥?bào)道稱,在臺(tái)式電腦銷售下降的背景下,GPU的銷售量也出現(xiàn)了減少。如今,Nvidia 在GPU市場(chǎng)中占主導(dǎo)地位,擁有超過(guò)70%的市場(chǎng)份額。在過(guò)去一年中,隨著其芯片新應(yīng)用的誕生,其股市價(jià)格幾乎翻了三倍。
顯卡助力 AI 走向成功
在2012年一年一度的ImageNet大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)(一個(gè)著名的圖像分類競(jìng)賽)中,一個(gè)參賽隊(duì)伍首次應(yīng)用了GPU驅(qū)動(dòng)的深度學(xué)習(xí)并贏得了比賽,其成果也顯然超越了前幾年的獲獎(jiǎng)?wù)摺?ldquo;他們所做的是將大約卡在70%精度范圍內(nèi)的東西提高到了85%的精度,”Buck說(shuō)。
GPU系統(tǒng)儼然已經(jīng)成為了數(shù)據(jù)中心為機(jī)器學(xué)習(xí)領(lǐng)域的公司提供服務(wù)時(shí)的標(biāo)配。Nvidia 表示,他們的GPU已經(jīng)被用于由亞馬遜和微軟公司所提供的機(jī)器學(xué)習(xí)云服務(wù)中。但 Nvidia 和其他公司也仍在研究下一代芯片,希望既能訓(xùn)練深度學(xué)習(xí)體系并且可以使用它們以實(shí)現(xiàn)更有效的信息處理。
最后,Graphcore公司(設(shè)在英國(guó)布里斯托的機(jī)器學(xué)習(xí)硬件創(chuàng)業(yè)公司)的CEO Nigel Toon表示,現(xiàn)有GPU的底層設(shè)計(jì)適用于圖像處理而不是人工智能。他認(rèn)為,GPU的局限性導(dǎo)致了程序員只能以特定的方式對(duì)數(shù)據(jù)進(jìn)行組合,以最有效地利用芯片。但對(duì)于更復(fù)雜的數(shù)據(jù)來(lái)說(shuō),例如錄制的視頻或音頻,可能不太容易做到。Graphcore公司正在開(kāi)發(fā)其稱作“智能處理單元”的芯片,Toon表示這是專門為深度學(xué)習(xí)而從頭設(shè)計(jì)的芯片。他說(shuō):“希望我們能夠做到摒除那些局限性。”
芯片制造商認(rèn)為機(jī)器學(xué)習(xí)將受益于擁有并行荷載計(jì)算內(nèi)核間快速連接的專用處理器,實(shí)現(xiàn)快速訪問(wèn)儲(chǔ)存著復(fù)雜的模型、數(shù)據(jù)以及速度超過(guò)精度的數(shù)學(xué)運(yùn)算的大容量存儲(chǔ)器。Google在5月發(fā)布的在今年早些時(shí)候擊敗了圍棋世界冠軍李世石的 AlphaGo 就是由他們所稱的“張量處理單元”的定制芯片所驅(qū)動(dòng)的。英特爾在11月宣布,希望在未來(lái)三年內(nèi)運(yùn)用部分基于從Nervana收購(gòu)的技術(shù),推出非GPU芯片,以實(shí)現(xiàn)訓(xùn)練機(jī)器學(xué)習(xí)模型的速度比現(xiàn)今GPU芯片速度快100倍,并能夠啟用新型更復(fù)雜的算法。
Rao表示,“許多我們當(dāng)前所看到的神經(jīng)網(wǎng)絡(luò)的解決方案在其硬件設(shè)計(jì)之中都有人工的成分。”由于儲(chǔ)存器容量與處理速度的限制,這些人工部件可能會(huì)存在對(duì)復(fù)雜性的限制。
英特爾公司和它的許多競(jìng)爭(zhēng)對(duì)手都正在為一個(gè)為便捷式硬件而不是數(shù)據(jù)中心訓(xùn)練與開(kāi)發(fā)機(jī)器學(xué)習(xí)模型的未來(lái)做準(zhǔn)備。市場(chǎng)情報(bào)公司Tractica的研究主管Aditya Kaul表示,這對(duì)于自動(dòng)駕駛汽車這樣的設(shè)備來(lái)說(shuō)至關(guān)重要,這些設(shè)備需要對(duì)周圍發(fā)生的事情做出快速反應(yīng),并且能夠比將新輸入的數(shù)據(jù)傳到云端更快地從這些數(shù)據(jù)中學(xué)習(xí)。
“隨著時(shí)間的推移,你將看到從云端到終端的轉(zhuǎn)變,”他說(shuō)。這就意味著小型、能源高效型的計(jì)算端需要優(yōu)化機(jī)器學(xué)習(xí),尤其是那些便攜式設(shè)備。
“當(dāng)你戴著耳機(jī)的時(shí)候,你肯定不希望在你的頭上或者腰帶上綁一塊像磚一樣大的電池。”加州圣馬特奧市的機(jī)器學(xué)習(xí)創(chuàng)業(yè)公司Movidius的營(yíng)銷總監(jiān) Jack Dashwood 說(shuō)。這家于9月被英特爾收購(gòu)的公司為包括大疆無(wú)人機(jī)在內(nèi)的多種設(shè)備提供計(jì)算機(jī)視覺(jué)中心處理器。
Nvidia 也打算繼續(xù)發(fā)布GPU,以提高一些機(jī)器學(xué)習(xí)友好型功能的水平,例如快而低精度的算法,并增加對(duì)如自動(dòng)駕駛汽車的下一代應(yīng)用的AI平臺(tái)的支持。電動(dòng)汽車制造商特斯拉在10月宣布,其生產(chǎn)的所有汽車的自動(dòng)駕駛計(jì)算系統(tǒng)中將會(huì)配備Nvidia的硬件,以支持其神經(jīng)網(wǎng)絡(luò)高效處理攝像頭與雷達(dá)的數(shù)據(jù)。Nvidia 最近還宣布了向國(guó)家癌癥研究所和能源部的合作行動(dòng)提供硬件的計(jì)劃,該行動(dòng)是在聯(lián)邦癌癥Moonshot項(xiàng)目之下的對(duì)癌癥及其潛在療法的研究。
Kaul表示:“Nvidia 很早就發(fā)現(xiàn)了機(jī)器學(xué)習(xí)的這種趨勢(shì),這使得他們?cè)谥蟮膭?chuàng)新之中都將處于非常有利的地位。”
翻譯來(lái)自:蟲洞翻翻 譯者ID:Suzie蘇西