2018年1月28日下午,《麻省理工科技評論》新興科技峰會EmTech China于北京國貿大酒店正式召開,英偉達首席科學家,GPU之父 Bill Dally發表了演講——《硬件的發展推動了人工智能革命》。
以下附上演講全文:
現在深度學習影響到了人類生活的方方面面,同時它也影響到了我們的研究生涯。其實我在很久以前就做過一些簡單的機器學習研究,比如怎么樣在電腦上找馬、找人。但現在我們有了神經網絡,它的性能更高,前景更大。現在有些機器的識別能力在自然語言處理、語音識別、游戲等領域已經是不低于人了。
之前機器需要學習很多參數也只能實現簡單的圖像識別功能,但是隨著AI的發展,特別是神經網絡技術的發展,我們現在能夠更有效地去訓練一些復雜的數據,機器的學習能力大大提高了。
有的人會擔心AI的崛起可能會取代人類。但我認為AI只會取代一些無聊的工作,人們也將不需要浪費時間去做一些重復性和費體力的工作了,而是做一些更加有效和更加充滿藝術性的工作。所以,我認為AI不會取代人類,它只會解放我們的雙手,提高我們的工作效率。
硬件的發展和大數據的出現在推動此輪的AI革命中扮演了非常重要的角色。其實有很多算法、神經網絡以及深度神經網絡,它們早在80年代就已經出現了,但是直到近幾年硬件的大大發展,以及大數據的出現,才讓人工智能突然崛起。
我們以前一般要花上兩周的時間去訓練數據,因為那時硬件的性能還比較低。但一旦硬件的性能得到提高,就會推動整個AI的快速發展。硬件的發展讓我們的處理速度大大提高。而在不同的硬件之間,我們需要做的就是加強它們不同的應用能力。
其實,無人駕駛汽車的發展在某種程度上也是由硬件性能的提高推動的。現在世界上用于深度學習的最先進的硬件設備就是我們的VoltaV100,它擁有120TFLOPS的計算能力,它能大大提高深度學習的發展。它的速度比當年東京NEC公司推出的世界上最快的Earth Simulator計算機快了3倍以上。
對于物聯網應用,我們也推出了相應的SOC芯片,它的特色之一就是利用了DOA體系結構,使它更適用于深度學習計算。它具有很強的稀疏性,大大提高了深度神經網絡的運算速度。
不僅如此,我們還提高了我們硬件產品的能效、縮小了硬件的體積。而為了更進一步提高硬件的運算效率,我們還進行了算法優化,層次簡化。這些都會最終推動物聯網的發展。
總之,我們這些年在GPU硬件方面取得了很多的進展,進一步促進了人工智能的革命。現在GPU可以說是最適合于深度學習計算的硬件了。
不過,雖然我們提升了硬件的運算效率,但其實我們也犧牲了一定的運算精度。所以,我們在未來的研究重點是提高硬件的運算精度,會持續在精度的改善上做工作。這在以后是很有必要的。另外,我們還要進一步提高硬件的稀疏性。這也是很有必要的。