谷歌公司在去年5月的I/O開發者大會上公布了其正在內部開發的芯片方案,且專門用于運行人工智能型工作負載。消息一出,即引起技術行業的高度關注。近一年之后,搜索巨頭終于開始將該處理器與商業解決方案加以匹配。
谷歌公司研究團隊的成員們今天發布了一篇論文,宣稱該系統在多個重要方面成功擊敗目前同一領域中的重量級中央處理器與圖形處理單元競爭對手。其中一項為功耗水平,該芯片所采用的Tensor處理單元相較于英特爾Haswell CPU與英偉達Tesla K80 GPU可實現每瓦30至80倍的處理能力提升。
谷歌公司的TSU亦同樣處于業界先進水平。內部測試結果顯示,該芯片能夠在處理AI工作負載時持續提供遠超其它商用型替代方案的性能水平——提升幅度達15到30倍。谷歌公司在試用期間曾用于測試的項目之一——論文中僅將其命名為CNN1——則可實現70倍的運行速度改善。
谷歌公司的工程師們已經將以上一切功能特性整合至一塊比英偉達K80體積更小的芯片之上。其接入一塊能夠與谷歌內部數據中心所使用之定制化服務器機架的內部磁盤驅動器插槽相適配的主板當中。根據搜索巨頭的介紹,目前該公司擁有超過100個內部團隊正在使用TSU以支持其街景視圖及其它關鍵服務的語音識別功能。
谷歌公司并非惟一一家根據自身特定需求進行芯片優化的網絡巨頭。事實上,微軟公司與Amazon也同樣在委托英特爾為其打造定制化處理器,從而支撐其公有云服務。另外,零售巨頭還擁有一家名為Annapurna Labs的子公司,專門銷售用于網絡設備的專用型芯片。
值得一提的是,這些芯片已經開始實際用于處理AI工作負載,谷歌將這種處理能力稱為“推理”。Moor Insights & Strategy公司總裁兼首席分析師Patrick Moorhead指出,目前機器學習模型的訓練過程仍然需要消耗大量服務器設備內的CPU與GPU資源。