TPU關鍵字列表
Google資深科學家Jeff Dean表示,第二代TPU提供了更強大的運算能力,而Google將能藉此打造規模更大、更準確的機器學習模型。
摘要:當谷歌公司第一次向世界講述它的張量處理單元(TPU)時,其背后的策略就顯得很清楚了:通過在定制硬件上拋出問題來加速機器學習。
與第一代TPU只能服務于機器學習模型計算不同,谷歌最新的TPU現在既能處理訓練也能處理服務。谷歌提供了一些高級性能指標,據推測,這些指標是以谷歌通過GCP計算引擎提供TPU即服務時使用的TPU物理基礎設施配置為基礎。
每個處理器板將數據和指令,加載到其配對的TPU2板上的四個TPU2芯片上,包括網狀互連的流量控制。我們可以推測,TPU2芯片的內存容量也有所擴大,這有助于提高吞吐量,但同時也增加了功耗。
不同于英偉達的產品銷售模式,谷歌TPU并不單獨出售,而是在谷歌云服務平臺Google Cloud Platform上出租使用。黃仁勛指出,目前客戶仍可在谷歌云平臺上選擇英偉達GPU,英偉達與谷歌合作,提高后者的開源TensorFlow框架的性能。
英偉達回應谷歌威脅論:Volta GPU性能遠強于二代TPU
據CNBC北京時間5月25日報道,谷歌上周推出了第二代TPU,專注于人工智能領域。英偉達CEO黃仁勛周三駁斥了這種說法,稱即將推出的Volta GPU的運算能力遠遠超過谷歌第二代TPU。
本月早些時間谷歌進一步披露了更多關于一年前發布的TPU的細節。“與K80 GPU的32位浮點運算相比,TPU使用的是8位收縮矩陣乘法器
鑒于AI主要是對數據進行大規模的處理,所以處理速度對于AI來說就顯得非常重要。這個遺憾也許很快就會被彌補,據CNBC透露,一家名為Groq的新成立的秘密初創企業已經挖來了Google TPU團隊大部分的關鍵成員,準備開發下一代計算的關鍵基礎設施。
2016年,英偉達推出了采用Pascal架構的P4和P40,除了支持半精度的16位浮點運算外,還支持8位整數運算,這個跟谷歌的TPU是一樣的。
數據中心要和傳統CPU說再見了?谷歌TPU挑戰英特爾IDC領域霸權
后者已經受到了來自英偉達的GPU的攻擊,這些GPU執行了一些任務,尤其是并行處理了與人工智能相關的大數據任務。FPGA是摩爾定律放緩打擊通用CPU的一個手段,因為它是“現場可編程”,也就是可以在生產后根據用戶需求重新配置。
原始速度(RAW Speed)方面,Google 亦表示其 TPU(較標準硬件)提速幅度在 15~30x 左右。運行在 TPU 上的軟件,是基于 Google TensorFlow 的機器學習框架,且部分性能提升得益于這方面的優化。
谷歌(微博)自主開發定制化芯片,以加速其機器學習算法,這已不是什么秘密了。“為了減少延緩部署的概率,TPU芯片并沒有與CPU進行整合,而是被設計成PCIe I O總線上的協處理器。
該定制化芯片主要用來加速公司的機器學習算法,而且會優化公司的TensorFlow機器學習架構,但其并未透露更多的內容。日前,谷歌在一份文件中介紹了更多關于該芯片的詳細內容和一些使用標準。
為了滿足這樣的需求,谷歌并沒有去建設更大的數據中心,而是轉為開發適用于AI計算的高性能轉用硬件。最終,名為TPU(Tensor Processing Unit)的處理器誕生了,其是一種專門為加速深層神經網絡運算能力而研發的芯片。
谷歌發論文披露TPU詳細信息,比GPU、CPU快15-30倍
該公司從2015年開始就一直在內部使用TPU,并在去年5月的Google I O開發者大會上,對外公布了這種芯片的存在。” 論文稱,通常而言,在TPU上運行代碼跟使用谷歌領導的TsensorFlow開源深度學習框架一樣簡單。
雷鋒網按:前不久谷歌發布了關于TPU細節的論文,稱“TPU 處理速度比當前 GPU 和 CPU 要快 15 到 30 倍”。在摩爾定律變慢的時代背景下,加速器滿足了深度學習海量數據處理需求
上周,谷歌發布了一篇文章,詳細對他們的第一代張量處理單元(TPU)與英特爾的一款GPU、英偉達的一款GPU進行了速度與效能上的對比。
距離Google發布TPU也有一個星期了,掐指一算,國內眾媒體和大眾的解讀的熱情也差不多該降下來了。當摩爾定律指出的硬件發展規律慢慢開始表現出瓶頸,開始有人嘗試使用一些不那么主流的架構,或者研發一些新的架構。
谷歌 TPU 的強大與局限:TPU/GPU/CPU性能功耗全面對比
TPU 重磅論文解密架構設計,75 位聯合作者,“能效比CPU GPU 高30~80倍” 谷歌上周公布的 TPU 論文《在數據中心分析中對張量處理器性能進行分析
谷歌公布了TPU(優化了TensorFlow的ASIC)的更多細節
繼Google CEO Sundar Pichai早些在Google I O大會上公布了TPU(Tensor Processing Unit, 張量處理單元)的研發之后
企業網版權所有?2010-2024 京ICP備09108050號-6京公網安備 11010502049343號