現在人工智能、機器學習、視頻編碼和基因組研究等要求苛刻的應用已經離開研究實驗室范圍,并開始推動服務器微處理器市場的變革。借助加速處理單元,企業可提高數據中心工作流的處理速度。
Moor Insights&Strategy的高性能計算和深度學習咨詢主管Karl Freund說:“企業需要比傳統CPU更強大的微處理器來處理新的計算密集型工作負載。”
早期改進包括圖形處理單元(GPU)和張量處理單元(TPU)。現在還開始出現未來處理單元來支持這些應用程序,這使得服務器微處理器市場處于不穩定狀態。
歷史上來看,GPU主要用于游戲行業等領域的視頻數據,但在21世紀初,Nvidia公司開始向客戶銷售新的高性能工作負載。
IDC公司服務器解決方案研究經理Peter Rutten說:“GPU擁有數千個內核,這使它們能夠比CPU更好地執行深度學習等并行工作負載。更重要的是,領先供應商Nvidia圍繞其GPU構建了完整的軟件堆棧。”
最終的結果是微服務器加速器市場不斷增加。根據IDC數據顯示,全球加速計算(具有加速技術的服務器)市場將從2019年的150億美元增加到2020年的190億美元,使其成為服務器市場中快速增長的部分。
不斷增長的領域
很多供應商都希望利用這種微服務器市場的增長。在2018年2月,谷歌推出其TPU云服務,聲稱當用于機器學習應用程序時它比GPU快30倍。
亞馬遜云計算服務、蘋果、Facebook、IBM和微軟等行業巨頭都在投入數十億美元來構建數據中心以處理新的公共云工作負載。研究人員正在尋求方法來降低其公司運營成本,以及設計新的微處理器以提高服務器性能。
例如,微軟現在將字段可編程門陣列用于其語音識別應用程序。Freund預計微軟最終將推出由新微處理器支持的云服務。
初創公司
像英特爾這樣的微處理器供應商一直在這個市場投資,同時,這個市場也出現了很多初創公司,包括Cambricon Technologies、Cerebras Systems、CDSM Interactive Solutions、Horizon Robotics、Tenstorrent和Wave Computing等公司。
截至2018年7月,這個供應商市場仍處于發展的萌芽階段。除了開發新的加速處理單元外,供應商還需要構建一個軟件生態系統 (一系列編程和管理工具),允許第三方可圍繞高性能芯片構建應用程序。
在這個初始階段,尚不清楚哪些微處理器會成為主流。
Gartner公司研究總監Alan Priestley說:“目前加速器市場正處于新生狀態,客戶還正在弄清楚這些系統可以做什么以及供應商的各種解決方案如何結合其應用程序。”
加速處理單元進入數據中心
這些硬件改變將會從多個方面影響數據中心。在某些情況下,企業將會添加加速器到其服務器以及構建自己的高性能應用程序。
Freund稱:“對于大型金融服務公司而言,構建定制智能應用程序是有意義的。”
但開發高性能應用程序來配合加速器是復雜且具有挑戰性的工作。
Priestley稱:“開發這些高性能應用程序所需的能力超出了大多數公司的技能范疇。”這項工作很復雜,很少有程序員有與這些系統相關的經驗,這會使應用程序開發變得昂貴。
而供應商為企業提供了通過云使用大量處理服務的能力。
此選項將會得到更多的部署,因為服務協議比DIY更易于部署,只需要較低的投資,并可將持續的維護負擔從企業轉移給云供應商。
無論企業如何利用加速處理單元,這些變化將會極大地影響服務器設計,帶來交換和工作負載優先排序的新配置。
自20世紀70年代以來,企業一直依靠英特爾微處理器來支持他們的工作負載,但是,展望未來,他們將部署更多種類的服務器微處理器。