隨著大數據和云計算的發展,傳統的計算模式并不能很好地處理由此帶來的應用負載,服務器的性能、功耗和空間等受到了很大的挑戰。CPU+FPGA等異構計算正成為行業重要的發展趨勢。我們也看到,近來各芯片巨頭在服務器市場的合縱連橫,動作頻頻,對中國市場更是視若珍寶。未來在服務器市場各廠商的較量將不可避免,但大家的方向又是如此一致,高性能、低功耗、省空間的服務器才能滿足日益增長的大數據、云計算等新應用領域的需求。
三大陣營在服務器領域的動向
英特爾方面:
2014年6月,英特爾宣布將業界領先的Xeon處理器和FPGA封裝到一個單一結構中,其插槽和標準的Xeon E5處理器兼容。FPGA將能為英特爾的客戶提供一個更強大的算法執行能力和更高的性能,能給基于服務器的應用帶來20倍以上的加速。
2015年11月,英特爾表示首款同時采用Intel Xeon處理器和Altera FPGA的芯片將于2016年第一季度發布。之前FPGA沒有被廣泛應用于海量級數據中心的服務器。英特爾預計,截止2020年FPGA將會在30%的數據中心服務器中得以應用。
2016年1月21日,清華大學、英特爾公司和瀾起科技(上海)有限公司在北京正式簽署協議,宣布聯手研發融合可重構計算和英特爾x86架構技術的新型通用CPU,以滿足市場和用戶需求。
IBM方面:
2013年10月宣布成立全球OpenPOWER基金會,致力于企業服務器生態系統的開放式創新。基金會發起成員僅有5家公司,包括IBM、谷歌等,而到現在為止已經有超過150個成員,其中20個成員在中國。基于Power處理器的強大性能,谷歌在2016年將會采用Power處理器進行其主板的規格定義,運行Linux所有的應用程序。
2015年7月,OpenPOWER基金會宣布正式推出全新硬件加速ISV支持計劃,為本地ISV(獨立軟件開發商)免費提供基于RedPOWER服務器以及賽靈思FPGA的云端開發及測試環境,幫助ISV提升大數據、云計算等新興技術研發能力。
9月16日成立第二代分布式計算聯盟,構建了由處理器技術廠商、服務器廠商、應用加速器廠商、ISV和行業用戶等組成的生態鏈,以推動以應用加速器技術為重要特征的新一代計算模式的技術和應用的發展。2015年底,IBM與OpenHW開源硬件社區、Xilinx公司聯合啟動了首屆IBM-Xilinx異構計算大賽,共同推動第二代分布式計算的落地應用。
ARM陣營及高通:
ARM作為服務器領域的后來者,一直很努力地證明自己。例如巴塞羅那超級計算中心采用ARM架構服務器,就是ARM在服務器方面很好的例證。ARM還與美國的一些機構做有關超級計算的事情。全球知名的提供云服務的廠商和服務供應商都在使用ARM技術相關的一些服務器技術。ARM的眾多芯片合作伙伴包括海思、博通、Cavium、AppliedMicro以及系統商GIGABYTE、HP等。
2015年10月,最近高通宣布正將一個基于新的系統芯片開發平臺送交頂級服務器制造商試用,從此正式進入服務器市場。這是高通與賽靈思、Mellanox公司合作做出了一款24核心的ARM服務器芯片。
2016年1月,AMD正式推出首款基于ARM架構的處理器Opteron A1100。
2016年1月17日,貴州省政府和高通簽署戰略合作協議,高通將與貴州合作研發ARM架構服務器芯片。
應對服務器的挑戰,不能沒有FPGA
“云計算和大數據帶來了很多新型負載,如分布式數據庫、鍵值存儲、視頻圖像處理、認知計算、機器學習、基因計算等應用。傳統的計算模式無法以較低功耗滿足這些應用對于服務器吞吐量和時延的要求。” IBM大中華區科技戰略合作總經理姜錫岫表示。
IBM大中華區科技戰略合作總經理姜錫岫
Intel可編程解決方案事業部數據中心架構師Mike Strickland 認為計算和存儲領域出現了新的發展趨勢,需要一個全新模型來優化效率、成本以及功耗。CPU無法獨自處理所有工作負載,而GPU功耗太大。FPGA可以應對的趨勢包括:在業務中經濟地支持云計算和虛擬化(同時包括服務器和存儲)。
另外一個動向則是,在云計算中采用分布式存儲和高速緩存,并通過融合降低功耗和提高密度。我們的客戶極為關心閃存技術在隨機訪問條件下提供的引人注目的單位成本每秒I/O操作次數 (IOPS/$),以及它的低功耗特性。而且在存儲市場上也可以提供采用閃存技術的高速緩存和DIMM。 借助FPGA,您還可以提供中間存儲技術,也能夠推動新的云架構。這方面的一個例子是,Intel為Grantley提供了35個定制Xeons。
我們還非常看好軟件定義數據中心(SDDC),可以將資源(計算、網絡、存儲)池化,并自動進行配置和監控。Intel Xeon + FPGA多芯片封裝(MCP) & 微軟必應支持FPGA等公開發布都是這方面的實例。
芯片廠商力推CPU+FPGA異構計算
的確,服務器芯片廠商都在采用CPU+FPGA的模式提升性能,這將是一個發展趨勢。
針對這種CPU+FPGA體系結構,Mike Strickland對國際電子商情記者表示,當前我們還無法對芯片做過多的評論,但是總體上看優點包括:同時擁有PCIe和QPI接口使得帶寬更大,延時更低;QPI更容易實現OpenCL編程模型;而其封裝與普通的Xeon CPU插槽兼容因此易于部署實現。FPGA加速對數據中心的貢獻主要集中在三個方面:
算法加速:仿真、CNN、識別、圖像處理、重建包括:并行/流水線處理、位操作、匹配;靈活的數據通路和存儲器訪問,邏輯恰好滿足需求,硬核浮點;我們以最低功耗實現了最佳性能。
網絡加速:虛擬化、過濾/分析、壓縮、兼容、DPI
數據訪問加速:過濾/分析、壓縮、加密、閃存高速緩存管理;O/S旁路
人們會非常關注業界領先的芯片制造商(Intel)采用一流的FPGA技術——我們的優勢包括:率先進入下一工藝尺寸節點,通過CPU與FPGA更緊密的集成而實現更好的性能和更低的功耗。基于Intel 14nm工藝的Intel FPGA也增強了云計算能力,比如硬核浮點提高云中圖像搜索等。而從FPGA創新的角度看,與以前的FPGA系列相比,采用Intel 14nm工藝開發的Stratix 10 FPGA的Hyperflex新體系結構,時鐘速率提高了近2倍,而且功耗更低。
IBM也與領先的FPGA企業Xilinx合作,利用IBM POWER和OpenPOWER處理器優異的性能和先進的CAPI(Coherent Accelerator Processor Interface,一致性處理器加速器接口)技術,積極化解云計算大數據應用給服務器帶來的挑戰。
姜錫岫表示,利用OpenPOWER處理器先進的CAPI技術,FPGA能實現與處理器的高效連接,從而充分利用FPGA可編程硬件強大的硬件加速能力,實現軟硬結合的異構計算,大幅提高對數據應用的處理性能:根據應用的不同可以實現十倍甚至百倍的性能增速。
由于FPGA的低功耗特性(與CPU相比),這種解決方案能夠大幅降低整體系統的功耗,減少服務器數量及其占用的數據中心寶貴空間。
CPU+FPGA方案降低了系統功耗,大幅提升了應用性能,使得云計算和大數據等新型應用負載的高吞吐量和低延時需求得到了滿足,從而極大促進了相關應用的發展。
IBM的POWER處理器和OpenPOWER處理器通過高效的CAPI接口將FPGA與CPU連接起來。這種解決方案有幾個明顯的好處:
首先是這個方案目前就可以用。CAPI+FPGA的方案現在就是Ready的,也不需要用戶對現有的服務器、處理器做任何調整,將FPGA板卡插到通用的PCIe插槽上即可使用。降低了用戶部署的成本和時間。
由于CAPI先進的技術特性,CAPI+FPGA方案很好地解決了對處理器內編程地址空間尋址的問題,降低了編程難度。
通過POWER和OpenPOWER處理器的CAPI接口與FPGA連接,擴展FPGA卡的數量(PCIe)取決于用戶的需求,這樣比較靈活,比將接口嵌入進CPU的方案具有更大的靈活性。
云計算等新應用正改變服務器市場
數據顯示,到2018年時,云計算將占服務器市場的40%,與2013年比增長110%;到2020年時,云計算有機會達到150億美元的規模。
高通的數據中心事業部高級副總裁Anand Chandrasekher表示,“服務器行業正在發生各種我從未見過的變化,其根本原因是云計算。云計算在不斷增長,是一個全球性的現象,在所有的工作負載領域都是這樣。服務器市場業務正在經歷一次海嘯,是新玩家進入該市場的好時機。如果能拿出一個低功耗解決方案,會非常有吸引力。”
姜錫岫認為服務器市場正經歷著巨大的變革,未來服務器市場的增長需求很大一部分來自云計算、移動互聯網、大數據等新型應用,這些應用的爆發式增長不但給服務器和數據中心技術帶來了新的挑戰,也給相關企業抓住歷史機遇彎道超車提供了舞臺。以CPU+FPGA等異構計算為主要特征的第二代分布式計算正在成為行業的重要發展趨勢,能夠抓住計算技術變革的歷史機遇將有機會在新一輪的信息革命大潮中爭得先機。
我們知道2015底英特爾完成167億美元收購Altera,Altera將作為英特爾的新業務部門即可編程解決方案事業部進行運營。開發規劃包括集成解決方案和分立FPGA等。被Intel收購后,Altera不會再與ARM在服務器市場上展開合作,是這樣嗎?Mike Strickland 表示,Intel計劃支持和開發Altera基于ARM的產品線,目標是提供更優的體系結構解決方案,以更好的滿足客戶的需求。
Mike Strickland還表示,我們的策略是繼續與微軟的必應和Azure團隊以及其他的全球搜索和網絡提供商合作,他們需要大規模數據中心,通過基于FPGA的服務器降低成本,卸載CPU,充分發揮虛擬化以及轉向SDDC方法的優勢。
服務器芯片巨頭一致看好中國市場。預計到2020年服務器芯片市場的規模將達到150億美元,其中有60億美元來自中國市場,中國也成為全世界數據中心技術的第二大市場,同時也是這個領域增長最快的一個市場。
由云計算和大數據帶來的市場機會使得服務器市場的競爭格局發生著微妙變化。無論是X86架構,還是POWER架構以及ARM架構,都在各自的生態圈中力拓服務器市場。IBM憑借高性能的POWER以開放的心態集結更多的合作伙伴,以低功耗占優的ARM架構以及生態圈伙伴也奮起直追。他們無不挑戰該市場的絕對霸主英特爾的地位,盡管影響力還不足夠,但大家都看準了移動互聯、云計算等帶來的有可能改寫服務器格局的契機。而英特爾近來的收購或者合作之舉也無疑在鞏固其優勢地位。隨著三大陣營以CPU+FPGA等異構計算為主,更緊密地與業界合作,未來服務器領域尤其是中國市場的競爭將更趨激烈。