HPC博文——高性能計算(HPC)以及隨后而至的大型企業計算的下一個大戰場中心是高性能互連(HPI)。HPI是將系統連接在一起、并令節點之間高速通信的機制。
HPI市場是一個非常高端的網絡設備市場,其主要特點是超高帶寬和低延遲。
最近對HPC和大型企業數據中心做了一次調研。我發現,與2015年比,超過45%的受訪者計劃在2016年花更多錢在系統互連和I/O上。另外40%計劃花費與2015年相同的金額。從這些結果上看,對他們來說,HPI很明顯是一個重要的話題,也應該是這樣。
我們在過去幾年里看到的HPC方面的重大性能改進都直接拜HPI所賜。在過去四年里,互連速度以每年30%的速度增長,這種速度與穆爾定律所預測的41%年增長率也是不可小視的。
HPI:業內現狀
HPI目前有三種基本技術:專有技術、InfiniBand和以太網。專有互連技術通常用于MPP系統,整個系統里由一、兩個大規模應用占用。專有互連令客戶可以更容易地優化自己的網絡應用程序,這種技術在節點是諸如傳統的全胖樹拓撲結構時要便宜得多。
想使用這些專有互連的話,你只須從提供這種技術的供應商購買系統,例如Cray和SGI都是是主要玩家,還有如Bull的其他商家也提供自己的HPI設備。
一般來說,其他如InfiniBand和以太網的互連主要用于用于集群系統,同一系統里同時幾個或許多HPC工作負載運行。
從500強排行榜看HPI整體市場,以太網互連選擇略有優勢,地球上44%的電腦使用以太網。以太網是一個頗有吸引力的技術,因為它無處不在,在有些情況下也不太昂貴。
盡管以太網的等效帶寬與InfiniBand一樣(100Gb/秒),但以太網在延遲方面的性能不給力。InfiniBand和專有互連的延遲在高納秒級上,以太網則仍處于低微秒級的延遲范圍,這對于高性能工作負載來說是一個嚴重的缺點。
就性能而言,InfiniBand勝其他技術一籌,在100Gb/秒的帶寬上,其延遲小于90納秒,每秒可傳1.5億條消息。InfiniBand路線圖也很強大,200Gb/秒的InfiniBand計劃于2017年發布,幾年后速度將達400Gb/秒。
500強排行榜里40%的系統使用InfiniBand,主要集中在排行榜的前半部分。事實上,地球上最快的機器由中國國家并行計算機工程和技術研究中心(NRCPC)研制的太湖之光用的就是Mellanox InfiniBand HCA卡系統和交換芯片。
InfiniBand技術的主要優點之一是其“離線負載”技術。就是說,HCA卡和交換機管理和執行所有的網絡操作,包括所有協議功能、數據包的設置、發送、接收等等,因而減輕了CPU處理這些瑣事的負擔而只需運行應用程序。
英特爾來也
英 特爾是互連市場的新手,旗下擁有全路徑架構(OPA)互聯技術。現在的OPA技術本質上是TrueScale產品線貼了另一個標簽。。TrueScale 是幾年前收購的QLogic知識產權的一部分。未來的版本會加入收購的Cray Aries互連知識產權的功能。Intel的HPI機制用的是“在線負載”技術,主CPU負責執行和管理所有的網絡處理,包括組裝數據包到交易完成的監測 所有的一切。
這樣做可能會加重處理器的負擔,特別是在應用程序“發動起來”階段,這時所有的節點都會向主節點報告他們的結果。消息的大小可能也是一個問題,因為較長的消息需要更多的時間打包和發送。很多HPC應用程序發出的消息大小不一,這可能導致出現負載結構不平衡。
我們現在對OPA的性能了解不多,因為只有少數客戶手里有這種技術。根據英特爾所說的,他們的OPA速度為100Gb/秒,延遲接近納秒級,而且可以處理每秒8900萬條消息。
這些規格與Mellanox的InfiniBand EDR(除消息速率)非常接近,但大家都不清楚在線負載機制對CPU的影響有多大。處決于集群和應用程序的大小,該影響可能非常重要,但目前無法確切地知道,因為此系統還非常新,并沒有太多實際應用性能數據可用。
交鋒
英特爾在與Mellanox和專有互連人士交鋒時必會盡全力出擊,務求在市場HPI部分的控制權上分個高低。英特爾的意圖是要超越自己,不能只是賣芯片甚至系統,而是要銷售整個機箱,整個塞滿了包括CPU、主板、加速器和用HPI連在一起的英特爾設備在內的機箱。
這樣一來英特爾即可將Mellanox一類的公司擠出HPI市場,而將諸如Cray、SGI、聯想和其他公司轉化成英特爾經銷商,甚至在機架層次這樣做。而且,這也可以減少這些公司推出具自己特色產品的能力,進而顯著地削弱他們的利潤率。
英特爾以其市場影響力、金融資源和公信力可以硬推OPA。他們的銷售人員能接觸著名HPC和大型企業客戶。但由于他們用的是在線負載架構,他們的技術與市場需求的匹配可能不是太好。
Mellanox公司憑性能和路線圖在競爭中占了上風,但他們要保持領先地位仍須加速發展。專有技術那幫人也必須做同樣的事,以證明他們更昂貴的系統是值得的。