根據(jù)研究機構(gòu)Intersect360 Research對全球HPC市場的分析結(jié)果顯示，2020-2014年間HPC將以7.1%的高復(fù)合增長率增長。
HPC結(jié)合了硬件、軟件、系統(tǒng)管理和數(shù)據(jù)中心設(shè)施，以支持大量互連的計算機協(xié)同工作來執(zhí)行單臺計算機無法單獨完成的過于復(fù)雜的共享任務(wù)。一些企業(yè)可能會尋求租賃或購買他們的HPC，而其他企業(yè)可能會選擇在自己的數(shù)據(jù)中心內(nèi)構(gòu)建HPC基礎(chǔ)設(shè)施。
通過了解HPC基礎(chǔ)設(shè)施的主要要求和限制因素，您可以確定HPC是否適合您的業(yè)務(wù)以及如何最大限度地發(fā)揮它的價值。
什么是高性能計算(HPC)?
一般而言，HPC 是使用大型且功能強大的計算機來有效處理數(shù)學(xué)密集型任務(wù)。盡管存在 HPC“超級計算機”，但除了最大的企業(yè)外，其他所有企業(yè)往往無法觸及此類系統(tǒng)。
相反地，大多數(shù)企業(yè)可以將HPC作為一組配置成在集群中運行的相對便宜、緊密集成的計算機或節(jié)點進行實施。此類集群使用分布式處理軟件框架(例如Hadoop和MapReduce)通過在多臺聯(lián)網(wǎng)計算機之間劃分和分配計算任務(wù)來解決復(fù)雜的計算問題。集群中的每臺計算機都只處理自己的問題或數(shù)據(jù)集部分，然后軟件框架將其重新集成以提供完整的解決方案。
分布式HPC架構(gòu)為組織帶來了一些權(quán)衡。最直接的好處包括可擴展性和成本管理。Hadoop等框架只能在一臺服務(wù)器上運行，但組織也可以將它們擴展到數(shù)千臺服務(wù)器。這使得企業(yè)能夠使用價格較低的現(xiàn)成計算機來構(gòu)建HPC基礎(chǔ)架構(gòu)，以滿足其當(dāng)前和未來的需求。Hadoop還具有容錯能力，可以檢測故障系統(tǒng)并將其從集群中分離出來，將這些故障作業(yè)重定向到可用系統(tǒng)。
構(gòu)建HPC集群在技術(shù)上很簡單，但HPC部署可能會帶來業(yè)務(wù)挑戰(zhàn)。即使能夠隨著時間的推移管理、擴展和添加節(jié)點，但是采購、部署、運營和維護數(shù)十、數(shù)百甚至數(shù)千臺服務(wù)器的成本——以及支持它們的網(wǎng)絡(luò)基礎(chǔ)設(shè)施——也可能成為一筆巨大的財務(wù)投資。加上許多企業(yè)對HPC的需求也有限，很難讓HPC集群保持忙碌，而企業(yè)在HPC上投入的資金和培訓(xùn)成本要求部署能夠處理業(yè)務(wù)任務(wù)以實現(xiàn)成本效益。
只有對用例、利用率和投資回報指標有透徹的了解，才能獲得成功的HPC項目。
實施HPC需要什么?
在商業(yè)數(shù)據(jù)中心實施HPC集群的三個主要要求包括計算硬件、軟件層和容納所有這些的設(shè)施。更準確的要求取決于HPC部署的規(guī)模。
計算要求。構(gòu)建HPC集群需要服務(wù)器、存儲和不應(yīng)共享日常業(yè)務(wù)流量LAN的專用網(wǎng)絡(luò)。理論上，您可以在單臺服務(wù)器上實施Hadoop等HPC軟件，這可以幫助員工學(xué)習(xí)和獲得HPC軟件和作業(yè)調(diào)度方面的經(jīng)驗。但是，基于Hadoop的典型HPC集群至少需要使用三臺服務(wù)器：主節(jié)點、工作節(jié)點和客戶端節(jié)點。
您可以用多個主節(jié)點擴展該簡單模型，每個主節(jié)點支持多個工作節(jié)點，這意味著典型的HPC部署由多個服務(wù)器(通常虛擬化以增加集群可用的有效服務(wù)器數(shù)量)組成。專用集群網(wǎng)絡(luò)還需要高帶寬TCP/IP網(wǎng)絡(luò)設(shè)備，例如千兆以太網(wǎng)、NIC 和交換機。服務(wù)器和交換機的數(shù)量取決于集群的大小，以及每臺服務(wù)器的能力。
剛接觸HPC的企業(yè)通常從擴展到幾個機架的有限硬件部署開始，然后再擴展到集群。您可以通過投資具有充足處理器和存儲空間的高端服務(wù)器來限制服務(wù)器和交換機的數(shù)量，從而提高每臺服務(wù)器的計算能力。
軟件要求。成熟的堆棧必須能夠隨時支持HPC集群管理功能套件。Bright Cluster Manager和OpenHPC等軟件堆棧通常包含各種用于集群管理的工具，例如：
• 配置工具
• 監(jiān)控工具
• 系統(tǒng)管理工具
• 資源管理工具
• MPI 庫
• 數(shù)學(xué)庫
• 編譯器
• 調(diào)試器
• 文件系統(tǒng)
一些組織可能會采用HPC框架(例如Hadoop框架)來管理他們的HPC。Hadoop包括HDFS 文件系統(tǒng)、Hadoop Common、MapReduce和YARN等組件，它們提供了許多與上面所列相同的功能。
HPC項目需要輸出結(jié)果，這種結(jié)果可以通過可視化、建模或其他報告軟件的形式提供給管理員。能夠可視化Hadoop數(shù)據(jù)的工具包括Hunk、Platfora和Datameer等，以及Jaspersoft、Pentaho和BIRT等開源工具;Cognos、MicroStrategy和QlikView等商業(yè)智能工具;而Rshiny、D3.js和Highcharts等圖表庫能夠可視化非Hadoop框架的輸出。
設(shè)施要求。設(shè)施通常會成為HPC部署過程中最大的限制因素。要實施HPC，您需要物理空間和重量支撐來容納額外的服務(wù)器機架、運行它們的電源以及足夠的冷卻能力來管理熱量。一些企業(yè)可能根本沒有空間和冷卻基礎(chǔ)設(shè)施來支持大量額外的服務(wù)器。
超融合基礎(chǔ)設(shè)施系統(tǒng)可以最大限度地減少物理計算占用空間，但HCI具有高功率密度，可能導(dǎo)致機架“熱點”和其他冷卻挑戰(zhàn)。用于HPC部署的完整計算機機架最多可包括72臺刀片式服務(wù)器和5臺架頂式交換機，總重量高達1800磅，需要高達43 kW的電量支持。
HPC部署需要對數(shù)據(jù)中心設(shè)施進行仔細評估，并對系統(tǒng)電源和冷卻要求與容量進行詳細判斷。如果設(shè)施不足以進行HPC部署，您必須尋求內(nèi)部HPC的替代方案。
應(yīng)對HPC實施挑戰(zhàn)
計算挑戰(zhàn)。盡管HPC硬件很常見且隨時可用，但您可以使用模塊化高密度服務(wù)器來解決計算限制。模塊化設(shè)計使服務(wù)器易于擴展和更換。您可以使用帶有專用高速LAN的專用高性能服務(wù)器來實現(xiàn)最佳性能，這使您能夠通過定期的技術(shù)更新周期和額外投資來隨時間更新HPC程序。
軟件挑戰(zhàn)。HPC軟件方面的主要挑戰(zhàn)在于管理軟件組件版本和互操作性，即確保修補或更新一個組件不會對其他軟件組件的穩(wěn)定性或性能產(chǎn)生不利影響。解決這一問題的關(guān)鍵在于，將測試和驗證作為HPC軟件更新過程的核心部分。
設(shè)施挑戰(zhàn)。處理裝滿服務(wù)器和網(wǎng)絡(luò)設(shè)備的額外機架所需的可用物理數(shù)據(jù)中心空間、電源和冷卻問題，限制了許多希望實施HPC的組織。對于這一點，服務(wù)器升級或許可以提供幫助。通過部署更大、功能更強大的服務(wù)器來支持更多的VM，您可以有效地添加 HPC“節(jié)點”，而無需添加更多物理服務(wù)器。此外，在同一物理服務(wù)器內(nèi)對VM進行分組可以緩解網(wǎng)絡(luò)問題，因為VM可以在服務(wù)器內(nèi)進行通信，而無需通過LAN傳輸流量。
您也可以尋求查看第三方支持，例如托管以獲得額外空間。托管使您的組織能夠在提供商的數(shù)據(jù)中心租用空間并使用該提供商的電力和冷卻設(shè)施。然而，托管通常需要一項可能跨越數(shù)年的昂貴的長期合同義務(wù)。
電力成本也會影響HPC部署的長期成本，因此請評估本地電力的可用性和成本。考慮平衡的三相配電基礎(chǔ)設(shè)施和先進的配電設(shè)備——例如智能PDU和開關(guān)PDU——以提高電源效率。不間斷電源裝置支持HPC集群服務(wù)器的有序運行，以最大限度地減少數(shù)據(jù)丟失。
添加高密度服務(wù)器機架會給數(shù)據(jù)中心的空氣處理系統(tǒng)增加相當(dāng)大的冷卻負荷。當(dāng)額外的冷卻功能不可用時，可以評估托管或云選項，或考慮先進的冷卻技術(shù)，例如HPC機架的浸入式冷卻。
HPC擁抱云?
包括AWS、Google Cloud Platform和Microsoft Azure在內(nèi)的幾家公有云提供商都在為面臨構(gòu)建和運營HPC挑戰(zhàn)的企業(yè)提供HPC服務(wù)。公有云克服了個體企業(yè)面臨的規(guī)模和成本挑戰(zhàn)，這也使得它們成為了部署HPC任務(wù)的理想選擇。云可以提供：
• 貫穿全球可用數(shù)據(jù)中心的幾乎無限擴展;
• 各種專用CPU、GPU、現(xiàn)場可編程門陣列和快速互連硬件功能，可優(yōu)化機器學(xué)習(xí)、可視化和渲染等任務(wù)的工作性能;
• 成熟且隨時可用的HPC服務(wù)，例如Amazon EMR上的Azure CycleCloud和Apache Hadoop，可減輕本地IT人員的學(xué)習(xí)曲線和支持負擔(dān);
• 即用即付的成本模型，使企業(yè)只需在實際使用這些云服務(wù)和資源時才為HPC付費。
執(zhí)行頻繁和適度HPC任務(wù)的企業(yè)可以選擇構(gòu)建和維護有限的HPC集群，以實現(xiàn)本地數(shù)據(jù)處理項目的便利性和安全性，但對于其內(nèi)部無法支持的、偶爾要求更高的HPC項目，他們可能仍會轉(zhuǎn)向公有云。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號