開個新欄目
兩分鐘脫口秀
《我是戴小樂-集美貌與才華于一身》
服務器打游戲會更爽嗎?
關注“戴爾科技集團”視頻號,觀看視頻
戴爾科技集團
「 戴小樂聊IT 」正式和大家見面啦!從今天開始我們每周一期和大家來一場IT TALK SHOW~保你有趣、有料、有收獲?今天,我們就來聊個好玩兒的——服務器能不能用來打游戲?點擊視頻?集美貌與才華于一身的戴小樂為您解答
視頻號
如果你喜歡我,下期繼續聽我嘮嘮~
正如服務器是因其“用途”
而成為了服務器
跑游戲是可以
但就像趕鴨子上轎——到處飛
并不能給游戲性能
帶來任何提升
話說回來
即是在服務器里
也有很多門道
如果選錯了類型
跑特定企業級應用
依然不到發揮
比如跑AI就得用
專門的服務器
下面我們就來聊聊
跑AI需要怎樣的服務器
企業邁向AI的擔憂
根據Gartner《全球IT行業2020年預測》:
雖然只有35%的受訪者表示他們已經部署了人工智能(比如NLP,ML,圖形化技術等),但仍有52%的受訪者表示,他們將在接下來的12個月內進行部署。
同時,IDC在2020年10月發布的《新興技術和趨勢的影響:人工智能》白皮書也顯示:
“截至2025年,90%的應用程序預計將在5年內使用人工智能技術,然而,與此同時,卻只有不到15%的組織正在活躍地使用人工智能技術。”
這種前后不一致的調查數據表明,企業在向AI解決方案的過渡中仍然具有著很大的挑戰。
想解決問題,就要抓住關鍵,那么,企業在邁向AI解決方案時的難點在哪里呢?
關鍵在于AI人工智能算法對硬件架構有著獨特的要求。
深度學習
理想的深度學習解決方案依賴GPU來開展最大化的并行處理,由高性能CPU來管理分發工作,并使用本地存儲作為暫存空間。
機器學習
基于CPU的機器學習技術依賴于眾多包含大量計算內核和大內存容量的服務器。
流分析
使用Spark內存處理技術來進行流分析,需要最高的CPU性能和大內存容量,以便規避本地存儲的瓶頸。
推理
推理功能對CPU、本地存儲和吞吐量提出了極致的要求,以便在數據被捕獲時,將復雜的預測模型實時應用于大量數據。
其實,系統工作時,AI工作負載的數據處理是一個循環的過程,它包含著數百萬個不那么復雜的計算,同時也需要進行組織并行操作和快速移動數據,而數據通過硬件系統及其組件的速度越快,就可以處理得越快。
此外,服務器中的每個組件(CPU、GPU、內存、存儲)也必須保持和其它組件相近的速度來執行任務,這樣才能消除瓶頸,提升處理的速度。
這就是為什么對于AI工作負載來說,最重要的一個因素是并行I/O吞吐量。因為AI工作負載的速度只能與系統中最慢的組件的速度一樣快,所以優化服務器中的組件就顯得非常重要,比如,汽車制造就是一個很好的例子。
企業想要造一輛汽車,就必須有發動機、底盤、懸架、車身等部件,而這些部件都是需要時間完成的。那么如果想組裝完成一輛汽車,除非這些組件全部完成生產,否則是無法進行的。
所以,其實完成一輛汽車生產的訂單時間,主要取決于其中耗時最長的組件生產時間。
而戴爾易安信PowerEdge XE8545,通過結合數據處理中的全部組件,最大程度上縮短了“汽車生產中耗時最長組件的時間”,充分提高了系統的工作效率,實現了在數據流和計算可能性方面的突破,從而在競品中脫穎而出。
人工智能基礎架構的未來
戴爾科技致力于為客戶提供滿足各種需求的AI和ML解決方案。最新推出的PowerEdge XE8545就是一款人工智能工作負載的強大動力引擎。
這是一款為優化最新行業技術而打造的2路4U系統,由人工智能和數據分析驅動的、最新的高性能計算就緒解決方案,使用時,它能讓用戶輕松地在一個系統上運行人工智能、分析和高級計算等工作負載,同時可對企業的計算性能進行大幅加速。
PowerEdge XE8545適用于開發、訓練和部署先進的機器學習模型,為復雜的高性能計算工作負載加速,或者托管加速的虛擬化服務。
1 優化的CPU和GPU性能
XE8545使用具備最多核心數量的第3代AMD EPYC™ Milan處理器,以及最高功率的NVIDIA A100,充分滿足客戶在數據處理過程中對于大容量和高性能的需求。
①XE8545將新一代AMD EPYC處理器的最多核心數量(128)與當今可獲取的最高GPU內存和帶寬相結合,突破了AI計算的邊界。
②XE8545使用一組靈活的虛擬化選項來托管多租戶環境:NVIDIA的vGPU軟件及新的多實例GPU (MIG) 功能。每個A100 GPU可劃分給多達7個實例,從而提供7倍于V100的性能,充分將利用率最大化。
③XE8545可選擇強勁的40GB/400W GPU或者具有空前高性能的80GB/500W GPU,同時保持高效風冷的 (35°C/25°C)數據中心環境。
舉例來說,盡管XE8545已經將ResNet50圖像分類訓練到了最高質量的精度,但花費的時間卻還不到上一代PowerEdge系統的一半。
▲MXNet Training Performance in Minutes (Time to Train, lower is better)
2 加快I/O吞吐量
XE8545通過結合其全部組件(包括NVLink、PCIe Gen 4.0和NVMe SSD),實現了在數據流和計算可能性方面的突破,因而可以在競品中脫穎而出。
1.相比當今的加速器,XE8545實現了 6-7倍的機器學習性能 (2倍的HPC性能) :支持PCIe Gen 4 A100 SXM4 GPU,并通過低延遲無交換機設計提供最高的對等帶寬 (600GB/秒) 。
2.提升機器學習訓練。通過稀疏矩陣的乘法運算,XE8545實現了20倍的性能增進,并提供了比前代產品高出2倍的600GB/秒GPU-GPU通信帶寬。
3 簡化管理
XE8545通過提供OpenManage全棧管理功能、標準深度機架以及空氣冷卻能力,簡化了數據中心的運營。
①XE8545全面兼容iDRAC和Open Management Enterprise (OME)。因此,在使用過程中,企業可以通過集成Open Manage來實施、監控和維護數據中心。
②通過標準深度機架和空氣冷卻 (35°C)機箱,XE8545支持企業隨時將創新技術集成到數據中心,避免了高昂成本的產生。
4 通過集成的安全特性保護企業的數據中心
每臺PowerEdge服務器均具備高網絡彈性的架構,從而將安全性深入集成到從設計到退役生命周期的每一個階段。
①PowerEdge可以強化安全性,支持AMD Secure Memory Encryption (SME) 和 Secure Encrypted Virtualization (SEV)。
②PowerEdge服務器可以使用戶在安全的平臺上運行工作負載,支持加密受信任啟動和硅信任根。
③PowerEdge服務器可以通過數字簽名的固件包來保持服務器固件的安全。
④通過偏移偵測和系統鎖定,PowerEdge服務器可偵測和糾正未經授權的或惡意的更改。
⑤通過系統擦除功能,PowerEdge服務器可以安全快速地從存儲介質擦除所有數據,包括HDD、SSD和系統內存。
結語
XE8545是強大的PowerEdge GPU支持服務器,它可用于機器學習、深度學習、高性能計算和GPU虛擬化。使用時,無需對其數據中心進行重大更改,它為那些尋找最新加速器技術的客戶提供了絕佳的解決方案。
PowerEdge服務器代表著人工智能基礎架構的未來,它充分發揮了硬件組件在所有方面的毫無妥協的潛力。
尊敬的讀者
戴爾盲盒專場,盛大開啟!
從家用、設計到商務辦公
多款產品一應俱全
超值補貼唾手可得
先揭曉,再支付
百抽百中
快來掃描下方二維碼
或點擊文末閱讀原文
速速參與活動