Google公布的自己數(shù)據(jù)中心的文檔更像是一次炫耀,大篇幅的展示了極低的PUE,而對設(shè)計細節(jié)忽略不提。盡管如此,我們還可以從其中發(fā)現(xiàn)有價值的信息。好,讓我們開始。
盡管距離Facebook公開其數(shù)據(jù)中心設(shè)計藍圖已經(jīng)過去了一年半,但Google公布的數(shù)據(jù)中心設(shè)計還是值得研究。不可否認,Google和亞馬遜依然是地球上擁有最先進的數(shù)據(jù)中心的兩個公司,包括Facebook服務(wù)器實驗室系統(tǒng)工程經(jīng)理Amir Michael、Prineville數(shù)據(jù)中心總經(jīng)理Ken Patchett在內(nèi)的許多工程師都來自Google。上個月,我們第一次了解到Google數(shù)據(jù)中心內(nèi)部的景象,不過這些照片并不是Google最先進的數(shù)據(jù)中心,其中所包含的信息量也相當有限。同樣的,Google公布的自己數(shù)據(jù)中心的文檔更像是一次炫耀,大篇幅的展示了極低的PUE,而對設(shè)計細節(jié)忽略不提。盡管如此,我們還可以從其中發(fā)現(xiàn)有價值的信息。好,讓我們開始。
圖:Goole芬蘭哈米納港數(shù)據(jù)中心量化和提升能源的使用
當面臨互聯(lián)網(wǎng)應(yīng)用服務(wù)器爆炸式增長的局面,我們將精力放在如何減少能源使用上。大多數(shù)數(shù)據(jù)中心就像給服務(wù)器供電一樣,給非計算用設(shè)備無限制的供電(即日常管理、制冷等)。在Google,我們將傳統(tǒng)數(shù)據(jù)中心的制冷用電比例降低到13%。這樣,大部分的電能用于服務(wù)器,這些服務(wù)器將為搜索及其它產(chǎn)品提供支持。我們對用電量進行測量,不斷的朝目標行進——提供更多服務(wù),減少電量浪費。
如何降低PUE——Google的5點建議
不管你運營的是小型數(shù)據(jù)中心還是大型的數(shù)據(jù)中心,你都可以采用一些簡單的設(shè)計來提升效率,降低成本并減少對環(huán)境的影響。
1、測量PUE
沒有測量就沒有管理,采用更綜合的方法測量PUE。
我們的計算基于Google在全球所有的數(shù)據(jù)中心的性能,不僅僅是我們最新的或最好的數(shù)據(jù)中心。同時,統(tǒng)計數(shù)據(jù)貫穿全年,并不僅統(tǒng)計涼爽的季節(jié)。
不僅如此,我們還將所有的日常產(chǎn)生的耗能全部進算在其中。當然,只要采用更寬松的Green Grid v2標準(Green Grid's PUE measurement standards。Green Grid是一個非盈利的企業(yè)團隊,成員包括 AMD、APC、Cisco、Dell、Emerson、Fujitsu、Fujitsu Siemens、HP、IBM、Intel、微軟和Sun等供應(yīng)商以及ADP、Allstate、BT、Enterprise、Facebook和Fed Ex Services等用戶。),就可以得出更低PUE值。事實上,如果使用業(yè)界通常的解釋,我們效率最高的數(shù)據(jù)中心可以不夸張的達到PUE 1.06。然而,我們堅持使用更高的標準,因為我們相信這可以有助于更好的統(tǒng)計和優(yōu)化我們的用電。總之,我們公布的綜合PUE為1.13,覆蓋全球所有的數(shù)據(jù)中心,并貫穿全年,以及所有的日常用電。
圖:Google數(shù)據(jù)中心PUE統(tǒng)計邊界。平均PUE為1.13,如果忽略變電站、電源轉(zhuǎn)換以及發(fā)電設(shè)備,PUE將降低到1.06。
Google數(shù)據(jù)中心PUE統(tǒng)計
自從2008年開始公開PUE后,每年我們都不斷的降低PUE。截至到2012年第二季度,過去12個月的加權(quán)平均值(TTM)PUE達到了1.13,這是全球效率最高的數(shù)據(jù)中心。
圖:Google自2008年以來的PUE統(tǒng)計
圖:Google數(shù)據(jù)中心PUE計算取值含義
這里是從2008年到現(xiàn)在的Google數(shù)據(jù)中心PUE統(tǒng)計,如果想了解Google數(shù)據(jù)中心PUE的計算公式,可以在這里找到。
2、管理氣流
氣流管理對數(shù)據(jù)中心運營十分重要。通過恰當?shù)脑O(shè)計盡量減少熱空氣和冷空氣混合。然后,確保熱空氣被密封。我們發(fā)現(xiàn)一些很小的分析工具能帶來巨大的回報。比如,通過電腦流體力學(CFD)建立氣流模型可以幫助你快速的描繪和優(yōu)化氣流,這樣你就不用對電腦房大規(guī)模重組。
控制設(shè)備的溫度
為了在持續(xù)節(jié)能的前提下保持設(shè)備最佳狀態(tài),溫度管理、氣流管理以及設(shè)備管理盡量保持簡單,提高成本效益比。
將恒溫器設(shè)定提高到80華氏度(約等于26.7攝氏度)
讓數(shù)據(jù)中心節(jié)能最簡單的辦法就是提高溫度,根據(jù)專家的建議以及設(shè)備制造商的說明,數(shù)據(jù)中心可以在80華氏度以上安全的運行。
建立熱力模型
我們使用熱力模型來定位“熱點”,并能更好的理解氣流的運行。在數(shù)據(jù)中心設(shè)計階段,通過物理組合的方式讓設(shè)備溫度更加平均。在這之后,我可以移動計算機機房空調(diào)來減少熱點,并降低其周邊的溫度,最終減少空調(diào)必須運行的時間。
我們找到低成本的方式管理氣流
為了減少制冷成本,我們要防止機架后端排到熱管的熱空氣與機架前端環(huán)境的冷空氣混合。在我們那些巨大的數(shù)據(jù)中心里,我們使用了適當?shù)膶Ч芎透綄僭O(shè)備。此外,在較小的數(shù)據(jù)中心中,我們采用適當簡單的散熱方式。請看實例:
使用空的面板(或者平坦材料)封閉機架上空閑的機位,防止熱空氣滲入冷空氣。
懸掛塑料窗簾(與在冰箱中使用的材質(zhì)相似)防止冷空氣跑掉。
將高溫的部件或區(qū)域(如供電單元)用塑料窗簾密封起來
3、調(diào)整恒溫器
讓數(shù)據(jù)中心保持在70華氏度(約等于21.1攝氏度)簡直是生活在童話中。事實上,所有的設(shè)備制造商都允許你將通道溫度提升到80華氏度或更高。如果讓你的數(shù)據(jù)中心效率更高(我們強烈推薦),讓它運行在更高的溫度就能在更多天里實現(xiàn)“免費制冷”(通過室外的自然空氣進行制冷)并節(jié)約更多的電能。
4、使用免費的制冷
通常冷水機組都會用在數(shù)據(jù)中心的制冷設(shè)備中,你可以發(fā)現(xiàn)這就是節(jié)省電能的巨大機會。利用“免費制冷”消除高溫就能避免使用冷水機組。這包括使用周邊低溫的空氣、蒸發(fā)器以及巨大的熱容設(shè)備。當然,有許多方法讓你使用“免費制冷”,水和空氣都被證明可以使用的資源。
用水替代冷水機組
電力在數(shù)據(jù)中心中最終會轉(zhuǎn)換成熱量。大部分數(shù)據(jù)中心使用冷水機組或空調(diào)進行降溫,這將占到日常用電中的30-70%。在Google數(shù)據(jù)中心,我們經(jīng)常使用水這種高能效的方式來代替。
使用水來圍堵熱空氣以及對設(shè)備降溫
我們?yōu)闄C架設(shè)計并定制了制冷系統(tǒng),我們叫它“熱屋”(Hot Huts),因為它用作容納從服務(wù)器排出的熱空氣的臨時房間,房間與數(shù)據(jù)中心其余地板是隔離的。每個熱屋的頂部都裝有風扇,將服務(wù)器排出的熱空氣吸入水冷器。冷卻后的空氣離開熱屋回到數(shù)據(jù)中心的環(huán)境中,服務(wù)器可以將這些冷空氣抽入幫助降溫,空氣完成了一個循環(huán)。
利用蒸發(fā)器制冷
蒸發(fā)是非常強大的工具。在我們?nèi)梭w上,當外界溫度高過身體的溫度時,蒸發(fā)可以幫助我們保持體溫。我們的冷卻塔和人體出汗的工作原理如出一轍。熱水從數(shù)據(jù)中心輸送到冷卻塔,水從上到下流過快速蒸發(fā)器,一部分水轉(zhuǎn)變成水蒸氣。風扇將這些水蒸氣向上推動,這一過程將帶走剩余的熱量,然后將變冷的水輸送回數(shù)據(jù)中心。
利用海水進行自然冷卻
蒸發(fā)水并不是唯一的免費冷卻方式。我們在芬蘭哈米納港的數(shù)據(jù)中心使用海水降溫,沒有使用冷卻裝置。數(shù)據(jù)中心地處芬蘭灣,氣候寒冷。冷卻系統(tǒng)將寒冷的海水輸送到數(shù)據(jù)中心,熱量通過交換器傳送給海水,海水最終流回海灣。通過這種方法,可以給我們提供全年的冷卻,而根本不需要任何冷卻裝置。
節(jié)約并循環(huán)用水
為了更節(jié)約用水,我們在兩個數(shù)據(jù)中心實現(xiàn)了100%循環(huán)用水,并在1/3的數(shù)據(jù)中心中通過收集雨水進行制冷。這個方法很簡單,替代用于冷卻的飲用水,而使用不能飲用的水源,通過清潔就可以用于冷卻了。
我們通過各種方式使用循環(huán)水。在道格拉斯數(shù)據(jù)中心我們利用城市廢水,在比利時數(shù)據(jù)中使用工業(yè)廢水,通過盛有干凈沙子的巨大的水槽過濾水中的微小粒子,水會變得干凈(盡管并不適合飲用)。不過,循環(huán)用水的方式并不總是很劃算,我們對找到合適的方法來支撐大部分循環(huán)用水還是持樂觀態(tài)度。
5、優(yōu)化電源布局
你可以通過減少電流轉(zhuǎn)換的次數(shù)來減少分布式電源帶來的電能損耗。你必須進行電流轉(zhuǎn)換,但要確保使用特定的轉(zhuǎn)換設(shè)備和分布式電源單元(PDU)。數(shù)據(jù)中心中分布式電源最大的能量損失之一來自不間斷電源(UPS),所以選擇高效率的UPS十分重要。最后,盡量讓高電壓接近電源,這可以減少能量損失。
定制高效的服務(wù)器
Google的服務(wù)器始終保持著高效率,它是我們數(shù)據(jù)中心的核心,并且經(jīng)過了極端節(jié)能設(shè)計,通過最小化電能損失以及移除不必要的組件來實現(xiàn)。
優(yōu)化電源路徑
一個典型的服務(wù)器最多將浪費1/3的電能,只有電能用于服務(wù)器的計算才能發(fā)揮真正的價值。服務(wù)器浪費的大部分電能是在電源部分,電源需要將標準的交流電轉(zhuǎn)換成低電壓的直流電。這一過程將損失大量電能,同時芯片也將完成進一步電源轉(zhuǎn)換工作。這種設(shè)計可以降低初始成本,但最終將在電力轉(zhuǎn)換的過程中花費大量的成本。
Google的服務(wù)器則不同。從2001年開始,我們一直在改進設(shè)計不斷提高效率。多年之后,我們的供電效率已經(jīng)超過了“氣候保護計算倡議組織”的“金牌”標準(Climate Saver Computing Initiative,簡稱CSCI),事實上,我們與“氣候保護計算倡議組織”、Intel以及世界自然基金會(WWF)共同努力提升工業(yè)電源效率。同時,我們使用了更高效率的調(diào)壓模塊,確保更多的電能輸送到各個組件。我們在機架后放置電池直接向服務(wù)器供電,這樣就可以省去兩次交流/直流變換過程。我們估算,一臺服務(wù)器一年時間就可以節(jié)省500kWh,相當于典型的服務(wù)器能耗的25%。
定制自己的服務(wù)器 只保留必須的組件
對于硬件,我們只保留那些對我們的應(yīng)用有幫助的部分。我們?nèi)サ裟切┩鈬牟考惋@卡。我們還優(yōu)化服務(wù)器和機架以適應(yīng)最小功率的風扇,在保持服務(wù)器冷卻的前提下,盡量降低風扇的轉(zhuǎn)速。
我們鼓勵所有的供應(yīng)商去除那些閑置的組件,這里是2007年發(fā)布的“能源比例”文檔。
關(guān)于Google數(shù)據(jù)中心的相關(guān)信息
圖:數(shù)據(jù)中心傳統(tǒng)的冷卻方式是通過高出地面的計算機機房空調(diào)(CRAC)制造冷空氣
圖:Google上個月公布的數(shù)據(jù)中心的照片,在風道內(nèi)有輸送冷水的水管,這是自2006年以來的第5次升級。
圖:Google對風冷和水冷方式進行了評估,水冷的熱容積和熱傳導性分別是風冷的4.1倍和23.8倍。
圖:Google模擬了100MW的IT負載,風冷所消耗的電能是水冷的4.875倍。
圖:Google展示了制冷設(shè)計專利
寫在最后
“每一個Google員工都需要簽署一份保密協(xié)議,而這在Facebook根本不需要。”這是Facebook Prineville數(shù)據(jù)中心總經(jīng)理Ken Patchett在接受Wired記者采訪是透露的。即便現(xiàn)在,Google對數(shù)據(jù)中心的保密等級并沒有因為公開一些無足輕重的照片而降低。除了圖片、描述籠統(tǒng)的文字和YouTube上有限的介紹影片,Google數(shù)據(jù)中心更多的秘密還需要時間來揭曉。