劍橋大學(xué)在2014年投資2000萬英鎊建設(shè)了一個(gè)新的綜合性數(shù)據(jù)中心,該數(shù)據(jù)中心已經(jīng)取代了該大學(xué)多個(gè)不同的數(shù)據(jù)中心設(shè)施,并大幅度減少劍橋大學(xué)的碳足跡,同時(shí)擴(kuò)大其技術(shù)領(lǐng)先的優(yōu)勢。
劍橋大學(xué)的多用戶數(shù)據(jù)中心采用了一種高效的“冷凍水”混合冷卻系統(tǒng),預(yù)計(jì)將減少電力消耗,同時(shí)與2013年相比,減少了10%的碳排放量。劍橋大學(xué)在2020年減少34%的與能源相關(guān)的排放量,這意味著向其既定的目標(biāo)邁出了重要一步。
劍橋大學(xué)西劍橋數(shù)據(jù)中心
合并擊敗更新
建設(shè)該數(shù)據(jù)中心項(xiàng)目始于一個(gè)艱難的決定。劍橋大學(xué)有很多部門,各自運(yùn)行自己的服務(wù)器,并使用大學(xué)的信息服務(wù)。劍橋大學(xué)還進(jìn)行了一個(gè)高性能計(jì)算服務(wù)(HPCS)的研究,2014年成為教科文組織統(tǒng)計(jì)研究所的一部分。該大學(xué)還擁有劍橋評(píng)估、國際服務(wù)、管理三個(gè)考試委員會(huì),以及劍橋大學(xué)學(xué)術(shù)出版社。
劍橋大學(xué)所有這些部門有著各自不同的計(jì)算資源,其中一些陳舊老化。而不是試圖將所有不同的IT資源分開,機(jī)構(gòu)決定形成一個(gè)合作伙伴關(guān)系,并建設(shè)一個(gè)定制的數(shù)據(jù)中心,可以在未來的幾年里最終支持劍橋所有部門的計(jì)算需求、學(xué)習(xí)和研究。
劍橋大學(xué)各部門的合作伙伴委托奧雅納工程顧問公司,提供環(huán)保、土木、結(jié)構(gòu)和巖土工程,以及信息和通信技術(shù)咨詢。而與奧雅納公司合作的還有戴維斯蘭登公司和TTSP建筑公司。
該數(shù)據(jù)中心已經(jīng)建成,并于2014年7月交付使用,并在2014和2015年期間,將工作負(fù)載遷移到該數(shù)據(jù)中心,劍橋西數(shù)據(jù)中心將服務(wù)于大學(xué)信息服務(wù)(UIS)部門的當(dāng)前和未來的需求,提供用戶界面、機(jī)構(gòu)所管理的IT基礎(chǔ)架構(gòu)和高性能計(jì)算(HPC)服務(wù),以支持大學(xué)各部門的研究活動(dòng),以及劍橋大學(xué)的管理需求評(píng)估。并且計(jì)劃在未來將劍橋大學(xué)出版社遷入劍橋評(píng)估數(shù)據(jù)大廳。
劍橋大學(xué)數(shù)據(jù)中心的高效散熱技術(shù)
多樣化的冷卻需求
這三個(gè)用戶群體有不同的要求,需要不同數(shù)量的IT負(fù)載,為了提供深入研究為基礎(chǔ)的數(shù)據(jù)處理服務(wù),其IT負(fù)載從每機(jī)架3.5kW低功率密度到每機(jī)架30kW高功率密度不等。傳統(tǒng)的設(shè)計(jì)方法會(huì)為了三個(gè)主要類型的IT負(fù)載使用三個(gè)獨(dú)立的數(shù)據(jù)中心設(shè)施,但該數(shù)據(jù)中心采用新興技術(shù),使這些能夠在一個(gè)單一的系統(tǒng)使用。
“早期的設(shè)計(jì)決定了ASHRAEA2對(duì)所有三種類型用戶有著提供冷卻的潛力,這取決于高效的設(shè)計(jì)。”大學(xué)信息服務(wù)(UIS)部門主管馬丁·貝拉米在有關(guān)網(wǎng)站發(fā)表文章中表示。低密度區(qū)使用熱通道氣流遏制系統(tǒng)和普通計(jì)算機(jī)房空氣處理系統(tǒng)(CRAH),而對(duì)于具有較高的IT密度的高性能計(jì)算領(lǐng)域,則采用背機(jī)架背靠背的冷卻系統(tǒng)。
該數(shù)據(jù)中心設(shè)施利用一個(gè)單一的冷卻系統(tǒng),采用來自外部空氣(100%自然冷卻系統(tǒng))進(jìn)行冷卻。大學(xué)信息服務(wù)(UIS)部門指出,一些數(shù)據(jù)中心這么做會(huì)被人們認(rèn)為這是一個(gè)勇敢的決定,但該系統(tǒng)的好處將遠(yuǎn)遠(yuǎn)大于風(fēng)險(xiǎn)。“我們對(duì)許多冷卻技術(shù)和方法進(jìn)行了探討,其中包括全空氣間接蒸發(fā)系統(tǒng)。”UIS部門表示,“為了達(dá)到劍橋大學(xué)的目標(biāo),很明顯,我們的數(shù)據(jù)中心的解決方案需要超越采用全空氣蒸發(fā)冷卻的能力。”
該系統(tǒng)采用冷卻水而不是采用壓縮機(jī)冷卻,蒸發(fā)冷卻的所有好處是不使用冷卻器。為了滿足HPC用戶的需求,冷卻水通過back-of-rack機(jī)架冷卻系統(tǒng)進(jìn)行冷卻。該系統(tǒng)采用的是當(dāng)?shù)毓?yīng)商Coldlogik公司的設(shè)備,并經(jīng)過測試之后選擇的。
該冷卻系統(tǒng)采用了冷卻水溫度浮動(dòng)與控制系統(tǒng),將數(shù)據(jù)中心的工作溫度保持在最有效的設(shè)置值,同時(shí)將供氣溫度保持在ASHRAE容許范圍內(nèi)。按照最新的ASHRAE建議,數(shù)據(jù)中心溫度可以推薦的范圍上下浮動(dòng)1-2度。劍橋大學(xué)堅(jiān)持使用水冷空壓機(jī)系統(tǒng),即使是高性能計(jì)算負(fù)載。當(dāng)外面的空氣太熱的時(shí)候,傳統(tǒng)數(shù)據(jù)中心將需要DX壓縮機(jī)進(jìn)行冷卻。
該系統(tǒng)將在炎熱的時(shí)段使用更多的電力,因?yàn)槭褂么罅康娘L(fēng)扇降溫,但這已經(jīng)在設(shè)計(jì)考慮到了。
該數(shù)據(jù)中心采用艾默生TrellisDCIM解決方案進(jìn)行管理。
劍橋大學(xué)采用效率高達(dá)99%的UPS供電系統(tǒng)
兩個(gè)POP和雙電源
該中心有兩個(gè)獨(dú)立的通信路由存在點(diǎn)(POP),并具有來自英國電力網(wǎng)絡(luò)的兩個(gè)單獨(dú)的變電站11000V的雙路電源,并配備一個(gè)3150kVA變壓器。該數(shù)據(jù)中心已經(jīng)其供應(yīng)商獲得了2200kVA的初始容量,另外還可以增加3000kVA。
其備用電源來自三個(gè)容量為1100kVA發(fā)電機(jī)組,采用的是N+1配置,因此只需要兩臺(tái)發(fā)電機(jī)就可以提供足夠的備用電源。部署的發(fā)電機(jī)組有足夠的燃料,可以運(yùn)行72小時(shí)。該冷卻系統(tǒng)也采用了N+1冗余配置:有三個(gè)混合冷卻塔,只有其中只需要兩個(gè)正常運(yùn)行就可。
數(shù)據(jù)中心供電系統(tǒng)采用三臺(tái)1000kVA的模塊化UPS(配置為n+1),每一個(gè)都具有5個(gè)智能控制的200kVA功率模塊,其電源效率達(dá)到了98%。有兩個(gè)單獨(dú)的A和B饋送給每個(gè)機(jī)柜,并通過架空軌道母線系統(tǒng)交付的智能計(jì)量柜電源插板。
劍橋大學(xué)低密度數(shù)據(jù)大廳
數(shù)據(jù)中心的四個(gè)數(shù)據(jù)大廳
該數(shù)據(jù)中心是一個(gè)新的兩層樓,有四個(gè)數(shù)據(jù)大廳。1號(hào)大廳容納的是HPC系統(tǒng),具有900kW的高密度IT負(fù)載,多達(dá)96機(jī)柜;2號(hào)大廳為劍橋大學(xué)評(píng)估需求的201kW負(fù)載;而3號(hào)大廳則是容量為240kW的大學(xué)信息服務(wù)UIS部門的服務(wù)器。4號(hào)大廳沒有部署設(shè)備,計(jì)劃在未來的增長時(shí)可以添加40個(gè)到50個(gè)機(jī)架。
這個(gè)建筑還建設(shè)了一個(gè)操作室,安全辦公室和會(huì)議室的空間。房屋內(nèi)具有全天候安全保障,具有廣泛的內(nèi)部和外部的視頻監(jiān)控。訪問數(shù)據(jù)的大廳由“星際迷航”一樣的防尾隨的門禁控制,并在地板上部署內(nèi)置秤。一旦有人員出現(xiàn)在數(shù)據(jù)大廳,智能鑰匙柜將會(huì)監(jiān)控和控制所使用人的鑰匙。
總體而言,該數(shù)據(jù)中心的能源使用效率(PUE)預(yù)計(jì)為1.2,其PUE接近像谷歌公司和Facebook公司這樣的整體網(wǎng)絡(luò)規(guī)模的供應(yīng)商。這與以前的數(shù)據(jù)中心相比,有了很大的改善了,并降低了劍橋大學(xué)10的%碳排放量。
劍橋大學(xué)數(shù)據(jù)中心安全密鑰訪問
用戶驗(yàn)收
為了獲得成功,數(shù)據(jù)中心必須說服潛在的用戶:每個(gè)大學(xué)的部門(物理、化學(xué)等)仍然可以自由地運(yùn)行自己的服務(wù)器,但他們都將工作負(fù)載遷移到共享數(shù)據(jù)中心,以節(jié)省資金,并得到改進(jìn)服務(wù)。九個(gè)月后,該數(shù)據(jù)中心被加載到26%的容量,其計(jì)算出的能源帳單將每年節(jié)約一百萬英鎊,并減少了40%的碳排放量。
獲得該項(xiàng)目的中央資金可能是一個(gè)挑戰(zhàn),但該團(tuán)隊(duì)使用所設(shè)計(jì)的效率水平證明,搬遷設(shè)備到數(shù)據(jù)中心,其節(jié)省的水電費(fèi)相當(dāng)于或略高于數(shù)據(jù)中心的運(yùn)行成本。而劍橋大學(xué)數(shù)據(jù)中心凈成本實(shí)際上為零,而數(shù)據(jù)中心也有顯著擴(kuò)張潛力。例如在HPC領(lǐng)域,相比以前的空間,HPC的處理能力提高了300%。
除了節(jié)省電力,各個(gè)相關(guān)部門也可以騰出空間。他們以前進(jìn)行數(shù)據(jù)處理的空間,可以更多地提供給教學(xué)或進(jìn)行更多的研究,這增加了額外的效益。
盡管如此,一些潛在的用戶們關(guān)注其增加的工作溫度可能會(huì)導(dǎo)致硬件的故障率增加,但UIS部門提供了可靠數(shù)據(jù),證明了其硬件可靠性的降低影響可以忽略不計(jì)。
劍橋大學(xué)認(rèn)為,在選擇了水冷空壓機(jī)系統(tǒng)之后,并完全遵循ASHRAE指導(dǎo)方針,未來的IT系統(tǒng)將會(huì)有足夠的信心應(yīng)對(duì)業(yè)務(wù)。
數(shù)據(jù)中心經(jīng)理伊恩·塔斯克說:“西劍橋數(shù)據(jù)中心項(xiàng)目為劍橋大學(xué)引進(jìn)了一個(gè)最新的節(jié)能技術(shù),其成功應(yīng)用將會(huì)被其他高等教育機(jī)構(gòu)效仿。”