前不久的一個存儲論壇上,記者現場聆聽了上海交通大學網絡信息中心系統架構師黃保青關于構建云存儲平臺的經驗分享,深入且全面地了解到在實施部署過程中如何解決存儲、網絡和虛擬化方面的難題,以及如何與開源OpenStack結合起來提供服務的應用實踐。
據黃保青介紹,上海交通大學數據中心在閔行和徐匯校區建設有主備兩個機房,距離超過30千米,通過校園萬兆網絡實現互連。現階段共部署了100多臺服務器,虛擬化程度達到60%。
上海交通大學在采用虛擬化技術方面起步較早,從2004年開始計劃簡化大型機的功能,再到初步實施服務器虛擬化,至今已經采用了VMware、KVM和OpenVZ等技術。目前數據庫以外的應用基本都運行在虛擬機中。由于考慮到數據庫的IO比較密集,并且本身應用相對單一,所以沒有將數據庫放在虛擬機里面。
現在,上海交通大學現在已經可以為師生提供云服務,包括與廠商合作的云存儲,為教師和學生提供20GB和10GB的存儲空間,類似網盤的服務和文件共享服務,總容量達到30TB以上,“但這并不是架構在傳統存儲系統上,而是通過類似Google GFS的廉價存儲系統實現的”。
此外,上海交大還籌備著提供基于OpenStack的IaaS服務,目前還處于測試階段。談到使用OpenStack的原因時,黃保青解釋說,上海交大和很多廠商都有合作關系,但一直希望在數據中心建設方面擁有自己的一些東西,所以決定在OpenStack上提供IaaS服務。而在PaaS服務方面,上海交通大學利用VMware CloudFoundry提供一些應用級別的服務。
據了解,上海交通大學目前采用了NetApp、HDS和Sun StorageTek等傳統存儲系統,如何繼續保留和使用這些系統,最大限度地保護已有投資,同時積極引入嘗試DCB和FCoE等新技術,是上海交通大學遇到的首要挑戰。在這種情況下,黃保青的小組還考慮到了在DCB上實現存儲網絡和數據網絡的“兩網融合”,簡化數據中心網絡架構,構建一個完善的跨校園多數據中心災備系統。
日漸膨脹的數據存儲對于上海交大來說也是一個令人頭疼的問題。數據庫、虛擬化平臺、富媒體資源和電子圖書,這些資源占用大量存儲空間,僅上海交通大學的圖書館每年數據增長量就能達到幾十個TB。同時,由于學校個IT部門之間相對比較獨立,因此對于多租戶也提出了一定的需求,既要給部門、學生和科研提供存儲服務,又要做到互不干擾。
在了解到可能面對的挑戰和明確需求之后,接下來就是規劃如何建設校園云存儲環境了,是采用開源還是商業方案?如何讓架構做到橫向擴展?黃保青介紹說,最初在存儲選型的時候,他們希望支持統一存儲系統,除了SAN之外IP存儲是簡化數據中心架構一個很好的選擇。此外,同時支持多個存儲協議也是構建云存儲平臺的完備基礎。
在他看來,FCoE是未來數據中心發展的方向,可以節省很多在FC上的投資并減少所需的管理人員,所以需要存儲系統能夠支持原生 FCoE。同時利用存儲分層技術,自動實現對熱點數據的智能化分層;支持定制化的云計算環境和開源OpenStack等;架構的靈活擴展也是他非常看重的,既要能滿足后續成長的需求,又要支持跨校園網在徐匯和閔行校區間的數據容災。
在圍繞上面幾個關注點做了一系列長期調研之后,上海交大做了一套數據中心規劃,在閔行總數據中心劃分成四個區域,(如下圖)前三個區域都是傳統的校園網絡應用,按照Web層、應用層和數據庫層劃分,其中數據庫層上部署了FCoE交換機。云服務被單獨劃分成一個區域,因為現在很多新的數據中心應用都跑在這個層上,包括數據分析、創新應用和體驗展示等。
在數據和存儲網絡的融合方面,上海交通大學數據庫服務器區的思科Nexus 5550啟用FCoE功能,部分接口配置8G FC SFP模塊,Web和應用服務器區的服務器主要通過IP協議訪問存儲,SAN存儲系統則選擇了支持FCoE的NetApp FAS3270AE系統,因為NetApp FAS和服務器的萬兆網卡接入Nexus交換機的萬兆接口,在同一萬兆端口上可以同時支持FCoE、iSCSI和NAS協議。
據黃保青介紹,NetApp FAS的FC接口接入現有FC交換機,為原有的FC SAN提供存儲空間。考慮到各廠商的FC交換機具有極強的排它性,所以沒有將原有的FC交換機與Nexus 5500互連。隨著時間的推移,FC SAN設備將自然淘汰,數據中心將過渡到純FCoE存儲。
而且,新環境中常用的一些操作系統基本上都可以支持FCoE,例如現在使用的Windows Server 2008 R2、Linux CentOS 6.1以上版本和VMware vSphere 5.1 Software FCoE Adapter,所以在他看來,“FCoE的入門門檻已經降到很低了”。
黃保青表示,他們下一步的計劃是支持SAN和NAS的統一集群存儲,不僅如此,存儲控制器、光纖和網絡接口、存儲數據卷全部虛擬化,萬兆內部網絡做到數據的無縫遷移,讓徐匯校區和閔行校區之間通過IP校園網實現數據集群化架構和容災,最終目標是“構建安全多租戶的云存儲”。
作為國內開源云聯盟的發起單位之一,去年8月上海交通大學與英特爾、新浪和中標共同成立開源云聯盟,當時學校基于OpenStack的平臺有50多臺高端服務器,100TB iSCSI存儲、400TB對象存儲以及全萬兆以太網互連,計劃在2013年上半年正式對外試運行,“我們將把這套平臺運用于生產環境中,與云存儲應用結合起來,給全校師生提供IaaS等服務”。