現在我們最熟悉的存儲單位當然是MB、GB,以及正在普及的TB,那么再往上一個數量級的PB又是什么樣子呢?一家名叫Aberdeen的公司近日推出了一套最大容量可達1PB的商業存儲系統“Petarack”(名字不錯),而價格“只要”49.5萬美元。
該系統包含八個JBOD(磁盤簇),而每個JBOD內有45塊近線nearline SAS硬盤,單個容量3TB,因此總共有360塊硬盤、1080TB容量。
不僅如此,系統內還有空間放置第九個JBOD和兩個HBA卡,容量能因此再增加135TB而達到1215TB,不過默認情況下空閑的PCI-E插槽會留給10Gb以太網卡或者光纖HBA。
大多數硬件RAID控制器都自帶處理器,用于存儲任務的加速,而多數現代6Gbp RoC都是雙核心配置,頻率最高大約1.2GHz。雖然它們都宣稱可以通過擴展器支持最多256個設備,但是一旦連接上十幾個,就會成為性能瓶頸,此外緩存容量也有限,都在256MB-4GB之間,這是大型存儲引用必須解決的問題。
Petatrack在每個機柜的兩個存儲服務器內都使用了兩顆六核心的Intel Xeon X5670 2.93GHz,默認各自配備48GB DDR3內存,最高可以擴展到192GB。之所以用雙路服務器是出于冗余目的,一個失敗了另一個會自動介入,此外還能提供更多PCI-E擴展插槽位。
每個JBOD都包含兩個擴展器,各自連接一個存儲服務器作為冗余。SAS硬盤的兩個端口也是如此,同樣是為了冗余。不管哪個服務器或者HBA掉線了,總能有其它數據通道頂上。
震動也是這種大規模多硬盤系統必須考慮的問題,不然就會遭遇性能下滑(Aberdeen聲稱會有50%)、數據錯誤、硬盤損壞、壽命縮短等麻煩,3TB nearline SAS硬盤就是目前的最佳選擇。如果需要更高的性能,15000RPM SAS硬盤和SSD固態硬盤也都是支持的,甚至能夠多種類型共存。
網絡連接方面,默認是通過兩個10Gb/1Gb以太網控制器來支持iSCSI,而如果你有光纖網絡,也可以在不破壞授權的情況下進行使用。
每每說起這種大家伙,肯定會有很多人拿耗電量說事兒。Aberdeen給出的數據是滿容量運行大約會消耗7000W。該系統使用了兩個40A移動式插座,每個分出兩個20A電路,由這四路分擔供電。
軟件上使用基于OpenSolaris內核的GNU/Debian用戶界面來創建RAID陣列,而可選的RAID方案有:Stripe、Mirror、RAID-Z1(類似RAID 5)、RAID-Z2(類似RAID 6)、RAID-Z3,其中最理想的是RAID-Z2。
文件系統選擇了128-bit ZFS,其企業可靠性也是久經考驗的。
跨平臺共享從來都是老大難。可以在Linux系統下創建CIFS,Windows、Mac系統都能訪問,不過Linux管理員也通常喜歡NFS共享,并使用訪問控制清單來管理用戶授權。
VMware管理員也喜歡NFS共享。vSphere 4.1的區塊級別存儲限制是2TB分區,vSphere 5.0則擴大到了64TB,NFS共享就無此限制。
性能么,持續、隨機讀寫都能超過500MB/s,持續讀寫也可以接近400MB/s,只有隨機寫入稍慢,150MB/s左右的樣子。
IOPS吞吐性能同樣不俗,持續讀取接近14萬,持續寫入也有10萬,隨機讀取超過了12萬,隨機寫入則不到4萬。