今天越來越多的企業(yè)認(rèn)識到,大數(shù)據(jù)的掌控和分析能力將成為競爭力的核心,企業(yè)對大數(shù)據(jù)的投資也在不斷擴(kuò)大。Gartner調(diào)查顯示,73%的企業(yè)計劃在未來兩年內(nèi)投資大數(shù)據(jù)。以開源Hadoop、Spark等為基礎(chǔ)的大數(shù)據(jù)基礎(chǔ)平臺解決方案和云服務(wù)如雨后春筍不斷涌現(xiàn),形成了近200億美元的市場規(guī)模。然而對于很多企業(yè)用戶來說,如何評價一個大數(shù)據(jù)平臺的綜合能力,常常是選型、平臺建設(shè)和系統(tǒng)優(yōu)化時面臨的一大挑戰(zhàn)。目前來看,國內(nèi)外還缺乏一套能體現(xiàn)大數(shù)據(jù)特點,又簡便易行,且被工業(yè)界廣泛認(rèn)可的大數(shù)據(jù)平臺性能測試標(biāo)準(zhǔn)與工具。
記者日前從數(shù)據(jù)中心聯(lián)盟獲悉,國內(nèi)第一個大數(shù)據(jù)產(chǎn)品和服務(wù)基準(zhǔn)測試規(guī)范《大數(shù)據(jù)平臺基準(zhǔn)測試技術(shù)要求》已經(jīng)制定完成,將于2015年1月底公開發(fā)布。與該規(guī)范配套的評測工具源代碼也將同期發(fā)布,并移交開源社區(qū)持續(xù)開發(fā)。
該基準(zhǔn)測試規(guī)范的主要評價對象主要包括大數(shù)據(jù)軟件平臺(如基于開源Hadoop、Spark平臺的商業(yè)軟件)、大數(shù)據(jù)軟硬一體機(jī)和云端大數(shù)據(jù)服務(wù)三大類。規(guī)范根據(jù)大數(shù)據(jù)特點,精選了NoSQL、離線分析和實時交互分析等最具代表性的21個基本負(fù)載,能夠考核平臺在計算密集、I/O密集和混合任務(wù)等不同場景的表現(xiàn)。標(biāo)準(zhǔn)規(guī)定了數(shù)據(jù)生成、負(fù)載選擇、測試指標(biāo)、用例執(zhí)行和測試配置。標(biāo)準(zhǔn)還從用戶角度出發(fā)定義了多個維度的指標(biāo),不僅有基本的吞吐量質(zhì)保,還有能耗、壓力、擴(kuò)展性、容錯能力等多方面的指標(biāo),這些指標(biāo)都是用戶在選型和采購最關(guān)注的。
數(shù)據(jù)中心聯(lián)盟常務(wù)副理事長何寶宏把基準(zhǔn)測試形象的比喻為“公平秤”,他說:“我們設(shè)計測試基準(zhǔn)的過程是開放的,大家平等參與,可信云和綠色數(shù)據(jù)中心相關(guān)標(biāo)準(zhǔn)制定都采用了這種方式,這些標(biāo)準(zhǔn)已經(jīng)得到廣泛認(rèn)可。接下來需要按標(biāo)準(zhǔn)開發(fā)工具,我們會以開放源代碼的方式把‘大數(shù)據(jù)公平秤’制造出來,并且免費(fèi)交給廠商和用戶使用,組織大家一起完善,這樣買賣雙方心里都有數(shù),提高彼此的信任度。”“下一步,我們也將為可信云和綠色數(shù)據(jù)中心等標(biāo)準(zhǔn),開發(fā)一系列開源的公平秤,歡迎業(yè)界一起參與貢獻(xiàn)自己的力量。”
據(jù)了解,該規(guī)范是由該規(guī)范由中國信息通信研究院(原工業(yè)和信息化部電信研究院)牽頭,聯(lián)合中科院計算所、華為、中國移動、Intel、微軟、IBM、新浪、百度、阿里、騰訊、浪潮、世紀(jì)互聯(lián)、UCould等國內(nèi)外知名公司和科研機(jī)構(gòu)共同制定,囊括了國內(nèi)外主流大數(shù)據(jù)產(chǎn)品與服務(wù)提供商。
數(shù)據(jù)中心聯(lián)盟大數(shù)據(jù)工作組組長魏凱透露說:“聯(lián)盟作為第三方行業(yè)組織,計劃于2015年第一季度啟動第一輪評測活動,并公開發(fā)布測試結(jié)果。此次測試活動是不僅國內(nèi)大數(shù)據(jù)廠商水平的首次展示,通過這樣的測試也可以減少廠商一些重復(fù)的、不必要的POC測試。”
據(jù)悉,下一步數(shù)據(jù)中心聯(lián)盟將逐步吸納行業(yè)典型應(yīng)用場景,豐富測試用例和測試數(shù)據(jù)模型,形成覆蓋Hadoop/Spark、MPP、NoSQL等多種產(chǎn)品與服務(wù)、面向電信、金融、政務(wù)等多個行業(yè)的“端到端”測試基準(zhǔn)。長遠(yuǎn)目標(biāo)是以基準(zhǔn)測試工作為紐帶,在大數(shù)據(jù)行業(yè)用戶與平臺供應(yīng)商之間構(gòu)建交流合作橋梁,加速大數(shù)據(jù)技術(shù)與行業(yè)深度融合。