隨著互聯網的不斷擴張和云計算技術的進一步推廣，海量的數據在個人、企業、研究機構等源源不斷地產生。這些數據為日常生活提供了便利，信息網站可以推送用戶定制的新聞，購物網站可以預先提供用戶想買的物品，人們可以隨時隨地分享。但是如何有效、快速、可靠地存取這些日益增長的海量數據成了關鍵的問題。傳統的存儲解決方案能提供數據的可靠性和絕對的安全性，但是面對海量的數據及其各種不同的需求，傳統的解決方案日益面臨越來越多的問難，比如數據量的指數級增長對不斷擴容的存儲空間提出要求，實時分析海量的數據對存儲計算能力提出要求。一方面傳統的存儲解決方案正在改變，比如多級存儲來不斷適應大數據存儲管理系統的特點和要求，另一方面全新的存儲解決方案正日漸成熟，來有效滿足大數據的發展需求。
什么是大數據?為什么要大數據?
“大數據”通常指的是那些數量巨大、難于收集、處理、分析的數據集，亦指那些在傳統基礎設施中長期保存的數據。這里的“大”有幾層含義，它可以形容組織的大小，而更重要的是，它界定了企業中IT基礎設施的規模。業內對大數據應用寄予了無限的期望商業信息積累的越多價值也越大只不過我們需要一個方法把這些價值挖掘出來。
與以往相比，我們除了有能力存儲更多的數據量之外，還要面對更多的數據類型。這些數據的來源包括網上交易、網絡社交活動、自動傳感器、移動設備以及科學儀器等等。除了那些固定的數據生產源，各種交易行為還可能加快數據的積累速度。比如說，社交類多媒體數據的爆炸性增長就源于新的網上交易和記錄行為。數據永遠都在增長之中，但是，只有存儲海量數據的能力是不夠的，因為這并不能保證我們能夠成功地從中搜尋出商業價值。
大數據的存儲及處理能力挑戰
當前，我國大數據存儲、分析和處理的能力還很薄弱，與大數據相關的技術和工具的運用也相當不成熟，大部分企業仍處于IT產業鏈的低端。我國在數據庫、數據倉庫、數據挖掘以及云計算等領域的技術，普遍落后于國外先進水平。
在大數據存儲方面，數據的爆炸式增長，數據來源的極其豐富和數據類型的多種多樣，使數據存儲量更龐大，對數據展現的要求更高。而目前我國傳統的數據庫，還難以存儲如此巨大的數據量。在大數據的分析處理方面，由于針對具體的應用類型，需要采用不同的處理方式，因此必須通過建立高級大數據的分析模型，來實現快速抽取大數據的核心數據、高效分析這些核心數據并從中發現價值，而這些數據分析能力我國還很欠缺。
因此，如何提高我國對大數據資源的存儲和整合能力，實現從大數據中發現、挖掘出有價值的信息和知識，是當前我國大數據存儲和處理所面臨的挑戰。
處理大數據存儲挑戰的建議
通過隔離管理大數據存儲
如果您在您的企業中有多個存儲箱，那么將數據庫、線交易處理(OLTP)和微軟Exchange應用到特定的存儲系統絕對是一個好主意。而專其它存儲系統則用于大數據應用，如門戶網站，在線流媒體應用，等等。
如果您的企業負擔不起分隔的存儲系統，將特定的前端存儲端口到數據庫，OLTP，等等;致力于大數據應用到其他端口。背后的基本原理是使用專用端口，而大數據流量是以千字節或兆字節衡量，OLTP應用流量是以每秒的輸入/輸出操作(IOPS)衡量，因為數據塊的大小是比大數據更大而比OLTP應用程序更小。OLTP應用程序是CPU密集型的，而大數據應用程序更多的使用前端端口。因此，更多的端口可以專注于大數據應用。
專業的大數據存儲管理
如今，很多公司提供兼容數據管理的存儲系統。你應該在尋找你的大數據存儲管理解決方案時評估這些公司。如EMCIsilon的集群存儲系統對于大數據存儲管理是一個更好的選擇，因為在一個單一的文件系統中大數據能增長到多字節的數據。
大數據分析
除了存儲，大數據管理的另一項大的挑戰是數據分析。一般的數據分析應用程序無法很好的處理大數據，畢竟涉及到大量的數據。
目前，諸如EMCGreenplum這樣的公司就在采用專門針對大數據的管理和分析的工具。這些應用程序運行在集群存儲系統上，緩解大數據的管理。建議選擇應用程序可同時工作在群集存儲系統，并迅速有效地分析數據。快速索引，確保元數據始終駐留在固態硬盤(SSD)，如果存儲箱為您提供了這樣的選擇的話。
管理大數據的另一個需要重點考慮的是未來的數據增長。你的大數據存儲管理系統應該是可擴展的，足以滿足未來的存儲需求。
大數據的存儲管理和云計算
許多公司正在尋找云計算服務來進行存儲和管理海量數據。而選擇云服務來大型數據存儲管理，可以確保數據的所有權仍然是你的。
你應該有權選擇將您的數據移入或移出云服務，而不被供應商鎖定。其他重要的考慮因素是供應商的數據安全指南。
京公網安備 11010502049343號