通過提供對更廣泛信息集的訪問,大數據就可以為數據分析師和業務用戶產生分析見解提供一臂之力。成功的大數據分析應用程序會揭示某些趨勢和模式,以此來為決策制定提供更好的服務,并會指出新的創收機會和讓企業領先于他們的商業競爭對手的方法。但首先,企業往往需要增強他們現有的IT基礎設施建設以及數據管理流程以支持大數據架構的規模和復雜性。
Hadoop系統和NoSQL數據庫已經成為管理大數據環境的重要工具。不過,在很多情況下,企業利用他們現有的數據倉庫設施,或是一個新老混合的技術來對大數據流入他們的系統進行管理。
無論一個公司部署什么類型的大數據技術棧,有一些共通的因素必須加以考量,以保證為大數據分析工作提供一個有效的框架。在開始一個大數據項目之前,去審視項目所要承擔的新數據需求的更大圖景顯得尤為關鍵。下面來讓我們檢視四個需要加以考量的因素。
數據準確性
數據質量問題對于BI和數據管理專業人士來說一定不陌生。很多BI和分析團隊努力保證數據的有效性并說服業務使用人員去信任信息資產的準確性和可靠性。作為個性化分析庫而得以廣泛使用的電子表格或電子報表軟件可以對數據中信任缺乏的問題加以彌補:在Excel中存儲和操作分析數據的功能為支持自助分析能力創造了環境,但可能不會激發其他用戶對結果的自信心。數據倉庫與數據集成和數據質量工具一起,能夠通過為管理BI和分析數據提供標準化流程來幫助樹立信心。但是,由于不斷增加的數據容量和更廣泛多樣的數據類型,特別是當涉及結構化和非結構化數據混合時,就會對一個大數據的實施增加難度系數。建立評估數據質量標準以及對它們進行升級以處理那些更大、更多樣數據集,對于大數據實施的成功和分析框架的使用是至關重要的。
存儲適用
數據倉儲的一個核心要求是處理和存儲大數據集的能力。但并不是所有數據倉庫在這方面都滿足要求。一些是針對復雜查詢處理進行優化,而其他的則并非如此。并且在許多大數據應用程序中,相較于事務系統,由于添加了非結構化數據還有數據的創建和收集增速迅猛,用Hadoop和NoSQL技術增強數據倉庫就成為必要。對于一個希望獲取并分析大數據的組織來說,光有存儲容量是不夠的;而重要的部分在于將數據置于何處才是最佳的,這樣數據就可以轉化為有用信息并為數據科學家和其他用戶所利用。
查詢性能
大數據分析依賴于及時處理和查詢復雜數據的能力。一個很好地例子就是:一家公司開發了一個數據倉庫用來維護從能源使用計收集到的數據。在產品評估過程中,某供應商的系統有能力在15分鐘內處理七百萬條記錄,而另一家則在相同時間內可以處理最高三十萬條記錄。能否識別正確的基礎設施來支持快速的數據可用性和高性能查詢就意味著成功還是失敗。
穩定性
隨著許多組織中數據量和數據種類的增長,大數據平臺的建立需要有對未來的考量。必須提前考慮和求證正在進行評估的大數據技術是否能夠進行擴展,以達到不斷向前發展的需求所要求的級別。這便超出了存儲容量的范疇,將性能也包含了進來,對那些從社交網絡,傳感器,系統日志文件以及其他非事務源獲取數據作為其業務數據擴展的公司來說尤為如此。
分析多樣而復雜的數據集需要一個健壯且富有彈性的大數據架構。在籌劃項目時通過對這四個因素進行考量,組織可以確定他們是否已經擁有能夠處理如此嚴苛大數據的分析程序亦或是需要額外的軟硬件以及數據管理流程來達到他們的大數據目標。