現在很多人都在談論大數據,初創公司也在探索大數據,深度學習也是科學研究的一個熱點。顯而易見我們正面臨著一場信息革命。數據正以驚人的速度增長,過去兩年全世界共產生了2 ZB的數據(1 ZB=十億 TB)。這些數據主要的來源是服務器日志的大量使用、物聯網、各種傳感器、社交媒體以及電子郵件。
大數據要多大?
如果你覺得你的10GB硬盤就叫大數據了,我只能說呵呵。100GB的服務器數據庫也只能叫“小數據”。就算是11TB的分布式數據庫也算不上是大數據。100TB的大規模并行處理系統勉強稱得上是大數據。現在數據規模在1000TB也就是1PB(Petabyte)左右的系統可以稱得上是大數據系統,但這還不夠,我們預計未來的大數據平臺規模將以EB計(1 Exabyte=100萬TB)。
大數據所帶來的新技術和觀念的轉變對商業活動產生了很大的影響。
那么大數據究竟為我們帶來了哪些新技術呢?
1. 數據量
大數據依賴橫向擴展的架構來提高負載而非強化服務器硬件的縱向擴展。橫向擴展的意思是我們向網絡中加入更多的服務器節點達到均衡計算量的目的。相比于縱向擴展,橫向擴展更經濟,也可以獲得更好的性能。
2. 數據多樣性
企業環境中80%的數據是都是非結構化的。我們的日常生活其實也是在處理抽象的非結構化數據,保守的處理方式是處理部分數據或是改變數據的結構,有了大數據的幫助,你可以處理原始數據而不必擔心數據在處理的過程中丟失。
3. 數據處理速度
采用大數據的處理方式不需要進行抽樣因此速度上可以得到提升,無需抽樣也意味著簡化的數據處理模型,因此精確度和可靠性也得到了保證。當我們使用有限資源處理過量數據時,我們需要對數據進行抽樣因此精確度會降低。反之,如果我們要提高精確性但能夠處理的數據又有限時我們則會得出更復雜的模型,這將會導致可靠性的降低。
更多的數據勝過聰明的算法——谷歌
大數據也帶來了觀念的轉變:數據驅動的科技需要數據科學。應用大數據的企業需要能夠有效利用大數據的人員,也就是數據科學家來幫助企業從數據中獲得有價值的信息,通常他們所使用的方式是機器學習和預測分析。
這里需要注意數據科學家與數據分析師的不同,數據分析師通常有著計算機或商業背景,所使用的工具如SAS、SPSS、Excel、R、 SQL和數據庫。數據科學家則通常來自數學物理或自然科學等學科,掌握著更高級的統計和機器學習等技能。大數據初創公司應懂得根據產品的技術特性和用戶需求來尋找合適的數據科學家。
越來越多的初創公司在大數據領域尋找發展的機會或是提升運營的效率,這說明企業有著向數據驅動的商業模式轉型的需要。
所以,大數據時代的企業應該采取以下的公式:
新技術+新觀念+商業轉型=大數據策略。
大數據時代所采用的策略是初創公司進行商業轉型時所應考慮的一個問題。
如果你也在考慮著商業轉型,你需要考慮招聘一些數據方面的專才,比如大數據架構師、大數據工程師、數據科學家甚至首席數據官來有效利用大數據,很多大公司可能明年就會設立首席數據官這個職位。
看來大數據和數據科學家即將走向臺前引領商業的走向。