大數據的感知,是了解和運用大數據的第一步,也可以理解為大數據的獲取。
在當前大數據變革的時代,移動互聯網、智能終端、新型傳感器快速滲透到地球的每一個角落,人人有終端、物物可傳感、處處可上網、時時在鏈接,數據增長速度用幾何式增長甚至爆發式增長都很難形容得貼切。有機構預計,到2020年全球數據使用量將達到約44ZB(1ZB=10萬億億字節),將涵蓋經濟社會發展各個領域。由此產生的革命性影響將重塑生產力發展模式,重構生產關系組織結構,提升產業效率和管理水平,提高政府治理的精準性、高效性和預見性。毋庸置疑,大數據將創造下一代互聯網生態、下一代創新體系、下一代制造業形態以及下一代社會治理結構。
一、大數據的認識
近年來大數據技術的快速發展深刻改變了我們的生活、工作和思維方式。大數據研究專家舍恩伯格指出,大數據時代,人們對待數據的思維方式會發生如下三個變化:第一,人們處理的數據從樣本數據變成全部數據;第二,由于是全樣本數據,人們不得不接受數據的混雜性,而放棄對精確性的追求;第三,人類通過對大數據的處理,放棄對因果關系的渴求,轉而關注相關關系。事實上,大數據時代帶給人們的思維方式的深刻轉變遠不止上述三個方面。筆者認為,大數據思維最關鍵的轉變在于從自然思維轉向智能思維,使得大數據像具有生命力一樣,獲得類似于“人腦”的智能,甚至智慧。
(一)總體思維
社會科學研究社會現象的總體特征,以往采樣一直是主要數據獲取手段,這是人類在無法獲得總體數據信息條件下的無奈選擇。在大數據時代,人們可以獲得與分析更多的數據,甚至是與之相關的所有數據,而不再依賴于采樣,從而可以帶來更全面的認識,可以更清楚地發現樣本無法揭示的細節信息。如今,技術環境已經有了很大的改善。在大數據時代進行抽樣分析就像是在汽車時代騎馬一樣。在某些特定的情況下,依然可以使用樣本分析法,但這不再是分析數據的主要方式。“也就是說,在大數據時代,隨著數據收集、存儲、分析技術的突破性發展,人們可以更加方便、快捷、動態地獲得研究對象有關的所有數據,而不再因諸多限制不得不采用樣本研究方法,相應地,思維方式也應該從樣本思維轉向總體思維,從而能夠更加全面、立體、系統地認識總體狀況。
(二)容錯思維
在小數據時代,由于收集的樣本信息量比較少,所以必須確保記錄下來的數據盡量結構化、精確化,否則,分析得出的結論在推及總體上就會”南轅北轍“,因此,就必須十分注重精確思維。然而,在大數據時代,得益于大數據技術的突破,大量的非結構化、異構化的數據能夠得到儲存和分析,這一方面提升了從數據中獲取知識和洞見的能力,另一方面也對傳統的精確思維造成了挑戰。在大數據時代,思維方式要從精確思維轉向容錯思維,當擁有海量即時數據時,絕對的精準不再是追求的主要目標,適當忽略微觀層面上的精確度,容許一定程度的錯誤與混雜,反而可以在宏觀層面擁有更好的知識和洞察力。
(三)相關思維
在小數據世界中,人們往往執著于現象背后的因果關系,試圖通過有限樣本數據來剖析其中的內在機理。小數據的另一個缺陷就是有限的樣本數據無法反映出事物之間的普遍性的相關關系。而在大數據時代,人們可以通過大數據技術挖掘出事物之間隱蔽的相關關系,獲得更多的認知與洞見,運用這些認知與洞見就可以幫助我們捕捉現在和預測未來,而建立在相關關系分析基礎上的預測正是大數據的核心議題。通過關注線性的相關關系,以及復雜的非線性相關關系,可以幫助人們看到很多以前不曾注意的聯系,還可以掌握以前無法理解的復雜技術和社會動態,相關關系甚至可以超越因果關系,成為我們了解這個世界的更好視角。舍恩伯格指出,大數據的出現讓人們放棄了對因果關系的渴求,轉而關注相關關系,人們只需知道”是什么“,而不用知道”為什么“。人們不必非得知道事物或現象背后的復雜深層原因,而只需要通過大數據分析獲知”是什么“就意義非凡,這會給人們提供非常新穎且有價值的觀點、信息和知識。也就是說,在大數據時代,思維方式要從因果思維轉向相關思維,努力顛覆千百年來人類形成的傳統思維模式和固有偏見,才能更好地分享大數據帶來的深刻洞見。
(四)智能思維
不斷提高機器的自動化、智能化水平始終是人類社會長期不懈努力的方向。計算機的出現極大地推動了自動控制、人工智能和機器學習等新技術的發展,”機器人“研發也取得了突飛猛進的成果并開始一定應用。應該說,自進入到信息社會以來,人類社會的自動化、智能化水平已得到明顯提升,但始終面臨瓶頸而無法取得突破性進展,機器的思維方式仍屬于線性、簡單、物理的自然思維,智能水平仍不盡如人意。但是,大數據時代的到來,可以為提升機器智能帶來契機,因為大數據將有效推進機器思維方式由自然思維轉向智能思維,這才是大數據思維轉變的關鍵所在、核心內容。眾所周知,人腦之所以具有智能、智慧,就在于它能夠對周遭的數據信息進行全面收集、邏輯判斷和歸納總結,獲得有關事物或現象的認識與見解。同樣,在大數據時代,隨著物聯網、云計算、社會計算、可視技術等的突破發展,大數據系統也能夠自動地搜索所有相關的數據信息,并進而類似”人腦“一樣主動、立體、邏輯地分析數據、做出判斷、提供洞見,那么,無疑也就具有了類似人類的智能思維能力和預測未來的能力。”智能、智慧“是大數據時代的顯著特征,大數據時代的思維方式也要求從自然思維轉向智能思維,不斷提升機器或系統的社會計算能力和智能化水平,從而獲得具有洞察力和新價值的東西,甚至類似于人類的”智慧“。
大數據時代將帶來深刻的思維轉變,大數據不僅將改變每個人的日常生活和工作方式,改變商業組織和社會組織的運行方式,而且將從根本上奠定國家和社會治理的基礎數據,徹底改變長期以來國家與社會諸多領域存在的”不可治理“狀況,使得國家和社會治理更加透明、有效和智慧,不斷成為企業、社會和國家層面重要的戰略資源,成為機構的資產,成為提升機構和公司競爭力的有力武器。
責任編輯:王遜
上一頁12下一頁
二、安防大數據的獲取
近年來,大數據一詞越來越多地被提及與使用,其含義是廣泛的,涉及到各行業。對安防行業來說,大數據是安防行業發展的未來之路,是智能化安防的提綱挈領。然而,大數據時代,如何對海量的數據進行分析和檢索,成了安防企業競相研究的課題。誰能掌握大數據下的智能分析,將海量數據化大為小、化繁為簡,預先把監控行業網發展的脈搏,誰就將掌握市場和競爭的主動權。
在安防領域,大數據的來源和獲取以平安城市、智能交通、智慧城市等大型項目的使用為主,由過去單一的系統布防逐漸轉變為大數據應用分析的綜合智能系統。”海量“和”非結構化“。這兩個特點在視頻監控行業尤為突出,如何在”海量“和”非結構化“的監控視頻數據中快速找到對人們有用的信息變的尤為重要。
平安城市是一個特大型的管理系統,綜合性強。它的建設目標是滿足治安管理、城市管理、交通管理、應急指揮等需求,往往還要兼顧災難事故預警、安全生產監控等方面對圖像監控的需求,并考慮報警、門禁等配套系統的集成以及與廣播系統的聯動。所以,平安城市注定將是一個大的數據集合體,對它的精準分析和高效利用也就至關重要。而從具體行業來看,從”事后查看“到”事前預警“,多年來一直是公安、交通等各重點行業用戶的迫切需求,但長期以來,視頻的清晰度以及各項基礎、分析技術的發展都無法滿足現實的需求。而隨著高清技術的應用以及IT架構、分析技術的快速發展,依靠大數據分析技術,能從大量非結構化的視頻數據中提取出有價值的信息,從而使”事前預警“成為現實。
對于安防行業而言,在平安城市、智能交通管理、環境保護、危化品運輸監控、食品安全監控,或是政府機構、大企業工作場所等與網絡連接的設備系統有著巨大的數據來源。如何將各區域各行業的監控設備資源連接起來,通過信息公開、數據共享、數據挖掘推動新型的以大數據應用為基礎的安防,構成了安防的大數據時代。目前發防大數據的來源可以歸納為以下幾大類:
(一)視頻數據
包括各地平安城市建設的視頻監控數據、交警、城管、金融、海關、檢驗檢疫等部門建設的視頻監控數據以及接入到電信運營商公共平臺的視頻數據等等。而各企業、商鋪、家庭等自建的相對獨立的視頻數據則難以采集、整合。隨著高清時代的到來,視頻數據已成為最重要的安防數據。
(二)卡口、電子警察數據
車輛、駕駛、通行數據,主要來源于智能交通領域。
(三)用戶日常社交數據
包括用戶日常上網瀏覽記錄、消費記錄、社交記錄等數據。
(四)用戶基站數據
包括用戶位置數據、通信數據、訪問數據等等。