之前參加了IC咖啡舉辦的Italk活動，聽取的有關大數據公司和產業機構的講座，因此萌生出一個寫文章的沖動，想對目前大數據產業中的一些錯誤現象進行討論.
陳宇認為大數據是哲學層面上的問題，屬于統計學范疇，部分揭示了大數據產業的本質，但是實際上大數據這個概念自身就有著不同的詮釋。利用數據進行軍事分析，產品定位，交通管理，風險管理，精準營銷等等，其實在幾十年前就有了。最早的保險產品就是來源于偶然事件的概率分析，其參考歷史數據分析，依據計算出的概率來，來對保險產品進行定價。中國古代的軍事學家孫臏在戰爭中，通過逐步減少行軍灶坑來迷惑對手，利用其師弟龐涓對數據信任，制造其帶領軍隊潰敗的假象，最后在對方輕敵冒進的前提下，突襲了對手，贏得了戰爭勝利。因此數據分析其實在很久遠的古代就存在了。為什么過去的數據分析換成了時髦的名稱大數據了呢？
相對于過去的數據，我們來討論大數據的含義：
１）過于一些記錄是以模擬形式出現的，或者以數據形式出現但是存貯在本地，不是公開數據資源，沒有開放給互聯網用戶，例如音樂、照片、視頻、監控錄像等影音資料。現在這些數據不但數據量巨大，并且放到了互聯網上，開放給整個互聯網用戶，其數量之大是前所未有了。舉個例子Facebook每天有18億張照片上傳或被傳播，形成了海量的開放數據。
２）移動互聯網出現后，移動設備的很多傳感器收集了大量的用戶點擊行為數據,已知iphone有3個傳感器，三星有6個傳感器。它們每天產生了大量的點擊數據，這些數據被某些公司所有擁有，形成用戶大量行為數據。
３）移動地圖出現后，例如高德、百度、google地圖，其產生了大量的數據流數據，這些數據不同于傳統數據，傳統數據代表一個屬性或一個度量值，但是這些地圖產生的流數據代表著一種行為、一種習慣，這些流數據經頻率分析后會產生巨大的商業價值。基于地圖產生的數據流是一種新型的數據類型，在過去是不存在的。
４）進入了社交網絡的年代后，互聯網行為主要由用戶參與創造，因此有大量的互聯網用戶創造出大量的社交行為數據。這些數據是過去不曾想像的，是海量的。某些數據代表特定人群的特點和個性。
５）電子商戶崛起帶來了大量網上交易行為，其產生了大量的交易數據，包含支付行為，查詢行為，物流運輸、購買行為等等，產生了海量的信息流和資金流數據。
６）傳統的互聯網入口轉向搜索引擎之后，用戶的搜索行為和提問行為產生了海量數據。單位存貯價格的下降也為存儲這些數據提供了技術上的可能。
現在我們所指的大數據不同與過去傳統的數據，其產生方式、存儲載體、訪問方式、表現形式、來源特點等都同傳統的數據不同。簡單的講大數據范圍更接近于某個群體行為特點數據，全面的數據。移動互聯網和社交網絡創造出來了大量的行為數據。
大數據產業是朝陽產業，任何一個想進入此產業的公司和個人向先要思考好以下幾個問題。
1數據在哪里？
2哪些是有用的數據？
3如何分析這些數據？（如何將非結構化數據變成結構化數據）
4需要用數據解決的問題是什么？或者是分析后數據后提出的觀點是什么？
5如何展現你的數據和推理？（圖形、圖表、曲線、分值、評價、歸類、等級、概率、模型等等，大數據要么解決目前的問題，要么支持你的假設，要們引導出另一個未知觀點）
6重新審核數據分析的邏輯和數據來源，是否可以展現一份可以經過推敲的數據分析報告？
如果以上的問題都可以解決，這時你可以進入正產業。中國的大數據產業近幾年來逐漸升溫，政府有投入了大量的資金。目前正在困擾很多大數據公司的問題是數據在哪里？目前我們了解的大數據來源主要有以下幾個方面；
1)電信運行商（由于其提供互聯網接入服務，互聯網行為記錄數據）
2)第三方支付（支付行為產生的資金流和信息流數據）
3)電商平臺（阿里為代表，幾億的淘寶用戶和2萬億的網絡購買行為的數據）
4)社交平臺（微信和微博為代表的社區網絡產生的互聯網行為數據）
5)電子游戲平臺（大量用戶產生的數據）
6)移動入口產生大量數據（包含移動APP，導航，地圖等）
7)搜索引擎上產生的數據
除了這些新興的大數據來源，其實在傳統行業，由于很多數據是不能公開和共享的，還有很多大數據來源沒有被重點關注。例如：
1)政府掌握的經濟社會的統計數據
2)金融行業內部交易和支付數據
3)醫療行業的病歷數據
4)教育行業的考試數據
5)交通運輸行業物流數據
6)科學研究方面大量重復的論文、專利、科研實驗的數據
7)生物工程、農林牧漁等方面的數據
目前在中國大數據產業投入最多的是政府，這是一個好事情，因為在中國政府是最大數據的擁有者，最財大氣粗的投資者，最具有資源的市場參與者。如果政府可以有效利用手中的數據，經過科學嚴謹的分析后，利用其進行資源的配置、重大經濟決策、市場未來趨勢預見、經濟風險提示、產業管理、投資管理、財政費用管理、等，將有利于政府進行宏觀調控、技術干預、行政管理、資源配置、財富分配。同時也有助于政府提高對公共事務包含社會福利的管理水平。
但是我發現目前很多政府參與的大數據產業集中在兩個領域，第一個搭建云計算和云存儲平臺，利用政府具有的資源，委托研究機構搭建政府主導的大數據生態圈，讓企業將數據提供出來，政府提過產業機構來幫助企業分析數據，提供大數據解決方案。簡單的講營造大數據平臺和生態圈，從事大數據收集和開發的工作。
第二個是委托具有大數據技術的公司，利用互聯網公開的數據和政府擁有的數據進行輿情監控，了解自己重視和關心的焦點問題，關注社會群體的輿論行為、社交行為，以及區域電商交易行為、服務投訴行為等等。簡單的講是利用互聯網采集技術來了解輿情，作為一種情報輸入來幫助政府來制定工作決策。
這兩種參與方式我都不十分贊同，第一種明顯是過度參與市場，政府應該制定規則來幫助大數據產業健康發展，而不是作為運動員參與產業發展。政府應該制定相關制度，對不能采集和公開的數據進行管理，保護個體利益，同時應對大數據技術公司提供研發資金支持，鼓勵大數據企業利用技術研發實力來推動產業發展，幫企業解決問題。千萬不要搭建一個生態圈，產業平臺，政府委托的機構會由于機制問題，效率較低，對人才和資源造成浪費，最終會阻礙這個產業發展。第二種雖然有部分積極意義，但是個人覺得輿情監控產生不了巨大的社會經濟價值，投入的資金不會有效幫助整個社會的發展，反而在某些方面束縛了部分合理的商業行為，由于我們國家老百姓自身文化和科學常識的不全面，群體輿論的導向不一定代表正確的方向。前瞻性的政治經濟決策往往來源于具有遠見卓識的領導者，想一想我們的朱隆基總理在98年的幾大經濟決策，國企改革、金融改革、住房改革、大學生分配改革等等，如果采用輿情監控所得出的結論，肯定不能夠推行，因為其影響大多數人的利益。但是正是這幾個重大經濟決策，將中國經濟的活力釋放出來，使中國經濟保持15年左右的高速發展。
最后對本文進行個總結，大數據產業是中國未來的希望，是未來的朝陽行業，但各個企業不要過于冒進，進入這個產業的企業必須了解這六個問題，找到解決這六個問題的方法，以技術和數據為基礎，才能夠創造價值，通過大數據這個工具幫助和推動傳統產業發展。政府在大數據產業的定位應該清晰，千萬不要成為產業的主要參與者，應該從保護產業和個人、商業信息角度出發，成為產業規則制定者，產業技術投資者，大數據技術公司的投資者。政府應該公布自己擁有的、不涉及國家利益和個人隱私，可以公開的大數據，為大數據產業提供土壤和陽光。政府應該打破主要大數據公司對數據的壟斷、要求大數據擁有的公司將可以公開的數據公開，在保護客人和企業隱私前提下，為大數據產業提供數據來源。政府可以作為技術伯樂，推動產業進行技術升級換代，成為大數產業發展的助推火箭。
京公網安備 11010502049343號