大數(shù)據(jù)已經(jīng)不再是計(jì)算、統(tǒng)計(jì)學(xué)科的專寵,商學(xué)院開始的廣泛應(yīng)用,表明大數(shù)據(jù)正式進(jìn)入各行業(yè)的廣泛應(yīng)用。統(tǒng)計(jì)學(xué)家納特·西爾弗在著名的《信號(hào)和噪聲》一書中說:“大數(shù)據(jù)中大多數(shù)都是不相干的噪音。除非有很好的技術(shù)信息進(jìn)行過濾和處理,否則將惹上麻煩。”
杜克大學(xué)富卡商學(xué)院今年秋季開始招收大數(shù)據(jù)商業(yè)分析方向的碩士生,西安交通大學(xué)管理學(xué)院也將錄取海外大數(shù)據(jù)分析的博士生作為新錄取教職人員的重點(diǎn)之一。大數(shù)據(jù)已經(jīng)不再是計(jì)算、統(tǒng)計(jì)學(xué)科的專寵,商學(xué)院開始的廣泛應(yīng)用,表明大數(shù)據(jù)正式進(jìn)入各行業(yè)的廣泛應(yīng)用。
統(tǒng)計(jì)學(xué)家納特·西爾弗在著名的《信號(hào)和噪聲》(Nate Silver, The Signal and the Noise)一書中說:“大數(shù)據(jù)中大多數(shù)都是不相干的噪音。除非有很好的技術(shù)信息進(jìn)行過濾和處理,否則將惹上麻煩。”也就是說,大數(shù)據(jù)為我們提供了觀察世界的新方式,但它往往還是類似原油粗糙的形式,沒有商學(xué)院的提煉與應(yīng)用,它就無法變成汽油、膠粘劑、阿司匹林,唇膏等各種現(xiàn)代工業(yè)產(chǎn)品。對(duì)于大數(shù)據(jù)來說,我們今天的時(shí)代,就像是德州剛發(fā)現(xiàn)油田的時(shí)代,它在信息時(shí)代的廣泛應(yīng)用與消費(fèi),需要各個(gè)學(xué)科的通力協(xié)作、更換思維,正如石油的發(fā)現(xiàn)催生工業(yè)時(shí)代的能源革命一樣。
從因果分析到相關(guān)性分析
在“前信息時(shí)代”,商學(xué)院分析消費(fèi)者行為、市場(chǎng)結(jié)構(gòu)、競(jìng)爭(zhēng)動(dòng)態(tài)、組織行為、供應(yīng)鏈管理時(shí),都局限于有限的樣本。因?yàn)槭占M(fèi)者、員工、股票、工廠等的數(shù)據(jù)都非常耗時(shí),需要承擔(dān)各種成本。即使像IBM這樣的巨型公司,有能力將《人民日?qǐng)?bào)》歷年的文本輸入電腦,試圖破譯中文的語言結(jié)構(gòu),例如實(shí)現(xiàn)中文的語音輸入或者中英互譯,這項(xiàng)技術(shù)在上世紀(jì)90年代就取得突破,但進(jìn)展緩慢,在應(yīng)用中還是有很多問題。
谷歌采取了不同的方法進(jìn)入這個(gè)市場(chǎng),它不是依賴高品質(zhì)的翻譯,而是利用更多的數(shù)據(jù)。這家搜索巨頭收集各種企業(yè)網(wǎng)站的翻譯、歐盟的每一種語言的文本、巨大的圖書掃描項(xiàng)目中的翻譯文件。超越IBM以百萬級(jí)的文本分析,谷歌的大數(shù)據(jù)是以十億萬級(jí)計(jì)的。其結(jié)果是,它的翻譯質(zhì)量?jī)?yōu)于IBM,能涵蓋65種語言,而且翻譯質(zhì)量在云端不斷優(yōu)化。谷歌凌亂的大數(shù)據(jù)戰(zhàn)勝了IBM少量的干凈數(shù)據(jù)。
那怎樣將凌亂的大數(shù)據(jù)進(jìn)行對(duì)石油一樣的提煉與應(yīng)用呢?一項(xiàng)重要的思維轉(zhuǎn)換就是從傳統(tǒng)的因果分析向相關(guān)性分析轉(zhuǎn)換。在傳統(tǒng)的統(tǒng)計(jì)分析中,一個(gè)重要的因素是因果關(guān)系的可靠性,在有限的樣本下,科學(xué)家在假設(shè)檢驗(yàn)中往往用各種專業(yè)統(tǒng)計(jì)軟件進(jìn)行假設(shè)檢驗(yàn),根據(jù)概率P值(P-Value, Probability)進(jìn)行檢驗(yàn)決策。P值反映某一事件發(fā)生的可能性大小,一般以P < 0.05 為顯著,從而確認(rèn)兩個(gè)變量間可能存在因果關(guān)系。
但大數(shù)據(jù)的出現(xiàn)改變了這種在科學(xué)界普遍追求的因果關(guān)系的檢驗(yàn)。大數(shù)據(jù)主要從相關(guān)性著手,而不是因果關(guān)系,這從本質(zhì)上改變了傳統(tǒng)數(shù)據(jù)的開采模式。例如2009年2月,谷歌的研究人員在《自然》發(fā)表了一篇論文,預(yù)測(cè)季節(jié)性流感的暴發(fā),在醫(yī)療保健界引起了轟動(dòng)。谷歌對(duì)2003年和2008年間的5000萬最常搜索的詞條進(jìn)行大數(shù)據(jù)“訓(xùn)練”, 試圖發(fā)現(xiàn)某些搜索詞條的地理位置是否與美國(guó)流感疾病預(yù)防和控制中心的數(shù)據(jù)相關(guān)。疾病預(yù)防控制中心往往跟蹤全國(guó)各地的醫(yī)院和診所病人,但它發(fā)布的信息往往會(huì)滯后1~2個(gè)星期,但谷歌的大數(shù)據(jù)卻是發(fā)現(xiàn)實(shí)時(shí)的趨勢(shì)。
谷歌并沒有直接推斷哪些查詢?cè)~條是最好的指標(biāo)。相反,為了測(cè)試這些檢索詞條,谷歌總共處理了4.5億個(gè)不同的數(shù)字模型,將得出的預(yù)測(cè)與2007年和2008年疾病預(yù)防控制中心記錄的實(shí)際流感病例進(jìn)行對(duì)比后,谷歌公司發(fā)現(xiàn),它們的大數(shù)據(jù)處理結(jié)果發(fā)現(xiàn)了45條檢索詞條的組合,一旦將它們用于一個(gè)數(shù)學(xué)模型,它們的預(yù)測(cè)與官方數(shù)據(jù)的相關(guān)性高達(dá)97%。
數(shù)據(jù)往往都是不完美的,拼寫錯(cuò)誤和不完整短語很普遍。為什么谷歌可以實(shí)現(xiàn)這么精準(zhǔn)的預(yù)測(cè)?如果從因果關(guān)系看,是因?yàn)槿烁械讲皇娣蚵牭絼e人打噴嚏,或者閱讀了相關(guān)的新聞后感到焦慮嗎?谷歌不是從這種因果關(guān)系去考慮,而是從相關(guān)性的角度,去預(yù)測(cè)一個(gè)持續(xù)發(fā)展的大方向,因?yàn)榇蟊姷乃阉髟~條處于不斷變化之中,外界的一個(gè)蝴蝶翅膀的扇動(dòng),就會(huì)使搜索發(fā)生系統(tǒng)的、混沌的變化。
英國(guó)華威商學(xué)院的研究人員與波士頓大學(xué)物理系的研究人員合作,同樣通過谷歌趨勢(shì)(Google Trends)服務(wù),預(yù)測(cè)股市的漲跌。研究人員使用谷歌趨勢(shì)共計(jì)追蹤了98個(gè)搜索關(guān)鍵詞,其中包括“債務(wù)”、“股票”、“投資組合”、“失業(yè)”、“市場(chǎng)”等與投資行為相關(guān)的詞,也包括“生活方式”、“藝術(shù)”、“快樂”、“戰(zhàn)爭(zhēng)”、“沖突”、“政治”等與投資無關(guān)的關(guān)鍵詞,發(fā)現(xiàn)有些詞條,例如“債務(wù)”成為預(yù)測(cè)股市的主要關(guān)鍵詞,這篇題為《使用谷歌趨勢(shì)量化金融市場(chǎng)的交易行為》(Quantifying Trading Behavior in Financial Markets Using Google Trends)的論文也發(fā)表在《自然》雜志上。同樣,2010年,美國(guó)印第安納大學(xué)的研究人員也發(fā)現(xiàn):Twitter用戶的情緒有助于預(yù)測(cè)股市。今年諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)獲得者羅伯特·席勒所倡導(dǎo)的“動(dòng)物精神”,在大數(shù)據(jù)的相關(guān)性檢驗(yàn)下,可以對(duì)資產(chǎn)定價(jià)實(shí)現(xiàn)預(yù)測(cè)。
當(dāng)然,谷歌的算法并不是百試百靈,例如,今年早些時(shí)候的“谷歌流感趨勢(shì)”曾經(jīng)顯示,有10%的美國(guó)人可能患上了流感。但美國(guó)疾病控制和預(yù)防中心的數(shù)據(jù)卻顯示,峰值只有6%左右(參見圖示)。經(jīng)過研究發(fā)現(xiàn),原來這是因?yàn)楣雀璧乃惴ㄎ茨艹浞挚紤]一些新的外部影響因素所致。例如,媒體對(duì)流感的報(bào)道增多和社交媒體對(duì)流感的討論增加,都會(huì)對(duì)該服務(wù)的數(shù)據(jù)和統(tǒng)計(jì)信息產(chǎn)生影響。流感新聞大爆炸很大程度上改變了人們的搜索詞條。這使人聯(lián)想到物理學(xué)中經(jīng)典的“測(cè)不準(zhǔn)原理”。物理學(xué)家玻爾認(rèn)為在量子理論中,任何對(duì)原子體系的觀測(cè),都會(huì)涉及所觀測(cè)對(duì)象在觀測(cè)過程中的改變,和谷歌的算法一樣,我們自身的行為可能也在谷歌的觀測(cè)中改變,因此不可能對(duì)量子有單一的定義,也不可能對(duì)谷歌預(yù)測(cè)的趨勢(shì)用平常所謂的因果性去理解。
大數(shù)據(jù)與中國(guó)哲學(xué)
當(dāng)大數(shù)據(jù)占據(jù)我們這個(gè)信息社會(huì)的中心舞臺(tái),我們需要一種新的思維方式理解這個(gè)世界。傳統(tǒng)知識(shí)觀中的因果律遭到極大的挑戰(zhàn),而相關(guān)性則讓我們從對(duì)過去的理解,解放出對(duì)未來的預(yù)測(cè)。
從知識(shí)論的角度看,大數(shù)據(jù)像量子力學(xué)一樣,幫助我們進(jìn)入宇宙的大尺度結(jié)構(gòu)。或許中國(guó)古典哲學(xué)中的“氣運(yùn)”觀能夠讓我們更容易地理解大數(shù)據(jù)所揭示的新世界。錢穆在《中國(guó)思想通俗講座》中闡述道:氣是如何演變出宇宙萬物的呢?氣是能動(dòng)的、不安靜的,在聚散,在分合……“聚而和者為氣之陽,稱為‘陽氣’。分而散者為氣之陰,稱之為‘陰氣’。”這一陰一陽,就是中國(guó)人所謂的道。一切的氣數(shù)與運(yùn)道都可以在陰陽循環(huán)、消長(zhǎng)中體現(xiàn)出來。在沒有大數(shù)據(jù)的工業(yè)時(shí)代,陰陽觀無法像西方哲學(xué)那樣解釋直線的因果關(guān)系,可能與迷信、神秘主義聯(lián)系在一起。而大數(shù)據(jù)的興起,使人類第一次有了直接的工具來衡量陰陽的變化、預(yù)測(cè)氣運(yùn)的消漲。陰陽五行之說,可以直接在谷歌算法的各種迭代相生相克出來。如果席勒所說的“動(dòng)物精神”理論真的可以預(yù)測(cè)奧地利學(xué)派的經(jīng)濟(jì)循環(huán)周期,大數(shù)據(jù)所揭示的陰陽循環(huán),或許可以幫助人類提早對(duì)下一次全球經(jīng)濟(jì)危機(jī)做好準(zhǔn)備。
從更廣的層面說,如果每一個(gè)平民都能自由接觸到大數(shù)據(jù)的分析(而不是政府壟斷),一個(gè)全新的思考方式就是,數(shù)據(jù)不再是《1984》世界中冰冷的老大哥控制的機(jī)器,每個(gè)人都可以將自己個(gè)體的因素沉浸在系統(tǒng)中,影響系統(tǒng)的方向與決策,人的各種因素:風(fēng)險(xiǎn)、意外、熱愛、冷酷,甚至錯(cuò)誤,都可以在大數(shù)據(jù)中的陰陽變化中體現(xiàn)出來。人類的各種自覺、創(chuàng)造也可以通過大數(shù)據(jù)進(jìn)行更快地實(shí)驗(yàn)、更多的探索。人類靈感產(chǎn)生的各種火花第一次可以通過大數(shù)據(jù)多方面多層次爆發(fā)出來,這將是個(gè)美麗的新世界——人類的創(chuàng)造力可以在大數(shù)據(jù)中充分得到精彩的發(fā)現(xiàn)!
對(duì)市場(chǎng)營(yíng)銷者來說,大數(shù)據(jù)是個(gè)無盡的寶藏。人類的各個(gè)層面、各種環(huán)境的影響,例如如天氣變化和市場(chǎng)情緒的變化,都可以在對(duì)廣告的分析中展現(xiàn)出來,用戶的畫像將會(huì)實(shí)時(shí)展現(xiàn)得無比真實(shí)、如何分配和優(yōu)化媒體投資,如何設(shè)計(jì)產(chǎn)品屬性、如何精準(zhǔn)地定位……一個(gè)無比強(qiáng)大的工具將改變商業(yè)的許多決策。
但大數(shù)據(jù)能否取代創(chuàng)業(yè)家呢?360、小米、微信、QQ等產(chǎn)品雖然可能得益于大數(shù)據(jù)驅(qū)動(dòng)的用戶畫像與產(chǎn)品循環(huán)迭代,但創(chuàng)業(yè)家的靈感、承擔(dān)風(fēng)險(xiǎn)的勇氣、對(duì)市場(chǎng)的敏感與觸覺,還有那么一點(diǎn)點(diǎn)的天時(shí)地利中的運(yùn)氣,則變得更加重要,因?yàn)閷?duì)數(shù)據(jù)的提煉、應(yīng)用、解讀、判斷的各個(gè)環(huán)節(jié),都對(duì)人類的想象力,提供了永恒的挑戰(zhàn)。
盡人力,知天命,天下之大,其興其亡,盡在大數(shù)據(jù)的宇宙中。或許杜克大學(xué)的數(shù)據(jù)分析碩士也應(yīng)該選修點(diǎn)中國(guó)哲學(xué)。