如今整個商業世界都面臨著新的難題,即如何處理來自各客戶接觸點、交易以及互動對象的大量數據。但與此同時,我們也看到了解決問題的曙光——實時數據流技術,其能夠存儲大量數值及歷史數據,以備日后隨時調用。
可能很多朋友還沒有接觸過大數據分析方案,也有人認為其僅僅算是個愿景而非現實——畢竟能夠證明其可行性與實際效果的案例確實相對有限。但可以肯定的是,實時數據流中包含著大量重要價值,足以幫助企業及人員在未來的工作中達成更為理想的結果。
實時分析用例
眾多行業及工作都能夠從數據流處理方案中獲得助益。數據流能夠通過管理數據實時變化迅速建立起形勢判斷,并幫助企業以最快速度收集來自傳感器(包括GPS與溫度計等)、攝像頭、新聞消息、衛星、股票行情、網絡爬蟲、服務器日志、Flume、Twitter、傳統數據庫甚至是Hadoop系統的數據,最終將其轉化為能夠提升企業業績的決策工具。
話雖如此,但實時數據分析結論帶來機遇的同時也充滿挑戰,意味著管理層或者負責人員需要采取準確的數據提煉模式才能將其轉化為可靠的決策依據。一般來講,實時數據分析方案需要立足于專業知識并配合業務洞察力,方能真正實現最優決策與響應提速。而且更重要的是,分析結論除實時性質之外還需要被確切交付至相關者手中。
醫療衛生與生命科學:
ICU監控 – 高效監控機制,主動及時關注重癥監護病人。
遠程醫療監控 —遠程醫療監控能夠簡化醫護人員訪問并分析病患醫療記錄的流程,從而確保病人得到有效診療并降低不必要的成本。
臨床試驗與醫療設備數據 — 臨床數據流分析能夠順利識別出異常或者預料之外的行為或者表現,從而輔助做出更準確的診斷意見。換言之,其有助于檢測疾病的早期跡象,識別多名病患間的關聯性并量化特定治療手段的實際功效。
疫情預警系統 — 實時傳感器數據分析有助于檢測傳染病的暴發可能性,并通過早期預警系統提示預防及準備。
保險業
欺詐檢測
提升案例管理效率
檢查策略針對性
策略績效評估
更好地預測未來走向,并據此做出產品設計、開發與交付
對產品價格做出細化區分
根據當前銷售趨勢做出銷售預測分析
通過實時盡職性調查剔除不合格保險案例
電信運營商
電信運營商能夠深入了解客戶行為并提供定制化服務(例如基于位置的服務、優惠政策及產品建議等),并分析客戶的忠誠度、喜好及需求變化趨勢。以此為基礎,運營商將能夠改進計費標準、提升服務質量、改善安全性并控制欺詐活動。
能源行業
實時數據分析在能源行業中的一大典型案例在于智能化電網。其將以實際使用情況為基礎顯著提升能源供應效率。
根據特定條件預測設備活動。
檢測多設備閾值級別以降低故障影響。
通過對勘探及生產數據的實時分析降低現場人員的工作風險。
電子商務
客戶分析
購買建議
根據社交媒體情緒分析控制事故或進行修正
運輸行業
通過GPS實現實時追蹤
智能化交管方案以降低高峰時段的路線擁堵情況
即時與自動遠程信息處理,實現車輛聯網
投機市場
情緒分析
動量計算
天氣對股市及股票價格的影響
極低延遲實現市場數據分析
執法領域
智能警務(傳感器、閉路電視安裝并接入中央云數據庫、車牌識別、語音識別、犯罪嫌疑人及罪犯GPS追蹤等)
監控并識別異常活動、行為或事故,旨在加快決策制定速度并防止及減少犯罪事件
刑事調查
監控各執法機構及公眾間交互
技術領域
網站流量分析與參與(最常瀏覽頁面、瀏覽時長最高頁面、訪客行為及用戶導航模式等)
移動應用——下載、會話、偏好、交易、使用模式等,有效分析客戶行為并設計服務以提升使用感受
實時數據處理的挑戰所在
實時事件/交易/交互數量每秒以百萬計,由此產生的數據自然會給數據流處理系統造成巨大的壓力。即使數據已經收集完成,系統仍然需要具備強大的能力以并行處理這些數據。之后是進行事件關聯,旨在幫助我們從數據中提取有價值信息。除此之外,整套系統還需要具備容錯性與分布式設計——這意味著系統需要擁有低延遲水平以及速度更快的計算機制以完成實時響應任務。
如何實現
為了滿足以上各項苛刻條件,我們需要將大量工具加以結合。其中Apache Kafka負責收集數據流,并通過Apache Storm或者Apache Spark(基于具體系統需求)將其路由至HIVE/HDFS,接下來由分析引擎提取結論并將其發送至儀表板。
如何簡化實現流程
來自任何來源的數據都會由Kafka集群負責收集與暫時存儲,而Zookeeper——>中繼——>主題分類機制則隨即跟上。而后其會通過Storm或者Spark被發送至HIVE/HDFS,并由后者再傳遞至分析引擎(例如SAS VA)——這一切都以實時方式完成,結論則被推送至儀表板供用戶理解及據此行動。
最后,為了充分發揮實時數據分析的潛能,企業之間還需要通力協作。大數據領域的經驗證明,合作伙伴之間的配合是實現分析的前提條件。最后,各合作伙伴還需要廣泛接觸各垂直行業,從而理解其中的具體業務及錯綜復雜的相關要素。
因此,選擇理想的合作伙伴亦左右著實時分析項目的最終命運。
總結
多數企業都擁有大量最終用戶接觸點,而當下對此類組織以及政府機構而言可謂決定性時刻。通過即時了解當前狀況,各組織機構將能夠讓自己的工作更加富有成效——而實時數據分析方案則給了它們一個將理想轉化為現實的選項!