總書記深刻指出,"要推動(dòng)大數(shù)據(jù)技術(shù)產(chǎn)業(yè)創(chuàng)新發(fā)展""要運(yùn)用大數(shù)據(jù)提升國家治理現(xiàn)代化水平"。李克強(qiáng)總理在今年的政府工作報(bào)告中提出,要"深化大數(shù)據(jù)、人工智能等研發(fā)應(yīng)用"。公安機(jī)關(guān)必須積極推進(jìn)公安大數(shù)據(jù)戰(zhàn)略,加快推動(dòng)公安工作由信息化向智慧化升級(jí)轉(zhuǎn)型,在促進(jìn)大數(shù)據(jù)與社會(huì)治理深入融合中提升社會(huì)治理能力和水平,讓打防管控的矛更利、盾更堅(jiān),切實(shí)筑牢維護(hù)國家政治安全、確保社會(huì)大局穩(wěn)定、促進(jìn)社會(huì)公平正義、保障人民安居樂業(yè)的堅(jiān)強(qiáng)防線。
一、公安大數(shù)據(jù)建設(shè)要點(diǎn)
1.PB級(jí)數(shù)據(jù)存儲(chǔ)管理:信息化建設(shè)在推進(jìn),數(shù)據(jù)規(guī)模隨之飛速增長(zhǎng),為了滿足大規(guī)模數(shù)據(jù)的存儲(chǔ)和分析,大數(shù)據(jù)存儲(chǔ)系統(tǒng)應(yīng)支持單一系統(tǒng)擴(kuò)展至10PB以上規(guī)模,以滿足未來數(shù)據(jù)爆發(fā)的存儲(chǔ)需要
2.多種數(shù)據(jù)類型與協(xié)議支持:公安數(shù)據(jù)形式多樣,包含文檔、圖片、視頻、柵格、矢量等,因此該系統(tǒng)需要能夠支持結(jié)構(gòu)化、半結(jié)構(gòu)化、非結(jié)構(gòu)化多種數(shù)據(jù)類型,提供NFS/CIFS/JDBC/ODBC等多種接口,以便業(yè)務(wù)對(duì)多種數(shù)據(jù)進(jìn)行訪問和操作;
3.高質(zhì)量的數(shù)據(jù)整合:好的數(shù)據(jù)質(zhì)量是數(shù)據(jù)分析挖掘等有效應(yīng)用的基本條件,面對(duì)公安行業(yè)交互復(fù)雜而繁多的系統(tǒng),勢(shì)必需要將這些多源異構(gòu)的數(shù)據(jù)進(jìn)行抽取、轉(zhuǎn)換及裝載,實(shí)現(xiàn)數(shù)據(jù)的整合、消重,提供高質(zhì)量的數(shù)據(jù),在此基礎(chǔ)上進(jìn)行關(guān)聯(lián)、建模,為實(shí)戰(zhàn)業(yè)務(wù)提供可用的數(shù)據(jù);
4.高效的數(shù)據(jù)分析能力:百億條記錄的檢索、上千張表的碰撞、幾百個(gè)小時(shí)的視頻分析、大量的移動(dòng)互聯(lián)網(wǎng)和社交媒體數(shù)據(jù)處理等應(yīng)用,無不對(duì)大數(shù)據(jù)系統(tǒng)的數(shù)據(jù)分析能力提出更高的要求;
5.可管理和開放性:可管理、開放化、標(biāo)準(zhǔn)化的大數(shù)據(jù)技術(shù)體系架構(gòu),不僅可以為公安帶來更高的性價(jià)比、更出色的擴(kuò)展性,更能為警務(wù)建設(shè)在大數(shù)據(jù)平臺(tái)上開展新探索、新應(yīng)用解除后顧之憂;
6.安全可靠,自主可控:公安系統(tǒng)中很多數(shù)據(jù)關(guān)系著國家安全和人民生命財(cái)產(chǎn)安全,因此,要求該系統(tǒng)具備非常高的可靠性,同時(shí),為進(jìn)一步加強(qiáng)數(shù)據(jù)安全性,避免數(shù)據(jù)泄露,選用具備完全自主知識(shí)產(chǎn)權(quán)的國產(chǎn)設(shè)備和系統(tǒng)。
二、公安大數(shù)據(jù)的技術(shù)選型
大數(shù)據(jù)的實(shí)質(zhì)是對(duì)數(shù)據(jù)的管理與開發(fā)利用,與當(dāng)前以信息資源開發(fā)為核心的公安工作具有廣泛的共通性,如何借助大數(shù)據(jù)技術(shù)推動(dòng)公安工作的發(fā)展和變革?技術(shù)選型非常重要。在各個(gè)企業(yè)和組織紛紛助推下,大數(shù)據(jù)領(lǐng)域的相關(guān)技術(shù)呈現(xiàn)百花齊放局面,涵蓋數(shù)據(jù)收集、存儲(chǔ)、計(jì)算、挖掘、資源調(diào)度等,下面就以核心的計(jì)算層和存儲(chǔ)層兩個(gè)維度介紹下有關(guān)技術(shù)路線和發(fā)展趨勢(shì)。
數(shù)據(jù)處理:
簡(jiǎn)而言之,不管對(duì)何種應(yīng)用,當(dāng)數(shù)據(jù)量很大時(shí)就無法在一臺(tái)服務(wù)器上解決計(jì)算問題,此時(shí)分布式計(jì)算優(yōu)勢(shì)就體現(xiàn)出來,而HadoopMapReduce的重要?jiǎng)?chuàng)新便是當(dāng)處理一個(gè)大數(shù)據(jù)集時(shí)會(huì)將其任務(wù)分解并在運(yùn)行的多個(gè)節(jié)點(diǎn)中處理,這種批處理框架常用于離線的復(fù)雜的非結(jié)構(gòu)化數(shù)據(jù)處理,如ETL、數(shù)據(jù)挖掘等場(chǎng)景;與Hadoop的使用硬盤來存儲(chǔ)數(shù)據(jù)不同,Spark是基于內(nèi)存的迭代計(jì)算框架,適用于需要多次操作特定數(shù)據(jù)集的應(yīng)用場(chǎng)合;而Storm則是專門針對(duì)實(shí)時(shí)數(shù)據(jù)類型的流式計(jì)算分析框架,應(yīng)用在低延遲的場(chǎng)景中,實(shí)現(xiàn)海量事件的實(shí)時(shí)分析、處理和決策。除此之外,為應(yīng)對(duì)不斷增長(zhǎng)的海量結(jié)構(gòu)化數(shù)據(jù)的存儲(chǔ)和快速處理以及靈活的業(yè)務(wù)建模需求,數(shù)據(jù)庫系統(tǒng)必將引入分布式架構(gòu)、MPP處理技術(shù)。
數(shù)據(jù)存儲(chǔ):
上面提到了MapReduce將任務(wù)分發(fā)到多個(gè)服務(wù)器上處理大數(shù)據(jù)的能力。而對(duì)于分布式計(jì)算,每個(gè)服務(wù)器必須具備對(duì)數(shù)據(jù)的訪問能力,這就是HDFS所起到的作用,HDFS有著高容錯(cuò)性、高吞吐量的特點(diǎn),適合大數(shù)據(jù)集的應(yīng)用。與此同時(shí),業(yè)內(nèi)也有許多其他類型的文件系統(tǒng)推出,不僅能解決了傳統(tǒng)存儲(chǔ)體系結(jié)構(gòu)存在的難題,又能提高存儲(chǔ)利用率和數(shù)據(jù)讀寫性能,可以替代HDFS作為Hadoop架構(gòu)的底層文件系統(tǒng)/數(shù)據(jù)存儲(chǔ)。
不同的技術(shù)思路各有偏重,由于公安業(yè)務(wù)種類繁多,大數(shù)據(jù)應(yīng)用場(chǎng)景多樣化,除了建立各類基礎(chǔ)大數(shù)據(jù)資源庫之外,還需要做到事前預(yù)測(cè)警務(wù)研判、事中實(shí)時(shí)情報(bào)分析及事后案事件分析,及可視化查詢統(tǒng)計(jì)等,建議公安用戶基于智能融合的大數(shù)據(jù)架構(gòu)構(gòu)建上層應(yīng)用,積極引入大數(shù)據(jù)領(lǐng)域的先進(jìn)技術(shù),推動(dòng)公安工作邁入大數(shù)據(jù)發(fā)展階段。
三、公安大數(shù)據(jù)應(yīng)用領(lǐng)域
(一)大數(shù)據(jù)與應(yīng)急
借助大數(shù)據(jù),既可以預(yù)測(cè)某一區(qū)域乃至全國的某種類型的犯罪趨勢(shì),也可以預(yù)測(cè)某一時(shí)間某一具體地點(diǎn)某種類型的犯罪,還可以預(yù)測(cè)某一個(gè)體的犯罪概率。根據(jù)預(yù)測(cè),我們可以制訂計(jì)劃,優(yōu)化警力配置,提升行動(dòng)效率。
(二)大數(shù)據(jù)之與社會(huì)維穩(wěn)
互聯(lián)網(wǎng)成為人們?nèi)粘=涣鳌⒈磉_(dá)思想和宣泄情緒的重要平臺(tái),也是相關(guān)內(nèi)容安全保障的重要平臺(tái)。網(wǎng)絡(luò)輿論已成為社會(huì)輿論的重要組成部分,越來越多地引起全社會(huì)的高度重視。搜索引擎、微博、微信、論壇、貼吧等互聯(lián)網(wǎng)輿論集中的區(qū)域,搜集這些數(shù)據(jù)便獲取到了以往無法掌握的社會(huì)輿論動(dòng)向,熱度輿論、以及輿論領(lǐng)袖。一些突發(fā)事件和熱點(diǎn)、敏感問題在網(wǎng)上被惡意炒作,形成強(qiáng)大的網(wǎng)上輿論氣候,各種負(fù)面信息通過互聯(lián)網(wǎng)的各種服務(wù)方式快速、廣泛傳播,嚴(yán)重影響社會(huì)穩(wěn)定和政府單位形象。互聯(lián)網(wǎng)不僅是現(xiàn)實(shí)社會(huì)的虛擬映像,還是現(xiàn)實(shí)問題的聚焦鏡和放大器。
通過輿情機(jī)制,一方面可以加強(qiáng)互聯(lián)網(wǎng)信息監(jiān)管,另一方面,對(duì)于及時(shí)應(yīng)對(duì)網(wǎng)絡(luò)突發(fā)的公共事件和全面掌握社情民意,并對(duì)于及時(shí)發(fā)現(xiàn)社會(huì)蘊(yùn)藏的潛在不穩(wěn)定因素,提早預(yù)防起著重要作用。