智慧城市的管理中,視頻監控發揮著越來越重要的作用。隨著視頻監控數據量的飛速增長,工作人員在用傳統方式對視頻進行分析和檢索的時候遇到了很大的挑戰。而大數據技術可以重構傳統視頻數據處理的架構,讓人們可以更快速、更智能地分析和應用視頻監控的大數據。
我國智慧城市戰略已經實施了多年,全面提升了城市的管理和服務能力。而從數據上來看,市民感受城市最直接的變化就是攝像頭密集度越來越高。而且,很多城市都已經開始實施“天眼工程”,為的就是實現對城市全方位無死角的監控。密集分布的攝像頭網絡組成了城市的公共安全視頻監控系統,也提升了一個城市治安、交通、消防、市政、城管等各部門的整體管理和服務水平。
海量視頻數據帶來的挑戰
隨著視頻監控數據量的快速增長,以及攝像頭高清化、超高清化的趨勢加強,視頻監控數據規模將以更快的指數級別增長。以一個部署了1萬個攝像頭的中等城市為例,假定每個攝像頭每秒壓縮視頻數據量為1Mb(比特),則一天共產生108TB的視頻錄像,一個月共產生約3PB的視頻錄像。
現在,新的問題出來了,攝像頭7×24小時地錄制視頻,讓每個城市都產生了大量的視頻監控文件。但是,當公安部門或交通部門希望快速搜索某時間或某些特征的視頻段時,這個看似簡單的想法,操作起來卻猶如大海撈針。
與通常的結構化數據不同,視頻監控業務產生的數據絕大多數以非結構化的數據為主,必須經過復雜繁重的分析處理才能提取出文本結構化的數據進行下一步處理。這些都給傳統視頻監控體系架構、數據的管理方式、數據分析,以及視頻監控數據的傳輸、存儲和計算帶寬等帶來了極大的挑戰。
挑戰一:數據量的急劇擴大和IT投資之間的矛盾。按照IT產業的法則:在滿足客戶需求的前提之下,往往技術成本越低,其生命力越強。由于數據量的急速擴大,以及隨之而來的大規模計算的需求越來越多,一味采用高配硬件,使得硬件投資成為客戶不可承受之重,客戶越來越希望在滿足需求的前提下,用中低端的硬件來替換高配硬件。
挑戰二:海量數據和有效數據之間的矛盾。攝像頭7×24小時地工作如實記錄鏡頭覆蓋范圍內所發生的一切。但是,大部分視頻監控信息是無效的,有效信息可能只分布在一個較短的時間段內,按照數學統計的說法,信息是呈現冪律分布的,也稱之為信息的密度,往往越高密度的信息對客戶價值越大。
挑戰三:資源利用和效率之間的矛盾。隨著視頻監控數據量的增加,哪怕對TB級別的數據進行視頻內容的數據分析和檢索,采用傳統方式都可能需要花費數小時的計算,這遠遠不能勝任時效性的需求。視頻的分析和檢索,不能依賴于傳統的手段,視頻智能分析必須尋找新的突破。
因此,想要從如此海量的視頻監控文件檢索到所需的視頻信息,必須借助特殊的技術幫忙。
改造傳統數據處理架構
大數據理念和開源生態系統Hadoop的誕生,激活了各行業的思路。IT領域開始采用基于Hadoop的大數據技術框架對視頻文件進行存儲和計算,使得城市各部門的工作人員可以實現對視頻的快速檢索和智能分析。
視頻監控的大數據平臺一般以分布式集群的方式進行建設。分布式集群能夠對數據處理進行負載均衡,同時,也便于未來一段時間進行擴展。而擴展的過程也無需重新部署系統,只需增加集群節點即可提升大數據平臺的整體性能。
視頻監控的大數據平臺采用分布式計算,同時結合內存加速、負載均衡、本地處理,以提供高效的數據分析和挖掘能力。視頻監控大數據處理過程中的存儲則采用了分布式存儲方式,以提高讀寫速度和擴大存儲容量。在數據存儲方面,大數據平臺需要考慮以下3個方面:一是哪些數據需要保存到大數據平臺上;二是如何對原有系統進行改造,原有系統中已存在的數據該如何處理;三是如何保證數據的可靠性。
實踐證明,基于大數據框架改造的傳統視頻處理系統架構能煥發出新的活力。首先,架構更加靈活,伸縮彈性更大。一些城市的中大型項目,由于起點的差異,缺乏視頻監控架構的頂層設計,為后期的擴容升級增大了難度。在建設初期,IT規劃者如果能引入基于大數據的架構,就會為未來的擴張打開通路。
其次,可以以廉價通用的硬件產品應對視頻監控數據的爆發性增長。在面向大數據的架構中,IT規劃者后期可以根據視頻監控業務的部署需要,設立多個HDFS(Hadoop分布式文件系統)集群,采集的流數據會被劃分成段,并分布于各個數據節點上。更為重要的是,這些數據節點可以采用廉價通用型的硬件,由軟件技術保證其高可靠性。這種方式避免采用傳統高端硬件模式,大大降低了大數據平臺的后續運維成本。
最后,可以通過高速并行計算實現智能分析和數據挖掘。對于城市管理者來說,面對海量的視頻監控數據,傳統人工和串行的數據篩選方式已不能滿足搜索和分析要求。基于大數據的架構就是將海量數據分解為較小的更易訪問的批量數據,在多臺服務器上并行分析處理,從而大大加快視頻數據的處理進程。
視頻大數據的智能應用
以2012年在南京發生的“1·6”搶劫案為例,在案件偵破過程中,南京警方從全市1萬多個攝像頭共提取了近2000TB的視頻數據,為了處理這些視頻,調動1500多名公安干警查閱搜索視頻線索,共耗時一個多月的時間。很顯然,通過人工查看模式,一段視頻往往需要數倍于視頻時間才能審看完,因此需要大量工作人員連續加班進行視頻的審查,就不足為奇。
即便如此,人海戰術仍然會影響公安部門破案的進度和效率,而且也使得工作人員把過多的精力耗費在查找視頻線索上來。如果這時候,有一個視頻監控的大數據平臺就可以在短時間內對視頻中運動的物體進行檢索和排除,從而大大提高公安部門的辦案效率。
時至今日,視頻監控的大數據平臺已經被成熟地應用于智能交通,可以輕松監控攝像覆蓋范圍內的所有車輛的行駛狀態、運行軌跡,快速分析出其是否違章。2015年1月8日上午,在寧連高速上,一輛白色轎車飛速行駛,車內儀表盤上的時速指針已接近200公里/小時。
與此同時,南京市高速七大隊指揮室內,執勤的交警正在通過大屏幕監控著過往的車輛。當這輛白色轎車飛馳而過時,路邊的測速設備捕捉到這輛車的時速已達到180公里/小時。交警利用監控探頭鎖定了這輛車,當車接近收費站時,司機將車停了下來,繞到車尾將號牌上一個藍色東西撕下,隨后繼續往收費站駛去。
幾分鐘后,當這輛白車進入了收費站時,早已在此等候的交警立即上前將車攔截。當交警遞上了車輛超速照片,司機指著車牌剛想狡辯,交警又遞上另一張這位司機正在撕號牌貼的照片。頓時,這位司機啞口無言,乖乖認罰。
據了解,南京市交管部門全面升級警務系統,啟用視頻巡查機制,利用現代化的高科技手段,將交通管理搬上網絡視頻大數據平臺,利用布控在全城的道路監控系統,實現日常事務的智慧化管理。
同時,在智能交通領域,視頻監控的大數據平臺還可以落地很多以前無法實現的操作。例如,實時交通狀況分析,通過視頻實時分析道路交通流量,然后綜合分析統計出全城市的交通狀況;汽車套牌的行為,通過視頻進行車牌識別,按照一定的規則在全城檢索相同車牌的汽車;犯罪嫌疑車輛追查,輸入嫌疑車的照片或顏色車型等相關特征在所有視頻中尋找;犯罪嫌疑人追查,通過輸入嫌疑人照片進行人臉特征識別并在所有視頻中尋找該人臉;人車物的軌跡分析,在所有視頻中按照特征查找指定的人車物并繪制其時空軌跡等。
顯然,視頻監控的大數據框架是一種革命性的技術,特別在實時智能分析和數據挖掘方面,讓視頻監控從人工抽檢進步到高效事前預警和事后分析,實現智能化的信息分析和預測,為視頻監控領域業務帶來深刻的變革。