視頻監控從最早的模擬閉路監控系統開始,經歷過模擬監控、數字監控、網絡監控等重要發展階段,如今進入了大數據的時代。大數據是飛速增長的,用現有數據庫管理工具難以管理所有的數據集合。之于安防行業,大數據來了,因此,問題也來了。
一、數據激增帶來三大問題
大數據是飛速增長的,用現有數據庫管理工具難以管理所有的數據集合。這些數據包括:社交媒體、移動設備、科學計算和城市中部署的各類傳感器等等,其中視頻又是構成數據體量最大的一部分。在視頻監控大聯網、高清化推動下,視頻監控業務步入數據洪水時代不可避免。
視頻監控數據有兩個方面的內涵——海量和非結構化。視頻監控數據量規模龐大,并且隨著高清化、超高清化的趨勢加強,視頻監控數據規模將以更快的指數級別增長;與通常講的結構化數據不同,視頻監控業務產生的數據絕大多數以非結構化的數據為主,這給傳統的數據管理和使用機制帶來了極大的挑戰。
1、存儲
視頻監控數據具有高并發、大容量的特點。以1080P為例,在8Mbps的碼率下,每只攝像頭每天產生的視頻數據約84GB,中等城市的監控規模一般為數千到數萬個攝像頭,而且這些數據一般要求必須在系統中保存30天以上。存儲系統還必須具有高級別的容錯性,存儲介質的故障率通常較高,但故障發生時不應造成監控數據的丟失。此外,由于安防項目本身在不斷發展,系統可能要進行在線擴容和升級,這就要求存儲系統具有高度的可擴展性,可在系統中簡單便捷地增添存儲設備。
2、共享
大數據需要通過快速的采集、發現和分析,從大量化、多類別的數據中提取價值。安防大數據時代最顯著的特征就是海量和非結構化數據共享,用以提高數據處理能力。與科學計算、互聯網相比,視頻監控的大數據處理難度尤大,首先,視頻錄像是更原始的非文本非結構化的數據,必須經過復雜繁重的分析處理才能提取出文本結構化的數據進行下一步處理;其次視頻錄像相對其它形式數據的容量要大幾個數量級,對傳輸、存儲和計算的帶寬要求大。
3、安全
平安城市、智慧城市的建設促使安防存儲技術的新應用,智慧城市一大要求就是將視頻存儲數據相互之間進行聯動、共享。與此同時,視頻監控數據具有私密性高、保密性強的特點,不僅是事后追查的依據、而且更是后續數據分析挖掘的基礎。因此我們說數據安全一方面是指不受到外界數據的入侵和非法獲取、另一方面是指龐大系統的魯棒性、體系容錯機制,確保硬件軟件發生故障時,數據仍然可以恢復、得以保存。面對海量數據的存儲、共享,硬件和軟件設備承載了極大的風險,因此我們如何構建大型、海量視頻監控存儲系統、數據分析系統以及容錯冗余機制是難題。
二、大數據存儲格局
作為數據載體和驅動力量,存儲系統成為大數據基礎架構中最為關鍵的核心。
傳統的數據中心無論是在性能、效率,還是在投資收益、安全,已經遠遠不能滿足新興應用的需求,數據中心業務急需新型大數據處理中心來支撐。除了傳統的高可靠、高冗余、綠色節能之外,新型的大數據中心還需具備虛擬化、模塊化、彈性擴展、自動化等一系列特征,才能滿足具備大數據特征的應用需求。這些史無前例的需求,讓存儲系統的架構和功能都發生了前所未有的變化。顯然,NVR架構的存儲主要面向小型高清監控,無法應對大數據需求。以下介紹兩種大數據存儲架構。
SAN架構下的存儲系統
平臺SAN架構主要面向中大型高清監控系統,前端路數成百上千甚至上萬。一般多采用FCSAN或IPSAN搭建高清視頻存儲系統。作為監控平臺的重要組成部分,前端監控數據通過錄像存儲管理模塊存儲到SAN中。此種架構接入高清前端路數相對節點NVR有了較高提升,具備快捷便利的可擴展性,技術成熟。
FCSAN在行業用戶、封閉存儲系統中應用較多,比如縣級或地級市高清監控項目,大數據量的并發讀寫對千兆網絡交換提出了較大的挑戰,但應用FCSAN構建相對獨立的存儲子系統,可以有效解決上述問題。
值得指出的一點是,FCSAN采用分級集中存儲的方案,視頻數據按區域存儲在不同的子平臺中,通常使用RAID來進行存儲。但RAID在性能、利用率、可靠性等方面很難達到理想的平衡,而且成本偏高。北京智慧倉存儲技術有限公司致力于在大數據的時代背景下,為客戶提供高性價比、高價值的存儲產品和解決方案。我們是國內唯一擁有光纖通道技術、硬件RAID技術和嵌入式技術等RAID控制器技術的廠家。徹底解決了困擾安防監控客戶的價格瓶頸、性能瓶頸和穩定性瓶頸。
對于IPSAN而言,在ISCSI環節數據并發讀寫傳輸速率有所消耗,由于這種分級集中存儲進入安防行業較早,仍然得到很多客戶的青睞。
構架云的存儲
大數據最核心應用是為了智能分析,就如同存儲是大數據最核心技術一般。監控系統中,存儲和傳輸問題是首要面臨的難關,大量無用視頻信息被存儲、傳輸,既浪費了存儲空間又增加了帶寬,智能分析的目的是為了視頻存儲所需要的空間減少從而緩解帶寬壓力,或者對于一些無用視頻則采用低碼流方式進行壓縮或傳輸,更方便整套系統調查或查詢使用,提升監控在大數據的應用價值。
對于大數據的智能分析,云存儲架構方式是最佳方案。不過這種應用目前只在平安城市項目有應用,技術的成熟度相對于SAN結構還需完善。
三、結束語
探索大數據安防,最核心是要把握大數據給安防行業帶來哪些挑戰,選擇哪些存儲方式去解決數據管理的問題。然而,應用才剛開始,監控存儲格局也在大數據時代出現改變,我們可以拭目以待!