一、概述
近年來視頻監控行業的發展愈發蓬勃,監控點位裝機數量呈爆發式增長。2014年全球攝像頭出貨量達到5646萬臺,每天產生的視頻監控數據量達160PB,同時隨著監控IP化特征的持續加力等因素的影響,市場對視頻監控存儲產品的應用和發展提出了更高要求。其主要體現在對龐大存儲系統的資源的合理利用、性能的持續增長、以及管理和服務獲取的方式等多個方面。
二、視頻監控存儲現狀
在當前視頻監控存儲產品中傳統的DVR/NVR、SAN、NAS等存儲方式雖仍然占有大量份額,但多適用于滿足小型視頻監控的需求。對于龐大存儲系統的整合、資源利用率的提升、存儲服務獲取和管理的便利性等方面,云存儲的產品化應用無疑是行業中的亮點。在云存儲的概念提出初期,其特點和功能長期處于非常模糊的狀態,業界對云存儲的理解也常常是云山霧罩,究其原因實際是云存儲還沒有完成產品化。而從2013年起在安防行業就陸續有云存儲系統的產品出現,并迅速在行業中取得突破,從廠區、樓宇到金融銀行、再從交通系統到大型平安城市的視頻監控系統都陸陸續續出現云存儲部署的身影。隨著視頻監控行業云存儲項目的遍地開花,盡管實現的技術路線不盡相同,但是對云存儲的特質和能力卻有了較為普遍的認識。
三、大數據的云存儲服務特征
首先,從目前多種云存儲的方案中可以明顯體會到,云存儲本身并非某一特定的技術路線,而是一種具有典型特質的存儲服務方式,即可以明確地指出云存儲是一種服務,而非某種單一的技術。云存儲的服務就屏蔽了大量的技術細節、功能特點等繁瑣的實現原理,做到無論其構成如何復雜、系統如何龐大,其服務方式始終是具有共性和可描述的。
那么云存儲的服務可以描述為是統一、靈活、安全的存儲服務。統一體現在對云存儲內部的多種存儲技術、多種存儲設備形態的屏蔽。通過軟件的統一整合向用戶提供唯一的服務獲取出口,具體可以體現為唯一訪問IP、唯一的管理界面、唯一的操作方式等等。
靈活則體現在從云存儲獲取服務時的自由度上。早期曾有業界人士將使用云存儲服務比作用水用電一樣,這種思想和方式即體現在對存儲容量獲取的靈活性上。用戶使用云存儲服務,將自己的數據寫入云存儲,可做到需要多少容量就獲取多少容量,不受限于底層存儲設備的規格限制。這個就需要云存儲系統在容量分配時能夠做到足夠的精準,同時對調整的要求也要足夠靈活。
安全體現的是云存儲提供可靠保障的能力,對不同的數據可以提供不同的安全級別保障,差異化服務。視頻監控數據體量龐大,因此常有不同的存儲周期要求,不同的存儲周期對于數據的完整性要求也不盡相同。因此云存儲系統提供存儲安全保障的能力應該匹配實際項目的需求,在項目成本控制和安全級別要求上達到平衡和共識。
四、大數據的云存儲服務難點與挑戰
1、統一服務
上述云存儲的服務能力雖然容易達成一致,但是在技術路線選取、具體能力級別的實現上卻普遍出現較大差異。首先就統一的服務獲取出口這一功能就需要云存儲系統具有強大的橫向擴展能力,需要在系統容量擴展上不存在上限,同時性能也要與容量保持同等線性增長才能滿足在擴容的同時服務質量不至于下降。當前實現云存儲的架構一般多為分布式存儲架構,雖然云存儲系統是物理位置相對集中的中心存儲方案,但是在系統內部數據卻是被切片后存儲在不同的物理設備上的。在這種架構上元數據服務器起到對數據分布式的統一調度、靈活分配、動態調整的作用,其性能直接決定云存儲系統的規模。常規的元數據服務器主備工作模式采取的是一主一備兩臺元數據服務器,其中只有一臺服務器在工作,另一臺僅同步配置信息和元數據信息,并不響應業務的分布式調度需求,因此性能并未有任何提升。在此種工作模式下,云存儲系統也往往存在容量和性能瓶頸,我們常規看到的可管理存儲設備最大數量從16臺到30臺不等,各廠商實現也不盡相同。這種規模級別直接制約了云存儲系統的統一服務能力。
而最新興起的元數據服務器集群組建方式則有效地解決了這一問題。元數據服務器通過彼此間相互同步元數據信息,共同對整個系統提供分布式存儲策略調度和管理,有效地提升整個云存儲系統管理性能。通過元數據集群本身的線性增長,可以促使存儲設備數量的不斷增加,真正實現容量的無阻礙橫向擴展,在超大規模云存儲系統的統一服務提供上做出了有效的支撐。
2、靈活服務
在存儲容量靈活性要求下,需要云存儲系統能夠最大限度匹配視頻監控的存儲需求。1路2Mbps的標清攝像頭,一天產生的數量約為21GB。若一天中只有工作時間錄像或者事件觸發錄像則產生的數據量更低。在民用視頻監控行業中對于按需付費的思路則要求云存儲分配的存儲空間粒度至少是GB級別。這對于云存儲的空間分配策略、虛擬化容量整合能力提出了嚴峻的要求。傳統按照邏輯卷或者磁盤大小為單位的構建方式將直接導致分配容量時粒度過大,不能滿足這種靈活的容量分配需求。因此在云存儲技術實現中對磁盤容量進行更低粒度的切片,生成更低粒度的數據塊,以在容量的分配、調整上換取更大的靈活性成為一種可行的技術方向。以數據塊作為云存儲基礎的數據單元之后,可以實現數據的靈活分配、調整、以及對分布式存儲的支持和大數據并發吞吐性能的提升都帶來的意想不到的好處。但是隨之而來的問題則是對大量數據塊如何進行有效的管理,在這里業界主要有兩種不同的方向。
第一種方向的思路通過文件系統對數據塊資源進行組織和利用,這種思路的優勢是可以支持多種數據的存儲,不限定數據類型。但同時也忽略了視頻錄像數據是流式數據的這一本質特點,在視頻錄像的存儲效率和應用擴展上做出了犧牲和讓步。要說清這個問題需要理解視頻流式數據與非流式的文件數據的差異。簡單來講流式數據在視頻監控領域是由攝像機產生,以開始錄像為起點持續不斷的產生,在不做時間限定的前提下是沒有結束的,因此其數據量大小也會不斷增加沒有終點。而非流式的文件型數據則是有固定的文件大小、文件格式、文件名稱等文件屬性。如果以非流式的文件方式存儲流式的視頻數據則需要將視頻流人為截斷、按照文件名、按照數據量大小生成一個個單獨的視頻文件,這從本質上就破壞的流式數據的特征。再加上對視頻流檢索查找時,在文件系統中就只能通過文件名、目錄結構、文件屬性等進行檢索查找,無法深入精確的定位到每一秒或者每一毫秒的視頻數據,在視頻數據的使用和大數據分析上人為增加了技術壁壘。
第二種方向的思路則跳開了文件系統對流式視頻數據的制約,采用流式系統存儲流式數據的方式,若不限定視頻流的錄像時間則滿足視頻流不斷持續寫入數據塊,同時在視頻流寫入時加入精確的時間點定位以支持精準檢索的需要。這樣的視頻寫入方式直面視頻錄像數據本質,不但能夠滿足視頻流高效、連續的存儲需要,同時又能精準定位到視頻數據的每一個時間點,在視頻數據應用上極大的滿足了其本質需求。因此此種方式不但回放和下載時更精準,同時更為可貴的是不會產生文件碎片,從而大幅提高云存儲系統的吞吐性能和資源利用率。
就目前行業內對于云存儲的具體處理方式上,以上兩種方式都已經實現。以??低暈榇淼陌卜佬袠I的視頻監控廠商則更為關注于視頻流式數據的本質,因此應用第二種方式的較多。
3、安全服務
在數據安全的可靠性保障上,目前主流應用的技術也較為豐富。從RAID5、6技術到基于糾刪碼的網絡RAID技術、到多副本保障技術、到異地數據中心的備份恢復技術等多種。需要理清的是采取更高級別的安全可靠性保障的同時對具體的物理設備數量、功能要求也越為嚴格。就視頻錄像數量的容量上看,其體量是非常龐大的,而且在大量視頻錄像產生的基礎上,多數視頻錄像是會隨時間不斷被循環覆蓋掉。在這樣情況下為滿足過高的可靠性保障而投入大量成本和資金就變成一種不經濟的做法。因此對數據安全性需求進行區分,支持分級別安全可靠性保障就是一種結合安全和成本的綜合考慮方式。這種方式就對云存儲提出了要支持分級安全存儲的功能要求。就目前行業云存儲的實現來看,也僅僅是少量廠商能夠支持如此豐富的安全和可靠性的要求,多數廠商在安全可靠性上還停留在某種單一方案上。當然,隨著技術的不斷發展,越來越豐富的安全可靠性機制也會逐漸被大家所認識和接受。
??低曉拼鎯ο到y秉承于技術服務安防的理念,將云存儲核心技術框架與視頻監控行業特性結合。通過統一的服務窗口、靈活的容量分配方式和基于業務的分級可靠性保障為云存儲在視頻監控系統中的應用提供有效的方案支撐。
五、大數據的云存儲價值
在風起云涌的大數據云時代,機遇始終是與挑戰并存的。大數據的核心訴求是對數據內容的分析和價值的挖掘。在多種數據類型中,結構化數據是最便于提取到信息價值的,而以視頻數據為代表的非結構化數據的提取難度則是非常大的。因此作為存儲系統,其是否能夠對于大數據應用做出良好的支撐就顯得尤為重要。而作為整個大數據體系中,存儲系統又是最底層的,其保留的是大量未經分析的基礎數據,大數據的挖掘則是需要通過云計算系統的超強計算能力對龐大的基礎數據進行計算分析,得出可結構化的價值信息,以提供給各個應用需求進行整理和挖掘。視頻數據的結構化除了完全依賴云計算系統外,云存儲系統如果具備基本的處理能力,與云計算系統進行配合則可大幅提高整個過程的效率。這就要求云存儲不僅滿足高效存儲的功能,還能夠針對應用做出適度的調整。目前沿著整個大數據視頻分析挖掘的方向來看,前端智能、后端分析的結合處理效果會比較明顯。前端攝像機在錄像時即可產生基礎的智能化結構信息,云存儲負責視頻錄像數據和智能結構化數據存儲,同時也可以對視頻畫面做基礎的剝離和提取,云計算直接從云存儲中獲取剝離的畫面數據和智能結構化數據用于進一步的分析計算,全面生成有價值的結構化數據,各個大數據分析應用從結構化數據中提取數據原型進行規則比對、篩選最后得出大數據應用的結果并進行呈現,這些過程一環接一環配合推進才能高效實現視頻大數據的價值挖掘。??低曉拼鎯ο到y作為大數據整體解決方案的重要組成部分,在提供統一、靈活、安全數據存儲服務的同時,充分理解大數據價值挖掘所面臨的挑戰,將數據存儲與基礎分析完美融合,向大數據平臺提供有效的數據來源,全面服務視頻大數據的工作開展,做出了積極、有效的嘗試和努力。
海康威視云存儲系統作為大數據整體解決方案的重要組成部分,在提供統一、靈活、安全數據存儲服務的同時,充分理解大數據價值挖掘所面臨的挑戰,將數據存儲與基礎分析完美融合,向大數據平臺提供有效的數據來源,全面服務視頻大數據的工作開展,做出了積極、有效的嘗試和努力。
六、結語
無論現在或者是將來,云存儲技術在視頻監控行業的應用將是視頻大數據系統中不可缺失的一環。云存儲在未來發展的方向應不僅僅局限于本身存儲業務的各種功能實現,更要從全面、宏觀的角度找準自身在大數據浪潮中的定位,為視頻監控行業中存儲系統應用化的深度發展做好準備和經驗積累。讓躺在存儲系統中寶貴的海量視頻數據資源迸發出耀眼的光芒。