第1頁:SDFS工作機(jī)理
技術(shù)的進(jìn)步和市場的需求變化永遠(yuǎn)是推動(dòng)一個(gè)產(chǎn)業(yè)發(fā)展的最重要的兩個(gè)方面,這兩個(gè)方面又是相互影響和互為作用的,安防技術(shù)的進(jìn)步之快是有目共睹的,圖像高清化,傳輸網(wǎng)絡(luò)化、存儲(chǔ)云化,應(yīng)用智能平臺(tái)化等。市場同樣也悄然的發(fā)生著變化,傳統(tǒng)的公共安全服務(wù)領(lǐng)域已經(jīng)不再是安防視頻監(jiān)控市場的重點(diǎn),行業(yè)專用視頻監(jiān)控網(wǎng)絡(luò)和快速發(fā)展的家庭安全防范服務(wù)領(lǐng)域?qū)⒑芸斐蔀橄乱粋€(gè)市場重點(diǎn),隨著市場重心的轉(zhuǎn)移,為適應(yīng)新的市場特點(diǎn)和需求,技術(shù)和方案也在悄然的發(fā)生變化。
隨著安防視頻監(jiān)控系統(tǒng)技術(shù)的進(jìn)步和規(guī)模的增長對(duì)存儲(chǔ)的要求也在發(fā)生深刻的變化,對(duì)存儲(chǔ)系統(tǒng)的容量、擴(kuò)展性、性價(jià)比、性能、管理性、穩(wěn)定性等都提出了新的要求,傳統(tǒng)的存儲(chǔ)方式已經(jīng)不能滿足要求。
為滿足安防視頻監(jiān)控的新要求,解決城市級(jí)海量視頻數(shù)據(jù)存儲(chǔ)、檢索難題,以視頻、圖片文件存儲(chǔ)和管理為核心的面向大規(guī)模數(shù)據(jù)密集型應(yīng)用的、可伸縮的分布式文件系統(tǒng)SDFS(SkyDistributedFileSystem)被提出。
SDFS工作機(jī)理
SDFS它通過分布式集群架構(gòu)將網(wǎng)絡(luò)中普通PC、通用服務(wù)器及各種存儲(chǔ)設(shè)備集合起來協(xié)同工作,并通過專用數(shù)據(jù)接口,向用戶提供海量數(shù)據(jù)存儲(chǔ)、管理和訪問服務(wù)。部署方式上支持全網(wǎng)分散部署,或在數(shù)據(jù)中心集中部署。存儲(chǔ)介質(zhì)支持普通硬盤及通用存儲(chǔ)設(shè)備。在普通PC或通用服務(wù)器集群上部署的SDFS可以達(dá)到NAS/SAN的冗余及可靠性,同時(shí)又能提供NAS/SAN無法達(dá)到的高吞吐量及強(qiáng)大的水平擴(kuò)展能力。
SDFS通過元數(shù)據(jù)和存儲(chǔ)數(shù)據(jù)分離,控制流和數(shù)據(jù)流分離,通過負(fù)載均衡和數(shù)據(jù)并發(fā)訪問策略,在普通硬件條件下獲得高效的傳輸速率以及PB級(jí)的存儲(chǔ)容量,SDFS針對(duì)音視頻文件進(jìn)行特別優(yōu)化,支持分布式集群架構(gòu)下的音視頻文件幀級(jí)別的查詢及定位。為安防視頻監(jiān)控實(shí)現(xiàn)智能分析、智能檢索奠定基礎(chǔ)。
SDFS技術(shù)特點(diǎn)
多服務(wù)器同時(shí)對(duì)外服務(wù)
SDFS性能優(yōu)異,支持高并發(fā)、帶寬飽和利用。云存儲(chǔ)系統(tǒng)將控制流和數(shù)據(jù)流分離,數(shù)據(jù)訪問時(shí)多個(gè)存儲(chǔ)服務(wù)器同時(shí)對(duì)外提供服務(wù),實(shí)現(xiàn)高并發(fā)訪問。自動(dòng)均衡負(fù)載,將不同客戶端的訪問負(fù)載均衡到不同的存儲(chǔ)服務(wù)器上。系統(tǒng)性能隨節(jié)點(diǎn)規(guī)模的增加呈線性增長。系統(tǒng)的規(guī)模越大,云存儲(chǔ)系統(tǒng)的優(yōu)勢越明顯,沒有性能瓶頸。有利于超大規(guī)模城市級(jí)監(jiān)控網(wǎng)絡(luò)的形成。
多數(shù)據(jù)塊副本實(shí)現(xiàn)冗余
高度可靠,采用多個(gè)數(shù)據(jù)塊副本的方式實(shí)現(xiàn)冗余可靠,數(shù)據(jù)在不同的存儲(chǔ)節(jié)點(diǎn)上具有多個(gè)塊副本,任意節(jié)點(diǎn)發(fā)生故障,系統(tǒng)將自動(dòng)復(fù)制數(shù)據(jù)塊副本到新的存儲(chǔ)節(jié)點(diǎn)上,數(shù)據(jù)不丟失,實(shí)現(xiàn)數(shù)據(jù)完整可靠;并支持通過編解碼算法的方式實(shí)現(xiàn)高度可靠,任意同時(shí)損壞多個(gè)存儲(chǔ)節(jié)點(diǎn),數(shù)據(jù)可通過算法解碼自動(dòng)恢復(fù)。該特性可適用于對(duì)數(shù)據(jù)安全級(jí)別極高的場合,同時(shí)相對(duì)于副本冗余的可靠性實(shí)現(xiàn)方式大大提高了磁盤空間利用率,不到40%的磁盤冗余即可實(shí)現(xiàn)任意同時(shí)損壞三個(gè)存儲(chǔ)節(jié)點(diǎn)而不丟失數(shù)據(jù)。
元數(shù)據(jù)管理節(jié)點(diǎn)采用多機(jī)同步熱備份的高可用方式容錯(cuò),其中任一臺(tái)服務(wù)器故障,可無縫自動(dòng)切換到另一臺(tái)服務(wù)器,服務(wù)不間斷。整個(gè)系統(tǒng)無單點(diǎn)故障,硬件故障自動(dòng)屏蔽。
第2頁:云存儲(chǔ)的安防應(yīng)用優(yōu)勢
動(dòng)態(tài)增減存儲(chǔ)節(jié)點(diǎn)
SDFS(SkyDistributedFileSystem)云存儲(chǔ)系統(tǒng)所有管理工作由云存儲(chǔ)系統(tǒng)管理監(jiān)控中心完成,使用人員無需任何專業(yè)知識(shí)便可以輕松地管理整個(gè)系統(tǒng)。通過專業(yè)的分布式集群監(jiān)控子系統(tǒng)對(duì)SDFS所有節(jié)點(diǎn)實(shí)行無間斷監(jiān)控,用戶通過界面可以清楚地了解到每一個(gè)節(jié)點(diǎn)的運(yùn)行情況。
在線伸縮,可以在不停止服務(wù)的情況下,動(dòng)態(tài)加入新的存儲(chǔ)節(jié)點(diǎn),只需簡單操作,即可實(shí)現(xiàn)系統(tǒng)容量從TB級(jí)向PB級(jí)平滑擴(kuò)展;也可以摘下任意節(jié)點(diǎn),系統(tǒng)自動(dòng)縮小規(guī)模而不丟失數(shù)據(jù),并自動(dòng)將摘下的節(jié)點(diǎn)上的數(shù)據(jù)備份到其他節(jié)點(diǎn)上,保證整個(gè)系統(tǒng)數(shù)據(jù)的冗余數(shù)不變。并同步提升讀寫及網(wǎng)絡(luò)性能。
降低建設(shè)和運(yùn)營成本
降低建設(shè)和運(yùn)營成本,作為整個(gè)平臺(tái)的基礎(chǔ)層,文件系統(tǒng)和數(shù)據(jù)倉庫以廉價(jià)的高存儲(chǔ)PC或者單板機(jī)代替以往的小型機(jī),聯(lián)合提供極高的運(yùn)算能力和極低的存儲(chǔ)成本!采用分布式計(jì)算和存儲(chǔ),結(jié)合優(yōu)化的硬件,通過集群化運(yùn)維管理系統(tǒng),實(shí)現(xiàn)計(jì)算,存儲(chǔ),網(wǎng)絡(luò)等資源的動(dòng)態(tài)分配及部署,大大提高資源使用率。
云存儲(chǔ)將推動(dòng)安防視頻監(jiān)控系統(tǒng)向著集通信、運(yùn)算、存儲(chǔ)及應(yīng)用于一身的統(tǒng)一平臺(tái)發(fā)展,而不是整體系統(tǒng)中重復(fù)建設(shè)的一個(gè)IT子系統(tǒng)。
云存儲(chǔ)的安防應(yīng)用優(yōu)勢
有利于推動(dòng)新的商業(yè)模式的形成
云存儲(chǔ)在安防視頻監(jiān)控行業(yè)的應(yīng)用,帶來的一系列價(jià)值的提升,將有效推動(dòng)形成新的商業(yè)模式。家庭安全視頻監(jiān)控服務(wù)需求的不斷增長和“電信云”、“全球眼”的發(fā)展,將讓人們購買安全服務(wù)相購買話費(fèi)套餐一樣簡單。人們可以通過自己的手機(jī)或車載瘦終端來實(shí)現(xiàn)對(duì)家庭成員或重要位置的全天候?qū)崟r(shí)監(jiān)控,享受這種便捷的安全服務(wù)。
加速系統(tǒng)整合、多平臺(tái)資源共享
云存儲(chǔ)的發(fā)展有利于推動(dòng)各種視頻監(jiān)控資源在云中融合,在安防領(lǐng)域,視頻監(jiān)控不能單獨(dú)成為一個(gè)獨(dú)立于其他安防措施的系統(tǒng),它應(yīng)當(dāng)和警務(wù)督察系統(tǒng)、110報(bào)警系統(tǒng)、道路監(jiān)控系統(tǒng)、車輛管理系統(tǒng)、人口稽查系統(tǒng)、GPS可視化系統(tǒng)等等多種安全防護(hù)系統(tǒng)聯(lián)動(dòng),最終成為一套成熟的安全防護(hù)系統(tǒng)。而這些系統(tǒng)如果真正實(shí)現(xiàn)融合,資源共享就離不開云存儲(chǔ)。
第二屆中國智慧城市技術(shù)與應(yīng)用產(chǎn)品博覽會(huì)在寧波國際會(huì)展中心隆重開幕,吸引了300多家參展商,其間也不乏像微軟,IBM等國際大牌,針對(duì)安防視頻監(jiān)控行業(yè)隨著高清技術(shù)和規(guī)模建設(shè)后面臨的存儲(chǔ)和海量視頻應(yīng)用的難題,以及不同客戶的應(yīng)用特點(diǎn),CSST展示了建立在城市級(jí)海量視頻云存儲(chǔ)系統(tǒng)基礎(chǔ)上的視頻監(jiān)控存儲(chǔ)解決方案SDFS(Sky Distributed File System)云存儲(chǔ)系統(tǒng),以及高清智能分析技術(shù)。智慧公安實(shí)戰(zhàn)平臺(tái)則強(qiáng)調(diào)平臺(tái)整合、視頻共享及應(yīng)用提升。
展會(huì)上的技術(shù)方案不過是當(dāng)前行業(yè)技術(shù)發(fā)展的一個(gè)縮影,但從中我們不僅可以感受到安防視頻監(jiān)控產(chǎn)業(yè)遇到的巨大機(jī)遇和發(fā)展?jié)摿?,也可以從中感知安防視頻監(jiān)控產(chǎn)業(yè)當(dāng)前發(fā)展的方向??梢灶A(yù)見,今后安防視頻監(jiān)控中,高清將是主流,CIF和D1將逐步退出市場。同時(shí),為了滿足傳輸、存儲(chǔ)高清監(jiān)控視頻,整個(gè)IT架構(gòu)也面臨新的挑戰(zhàn),原有的模擬視頻監(jiān)控會(huì)被IP網(wǎng)絡(luò)視頻監(jiān)控取代;10/100M以太網(wǎng)也很難滿足海量視頻數(shù)據(jù), 1000Base-T,1000Base-SX/TX,3G、EPON、PTN等高速傳輸必然會(huì)被大量應(yīng)用,數(shù)據(jù)存儲(chǔ)也將會(huì)由傳統(tǒng)的分布式DVR轉(zhuǎn)向NVR/IP-SAN/NAS架構(gòu)進(jìn)而到集約化的云存儲(chǔ)方向發(fā)展。
第3頁:促進(jìn)圖像智能檢索、分析應(yīng)用
促進(jìn)圖像智能檢索、分析應(yīng)用
建立在圖像智能檢索,智能分析基礎(chǔ)上的智能應(yīng)用離不開云存儲(chǔ)。網(wǎng)絡(luò)監(jiān)控的誕生解決了傳統(tǒng)監(jiān)控效果的難題,改變了傳統(tǒng)的連接方式,更簡單更便捷,但同時(shí)衍生了更龐大的存儲(chǔ)需求和更高的帶寬滿足,以目前最基本的720P效果為例,每路視頻壓縮到較低碼率也要每小時(shí)3G容量需求,一個(gè)月監(jiān)控錄像就要2TB左右的容量,那么試想一下,如果需要幾百上千路這樣的高清監(jiān)控,如此龐大的視頻文件,有如潮水般的沖擊著存儲(chǔ)系統(tǒng),不僅對(duì)存儲(chǔ)設(shè)備的容量,讀寫性能、可靠提出了更高要求?;胤攀欠衲苤芜@么大的信息量也是問題。同時(shí),存儲(chǔ)的高清視頻的安全性要求也很高。從保存的海量的高清視頻中,如何檢索、調(diào)用圖像進(jìn)行圖像分析也是挑戰(zhàn)之一。如果存儲(chǔ)的海量圖像無法有效調(diào)用,那么圖像存儲(chǔ)就變得沒有意義。
總之,云存儲(chǔ)的誕生有效解決了安防視頻監(jiān)控發(fā)展中遇到的海量視頻存儲(chǔ)和基于圖像智能應(yīng)用等的一系列難題,并創(chuàng)造出新的商業(yè)模式。云存儲(chǔ)正在對(duì)安防視頻監(jiān)控行業(yè)未來的發(fā)展產(chǎn)生著影響,并將成為下一步發(fā)展的基礎(chǔ)和技術(shù)核心之一。
籍由城市級(jí)海量存儲(chǔ)需求引入
城市級(jí)或城市群級(jí)超大規(guī)模系統(tǒng)的海量視頻存儲(chǔ)離不開云存儲(chǔ),隨著平安城市、智慧城市的建設(shè)發(fā)展以及視頻監(jiān)控高清化發(fā)展趨勢的深入,傳統(tǒng)的磁盤陣列存儲(chǔ)方式已經(jīng)逐漸顯現(xiàn)它的不足,已經(jīng)無法滿足智慧城市建設(shè)中海量高并發(fā)實(shí)時(shí)視頻數(shù)據(jù)存取的需求。傳統(tǒng)的磁盤陣列存儲(chǔ)方式不僅采購成本高,大量磁盤陣列管理維護(hù)困難,還不能達(dá)到網(wǎng)絡(luò)帶寬和存儲(chǔ)器I/O資源的有效利用以及跨平臺(tái)的數(shù)據(jù)共享。云存儲(chǔ)的出現(xiàn),突破傳統(tǒng)存儲(chǔ)方式的性能和容量瓶頸,云存儲(chǔ)能夠連接管理網(wǎng)絡(luò)中大量各種不同類型的存儲(chǔ)設(shè)備形成異常強(qiáng)大的存儲(chǔ)能力,實(shí)現(xiàn)性能與容量的線性擴(kuò)展,讓海量數(shù)據(jù)的存儲(chǔ)成為了可能。
集中存儲(chǔ)是網(wǎng)絡(luò)存儲(chǔ)的一個(gè)基本理念,但對(duì)于視頻監(jiān)控系統(tǒng)尤其是比較大的城市監(jiān)控,一味的追求集中存儲(chǔ)會(huì)增加城市骨干網(wǎng)的壓力并帶來使用上的不便,而云存儲(chǔ)的集中管理、小范圍集中、大范圍分散的部署方式更適合大范圍城市級(jí)視頻監(jiān)控的應(yīng)用。
綜上所述,視頻監(jiān)控的特定應(yīng)用模式和發(fā)展方向,使得其對(duì)存儲(chǔ)系統(tǒng)的需求已經(jīng)和通用存儲(chǔ)系統(tǒng)有了比較大的區(qū)別,所以要為視頻監(jiān)控選擇合適的存儲(chǔ)網(wǎng)絡(luò)方案和存儲(chǔ)設(shè)備,首先就要考慮存儲(chǔ)網(wǎng)絡(luò)方案的技術(shù)成熟度,能否兼容現(xiàn)有主流的監(jiān)控設(shè)備、操作系統(tǒng)和應(yīng)用環(huán)境,以及方案的總體擁有成本。其次要估算存儲(chǔ)容量需求,選擇適合存儲(chǔ)網(wǎng)絡(luò)架構(gòu)的性價(jià)比最高、擴(kuò)展性好、適用性更強(qiáng)、可靠性高的存儲(chǔ)方案、存儲(chǔ)產(chǎn)品。
基于云存儲(chǔ)系統(tǒng)之上的大容量視頻監(jiān)控解決方案,以及創(chuàng)新的城市級(jí)海量視頻云存儲(chǔ)系統(tǒng)和高清圖像智能分析檢索技術(shù),將是支撐未來安防監(jiān)控乃至其它大容量存儲(chǔ)及圖像處理應(yīng)用領(lǐng)域的最好選擇。它將很好的解決目前海量視頻數(shù)據(jù)存儲(chǔ)中遇到的幾乎所有問題及瓶頸。完全滿足未來監(jiān)控存儲(chǔ)所必須的六點(diǎn)技術(shù)需求。
· 能夠滿足電信級(jí)別數(shù)據(jù)監(jiān)控的海量存儲(chǔ)要求;
· 滿足高并發(fā)實(shí)時(shí)視頻讀寫能力及較強(qiáng)的數(shù)據(jù)傳輸能力; · 必須具備良好的擴(kuò)展性能,應(yīng)對(duì)數(shù)據(jù)量飛速增長對(duì)于存儲(chǔ)空間擴(kuò)大的需求;
· 能夠隨著網(wǎng)絡(luò)規(guī)模的擴(kuò)展,存儲(chǔ)空間、讀寫能力、網(wǎng)絡(luò)性能等也能夠線性提升;
· 較大的緩存可以保證更多的數(shù)據(jù)滯留在緩存中,等待向硬盤空間的重新寫入;
· 良好的穩(wěn)定性、安全性及低廉的成本;
SDFS適合平安城市、數(shù)字城市、智慧城市、智慧公安等解決方案中針對(duì)非結(jié)構(gòu)化的海量音視頻數(shù)據(jù)文件,圖片文件的存儲(chǔ)、管理和訪問。利于實(shí)現(xiàn)數(shù)據(jù)挖掘和商業(yè)應(yīng)用,提高安防視頻監(jiān)控自身價(jià)值。