1．引言
在視頻監控領域，提高監控圖像質量和編碼傳輸效率一直是我們最為重要的追求目標。提高視頻質量意味著提高最終用戶的觀看滿意度，提高編碼效率則意味著在同樣的碼率限制下可以傳輸更高質量的視頻。這涉及到監控系統中的多個環節，從上游的實際場景，到中間的傳輸網絡，再到下游的用戶終端，主要包括圖像的采集、壓縮處理、傳輸或存儲、解壓縮和顯示等部分，其中任何一個上游環節出了問題，對圖像質量的影響都不是下游環節能夠糾正或補救的。視頻信號的預處理處在系統最上游，是針對主處理而言的，如圖1所示。在視頻監控中，主處理一般是指視頻的壓縮編碼和傳輸，此前的處理一般稱之為預處理，常將它歸并在視頻采集部分。無疑，視頻采集中的預處理是一個重要環節，處理的好壞將直接影響采集圖像質量以及后續編碼傳輸處理的效率。
有一個現象可以有力地說明預處理在改進圖像質量方面的作用：對同樣場景、采用相同的碼率，不同廠家的網絡攝像機解碼輸出視頻的質量往往存在較大的差別。尤其是在比較惡劣的環境下，其差別更為顯著。產生這種差別的一個重要原因在于：在監控系統中，雖然大家都采用標準化的視頻壓縮方法，但最后解碼輸出圖像的質量高低很大程度上取決于有無預處理、預處理的好壞，有時還包括適當的后處理。
近來，隨著人們對預處理重要性認識的不斷提高，隨著集成芯片和信號處理器能力的不斷增強，業界對視頻信號的預處理越來越重視，市場上高質量的監控產品一定離不開高質量的視頻預處理方法。
2．預處理的作用
視頻預處理的第一個作用是提高編碼視頻的質量。在實際的視頻監控的應用中，不像娛樂視頻，往往有高質量的攝像機、良好的演播室拍攝環境和專業技術人員的時時人為干預，因此可以保證得到的高質量的采集視頻。而視頻監控系統由于成本、環境等因素影響，所獲取的原始視頻質量并不高，甚至很低。例如，由于環境、噪聲、光照、運動等影響，往往所采集的圖像常常出現模糊、扭曲、噪點、太亮或太暗、彩色不鮮明、……。對于這樣比較差的視頻，再進行壓縮、傳輸、解碼顯示，用戶所看到的監控視頻常常不能令人滿意的。如何在現有的條件下提高采集視頻質量的問題就實在地放在我們面前。對此，一個重要的應對措施就是在視頻采集環節進行預處理（preprocessing），以利于提高采集視頻質量，有利于后續的視頻處理，以利于用戶提取視頻中感興趣的信息。
視頻預處理的第二個作用是提高編碼效率和有利于碼率控制。我們知道，無論是有線還是無線視頻傳輸，都是基于IP的包傳輸方式，信號的傳輸速率不穩定，速率會隨用戶的擁擠程度、信道的物理介質而不斷變化。要在這樣速率變化的信道上穩定、高效地傳輸壓縮視頻圖像，除了依賴編碼器的碼率控制之外，還可以利用預處理的方法來輔助實現。在編碼前對圖像進行預處理，控制輸入到編碼器的視頻數據量，從而來間接控制編碼器輸出的碼率，其過程仍可參見圖1。
由圖1可見，不僅通過緩沖區的滿溢程度來控制量化步長，同時也加上了預處理對輸入的視頻數據進行控制。例如，當信道變窄時，我們可以根據信道帶寬信息對輸入視頻進行一定程度的平滑濾波，減少細節，甚至進行下采樣處理、跳幀處理，使編碼視頻的碼率能與信道帶寬相匹配。當然，由于信道狀況信息的獲得比較麻煩，可以經統計學習建立信道帶寬變化的近似模型，再依據這個模型來決定預處理的方法和程度。
最早的視頻預處理是在模擬域進行的，包括對模擬視頻信號的限帶濾波、噪聲抑制、自動增益控制、白平衡以及r校正等。隨著視頻采集技術的數字化進程，這些簡單的預處理方法大多已經集成到芯片中去了。現在，視頻預處理都是在數字域進行的，即在視頻數字化采集以后進行，充分發揮了數字信號處的方便、高效、靈活和一致的優越性。目前，在視頻監控中常見的預處理方法除了基本的圖像濾波、圖像去噪和多種圖像增強處理外，還出現了多種針對特殊應用環境的預處理方法，如背光或暗光處理、雨霧煙處理、感興趣區間的處理等。
3．常見的預處理方法
現在常見的效果明顯的視頻預處理主要包括下面的幾個方面。
3.1限帶濾波和降采樣
根據奈奎斯特定理，只有對圖像進行高于兩倍信號最高頻率的采樣才能保證從采樣值完全恢復原圖像。但是如果該條件不滿足，即欠采樣時，高次諧波的頻譜就會疊加到基波，出現頻譜混疊效應。隨著圖像高清晰度的增加，由于采樣率的限制，絕大多數成像系統都存在不同的混疊現象。怎樣消除混疊效應成為了預處理中的一個令人關注的問題。
抑制或消除混疊效應常采用兩項措施，一是限帶濾波，二是下采樣。限帶濾波就是對高速采樣的數字視頻進行一次低通濾波，抑制奈奎斯特定理定義的通帶以外的高頻分量。因為這些帶外分量在后續的處理中會引起混疊效應，產生無意義的高頻分量，而編碼器還得對它們進行編碼，浪費不少寶貴的編碼比特。僅采用限帶濾波只能濾除信號中少量的高頻分量，如果信號帶寬遠高于奈奎斯特帶寬，那么在限帶濾波后還需進行一次下采樣，進一步減少碼字。
3.2噪聲去除
噪聲對于任何實際的視頻采集來說均是不可避免的，如果在編碼前未將不必要的噪聲去除，不僅會影響解碼視頻質量，而且后面的編碼部分還將為噪聲編碼，降低了效率。視頻中常見的噪聲主要有加性噪聲、乘性噪聲和量化噪聲等。圖像中的噪聲往往和信號交織在一起，尤其是乘性噪聲，如果濾波不當，就會使圖像本身的細節，如邊界輪廓、線條等，變得模糊不清。如何既平滑掉噪聲又盡量保持圖像細節，是圖像去噪的難點所在。
圖像去噪方法很多，它們大體上可以分為兩類：空間域的去噪方法和變換域的去噪方法。這兩類方法的最主要區別是前者直接對觀察圖像數據進行處理，而后者則是先對圖像進行某種變換，然后再對變換后的系數進行處理。
變換域的去噪方法認為，在變換域圖像往往是稀疏表示的，即高頻分量很少，大部份噪聲處于高頻部分，通過在變換域設置閾值或者截斷高端頻譜來去除噪聲。這類方法的優點是在變換域進行處理比較簡單。它的不足之處在于對閾值的設置比較困難；在去除噪聲的同時不可避免地會平滑圖像本身的紋理細節；圖像在變換域丟失了部分結構特征，特別是邊界信息等。這些都會影響去噪圖像的質量。
空間域的去噪方法關注圖像數據本身，如近年來流行的基于塊的去噪方式，其基本思想是為去噪圖像的每一個塊尋找與它相似的塊，相似塊可以在同一幀內部尋找，或者其它幀中尋找，還可在其它圖像中尋找，最后通過加權平均等操作恢復圖像塊。空間域的方法利用了更多的圖像數據信息，保留圖像的結構，有利于保持圖像細節，但也容易出現過平滑現象。
近年來針對圖像的混合高斯噪聲，出現了一種將變換域和空間域方法相結合的自適應噪聲去除方法。這種方法首先采用基于塊和濾波的噪聲參數估計，自適應的估計混合高斯噪聲參數，然后利用估計得到的噪聲參數進行圖像去噪，將多幅去噪圖像進行簡單的數據融合，最終獲得性能良好的去噪圖像，其過程如下圖2所示。
3.3圖像增強
圖像增強處理的任務是有目地突出圖像中的感興趣部分，或目標的特征，抑制圖像中某些不需要的特征，提高圖像的清晰度，改進圖像的觀賞質量。在圖像增強過程中，一般不考慮圖像降質的原因，增強后的圖像也不一定要逼近原圖像。圖像增強中常見的幾種具體處理方法為：
（1）直方圖均衡
在圖像處理中，圖像直方圖表示了圖像中像素灰度值的分布情況。為使圖像變得清晰，增大反差，凸顯圖像細節，通常希望圖像灰度的分布從暗到亮大致均勻。直方圖均衡就是把那些直方圖分布不均勻的圖像（如大部分像素灰度集中分布在某一段）經過一種函數變換，使之成一幅具有均勻灰度分布的新圖像，其灰度直方圖的動態范圍擴大。用于直方均衡化的變換函數不是統一的，它是輸入圖像直方圖的積分，即累積分布函數。
（2）灰度變換
灰度變換可使圖像動態范圍增大，對比度得到擴展，使圖像清晰、特征明顯，是圖像增強的重要手段之一。它主要利用圖像的點運算來修正像素灰度，由輸入像素點的灰度值確定相應輸出像素點的灰度值，可以看作是“從像素到像素”的變換操作，不改變圖像內的空間關系。像素灰度級的改變是根據輸入圖像f(x,y)灰度值和輸出圖像g(x,y)灰度值之間的轉換函數g(x，y)=T[f(x，y)]進行的。
灰度變換包含的方法很多，如逆反處理、閾值變換、灰度拉伸、灰度切分、灰度級修正、動態范圍調整等。
（3）白平衡
白色是人眼對比例相同且具有一定亮度的藍、綠、紅三種色光所形成的視覺反應。在正常的情況下，視頻采集系統對白光的輸出為白色，簡單地說這個系統處于白平衡狀態。如果系統對白光不能夠保持白色輸出，出現偏色，如發紅或發藍等，就說明采集系統對現場彩色的處理出現了偏差，即未達到白平衡。由于場景的彩色情況非常復雜，難以斷定白平衡情況，所以在實際應用中，常常用白光來判定系統的白平衡狀況。這是一種衡量系統的色彩比例是否恰當的一種方便、直觀的方法。如果達到了白平衡，那么輸出的色彩也是白色，沒有其它的偏色；如果有偏色，說明沒有達到白平衡，需要在預處理時加以調整，使之成像后仍然為白色。
（4）伽瑪校正
在視頻采集系統中，CCD、CMOS等光電轉換的器件的特性都是非線性的。場景的亮度L和是傳感器輸出的電壓E，之間的關系可用一個冪函數E(x,y)=kLr(x,y)來表示，其中k是比例常數，r是冪函數的指數，用它來衡量非線性器件的轉換特性，稱之為伽瑪特性。在視頻中由于伽瑪特性的存在，會導致圖像信號的亮度失真，影響圖像質量。因此要對這個失真進行補償，即伽瑪校正。簡單地說，就是對輸出電壓用一個負指數函數對其進行校正，使得校正后的光、電兩個量之間保持線性關系。
（5）圖像平滑
在空間域中進行平滑濾波技術主要用于消除圖像中的噪聲，主要有鄰域平均法、中值濾波法等等。這種局部平均的方法在削弱噪聲的同時，常常會帶來圖像細節信息的損失。
鄰域平均，也稱均值濾波，對于給定的圖像f(x,y)中的每個像素點(x,y)，它所在鄰域S中所有M個像素灰度值平均值為其濾波輸出，即用一像素鄰域內所有像素的灰度平均值來代替該像素原來的灰度。
中值濾波，對于給定像素點(x,y)所在領域S中的n個像素值數值{f1,f2,…,fn}，將它們按大小進行有序排列，位于中間位置的那個像素數值稱為這n個數值的中值。某像素點中值濾波后的輸出等于該像素點鄰域中所有像素灰度的中值。中值濾波是一種非線性濾波，運算簡單，實現方便，而且能較好的保護邊界。
（6）圖像銳化
采集圖像變得模糊的原因往往是圖像受到了平均或者積分運算，因此，如果對其進行微分運算，就可以使邊緣等細節信息變得清晰。這就是在空間域中的圖像銳化處理，其的基本方法是對圖像進行微分處理，并且將運算結果與原圖像疊加。從頻域中來看，銳化或微分運算意味著對高頻分量的提升。常見的連續變量的微分運算有一階的梯度運算、二階的拉普拉斯算子運算，它們分別對應離散變量的一階差分和二階差分運算。
（7）小波變換增強
對圖像進行小波變換，可得到圖像的不同頻率分量的小波變換系數，如果對適當的高頻系數進行增強處理后，再進行小波逆變換之后，就可以達到圖像的細節或邊緣增強的目的。當然，小波變換還可以用來去除圖像中的噪聲。由于噪聲大多屬于高頻信息，因此，當進行小波變換之后，噪聲信息大多集中在高頻子塊之中，對這一部分系數進行抑制，則可以達到一定的噪聲去除效果。
4.特殊場合的預處理
視頻監控的應用范圍廣闊，在圖像采集時人為干預的極少。因此，各種環境的影響，監控目標的影響以及人為因素的影響都不可避免。面對種種不利的特殊場合，按照標準執行的壓縮處理是無能為力的。為了提高種類期刊下監控視頻的質量，采用視頻預處理就顯得格外重要。近年來在如下的幾個方面的研究和開發都取得了可喜的進展。
4.1雨霧圖像處理
在霧天、雨天或者煙霾不散的情況下，由于場景的能見度降低，圖像中目標對比度和顏色等特征被衰減，致使室外視頻系統的圖像模糊不清，影響正常工作，因此需要在視頻編碼前消除雨水、霧霾對場景圖像的影響。
以霧氣消除為例，目前的圖像處理方法主要分為兩類：霧天圖像增強和霧天圖像復原。霧天圖像增強方法不考慮圖像降質原因，方法簡單，能有效地提高霧天圖像的對比度，突出圖像的細節，改善圖像的視覺效果，但可能會造成一定的信息損失。
霧天圖像復原針對霧天圖像質量退化的機理，建立霧氣圖像退化模型，然后用圖像復原的方法，對霧天退化圖像進行復原，補償退化過程造成的失真，獲得對無霧圖像的最優估計，從而改善霧天圖像質量。這種方法針對性強，得到的去霧效果自然，信息損失小，處理的關鍵是模型中參數的估計。
4.2暗光圖像處理
在夜晚或光線不足的情況下，監控攝像很難捕獲到清晰亮麗的圖像，給道視頻監控帶來很大困難。因此，暗光圖像增強的技術具有很強的現實意義。普通的圖像增強算法對暗光圖像處理只是作全局或局部的對比度拉伸，作用有限，不易實現圖像的動態增強與色度保持。近年來的Retinex算法對暗光圖像的處理取得了良好的效果，增強了暗光圖像的對比度，較好地保持了圖像的色度。
Retinex算法在研究人的顏色視覺理論和視網膜皮層理論的基礎上，提出一種關于人類視覺系統如何調節感知到物體顏色和亮度的模型。在這一模型中，圖像由兩部分組成，一部分是場景中物體的光照亮度，對應于圖像的低頻部分，另一部分是場景中物體的反射亮度，對應于圖像的高頻部分，通常它們也被稱為亮度圖像和反射圖像。因此Retinex算法從給定的圖像中分離出亮度圖像和反射圖像，在彩色恒定的條件下，通過改變亮度圖像和反射圖像在原圖像中的比例來達到增強暗光圖像的目的。
4.3自動曝光和聚焦
（1）自動曝光
CMOS之類的傳感器只有獲得正確的曝光量，才能得到高質量的圖像。曝光過度，圖像看起來太亮；曝光不足，則圖像看起來太暗。到達傳感器的光通量的大小主要由兩方面因素決定：曝光時間的長短以及光圈的大小。利用光圈進行自動曝光，主要根據所拍攝的場景來控制光圈大小，使得進光量維持在一定范圍內，成本比較高?，F在市場所見的中低端攝像頭采用的主流技術通過調整曝光時間來實現自動曝光。在研究了大量不同光照條件的圖像實例基礎上，獲得不同光照條件下的亮度與曝光值之間的關系，自動曝光的預處理正是根據這一關系來進行曝光控制的。
（2）自動聚焦
聚焦的好壞直接影響攝像機捕獲的視頻圖像的清晰度，因此監控系統要求攝像機具有自動聚焦的功能，調整鏡頭的焦距使其焦點位于感光面上，從而獲得清晰的圖像。自動聚焦的方法可以分為三大類：一類是基于鏡頭與被攝目標之間距離測量的測距方法，另一類是基于聚焦屏上成像清晰的聚焦檢測方法，第三類是基于數字圖像處理的自動聚焦方法，這是最適宜于監控系統的一種方法。
基于數字圖像處理的自動聚焦方法對采集的每一幀圖像進行實時處理，通過判斷聚焦是否準確、成像是否清晰給出反饋信號控制鏡頭的運行，直到采集的圖像符合使用要求，即完成自動聚焦。這種方法的特點是聚焦更加智能化、聚焦判據更加靈活，方便聚焦控制的執行，從而避開復雜的對焦電路和機構。
4.4背光補償
在視頻采集過程中，如果場景中的目標遮擋住了光源，那么感興趣目標表面不能夠接收到足夠光強，導致的感興趣區域的亮度比較暗，看不清細節，這就是所謂的背光現象。很明顯，背光補償處理的目的在于提高感興趣區域的亮度，適當的對比度，同時保證整幅圖像的自然性和平滑性。背光補償的一實例如圖4所示。對于視頻序列，在保證單幀圖像補償效果的同時，還要保證補償后視頻序列亮度的連續性，避免閃爍現象的發生。
除了上面介紹的幾種特殊的預處理方法外，還有多種其它的預處理方法。例如感興趣區域的處理，這種方法首先找出圖像中感興趣區域，對此處進行增強處理，以專注于提高感興趣目標的圖像質量。再如自動鎖定動態目標的處理，和感興趣區域處理類似，首先檢測出動態目標，對該目標進行跟蹤和增析處理。
5.小結
視頻監控系統增加了預處理環節，一則可以提高解碼圖像質量，尤其是某些不利條件下的視頻質量；二則可以提高視頻編碼的效率，減少傳輸視頻的質量波動。其實，提高編碼效率和改進碼率控制，其結果仍然是提高了解碼視頻的質量。近年來，業界對視頻預處理愈加重視，各種預處理的方法層出不窮，取得了顯著的進展。但是，由于種種因素的限制，預處理的效果還不能夠令人滿意，還有諸多的問題需要在今后的研究和開發中逐步解決。未來，如何提高視頻監控的圖像效果，是否能找到除了預處理之外的有效圖像處理方法，將是促使視頻圖像效果改善的一大重點，讓我們拭目以待。
京公網安備 11010502049343號