莊子杰,范之國(guó),金海紅,2,宮凱強(qiáng)
(1.合肥工業(yè)大學(xué) 計(jì)算機(jī)與信息學(xué)院,合肥 230601;2.安徽建筑大學(xué) 電子與信息工程學(xué)院,合肥 230601)
海洋資源和海洋信息的開(kāi)發(fā)利用是近年來(lái)的熱點(diǎn)問(wèn)題,清晰的水下場(chǎng)景對(duì)水下活動(dòng)十分重要,但海洋環(huán)境十分復(fù)雜。目標(biāo)輻射在成像過(guò)程中會(huì)受到嚴(yán)重的水體吸收和散射,造成圖像模糊和顏色失真,這不利于水下視覺(jué)任務(wù)的進(jìn)一步開(kāi)展。因此研究能夠去除水體干擾、提升圖像質(zhì)量的水下成像技術(shù)具有重要意義。
長(zhǎng)期以來(lái),國(guó)內(nèi)外眾多學(xué)者在恢復(fù)水下圖像質(zhì)量方面做了大量研究,提出一系列水下成像技術(shù)?,F(xiàn)有成像技術(shù)總體上可分為兩類:一類是基于圖像處理的圖像增強(qiáng)方法,如圖像融合[1]、Retinex 理論[2]、直方圖拉伸等[3-4],這類方法重點(diǎn)關(guān)注水下圖像的“圖像”屬性,通過(guò)各種圖像處理技術(shù)使水下圖像的像素強(qiáng)度分布更符合自然無(wú)水圖像的特點(diǎn),提升圖像視覺(jué)效果;另一類是基于物理模型的圖像復(fù)原方法,這類方法通過(guò)研究光在水體中的傳輸過(guò)程構(gòu)建水下成像模型,通過(guò)求解模型中的參數(shù)完成目標(biāo)場(chǎng)景反演?,F(xiàn)有水下成像模型認(rèn)為傳感器捕獲的圖像主要由直接衰減分量和后向散射分量組成。其中直接衰減分量由目標(biāo)光經(jīng)水體衰減后產(chǎn)生,后向散射分量主要源于環(huán)境光和水體間的彈性散射。在直接衰減分量和后向散射分量的構(gòu)成中,傳輸率和背景光是關(guān)鍵部分,因此這2 個(gè)參數(shù)的求解[5-6]是水下圖像復(fù)原的關(guān)鍵問(wèn)題。
受大氣去霧中暗通道先驗(yàn)[7]的啟發(fā),一些學(xué)者挖掘出水下圖像的先驗(yàn)信息進(jìn)行圖像復(fù)原,提出了一系列基于暗通道的改進(jìn)方法[8-10],通過(guò)獲取更符合水下場(chǎng)景的先驗(yàn)規(guī)律來(lái)求解傳輸率。這類方法在估計(jì)背景光時(shí)通常直接選取圖像中最亮像素值,或最大先驗(yàn)值像素位置的原圖像強(qiáng)度,魯棒性較低。除了直接求解傳輸率外,通過(guò)確定傳輸率中衰減系數(shù)和場(chǎng)景深度這兩個(gè)組成因素間接獲得傳輸率也是一種思路。SONG 等[11]基于水下光衰減先驗(yàn)得到場(chǎng)景深度,并使用固定的三通道歸一化剩余能量比來(lái)確定傳輸率。PENG 等[12]基于圖像的模糊估計(jì)和光吸收特性求解出場(chǎng)景深度,并利用模糊圖估計(jì)出背景光。在求解傳輸率時(shí),使用固定的紅通道衰減系數(shù)先求得紅通道傳輸率,并對(duì)三通道衰減系數(shù)均取固定的標(biāo)準(zhǔn)波長(zhǎng)。之后基于固定標(biāo)準(zhǔn)波長(zhǎng)和通道間衰減系數(shù)比例關(guān)系求解藍(lán)綠通道傳輸率,完成圖像復(fù)原。BERMAN 等[13]使用場(chǎng)景邊緣圖來(lái)估計(jì)背景光,并使用霧線先驗(yàn)方法先估計(jì)出藍(lán)通道傳輸率,之后基于固定的波長(zhǎng),通過(guò)Jerlov 水體衰減系數(shù)[14]曲線先確定藍(lán)紅通道和藍(lán)綠通道的衰減系數(shù)比例候選值,通過(guò)枚舉方式獲得使復(fù)原結(jié)果最符合灰度世界假設(shè)的衰減比例,以完成復(fù)原。
衰減系數(shù)的準(zhǔn)確估計(jì)對(duì)求解傳輸率十分重要,衰減系數(shù)是水的固有光學(xué)特性,取決于水體類型和波長(zhǎng)。本文提出一種基于衰減系數(shù)反演的水下圖像復(fù)原方法,利用水下圖像呈現(xiàn)的多種光傳輸特性得到場(chǎng)景深度的融合估計(jì)結(jié)果,并根據(jù)深度圖和水下成像表達(dá)式,建立水下圖像光強(qiáng)和場(chǎng)景深度間的指數(shù)關(guān)系模型。使用非線性擬合得到衰減系數(shù)的初步估計(jì),完成后續(xù)優(yōu)化。
目標(biāo)光在水中傳輸時(shí)強(qiáng)度變化主要取決于兩個(gè)因素:目標(biāo)光的直接能量衰減;散射介質(zhì)將環(huán)境光引入傳輸路徑形成干擾[15]。
根據(jù)Beer 定律,目標(biāo)光I(λ)的直接能量衰減表示如式(1)所示:
其中:J(λ)為目標(biāo)光強(qiáng);β(λ)為水體衰減系數(shù);z是傳輸距離。
目標(biāo)光傳輸?shù)骄嚯xz處時(shí),周圍環(huán)境光經(jīng)水體微元dz的散射會(huì)產(chǎn)生散射光dL,dL傳輸距離z后到達(dá)傳感器的強(qiáng)度為dB(z,λ),其表達(dá)式如式(2)所示:
其中:I*(λ,z,d)為路徑函數(shù),表示單位路徑上由環(huán)境光散射引入的強(qiáng)度增加量,與深度d有關(guān),同一深度d的路徑函數(shù)可認(rèn)為處處相等,因此路徑函數(shù)可簡(jiǎn)化為I*(λ,d)。對(duì)距離z1=0 到z2=z的傳輸路徑進(jìn)行積分得到整個(gè)傳輸過(guò)程中引入的散射干擾強(qiáng)度B(z,λ),其表達(dá)式如式(3)所示:
路徑函數(shù)計(jì)算式如式(4)所示:
其中:δ(λ,?)是體散射函數(shù)[16];E(λ,d,?)表示深度d處沿方向?的環(huán)境光強(qiáng),同一深度不同方向的環(huán)境光強(qiáng)近似相等,?可忽略。綜合目標(biāo)光直接能量衰減和散射光干擾,到達(dá)距離目標(biāo)z處傳感器的總光強(qiáng)表達(dá)式如式(5)所示:
其中:B∞(λ,d)為無(wú)窮遠(yuǎn)處背景光。水下成像模型中,總圖像強(qiáng)度可寫成分通道形式,如下所示:
其中:c表示R、G、B 三個(gè)顏色通道,是一個(gè)波長(zhǎng)范圍。在紅光、藍(lán)光和綠光的波長(zhǎng)范圍內(nèi)可分別選擇標(biāo)準(zhǔn)波長(zhǎng)λR、λG、λB,并假設(shè)圖像對(duì)應(yīng)水體的衰減特性可由這3 個(gè)波長(zhǎng)的離散衰減系數(shù)充分表示[13,17-18],此時(shí)三通道衰減 系數(shù)均為固定 值:βR=β(λR)、βG=β(λG)、βB=β(λB)。
成像模型中環(huán)境光強(qiáng)Ec(d)的表達(dá)式為Ec(d)=,表示水面環(huán)境光E0經(jīng)水體垂直傳輸深度d后的剩余能量,其中Kc是擴(kuò)散衰減系數(shù),用來(lái)描述光在水下垂直傳播單位深度后的能量變化。不同通道的擴(kuò)散衰減系數(shù)不同,這使得環(huán)境光垂直傳輸?shù)侥繕?biāo)后本身就存在一定色差,因此為完成水下圖像復(fù)原,還需考慮環(huán)境光垂直傳輸衰減差異造成的垂直色差影響。
通過(guò)水下成像模型可知,為獲得原始場(chǎng)景圖像Jc,需要估計(jì)無(wú)窮遠(yuǎn)處背景光、場(chǎng)景深度z(x)、衰減系數(shù)βc等參數(shù)。接下來(lái)分別介紹這些參數(shù)的求解方法,圖1 為本文方法的整體流程。
圖1 本文方法的流程Fig.1 Procedure of method in this paper
為避免垂直色差對(duì)水平方向上光衰減先驗(yàn)造成干擾,本文首先進(jìn)行垂直色差矯正,并根據(jù)背景區(qū)域光強(qiáng)特點(diǎn)估計(jì)全局背景光;接著基于圖像模糊特征、紅光衰減特征和通道間衰減差異特征這3 個(gè)傳輸特性完成場(chǎng)景深度融合估計(jì);最后利用場(chǎng)景深度,基于不同深度區(qū)間中暗像素位置目標(biāo)光強(qiáng)近似為定值的假設(shè),使用非線性擬合完成衰減系數(shù)初步求解,并基于灰度世界理論進(jìn)行衰減系數(shù)優(yōu)化,完成圖像復(fù)原。為進(jìn)一步提高圖像清晰度,使用非銳化掩膜進(jìn)行圖像增強(qiáng),凸顯細(xì)節(jié)信息。
結(jié)合Retinex 理論[2],將水下成像模型表示如下:
其中:ρc(x)是目標(biāo)表面反射率。水下圖像的場(chǎng)景目標(biāo)可近似認(rèn)為處于同一深度,因此環(huán)境光垂直衰減色差可看作全局色差。使用代表照射到目標(biāo)上的不同通道環(huán)境光強(qiáng)衰減差異,得到式(8):
式(8)表明水下場(chǎng)景圖像由存在色差的環(huán)境光照射產(chǎn)生。為了使復(fù)原結(jié)果是無(wú)色差環(huán)境光照射下的目標(biāo)圖像,對(duì)整幅圖像進(jìn)行全局白平衡,將每個(gè)通道除以最大像素強(qiáng)度Ιcmax,消除引起的全局色差,色差消除后的圖像強(qiáng)度可近似表示如下:
其中:E1是處理后照射到目標(biāo)上的全局環(huán)境光常量,近似反映水面處無(wú)色差入射光強(qiáng);為全局背景光。垂直色差消除保證了圖像不同通道的強(qiáng)度特性主要由水平方向的衰減產(chǎn)生,降低了后續(xù)使用強(qiáng)度衰減先驗(yàn)規(guī)律估計(jì)參數(shù)的誤差。
背景光強(qiáng)度對(duì)應(yīng)著無(wú)窮遠(yuǎn)處像素強(qiáng)度。由于紅光在水中衰減嚴(yán)重,背景區(qū)域紅通道強(qiáng)度很小,綠光和藍(lán)光波長(zhǎng)較短,強(qiáng)散射使得背景區(qū)域藍(lán)綠通道強(qiáng)度相對(duì)較大。因此通過(guò)確定圖像中紅通道強(qiáng)度較小且藍(lán)綠通道強(qiáng)度較大的像素位置來(lái)估計(jì)背景光強(qiáng),構(gòu)建描述每個(gè)像素紅通道和藍(lán)綠通道間相對(duì)大小關(guān)系的表達(dá)式如式(10)所示:
其中:MinFilter(·)為最小值濾波,目的是避免場(chǎng)景中單一顏色物體影響,提高估計(jì)背景光的魯棒性;p值大小與該像素紅通道值成正比、藍(lán)綠通道值成反比,因?yàn)檩^遠(yuǎn)區(qū)域存在噪聲干擾,選擇p值最小的0.1%~0.2%像素位置作為背景光所在位置,并取這些位置的原圖像素均值作為背景光強(qiáng),該過(guò)程表達(dá)式如式(11)所示:
其中:pfin表示p值最小的0.1%~0.2%像素位置。圖2為消除垂直色差后的圖像及背景光估計(jì)結(jié)果。
圖2 垂直色差消除與背景光估計(jì)結(jié)果Fig.2 Results of the vertical color distortion and background light estimating
水體對(duì)光的吸收和散射會(huì)使水下圖像呈現(xiàn)出一些傳輸特性,如圖像色差、霧化模糊等,這些傳輸特性反映了水下場(chǎng)景深度信息。本文利用不同的傳輸特性給出3 種場(chǎng)景深度估計(jì)方法,并通過(guò)融合方式得到最符合水下圖像特征的深度估計(jì)結(jié)果。
后向散射光容易造成圖像霧化模糊,且隨著場(chǎng)景深度增加圖像霧化越嚴(yán)重。水下圖像不同區(qū)域的霧化程度反映了該區(qū)域的后向散射光強(qiáng)強(qiáng)度,可以描述圖像相對(duì)深度。本文使用水下圖像紅通道先驗(yàn)(Red Channel Prior,RCP)[10]來(lái)反映圖像霧化模糊程度。對(duì)水下圖像Ι′(x)取紅通道先驗(yàn):
其中:N(x)表示以x為中心的像素鄰域;S(·)表示圖像飽和度。
圖3 為水下圖像的RCP 圖及其最大濾波結(jié)果。對(duì)水下圖像紅通道先驗(yàn)圖(圖3(b))及式(12)~式(13)分析可得,在近距離區(qū)域,由于霧化模糊程度很低,三通道強(qiáng)度滿足保留有一定的值,此時(shí)的值較小,RCP值較小[10],接近于0;隨著傳輸距離的增加,圖像霧化模糊程度變大,紅光的衰減使得(y)的值逐漸減小,趨近于0,此時(shí)RCP 值取決于(y)和(y),這兩個(gè)通道對(duì)散射較為敏感,隨著散射增加,藍(lán)綠通道強(qiáng)度逐漸變大,RCP 值也越來(lái)越大。
圖3 水下圖像的RCP 圖及其最大值濾波結(jié)果Fig.3 RCP map of underwater image and its maximum filtering result
水下圖像的RCP 值反映了圖像不同區(qū)域的霧化模糊程度。對(duì)模糊圖進(jìn)行最大值濾波優(yōu)化,得到最終的霧化模糊程度,其描述如圖3(c)所示,表達(dá)式如式(14)所示:
其中:MaxFilter(·)表示最大值濾波。
為得到場(chǎng)景相對(duì)深度,歸一化霧化模糊圖得到相對(duì)深度的第1 個(gè)估計(jì):
其中:Fs(·)表示圖像歸一化處理。
紅通道相比其他通道受水體衰減影響最嚴(yán)重,強(qiáng)度變化對(duì)傳輸距離最敏感。直接使用紅通道強(qiáng)度得到場(chǎng)景深度的第2 個(gè)估計(jì):
最后根據(jù)不同通道的衰減差異估計(jì)場(chǎng)景深度,這里使用文獻(xiàn)[11]的方法,將場(chǎng)景深度表示為描述之間差值的線性函數(shù):
其中:θa=0.53 214829;θb=0.51 309827;θc=0.910 066 194。
依據(jù)水下圖像的不同傳輸特性,確定了3 個(gè)場(chǎng)景預(yù)估計(jì)深度。接下來(lái)通過(guò)融合獲取最符合圖像退化特征的深度估計(jì)結(jié)果,融合表達(dá)式如下:
當(dāng)圖像十分模糊時(shí),背景光干擾很強(qiáng),當(dāng)紅通道值很小時(shí),基于通道衰減特性的估計(jì)方法誤差較大,此時(shí)選擇基于霧化模糊估計(jì)深度。當(dāng)圖像保留有一定的紅通道值,霧化模糊偏弱時(shí),選擇基于通道衰減特性來(lái)估計(jì),如果背景光較亮,說(shuō)明仍存在一定程度的散射光,只使用紅通道傳輸特性容易受到干擾,因此選擇基于通道衰減差異來(lái)估計(jì)深度;如果此時(shí)背景光較弱,說(shuō)明圖像相對(duì)清晰,可直接使用紅通道傳輸特性估計(jì)深度。在這3 種極端情況之間,可得任意類型水下圖像的融合深度表達(dá)。
使用引導(dǎo)濾波[20]去除塊效應(yīng),得到最終的歸一化相對(duì)深度圖DRela,其表達(dá)式如下:
3 種場(chǎng)景深度估計(jì)值及相對(duì)深度融合估計(jì)結(jié)果如圖4 所示。
圖4 3 種場(chǎng)景深度預(yù)估計(jì)值及相對(duì)深度融合估計(jì)結(jié)果Fig.4 Three depth pre-estimation values and the relative depth fusion estimation results of the scenarios
為復(fù)原水下圖像,要得到水下場(chǎng)景的絕對(duì)深度。在相對(duì)深度基礎(chǔ)上,得到距離相機(jī)最近的場(chǎng)景點(diǎn)深度其表達(dá)式如下:
結(jié)合式(21)計(jì)算出場(chǎng)景絕對(duì)深度表達(dá)DFinal如下:
實(shí)際的水下圖像對(duì)應(yīng)不同的水體類型,不同水體類型所含雜質(zhì)在成分和數(shù)量上存在差異,衰減系數(shù)存在區(qū)別。Jerlov 基于水的透明度開(kāi)發(fā)了一種常用的水域分類方案,根據(jù)文獻(xiàn)[21],得到不同Jerlov水體類型的衰減系數(shù)變化曲線如圖5 所示。本文主要針對(duì)開(kāi)闊海洋水域的圖像,因此主要列出I、IA、IB、II、III 這5 種開(kāi)闊海洋水體類型的衰減系數(shù)分布。衰減系數(shù)值隨著水體類型和波長(zhǎng)的變化而變化,藍(lán)光系數(shù)隨波長(zhǎng)變化較為平緩,綠光系數(shù)隨波長(zhǎng)變化稍快一些,紅光系數(shù)隨波長(zhǎng)變化最為急促。這些典型衰減系數(shù)分布提供了其隨水體類型和波長(zhǎng)的分布趨勢(shì)參考。需要指出,這些取值分布在離散曲線上不能直接反映任意水下圖像的衰減系數(shù)。衰減系數(shù)與標(biāo)準(zhǔn)波長(zhǎng)有關(guān),需要考慮傳感器靈敏度影響,不同水下圖像標(biāo)準(zhǔn)波長(zhǎng)會(huì)有所不同。衰減系數(shù)分布范圍較大,直接對(duì)整個(gè)系數(shù)分布進(jìn)行迭代尋優(yōu),效率低且誤差較大。因此為提高衰減系數(shù)估計(jì)的準(zhǔn)確性,本文不事先預(yù)設(shè)水體類型和波長(zhǎng)值,以Jerlov 衰減系數(shù)分布為參考,從水下圖像本身去反演衰減系數(shù),獲得符合圖像本身特征的值。
圖5 不同水體類型的衰減系數(shù)曲線Fig.5 Attenuation coefficient curves of different water types
利用水下圖像場(chǎng)景深度圖DFinal,在最大深度和最小深度數(shù)值范圍內(nèi)依據(jù)像素深度值將深度圖9 等分,得到9 個(gè)深度區(qū)間Di(i=1,2,…,9)。根據(jù)每個(gè)深度區(qū)間Di的像素位置得到一一對(duì)應(yīng)的9 個(gè)水下圖像強(qiáng)度區(qū)間(i=1,2,…,9),c∈{R,G,B}。由于整體深度大小被9 等分,每個(gè)深度區(qū)間內(nèi)深度值變化范圍較小,且整幅圖像的背景光和衰減系數(shù)βc是定值,因此單個(gè)圖像區(qū)間內(nèi)的后向散射光強(qiáng)變化范圍也比較小,此時(shí)圖像區(qū)間內(nèi)總光強(qiáng)的變化主要取決于目標(biāo)光強(qiáng)的變化。
在每個(gè)圖像區(qū)間,c∈{R,G,B}內(nèi)選擇強(qiáng)度最小的1%像素位置,由于取決于,這些位置的目標(biāo)光強(qiáng)普遍較低,一般對(duì)應(yīng)場(chǎng)景中較暗物體、陰影區(qū)域等。假設(shè)這些較低的目標(biāo)光強(qiáng)可近似看作定值,即在所有內(nèi)像素強(qiáng)度最小的1%位置處的目標(biāo)光強(qiáng)是一個(gè)相同的定值。
在內(nèi)選擇的強(qiáng)度最小1%像素位置,可將成像模型表達(dá)如下:
其中:ac為固定的目標(biāo)光強(qiáng)為衰減系數(shù)。在這些像素位置,總光強(qiáng)(x)和場(chǎng)景深度D(x)之間是一種指數(shù)變換關(guān)系,ac和bc是指數(shù)曲線的兩個(gè)參數(shù)。通過(guò)獲取數(shù)值對(duì)進(jìn)行曲線擬合,可得到該指數(shù)變換表達(dá)式及其參數(shù)值。為使擬合結(jié)果更準(zhǔn)確,參考Jerlov 衰減系數(shù)分布,三通道ac取值界限均為[0.001,1],bR、bG、bB取值界限分別 為[0.04,3]、[0.02,3]、[0.02,3]。曲線擬合方程如式(24)所示:
由于背景處像素強(qiáng)度容易受到噪聲干擾,同時(shí)在較遠(yuǎn)背景區(qū)域紅通道值很小,在這些區(qū)域選取擬合點(diǎn)會(huì)由于大量的yc=0 帶來(lái)擬合誤差,所以對(duì)R通道由近到遠(yuǎn)選取等4 個(gè)強(qiáng)度區(qū)間,G、B 通道選 取等7 個(gè)強(qiáng)度區(qū)間(其中K∈{G,B})。擬合點(diǎn)是在圖像子區(qū)間像素強(qiáng)度最小的1%像素位置選取的,這些像素位置處圖像強(qiáng)度變化范圍不大,實(shí)驗(yàn)也表明單個(gè)區(qū)間的擬合點(diǎn)個(gè)數(shù)對(duì)于復(fù)原結(jié)果的影響不大。為避免擬合點(diǎn)過(guò)于聚集,同時(shí)考慮到一些尺寸偏小圖像的像素點(diǎn)總個(gè)數(shù)有限,擬合點(diǎn)不宜設(shè)置過(guò)多,因此根據(jù)經(jīng)驗(yàn)取值,在每個(gè)強(qiáng)度區(qū)間的最小1%像素位置等間隔選取120 個(gè)點(diǎn),最終得到480 個(gè)R 通道擬合點(diǎn)(xRn,yRn)[n=1,2,…,480],840個(gè)G、B通道擬合點(diǎn)(xKn,yKn)[K∈{G,B},n=1,2,…,840]。
2.4 品質(zhì)分析 由表5可知,9個(gè)供試品種含油量在40.65%~48.83%,玉油5號(hào)最高,玉紅油2號(hào)最低;芥酸含量在0~0.40%,玉油1號(hào)、玉紅油2號(hào)、云油雜2號(hào)及云油雜15號(hào)均為檢出;硫甙含量在20.30%~29.89%,玉油4號(hào)最低,花油8號(hào)最低;供試品種均符合“雙低油菜”(芥酸含量低于3%,硫甙含量低于30 μmol/g)標(biāo)準(zhǔn)。
分通道對(duì)擬合點(diǎn)進(jìn)行非線性最小二乘擬合,依據(jù)擬合結(jié)果得到參數(shù)bc,即水下圖像衰減系數(shù)的初步估計(jì)值βcpre。圖6 為衰減系數(shù)優(yōu)化前后的后向散射強(qiáng)度曲線,圖6(b)給出了基于βcpre得到的后向散射光強(qiáng)曲線。整個(gè)擬合過(guò)程基于目標(biāo)光強(qiáng)為定值的假設(shè)進(jìn)行,這會(huì)引入一定誤差,為提高衰減系數(shù)估計(jì)的準(zhǔn)確性,本文在βcpre的基礎(chǔ)上通過(guò)迭代尋優(yōu)來(lái)優(yōu)化βc值。
圖6 衰減系數(shù)優(yōu)化前后的后向散射強(qiáng)度曲線Fig.6 Backscattering intensity curves before and after optimizing attenuation coefficient
βcpre能夠初步反映出圖像水體類型和標(biāo)準(zhǔn)波長(zhǎng),這縮小了迭代區(qū)間。以初步確定的水體類型和波長(zhǎng)為基準(zhǔn),參考Jerlov曲線,在較小的波長(zhǎng)變化范圍內(nèi),選擇R通道的衰減系數(shù)變化區(qū)間近似為0.20;G、B 通道的衰減系數(shù)變化區(qū)間偏小,近似為0.10。因此分別選取三通道衰減系數(shù)的迭代區(qū)間為 [max(βRpre-0.10,0.04),βRpre+0.10]、[max(βGpre-0.05,0.02),βGpre+0.05]、[max(βBpre-0.05,0.02),βBpre+0.05],迭代步長(zhǎng)為0.01。
對(duì)每一組衰減系數(shù)[βR,βG,βB],求解相應(yīng)復(fù)原結(jié)果,計(jì)算式如式(25)所示:
對(duì)每一個(gè),通過(guò)灰度世界假設(shè)[22]判斷其圖像質(zhì)量。經(jīng)灰度世界算法處理后的圖像表達(dá)式如(26)所示:
其中:aver(·)表示取圖像強(qiáng)度均值;c∈{R,G,B}。
灰度世界處理前后圖像的變化程度反映了對(duì)灰度世界假設(shè)的符合程度,變化程度越低,越符合灰度世界假設(shè),圖像質(zhì)量越高。因此變化程度最低時(shí)的衰減系數(shù)就是最終衰減系數(shù)取值,對(duì)應(yīng)復(fù)原結(jié)果即為最終的復(fù)原圖像。本文使用圖像間歐式距離反映灰度世界處理前后圖像的變化程度,表達(dá)式如式(27)所示:
最終衰減系數(shù)和復(fù)原圖像結(jié)果如式(28)所示:
基于優(yōu)化后衰減系數(shù)βc求解的后向散射分布曲線如圖6(c)所示。圖7 給出了最終得到的R、G、B 三通道傳輸率圖以及衰減系數(shù)優(yōu)化前后的復(fù)原結(jié)果,由圖7 可以看到衰減系數(shù)的優(yōu)化使復(fù)原圖像的質(zhì)量有了一定提升。
圖7 三通道傳輸率圖及衰減系數(shù)優(yōu)化前后的復(fù)原結(jié)果Fig.7 Three channel transmission rate map and restoration results before and after optimization of attenuation coefficient
為提升圖像細(xì)節(jié),使用非銳化掩膜對(duì)復(fù)原結(jié)果進(jìn)行增強(qiáng)。本文方法的基本思想是先對(duì)整幅圖像進(jìn)行濾波模糊,在原圖像中去除模糊區(qū)域得到高頻部分即圖像細(xì)節(jié)信息,對(duì)細(xì)節(jié)信息進(jìn)行調(diào)節(jié)再加回原圖像,得到細(xì)節(jié)增強(qiáng)后的復(fù)原結(jié)果,其表達(dá)式如式(29)所示:
圖8 所示為復(fù)原圖像經(jīng)非銳化掩膜增強(qiáng)前后的細(xì)節(jié)提升效果,由圖8 可知增強(qiáng)圖像的清晰度和紋理細(xì)節(jié)相比初步復(fù)原的圖像均有提升。
圖8 非銳化掩膜前后的圖像細(xì)節(jié)提升效果對(duì)比Fig.8 Comparison of image detail enhancement effects before and after unsharp mask enhancement
為驗(yàn)證本文所提方法的有效性和魯棒性,對(duì)本文方法的復(fù)原效果進(jìn)行實(shí)驗(yàn)分析,分析內(nèi)容包括方法參數(shù)分析、中間結(jié)果分析、主觀評(píng)價(jià)、客觀評(píng)價(jià)。將本文方法與背景光統(tǒng)計(jì)模型與傳輸率優(yōu)化(SMBOT)[9]、圖像模糊與光吸收(IBLA)[12]、水下光衰減先驗(yàn)(ULAP)[11]、水下暗通道先驗(yàn)(UDCP)[8]等現(xiàn)有方法進(jìn)行對(duì)比。本節(jié)用于比較的水下圖像復(fù)原方法的復(fù)原結(jié)果均為原作者共享代碼或網(wǎng)絡(luò)代碼以默認(rèn)參數(shù)直接運(yùn)行的結(jié)果。為充分分析,對(duì)2 個(gè)常用的水下圖像增強(qiáng)基準(zhǔn)(UIEB)數(shù)據(jù)集[23]和真實(shí)世界水下圖像增強(qiáng)(RUIE)數(shù)據(jù)集[24]進(jìn)行了實(shí)驗(yàn)處理。
2.3 節(jié)對(duì)場(chǎng)景深度圖DFinal進(jìn)行了9 等分,深度等分是為了使等分后的深度子區(qū)間Di內(nèi)數(shù)值變化很小,使對(duì)應(yīng)圖像子區(qū)間內(nèi)總光強(qiáng)Ii的變化主要取決于目標(biāo)光強(qiáng)Ji的變化,保證在總光強(qiáng)最小1%像素位置的目標(biāo)光強(qiáng)可看作定值的假設(shè)成立。因此深度區(qū)間個(gè)數(shù)需保證等分后的深度子區(qū)間內(nèi)數(shù)值范圍較小。
本文探究了區(qū)間劃分個(gè)數(shù)對(duì)圖像信息熵的影響,為保證等分后深度數(shù)值范圍較小,以6 等分為起點(diǎn),保持總擬合點(diǎn)個(gè)數(shù)基本不變,固定迭代區(qū)間,依次得到深度圖6、9、12、15 等分后的圖像復(fù)原結(jié)果,復(fù)原圖像信息熵隨區(qū)間個(gè)數(shù)變化的折線圖如圖9 所示。由圖9(d)可以看出圖像信息熵變化較小,區(qū)間在由6 等分變?yōu)? 等分后信息熵有小幅提升,之后該值趨于平穩(wěn),本文最終選擇深度區(qū)間等分為9 等分。
圖9 信息熵隨區(qū)間個(gè)數(shù)的變化曲線Fig.9 Curve of information entropy changing with the number of interval
本文使用迭代尋優(yōu)來(lái)修正假設(shè)目標(biāo)光強(qiáng)為定值帶來(lái)的誤差,這里將分析迭代區(qū)間對(duì)復(fù)原結(jié)果的影響。根據(jù)文獻(xiàn)[21]中的數(shù)據(jù),單個(gè)水體類型下單通道衰減系數(shù)數(shù)值最大變化范圍為0.5 左右,此外水體G 通道和B 通道的光衰減特性較為接近,相同水體類型R 通道衰減系數(shù)整體上要大于G、B 通道衰減系數(shù),因此設(shè)置R 通道迭代區(qū)間增加值Num_R 依次為0.05、0.10、0.15、0.20、0.25;相應(yīng)地G、B 通道迭代區(qū)間增加值Num_G 和Num_B 依次取區(qū)間[0.05,Num_R];內(nèi)的值,步長(zhǎng)為0.05。最終依次得到三通道的15 個(gè)迭代區(qū)間:[max(βRpre-Num_R,0.04),βRpre+Num_R];[max(βKpre-Num_K,0.02),βKpre+Num_K](K∈G、B)。利用每個(gè)迭代區(qū)間進(jìn)行衰減系數(shù)迭代優(yōu)化,并分析優(yōu)化后復(fù)原結(jié)果的圖像質(zhì)量。
使用信息熵作為復(fù)原結(jié)果質(zhì)量的評(píng)價(jià)指標(biāo),圖10 所示為3 個(gè)復(fù)原圖像的信息熵變化曲線,橫坐標(biāo)為0 處代表迭代優(yōu)化前的復(fù)原圖像,橫坐標(biāo)1~15 依次代表選取的迭代區(qū)間。由圖10 可以看出,相比迭代優(yōu)化前,圖像信息熵有了一定的提升,之后隨著迭代區(qū)間的變化,信息熵的極大值變化不大。圖10(b)在第2 個(gè)迭代區(qū)間后信息熵的極大值在7.55 左右波動(dòng),圖10(a)、圖10(c)在第1 個(gè)迭代區(qū)間后信息熵整體分別穩(wěn)定在7.63 和7.46 左右。選取指標(biāo)極大值處對(duì)應(yīng)的迭代區(qū)間,為保證復(fù)原圖像質(zhì)量,同時(shí)考慮到算法效率等影響因素,本文最終選取迭代區(qū)間為Num_R=0.10,Num_G=Num_B=0.05。
圖10 信息熵隨迭代區(qū)間變化的曲線Fig.10 Curve of information entropy changing with iteration interval
為分析本文方法中每個(gè)步驟的影響和作用,本節(jié)對(duì)中間結(jié)果進(jìn)行分析,實(shí)驗(yàn)結(jié)果如圖11 和圖12 所示。圖11 依次給出了原圖像垂直色差消除的結(jié)果、場(chǎng)景深度、衰減系數(shù)迭代優(yōu)化前和優(yōu)化后的復(fù)原結(jié)果、非銳化掩膜增強(qiáng)結(jié)果。圖12 依次給出了原圖、色差消除后、優(yōu)化前、優(yōu)化后以及非銳化掩膜增強(qiáng)后結(jié)果的平均梯度值變化趨勢(shì)。綜合主客觀分析結(jié)果,可以看出隨著方法步驟的進(jìn)行,圖像整體質(zhì)量在不斷提高。
圖11 中第1 行圖像(圖像1)具有一定景深,包含場(chǎng)景范圍較大,水平方向的光吸收和散射是導(dǎo)致圖像色差與模糊的主要原因,本文方法中的垂直色差消除步驟提高了場(chǎng)景深度估計(jì)的準(zhǔn)確性,場(chǎng)景深度估計(jì)結(jié)果能夠反映圖像的特征。而經(jīng)衰減系數(shù)反演得到的優(yōu)化前復(fù)原結(jié)果,其整體質(zhì)量相比垂直色差消除后的結(jié)果有明顯提升,這符合該圖像具有一定景深、圖像退化主要發(fā)生在水平方向上的特點(diǎn)。優(yōu)化后的復(fù)原圖像進(jìn)一步提升了視覺(jué)效果和清晰度,證明了優(yōu)化方法的有效性。相比于圖像1,圖11第2 行所示圖像(圖像2)的場(chǎng)景深度較小,圖像色差主要由垂直方向光衰減產(chǎn)生,垂直色差消除矯正了顏色失真,后續(xù)處理結(jié)果進(jìn)一步去除了散射模糊。圖12 中的平均梯度折線圖呈現(xiàn)出明顯的逐步驟上升趨勢(shì),圖像清晰度不斷提高,最終復(fù)原結(jié)果的平均梯度接近于原水下圖像平均梯度的5 倍。
圖11 本文方法的中間結(jié)果Fig.11 Results in process of the method in this paper
圖12 本文方法的平均梯度值變化趨勢(shì)Fig.12 Variation trend of the mean gradient value of method in this paper
散射光帶來(lái)的成像模糊是水下成像質(zhì)量不佳的主要原因,為評(píng)估所提算法的有效性,首先對(duì)圖像細(xì)節(jié)紋理的提升效果進(jìn)行對(duì)比分析,實(shí)驗(yàn)結(jié)果如圖13 所示。本文選取了UIEB 數(shù)據(jù)集中的兩幅圖像,將圖9(a)中場(chǎng)景中間位置和圖9(b)中場(chǎng)景近處的巖石部分進(jìn)行放大,選取位置如圖13 中白色方框所示。可以看出本文方法和SMBOT 方法的細(xì)節(jié)提升效果明顯好于其他方法,巖石的紋理均清晰可見(jiàn),對(duì)比度和清晰度明顯提高。通過(guò)放大區(qū)域可以看出,IBLA 方法和ULAP 方法并不能有效地去除散射影響,圖像依然存在色差,細(xì)節(jié)紋理不夠清晰,而UDCP 方法的復(fù)原結(jié)果則存在嚴(yán)重的失真現(xiàn)象,復(fù)原效果并不好。相比于SMBOT 方法,本文方法去除散射更加徹底,也更好地消除了色差影響,整體視覺(jué)感受更加自然,這說(shuō)明本文方法在細(xì)節(jié)提升上具有較好的效果。
圖13 水下圖像細(xì)節(jié)提升效果對(duì)比Fig.13 Comparison of the effect of details-enhancing of the underwater images
為更全面地分析本文方法的有效性,本文選擇UIEB 數(shù)據(jù)集中6 幅不同場(chǎng)景的水下圖像進(jìn)行復(fù)原實(shí)驗(yàn),選取的處理圖像包含偏綠色調(diào)、偏藍(lán)色調(diào)的圖像,也包括場(chǎng)景中含有背景區(qū)域、目標(biāo)充滿整個(gè)場(chǎng)景等類型的水下圖像。4 種對(duì)比方法及本文方法的復(fù)原結(jié)果如圖14 所示??梢钥闯?,本文方法在各種主觀視覺(jué)感受上均取得了較好效果。對(duì)于不同類型的圖像,本文方法均能提升圖像清晰度,復(fù)原結(jié)果的細(xì)節(jié)紋理更加明顯,這證明了本文方法在去散射方面的有效性。通過(guò)整體的復(fù)原結(jié)果可以看出本文方法和SMBOT 方法明顯好于其他方法,IBLA 方法的散射去除不夠徹底,ULAP 和UDCP 方法的復(fù)原結(jié)果仍存在色差。本文方法的恢復(fù)結(jié)果相比SMBOT 方法而言,恢復(fù)紋理更清晰,色彩更自然,這說(shuō)明本文方法對(duì)不同類型的水下圖像均能提升其整體質(zhì)量。
圖14 不同方法在UIEB 數(shù)據(jù)集下的圖像復(fù)原效果對(duì)比Fig.14 Comparison of image restoration effects of different methods under UIEB dataset
為驗(yàn)證本文方法的普遍有效性,額外使用RUIE 數(shù)據(jù)集進(jìn)行復(fù)原實(shí)驗(yàn)和對(duì)比分析,本文選取了5 幅圖像,涵蓋綠色調(diào)和藍(lán)綠色調(diào),實(shí)驗(yàn)結(jié)果如圖15 所示。通過(guò)對(duì)比分析可以發(fā)現(xiàn),本文方法對(duì)RUIE 數(shù)據(jù)集中的圖像依然取得了較好的復(fù)原結(jié)果。從圖15 可以看出,本文方法和SMBOT 方法處理效果仍是最優(yōu)的,UDCP 方法的處理結(jié)果整體偏暗且顏色失真比較嚴(yán)重,IBLA 和ULAP 方法雖然在一定程度上提高了清晰度,但并沒(méi)有消除圖像色差。本文方法有效提升了圖像的細(xì)節(jié)紋理信息,圖像顏色也更自然,相比于SMBOT 方法,本文方法的去散射程度更徹底,這表明本文方法對(duì)RUIE 數(shù)據(jù)集的圖像的處理效果較好。
圖15 不同方法在RUIE 數(shù)據(jù)集下的圖像復(fù)原效果對(duì)比Fig.15 Comparison of image restoration effects of different methods under RUIE dataset
在進(jìn)行主觀視覺(jué)感受分析后,使用客觀評(píng)價(jià)指標(biāo)進(jìn)一步分析本文的圖像復(fù)原效果。采用的評(píng)價(jià)指標(biāo)包括無(wú)參考的水下彩色圖像質(zhì)量評(píng)估(Underwater Color Image Quality Evaluation,UCIQE)[25]、基于人眼視覺(jué)系統(tǒng)激勵(lì)的無(wú)參考水下圖像質(zhì)量評(píng)價(jià)(Underwater Image Quality Measure,UIQM)指標(biāo)、圖像信息熵(Entropy)、圖像的平均梯度(Mean Gradient,MG)。其中UCIQE 和UIQM 用來(lái)評(píng)價(jià)圖像整體質(zhì)量,包括色彩、清晰度、對(duì)比度等;信息熵和平均梯度用來(lái)描述圖像清晰度和細(xì)節(jié)信息,可以反映圖像去散射效果。使用以上指標(biāo)對(duì)3.3節(jié)2 個(gè)數(shù)據(jù)集的復(fù)原結(jié)果進(jìn)行評(píng)估。UIEB 數(shù)據(jù)集中8 幅復(fù)原圖像的指標(biāo)平均值如表1 所示,RUIE 數(shù)據(jù)集中5 幅復(fù)原圖像的指標(biāo)平均值如表2 所示。
表1 不同方法在UIEB 數(shù)據(jù)集下的復(fù)原結(jié)果評(píng)價(jià)指標(biāo)平均值Table 1 Average value of restoration results evaluation indicators of different methods under UIEB dataset
表2 不同方法在RUIE 數(shù)據(jù)集下的復(fù)原結(jié)果評(píng)價(jià)指標(biāo)平均值Table 2 Average value of restoration results evaluation indicators of different methods under RUIE dataset
通過(guò)表1 可以看出,本文方法對(duì)UIEB 數(shù)據(jù)集中圖像處理結(jié)果的評(píng)價(jià)指標(biāo)整體表現(xiàn)較好,其中信息熵和平均梯度的平均值好于其他對(duì)比方法,這表明本文方法有效去除了圖像散射,使圖像清晰度明顯提升,圖像細(xì)節(jié)信息更加凸顯。本文方法的UCIQE 和UIQM 指標(biāo)值也好于其他對(duì)比方法,其中UCIQE 指標(biāo)為最佳值,UIQM 指標(biāo)值排第2,這表明本文方法在恢復(fù)圖像整體質(zhì)量上取得了很好的效果,復(fù)原結(jié)果的色彩較均衡、對(duì)比度更高、視覺(jué)效果較好。
通過(guò)表2 可以看出,與其他對(duì)比方法相比,本文方法的指標(biāo)平均值均較好,與SMBOT、IBLA、ULAP、UDCP 方法相比,本文方法在RUIE 數(shù)據(jù)集上的Entropy 值分別提升了4.9%、5.4%、9.2%、17.9%,這說(shuō)明本文方法對(duì)RUIE 數(shù)據(jù)集中的水下圖像同樣具有很好的復(fù)原效果。
綜上可知,不論是在主觀視覺(jué)感受上,還是客觀指標(biāo)評(píng)價(jià)上,本文方法均表現(xiàn)較佳,既能夠去除水下圖像的散射影響,提升圖像清晰度,凸顯細(xì)節(jié)信息,也能夠減弱圖像色彩失真,提升圖像整體視覺(jué)效果。
本文提出一種基于水體衰減系數(shù)直接反演的水下圖像復(fù)原方法,不基于固定的水下圖像水體類型和標(biāo)準(zhǔn)波長(zhǎng),而是通過(guò)反演的方式從圖像中求解出最適合圖像本身的衰減系數(shù)并完成復(fù)原。通過(guò)對(duì)圖像去除垂直衰減色差,使描述水下圖像強(qiáng)度規(guī)律的先驗(yàn)信息能更準(zhǔn)確地反映水平方向的光傳輸特性,提升背景光估計(jì)和場(chǎng)景深度估計(jì)的準(zhǔn)確性。基于在單個(gè)顏色通道的圖像強(qiáng)度區(qū)間內(nèi),像素值最小的1%像素位置處目標(biāo)光強(qiáng)可近似為定值的假設(shè),使用非線性擬合完成衰減系數(shù)求解,并進(jìn)行衰減系數(shù)值的優(yōu)化,成功復(fù)原圖像質(zhì)量。實(shí)驗(yàn)結(jié)果表明,與SMBOT、IBLA、ULAP 等方法相比,本文方法能更好地提升水下圖像復(fù)原質(zhì)量。下一步將通過(guò)尋找更準(zhǔn)確的水下圖像強(qiáng)度先驗(yàn)規(guī)律,降低衰減系數(shù)的估計(jì)誤差,提升復(fù)原效果。