張家林,曹津國,余義斌,張玉蘭
(五邑大學(xué) 信息工程學(xué)院,廣東 江門 529020)
基于非線性動(dòng)態(tài)閾值FISTA的圖像修復(fù)算法
張家林,曹津國,余義斌,張玉蘭
(五邑大學(xué) 信息工程學(xué)院,廣東 江門 529020)
快速迭代收縮閾值算法(FISTA)因其快速、有效特性被廣泛應(yīng)用在圖像復(fù)原領(lǐng)域.但此算法采用固定閾值,不能自適應(yīng)更新中的復(fù)原圖像水平,進(jìn)而不能更有效地收斂,因此本文對(duì)其進(jìn)行改進(jìn),提出非線性動(dòng)態(tài)閾值(NLDT)方法,選取小波變換作為稀疏先驗(yàn)項(xiàng).圖像修復(fù)的仿真實(shí)驗(yàn)表明,當(dāng)總迭代次數(shù)大于20,NLDT能產(chǎn)生比其他實(shí)驗(yàn)方法更高的PSNR,說明了本文算法能快速得到更精確的解.本文方法可用于圖像去噪、圖像去模糊、圖像超分辨率等,也可用于計(jì)算機(jī)視覺和機(jī)器學(xué)習(xí)等大規(guī)模優(yōu)化問題.
快速迭代收縮閾值;小波變換;非線性動(dòng)態(tài)閾值;圖像修復(fù)
照片受污損、刮擦和遮擋等緣故都會(huì)造成圖像退化,數(shù)字圖像修復(fù)是一項(xiàng)有效的圖片修復(fù)技術(shù).對(duì)于一張部分內(nèi)容缺失的圖像,數(shù)字圖像修復(fù)技術(shù)利用已有的圖像信息可重建缺失的部分,其已成為圖像復(fù)原研究中的一個(gè)重要課題,許多學(xué)者進(jìn)行了多方面的探索和研究,主要有以下幾類:
第一類修復(fù)算法是基于擴(kuò)散的方法,它是在像素層次上對(duì)已知圖像區(qū)域進(jìn)行擴(kuò)散來填充缺失區(qū)域[1-2].其后,Chan和Shen等人提出了一種基于全變差模型的變分框架模型來修復(fù)缺失信息[3].基于擴(kuò)散的圖像修復(fù)算法對(duì)于較小缺失且非紋理區(qū)域的已取得了很好的效果,然而,對(duì)于較大缺失區(qū)域或紋理區(qū)域則會(huì)產(chǎn)生平滑效應(yīng).
第二類修復(fù)算法是基于樣例的圖像修復(fù)算法.此類方法基于圖像塊層次,將已知圖像區(qū)域信息擴(kuò)散到缺失區(qū)域.典型的有:Wu等[4]提出的基于交叉等照度線樣例算法以及Wong等[5]提出的基于樣本例非局部均值的圖像修復(fù)算法.與基于擴(kuò)散的圖像修復(fù)算法相比,基于樣例的圖像修復(fù)算法可以對(duì)較大缺失區(qū)域有很好的恢復(fù)效果.
最近,基于稀疏表示模型被應(yīng)用到圖像修復(fù)算法中.稀疏表示的基本思想是用一組過完備變換的組合稀疏地表示圖像,缺失的像素可通過自適應(yīng)地更新稀疏表示系數(shù)來填充.Guleryuz等[6]提出的自適應(yīng)稀疏表示模型.Elad等[7]提出利用兩個(gè)不相關(guān)的過完備變換來稀疏表示圖像的卡通層和紋理層.基于稀疏表示模型的圖像修復(fù)算法同基于擴(kuò)散方法一樣,能對(duì)較小缺失非紋理區(qū)域產(chǎn)生高質(zhì)量的復(fù)原效果,而對(duì)較大缺失區(qū)域或紋理區(qū)域不能產(chǎn)生高質(zhì)量的復(fù)原效果.
本文選用小波變換作為稀疏的正則化項(xiàng),屬于基于稀疏表示模型.快速迭代收縮閾值算法(Fast Iterative Shrinkage Thresholding Algorithm,F(xiàn)ISTA)因其快速、有效特性被廣泛應(yīng)用在圖像復(fù)原領(lǐng)域[8].針對(duì)FISTA的固定閾值不能自適應(yīng)更新圖像復(fù)原水平,進(jìn)而不能更有效地收斂,為此本文提出改進(jìn)的閾值方法,即非線性動(dòng)態(tài)閾值(Non-Linear Dynamic Thresholding,NLDT).
圖像復(fù)原是一種病態(tài)的線性逆問題.退化圖像的一般模型為:
其中A表示有界的線性算子,x表示原始圖像,y表示退化圖像,n表示方差為2s的附加噪聲.式(1)中,當(dāng)A為單位矩陣,則是去噪模型,當(dāng)A為掩模算子,則是修復(fù)模型,當(dāng)A為模糊核,則是去卷積模型.式(1)是一病態(tài)的線性逆問題,為此,需對(duì)真實(shí)解空間進(jìn)行正則化約束.下面將討論正則化模型.
1.1 常用模型
自然圖像的先驗(yàn)?zāi)P涂梢詫?duì)真實(shí)解空間進(jìn)行正則化約束,從而將具有不適定性的圖像復(fù)原病態(tài)問題轉(zhuǎn)換為適定問題,獲得符合人眼視覺特性的穩(wěn)定解.為此,需添加正則化項(xiàng)到數(shù)據(jù)擬合項(xiàng)f(x)中.
其他的正則化模型包括全變差(Total variation,TV)正則化[9]、Tikhonov正則化[10]、Mumford-Shah正則化[11-12]等.這些正則化模型在圖像復(fù)原和壓縮感知領(lǐng)域[13-14]備受關(guān)注.由于小波具有很好的時(shí)頻局部化特性,其稀疏的正則化已被廣泛地用在圖像復(fù)原中.
另外的正則化方法就是分析法,它是基于分析圖像自身,而不是它的表示系數(shù).在分析法的圖像復(fù)原里,最廣泛且常用的正則化是TV范數(shù)[9,14].把TV正則化項(xiàng)添加到數(shù)據(jù)擬合項(xiàng)里,得到了一個(gè)非平滑的凸優(yōu)化模型
1.2 算法基礎(chǔ)
式(4)和(5)類型問題受到大量研究人員的廣泛關(guān)注,一些先進(jìn)的算法屬于迭代閾值算法[8,17-19]等,這些算法可有效地解決問題(4)和(5).
盡管上述復(fù)原算法處理式(4)和(5)問題比較成功,但在圖像復(fù)原質(zhì)量和速度上仍有待提高.本文基于鄰近算子理論,提出非線性動(dòng)態(tài)閾值方法(NLDT),它可以被用來解決所有基于閾值的算法,例如迭代收縮閾值算法(ISTA)[8-9],快速迭代收縮閾值算法(FISTA)等.為簡便起見,基于FISTA的NLDT算法就記為NLDT-FISTA.
2.1 閾值函數(shù)
閾值函數(shù)是迭代算法的一個(gè)重要組成部分.經(jīng)典的閾值包括硬閾值、軟閾值、半軟閾值、stein閾值等.常用的閾值有硬閾值和軟閾值.硬閾值函數(shù)的計(jì)算為:
軟閾值函數(shù)的計(jì)算為
圖1 閾值函數(shù)
硬閾值可保護(hù)圖像的邊界和其他局部特征,但復(fù)原圖像產(chǎn)生視覺上的振鈴效應(yīng)和偽吉布斯現(xiàn)象.軟閾值產(chǎn)生更平滑的復(fù)原圖像,同時(shí)造成邊界模糊失真.
2.2 迭代收縮閾值算法(ISTA)
迭代收縮閾值算法(ISTA)可有效地解決式(8)的問題,它是一種基于梯度的簡便算法.在信號(hào)處理領(lǐng)域,或稱為期望最大法(Expectation Maximization,EM)[17]或最大最小法(Majorization-Minimization,MM)算法[20]以及鄰近分裂法[19].ISTA可用于解決式(8),通過生成序列
在迭代去噪過程中,閾值需自適應(yīng)噪聲的水平.準(zhǔn)確地來說,在迭代的起始階段,更大一點(diǎn)的閾值是必要的.隨著迭代次數(shù)的增加,由于噪聲水平變得越來越低,相應(yīng)的閾值應(yīng)越來越小.在參考文獻(xiàn)[21],作者提出了線性動(dòng)態(tài)閾值函數(shù)
可用通用的閾值[22],或Minimax description length(MDL)[23]去計(jì)算
基于FISTA,本文提出了NLDT-FISTA,它可用來解決式(4)的問題.算法1總結(jié)了FISTA-NLDT,它要快于ISTA-NLDT.為方便起見,NLDT-FISTA就簡稱為NLDT.如算法1所示,NLDT包括關(guān)鍵的兩個(gè)步驟:梯度下降和軟閾值操作
圖2 動(dòng)態(tài)閾值函數(shù)(N=20,對(duì)于NLDT,=1)
NLDT滿足收斂的條件因它滿足利普茲條件.事實(shí)上,這個(gè)算法可被用于任何基于收縮閾值的問題中,例如在,范數(shù)計(jì)算方面的優(yōu)化.算法1(基于FISTA的NLDT)如下:
實(shí)驗(yàn)在HzIntel CPU2.20 G、內(nèi)存4 GB的計(jì)算機(jī)上進(jìn)行,在MATLAB R2014A上測(cè)試相同的圖像,對(duì)迭代硬閾值算法(IHTA)、快速迭代硬閾值算法(FIHTA)與本文提出的NLDT算法在修復(fù)圖像上進(jìn)行了比較.比較結(jié)果如圖3、4、5所示.
4.1 非線性動(dòng)態(tài)閾值的修復(fù)(NLDT)
在這部分,本文考慮了一類經(jīng)典的掩模算子:隨機(jī)像素缺失的掩模.關(guān)于修復(fù)實(shí)驗(yàn),設(shè)置了2個(gè)缺失率,分別是60%和70%,并在IHTA、FIHTA及NLDT算法設(shè)置總迭代次數(shù)N=50.本文選擇小波變換作為稀疏表示的方法,即,.對(duì)于IHTA,.為了客觀評(píng)價(jià)修復(fù)質(zhì)量,用峰值信噪比(PSNR)作為評(píng)價(jià)標(biāo)準(zhǔn).參數(shù)的選擇,原則上是基于最大化PSNR值.
圖3 PSNR值的比較(缺失率:60%)
為了進(jìn)一步說明修復(fù)效果,本文對(duì)復(fù)原圖像也進(jìn)行了主觀視覺的比較,圖4、圖5和圖6表明了NLDT修復(fù)的圖像更加清晰.由IHTA處理的修復(fù)圖像缺失的像素還未能完全恢復(fù).也就是說,與FISTA相比,NLDT更快速得到更精確的解.對(duì)于一些應(yīng)用,比如說大規(guī)模的機(jī)器學(xué)習(xí),要求快速適宜的解,NLDT將是更好的選擇.
圖4 不同算法下修復(fù)圖像的視覺比較(Girl,缺失率:60%)
圖5 不同算法下修復(fù)圖像的視覺比較(Cameraman,缺失率:60%)
圖6 不同算法下修復(fù)圖像的視覺比較(Girl,缺失率:70%)
受線性收縮閾值函數(shù)啟發(fā),基于小波稀疏正則化模型,通過理論分析,對(duì)FISTA算法的固定閾值進(jìn)行了改進(jìn),提出了NLDT-FISTA.通過仿真實(shí)驗(yàn)比較和分析,發(fā)現(xiàn)在相同的迭代次數(shù)下,NLDT-FISTA比其他實(shí)驗(yàn)方法得到更高的PSNR.從主觀而言,NLDT-FISTA修復(fù)效果更好,具有很強(qiáng)的競爭力.同時(shí),NLDT-FISTA快速有效,可應(yīng)用于大規(guī)模的優(yōu)化當(dāng)中.本文把NLDT改進(jìn)閾值算法應(yīng)用在ISTA和FISTA算法上,把NLDT應(yīng)用到其他閾值算法中將是下一步研究的方向.
[1] BERTALMIO M, SAPIRO G, CASELLES V, et al.Image inpainting [C]//Conference on Computer Graphics and Interactive Techniques,SIGGRAPH 2000, New Orleans, LA USA: ACM Press Addison- Wesley Publishing, 2000: 417-424.
[2] BERTALMIO M, BERTOZZI A L, SAPIRO G.Navier-stokes, fluid dynamics, and image and video Inpainting [C]//Computer Vision and Pattern Recognition, CVPR 2001, Dec 8-14, 2001, [S.l.]: IEEE Computer Society.2001: 355-362.
[3] CHAN T, SHEN J.Local inpainting models and TV inpainting [J].SIAM JAppl Math, 2001, 62(3): 1019-1043.
[4] WU J, RUAN Q.Object removal by cross isophotes exemplar-based inpainting [C]//International Conference on Pattern Recognition, ICPR, 2006, Aug 20-24, 2006, Washington, DC, USA: IEEE Computer Society 2006: 810-813.
[5] WONG A, ORCHARD J.A nonlocal-means approach to exemplar-based inpainting [C]//International Conference on Image Processing, ICIP 2008, October 12-15, 2008, San Diego, California, USA: DBLP, 2008: 2600-2603.
[6] GULERYUZ O G.Nonlinear approximation based image recovery using adaptive sparse reconstructions and iterated denoising-part II: adaptive algorithms [J].IEEE Transactions on Image Processing, 2006, 15(3): 555-571.
[7] ELAD M, STARCK J L, QUERRE P, et al.Simultaneous cartoon and texture image inpainting using morphological component analysis (MCA) [J].Applied & Computational Harmonic Analysis, 2005, 19(3): 340-358.
[8] BECK A, TEBOULLE M.A fast iterative shrinkage-thresholding algorithm for linear inverse problems [J].Siam Journal on Imaging Sciences, 2009, 2(1): 183-202.
[9] RUDIN L I, OSHER S, FATEMI E.Nonlinear total variation based noise removal algorithms [J].Physica D Nonlinear Phenomena, 1992, 60(1-4): 259-268.
[10] TIKHONOV A N, ARSENIN V Y.Solution of Ill-posed problems [J].Mathematics of Computation, 1978, 32(144): 491-491.
[11] SEDLAK J, MORAVEK J.Optimal approximations by piecewise smooth functions and associated variational problems [J].Communications on Pure & Applied Mathematics, 1989, 42(5): 577-685.
[12] SHAH J.A common framework for curve evolution, segmentation and anisotropic diffusion [J].Proceedings IEEE Cvpr, 1996: 136.
[13] CANDES E J, ROMBERG J K, Tao T.Stable signal recovery from incomplete and inaccurate measurements [J].Communications on Pure & Applied Mathematics, 2006, 59(8): 1207-1223.
[14] CHAMBOLLE A.An algorithm for total variation minimization and applications [J].Journal of Mathematical Imaging and Vision, 2004, 20(1): 89-97.
[15] BIOUCASDIAS J M.Bayesian wavelet-based image deconvolution: a GEM algorithm exploiting a class of heavy-tailed priors [J].IEEE Transactions on Image Processing, 2006, 15(4): 937-951.
[16] ELAD M, MATALON B, ZIBULEVSKY M.Image denoising with shrinkage and redundant representations [C]//Computer Vision and Pattern Recognition, 2006, June 17-22, 2006, Washington, DC, USA.IEEE Computer Society, 2006: 1924-1931.
[17] FIGUEIREDO M A, Nowak R D.An EM algorithm for wavelet-based image restoration [J].IEEE Transactions on Image Processing A Publication of the IEEE Signal Processing Society, 2003, 12(8): 906-916.
[18] DAUBECHIES I, DEFRISE M, MOL De C.An iterative thresholding algorithm for linear inverse problems with a sparsity constraint [J].Communications on Pure & Applied Mathematics, 2003, 57(11): 1413-1457.
[19] WRIGHT S J, NOWAK R D, FIGUEIREDO M A T.Sparse reconstruction by separable approximation [J].IEEE Transactions on Signal Processing, 2009, 57(7): 2479-2493.
[20] CHAN T, ESEDOGLU S, PARK F, et al.Total variation image restoration: over view and recent developments [M]//Handbook of Mathematical Models in Computer Vision.New York: Springer, 2006: 17-31.
[21] PEYRE G.The numerical tours of signal processing-advanced computational signal and image processing [J].IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems, 2011, 15(4): 377-384.
[22] DONOHO D L, Johnstone J M.Ideal spatial adaptation by wavelet shrinkage [J].Biometrika, 1994, 81(3): 425-455.
[23] KRIM H, SCHICK I C.Minimax description length for signal denoising and optimized representation [J].IEEE Transactions on Information Theory, 1999, 45(3): 898-908.
[責(zé)任編輯:韋 韜]
An Image Restoration Algorithm Based on Non-linear Dynamic Threshold of FISTA
ZHANG Jia-lin, CAO Jin-guo, YU Yi-bin, ZHANG Yu-lan
(School of Information Engineering, Wuyi University, Jiangmen 529020, China)
FISTA is widely used in the field of image restoration due to its fast and effective properties.But as this algorithm adopts the fixed thresholding, it cannot adapt to the level of restored image in updating, nor can it converge more effectively.In this paper, we propose a Non-linear Dynamic Thresholding (NLDT) method to improve FISTA and select the Wavelet transform as the sparse priors.Simulation experiments on image inpainting show that when the total number of iterations is greater than 20, NLDT always produces higher PSNR than other competing methods.It means that our method can speedily obtain more accurate solutions.Our method can be used in image denoising, image deblurring, and image super-resolution, etc.It can also be used in large scale optimization, such as computer vision and machine learning.
fast iterative shrinkage thresholding; wavelet transform; non-liner dynamic thresholding; image inpainting
TP391.41
A
1006-7302(2017)02-0033-07
2016-12-12
廣東高校省級(jí)重點(diǎn)平臺(tái)和重大科研項(xiàng)目特色創(chuàng)新項(xiàng)目(自然科學(xué)類)(2015KTSCX148);浙江省信號(hào)處理重點(diǎn)實(shí)驗(yàn)室開放課題(ZJKL_4_SP-OP2014-05)
張家林(1990—),男,安徽六安人,在讀碩士生,主要研究方向是圖像處理;余義斌,副教授,博士,碩士生導(dǎo)師,通信作者,主要研究方向?yàn)闄C(jī)器視覺與圖像處理.