郭繼昌 季文馳 顧翔元
(天津大學(xué)電子信息工程學(xué)院,天津,300072)
?
基于改進(jìn)邏輯回歸分類算法的LSB匹配隱寫檢測*
郭繼昌 季文馳 顧翔元
(天津大學(xué)電子信息工程學(xué)院,天津,300072)
常見的采用高斯核支持向量機(jī)(Gaussian support vector machine, G-SVM)分類算法構(gòu)建分類器的隱寫檢測方法對最低比特位(Least significant bit, LSB)匹配隱寫算法均存在訓(xùn)練時(shí)間過長的問題。針對這一問題,提出一種改進(jìn)邏輯回歸分類算法,即L曲線截?cái)嗾齽t化迭代重加權(quán)最小二乘(L-curve truncated-regularized iteratively re-weighted least squares, LTR-IRLS)算法。該算法采用L曲線法來確定適合于隱寫特征的Tikhonov正則算法的近似最優(yōu)參數(shù),并通過實(shí)驗(yàn)尋找出符合隱寫特征的截?cái)嗯nD算法收斂參數(shù),從而提高了檢測準(zhǔn)確率;采用重加權(quán)最小二乘法計(jì)算最大似然估計(jì),并通過截?cái)嗯nD法避免計(jì)算最小二乘中的海森矩陣,降低了計(jì)算量。理論分析與實(shí)驗(yàn)結(jié)果證明,針對LSB匹配隱寫檢測,LTR-IRLS分類算法在保證檢測準(zhǔn)確率優(yōu)于G-SVM分類算法的情況下,極大地降低了訓(xùn)練時(shí)間,從而提高了檢測速度。
L曲線法; 迭代重加權(quán)最小二乘; 截?cái)嗯nD法; 隱寫檢測; LSB匹配
隱寫檢測的目的是檢測出使用了隱寫算法隱藏信息的載體[1-2]。最低比特位(Least significant bit,LSB)匹配隱寫檢測就是針對LSB匹配隱寫算法而研究的一種隱寫檢測方法。LSB匹配隱寫算法是一種將隱寫信息隱藏在載體圖像最低比特位上,從而使隱寫信息類似于噪聲的算法。它對載體影響很小,簡單通用,大部分多媒體文件(如圖像和視頻文件等)都可作為其載體,因此如何準(zhǔn)確而快速地檢測LSB匹配隱寫算法已成為隱寫檢測領(lǐng)域的一個(gè)重要課題[3-4]。為檢測出LSB匹配隱寫算法隱寫過的載體圖像,Ker等從圖像的小波域中提取出小波絕對矩(Wavelet absolute moments,WAM)作為隱寫特征,結(jié)合支持向量機(jī)(Support vector machine,SVM)分類算法提出了WAM隱寫檢測算法[5]。Pevny等根據(jù)圖像相鄰像素的相關(guān)性,以相鄰矩陣差值(Subtractive pixel adjacency matrix,SPAM)作為隱寫特征,并結(jié)合高斯核支持向量機(jī)(Gaussian SVM,G-SVM)分類算法提出了SPAM隱寫檢測算法[6]。鐘尚平等以LSB序列短重碼間距統(tǒng)計(jì)變量之間的相關(guān)性作為隱寫特征,將混合高斯模型和G-SVM算法融合,提出了一種基于LSB序列局部特征的隱寫檢測算法[7]。以上3種算法雖然都具有較高的隱寫檢測準(zhǔn)確率,但其采用的SVM和G-SVM分類算法的訓(xùn)練時(shí)間過長,嚴(yán)重影響了隱寫檢測速度[8-10]。為了提高隱寫檢測速度,學(xué)者們在分類算法的選擇和改進(jìn)上開展了研究。Holub等針對所有隱寫方法提出了通用的集成分類隱寫檢測方法[11]。該方法雖然檢測速度大幅提高,但因其未對LSB匹配隱寫算法做出針對性改進(jìn),檢測準(zhǔn)確率較使用G-SVM分類算法的檢測方法有所降低。Lubenko等嘗試采用邏輯回歸算法(Logistic regression,LR)作為分類算法[12],其方法在檢測準(zhǔn)確率與使用G-SVM算法相當(dāng)?shù)那闆r下,檢測速度提升了約12%,成為比之前方法都優(yōu)秀的LSB匹配隱寫檢測方法。因此,對LR算法進(jìn)行改進(jìn)并以此構(gòu)建分類器成為了一個(gè)值得研究的方向。
截?cái)嗾齽t化迭代重加權(quán)最小二乘(Truncated-regularized iteratively re-weighted least squares,TR-IRLS)算法是一種快速邏輯回歸算法[13-14],它將截?cái)嗯nD算法、正則化和迭代重加權(quán)最小二乘(Iteratively re-weighted least squares,IRLS)等方法相結(jié)合,在保證分類準(zhǔn)確率與LR和G-SVM等算法相當(dāng)?shù)耐瑫r(shí),訓(xùn)練時(shí)間有明顯提升[13]。但TR-IRLS算法的參數(shù)固定,在Tikhonov正則化時(shí),未考慮如何尋找近似最優(yōu)參數(shù),在截?cái)嗯nD收斂時(shí)也并未考慮收斂截止參數(shù)的敏感性,所以并不能直接應(yīng)用于隱寫檢測中。本文對TR-IRLS算法進(jìn)行了改進(jìn),提出了一種改進(jìn)邏輯回歸分類算法,即L曲線截?cái)嗾齽t化迭代重加權(quán)最小二乘(L-curve TR-IRLS,LTR-IRLS)算法。該算法采用L曲線法來確定適合于隱寫特征的Tikhonov正則算法的近似最優(yōu)參數(shù),并通過實(shí)驗(yàn)尋找出符合隱寫特征的截?cái)嗯nD算法收斂參數(shù),從而提高了檢測準(zhǔn)確度;采用重加權(quán)最小二乘法計(jì)算最大似然估計(jì),并通過截?cái)嗯nD法避免計(jì)算最小二乘中的海森矩陣,從而大大降低了計(jì)算量。實(shí)驗(yàn)結(jié)果表明, LTR-IRLS分類算法在保證檢測準(zhǔn)確率優(yōu)于G-SVM等通用分類算法的情況下,極大地降低了訓(xùn)練時(shí)間,從而提高了檢測速度,適合應(yīng)用于LSB匹配隱寫檢測中。
LTR-IRLS算法是在TR-IRLS算法的基礎(chǔ)上,針對LSB匹配隱寫算法而改進(jìn)的一種分類算法。其中利用TR-IRLS分類算法構(gòu)造TR-IRLS分類器并實(shí)現(xiàn)隱寫檢測的過程如下。
1.1 TR-IRLS分類器的構(gòu)造及其隱寫檢測過程
TR-IRLS是一種快速邏輯回歸算法,該算法可快速計(jì)算出樣本的回歸系數(shù)[14],用TR-IRLS算法構(gòu)建分類器可分為訓(xùn)練和測試兩個(gè)階段,TR-IRLS分類器如圖1所示。
圖1 TR-IRLS分類器Fig.1 TR-IRLS classifier
1.1.1 訓(xùn)練階段
(1) 使用一個(gè)R行M列的訓(xùn)練特征矩陣X,矩陣每行代表一個(gè)樣本xi,每列代表樣本的一維特征。Y是含有R個(gè)yi元素的標(biāo)記列向量,用來標(biāo)記對應(yīng)訓(xùn)練特征樣本的正負(fù),其中Y的元素為0時(shí)對應(yīng)的樣本為負(fù)樣本,即未隱寫圖像,為1時(shí)對應(yīng)樣本為正樣本,即隱寫圖像。
(2) 通過邏輯斯特方程建立訓(xùn)練特征矩陣X與標(biāo)記列向量Y關(guān)系的模型,邏輯斯特方程為
(1)
式中:β為邏輯回歸系數(shù); μ為預(yù)測概率;xi代表第i行的特征。
(3) 用似然函數(shù)表示邏輯回歸的損失函數(shù),得到的最大似然方程為
(2)
(4) 采用Tikhonov算法對似然方程進(jìn)行正則化,并使用IRLS法迭代計(jì)算其最大似然估計(jì),得到邏輯回歸系數(shù)。
(3)
(4)
(5)
1.1.2 測試階段
輸入測試特征向量xi,將測試特征與邏輯回歸系數(shù)對應(yīng)相乘并相加,表達(dá)式為
(6)
對式(6)的結(jié)果進(jìn)行sigmoid變換[14],表達(dá)式為
(7)
TR-IRLS算法可在保證準(zhǔn)確率的條件下,對樣本進(jìn)行快速分類。但算法并未給出Tikhonov正則化時(shí)參數(shù)的選擇方法,而是使用了固定的參數(shù)10[14]。在LSB匹配隱寫檢測中由于隱寫特征的特殊性,TR-IRLS算法并不能直接用于LSB匹配隱寫檢測。因此,本文提出了使用L曲線法計(jì)算出適于LSB匹配隱寫檢測的Tikhonov參數(shù)的方法。
1.2 L曲線法計(jì)算Tikhonov正則算法的最優(yōu)參數(shù)
(8)
式中:I為單位矩陣。
圖2 L曲線圖Fig.2 L-curve diagram
(9)
表1 L曲線選取參數(shù)與固定參數(shù)的準(zhǔn)確率對比
1.3 截?cái)嗯nD法在隱寫檢測中優(yōu)化參數(shù)的選擇
在RLS計(jì)算重加權(quán)的循環(huán)過程中,式(10)是計(jì)算難點(diǎn),它是有M個(gè)變量和等式的線性方程組。其中,權(quán)重W在每次迭代時(shí)都會(huì)重新計(jì)算,花費(fèi)大量時(shí)間。為解決此問題,TR-IRLS使用截?cái)嗯nD法求解式,如下式所示
(10)
截?cái)嗯nD法克服了原本牛頓法計(jì)算量大的缺點(diǎn),它的基本思想是在迭代過程中,利用函數(shù)在迭代點(diǎn)的梯度方向以及前一次搜索方向,構(gòu)造一個(gè)與前面搜索方向共軛的新的搜索方向,作為當(dāng)前的迭代方向,如式(11)所示。同時(shí),為保證算法的收斂性,截?cái)嗯nD法提出了使用相對殘差作為結(jié)束迭代的收斂準(zhǔn)則,即“截?cái)唷迸nD方程求解的終止條件,如式(12)所示。
輸出:Av=b
初始化:迭代次數(shù)i=0,初始化允許誤差r0=b-Av0
循環(huán):
(1) 更新搜索方向的參數(shù)τi:
在零次迭代時(shí):τi=0
(2) 更新搜索方向:di=ri+τidi-1
(11)
(4)計(jì)算新的解:vi+1=vi-αidi
(5) 計(jì)算新的允許誤差:ri+1=b-Avi
(6) i=i+1
(12)
與其他最優(yōu)化算法相同,截?cái)嗯nD法對收斂參數(shù)的選擇十分敏感,收斂參數(shù)的選擇直接影響檢測準(zhǔn)確率。所以,將LTR-IRLS算法應(yīng)用于隱寫檢測中時(shí),選擇合適的收斂參數(shù)十分關(guān)鍵。本文分別從圖像庫中選取1 000幅,3 000幅以及5 000幅3種不同數(shù)量級(jí)的3組嵌入率為0.5的隱寫圖像,在α=10的條件下進(jìn)行對比試驗(yàn),結(jié)果如表2所示。檢測準(zhǔn)確率隨收斂參數(shù)的變化規(guī)律如圖3所示,其中橫坐標(biāo)為收斂參數(shù)的取值,縱坐標(biāo)為檢測準(zhǔn)確率。由圖3可知,對于不同數(shù)量級(jí)的訓(xùn)練特征集,檢測準(zhǔn)確率都隨著收斂參數(shù)ε取值的增加,先上升而后快速下降,呈現(xiàn)凸型曲線,且在ε=10-4和ε=10-5的區(qū)間內(nèi),檢測準(zhǔn)確率普遍最高,故本文選取收斂參數(shù)ε=5×10-5。
表2 不同收斂參數(shù)對應(yīng)的最高準(zhǔn)確率
圖3 準(zhǔn)確率與收斂參數(shù)關(guān)系圖Fig.3 Relation between accuracy and convergence parameter
本文使用的隱寫特征是針對空域隱寫提出的SPAM隱寫特征[16-17],其原理是利用二階馬爾可夫鏈對圖像的相鄰像素進(jìn)行建模,并將圖像轉(zhuǎn)移概率矩陣的子集作為特征[18]。馬爾可夫鏈的階數(shù)和相鄰像素差值T共同決定了模型的維數(shù)。其過程如下。假設(shè)一幅m×n個(gè)像素點(diǎn)的灰度圖像素點(diǎn)表示為Ii,j,其中Ii,j∈{0,1,2,…,255}, i∈{1,…,m},j∈{1,…,n}。首先計(jì)算8個(gè)方向上的差值和轉(zhuǎn)移概率,以水平方向?yàn)槔?個(gè)方向分別用{←, →, ↓, ↑, ↖, ↘, ↙, ↗}8個(gè)特殊符號(hào)標(biāo)記。
(1) 首先計(jì)算相鄰像素的差值矩陣D
(13)
(2) 計(jì)算水平方向的馬爾可夫轉(zhuǎn)移概率
一階馬爾可夫轉(zhuǎn)移概率表達(dá)式如下
(14)
二階馬爾可夫轉(zhuǎn)移概率表達(dá)式如下
(15)
(3) 為降低特征維度,根據(jù)空域自然圖像統(tǒng)計(jì)特征鏡像對稱的特征,計(jì)算得到水平方向、垂直方向和對角線方向特征的平均值,組成新特征集
(16)
特征集維度的計(jì)算公式為k=2(2T+1)3,其中T=3,所以SPAM特征共有 686維[5]。
針對不同數(shù)量的訓(xùn)練圖像,本文共進(jìn)行了兩個(gè)實(shí)驗(yàn),對比了采用LTR-IRLS, G-SVM, Ensemble和LR四種不同分類算法時(shí)隱寫檢測的性能。其中,G-SVM使用網(wǎng)格搜索的方法計(jì)算最優(yōu)參數(shù)[19]。實(shí)驗(yàn)評(píng)價(jià)標(biāo)準(zhǔn)為檢測準(zhǔn)確率、檢測算法所得分類器的訓(xùn)練時(shí)間和接收者操作特征曲線(Receiver operating characteristic curve,ROC)。其中檢測準(zhǔn)確率的計(jì)算公式為
(17)
式中:PFp和PFn分別代表誤報(bào)率(將未隱寫圖像誤檢測為隱寫圖像)和誤否認(rèn)率(將隱寫圖像誤檢測為未隱寫圖像)。
ROC曲線圖表示隱寫檢測的性能。其橫軸為錯(cuò)誤命中率(False positive rate,F(xiàn)PR),代表將未隱寫圖像誤檢測為隱寫圖像的概率;縱軸為命中率(True positive rate,TPR),代表將隱寫圖像正確分類為隱寫圖像的概率。曲線下的面積越大,隱寫檢測算法性能越好。
本文實(shí)驗(yàn)與文獻(xiàn)[6,20]中的實(shí)驗(yàn)作對比,使用的圖像庫為包含10 000幅512像素×512像素的JPEG格式灰度圖像的BOWS2圖像庫[21],圖像的主題包括場景、人物及植物等。實(shí)驗(yàn)在LINUX環(huán)境,計(jì)算機(jī)配置為Core 2 Duo 2.53 GHz CPU,2 GB RAM的條件下進(jìn)行。
實(shí)驗(yàn)1從圖像庫中隨機(jī)挑選6 000幅圖像,按嵌入率為0.25, 0.5位/像素兩種比例分別對原始圖像進(jìn)行LSB匹配隱寫,得到不同嵌入率的隱寫和未隱寫圖像6 000對。將所得圖像等分兩組,其中一組3 000對用于訓(xùn)練,另外一組用于測試。計(jì)算可得本組訓(xùn)練特征的Tikhonov近似最優(yōu)參數(shù)α=1.961 5,且截?cái)嗯nD算法的收斂參數(shù)ε=5×10-5。從表3所示的實(shí)驗(yàn)結(jié)果可以看出,與其他3種分類算法相比,在檢測準(zhǔn)確率上,本文提出的LTR-IRLS分類算法有0.2%~1.1%的提升;在訓(xùn)練時(shí)間上,采用G-SVM和LR分類算法的訓(xùn)練時(shí)間分別約為6 h和5 h,采用Ensemble也需要約1.5 min的時(shí)間,而采用LTR-IRLS分類算法的訓(xùn)練時(shí)間僅為7 s左右,有了量級(jí)上的提升,極大地提高了檢測速度。
表3 不同嵌入率下4種分類算法的準(zhǔn)確率和訓(xùn)練時(shí)間
圖4為嵌入率分別為0.25, 0.5位/像素時(shí)使用LTR-IRLS,G-SVM,LR和Ensemble四種分類算法的隱寫檢測ROC曲線。從圖中可以看出,在嵌入率為0.25位/像素時(shí),使用LTR-IRLS分類算法的隱寫檢測性能優(yōu)于其余3種分類算法。并且隨著嵌入率的增加,LTR-IRLS分類算法的性能優(yōu)勢越發(fā)明顯。
實(shí)驗(yàn)2為從圖像庫中隨機(jī)選擇了不同數(shù)量的訓(xùn)練圖像,在嵌入率為0.25位/像素的情況下對使用4種分類算法的檢測時(shí)間進(jìn)行對比,如表4所示??梢钥闯?,雖然4種分類算法的訓(xùn)練時(shí)間均隨著訓(xùn)練圖像的數(shù)量線性增加,但本文提出的LTR-IRLS算法的訓(xùn)練時(shí)間始終是秒級(jí)的,與其他3種分類算法的小時(shí)級(jí)相比,有了量級(jí)上的提升,從而極大提高了整體隱寫檢測速度。Ntrn代表訓(xùn)練圖像個(gè)數(shù)。
圖4 4種分類算法的ROC曲線對比Fig.4 Comparison of ROC curves using four classification algorithms
NtrnG?SVMLREnsembleLTR?IRLS100041min35min37s2.67s20002h46min2h19min1min03s4.63s30005h52min5h3min1min33s6.81s40009h23min8h55min2min06s9.01s500014h07min12h59min2min24s11.38s
本文針對采用LSB匹配的隱寫檢測算法,從提高其檢測準(zhǔn)確率和檢測速度的角度出發(fā),基于TR-IRLS算法和L曲線法,提出了一種適合于空域LSB匹配隱寫特征的LTR-IRLS分類算法,并對LTR-IRLS算法原理進(jìn)行了闡述。與已有的LSB匹配隱寫檢測分類算法相比,本文算法在檢測準(zhǔn)確率提升0.2%~1.1%的同時(shí),訓(xùn)練時(shí)間有了量級(jí)上的減少,從而極大地提高了檢測速度,與之前的算法相比實(shí)用性明顯增強(qiáng)。然而,本文所使用的SPAM空域隱寫特征在隱寫信息嵌入率較低的情況下存在一定的誤檢率和漏檢率。因此,如何設(shè)計(jì)一種和邏輯回歸更加匹配的空域隱寫特征提取方法將成為下一步研究的方向。
[1] Lou D C,Hu C H.LSB steganographic method based on reversible histogram transformation function for resisting statistical steganalysis[J].Information Sciences,2012,188(2):346-358.
[2] Ker A D,Bas P,Bohme R,et al.Moving steganography and steganalysis from the laboratory into the real world[C] ∥ Proceedings of the First ACM Workshop on Information Hiding and Multimedia Security.Portland:ACM,2013:45-58.
[3] 劉學(xué)謙,平西建,張濤,等.基于濾波復(fù)原的小波特征LSB匹配隱寫分析方法[J].數(shù)據(jù)采集與處理,2010,25(4):749-756.
Liu Xueqian,Ping Xijian,Zhang Tao,et al.Steganalysis of LSB matching based on wavelet feature of filtering restoration[J].Journal of Data Acquisition and Processing,2010,25(4):749-756.
[4] Fridrich J,Kodovsky J.Steganalysis of LSB replacement using parity-aware features[C] ∥ Information Hiding.Heidelberg, Berlin:Springer,2013:31-45.
[5] Ker A D,Lubenko I.Feature reduction and payload location with WAM steganalysis[C] ∥ IS&T / SPIE Electronic Imaging.San Diego:International Society for Optics and Photonics,2009:72540A-72540A-13.
[6] Pevny T,Bas P,F(xiàn)ridrich J.Steganalysis by subtractive pixel adjacency matrix[J].Information Forensics and Security,IEEE Transactions on,2010,5(2):215-224.
[7] 鐘尚平,徐巧芬,陳羽中,等.一種基于LSB序列局部特征的通用隱寫檢測方法[J].電子學(xué)報(bào),2013,41(2):239-239.
Zhong Shangping,Xu Qiaofen,Chen Yuzhong,et al.A universal steganalysis method based on local features extracted from LSB sequences[J].Acta Electronica Sinica,2013,41(2):239-239.
[8] 楊林聰,夏志華.針對空域LSB匹配的隱藏信息檢測方法[J].中南大學(xué)學(xué)報(bào):自然科學(xué)版,2013,44(2):182-191.
Yang Lincong,Xia Zhihua.Steganalytic method based on spatial LSB matching[J].Journal of Central South University:Science and Technology,2013,44(2):182-191.
[9] 劉新平,薛希文.基于改進(jìn)LS-SVM的隨鉆測量數(shù)據(jù)傳輸誤碼率預(yù)測[J].數(shù)據(jù)采集與處理,2014,29(5):790-794.
Liu Xinping,Xue Xiwen.Prediction of error rate in measurement-while-drilling data transmission based on improved LS-SVM method[J].Journal of Data Acquisition and Processing,2014,29(5):790-794.
[10]萬寶吉,張濤,李文祥,等.基于多分類器融合的未知嵌入率圖像隱寫分析方法[J].數(shù)據(jù)采集與處理,2014,29(5):749-756.
Wan Baoji,Zhang Tao,Li Wenxiang,et al.Multi-classifier fusion based rate-unknown image steganalysis[J].Journal of Data Acquisition and Processing,2014,29(5):749-756.
[11]Holub V,F(xiàn)ridrich J,Denemark T.Random projections of residuals as an alternative to co-occurrences in steganalysis[C] ∥ IS&T / SPIE Electronic Imaging.San Diego:International Society for Optics and Photonics,2013:11.
[12]Lubenko I,Ker A D.Steganalysis using logistic regression[C] ∥ IS&T / SPIE Electronic Imaging.San Diego:International Society for Optics and Photonics,2011:11.
[13]Zhu J,Hastie T.Kernel logistic regression and the import vector machine[J].Journal of Computational and Graphical Statistics,2005,14(1):171-180.
[14]Komarek P,Moore A W.Making logistic regression a core data mining tool with TR-IRLS[C] ∥ Fifth IEEE International Conference on Data Mining.Piscataway:IEEE,2005:4.
[15]Dembo R S,Steihaug T.Truncated-newtono algorithms for large-scale unconstrained optimization[J].Mathematical Programming,1983,26(2):190-212.
[16]Holub V,F(xiàn)ridrich J.Random projections of residuals for digital image steganalysis[J].Information Forensics and Security,IEEE Transactions on,2013,8(12):1996-2006.
[17]張昊,平西建.Markov隱寫檢測特征的一種新設(shè)計(jì)[J].電子與信息學(xué)報(bào),2013,35(8):1907-1913.
Zhang Hao,Ping Xijian.New design of markov steganalytic features [J].Journal of Electronics & Information Technology,2013,35(8): 1907-1913.
[18]孫怡峰,劉粉林.Gauss-Markov載體下擴(kuò)頻隱寫的抗檢測性能分析[J].數(shù)據(jù)采集與處理,2010,25(4):462-468.
Sun Yifeng,Liu Fenlin.Security of spread-spectrum stegnaography for Gauss-Markov covers[J].Journal of Data Acquisition and Processing,2010,25(4):462-468.
[19]劉紹毓,周杰,李弼程,等.基于多分類SVM-KNN的實(shí)體關(guān)系抽取方法[J].數(shù)據(jù)采集與處理,2015,30(1):202-210.
Liu Shaoyu,Zhou Jie,Li Bicheng,et al.Entity relation extraction method based on multi-SVM-KNN classifier[J].Journal of Data Acquisition and Processing,2015,30(1):202-210.
[20]Torkaman A,Safabakhsh R.A fast and accurate steganalysis using ensemble classifiers[C] ∥ Machine Vision and Image Processing (MVIP),2013 8th Iranian Conference on,2013:22-26.
[21]Bas P,F(xiàn)uron T.BOWS-2 [EB/OL].http:∥bows2.ec-lille.fr, 2007-07-10.
Steganalysis of LSB Matching Based on Improved Logistic Regression Algorithm
Guo Jichang, Ji Wenchi, Gu Xiangyuan
(School of Electronic Information Engineering, Tianjin University, Tianjin, 300072, China)
Least significant bit (LSB) matching algorithm and common steganographic methods, which use Gaussian support vector machine (G-SVM) algorithm as the classifier, spend too much training time. Therefore, an improved logistic regression classifying algorithm named L-curve truncated-regularized iteratively re-weighted least squares(LTR-IRLS) is proposed. Firstly, near-optimal parameters of Tikhonov regularization are determined based on L-curve, and convergence parameters of the truncated Newton algorithm are obtained through experiments for increasing the detection accuracy. Secondly, iteratively re-weighted least squares are utilized to search for the maximum loss expectancy and truncated Newton methods are utilized to avoid computing the Hessian matrix in the objective function, therefore reducing the computation amount greatly. Theoretical analysis and experimental results verify that LTR-IRLS can ensure the detection accuracy rate higher than G-SVM classifier, meanwhile reducing the training time and increaseing the detection speed.
L-curve; iteratively re-weighted least squares (IRLS); truncated Newton methods; steganalysis; least significant bit (LSB) matching
天津市自然科學(xué)基金(15JCYBJC15500)資助項(xiàng)目。
2015-07-28;
2015-11-05
TP391
A
郭繼昌(1966-),男,教授,研究方向:數(shù)字圖像處理、語音信號(hào)處理,E-mail:jcguo@tju.edu.cn。
季文馳(1989-),男,碩士研究生,研究方向:模式識(shí)別、圖像隱寫分析。
顧翔元(1989-),男,碩士研究生,研究方向:圖像隱寫分析。