陳勝垚 席 峰 劉 中
(南京理工大學(xué)電子工程系 南京 210094)
壓縮感知(CS)理論是由Donoho[1]和Candes等人[2]從信號稀疏分解和逼近理論發(fā)展而來的一種新的信號低速率獲取理論,其核心思想是對信號同時(shí)進(jìn)行壓縮處理和采樣。當(dāng)信號是稀疏信號時(shí),信號壓縮測量通過隨機(jī)線性投影,將高維信號映射到低維信號;當(dāng)隨機(jī)線性投影滿足約束等距性(RIP)條件[3]時(shí),該稀疏信號可以精確重構(gòu)。
在初期的CS理論研究中,假定稀疏信號是固定時(shí)間長度的;然而在很多實(shí)際應(yīng)用中,稀疏信號通常是時(shí)變的,因此稀疏時(shí)變信號的CS理論研究受到了人們的關(guān)注。稀疏時(shí)變信號是指信號展開系數(shù)時(shí)變的稀疏信號[4],系數(shù)時(shí)變有稀疏位置和幅度兩種時(shí)變的可能。對稀疏位置已知而僅幅度時(shí)變時(shí)的信號,稀疏時(shí)變信號退化為一般時(shí)變信號,可采用最小均方(LMS)算法或遞歸最小二乘(RLS)算法估計(jì)時(shí)變的幅度,因此稀疏時(shí)變信號的CS主要針對稀疏位置時(shí)變信號的研究。在過去的幾年里,針對稀疏時(shí)變的CS,人們提出了塊處理和序處理兩類算法[4-7]。塊處理算法假設(shè)在一段時(shí)間內(nèi)信號的稀疏結(jié)構(gòu)和稀疏系數(shù)的幅度保持不變,而在不同的時(shí)間段信號的稀疏結(jié)構(gòu)和稀疏系數(shù)的幅度發(fā)生變化,因此,可通過對稀疏信號分塊處理的方式實(shí)現(xiàn)“塊時(shí)變信號”的CS[4]。序處理算法主要研究的是稀疏系數(shù)快變的信號,即每個(gè)新的測量時(shí)刻稀疏信號的稀疏結(jié)構(gòu)和稀疏系數(shù)的幅度都可能發(fā)生改變的信號。人們基于不同應(yīng)用背景和目標(biāo)函數(shù)提出了不同的CS方法,詳見文獻(xiàn)[5-7]。
上述稀疏時(shí)變信號在線估計(jì)方法均建立在線性測量的基礎(chǔ)上,本文將研究基于混沌非線性測量的稀疏時(shí)變信號在線估計(jì)問題。混沌壓縮感知(Chaotic Compressed Sensing, ChaCS)是文獻(xiàn)[8]首次提出的一種基于混沌系統(tǒng)的非線性壓縮感知理論。其基本思想是將稀疏信號激勵(lì)混沌系統(tǒng),根據(jù)混沌信號的類隨機(jī)行為,產(chǎn)生具有隨機(jī)性的輸出,混沌系統(tǒng)輸出的降采樣即為壓縮測量。ChaCS測量系統(tǒng)與基于隨機(jī)濾波的線性測量系統(tǒng)[9]類似,其中混沌系統(tǒng)起到了隨機(jī)濾波的作用;與隨機(jī)濾波線性測量系統(tǒng)相比,ChaCS測量系統(tǒng)不僅實(shí)現(xiàn)結(jié)構(gòu)簡單,同時(shí)混沌系統(tǒng)對稀疏信號的混沌化過程增加了壓縮測量數(shù)據(jù)的保密性。在信號重構(gòu)方面,ChaCS根據(jù)混沌系統(tǒng)脈沖同步理論實(shí)現(xiàn)信號重構(gòu)。構(gòu)造一個(gè)激勵(lì)信號是可編程信號源的響應(yīng)混沌系統(tǒng),其中可編程信號源由控制算法決定,當(dāng)響應(yīng)混沌系統(tǒng)同驅(qū)動(dòng)混沌系統(tǒng)同步時(shí),可編程信號源的輸出即為重構(gòu)的稀疏信號。在信號異地重構(gòu)時(shí),如第2節(jié)所述,不需要從測量系統(tǒng)傳輸大量測量系統(tǒng)數(shù)據(jù)至ChaCS重構(gòu)系統(tǒng)。
本文將ChaCS理論擴(kuò)展到稀疏時(shí)變信號情況下,根據(jù)現(xiàn)有的ChaCS重構(gòu)系統(tǒng),以離散時(shí)間稀疏時(shí)變信號為例,建立基于RLS準(zhǔn)則的稀疏約束目標(biāo)函數(shù),通過求解不同時(shí)刻的稀疏約束目標(biāo)函數(shù),實(shí)現(xiàn)對稀疏時(shí)變信號的在線估計(jì)。為了驗(yàn)證本文方法的正確性,本文以Henon系統(tǒng)為例仿真分析頻域稀疏時(shí)變信號的估計(jì)性能,仿真結(jié)果表明了該方法的有效性。
在圖1(a)所示的ChaCS測量系統(tǒng)中,假設(shè)驅(qū)動(dòng)混沌系統(tǒng)是一個(gè)P維離散混沌系統(tǒng):
其中x∈RP,F(xn,t) ∈RP分別是系統(tǒng)式(1)的狀態(tài)向量及非線性矢量函數(shù)。在實(shí)現(xiàn)稀疏信號測量時(shí),將稀疏信號sn激勵(lì)系統(tǒng)式(1)。不失一般性,假定sn加載在第1個(gè)狀態(tài)變量上,則P維離散自治混沌系統(tǒng)變?yōu)镻維離散非自治混沌系統(tǒng)。
圖1 混沌壓縮感知實(shí)現(xiàn)結(jié)構(gòu)
其中l(wèi)為采樣間隔。我們將降采樣序列zm稱為信號sn的壓縮測量,而l稱為降采樣率。當(dāng)sn為長度為N的有限長度信號時(shí),降采樣序列的長度為M=N/l。
為了重構(gòu)稀疏信號sn,我們可構(gòu)造如圖1(b)所示的同步系統(tǒng),其中響應(yīng)混沌系統(tǒng)的系統(tǒng)結(jié)構(gòu)與系統(tǒng)式(2)一致。
與式(3)類似,我們以l為采樣間隔對進(jìn)行降采樣可得到降采樣序列為
控制算法的設(shè)計(jì)是 ChaCS重構(gòu)系統(tǒng)的核心問題之一。由系統(tǒng)式(5)可知,可表示為如下形式:
當(dāng)稀疏信號sn,可采用稀疏正則化NLS的代價(jià)函數(shù)提高估計(jì)性能。
在實(shí)際應(yīng)用中很多信號是時(shí)變的,而式(9)中的正則化的NLS準(zhǔn)則僅適用于估計(jì)固定激勵(lì)信號的系數(shù),當(dāng)激勵(lì)信號的系數(shù)時(shí)變時(shí),式(9)不能實(shí)時(shí)估計(jì)時(shí)變系數(shù)a。同文獻(xiàn)[6,7]思想一致,我們可以構(gòu)造l1范數(shù)正則下的稀疏信號的非線性遞歸最小二乘(NRLS)估計(jì)為
其中mM> 0 表示正則化參數(shù),bM,m表示遺忘因子,式(10)被稱為稀疏NRLS(Sparse NRLS, SpaNRLS)估計(jì)。通過選擇不同的遺忘因子,NRLS對NLS準(zhǔn)則下的代價(jià)函數(shù)進(jìn)行了不同的加窗處理,從而能夠?qū)崟r(shí)估計(jì)時(shí)變系數(shù)。
遺忘因子選擇通常有無窮長矩形窗、無窮長指數(shù)衰減窗和有限長矩形窗3種形式[7]。對無窮長矩形窗,每個(gè)觀測數(shù)據(jù)具有相同的加權(quán)系數(shù),這時(shí)式(10)的計(jì)算退化到文獻(xiàn)[8]中采用的估計(jì)方法。對無窮長指數(shù)衰減窗,隨著觀測數(shù)據(jù)的增加,式(10)的計(jì)算復(fù)雜度增加,實(shí)現(xiàn)起來困難。有限長矩形窗可保持式(10)的計(jì)算復(fù)雜度,實(shí)現(xiàn)相對簡單。為此,本文主要研究基于有限長矩形窗加權(quán)的稀疏時(shí)變信號的在線估計(jì)。
在有限長矩形窗加權(quán)情況下,式(10)轉(zhuǎn)化為
其中L是有限長矩形窗長度。在式(10)和式(11)中,觀測函數(shù)是的非線性函數(shù),M+1時(shí)刻的目標(biāo)函數(shù)不能由M時(shí)刻的目標(biāo)函數(shù)遞歸表示,目前還沒有有效的算法能夠遞歸求解,每一時(shí)刻的目標(biāo)函數(shù)要獨(dú)立求解。但是,我們可以用“熱啟動(dòng)”思想[11]來求解,即以為初始搜索點(diǎn),該方法可以提高算法的收斂速度。壓縮測量每向前滑動(dòng)一個(gè)采樣脈沖會(huì)得到一個(gè)新的目標(biāo)函數(shù),以M=L時(shí)刻式(11)的解為初始解,迭代求解不同時(shí)刻的稀疏系數(shù)估計(jì)。
本文借鑒文獻(xiàn)[12]中迭代加權(quán)最小二乘算法利用加權(quán)l(xiāng)2范數(shù)逼近l1范數(shù)的思想,提出一種迭代加權(quán)非線性最小二乘算法(Iterative Reweight Nonlinear Least-Squares, IRNLS),從而使式(11)中的l1正則NLS問題轉(zhuǎn)化為一系列NLS問題。
在給定的觀測時(shí)刻M, IRNLS算法的具體流程
有限長矩形窗長度L的選擇會(huì)影響式(11)的求解性能,當(dāng)L較小時(shí),求解目標(biāo)函數(shù)更容易到達(dá)局部最優(yōu)解,而選擇較大的L則會(huì)導(dǎo)致式(11)的計(jì)算復(fù)雜度增加,因此在實(shí)際應(yīng)用時(shí)我們傾向于在能夠估計(jì)出系數(shù)的前提下盡可能選擇較小的L。另外,有限長矩形窗可以每次向前滑動(dòng)多個(gè)觀測點(diǎn),當(dāng)矩形窗每次向前滑動(dòng)d個(gè)觀測點(diǎn)時(shí)(1<d≤L),式(11)轉(zhuǎn)化為如下形式:
如果稀疏信號的系數(shù)慢時(shí)變,可以選擇較大的d以減少式(13)中問題求解的次數(shù),從而降低計(jì)算量。
本文以激勵(lì)信號是頻域稀疏時(shí)變信號的 Henon系統(tǒng)為例仿真研究 SpaNRLS算法估計(jì)稀疏時(shí)變信號的性能。下面對有限長矩形窗時(shí) SpaNRLS算法性能進(jìn)行仿真分析。外加激勵(lì)Henon混沌系統(tǒng)如下所述:
實(shí)驗(yàn)2研究不同的時(shí)間窗滑動(dòng)距離d對SpaNRLS算法估計(jì)時(shí)變系數(shù)性能的影響。試驗(yàn)中有限長矩形窗長度為L=64,每次向前滑動(dòng)的距離分別取d= 1 ,4,8,16個(gè)觀測點(diǎn)。時(shí)變系數(shù)的相對估計(jì)誤差如圖3所示,選擇不同的d, SpaNRLS算法均可以正確地估計(jì)出時(shí)變系數(shù)。當(dāng)d較小時(shí),SpaNRLS算法可以更快速地跟蹤時(shí)變系數(shù)的變化,但此時(shí)求解式(13)的次數(shù)也相應(yīng)增加,從而需要更大的計(jì)算量。而當(dāng)d較大時(shí),SpaNRLS算法跟蹤時(shí)變系數(shù)的速度變慢,不過此時(shí)求解式(13)的次數(shù)減小了,使得計(jì)算量也相應(yīng)減少。通過d的適當(dāng)選擇可折中考慮實(shí)現(xiàn)計(jì)算量和跟蹤時(shí)變系數(shù)的性能。
圖2 頻域稀疏時(shí)變信號的估計(jì)性能
圖3 不同時(shí)間窗滑動(dòng)距離時(shí)稀疏時(shí)變系數(shù)的估計(jì)性能
圖4 不同矩形窗長度時(shí)稀疏時(shí)變系數(shù)的估計(jì)性能
實(shí)驗(yàn)3研究不同的矩形窗長度L對SpaNRLS算法估計(jì)時(shí)變系數(shù)性能的影響。試驗(yàn)中選取d=4,窗長分別為L= 3 2,48,64,80。時(shí)變系數(shù)估計(jì)的相對誤差如圖4所示,為了便于比較,不同窗長情況下均選擇M=80為式(13)的初始求解時(shí)刻。由圖可知,當(dāng)時(shí)間窗長度L較小時(shí)(L=32), SpaNRLS算法不能正確估計(jì)出時(shí)變系數(shù),因?yàn)長較小時(shí)式(12)可能存在更多的局部最優(yōu)解,從而更容易產(chǎn)生錯(cuò)誤的系數(shù)估計(jì)。當(dāng)L較大時(shí),正確估計(jì)出時(shí)變系數(shù)所需的時(shí)間增加了,這是因?yàn)闀r(shí)間窗跨越系數(shù)跳變時(shí)刻所持續(xù)的時(shí)間增加了。同時(shí)由于L的增加導(dǎo)致式(13)中NLS問題的維數(shù)增加,目標(biāo)函數(shù)對參數(shù)變化更加敏感,在時(shí)間窗跨越系數(shù)跳變時(shí)刻所持續(xù)的時(shí)間內(nèi)相對估計(jì)誤差也相應(yīng)增大,但最終能夠正確估計(jì)出時(shí)變系數(shù)。因此適當(dāng)選取較小的窗長L可以提高跟蹤時(shí)變系數(shù)的速度,同時(shí)較小的L還可以減小式(13)中NLS問題的維數(shù),從而降低問題求解的計(jì)算復(fù)雜度。
ChaCS是一種基于混沌系統(tǒng)的非線性壓縮感知方式,本文將這種壓縮感知推廣到稀疏時(shí)變信號情形。針對ChaCS結(jié)構(gòu),本文構(gòu)造了基于RLS準(zhǔn)則的SpaNRLS估計(jì)算法,使得ChaCS能夠在線估計(jì)稀疏時(shí)變信號。SpaNRLS算法首先形成一個(gè) RLS準(zhǔn)則下的稀疏約束目標(biāo)函數(shù),然后利用IRNLS算法求解該目標(biāo)函數(shù),通過選擇適當(dāng)?shù)倪z忘因子,求解該目標(biāo)函數(shù)可以正確估計(jì)出稀疏時(shí)變信號的系數(shù)。離散時(shí)間信號仿真實(shí)驗(yàn)表明本文思想和方法是正確的和可行的。本文闡述的稀疏時(shí)變信號的ChaCS思想不僅適用于離散時(shí)間信號也適用于連續(xù)信號。
[1]Donoho D. Compressed sensing [J].IEEE Transactions on Information Theory, 2006, 52(4): 1289-1306.
[2]Candes E, Romberg J, and Tao T. Robust uncertainty principles: exact signal reconstruction from highly incomplete frequency information [J].IEEETransactionson Information Theory, 2006, 52(2): 489-509.
[3]Candes E and Tao T. Decoding by linear programming [J].IEEE Transactions on Information Theory, 2005, 51(12):4203-4215.
[4]Vaswani N. Kalman filtered compressed sensing [C]. IEEE International Conference on Image Processing (ICIP), San Diego, 2008: 893-896.
[5]Chen Y, Gu Y, and Hero, III A O. Sparse LMS for system identification[C]. IEEE International Conference on Acoustics, Speech, and Signal Processing (ICASSP), Taipei,2009: 3125-3128.
[6]Babadi B, Kalouptsidis N, and Tarokh V. SPARLS: the sparse RLS algorithm [J].IEEE Transactions on Signal Processing, 2010, 58(8): 4013-4025.
[7]Angelosante D, Bazerque J A, and Giannakis G B. Online adaptive estimation of sparse signals: where RLS meets thel1-norm [J].IEEE Transactions on Signal Processing, 2010,58(7): 3436-3447.
[8]Liu Z, Chen S Y, and Xi F. A compressed sensing framework of frequency-sparse signals through chaotic systems [J]. http://arxiv.org/abs/1112.3212.2011.12.
[9]Tropp J A, Wakin M, and Duarte M,et al.. Random filters for compressive sampling and reconstruction[C].International Conference on Acoustics, Speech, and Signal Processing (ICASSP), Toulouse, 2006: 872-875.
[10]Yang T and Chua L O. Impulsive stabilization for control and synchronization of chaotic systems: theory and application to secure communication [J].IEEE Transactions on Circuits and System-I:Fundamental Theory andApplications, 1997, 44(10): 976-988.
[11]Figueiredo M, Nowak R, and Wright S. Gradient projection for sparse reconstruction: application to compressed sensing and other inverse problems [J].IEEE Journal of Selected Topics in Signal Processing, 2007, 1(4): 586-598.
[12]Daubechies I, DeVore R, Fornasier M,et al.. Iteratively reweighted least squares minimization for sparse recovery [J].Communications on Pure and Applied Mathematics, 2010,63(1): 1-38.
[13]Morini B and Porcelli M. TRESNEI, a Matlab trust-region solver for systems of nonlinear equalities and inequalities [J].Computational Optimization and Applications, DOI:10.1007/s10589-010-9327-5, 2010.