趙軼驍, 汪鐳(同濟大學 電子與信息工程學院, 上海 201804)
基于粒子群的LMS算法在信號濾波降噪中的應用
趙軼驍, 汪鐳
(同濟大學 電子與信息工程學院, 上海 201804)
在自適應濾波算法中,LMS算法是最常用的算法之一,因為具備結構簡單,易于實現(xiàn),性能穩(wěn)定,計算復雜度低等特點。然而,LMS算法也存在缺點,比如,收斂速度較慢,收斂精度低的問題,這就影響LMS算法在收斂性要求較高的領域中的應用。使用粒子群算法對LMS算法進行改進,可以將LMS濾波設計變成對LMS濾波參數(shù)優(yōu)化的問題, 利用粒子群算法的優(yōu)化能力,使得濾波參數(shù)得到全局最優(yōu)解。以此可以提高LMS濾波算法的收斂性能,從而提高濾波性能。
自適應濾波; LMS算法; 粒子群算法
Abstract: In the adaptive filter algorithms, LMS algorithm is one of the most common algorithms because of its simple structure, facile realization and stability, low computational complexity. But, LMS algorithm has also some defects, for example, low rate of convergence and convergence precision. Those problems have impacted on the application in high convergence fields. PSO algorithm can be used to improve the LMS algorithm. The designation of the LMS filter can be transferred to optimization problem for the parameters of LMS filter. The optimization of PSO algorithm is utilized to get the global optimal solution of filter parameters. In this way, convergence of LMS algorithm can be improved, and the performance of filter also can be improved.
Keywords: Adaptive filter; LMS algorithm; PSO algorithm
自適應濾波算法在目前數(shù)字信號處理應用中,是非常重要的組成部分。其中,基于最小均方差理論發(fā)展起來的LMS算法(Least mean square)是目前自適應濾波中應用最廣泛的一種。它使用梯度下降的原理,讓均方差達到最小。在LMS算法中,算法的收斂速度和收斂精度是自相沖突的指標,兩者通過調(diào)整收斂因子μ達到平衡。所以,如何更好的提高LMS算法的收斂性能一直是被研究的問題。,諸如,變長LMS算法,變階數(shù)LMS等等,這些改進一步步完善了LMS算法,但是只在特別的情況下有效果,通用能力弱。
粒子群算法是基于群體智能的搜索優(yōu)化算法,通過在搜索空間內(nèi)的對多點搜索,通過搜索到當前最優(yōu)值來找到空間內(nèi)的全局最優(yōu)點。這種算法以其實現(xiàn)容易、精度高、收斂快等優(yōu)點。文獻[1]中將PSO運用到LMS中去,在多重模態(tài)的問題上,解決了收斂速度和收斂精度的沖突的問題。本文正是利用該算法的諸多優(yōu)點,對LMS算法進行改進,彌補算法收斂性存在的不足能力,提高它的濾波性能,并將它用于信號降噪中去。
信號降噪是一直被廣泛使用的技術,在尤其是聲音信號的方面,也常被叫做語音增強,語音增強是指當語音信號被各種各樣的噪聲干擾、甚至淹沒后,從噪聲背景中提取有用的語音信號,抑制、降低噪聲干擾的技術。一句話,從含噪語音中提取盡可能純凈的原始語音。
本文會將粒子群算法改進后的LMS濾波算法與其他常用的維納濾波算法以及譜減算法進行減噪性能比對,以此來評估算法的降噪性能。
1.1 MS自適應濾波基本概念
1959年,有Widrow和Hoff在研究自適應線性元素的模式識別方案時提出了LMS算法,從而奠定了自適應濾波的理論基礎。之后,各種各樣的自適應濾波算法相繼被提出,并是自適應濾波器在跟多領域中得以更為廣泛的應用和發(fā)展。如,大約1965年,來自貝爾電話實驗室的Kelly首先提出把自適應濾波器用于回音消除中。同年,Widrow和其他的自斯坦福大學的合作一起發(fā)明了自適應譜線增強器,它可用于消除譯碼器輸出端的60Hz及心電圖放大器等。
LMS濾波器的基本結構,如圖1所示。
根據(jù)如圖1所示,該圖為LMS濾波器的基本原理框圖。
圖1 LMS濾波器基本結構
初始化時,如式(1)。
w(0)=w(0)=[0 0 0 … 0]T
(1)
當k≥0時,如式(2)、式(3)。
e(k)=d(k)-xT(k)w(k)
(2)
w(k+1)=w(k)-2μe(k)x(k)
(3)
其中,(k)為瞬時的誤差,μ為收斂因子,e(k)是誤差信號,w(k)為的濾波器系數(shù)。按照梯度特性,w(k)在每次迭代運算中會自動調(diào)整,逐步是均值E[e2(k)]最小化,E[e2(k)]就是最小均方差。
1.2 自適應濾波在降噪中的應用
當自適應濾波被應用在降噪應用中是,它的結構框圖,如圖2所示。
圖2 信號降噪結構
與看見的自適應濾波器結構是不同的。信號x(k)受到噪聲n1(k)的影響。而信號n2(k)是與噪聲相關的信號,它可以被測量到的信號。n2(k)也作為自適應濾波器的輸入信號,受到干擾的信號x(k)+n1(k)作為期望信號。
輸出信號y(k)與輸入信號n2(k)的數(shù)學關系式根據(jù)圖1是式(4)
(4)
按照均方誤差方程,可以得到式(5)。
E[e2(k)]=E[x2(k)]+E{[n1(k)-y(k)]2}
(5)
假如x(k)與n1(k)和n2(k)無關,那么該函數(shù)的最小MSE為式(6)。
ξmin=E[e2(k)]=E[x2(k)]
(6)
其中x(k)就是我們?yōu)V波所要得到的信號。
以該信號降噪模型和LMS基本濾波結構進行降噪濾波處理。以信噪比(Signal-Noise Ratio,SNR)評估。
收斂因子2μ=0.000 1,處理結果如下圖3所示。
圖3 普通LMS濾波效果(2μ=0.000 1)
設定帶噪信號的SNR為5.0,LMS濾波后的信號的SNR為20.1。
可以很明顯地看出,在使用LMS算法濾波后,噪聲信號在信號的剛開始的部分仍然存在,而且噪音很大,但是后半段的信號濾波效果很好。如果提高的值,濾波信號前端噪音會有所減少,但是會造成整體的濾波效果不理想。
當收斂因子2μ=0.01,濾波效果,如圖4所示。
設定帶噪信號SNR為5.0, LMS濾波后的信號的SNR為7.7。
可以看出,在使用LMS濾波后,前端的信號噪聲消除了,但是之后的信號噪聲仍然很大,說明收斂速度提升,會影響收斂的精度,濾波效果變得更差。
這就是收斂速度慢和收斂精度之間矛盾。提高收斂精度勢必會造成收斂速度降慢,提高收斂速度結果造成收斂精度低。本文利用粒子群算法來解決這一矛盾。
2.1 粒子群算法的基本概念
粒子群算法,也稱粒子群優(yōu)化算法(Particle Swarm Optimization),縮寫為PSO,是近年來發(fā)展起來的一種新的進化算法(Evolutionary Algorithm-EA)。PSO算法屬于進化算法的一種,它是從隨機解出發(fā),通過迭代尋找最優(yōu)解,它也是通過適應度來評價解的品質(zhì),但它比遺傳算法規(guī)則更為簡單,它沒有遺傳算法的“交叉”(Crossover)和“變異”(Mutation)操作,它通過追隨當前搜索到的最優(yōu)值來尋找全局最優(yōu)。這種算法以其實現(xiàn)容易、精度高、收斂快等優(yōu)點引起了學術界的重視,并且在解決實際問題中展示了其優(yōu)越性。
假定搜索空間E內(nèi)有N個粒子,i(i=1~N)對應搜索空間內(nèi)一個粒子,設定粒子在該搜索空間E內(nèi)對應的位置地址表示為xi=(xi1,xi2,…,xE-2,xE-1,xE),設定粒子在該搜索空間E內(nèi)的運動速度表示為vi=(vi1,vi2,…,viB,viE-1,viE),建立所有粒子在搜索空間E內(nèi)的速度和更新方程為式(7)、式(9)
vid(t+1)=ωvidI(t)+c1rand1[pid-
xid(t)]+c1rand2[pgd-xid(t)]
(7)
(8)
xid(t+1)=xid(t)+vid(t)
(9)
在式(7)中,t表示算法的迭代次數(shù)。c1和c2是加速因子(acceleration coefficient),加速因子一般也設為恒定的常量。ω是慣性權重(inertia weight),慣性權重一般設為一個恒定常量。pid代表粒子在之前的迭代進程中在搜索空間內(nèi)最優(yōu)的位置,而pgd代表當前迭代次數(shù)下粒子在搜索空間內(nèi)最優(yōu)的位置。通過計算pid和pgd與所有粒子現(xiàn)在所在位置xid(t)之差來更新接下去所有粒子在搜索空間內(nèi)的速度與移動趨勢,因此所有粒子能向著它現(xiàn)在最優(yōu)位置和粒子群目前最優(yōu)的位置運動。此外方程中設定了隨機數(shù)rand1和rand2,它們是是在[0,1]之的隨機數(shù)。通過設定隨機數(shù),從而讓所有粒子更新帶有一定的隨機性。
基本的粒子群算法的工作流程是如下圖5所示。
圖5 粒子群算法基本流程
1)算法進入初始階段,生成粒子群,在設定的空間范圍內(nèi),對粒子的初始位置和速度賦值。
2)使用適應度函數(shù)對所有粒子進行評估值,記錄個體歷史上的最優(yōu)值和群體中最優(yōu)值。
3)根據(jù)更新方程,更新所有粒子的位置和速度。
4)判斷迭代是否完成,或者達到計算的要求,如果沒有完成或達到要求,轉到第二步繼續(xù)迭代操作。如果達到迭代上限,或者達到計算要求結束迭代。
5)輸出評估出的最優(yōu)結果,結束程序。
其中,適應度函數(shù)是用于評估粒子目前所在的位置。利用該函數(shù)可以評估出目前最優(yōu)的粒子位置。
式2和式3所示的更新方程是LMS算法的最重要的工作步驟。根據(jù)梯度特性E[e2(k)]會不斷趨于最小均方差。其中。從式2能夠推倒出下式(10)。
e(k+1)=d(k+1)-xT(k+1)[w(k)-2μe(k)x(k)]
(10)
e(k)是瞬時誤差,根據(jù)式10所示,收斂因子2μ決定了E[e2(k)]的最小值。許多研究都是針對2μ,通過動態(tài)調(diào)整2μ使得E[e2(k)]值逐步達到最小,從而提高收斂性。而本文則使用粒子群算法優(yōu)化能力,使得E[e2(k)]在每次迭代中做到最小化,實現(xiàn)LMS濾波的最優(yōu)收斂效果,從而提升濾波降噪能力。
首先將收斂因子μ設為搜索空間內(nèi)的粒子,那么對μ的調(diào)整操作就轉換為尋找粒子在空間的最優(yōu)位置。
根據(jù)式(10),本文設定適應度函數(shù),如下式(11)。
F=min(e(k+1))
(11)
該適應度函數(shù)能夠實現(xiàn)瞬時誤差的最小化,從而是最小均方差MSE達到最小。
本文將基于粒子群改進的LMS算法與其他濾波算法進行比對。
當使用PSO改進的LMS算法濾波是。效果如圖6所示。
圖4.1 基于PSO的LMS算法濾波效果
設定帶噪信號SNR為5.0, LMS濾波后的信號的SNR為30.3。
當使用維納濾波時,效果如圖4.2所示。
圖6 維納濾波效果
設定帶噪信號的SNR為5.0,LMS濾波后的信號的SNR為17.2。
當使用譜減濾波時,效果如如圖7所示。設定帶噪信號的SNR為5.0,LMS濾波后的信號的SNR為14.8。
圖7 譜減濾波效果
基于PSO的LMS算法相比于其他算法,在濾波降噪上擁有更好的收斂性,更好的濾波效果。該算法能夠在前期保證收斂速度,也能保證后期的收斂精度。
基于PSO的LMS算法擁有很好的收斂效果,能夠有效地降低噪音信號,提取有用的信號數(shù)據(jù)。對于語音信號和音樂信號的提取還原有著非常大的作用。
[1] D. J. Krusienski, W. K. Jenkins. A Particle Swarm Optimizat ionleast Mean Squares Algorithm for Adap-
tive Filter[C]. IEEE 38th Asilomar Conference on, Signals, Systems and Computers, 2004, 1(11): 241-245.
[2] 李輝,張安,趙敏,等. 粒子群優(yōu)化算法FIR數(shù)字濾器設計中的應用[J]. 電子學報, 2005, 33(7): 1338-1341.
[3] 黃媛媛,王友人,崔江,等.基于粒子群算法的自適應LMS濾波器設計及可重構硬件實現(xiàn)[J].佳木斯大學學報(自然科學版),2010,28(1):1-4.
[4] 吳怡.基于LMS算法的語音增強系統(tǒng)的研究[D]. 北京:北京郵電大學,2011.
[5] 宋智用. MATLAB在語音信號分析與合成中的應用[M]. 北京:北京航天航空大學出版社,2013.
[6] T.Mvsr, K.Meghashyam, A.Verma.Comprehensive Analysis of LMS and NLMS Algorithms using Adaptive Equalizers[C].IEEE 2014 International Conference on,Communications and Signal Processing (ICCSP), 2014,1101-1104.
[7] 迪尼. 自適應濾波算法與實現(xiàn)[M]. 劉郁林,譯. 北京: 電子工業(yè)出版社,2014.
LMSAlgorithmBasedonPSOandApplicationintheFieldofNoise-reduceFilter
Zhao Tiexiao, Wang Lei
(Collge of Electronics and Engineering, Tongi University, Shanghai 201804, China)
TP393.04
A
2017.06.25)
趙軼驍(1990-),男,工程碩士,研究方向:電子通信工程. 汪鐳(1970-),男,教授,研究方向:智能控制,智能計算,CIMS和系統(tǒng)工程方面.
1007-757X(2017)09-0071-03