陳 楠,王友國,翟其清
(1.南京郵電大學(xué)理學(xué)院,江蘇 南京 210046; 2.南京郵電大學(xué)通信與信息工程學(xué)院,江蘇 南京 210003)
在信號處理過程中,噪聲的存在影響了有用信息的提取,所以人們一直致力于抑制噪聲。然而在許多非線性系統(tǒng)中,噪聲的存在卻能夠改善信息的傳輸,Benzi等人[1]在1981年首先觀察到這個現(xiàn)象,并稱之為隨機共振(Stochastic Resonance,簡稱SR)。1995年,Collins[2]觀察到了一種稱為非周期性隨機共振的新現(xiàn)象。2000年,Stocks[3]在繼續(xù)Collins的研究中提出了閾上隨機共振(Suprathreshold Stochastic Resonance,簡稱SSR)的概念,與SR不同,在SSR中當(dāng)輸入信號幅值大于閾值時也能觀察到噪聲增強。SSR的提出擴充了SR的理論,研究成果豐富[4-15]。
一直以來對于SSR及其應(yīng)用的研究基本上都是基于閾值單元為二元輸出的單閾值系統(tǒng)網(wǎng)絡(luò)模型,其中Nikitin A等人[12]研究了該模型僅受乘性噪聲影響時系統(tǒng)中的SSR現(xiàn)象,郭永峰等人[14]和李歡等人[15]則分析了該模型同時含有加性和乘性噪聲時,系統(tǒng)中各參數(shù)對SSR現(xiàn)象產(chǎn)生的影響。但實際上該模型卻可能存在更復(fù)雜的情況,例如每個閾值單元有多個輸出。2009年,McDonnell等人[16]提出了隨機池網(wǎng)絡(luò)模型,這個靈活的模型可以捕獲感官神經(jīng)元的重要屬性,并用來模擬真實的生物網(wǎng)絡(luò)模型,能有助于人們進一步理解大腦的信號處理機制?;谶@種網(wǎng)絡(luò)模型,McDonnell等人[17]以信號量噪比為測度研究了具有加性噪聲的多元輸出閾值系統(tǒng)中的SSR現(xiàn)象,Cheng等人[18]則分別以互信息和信號量噪比為測度研究了具有乘性噪聲的多元輸出閾值系統(tǒng)中的SSR現(xiàn)象。因為在實際情況中,系統(tǒng)會同時受到加性噪聲和乘性噪聲的影響,所以本文在上述文獻[17-18]的基礎(chǔ)上以互信息為測度研究了在加性噪聲與乘性噪聲共同作用下多元輸出閾值系統(tǒng)中的SSR現(xiàn)象。
加性和乘性噪聲共同作用下的多閾值系統(tǒng)網(wǎng)絡(luò)模型如圖1所示[18]。
圖1 多閾值系統(tǒng)網(wǎng)絡(luò)模型Fig.1 Model of multilevel threshold Systems
該系統(tǒng)具有N個相互獨立的閾值單元,且每個單元都有M個閾值δi,j,i=1,2,…,N,j=1,2,…,M,閾值單元的輸出為yi∈{0,1,…,M},經(jīng)過加性和乘性噪聲共同作用下的輸出vi可表示為
vi=R(x)+DβiR(x)+Qτi,i=1,2,…,N
(1)
其中,R(x)是系統(tǒng)函數(shù),這里取其為分段函數(shù)[14]:
(2)
信號經(jīng)過該系統(tǒng)函數(shù)的半波整流[19]后,只取信號中正的部分。βi、τi是相互獨立的標準高斯噪聲,D、Q分別是乘性噪聲強度和加性噪聲強度,即
(βi,βk)=0,(τi,τk)=0,(βi,τk)=0,i≠k
(3)
本文取輸出函數(shù)為
S(x)=j,x∈[δi,j,δi,j+1),i=1,2,…,N,j=1,2,…,M
(4)
其中,δi,0=-∞,δi,M+1=+∞,把vi帶入該函數(shù)可得S(vi)=yi,i=1,2,…,N。
當(dāng)輸入信號x為高斯信號時,其概率密度函數(shù)為
(5)
其中,輸入信號x>0時,所滿足的條件概率公式是高斯型的,可表示為
(6)
此時,每個單元的輸出條件概率表達式為
(7)
當(dāng)輸入信號x≤0時,所滿足的條件概率也是高斯型的,可表示為
(8)
此時,每個單元的輸出條件概率表達式為
(9)
由Shannon信息理論,系統(tǒng)輸出的互信息可表示為[12]
I=H(Y)-H(Y|X)
(10)
其中,H(Y)是輸出熵,
(11)
式中的PY(n)為系統(tǒng)輸出概率密度函數(shù):
(12)
式中P(y=n|x)是給定輸入信號x時輸出y=n的條件概率密度函數(shù),H(Y|X)為輸入信號為x輸出為y時系統(tǒng)損失的信息量(條件輸出熵),
(13)
(14)
特別當(dāng)h=1時,
(15)
(16)
為了便于研究,本文取σ=1,并且設(shè)定每個單元的閾值是均勻分布的,不同單元的閾值都相等,即
δ1,j=δ2,j=…=δN,j
(17)
則由式(10)可以計算出互信息I。圖2~圖6給出了在各系統(tǒng)參數(shù)下互信息I隨不同噪聲強度的變化。
圖2 M=8,N=16時不同閾值分布區(qū)間下互信息I隨乘性噪聲D和加性噪聲Q的變化Fig.2 The mutual information I changes with multiplicative noise intensity D additive noise intensity and Q in different threshold distribution intervals (M=8,N=16)
設(shè)閾值單元數(shù)N=16,閾值單元輸出元數(shù)M=8,在不同的閾值區(qū)間情況下,圖2a給出了加性噪聲強度固定為Q=0.1時,互信息隨乘性噪聲強度D變化的圖像,圖2b給出了乘性噪聲強度固定為D=0.1時,互信息隨加性噪聲強度Q變化的圖像。通過圖2可以看到,對于端點值較小的閾值區(qū)間[0,1],互信息I隨著乘性(加性)噪聲強度D(Q)增加的變化曲線總是單調(diào)遞減的,此時系統(tǒng)沒有出現(xiàn)SSR現(xiàn)象;但是對于其他端點值較大的閾值區(qū)間,系統(tǒng)產(chǎn)生了SSR現(xiàn)象,曲線的頂點也隨著端點值的增加而下移。圖2表明閾值區(qū)間端點值的增大,即閾值的提高,使得系統(tǒng)中更容易產(chǎn)生SSR現(xiàn)象,但同時也會降低系統(tǒng)中信息傳輸?shù)男Ч_@是因為閾值數(shù)值的提高使得系統(tǒng)中處于閾下的信號成分增加,SR現(xiàn)象的影響使得SSR現(xiàn)象更易產(chǎn)生,但閾值的增加也使得互信息達到峰值所需的相應(yīng)噪聲強度變大,噪聲的增強惡化了系統(tǒng)中信息的傳輸,所以閾值的選擇對改善系統(tǒng)中信息的傳輸很重要。
通過圖2a與圖2b的對比,可以發(fā)現(xiàn)相對于乘性噪聲,加性噪聲在互信息I達到峰值時的強度較低,即系統(tǒng)產(chǎn)生SSR現(xiàn)象時需要的加性噪聲強度要比所需的乘性噪聲強度要小,這表明對于加性噪聲與乘性噪聲,前者的改變會使得系統(tǒng)更易于產(chǎn)生SSR現(xiàn)象。
設(shè)閾值區(qū)間為[0,1],閾值單元數(shù)N=8,在不同的閾值單元輸出元數(shù)M下,圖3a給出了Q=0.01時互信息I隨乘性噪聲強度D的變化曲線,圖3b給出了乘性噪聲強度固定為D=0.01時,互信息I隨加性噪聲強度Q的變化曲線。通過圖3可以看到,隨著閾值單元輸出元數(shù)M的增加,互信息I隨乘性或加性噪聲強度變化曲線的初始值和峰值也隨之增大,但M=32與M=64時的兩條曲線趨于重合,即互信息I在M的值增加到一定程度后趨于飽和。這是因為每個閾值單元輸出元數(shù)越多,系統(tǒng)所輸出的值就越多,但閾值單元輸出元數(shù)的增加對系統(tǒng)中信息傳輸?shù)脑鰪娛怯邢薜?。同時可以發(fā)現(xiàn)系統(tǒng)產(chǎn)生SSR現(xiàn)象所需的噪聲強度也隨著閾值單元輸出元數(shù)的增加減小,SSR現(xiàn)象也越來越不明顯,甚至當(dāng)M的值過大(M≥16)時,系統(tǒng)中的SSR現(xiàn)象消失。這是因為對于固定的閾值區(qū)間,隨著M的值增加,每個閾值單元的閾值δi,j越來越小。
圖3 閾值分布區(qū)間為[0,1],N=8及不同閾值單元輸出元數(shù)M時,互信息I隨乘性噪聲D和加性噪聲Q的變化Fig.3 The mutual information I changes with multiplicative noise intensity D additive noise intensity and Q in different M (δi,j∈[0,1],N=8)
圖3表明產(chǎn)生SSR現(xiàn)象所需的噪聲強度與M的大小成反比,即在噪聲強度較弱時,閾值單元為多元輸出的閾值系統(tǒng)要比為二元輸出的閾值系統(tǒng)更易使系統(tǒng)產(chǎn)生SSR現(xiàn)象,此時相對于二元輸出的閾值系統(tǒng),多元輸出閾值系統(tǒng)中信息傳輸?shù)男Ч?。但?dāng)閾值單元輸出元數(shù)過大時,SSR現(xiàn)象會消失,互信息I的值也趨于飽和。
圖4 閾值分布區(qū)間為[0,1],M=8及不同閾值單元數(shù)N時,互信息I隨乘性噪聲D和加性噪聲Q的變化Fig.4 The mutual information I changes with multiplicative noise intensity D additive noise intensity and Q in different N (δi,j∈[0,1],M=8)
設(shè)閾值區(qū)間為[0,1],閾值單元輸出元數(shù)M=8,在不同的閾值單元數(shù)N下,圖4a給出了加性噪聲強度固定為Q=0.01時互信息I隨乘性噪聲強度的變化曲線,圖4b給出了乘性噪聲強度固定為D=0.01時,互信息隨加性噪聲強度Q的變化曲線。通過圖4可以看到,在N≤2時系統(tǒng)未出現(xiàn)SSR現(xiàn)象,而隨著閾值單元數(shù)N的增加,系統(tǒng)產(chǎn)生的SSR現(xiàn)象越來越明顯,互信息的峰值也隨之增大。圖4表明增加系統(tǒng)中的閾值單元數(shù)有利于系統(tǒng)中SSR現(xiàn)象的產(chǎn)生,并能夠改善系統(tǒng)中信息的傳輸。
圖5給出了在閾值區(qū)間為[0,1],M=4,N=32時,互信息I隨著加性噪聲強度Q與乘性噪聲強度D的變化情況。通過圖5可以看到在乘性噪聲強度D固定,隨著D的增加,互信息I隨加性噪聲強度Q變化曲線的上凸趨勢越來越不明顯,互信息I的峰值也隨之減小。同時對于固定的加性噪聲強度Q,隨著Q的增加,互信息I隨乘性噪聲強度D變化的曲線逐漸由上凸趨勢變?yōu)閱握{(diào)遞減。
圖5 閾值分布區(qū)間為[0,1],M=4,N=32時,互信息I隨加性噪聲強度Q與乘性噪聲強度D的變化Fig.5 The mutual information I changes with both the additive noise intensity Q and the multiplicative noise intensity D (δi,j∈[0,1],M=4,N=32)
圖6 閾值分布區(qū)間為[1,2],N=32,D=0.001時,互信息I在不同的閾值單元輸出元數(shù)下隨加性噪聲強度Q的變化Fig.6 The mutual information I changes with additive noise intensity Q in different M (δi,j∈[1,2],N=32,D=0.001)
設(shè)閾值區(qū)間為[1,2],閾值單元數(shù)N=32,D=0.001時,在不同的閾值單元輸出元數(shù)M下,圖6給出了互信息I隨加性噪聲強度Q的變化曲線。通過圖6可以看到,對于M=16,M=32與M=64時的3條曲線,互信息I隨著加性噪聲強度Q的增加出現(xiàn)了兩個峰值,這表明系統(tǒng)出現(xiàn)了雙峰閾上隨機共振現(xiàn)象。
本文以互信息為測度在文獻[17-18]模型的基礎(chǔ)上,通過對模型的數(shù)值計算與結(jié)果分析,發(fā)現(xiàn)在一定強度的加性噪聲和乘性噪聲共同作用下,多閾值系統(tǒng)中出現(xiàn)了閾上隨機共振現(xiàn)象。并且該現(xiàn)象的產(chǎn)生還受閾值單元輸出元數(shù)、閾值大小及閾值單元數(shù)的影響,提高閾值與增加閾值單元數(shù)都可以讓系統(tǒng)更易于出現(xiàn)該現(xiàn)象,但是閾值的增加會減弱系統(tǒng)中信息傳輸?shù)男Ч?。此外,在噪聲強度較弱時,提高閾值單元輸出元數(shù)可以增強系統(tǒng)中信息傳輸?shù)男Ч?,但過高的輸出元數(shù)會使系統(tǒng)中的閾上隨機共振現(xiàn)象消失,并且使互信息的值趨于飽和。因此,閾值與閾值輸出單元數(shù)的選擇對于系統(tǒng)中閾上隨機共振現(xiàn)象的產(chǎn)生以及信息傳輸?shù)母纳坪苤匾?/p>