邱立達(dá),劉天鍵,林 南,黃章超

(1.閩江學(xué)院物理學(xué)與電子信息工程系,福州 350108;2.廈門理工學(xué)院光電與通信工程學(xué)院,福建 廈門 361024)

?

基于深度學(xué)習(xí)模型的無線傳感器網(wǎng)絡(luò)數(shù)據(jù)融合算法*

邱立達(dá)1*,劉天鍵1,林 南1,黃章超2

(1.閩江學(xué)院物理學(xué)與電子信息工程系,福州 350108;2.廈門理工學(xué)院光電與通信工程學(xué)院,福建 廈門 361024)

為了在無線傳感器網(wǎng)絡(luò)中提高數(shù)據(jù)融合性能,基于深度學(xué)習(xí)模型,提出一種將層疊自動(dòng)編碼器(SAE)和分簇協(xié)議相結(jié)合的數(shù)據(jù)融合算法SAEMDA,該算法在各個(gè)簇內(nèi)構(gòu)建特征提取分類模型SAEM,通過SAEM對(duì)節(jié)點(diǎn)數(shù)據(jù)進(jìn)行特征提取和分類,之后將同類特征融合并發(fā)送給匯聚節(jié)點(diǎn)。SAEM的訓(xùn)練既可以采用離線有監(jiān)督學(xué)習(xí)也可以采用在線無監(jiān)督學(xué)習(xí)。仿真實(shí)驗(yàn)表明:和BPFDA,SOFMDA算法相比,SAEMDA在網(wǎng)絡(luò)能耗大致相當(dāng)?shù)那闆r下能將數(shù)據(jù)融合正確率提高最多7.5%。

無線傳感器網(wǎng)絡(luò);數(shù)據(jù)融合;深度學(xué)習(xí);自動(dòng)編碼器

1 相關(guān)工作

無線傳感器網(wǎng)絡(luò)(WSN)數(shù)據(jù)融合技術(shù)能有效去除數(shù)據(jù)冗余性,減少通信開銷從而降低能耗,延長(zhǎng)網(wǎng)絡(luò)壽命,因此成為WSN中的重要研究課題之一。目前已提出了多種WSN數(shù)據(jù)融合方法,如文獻(xiàn)[1]使用遺傳算法尋找傳感器數(shù)據(jù)融合節(jié)點(diǎn)序列的最優(yōu)路徑,有效減少了網(wǎng)絡(luò)能耗和傳輸延時(shí),但未解決數(shù)據(jù)本身的冗余性問題。文獻(xiàn)[2]通過在分簇結(jié)構(gòu)的簇首中對(duì)節(jié)點(diǎn)數(shù)據(jù)進(jìn)行PCA降維達(dá)到數(shù)據(jù)融合的目的,其缺點(diǎn)是簇首需周期性的對(duì)所有數(shù)據(jù)進(jìn)行PCA運(yùn)算,開銷大,實(shí)時(shí)性差且PCA的非線性映射能力不佳。文獻(xiàn)[3]提出中介真值度度量的動(dòng)態(tài)多節(jié)點(diǎn)數(shù)據(jù)加權(quán)融合,算法簡(jiǎn)單,實(shí)時(shí)性好,但是未考慮不同類型數(shù)據(jù)間的差異性。

近年來,鑒于神經(jīng)網(wǎng)絡(luò)和WSN的相似性使其成為數(shù)據(jù)融合算法的研究重點(diǎn)[4-6],該類方法通過神經(jīng)網(wǎng)絡(luò)對(duì)節(jié)點(diǎn)數(shù)據(jù)進(jìn)行特征提取分類并融合同類特征,在降低數(shù)據(jù)通信量的同時(shí)能夠保留原始數(shù)據(jù)的關(guān)鍵信息。文獻(xiàn)[5]提出的BPNDA是該類算法的典型代表,BPNDA將BP神經(jīng)網(wǎng)絡(luò)與分簇協(xié)議結(jié)合,先在匯聚節(jié)點(diǎn)訓(xùn)練BP網(wǎng)絡(luò),之后將網(wǎng)絡(luò)參數(shù)發(fā)送給各簇的簇首和簇節(jié)點(diǎn)用于構(gòu)造BP神經(jīng)網(wǎng)絡(luò)模型來對(duì)節(jié)點(diǎn)原始數(shù)據(jù)進(jìn)行特征提取和分類融合,BPNDA能有效提高數(shù)據(jù)融合效率,降低網(wǎng)絡(luò)能耗,但是在訓(xùn)練樣本不含標(biāo)簽信息時(shí)BP網(wǎng)絡(luò)將無法訓(xùn)練。文獻(xiàn)[7]提出基于SOFM神經(jīng)網(wǎng)絡(luò)的SOFMDA算法,SOFMDA對(duì)網(wǎng)絡(luò)分簇后在簇首訓(xùn)練SOFM并通過SOFM對(duì)接收到的節(jié)點(diǎn)數(shù)據(jù)進(jìn)行特征提取和分類融合。作為無監(jiān)督神經(jīng)網(wǎng)絡(luò),SOFM不要求訓(xùn)練樣本包含標(biāo)簽信息。目前在神經(jīng)網(wǎng)絡(luò)驅(qū)動(dòng)的數(shù)據(jù)融合算法中主要使用單隱層BP神經(jīng)網(wǎng)絡(luò),SOFM神經(jīng)網(wǎng)絡(luò)等傳統(tǒng)淺層模型,它們的非線性映射能力與對(duì)復(fù)雜數(shù)據(jù)的特征表示能力較弱,直接影響了數(shù)據(jù)融合的效果,與之相比,深層模型能更好的逼近復(fù)雜函數(shù),泛化能力和數(shù)據(jù)特征表示能力更強(qiáng),但是其非凸損失函數(shù)局部極值多,訓(xùn)練容易陷入局部極小,以多隱層BP神經(jīng)網(wǎng)絡(luò)為例傳統(tǒng)訓(xùn)練方法的效果已很不理想[8],因此在深度學(xué)習(xí)技術(shù)出現(xiàn)前,深層模型的應(yīng)用受到了較大制約。2006年Hinton等提出可以通過無監(jiān)督貪婪算法對(duì)深層模型逐層訓(xùn)練(這種訓(xùn)練方法有效解決了深層結(jié)構(gòu)的優(yōu)化難題[9])并基于此思想提出了深信度網(wǎng)絡(luò)[10]。此后層疊降噪自動(dòng)編碼器[11]、DCN[12]、Sum-product[13]等深度學(xué)習(xí)模型被陸續(xù)提出并在各個(gè)領(lǐng)域[14-16]取得巨大成功。

迄今深度學(xué)習(xí)技術(shù)在WSN中的應(yīng)用尚鮮有報(bào)道,本文將層疊自動(dòng)編碼器(SAE)和分類器級(jí)聯(lián),設(shè)計(jì)了一種基于深度學(xué)習(xí)的特征提取分類模型SAEM。SAEM采用貪婪算法逐層無監(jiān)督訓(xùn)練,當(dāng)訓(xùn)練樣本包含標(biāo)簽信息時(shí)還可通過有監(jiān)督“微調(diào)”進(jìn)一步優(yōu)化參數(shù),有效克服了傳統(tǒng)深層模型訓(xùn)練方法的不足,和當(dāng)前廣泛使用的淺層特征提取分類模型相比具有更優(yōu)異的性能。之后將SAEM和分簇協(xié)議結(jié)合提出了一種新的數(shù)據(jù)融合算法SAEMDA,SAEMDA對(duì)網(wǎng)絡(luò)分簇后在各簇內(nèi)通過訓(xùn)練好的SAEM對(duì)節(jié)點(diǎn)數(shù)據(jù)進(jìn)行特征提取和分類融合,與使用傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型的BPNDA,SOFMDA相比,SAEMDA在降低網(wǎng)絡(luò)能耗的同時(shí)對(duì)于節(jié)點(diǎn)數(shù)據(jù)具有更高的數(shù)據(jù)融合正確率。

2 深度學(xué)習(xí)模型

基于深度學(xué)習(xí)的層疊自動(dòng)編碼器(SAE)能有效提取數(shù)據(jù)低維特征,是本文提出的特征提取分類模型SAEM的重要組成部分,下面介紹其原理。

2.1 自動(dòng)編碼器

自動(dòng)編碼器AE(AutoEncoder)是一種單隱層無監(jiān)督學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)(如圖1(a)),AE通過尋求最優(yōu)參數(shù)(W,b)使得輸出y盡可能地重構(gòu)輸入x,此時(shí)隱藏層輸出a(k,2)可看作是x降維后的低維特征。為了使隱藏層輸出特征更加稀疏魯棒,AE的損失函數(shù)中包括輸入輸出均方誤差約束,權(quán)值衰減約束和稀疏性約束3個(gè)部分:

(1)

AE通過梯度下降算法來訓(xùn)練網(wǎng)絡(luò)參數(shù)使得損失函數(shù)最小化,主要步驟如下:

Step2對(duì)于i=1到m,計(jì)算:

Step3更新參數(shù):

Step4重復(fù)Step 2直到收斂或達(dá)到最大迭代次數(shù),輸出(W(k,1),b(k,1),W(k,2),b(k,2))。

2.2 層疊自動(dòng)編碼器

將若干AE級(jí)聯(lián)可構(gòu)建多層神經(jīng)網(wǎng)絡(luò):層疊自動(dòng)編碼器(SAE)。SAE的輸出可看作是輸入數(shù)據(jù)經(jīng)過多次降維后的特征表示。SAE的各層參數(shù)可以通過逐層貪婪訓(xùn)練來獲得(訓(xùn)練時(shí)將前一層AE的隱藏層輸出作為后一層AE的輸入),具體方法如下:

設(shè)定SAE隱藏層數(shù)Nk,利用樣本x訓(xùn)練第1個(gè)AE獲得其參數(shù)和隱藏層輸出a(1,2),如圖1(a)。用a(1,2)作為輸入,訓(xùn)練第2個(gè)AE獲得其參數(shù)和a(2,2),如圖1(b)。以此類推,對(duì)Nk個(gè)AE逐層貪婪訓(xùn)練后獲得參數(shù)組{(W(k,1),b(k,1))|k=1,…,Nk},將(W(k,1),b(k,1))作為SAE各層間連接權(quán)值,如圖2“特征提取模塊”框中所示。

圖1 自動(dòng)編碼器AE結(jié)構(gòu)

圖2 特征提取分類模型SAEM結(jié)構(gòu)

2.3 特征提取分類模型

特征提取分類性能直接影響數(shù)據(jù)融合的效果,為此本文設(shè)計(jì)了一種WSN特征提取分類模型SAEM,SAEM由SAE“特征提取”模塊和包含分類器的“特征分類”模塊級(jí)聯(lián)而成,如圖2,其中分類器可采用無監(jiān)督分類器(SAEM1)或有監(jiān)督分類器(SAEM2)。由于K-means無監(jiān)督聚類算法簡(jiǎn)單,參數(shù)少,收斂快且性能優(yōu)異[17]而Softmax有監(jiān)督分類器和SAE在單獨(dú)訓(xùn)練及整體“微調(diào)”時(shí)都可通過BP算法推導(dǎo)殘差并使用梯度下降算法求解,模型復(fù)雜度小,故在SAEM1,SAEM2中分別選用二者作為分類器。SAEM構(gòu)建方法如下:

①SAEM1:當(dāng)訓(xùn)練樣本不含標(biāo)簽信息時(shí),首先訓(xùn)練SAE作為SAEM1的“特征提取”模塊,接著將SAE輸出的訓(xùn)練樣本特征作為輸入,訓(xùn)練與SAE級(jí)聯(lián)的K-means無監(jiān)督聚類器作為“特征分類”模塊。

②SAEM2:若訓(xùn)練樣本包含標(biāo)簽信息,則首先訓(xùn)練SAE,接著利用SAE輸出的訓(xùn)練樣本特征和標(biāo)簽信息訓(xùn)練有監(jiān)督分類器Softmax,如圖2所示。然后把訓(xùn)練好的SAE參數(shù){(W(k,1),b(k,1))|k=1,…,Nk}和Softmax參數(shù)(Wc,θc)作為SAEM2的參數(shù)初值,使用BP算法對(duì)其進(jìn)行整體有監(jiān)督“微調(diào)”以進(jìn)一步優(yōu)化模型性能。

3 無線傳感器網(wǎng)絡(luò)數(shù)據(jù)融合算法

在對(duì)傳感器節(jié)點(diǎn)數(shù)據(jù)進(jìn)行分類融合前需要訓(xùn)練相應(yīng)的特征提取分類模型,針對(duì)訓(xùn)練樣本不含標(biāo)簽信息或包含標(biāo)簽信息的情況,本文設(shè)計(jì)了基于SAEM1的無監(jiān)督數(shù)據(jù)融合算法SAEMDA1和基于SAEM2的有監(jiān)督數(shù)據(jù)融合算法SAEMDA2。為便于比較分析,應(yīng)用SAEMDA算法的WSN具有和同類網(wǎng)絡(luò)[4-7]相同的網(wǎng)絡(luò)模型:①網(wǎng)絡(luò)節(jié)點(diǎn)具有唯一ID號(hào),隨機(jī)部署后位置固定;節(jié)點(diǎn)初始能量相同,不可補(bǔ)給。②匯聚節(jié)點(diǎn)部署在感知區(qū)域外,位置固定,能量充足,具有較強(qiáng)的存儲(chǔ)計(jì)算能力。③匯聚節(jié)點(diǎn)可直接向節(jié)點(diǎn)發(fā)送數(shù)據(jù)而節(jié)點(diǎn)功率受限;各節(jié)點(diǎn)能獲知自己的位置信息。

圖4 SAEMDA2算法流程

首先通過分簇協(xié)議對(duì)網(wǎng)絡(luò)分簇并選出各簇的簇首節(jié)點(diǎn),接著運(yùn)行SAEMDA1算法(如圖3)或SAEMDA2算法(如圖4),算法主要步驟如下:

圖3 SAEMDA1算法流程

①SAEMDA1

Step1各簇節(jié)點(diǎn)采集傳感數(shù)據(jù)并不加處理地發(fā)送給相應(yīng)的簇首節(jié)點(diǎn)。

Step2簇首以接收到的簇節(jié)點(diǎn)數(shù)據(jù)作為訓(xùn)練樣本,構(gòu)建并訓(xùn)練SAEM1。之后簇首將其中的SAE參數(shù)發(fā)送回各個(gè)簇節(jié)點(diǎn),K-means聚類器參數(shù)則由簇首保存。

Step3簇節(jié)點(diǎn)采集傳感數(shù)據(jù),利用獲得的SAE提取數(shù)據(jù)特征并發(fā)送給簇首。

Step4簇首用K-means聚類器對(duì)特征分類并按式(2)融合同類特征后向匯聚節(jié)點(diǎn)發(fā)送

(2)

式中c,Nc為特征類別號(hào)和類別數(shù)量,nc為c類特征數(shù)量,a(Nk,nl)(i,c)為SAE輸出的樣本特征(被“特征分類”模塊判定為c類)。

Step5當(dāng)網(wǎng)絡(luò)節(jié)點(diǎn)完成一輪數(shù)據(jù)采集、融合與傳輸后,匯聚節(jié)點(diǎn)運(yùn)行分簇協(xié)議重新分簇、選取簇首并跳轉(zhuǎn)到Step 3。

②SAEMDA2

Step1各簇首節(jié)點(diǎn)向匯聚節(jié)點(diǎn)發(fā)送簇節(jié)點(diǎn)信息表。

Step2匯聚節(jié)點(diǎn)以包含標(biāo)簽信息的樣本數(shù)據(jù)作為輸入,構(gòu)建并訓(xùn)練SAEM2。之后匯聚節(jié)點(diǎn)將SAE參數(shù)發(fā)送回各個(gè)簇節(jié)點(diǎn),將Softmax分類器參數(shù)發(fā)送回各簇首節(jié)點(diǎn)。

Step3簇節(jié)點(diǎn)采集傳感數(shù)據(jù)并利用SAE進(jìn)行特征提取后發(fā)送給簇首。

Step4簇首用Softmax分類器對(duì)特征分類并按式(2)融合同類特征后向匯聚節(jié)點(diǎn)發(fā)送。

Step5網(wǎng)絡(luò)節(jié)點(diǎn)完成一輪數(shù)據(jù)采集、融合與傳輸后,匯聚節(jié)點(diǎn)運(yùn)行分簇協(xié)議重新分簇、選取簇首并跳轉(zhuǎn)到Step 3。

上述SAEM1、SAEM2模型的輸入層單元數(shù)和節(jié)點(diǎn)采集數(shù)據(jù)的維數(shù)相同,與網(wǎng)絡(luò)分簇?cái)?shù)量、簇節(jié)點(diǎn)個(gè)數(shù)等無關(guān),因此SAEMDA算法和分簇協(xié)議的實(shí)現(xiàn)是相互獨(dú)立的。

4 實(shí)驗(yàn)和分析

利用OMNET++編程對(duì)無監(jiān)督數(shù)據(jù)融合算法SOFMDA,SAEMDA1以及有監(jiān)督數(shù)據(jù)融合算法BPNDA,SAEMDA2進(jìn)行仿真。為了專注于數(shù)據(jù)融合的性能分析,算法皆采用未優(yōu)化的LEACH分簇協(xié)議以及第1類無線通信能耗模型,仿真參數(shù)設(shè)置為:在100 m×100 m平面區(qū)域隨機(jī)分布100個(gè)傳感器節(jié)點(diǎn),匯聚節(jié)點(diǎn)坐標(biāo)(50,175),節(jié)點(diǎn)初始能量0.5 J,網(wǎng)絡(luò)中數(shù)據(jù)包長(zhǎng)度4 000 bit,分簇消息長(zhǎng)度200 bit,包頭長(zhǎng)度200 bit,仿真時(shí)間300 s。

SAEMDA1和SOFMDA的對(duì)比如表1,其中nl,s1,Nc分別表示特征提取分類模型的層數(shù)、輸入數(shù)據(jù)維數(shù)和數(shù)據(jù)分類數(shù)量。由表1可知,SOFMDA的特征提取分類性能略高于SAEMDA1(n1=3),但隨著SAEM1層數(shù)增加,SAEMDA1(n1=4,5)的正確率逐漸超過SOFMDA;當(dāng)處理高維多類別數(shù)據(jù)時(shí),淺層模型SOFM的參數(shù)數(shù)量急劇增加,訓(xùn)練容易陷入局部極值以至性能不佳,而基于深度學(xué)習(xí)的多隱層SAEM1此時(shí)優(yōu)勢(shì)愈發(fā)明顯。

SAEMDA2和BPNDA的對(duì)比如表2,可見當(dāng)SAEM2和BP神經(jīng)網(wǎng)絡(luò)模型層數(shù)相同時(shí),SAEMDA2的正確率均高于BPNDA,尤其是處理高維多類別數(shù)據(jù)時(shí),SAEMDA2通過逐層訓(xùn)練多隱層SAEM2能獲得比BP網(wǎng)絡(luò)更好的參數(shù)來提高特征提取分類能力,因此表現(xiàn)更優(yōu)異。此外由于利用了標(biāo)簽信息,有監(jiān)督數(shù)據(jù)融合算法性能要比無監(jiān)督學(xué)習(xí)的好。

表1 無監(jiān)督數(shù)據(jù)融合正確率

表2 有監(jiān)督數(shù)據(jù)融合正確率

以處理數(shù)據(jù)(s1=1600,Nc=10)為例,算法能耗如圖5所示,可見各數(shù)據(jù)融合算法的能耗均低于LEACH,其中BPNDA和SAEMDA2的能耗水平大致相當(dāng)且都低于SOFMDA和SAEMDA1,這是因?yàn)锽PNDA和SAEMDA2中層數(shù)相同的BP網(wǎng)絡(luò)和SAEM2結(jié)構(gòu)相似且都是在匯聚節(jié)點(diǎn)中進(jìn)行訓(xùn)練,而SOFMDA和SAEMDA1則是在簇首中訓(xùn)練SOFM網(wǎng)絡(luò)和SAEM2,簇首需要接收簇節(jié)點(diǎn)發(fā)送的原始數(shù)據(jù)作為訓(xùn)練樣本,加大了節(jié)點(diǎn)能耗;此外SOFMDA中特征提取分類都在簇首進(jìn)行,而SAEMDA2中簇節(jié)點(diǎn)在本地進(jìn)行特征提取,簇首只進(jìn)行分類融合,減少了數(shù)據(jù)傳輸量,因此SAEMDA2的能耗又低于SOFMDA。

WSN中隨著能量消耗節(jié)點(diǎn)陸續(xù)死亡,網(wǎng)絡(luò)逐漸失效,通常將死亡節(jié)點(diǎn)達(dá)到某一比例時(shí)的網(wǎng)絡(luò)運(yùn)行時(shí)間或輪數(shù)定義為WSN的網(wǎng)絡(luò)壽命。與圖5相應(yīng)的各算法網(wǎng)絡(luò)壽命如圖6,顯見網(wǎng)絡(luò)能耗越低則網(wǎng)絡(luò)壽命越長(zhǎng),以20%節(jié)點(diǎn)死亡為例,各算法下的網(wǎng)絡(luò)壽命為:LEACH(540輪),SOFMDA(760輪),SAEMDA1(943輪),BPNDA(1265輪),SAEMDA2(1278輪)?？梢奡AEMDA的網(wǎng)絡(luò)壽命等同或優(yōu)于同類算法。

圖5 數(shù)據(jù)融合算法能耗對(duì)比

圖6 網(wǎng)絡(luò)壽命對(duì)比

5 結(jié)論

在WSN數(shù)據(jù)融合中引入深度學(xué)習(xí)技術(shù),針對(duì)SOFMDA,BPNDA等廣泛使用的傳統(tǒng)淺層神經(jīng)網(wǎng)絡(luò)模型非線性映射能力弱,數(shù)據(jù)特征表示效果不理想的問題,設(shè)計(jì)了一種特征提取分類模型SAEM。SAEM基于深度學(xué)習(xí),采用逐層訓(xùn)練的方法,相較于BP網(wǎng)絡(luò),SOFM網(wǎng)絡(luò)具有更好的特征提取分類性能。仿真實(shí)驗(yàn)表明,本文提出的以SAEM為基礎(chǔ)結(jié)合分簇協(xié)議的SAEMDA算法在降低網(wǎng)絡(luò)能耗的同時(shí),對(duì)各種數(shù)據(jù)具有更高的數(shù)據(jù)融合正確率,同時(shí)適用于無監(jiān)督或有監(jiān)督情況下的數(shù)據(jù)融合。深度學(xué)習(xí)模型在WSN領(lǐng)域具有廣闊的應(yīng)用前景,如何進(jìn)一步簡(jiǎn)化參數(shù),縮短模型訓(xùn)練時(shí)間,提高特征提取分類速度是下一步的研究重點(diǎn)。

[1] 張揚(yáng),楊松濤,張香芝. 一種模擬退火遺傳算法的傳感器網(wǎng)絡(luò)數(shù)據(jù)融合技術(shù)研究[J]. 計(jì)算機(jī)應(yīng)用研究,2012,29(5):1860-1862.

[2]馬守明,王汝傳,葉寧. 基于主元分析的無線傳感器網(wǎng)絡(luò)數(shù)據(jù)融合研究[J]. 計(jì)算機(jī)工程與科學(xué),2010,32(11):44-46.

[3]戎舟. 基于中介理論的無線傳感器網(wǎng)絡(luò)加權(quán)數(shù)據(jù)融合[J]. 電子測(cè)量與儀器學(xué)報(bào),2010,24(8):705-710.

[4]孔玉靜,侯鑫,華爾天,等. 基于BP神經(jīng)網(wǎng)絡(luò)的無線傳感器網(wǎng)絡(luò)路由協(xié)議的研究[J]. 傳感技術(shù)學(xué)報(bào),2013,26(2):246-251.

[5]孫凌逸,黃先祥,蔡偉,等. 基于神經(jīng)網(wǎng)絡(luò)的無線傳感器網(wǎng)絡(luò)數(shù)據(jù)融合算法[J]. 傳感技術(shù)學(xué)報(bào),2011,24(1):122-127.

[6]俞黎陽,王能,張衛(wèi). 無線傳感器網(wǎng)絡(luò)中基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)融合模型[J]. 計(jì)算機(jī)科學(xué),2008,35(12):43-47.

[7]楊永健,劉帥. 基于SOFM神經(jīng)網(wǎng)絡(luò)的無線傳感器網(wǎng)絡(luò)數(shù)據(jù)融合算法[J]. 傳感技術(shù)學(xué)報(bào),2013,26(12):1757-1763.

[8]Bengio Y. Learning Deep Architectures for AI[J]. Foundations and Trends in Machine Learning,2009,2(1):1-127.

[9]Erhan D,Bengio Y,Couville A,et al. Why Does Unsupervised Pre-Training Help Deep Learning[J]. Journal of Machine Learning Research,2010,11(3):625-660.

[10]Hinton G E,Salakhutdinov R R. Reducing the Dimensionality of Data with Neural Networks[J]. Science,2006,313(5786):504-507.

[11]Vincent P,Larochelle H,Lajoie I,et al. Stacked Denoising Autoencoders:Learning Useful Representations in a Deep Network with a Local Denoising Criterion[J]. Journal of Machine Learning Research,2010,11(12):3371-3408.

[12]Dong Yu,Li Deng. Deep Convex Network:A Scalable Architecture for Speech Pattern Classification[C]//Proc of the 12th Annual Conference of International Speech Comunication Association. 2011:2285-2288.

[13]Poon H,Domingos P. Sum-Product Networks:A New Deep Architecture[C]//Proc of IEEE International Conference on Computer Vision. 2011:689-690.

[14]Mohamed A,Sainath T N,Dahl G E,et al. Deep Belief Networks using Discriminative Features for Phone Recognition[C]//Proc of IEEE International Conference on Acoustics,Speech,and Signal Processing,2011:5060-5063.

[15]Chen Bo,Polatkan G,Sapiro G,et al. Deep Learning with Hierarchical Convolutional Factor Analysis[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence,2013,35(8):1887-901.

[16]Martinez B,Valstar M F,Binefa X,et al. Local Evidence Aggregation for Regression Based Facial Point Detection[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence,2013,35(5):1149-1163.

[17]Coates A,Lee H Y,Ng A. An Analysis of Single-Layer Networks in Unsupervised Feature Learning[J]. Journal of Machine Learning Research,2011,215-223.

邱立達(dá)(1984-),男,閩江學(xué)院物理學(xué)與電子信息工程系,講師,主要研究方向?yàn)槟繕?biāo)跟蹤與模式識(shí)別、機(jī)器視覺和無線傳感器網(wǎng)絡(luò),qld.qq@163.com;

劉天鍵(1975-),男,閩江學(xué)院物理學(xué)與電子信息工程系,副教授,主要研究方向?yàn)槟Ｊ椒诸?、目?biāo)跟蹤和非線性濾波;

林南(1978-),女,閩江學(xué)院物理學(xué)與電子信息工程系,副教授,主要研究方向?yàn)闊o線傳感器網(wǎng)絡(luò)拓?fù)淇刂坪凸怆娮悠骷?shù)值模擬;

黃章超(1985-),男,廈門理工學(xué)院光電與通信工程學(xué)院,講師,主要研究方向?yàn)楣饫w傳感和光電信息處理。

DataAggregationinWirelessSensorNetworkBasedonDeepLearningModel*

QIULida1*,LIUTianjian1,LINNan1,HUANGZhangchao2

(1.Department of Physics and Electronic Information Engineering,Minjiang University,Fuzhou 350108,China;2.School of Opto-Electronic and Communication Engineering,Xiamen University of Technology,Xiamen Fujian 361024,China)

In order to improve the performance of data fusion in wireless sensor network,a data aggregation algorithm SAEMDA(stacked autoencoder model data fusion algorithm)based on deep learning model was proposed,which combined stacked autoencoder(SAE)and wireless sensor network clustering routing protocol. Feature extraction and classification model(SAEM)is designed by SAEMDA to extract and classify the data features of nodes in each cluster,and then SAEMDA sends the features fused in the same class to Sink node. Either offline supervised learning algorithm or online unsupervised learning algorithm can be used to train the SAEM. Simulation results show that compared with BPFDA and SOFMDA,SAEMDA can improve the data fusion accuracy by 7.5 percentage points at most in similar situations of energy consumption.

wireless sensor network;data aggregation;deep learning;autoencoder

項(xiàng)目來源:福建省教育廳科技項(xiàng)目(JA12263);福州市科技計(jì)劃項(xiàng)目(2013-G-86)

2014-07-16修改日期:2014-10-20

TP393

:A

:1004-1699(2014)12-1704-06

10.3969/j.issn.1004-1699.2014.12.022