張銳 王茹 黃俊 曾鑫
摘 要:傳統(tǒng)的心電信號識別算法依靠心電專家參與特征識別,費(fèi)時(shí)費(fèi)力,診斷成本高,心電信號形態(tài)復(fù)雜多樣導(dǎo)致識別準(zhǔn)確率低、適應(yīng)性差。為解決上述問題,將棧式稀疏自編碼器(SSAE,Stacked Sparse Autoencoder ),與Softmax分類器相結(jié)合形成深度堆棧網(wǎng)絡(luò)(DSN, Deep Stacked Network)完成對心電信號的自動(dòng)識別。通過3個(gè)稀疏自編碼器堆疊的方式完成心電信號特征提取,逐層刻畫心電信號的高維特征,由Softmax分類器完成心電信號識別。詳細(xì)評估了深度堆棧網(wǎng)絡(luò)的模型特性,確定了該網(wǎng)絡(luò)模型的超參數(shù),訓(xùn)練集樣本和測試集樣本源于MIT-BIH數(shù)據(jù)庫。實(shí)驗(yàn)結(jié)果表明采用本文所提方法對心電信號進(jìn)行識別,總識別率達(dá)到99.69%,驗(yàn)證了所提方法的有效性。
關(guān)鍵詞:
棧式稀疏自編碼器;特征提取;心電信號識別;稀疏參數(shù)
DOI:10.15938/j.jhust.2021.03.016
中圖分類號: TP183
文獻(xiàn)標(biāo)志碼: A
文章編號: 1007-2683(2021)03-0108-07
ECG Signal Recognition Based on Deep Stacked Network
ZHANG Riu1, WANG Ru1, HUANG Jun2, ZENG Xin1
(1.School of Automation,Harbin University of Science and Technology,Harbin 150080,China; 2.Chengdu East Road Traffic Technology Co., Ltd, Chengdu 610037, China)
Abstract:The traditional electrocardiogram (ECG) signal recognition algorithms rely on ECG experts to participate in feature recognition, which is time-consuming and laborious with high diagnostic cost. Complex and diverse ECG signal patterns result in low recognition accuracy and poor adaptability. To solve the above problems, the stack Sparse Autoencoder was combined with the Softmax classifier to form a Deep stack Network to realize automatic recognition of ECG signals. The feature extraction of ECG signals was completed by stacking three sparse autoencoders, and the high-dimensional features of ECG signals were depicted layer by layer, and the ECG signals were identified by Softmax classifier. Detailed assessment of the model characteristic of Deep stacked Network, determine the super parameter of the network model, sample training set and test set samples from MIT/BIH database. The experimental results show that the total recognition rate of the proposed method is 99.69%, which verifies the effectiveness of the proposed method.
Keywords:stacked sparse auto-encoder; feature extraction;? ECG signal recognition; sparse parameter
0 引 言
心血管疾病仍然是全球死亡的主要原因。心電圖能提供心臟活動(dòng)的信息,對各種心律失常的分析診斷具有極為重要的意義。心電信息是患者重要的臨床資料,臨床診斷需要醫(yī)生具備高度的信息綜合處理能力。但是心電特征具有一過性,所以臨床上多用心電圖儀對患者進(jìn)行24 h甚至48 h的連續(xù)監(jiān)控。傳統(tǒng)的人工診斷面對龐大的數(shù)據(jù)困難極大,針對心電信號自動(dòng)分類的智能算法變得尤為重要。
心電信號的自動(dòng)分類過程通常包括心電信號采集、心電信號的預(yù)處理、心電信號的特征提取和分類。臨床采集的心電信號是非常珍貴的,所以現(xiàn)在大多數(shù)心電信號的研究者研究所用的心電信號來源于4個(gè)國際權(quán)威的心電數(shù)據(jù)庫,本次實(shí)驗(yàn)采用的是其中之一的MIT-BIH心律失常數(shù)據(jù)庫。信號特征提取是整個(gè)過程的核心環(huán)節(jié),病理信息體現(xiàn)在信號特征上,心電信號的特征提取也是過去幾十年心電信號分類研究的關(guān)鍵,其中最重要的特征是R波、P波、T波的形態(tài)、位置和幅度,心電主要波形的檢測是心電特征提取和分類的基礎(chǔ),為此小波變換[1]、小波變換與數(shù)學(xué)形態(tài)學(xué)相結(jié)合[2]、R波檢測和心電數(shù)據(jù)壓縮相結(jié)合[3]等算法不斷被提出。以上文獻(xiàn)在特定的數(shù)據(jù)集下雖都能取得較高的準(zhǔn)確率,但是仍存在需要人工設(shè)計(jì)特征,構(gòu)建模板甚至需要心臟專家的參與等諸多問題,這些問題導(dǎo)致時(shí)間、金錢成本的增加,還具有低適應(yīng)性的缺陷。針對以上問題,隨著深度學(xué)習(xí)技術(shù)的深入研究,無監(jiān)督特征提取技術(shù)逐漸受到關(guān)注。
自編碼器是深度學(xué)習(xí)的重要組成部分,深度學(xué)習(xí)也稱為特征學(xué)習(xí)[4],是從輸入數(shù)據(jù)中自動(dòng)學(xué)習(xí)一個(gè)好的特征表示的算法,典型的深度學(xué)習(xí)架構(gòu)包括深信念網(wǎng)絡(luò),堆疊自動(dòng)編碼器,卷積神經(jīng)網(wǎng)絡(luò)[5,9],與傳統(tǒng)淺層構(gòu)架相比,深度學(xué)習(xí)在許多方面表現(xiàn)的更出色,如圖像分類[10],對象識別[11],人臉識別[12],醫(yī)學(xué)圖像分析[13]等。Hassan等[14]采用深度信念網(wǎng)絡(luò)從電皮活動(dòng),光體積描記圖和Z肌肌電圖傳感器信號的融合觀測中提取深度級別特征,結(jié)合支持向量機(jī)分類五種基本情緒。Yu Dong等[15]使用13層的卷積神經(jīng)網(wǎng)絡(luò)提取水果圖像的特征,以高準(zhǔn)確率實(shí)現(xiàn)水果的分類。Rahhal等[16]使用堆疊的去噪自編碼器學(xué)習(xí)特征并在迭代時(shí)結(jié)合人工專家標(biāo)記最相關(guān)和不確定的心電信號節(jié)拍實(shí)現(xiàn)心電信號的主動(dòng)分類。劉勝輝等[17]使用小波包分析方法對原始數(shù)據(jù)進(jìn)行數(shù)據(jù)降噪,實(shí)現(xiàn)特征提取,將得到監(jiān)控?cái)?shù)據(jù)的熵值化結(jié)果作為預(yù)測模型的輸入,訓(xùn)練和測試深度神經(jīng)網(wǎng)絡(luò),完成刀具剩余壽命的預(yù)測。
本文主要針對心電信號的分類問題提出一種基于深度堆棧網(wǎng)絡(luò)完成心電信號的識別方法,該方法堆疊三個(gè)稀疏自編碼器的中間層利用無監(jiān)督訓(xùn)練提取心電信號深層特征,然后根據(jù)所提取信號特征通過Softmax分類器進(jìn)行有監(jiān)督訓(xùn)練,最后以判別心電類型的估計(jì)概率值的方式完成心電信號類型的識別。通過實(shí)驗(yàn)分析得到深度堆棧網(wǎng)絡(luò)算法能提高心電信號識別的準(zhǔn)確率。
1 心電信號識別流程
本文基于深度堆棧網(wǎng)絡(luò)的心電信號分類流程如圖1所示。
首先輸入含噪聲的原始信號,然后進(jìn)行心電信號預(yù)處理,對心電信號進(jìn)行降噪,并檢測QRS波進(jìn)行心拍截取,完成數(shù)據(jù)的預(yù)處理,最后基于處理后的心電數(shù)據(jù)建立深度堆棧神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,獲得心電信號的特征與Softmax分類器結(jié)合,最終完成心電信號的分類。
2 心電信號預(yù)處理
受到外部環(huán)境以及人體自身活動(dòng)的影響,采集到的心電信號包含大量的噪聲,需要去除的主要噪聲分別為機(jī)體活動(dòng)產(chǎn)生的肌電干擾、心電信號采集設(shè)備的電極與體表接觸不良致使的基線漂移及該設(shè)備受附近電網(wǎng)影響形成的工頻干擾三種噪聲。傳統(tǒng)的去噪方法主要包括中值濾波法、數(shù)字濾波器技術(shù)、自適應(yīng)濾波法、小波變換以及現(xiàn)在的高斯濾波法。數(shù)字濾波具有簡單、系統(tǒng)可靠性強(qiáng)等優(yōu)點(diǎn),在心電信號預(yù)處理階段應(yīng)用廣泛。
按照文[18]的降噪處理方法,先對原始信號進(jìn)行200 ms中值濾波處理,去除QRS波和P波,再用600 ms的中值濾波去除T波,然后用原始信號減去以上兩個(gè)濾波后的信號就可得到消除掉基線漂移的心電信號,最后使用12-tap、3 dB點(diǎn)的截止頻率為35 Hz的低通濾波器去除基線校正后的工頻噪聲和肌電噪聲,濾波后的心電信號可用于所有后續(xù)處理。
對去噪后的心電信號進(jìn)行帶通濾波,通帶為15~25 Hz,此頻率區(qū)間主要為QRS波頻段,主要目的是消除噪聲,削弱P波和T波。然后按照Wang Y等[19]提出的雙斜率處理方法,主要思想是在某個(gè)點(diǎn)左右兩側(cè)的設(shè)定區(qū)間0.015~0.060 s內(nèi)分別尋找其最大平均斜率和最小平均斜率,再分別求右側(cè)最大斜率和左側(cè)最小斜率的差以及左側(cè)最大斜率和右側(cè)最小斜率的差,然后利用它們中的最大值進(jìn)行截止頻率為5 Hz的低通濾波,利用滑動(dòng)窗口積分增大幅值,進(jìn)一步平滑波形,至此心電信號的波形模式變得單一,方便后續(xù)波形檢測。
為了對心電信號進(jìn)行心拍截取,采用雙閾值算法進(jìn)行R峰確定,根據(jù)信號特點(diǎn)設(shè)定兩個(gè)不同的閾值,若當(dāng)前檢測峰值高于所設(shè)定低閾值,可判斷此檢測波形為R峰。
3 心電信號心拍截取
本文選取4種形態(tài)的心電信號,然而同種形態(tài)的心電信號之間也具有一定的差異,因?yàn)楸疚乃玫淖跃幋a器算法魯棒性較強(qiáng),所以無需對心電信號精確截取。自編碼器的輸入層為固定數(shù)目節(jié)點(diǎn),心拍截取方式是以檢測到的R峰為基準(zhǔn),左右兩側(cè)分別取100個(gè)點(diǎn)和150個(gè)點(diǎn),最終得到的單個(gè)心拍時(shí)長為0.7 s左右。
4 心電信號的特征學(xué)習(xí)與識別
棧式自編碼器是由輸入層、輸出層和多個(gè)中間層組成,其特征在于能夠挖掘出數(shù)據(jù)淺層特征中存在的深層特征,從而得到心電信號的本質(zhì)信息。本文所構(gòu)建的心電信號識別模型結(jié)構(gòu)如圖2所示。
DSN模型主要分為特征提取和識別兩個(gè)階段。特征提取階段堆棧多個(gè)稀疏自編碼器搭建成SSAE網(wǎng)絡(luò)挖掘心電信號中的深層特征,計(jì)算得出特征矩陣,信號識別階段則將該特征矩陣輸入softmax分類器完成判別。
4.1 心電信號特征學(xué)習(xí)模型
深層特征提取的過程主要分為編碼和解碼兩個(gè)階段,由編碼過程完成數(shù)據(jù)從SSAD網(wǎng)絡(luò)的輸入層到中間層的非線性映射計(jì)算,解碼過程則完成特征從中間層到輸出層的非線性映射計(jì)算,具體如式(1)所示:
Xc=σac(Wac·Xc-1+bac)
Xc=σsc(Wsc·Xc-1+bsc)
X0=x(1)
其中:中間層序號為c,c∈{1,2,…,C};激活函數(shù)為σac(·),為分析階段第c中間層映射計(jì)算的激活函數(shù);σsc(·)表示合成階段第c中間層映射計(jì)算的激活函數(shù);Wac,bac分別為第c中間層分析階段的網(wǎng)絡(luò)參數(shù);Wsc,bsc分別為第c中間層合成階段的網(wǎng)絡(luò)參數(shù);第c中間層的輸出值Xc為該層輸入Xc的預(yù)測估計(jì)值;深層特征提取階段的激活函數(shù)選擇Sigmiod函數(shù),其表達(dá)式為
σ(α)=11+e-α(2)
4.2 心電信號識別模型
將特征學(xué)習(xí)模型計(jì)算得到的心電信號深層特征輸入Softmax分類器網(wǎng)絡(luò)進(jìn)行心電信號形態(tài)判別。對整個(gè)深度堆棧網(wǎng)絡(luò)進(jìn)行有監(jiān)督微調(diào),迭代計(jì)算使得網(wǎng)絡(luò)輸出值和真值之間的損失近似于零。該階段網(wǎng)絡(luò)以心電信號形態(tài)的概率估計(jì)值為輸出,表達(dá)為:
y=Softmax(s,θ)=[y1,y2,…,yk,…yK]
yk=P(z=k|s,θk)=e(s·θk)∑Kj=1e(s·θk)(3)
式中:yk為第k種心電信號形態(tài)的預(yù)測概率;k為心電信號類別數(shù)量;θk為Softmax分類器的第k個(gè)輸出矩陣的權(quán)重向量;s為中間層輸出的特征矩陣向量,輸入Softmax分類器進(jìn)行下一步計(jì)算,中間層輸出的單個(gè)樣本的特征經(jīng)過網(wǎng)絡(luò)的參數(shù)向量θ計(jì)算得到k個(gè)值,最后輸出k個(gè)心電信號類別估計(jì)概率,通過最小化對應(yīng)標(biāo)簽的損失值進(jìn)行迭代訓(xùn)練。
4.3 深度堆棧網(wǎng)絡(luò)學(xué)習(xí)算法
深度堆棧網(wǎng)絡(luò)訓(xùn)練分為參數(shù)初始化過程和精調(diào)過程,參數(shù)初始化過程的核心是采用無監(jiān)督訓(xùn)練方式對心電信號進(jìn)行深層特征學(xué)習(xí),即在未分類的心電信號數(shù)據(jù)集上獲得優(yōu)化目標(biāo)函數(shù)。先訓(xùn)練第1個(gè)自編碼器,然后舍棄解碼部分,保留編碼部分,以中間層作為第2個(gè)自編碼器的輸入進(jìn)行訓(xùn)練,以此類推,進(jìn)行迭代訓(xùn)練。精調(diào)過程,以參數(shù)初始化過程得到的網(wǎng)絡(luò)參數(shù)作為該過程初始值,依據(jù)softmax分類器的損失,以有監(jiān)督訓(xùn)練方式結(jié)合反向傳播算法在有標(biāo)簽訓(xùn)練集上更新整個(gè)深度堆棧網(wǎng)絡(luò)(包括SSAE和Softmax分類器)的參數(shù)(W,b,θ),訓(xùn)練完成后的概率估計(jì)值作為深度堆棧網(wǎng)絡(luò)的輸出,實(shí)現(xiàn)心電信號的判別。
依據(jù)能量損失準(zhǔn)則給出深度堆棧網(wǎng)絡(luò)參數(shù)初始化階段的優(yōu)化目標(biāo)函數(shù):
J(W,b)=1N∑Ni=112‖xi-xi‖2+
β∑pj=1KLρc‖X-jc(4)
其中:xi為輸入xi的估計(jì)值;KL(ρc‖X-jc)稱為相對熵,利用相對熵引入稀疏性約束,構(gòu)造的稀疏正則項(xiàng)為
KL(ρc‖G-jc)=ρclog(ρcG-jc)+(1-ρc)log(1-ρc1-G-jc)(5)
G-jc=1N∑Nn=1σac(Wac,jxn+bac,j)(6)
其中:G-jc為第c層第j個(gè)節(jié)點(diǎn)的的平均激活度;ρc為平均激活度的目標(biāo)值;KL(ρc‖G-jc)表示了通過更新參數(shù)(Wa,ba)獲得的G-jc與ρc之間的差異。
利用多目標(biāo)優(yōu)化原則構(gòu)造深度堆棧網(wǎng)絡(luò)精調(diào)階段的優(yōu)化目標(biāo)函數(shù):
minJ(R)=-1λ∑λi=1loss(y(i),y(i))+ξ2∑λi=1∑μj=1θ2ij(7)
loss(y,y)=-∑μl=1δ(yl-1)·logesiθl∑μl=1esiθl(8)
其中:第l類心電信號目標(biāo)向量為l=[0,…,1,…,0],yl=1;λ為中間層輸出樣本數(shù);μ為心電信號類別數(shù);ξ為權(quán)重衰減系數(shù);ξ2∑λi=1∑μj=1θ2ij為引入的懲罰項(xiàng),旨在防止梯度消失,可以快速找到全局最優(yōu)解。
4.4 性能指標(biāo)
為驗(yàn)證模型的可靠性,以總體準(zhǔn)確率(total classification accuracy,TCA)和陽性預(yù)測值(positive predictive value,PPV)為評價(jià)指標(biāo)對深度堆棧網(wǎng)絡(luò)進(jìn)行性能評估,指標(biāo)的具體表達(dá)為:
TCA=TP+TNTP+FP+FN+TN(9)
PPV=TPFP+TP(10)
其中:TP為表示為被準(zhǔn)確識別出該類型的心拍數(shù);TN為準(zhǔn)確識別出的不屬于該類型的心拍數(shù);FP為錯(cuò)誤的識別為該類型的心拍數(shù);FN為沒有識別出該類型的心拍數(shù)。
5 實(shí)驗(yàn)結(jié)果分析
5.1 實(shí)驗(yàn)數(shù)據(jù)
實(shí)驗(yàn)數(shù)據(jù)選擇MIT-BIH心律失常數(shù)據(jù)庫數(shù)據(jù),該數(shù)據(jù)庫每條心電信號記錄的采集時(shí)長約為30min,采樣頻率為360Hz。實(shí)驗(yàn)選取4種形態(tài)目標(biāo),分別為“左束支阻滯(LBBB)”形態(tài)、“右束支阻滯(RBBB)”形態(tài)、 “正常(NORM)”形態(tài)、“室性早搏(PVC)”形態(tài), 其形態(tài)如圖3所示。在保證心電信號形態(tài)完整的情況下,統(tǒng)一輸入為250個(gè)采樣點(diǎn)。不同類型的訓(xùn)練集和測試集如表1所示。
5.2 SSAE參數(shù)對分類效果的影響
SSAE模型中稀疏參數(shù)的選則極大程度上影響了識別準(zhǔn)確率,當(dāng)前研究階段棧式自編碼器的稀疏參數(shù)一般通過人工經(jīng)驗(yàn)選取,為分析心電信號識別中稀疏參數(shù)ρ和β對深度堆棧網(wǎng)絡(luò)判別準(zhǔn)確率的影響,分別改變稀疏參數(shù)ρ和β進(jìn)行心電信號識別實(shí)驗(yàn),以模型準(zhǔn)確率為評價(jià)標(biāo)準(zhǔn)驗(yàn)證SSAE的稀疏參數(shù)對識別正確率的影響。實(shí)驗(yàn)設(shè)置棧式稀疏自編碼器中間層數(shù)為3,各中間層的節(jié)點(diǎn)數(shù)依次設(shè)為150節(jié)點(diǎn),50節(jié)點(diǎn)和10節(jié)點(diǎn),輸入層節(jié)點(diǎn)設(shè)置為單個(gè)心拍長度即250節(jié)點(diǎn),輸出層對應(yīng)四種形態(tài)心拍設(shè)定節(jié)點(diǎn)數(shù)為4節(jié)點(diǎn)。實(shí)驗(yàn)結(jié)果如表2、表3所示。
由表2所示,心電信號識別準(zhǔn)確率隨稀疏參數(shù)β的增大呈現(xiàn)先升高后降低的趨勢,當(dāng)參數(shù)β過小時(shí),深度堆棧網(wǎng)絡(luò)提取到的特征纏繞在一起,準(zhǔn)確率較低,參數(shù)β過大時(shí),深度堆棧網(wǎng)絡(luò)得到的特征則過于稀疏,實(shí)驗(yàn)證明,針對本文構(gòu)建的深度堆棧網(wǎng)絡(luò)的稀疏參數(shù)β選為3時(shí)準(zhǔn)確率最高,結(jié)果最優(yōu),β過大或過小,深度堆棧網(wǎng)絡(luò)均不能實(shí)現(xiàn)最優(yōu)結(jié)構(gòu);
由表3所示,心電信號識別準(zhǔn)確率隨稀疏參數(shù)ρ的增大呈現(xiàn)先升高后穩(wěn)步降低趨勢,本次實(shí)驗(yàn)中,設(shè)定稀疏參數(shù)ρ過小時(shí),會弱化心電信號中的部分關(guān)鍵特征,進(jìn)而導(dǎo)致特征提取能力下降,識別準(zhǔn)確率較低。稀疏參數(shù)ρ選取0.01時(shí)深度堆棧網(wǎng)絡(luò)的識別準(zhǔn)確率最高,從而實(shí)現(xiàn)最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)。
5.3 棧式稀疏自編碼器結(jié)構(gòu)分析
5.3.1 網(wǎng)絡(luò)中間層數(shù)對分類效果的影響
棧式稀疏自編碼器模型的中間層數(shù)直接影響特征挖掘能力,分別構(gòu)建含有1~6層中間層的棧式稀疏自編碼器,頂層疊加Softmax分類器的深度堆棧網(wǎng)絡(luò),每個(gè)中間層統(tǒng)一設(shè)定為200個(gè)節(jié)點(diǎn),從單中間層結(jié)構(gòu)開始依次增加中間層數(shù)搭建深度堆棧網(wǎng)絡(luò),為降低實(shí)驗(yàn)偶然性,每個(gè)層級進(jìn)行10次重復(fù)實(shí)驗(yàn),以訓(xùn)練集和測試集識別準(zhǔn)確率為標(biāo)準(zhǔn)。本次實(shí)驗(yàn)結(jié)果如圖4所示。
由圖4曲線看出:深度堆棧網(wǎng)絡(luò)在訓(xùn)練集和測試集的識別準(zhǔn)確率均呈現(xiàn)先快速增大后逐漸減小的趨勢。單中間層使得網(wǎng)絡(luò)結(jié)構(gòu)過于簡單,特征提取能力不強(qiáng),中間層數(shù)過多則造成網(wǎng)絡(luò)結(jié)構(gòu)冗余,同時(shí)增加訓(xùn)練復(fù)雜度,針對心電信號識別搭建的深度堆棧網(wǎng)絡(luò),中間層數(shù)選為3時(shí)識別準(zhǔn)確率最高,模型最佳。
5.3.2 中間層節(jié)點(diǎn)數(shù)對分類效果的影響
設(shè)定自動(dòng)編碼器的中間層節(jié)點(diǎn)數(shù)小于輸入層從而稀疏高維的特征,特征映射后的特征表達(dá)與中間層節(jié)點(diǎn)數(shù)高度相關(guān),構(gòu)建含有1個(gè)中間層的棧式稀疏自編碼器模型,改變中間層節(jié)點(diǎn)數(shù),從50個(gè)節(jié)點(diǎn)數(shù)開始逐漸增加,分別在訓(xùn)練集和測試集上重復(fù)進(jìn)行10次實(shí)驗(yàn),以Softmax分類器的準(zhǔn)確率為標(biāo)準(zhǔn),得到的結(jié)果如圖5所示。
由圖5可得結(jié)論:在節(jié)點(diǎn)數(shù)為150時(shí),分類效果最佳。中間層節(jié)點(diǎn)數(shù)過多造成心電信號的特征冗余,無法提取心電信號中的本質(zhì)特征,從而使深度堆棧網(wǎng)絡(luò)的識別準(zhǔn)確率下降;中間層節(jié)點(diǎn)數(shù)太少則會致使特征過于稀疏,損失部分重要特征,降低心電信號的識別準(zhǔn)確率。
確定中間層節(jié)點(diǎn)數(shù)的基本原則是在滿足精度的前提下,取盡可能緊湊的結(jié)構(gòu),即取盡可能少的中間層節(jié)點(diǎn)數(shù)。根據(jù)此原則,最終深度堆棧網(wǎng)絡(luò)各中間層節(jié)點(diǎn)數(shù)以不超過前一層節(jié)點(diǎn)數(shù)為基礎(chǔ),多次試驗(yàn),選取最佳網(wǎng)絡(luò)結(jié)構(gòu)。
5.4 深度棧式網(wǎng)絡(luò)性能分析
深度棧式網(wǎng)絡(luò)由棧式稀疏自編碼器和Softmax分類器構(gòu)成。棧式稀疏自編碼器的各層單元數(shù)結(jié)構(gòu)為{250-150-50-10-4},輸入為第一層250個(gè)節(jié)點(diǎn),第5層4個(gè)節(jié)點(diǎn)為輸出層對應(yīng)心電信號形態(tài)類別,訓(xùn)練次數(shù)為50,批次大小為200。稀疏參數(shù)ρ為0.01,稀疏權(quán)重β為3,分類器的衰減系數(shù)ξ為0.0001。將構(gòu)建的深度棧式網(wǎng)絡(luò)與多層感知器模型(multilayer perceptron,MLP),棧式自編碼器模型(stack automatic encoder,SAE),主成分分析算法(principal component analysis,PCA)的特征提取能力通過實(shí)驗(yàn)進(jìn)行對比分析。
基于棧式稀疏自編碼器的識別總準(zhǔn)確率為99.69%。其中LBBB、RBBB、NORM、PVC的陽性預(yù)測值分別為98.87%、98.40%、99.78%、98.38%。結(jié)果如圖6所示,表明本文方法在心電信號自動(dòng)診斷方面適應(yīng)性強(qiáng)。
根據(jù)Softmax分類器分類原則,深度堆棧網(wǎng)絡(luò)模型在4種測試數(shù)據(jù)集上隨機(jī)選擇樣本的識別結(jié)果如表4所示。Softmax分類器的輸出為歸一化的每個(gè)心電類型的概率,從表4可以明顯看出每類心電信號的概率值,故樣本1、樣本2、樣本3、樣本4分別對應(yīng)的心電類型是LBBB、RBBB、NORM、PVC。
本次實(shí)驗(yàn)在表1的測試集上對所有模型進(jìn)行對比實(shí)驗(yàn),以總體分類精度為評價(jià)標(biāo)準(zhǔn),各模型的總體分類精度如表5所示。
從表中可以看出,DSN較MLP、SAE和PCA,表現(xiàn)出較高的識別準(zhǔn)確率。SAE模型的分類準(zhǔn)確率也達(dá)到了97.63%,證明稀疏自編碼器在特征選擇上比MLP和PCA要準(zhǔn)確。棧式稀疏自編碼器能夠自動(dòng)提取心電信號的高維有效特征,并將此特征作為Softmax分類器的輸入,模型的準(zhǔn)確率明顯提高。深度堆棧網(wǎng)絡(luò)結(jié)構(gòu)相對于其他實(shí)驗(yàn)?zāi)P透訌?fù)雜,但通過多層次地學(xué)習(xí)獲得了更有利的分類特征,且總體的運(yùn)算時(shí)間控制在合理范圍內(nèi)。證明了所提方法對心電信號診斷的準(zhǔn)確率更高,適用性更強(qiáng)。
6 結(jié) 語
針對大量數(shù)據(jù)的診斷難問題,本文將棧式稀疏自編碼器與Softmax分類器結(jié)合構(gòu)建了深度堆棧網(wǎng)絡(luò)用于心電信號識別。利用了稀疏自編碼器的稀疏性,集中了信號特征的表達(dá),在提高網(wǎng)絡(luò)學(xué)習(xí)能力的同時(shí)也提高了網(wǎng)絡(luò)泛化能力,多個(gè)中間層的堆疊實(shí)現(xiàn)了對信號特征從低維到高維的深度挖掘。討論了深度堆棧網(wǎng)絡(luò)的結(jié)構(gòu)及影響稀疏性的重要參數(shù),并給出了相應(yīng)的結(jié)論。與多層感知器模型、棧式自編碼器模型、主成分分析算法相比大大提高了心電信號識別的準(zhǔn)確率,證明了本文所提算法的有效性。
參 考 文 獻(xiàn):
[1] 張金玲,崔彤,劉為斌.基于自適應(yīng)時(shí)間窗函數(shù)優(yōu)化的心電特征波形識別[J].北京郵電大學(xué)學(xué)報(bào),2019,42(4):82.
ZHANG Jinling, CUI Tong, LIU Weibin. Feature Waveform Recognition of ECG Based on Adaptive Time Window Function Optimization[J]. Journal of Beijing University of Posts and Telecommunications, 2019,42(4):82.
[2] 劉少穎, 盧繼來, 郝麗, 等. 基于數(shù)學(xué)形態(tài)學(xué)和小波分解的QRS波群檢測算法[J]. 清華大學(xué)學(xué)報(bào)(自然科學(xué)版), 2004,44(6):852.
LIU Shaoying, LU Jilai, HAO Li, et al. QRS Complex Detection Algorithm Based on Mathematical Morphology and Wavelet Decomposition[J]. Journal of Tsinghua University(Science and Technology), 2004, 44(6): 852.
[3] DEEPU C J, LIAN Y. A Joint QRS Detection and Data Compression Scheme for Wearable Sensors[J]. IEEE Transactions on Biomedical Engineering, 2014, 62(1): 165.
[4] HINTON G E, SALAKHUTDINOV R R. Reducing the Dimensionality of Data with Neural Networks[J]. Science, 2006, 313(5786): 504.
[5] 王萬良,楊小涵,趙燕偉,等.采用卷積自編碼器網(wǎng)絡(luò)的圖像增強(qiáng)算法[J].浙江大學(xué)學(xué)報(bào)(工學(xué)版), 2019,53(9):1728.
WANG Wanliang, YANG Xiaohan, ZHAO Yanwei, et al. Image Enhancement Algorithm Using Convolutional Autoencoder Network[J]. Journal of Zhejiang University (Engineering Edition), 2019,53(9):1728.
[6] WANG S, CHEN H, WU L, et al. A Novel Smart Meter Data Compression Method Via Stacked Convolutional Sparse Auto-encoder[J]. International Journal of Electrical Power & Energy Systems, 2020, 118: 105761.
[7] ZHOU P, HAN J, CHENG G, et al. Learning Compact and Discriminative Stacked Autoencoder for Hyperspectral Image Classification[J]. IEEE Transactions on Geoscience and Remote Sensing, 2019, 57(7): 4823.
[8] LI J C, NG W W Y, YEUNG D S, et al. Bi-firing Deep Neural Networks[J]. International Journal of Machine Learning and Cybernetics, 2014, 5(1): 73.
[9] ZHANG J, DING S, ZHANG N, et al. Incremental Extreme Learning Machine Based on Deep Feature Embedded[J]. International Journal of Machine Learning and Cybernetics, 2016, 7(1): 111.
[10]HAYAT M, BENNAMOUN M, AN S. Deep Reconstruction Models for Image Set Classification[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2014, 37(4): 713.
[11]BAI J, WU Y, ZHANG J, et al. Subset Based Deep Learning for RGB-D Object Recognition[J]. Neurocomputing, 2015, 165: 280.
[12]HUANG Z, WANG R, SHAN S, et al. Face Recognition on Large-scale Video in the Wild with Hybrid Euclidean-and-Riemannian Metric Learning[J]. Pattern Recognition, 2015, 48(10): 3113.
[13]BROSCH T, TAM R. Efficient training of Convolutional Deep Belief Networks in the Frequency Domain for Application to High-resolution 2D and 3D Images[J]. Neural Computation, 2015, 27(1): 211.
[14]HASSAN M M, ALAM M G R, UDDIN M Z, et al. Human Emotion Recognition Using Deep Belief Network Architecture[J]. Information Fusion, 2019, 51: 10.
[15]ZHANG Y D, DONG Z, CHEN X, et al. Image Based Fruit Category Classification by 13-layer Deep Convolutional Neural Network and Data Augmentation[J]. Multimedia Tools and Applications, 2019, 78(3): 3613.
[16]Al Rahhal M M, BAZI Y, AlHICHRI H, et al. Deep Learning Approach for Active Classification of Electrocardiogram Signals[J]. Information Sciences, 2016, 345: 340.
[17]劉勝輝,張人敬,張淑麗,等.基于深度神經(jīng)網(wǎng)絡(luò)的切削刀具剩余壽命預(yù)測[J].哈爾濱理工大學(xué)學(xué)報(bào),2019,24(3):1.
LIU Shenghui, ZHANG Renjing, ZHANG Shuli, et al. Prediction of Cutting Tool Remaining Life Based on Deep Neural Network[J]. Journal of Harbin University of Science and Technology,2019,24(3):1.
[18]DE Chazal P, O′DWYER M, REILLY R B. Automatic Classification of Heartbeats Using ECG Morphology and Heartbeat Interval Features[J]. IEEE Transactions Onbiomedical Engineering, 2004,51(7):1196.
[19]WANG Y, DEEPU C J, LIAN Y. A Computationally Efficient QRS Detection Algorithm for Wearable ECG Sensors[C]//2011 Annual International Conference of the IEEE Engineering in Medicine and Biology Society. IEEE, 2011: 5641.
(編輯:王 萍)