耿 磊 吳寒冰 張 芳 肖志濤 李曉捷

(1.天津工業(yè)大學(xué)生命科學(xué)學(xué)院, 天津 300387;2.天津工業(yè)大學(xué)光電檢測(cè)技術(shù)與系統(tǒng)重點(diǎn)實(shí)驗(yàn)室, 天津 300387)

0 引言

禽流感即禽流行性感冒,是一種因甲型流感病毒引起的人、禽類共患的急性傳染病,主要表現(xiàn)為呼吸道和嚴(yán)重全身性感染[1],一旦大規(guī)模爆發(fā),不但會(huì)造成禽類生物大面積死亡,還會(huì)嚴(yán)重威脅到人類的生命健康,對(duì)經(jīng)濟(jì)、衛(wèi)生形勢(shì)都有著嚴(yán)重危害[2]。

目前,接種疫苗是控制禽流感疫情最為直接有效的方法[3],而雞蛋胚胎培養(yǎng)法因?yàn)樵靸r(jià)低、數(shù)量充足易獲取、操作簡(jiǎn)便和培養(yǎng)周期短等,在禽流感疫苗制備領(lǐng)域使用較多,我國(guó)當(dāng)前主要采用的也是雞蛋胚胎培養(yǎng)法。雞蛋在孵化9～11 d后,開始接種禽流感病毒,病毒在胚胎中自然繁殖2～3 d后,便可以在雞胚的尿囊液中獲取。禽流感疫苗需要這種減毒或滅活后的病毒來制備。但是,接種病毒后,部分雞胚會(huì)因?yàn)榄h(huán)境因素的干擾和個(gè)體的差異性出現(xiàn)非特異性的意外死亡情況。因此,對(duì)雞蛋胚胎快速準(zhǔn)確地進(jìn)行成活性分類是制備疫苗至關(guān)重要的一步,將死胚從活胚中盡早地檢測(cè)出并剔除可以有效防止因胚胎死亡導(dǎo)致的細(xì)菌或霉菌污染,避免造成巨大的經(jīng)濟(jì)損失,同時(shí)對(duì)孵化效率的提高也有重要意義。

相較于傳統(tǒng)的分類方法,深度學(xué)習(xí)是目前解決雞胚成活性分類的最優(yōu)法,該領(lǐng)域吸引了大批學(xué)者進(jìn)行研究。通過胚蛋圖像進(jìn)行雞胚成活性檢測(cè),黃超等[4]提出了一種仿生胚蛋成活性圖像無損檢測(cè)方法,針對(duì)胚蛋圖像上下灰度不一、胚蛋蛋殼質(zhì)量不一等因素影響胚蛋血脈提取的問題,提出了一種基于最小類內(nèi)指數(shù)方差的自適應(yīng)閾值圖像處理方法,對(duì)胚蛋圖像進(jìn)行識(shí)別檢驗(yàn);李靜[5]以孵化期不同形態(tài)的毒株蛋胚圖像為研究對(duì)象,分別從傳統(tǒng)圖像識(shí)別方法和基于卷積神經(jīng)網(wǎng)絡(luò)的方法對(duì)蛋胚圖像進(jìn)行識(shí)別;薛文杰[6]根據(jù)胚蛋圖像提出并開發(fā)了一種基于機(jī)器視覺的全自動(dòng)雞胚照檢、傳送、分揀一體化裝置,可以有效地實(shí)現(xiàn)對(duì)強(qiáng)胚、弱胚、死胚、無精胚、倒置胚的自動(dòng)判別與分揀;白瑞鴿[7]以9～11 d的6類無特定病原(SPF)雞胚圖像為研究對(duì)象,在圖像預(yù)處理基礎(chǔ)上,研究了基于AlexNet微調(diào)遷移的雞胚圖像分類方法。

針對(duì)雞胚心跳信號(hào)分類,本課題組在之前研究中已給出了多種處理方法,如GENG等[8]提出基于雞胚心跳信號(hào)的嵌入式(Ensembled convolution neural networks, E-CNN)卷積神經(jīng)網(wǎng)絡(luò),E-CNN憑借大尺度卷積連接平均池化層將信號(hào)降采樣,再通過全連接層輸出分類結(jié)果,對(duì)孵化9d的雞胚進(jìn)行分類。GENG等[9]設(shè)計(jì)了一種基于全卷積網(wǎng)絡(luò)(Fully convolutional networks,FCN)和門控循環(huán)單元(Gated recurrent unit,GRU)的雙分支網(wǎng)絡(luò),心跳信號(hào)同時(shí)輸入到兩個(gè)分支網(wǎng)絡(luò)中,最后的輸出特征由兩個(gè)分支網(wǎng)絡(luò)融合得到。GENG等[10]針對(duì)心跳信號(hào)中的局部信息和全局信息,建立了基于多頭注意力融合模塊和通道注意力殘差神經(jīng)網(wǎng)絡(luò)模塊的多尺度信息融合雙分支網(wǎng)絡(luò),使得網(wǎng)絡(luò)分類準(zhǔn)確率得到提升。

但是,雞蛋活胚在注入禽流感病毒96 h后,由于溫度和生理發(fā)育等因素,其心跳信號(hào)發(fā)生變化,整體介于普通活胚和死胚之間,不但保留著普通活胚的周期性全局特征,還融合了死胚的幅值細(xì)節(jié)特征。這類96 h活胚被稱為雞胚心跳混淆信號(hào),因其數(shù)據(jù)類別邊界不清晰、形態(tài)具有多義性等問題,導(dǎo)致分類器難以準(zhǔn)確分類,頻頻出現(xiàn)錯(cuò)判、誤判等問題。上述方法雖然在各自數(shù)據(jù)集的訓(xùn)練和分類中取得了不錯(cuò)的效果,但仍欠缺對(duì)雞胚心跳混淆信號(hào)的深入研究,需要進(jìn)一步提升對(duì)雞胚心跳混淆信號(hào)分類的準(zhǔn)確率。

針對(duì)雞胚心跳混淆信號(hào)分類存在的難點(diǎn),本文將雞胚心跳混淆信號(hào)單獨(dú)作為一類加入數(shù)據(jù)集,把死胚、活胚二分類改為死胚、普通活胚和96 h活胚三分類,并設(shè)計(jì)絕對(duì)值均值標(biāo)準(zhǔn)化(Absolute average value normalization,AAVN)預(yù)處理方法,既能夠增強(qiáng)雞胚心跳混淆信號(hào)數(shù)據(jù)特征、提高其可分類性,還可以最大程度上保留其原始信號(hào)局部特征和細(xì)節(jié)特征。同時(shí),針對(duì)預(yù)處理后的雞胚混淆數(shù)據(jù)集,提出基于TCN和Transformer的殘差結(jié)構(gòu)淺層雙分支網(wǎng)絡(luò)結(jié)構(gòu)RFTNet,兼具捕獲心跳信號(hào)中全局特征和細(xì)節(jié)特征的能力,以有效解決雞胚心跳混淆信號(hào)分類困難的問題。

1 數(shù)據(jù)采集與數(shù)據(jù)集構(gòu)建

深度學(xué)習(xí)算法的應(yīng)用需要大量數(shù)據(jù)作為支持,因此雞蛋胚胎心跳信號(hào)的數(shù)據(jù)采集是本文的重點(diǎn)。本文通過光電容積脈搏波描記法(Photo plethysmo graphy,PPG)[11]分別對(duì)不同時(shí)間段的雞蛋胚胎進(jìn)行信號(hào)采集,將采集到的數(shù)據(jù)集分為死亡胚胎、普通活胚和96 h活胚(雞胚心跳混淆信號(hào))3類,并將含有96 h活胚的數(shù)據(jù)集稱為雞胚混淆數(shù)據(jù)集,最后經(jīng)過絕對(duì)值均值標(biāo)準(zhǔn)化預(yù)處理后便可以得到全部可用的數(shù)據(jù)集。

1.1 數(shù)據(jù)采集

雞胚心跳信號(hào)采集系統(tǒng)主要由激光器光源和光電傳感器[12]組成,數(shù)據(jù)采集系統(tǒng)如圖1所示。

圖1 數(shù)據(jù)采集系統(tǒng)結(jié)構(gòu)示意圖Fig.1 Structure schematic of data acquisition system

將雞蛋胚胎置于激光器光源和光電傳感器之間,光電傳感器通過前端芯片AFE4490對(duì)信號(hào)進(jìn)行處理放大并經(jīng)過模數(shù)轉(zhuǎn)換器轉(zhuǎn)換成數(shù)字信號(hào),然后由串行外設(shè)接口把數(shù)據(jù)傳輸?shù)絾纹瑱C(jī)中。光電傳感器采用的是光硅電池。此外,因?yàn)殡u蛋胚胎的外部覆蓋著一層蛋殼,普通的光源難以穿透雞胚,所以本文的激光光源選擇穿透性較強(qiáng)的近紅外光,波長(zhǎng)為808 nm。雞胚心跳信號(hào)采集系統(tǒng)的采樣頻率為62.5 Hz,同時(shí)為保證采樣效率和信號(hào)的完整程度,對(duì)每條心跳信號(hào)的采集時(shí)間為8 s,再經(jīng)過A/D轉(zhuǎn)換后一個(gè)雞蛋胚胎的心跳數(shù)據(jù)樣本為500個(gè)離散數(shù)據(jù)點(diǎn)。

1.2 三分類數(shù)據(jù)集

本文雞蛋胚胎的心跳信號(hào)數(shù)據(jù)均在雞胚孵化車間采集得到。采集時(shí)間包括接種病毒后的24、48、72、88、96 h。因?yàn)椴杉玫降氖请u胚心跳信號(hào)的一維序列,所以雞胚的死活主要通過心跳信號(hào)波形可視化判斷,而心跳原始信號(hào)在采集過程通常受到振動(dòng)噪聲和雞胚本身應(yīng)激反應(yīng)的干擾,信號(hào)中存在基線漂移現(xiàn)象和高頻跳變,需要先通過巴特沃斯濾波處理后才方便觀察。死胚的濾波后心跳信號(hào)波形可視化如圖2所示。

圖2 濾波后死胚心跳信號(hào)波形可視化Fig.2 Visualization of dead embryo heartbeat signal waveform after filtering

根據(jù)動(dòng)物體生命特征,死胚是沒有心跳信號(hào)的,其心跳信號(hào)可視化結(jié)果理應(yīng)是一條直線,但是由于在心跳信號(hào)采集過程中存在噪聲干擾和設(shè)備抖動(dòng)等問題,死胚心跳并非是一條直線?？梢杂^察到死胚信號(hào)有很多噪聲干擾帶來的高頻跳變,在圖2中表現(xiàn)為凸起的“毛刺”,幅值較小,細(xì)節(jié)特征十分明顯卻沒有周期性的全局特征。而普通活胚則與之相反,波形平滑且幅值細(xì)節(jié)特征較大,具有明顯的周期性波動(dòng)全局特征,普通活胚的濾波后心跳信號(hào)波形可視化如圖3所示。

圖3 濾波后普通活胚心跳信號(hào)波形可視化Fig.3 Visualization of waveform of common live embryo heartbeat signal after filtering

而96 h活胚的心跳信號(hào)在幅值細(xì)節(jié)特征上接近死胚,有較小的幅值,但波形平滑且存在周期性波動(dòng)全局特征,與普通活胚一樣具有明顯的心跳特征,信號(hào)特征整體介于死胚和普通活胚之間,其濾波后心跳信號(hào)波形可視化如圖4所示。

圖4 濾波后96 h活胚心跳信號(hào)波形可視化Fig.4 Visualization of 96-hour live embryo heartbeat signal waveform after filtering

由于96 h活胚的心跳信號(hào)區(qū)別于普通活胚,信號(hào)整體介于死胚和普通活胚之間,將這種雞胚心跳信號(hào)放在普通活胚數(shù)據(jù)集中,會(huì)導(dǎo)致數(shù)據(jù)混淆,出現(xiàn)“死判活”、“活判死”現(xiàn)象,使得死胚、活胚二分類分類器難以準(zhǔn)確分類,空間內(nèi)數(shù)據(jù)分布情況如圖5所示。

圖5 二分類原始數(shù)據(jù)空間分布圖Fig.5 Spatial distribution of secondary classification raw data

因此,為了使數(shù)據(jù)分類決策面更加清晰從而起到提升分類能力的作用,本文將96 h活胚這種混淆分類的數(shù)據(jù)稱為雞胚心跳混淆信號(hào),并將其單獨(dú)作為一類數(shù)據(jù)加入數(shù)據(jù)集。本文還通過平移的方式對(duì)96 h活胚進(jìn)行了數(shù)據(jù)增強(qiáng),將其400個(gè)原始數(shù)據(jù)擴(kuò)充為4 000個(gè)[13]。同時(shí),為了避免訓(xùn)練模型時(shí)存在潛在風(fēng)險(xiǎn),本文將數(shù)據(jù)集類別平衡[14],死亡胚胎和普通活胚均采集4 000個(gè)樣本數(shù)據(jù),和96 h活胚樣本數(shù)量保持一致,這樣也會(huì)增強(qiáng)模型在測(cè)試數(shù)據(jù)上的泛化能力。本文將3類樣本按照相同的比例劃分為訓(xùn)練集、驗(yàn)證集和測(cè)試集3部分,每部分的占比分別為60%、20%和20%。表1為數(shù)據(jù)集的具體劃分結(jié)果。

表1 數(shù)據(jù)集劃分情況Tab.1 Data set partitioning situation

1.3 絕對(duì)值均值標(biāo)準(zhǔn)化

在心跳信號(hào)的采集過程中,噪聲的引入難以避免。雞胚在蛋殼內(nèi)的突然抖動(dòng)以及各種隨機(jī)因素,都會(huì)給心跳數(shù)據(jù)帶來噪聲干擾。因此,為方便訓(xùn)練過程中對(duì)雞胚心跳信號(hào)特征的提取,在預(yù)處理階段,使用本文設(shè)計(jì)的AAVN對(duì)數(shù)據(jù)進(jìn)行處理。AAVN主要分為3步:首先對(duì)心跳信號(hào)進(jìn)行巴特沃斯高通濾波,去除信號(hào)中的冗余信息,再進(jìn)行去噪處理,去除非正常的高幅跳變,最后通過絕對(duì)值均值標(biāo)準(zhǔn)化便可得到最后輸入模型的數(shù)據(jù)。

1.3.1巴特沃斯高通濾波

巴特沃斯濾波器[15],又稱最大平坦濾波器,其特點(diǎn)是該濾波器的頻率響應(yīng)曲線在通頻帶內(nèi)可以達(dá)到最大程度平坦,沒有任何波動(dòng),但是在組頻帶卻逐步趨近于零。本文為了能在最大程度上保留原始信號(hào)特征,采用巴特沃斯三階高通濾波器濾波[15],濾除振動(dòng)噪聲和生理噪聲等低頻噪聲所帶來的影響。因?yàn)榻臃N病毒后的雞蛋胚胎心跳信號(hào)正常頻率處在1～4 Hz范圍內(nèi),所以將通帶截止頻率fp設(shè)置為1 Hz,最小衰減不超過5 dB;同時(shí),阻帶截止頻率fs設(shè)置為0.5 Hz,最小衰減不超過20 dB。考慮到濾波器在濾波建立時(shí)間內(nèi)濾波性能不佳,故剔除了每個(gè)樣本的前150個(gè)數(shù)據(jù)點(diǎn),只保存剩下的350個(gè)數(shù)據(jù)點(diǎn)。濾波前后雞胚混淆數(shù)據(jù)集心跳信號(hào)可視化波形對(duì)比圖如圖6所示。

圖6 濾波前后雞胚混淆數(shù)據(jù)集心跳信號(hào)波形對(duì)比Fig.6 Comparison of heartbeat signal waveforms of hatching egg confusion dataset before and after filtering

從圖6a～6c中可以明顯看出,由于振動(dòng)噪聲和生理噪聲的影響,濾波前死胚、活胚和96 h活胚都存在明顯的基線漂移現(xiàn)象,波形中心基線上下浮動(dòng),形成很大跳變,阻礙全局特征和細(xì)節(jié)特征的提取。在經(jīng)過本文采用的濾波處理后,死亡胚胎心跳信號(hào)顯示無規(guī)則隨機(jī)性的特點(diǎn),因?yàn)樗劳雠咛ケ旧硎菦]有心跳波動(dòng)的,所以設(shè)備檢測(cè)到的死胚心跳信號(hào)為傳感器暗電流噪聲,并且濾波后可以觀察到其幅值很小;普通活胚心跳信號(hào)則變得更加平滑,周期性更加明顯,心跳信號(hào)幅值較大,可以更清晰地觀察到心跳信號(hào)的周期性全局特征和幅值細(xì)節(jié)特征等。96 h活胚心跳信號(hào)與普通活胚心跳信號(hào)在周期性全局特征方面十分相似,經(jīng)過濾波后波形同樣也變得更加平滑,周期性更加明顯并且心跳信號(hào)頻率稍快于普通活胚,但是其信號(hào)幅值遠(yuǎn)小于普通活胚,甚至接近死亡胚胎,總體介于死亡胚胎和普通活胚之間難以分類,這也是本文將96 h活胚稱為雞胚心跳混淆信號(hào)并作為第3類加入數(shù)據(jù)集的原因。

可以觀察到,3種分類的雞蛋胚胎心跳信號(hào)經(jīng)過濾波處理后,基本消除了原始數(shù)據(jù)中因噪聲干擾帶來的基線漂移現(xiàn)象,在幅值、波形和周期性上的差異更加顯著,使網(wǎng)絡(luò)模型可以更好地學(xué)習(xí)到各分類信號(hào)中的局部特征和細(xì)節(jié)特征,并為后續(xù)進(jìn)一步預(yù)處理奠定基礎(chǔ)。

1.3.2絕對(duì)值均值去噪

雞蛋胚胎心跳信號(hào)經(jīng)過巴特沃斯三階高通濾波器處理后,基本消除了基線漂移現(xiàn)象,確保了中心基線的一致性,并且放大了類別間特征差異,但是從濾波后的心跳信號(hào)波形圖(圖6d～6f)中都可以清晰地觀察到,仍有部分?jǐn)?shù)據(jù)點(diǎn)存在高幅跳變,超出正常心跳信號(hào)的幅值范圍,這種劇烈的幅值變化同樣也是由振動(dòng)噪聲和應(yīng)激反應(yīng)引起的,如果深度學(xué)習(xí)模型訓(xùn)練過程中將這類噪聲當(dāng)做心跳信號(hào)特征進(jìn)行提取并學(xué)習(xí),將會(huì)對(duì)預(yù)測(cè)結(jié)果產(chǎn)生誤導(dǎo)。因此,這部分具有高幅跳變的數(shù)據(jù)點(diǎn)也應(yīng)當(dāng)被濾除掉,否則會(huì)降低雞蛋胚胎成活性檢測(cè)的準(zhǔn)確率。本文為了進(jìn)一步消除高幅跳變,針對(duì)濾波后的雞蛋胚胎心跳信號(hào),設(shè)計(jì)了絕對(duì)值均值去噪法。

由于雞蛋胚胎原始心跳信號(hào)數(shù)據(jù)點(diǎn)都為正,但經(jīng)過濾波后,數(shù)據(jù)的中心基線得到統(tǒng)一,實(shí)現(xiàn)正負(fù)相間,其平均值趨近于0,去噪需要先對(duì)每個(gè)樣本取絕對(duì)值,再求得樣本內(nèi)的絕對(duì)值均值μ和最大絕對(duì)值xmax,得出去噪系數(shù)a為

a=xmax/(2.5μ)

(1)

當(dāng)樣本內(nèi)單個(gè)數(shù)據(jù)點(diǎn)的幅值超過2.5μ時(shí),則除以去噪系數(shù)a,使得整個(gè)樣本的最大值保持在2.5μ以內(nèi),通過等比例縮小高幅跳變

(2)

既能夠去噪達(dá)到濾除離群值的目的,還能夠保持?jǐn)?shù)據(jù)光滑度,在最大程度上保留原始信號(hào)的細(xì)節(jié)特征。經(jīng)過絕對(duì)值均值去噪前后的雞蛋胚胎心跳信號(hào)可視化波形對(duì)比圖如圖7所示。

圖7 去噪前后雞胚混淆數(shù)據(jù)集心跳信號(hào)波形對(duì)比Fig.7 Comparison of heartbeat signal waveforms of hatching egg confusion dataset before and after denoising

1.3.3絕對(duì)值均值標(biāo)準(zhǔn)化

經(jīng)過巴特沃斯三階高通濾波和絕對(duì)值均值去噪預(yù)處理后,數(shù)據(jù)點(diǎn)幅值變化范圍仍然很大,需對(duì)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化,排除量綱的作用,加速模型收斂,提高模型精度,同時(shí)使得模型對(duì)小數(shù)據(jù)也更敏感。因此,本文設(shè)計(jì)了絕對(duì)值均值標(biāo)準(zhǔn)化對(duì)雞胚數(shù)據(jù)進(jìn)行進(jìn)一步預(yù)處理。

特征縮放是本文設(shè)計(jì)絕對(duì)值均值標(biāo)準(zhǔn)化的首要步驟,特征縮放不但能夠增強(qiáng)數(shù)據(jù)中的特征,還可以在一定程度上提高模型精度、加快收斂速度。本文采用最大最小值歸一化[16]進(jìn)行特征縮放,將數(shù)值范圍縮小到[0,1]區(qū)間內(nèi),計(jì)算式為

(3)

式中x′——心跳信號(hào)的單個(gè)數(shù)據(jù)樣本

max(x′)、min(x′)——單個(gè)樣本最大值、最小值

x″——?dú)w一化值

最大最小值歸一化后的心跳信號(hào)可視化波形圖如圖8所示。從圖8可以觀察到,所有數(shù)據(jù)的幅值范圍都縮小到[0,1]區(qū)間內(nèi),完成了特征增強(qiáng),但是這樣的處理同樣也丟失了數(shù)據(jù)中至關(guān)重要的幅值細(xì)節(jié)特征,丟失該類特征會(huì)導(dǎo)致模型精度下降,出現(xiàn)錯(cuò)判、誤判等問題。因此,在使用最大最小值歸一化進(jìn)行特征縮放后還需要對(duì)數(shù)據(jù)進(jìn)一步處理,引入幅值細(xì)節(jié)特征。

圖8 雞胚混淆數(shù)據(jù)集最大最小值歸一化心跳信號(hào)波形圖Fig.8 Maximum-minimum normalized heartbeat signal waveform of hatching egg confusion dataset

本文設(shè)計(jì)的標(biāo)準(zhǔn)化在特征縮放后通過全局絕對(duì)值均值和單個(gè)樣本絕對(duì)值均值引入幅值細(xì)節(jié)特征。首先在去噪后便對(duì)整個(gè)數(shù)據(jù)集3個(gè)類別的所有樣本求絕對(duì)值均值得到全局均值μn,再對(duì)單個(gè)樣本求絕對(duì)值均值得到μx,這樣便能夠得到每個(gè)樣本各自的歸一化系數(shù)b為

b=μx/μn

(4)

將樣本的歸一化系數(shù)乘以其特征縮放后的數(shù)據(jù),便可以完成整個(gè)絕對(duì)值均值標(biāo)準(zhǔn)化的預(yù)處理,得到本文最終可用的數(shù)據(jù)集為

y=x″b

(5)

式中y——AAVN的最終結(jié)果

絕對(duì)值均值標(biāo)準(zhǔn)化后的心跳信號(hào)可視化波形圖如圖9所示。從圖中可以看到,經(jīng)過該方法處理后,不僅通過特征縮放實(shí)現(xiàn)了數(shù)據(jù)增強(qiáng),將所有數(shù)據(jù)的幅值控制在[0,1]內(nèi),還保留了各類別數(shù)據(jù)原有的幅值細(xì)節(jié)特征,能夠通過幅值大小的不同明顯區(qū)分出每類數(shù)據(jù),在數(shù)據(jù)增強(qiáng)的基礎(chǔ)上最大程度還原了原始信號(hào),同時(shí)保留了細(xì)節(jié)特征與全局特征。

圖9 雞胚混淆數(shù)據(jù)集AAVN標(biāo)準(zhǔn)化心跳信號(hào)波形圖Fig.9 AAVN normalized heartbeat signal waveform of hatching egg confusion dataset

2 網(wǎng)絡(luò)框架設(shè)計(jì)

因?yàn)楸疚脑跀?shù)據(jù)集構(gòu)建時(shí)已經(jīng)對(duì)雞胚混淆數(shù)據(jù)做了充分的預(yù)處理,數(shù)據(jù)本身已經(jīng)具有很強(qiáng)的可分類性,所以本文在對(duì)深度學(xué)習(xí)模型進(jìn)行設(shè)計(jì)時(shí),只需要構(gòu)建淺層的輕量級(jí)網(wǎng)絡(luò),運(yùn)用較少的參數(shù)即可達(dá)到所需的分類效果。同時(shí),這樣設(shè)計(jì)不但可以節(jié)省大量?jī)?nèi)存,縮短網(wǎng)絡(luò)訓(xùn)練時(shí)間,防止因隱藏層數(shù)量太多導(dǎo)致的過擬合和模型泛化能力下降等影響,還符合企業(yè)疫苗制備中高準(zhǔn)確率以及高效率的生產(chǎn)需求。設(shè)計(jì)模型的原則如下:

(1)根據(jù)預(yù)處理設(shè)計(jì)淺層輕量型網(wǎng)絡(luò),使用較少參數(shù)提高效率,滿足工業(yè)需求。

(2)CNN網(wǎng)絡(luò)結(jié)構(gòu)善于提取其卷積核感受野范圍中的局部特征,在雞胚心跳混淆信號(hào)分類任務(wù)中,同樣可以用CNN局部感受野的特點(diǎn)來提取心跳信號(hào)中的幅值、波形細(xì)節(jié)特征;而Transformer由于多頭注意力機(jī)制的存在,對(duì)長(zhǎng)距離的特征依賴關(guān)系有著良好的提取能力,可以有效捕捉心跳信號(hào)周期性全局特征,CNN與Transformer之間形成互補(bǔ)關(guān)系,兩者結(jié)合構(gòu)建雙分支網(wǎng)絡(luò)便可以在最大程度上習(xí)得雞胚心跳混淆信號(hào)中的所有特征。

2.1 基于CNN結(jié)構(gòu)的RTNet分支網(wǎng)絡(luò)設(shè)計(jì)

基礎(chǔ)CNN在增大卷積核局部感受野時(shí)需要通過加深卷積層的深度來擴(kuò)大其感受范圍,這樣勢(shì)必會(huì)加大網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜度,最終導(dǎo)致過擬合等問題的出現(xiàn)。而時(shí)間序列卷積TCN[17-18]是一種可以用來處理時(shí)序數(shù)據(jù)的網(wǎng)絡(luò)結(jié)構(gòu),該網(wǎng)絡(luò)不但可以提供充足的感受野,還能自動(dòng)適應(yīng)時(shí)間序列相關(guān)數(shù)據(jù)的時(shí)序性特點(diǎn),已經(jīng)被證明在時(shí)序建模任務(wù)中有著良好的效果。因此,本文使用TCN代替基礎(chǔ)CNN來提取雞胚心跳信號(hào)中的細(xì)節(jié)特征。

同時(shí),為了增強(qiáng)模型特征提取通道之間的相關(guān)性,并避免在信息傳遞過程中出現(xiàn)信息丟失等問題,本文還設(shè)計(jì)了殘差結(jié)構(gòu)和通道注意力機(jī)制(Squeeze-and-excitation,SE)對(duì)模型進(jìn)行增強(qiáng)。通道注意力機(jī)制SE模塊針對(duì)各個(gè)特征通道間重要程度的不同,選擇性地對(duì)其進(jìn)行抑制或是增強(qiáng)。最終,本文設(shè)計(jì)了心跳信號(hào)細(xì)節(jié)特征提取分支網(wǎng)絡(luò)RFTNet,如圖10所示。

圖10 雞胚心跳混淆信號(hào)細(xì)節(jié)特征提取網(wǎng)絡(luò)RTNet結(jié)構(gòu)圖Fig.10 Structure of RTNet network for extracting details of confusion signal of hatching egg heartbeat

2.2 基于Transformer的TRNet分支網(wǎng)絡(luò)設(shè)計(jì)

Transformer網(wǎng)絡(luò)主要應(yīng)用于自然語言處理領(lǐng)域,由于雞胚心跳混淆信號(hào)與自然語言同屬時(shí)間序列一維信號(hào),故本文使用Transformer[19]模塊作為心跳信號(hào)周期性波動(dòng)全局特征的主要特征提取器,通過自注意力機(jī)制習(xí)得模型內(nèi)部的長(zhǎng)距離雙向依賴關(guān)系。同時(shí),Transformer網(wǎng)絡(luò)含有Encoder編碼器和Decoder解碼器兩部分,分別負(fù)責(zé)對(duì)輸入模型信號(hào)進(jìn)行編碼和解碼,而本文處理的心跳信號(hào)分類任務(wù)并不涉及Decoder解碼操作,故將Transformer中的Encoder結(jié)構(gòu)作為分支網(wǎng)絡(luò)TRNet的基礎(chǔ),用于提取心跳信號(hào)周期性波動(dòng)全局特征。此外,當(dāng)自注意力機(jī)制編碼當(dāng)前所處狀態(tài)的信息時(shí),會(huì)出現(xiàn)注意力分布極端的問題,注意力將會(huì)過度地集中在當(dāng)前狀態(tài)。為了解決這一問題,在Transformer中引入了多頭注意力機(jī)制(Multi-head attention)[20],用多組自注意力對(duì)經(jīng)過一維卷積詞嵌入技術(shù)編碼操作后的心跳信號(hào)進(jìn)行處理。

基于Transformer的全局特征提取網(wǎng)絡(luò)TRNet如圖11所示。該網(wǎng)絡(luò)首先利用一維卷積對(duì)心跳信號(hào)進(jìn)行詞嵌入編碼操作,將心跳信號(hào)的維度和空間位置信息轉(zhuǎn)變到128維,使用卷積核大小為1×1。緊接著將編碼后的心跳信號(hào)送入Transformer的Encoder結(jié)構(gòu)中,在多頭注意力模塊周圍還引入了殘差結(jié)構(gòu),避免信息失真問題出現(xiàn)的同時(shí)還能提升信息傳遞效率。

圖11 雞胚心跳混淆信號(hào)全局特征TRNet結(jié)構(gòu)圖Fig.11 Structure of global feature extraction TRNet for confusion signal of hatching egg heartbeat

2.3 RFTNet網(wǎng)絡(luò)整體結(jié)構(gòu)

經(jīng)過本文完整的預(yù)處理后, RFTNet網(wǎng)絡(luò)模型的詳細(xì)參數(shù)如表2所示。

表2 RFTNet網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)Tab.2 RFTNet network structural parameters

輸入RFTNet的心跳信號(hào)大小為1×350,通過雙分支網(wǎng)絡(luò)以并行的方式捕捉心跳信號(hào)中的全局特征和各類細(xì)節(jié)特征,將兩種類型的特征進(jìn)行拼接完成多分類。從表2中可以看出,RTNet分支網(wǎng)絡(luò)有3個(gè)細(xì)節(jié)特征提取模塊用于提取各類細(xì)節(jié)特征,TRNet分支網(wǎng)絡(luò)利用一維卷積映射到128維的特征空間,通過Transformer-Encoder中的自注意力機(jī)制來捕捉心跳信號(hào)中的周期性波動(dòng)全局特征,其中多頭自注意力機(jī)制的頭數(shù)為2;最終將輸出的兩類特征進(jìn)行拼接完成分類。同時(shí),為了再次避免網(wǎng)絡(luò)層數(shù)增多導(dǎo)致的過擬合問題,本文選擇用全局平均池化層(Global average pooling,GAP)完成分類前的數(shù)據(jù)降維。RFTNet整體網(wǎng)絡(luò)結(jié)構(gòu)如圖12所示。

圖12 RFTNet整體網(wǎng)絡(luò)結(jié)構(gòu)圖Fig.12 RFTNet overall network structure diagram

3 實(shí)驗(yàn)結(jié)果與分類有效性分析

在構(gòu)建的雞胚混淆數(shù)據(jù)集基礎(chǔ)上,對(duì)本文提出的RFTNet網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練及測(cè)試。其次對(duì)各分支網(wǎng)絡(luò)的特征提取能力進(jìn)行分析,證明了不同增強(qiáng)模塊的有效性。同時(shí),本文還將RFTNet整體網(wǎng)絡(luò)從學(xué)習(xí)能力和分類能力兩方面進(jìn)行可視化,以客觀評(píng)估本文所提方法的優(yōu)越性。最后,將RFTNet與傳統(tǒng)分類方法和深度學(xué)習(xí)分類方法進(jìn)行對(duì)比實(shí)驗(yàn),進(jìn)一步驗(yàn)證本文方法在雞胚混淆數(shù)據(jù)集中具備強(qiáng)大的分類能力。

3.1 實(shí)驗(yàn)環(huán)境與超參數(shù)

本文實(shí)驗(yàn)網(wǎng)絡(luò)模型的操作平臺(tái)為臺(tái)式計(jì)算機(jī),處理器為Intel(R) Core(TM) i7-6800K CPU,默認(rèn)頻率3.40 GHz,內(nèi)存為16.0 GB,GPU為NVIDIA GeForce GTX 1080Ti,開發(fā)環(huán)境為:Python 3.7,anaconda 1.9.12,CUDA版本為10.0, Windows 10 64位操作系統(tǒng)。

本文采用TensorFlow深度學(xué)習(xí)框架,經(jīng)反復(fù)測(cè)試得到的最佳配置超參數(shù):學(xué)習(xí)率為0.001,損失函數(shù)為交叉熵?fù)p失,使用了零均值歸一化,迭代周期(Epoch)為300。優(yōu)化器為Adam,批量大小(Batch size)為128。

3.2 模型評(píng)估指標(biāo)

本文使用包括準(zhǔn)確率(Accuracy)、精確率(Precision)、召回率(Recall)和F1值4個(gè)指標(biāo)評(píng)估本文模型。準(zhǔn)確率是所有被正確預(yù)測(cè)的樣本比例;精確率是預(yù)測(cè)為陽性的樣本中真陽性所占的比例;召回率是正確預(yù)測(cè)為真陽性的數(shù)量與陽性總體數(shù)據(jù)的比例;而F1 值是用來衡量分類模型精確度的一種指標(biāo),它同時(shí)兼顧了分類模型的準(zhǔn)確率和召回率。

3.3 RTNet分支網(wǎng)絡(luò)有效性驗(yàn)證

為了使設(shè)計(jì)的RTNet分支網(wǎng)絡(luò)在雞胚混淆數(shù)據(jù)集中具有更強(qiáng)的分類性能,本文引入不同的增強(qiáng)模塊對(duì)基礎(chǔ)的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行增強(qiáng),并通過消融實(shí)驗(yàn)對(duì)各個(gè)增強(qiáng)模塊的有效性進(jìn)行驗(yàn)證。在控制變量法的基礎(chǔ)上,不同增強(qiáng)模塊以相同的超參數(shù)設(shè)置,在本文預(yù)處理后的雞胚混淆數(shù)據(jù)集上分別完成訓(xùn)練。消融實(shí)驗(yàn)的模型評(píng)估指標(biāo)如表3所示。

表3 不同增強(qiáng)模塊性能對(duì)比Tab.3 Performance comparison of different enhancement modules %

從表3可以看出,與CNN相比,各個(gè)增強(qiáng)模塊的評(píng)價(jià)指標(biāo)都有顯著提升,分別在不同程度上增強(qiáng)了分支網(wǎng)絡(luò)的整體性能。本文還使用混淆矩陣對(duì)不同模型的分類效果進(jìn)行了可視化,可視化混淆矩陣如圖13所示。

圖13 不同增強(qiáng)模塊混淆矩陣可視化結(jié)果Fig.13 Confusion matrix visualization results for different enhancement modules

可以觀察到,經(jīng)AAVN標(biāo)準(zhǔn)化預(yù)處理后,96 h活胚(雞胚心跳混淆信號(hào))在基礎(chǔ)的CNN網(wǎng)絡(luò)中也可被正確分類,表明96 h活胚數(shù)據(jù)特征向量與其他兩種類別已經(jīng)有了顯著差異,具有良好的可分類性,進(jìn)一步驗(yàn)證了本文針對(duì)雞胚混淆數(shù)據(jù)所設(shè)計(jì)預(yù)處理的有效性。通過表3和圖13的數(shù)據(jù)相結(jié)合可推出,經(jīng)過各增強(qiáng)模塊增強(qiáng)后的細(xì)節(jié)特征提取RTNet分支網(wǎng)絡(luò)具備更強(qiáng)的特征提取能力和分類性能。

3.4 TRNet分支網(wǎng)絡(luò)空間維度分析

全局特征提取TRNet分支網(wǎng)絡(luò)將原本處于一維空間的心跳信號(hào)轉(zhuǎn)換到N維空間,隨后將其送入由自注意力機(jī)制構(gòu)成的Transformer-Encoder中,完成對(duì)心跳信號(hào)全局特征的提取,因此,空間維度N的設(shè)置對(duì)模型至關(guān)重要。本文采用控制變量法,在相同網(wǎng)絡(luò)和數(shù)據(jù)集中設(shè)置多組對(duì)比實(shí)驗(yàn),用于驗(yàn)證空間維度N對(duì)TRNet的影響并選出其最優(yōu)設(shè)定,對(duì)比實(shí)驗(yàn)結(jié)果如圖14所示。

圖14 不同輸入空間維度N的模型精度及參數(shù)量Fig.14 Impact of input space dimension N on model accuracy and number of parameters

本文共設(shè)計(jì)6組對(duì)比實(shí)驗(yàn),分別將N設(shè)置為16、32、64、128、256、512。從圖14可以看出,隨著空間維度的增長(zhǎng),參數(shù)量整體呈指數(shù)增長(zhǎng)趨勢(shì)。當(dāng)N為128時(shí),模型分類準(zhǔn)確率最高且模型參數(shù)量相對(duì)較少,表明將原始一維空間的心跳信號(hào)轉(zhuǎn)換到空間維度為128時(shí),該分支網(wǎng)絡(luò)對(duì)于雞胚混淆數(shù)據(jù)集具有最好的分類性能。此外,為了實(shí)現(xiàn)對(duì)空間維度最優(yōu)設(shè)定的進(jìn)一步驗(yàn)證,本文按雞胚混淆數(shù)據(jù)集中各類別比例,隨機(jī)抽取了4 000條雞胚心跳信號(hào),通過t-SNE[21]方法分別對(duì)N為16、32、64、128、256、512時(shí)的模型輸出特征進(jìn)行降維可視化,可視化結(jié)果如圖15所示,每幅圖都包含4 000個(gè)數(shù)據(jù)點(diǎn),死亡胚胎、普通活胚和96 h活胚心跳信號(hào)分別由紫色、黃色和綠色的數(shù)據(jù)點(diǎn)表示。其中,每幅子圖分別對(duì)應(yīng)上述各個(gè)維度空間中心跳信號(hào)經(jīng)過特征提取后的空間分布情況,同時(shí)也代表網(wǎng)絡(luò)模型的分類能力。模型分類能力強(qiáng)則同類別數(shù)據(jù)聚攏密集,而能力弱的會(huì)出現(xiàn)數(shù)據(jù)點(diǎn)分布離散、分布異常以及大量跨類別分布的情況。

圖15 不同空間維度分類性能可視化Fig.15 Visualizations of classification performance in different spatial dimensions

由圖15可以看出,由本文設(shè)計(jì)的數(shù)據(jù)預(yù)處理以及全局特征提取TRNet分支網(wǎng)絡(luò)架構(gòu)處理后,即使是精度最低的模型也具備一定的心跳信號(hào)分類能力,當(dāng)空間維度為128時(shí)效果最佳。以上實(shí)驗(yàn)結(jié)果均證明該分支網(wǎng)絡(luò)在128維的特征空間下對(duì)心跳信號(hào)進(jìn)行分類具有最好的性能。

3.5 RFTNet整體網(wǎng)絡(luò)學(xué)習(xí)能力可視化分析

為了能夠更清晰地展示RFTNet整體網(wǎng)絡(luò)對(duì)雞胚混淆數(shù)據(jù)集中各類別心跳信號(hào)的學(xué)習(xí)能力,本文通過熱力圖的方式將其學(xué)習(xí)過程可視化,利用模型中輸出層的特征集合與各項(xiàng)特征在GAP層所占權(quán)重比例做乘法運(yùn)算得到特征權(quán)重矩陣,最終重疊為能夠表示網(wǎng)絡(luò)特征學(xué)習(xí)能力的熱力圖。本文在雞胚混淆數(shù)據(jù)集中對(duì)每一類別分別選取了一條具有代表性的雞胚心跳信號(hào)進(jìn)行可視化分析,可視化結(jié)果如圖16所示。

圖16 RFTNet及其分支網(wǎng)絡(luò)學(xué)習(xí)能力可視化Fig.16 Visualizing learning capability of RFTNet and its branch networks

圖16每行分別代表的是死亡胚胎、普通活胚以及96 h活胚心跳信號(hào)數(shù)據(jù)。熱力圖由原始輸入信號(hào)的離散點(diǎn)構(gòu)成,其中不同顏色代表模型對(duì)各個(gè)位置施加注意力程度不同,紅色顏色越深,代表關(guān)注度越強(qiáng),即模型對(duì)該位置特征的學(xué)習(xí)能力越強(qiáng),而藍(lán)色則與之相反,顏色越深代表模型對(duì)該位置的學(xué)習(xí)能力越差。可以看到代表RTNet學(xué)習(xí)能力的熱力圖中,紅色點(diǎn)多聚集于心跳信號(hào)的細(xì)節(jié)部位,著重對(duì)其細(xì)節(jié)特征進(jìn)行捕捉;TRNet熱力圖的紅色點(diǎn)覆蓋了大部分的時(shí)間序列,足夠?qū)W習(xí)到其中的周期性波動(dòng)全局特征;而RFTNet融合了兩個(gè)分支網(wǎng)絡(luò),具有更為強(qiáng)大的學(xué)習(xí)能力,紅色點(diǎn)覆蓋了大部分心跳信號(hào),說明該網(wǎng)絡(luò)幾乎可以學(xué)習(xí)到信號(hào)中的全部特征,兼顧全局特征和各類細(xì)節(jié)特征。熱力圖實(shí)驗(yàn)進(jìn)一步證明RFTNet在本文數(shù)據(jù)集中具有強(qiáng)大的學(xué)習(xí)能力,同時(shí)可以看到各分支網(wǎng)絡(luò)的學(xué)習(xí)能力均符合本文網(wǎng)絡(luò)設(shè)計(jì)的核心思想,能夠分別實(shí)現(xiàn)對(duì)不同類別特征的學(xué)習(xí),驗(yàn)證了本文網(wǎng)絡(luò)設(shè)計(jì)的合理性。

3.6 RFTNet整體網(wǎng)絡(luò)分類能力可視化分析

為了能夠更清晰地展示RFTNet網(wǎng)絡(luò)在雞胚混淆數(shù)據(jù)集上的分類能力,本文通過t-SNE降維分析法對(duì)RFTNet及其分支網(wǎng)絡(luò)進(jìn)行分類能力可視化。本文按雞胚混淆數(shù)據(jù)集中死亡胚胎、普通活胚以及96 h活胚樣本分布比例,隨機(jī)抽取共4 000條心跳信號(hào)分別送入RFTNet及其分支網(wǎng)絡(luò)TRNet和RTNet中,將提取到各類特征即通過全連接層進(jìn)行分類的輸出信號(hào)截取到t-SNE算法中,實(shí)現(xiàn)各網(wǎng)絡(luò)分類能力的可視化,分類能力可視化結(jié)果如圖17所示。

圖17 RFTNet及其分支網(wǎng)絡(luò)分類能力可視化Fig.17 Visualizing classification power of RFTNet and its branching networks

由圖17a、17b可以看出,兩幅圖各類別間數(shù)據(jù)點(diǎn)均呈現(xiàn)出較為集中的分布趨勢(shì),但是樣本間的分布輪廓仍不夠明顯,個(gè)別類別數(shù)據(jù)的聚攏效果還不夠理想,各類別決策邊界上均存在較為嚴(yán)重的數(shù)據(jù)重疊現(xiàn)象。圖17c在融合了兩個(gè)分支網(wǎng)絡(luò)各自針對(duì)全局特征以及細(xì)節(jié)特征的提取能力后,同類別數(shù)據(jù)點(diǎn)分布不但聚攏集中,而且只存在較少數(shù)跨類別分布的異常離散點(diǎn),分類效果遠(yuǎn)高于兩個(gè)分支網(wǎng)絡(luò),進(jìn)一步驗(yàn)證了RFTNet在雞胚混淆數(shù)據(jù)集中具有強(qiáng)大的分類能力。

3.7 RFTNet與其他分類方法性能對(duì)比

為了驗(yàn)證本文所提出的RFTNet對(duì)于雞胚混淆數(shù)據(jù)集心跳信號(hào)分類的有效性,本節(jié)將其分別與傳統(tǒng)分類方法和深度學(xué)習(xí)分類方法進(jìn)行對(duì)比。經(jīng)典分類方法包括支持向量機(jī)(Support vector machines,SVM)、決策樹(Decision tree,DT)以及二次判別分析(Quadratic discriminant analysis,QDA);深度學(xué)習(xí)方法有長(zhǎng)短時(shí)記憶(Long short-term memory,LSTM)、GRU和Transformer-Encoder,以及本課題組針對(duì)特定領(lǐng)域雞胚心跳信號(hào)分類提出的各種算法,包括E-CNN、FCNs-GRU和MifaNet。本文在對(duì)比實(shí)驗(yàn)過程中遵循控制變量法,所有實(shí)驗(yàn)均在本文雞胚混淆數(shù)據(jù)集上進(jìn)行,并保持訓(xùn)練超參數(shù)的一致性。傳統(tǒng)分類方法對(duì)比實(shí)驗(yàn)結(jié)果如表4所示。從表中可以看出,傳統(tǒng)分類方法在本文雞胚混淆數(shù)據(jù)集中的分類效果并不理想。

表4 傳統(tǒng)分類方法對(duì)比實(shí)驗(yàn)結(jié)果Tab.4 Experimental results of comparing traditional classification methods

傳統(tǒng)算法在進(jìn)行分類時(shí)直接對(duì)原始數(shù)據(jù)進(jìn)行處理,而原始數(shù)據(jù)中存在諸多背景噪聲干擾, 96 h活胚作為雞胚混淆數(shù)據(jù),本身就具有類別邊界不清晰、形態(tài)具有多義性等問題,導(dǎo)致分類器精度下降,難以準(zhǔn)確分類。因此,傳統(tǒng)分類方法并不適用于雞胚心跳混淆信號(hào)分類任務(wù),對(duì)于該時(shí)間序列分類任務(wù),基于深度學(xué)習(xí)的分類方法是目前的最優(yōu)法。深度學(xué)習(xí)分類方法實(shí)驗(yàn)結(jié)果對(duì)比如表5所示。

表5 深度學(xué)習(xí)分類方法實(shí)驗(yàn)結(jié)果對(duì)比Tab.5 Experimental results of comparing deep learning classification methods %

從表5可以看出,LSTM和GRU的分類性能最差,雖然RNN結(jié)構(gòu)網(wǎng)絡(luò)在處理長(zhǎng)時(shí)間序列任務(wù)時(shí)具有良好的性能,可以提取到數(shù)據(jù)中的全局信息特征,但是對(duì)于雞胚心跳信號(hào)而言,幅值細(xì)節(jié)特征和波形細(xì)節(jié)特征同樣重要,基于RNN結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)難以對(duì)此類特征進(jìn)行捕捉,尤其雞胚混淆數(shù)據(jù)在周期性波動(dòng)全局特征上具有混淆性,更會(huì)導(dǎo)致其錯(cuò)判率的上升;得益于自注意力機(jī)制善于捕捉信號(hào)間長(zhǎng)距離依賴關(guān)系的能力,將基礎(chǔ)的Transformer-Encoder直接作為模型對(duì)雞胚混淆數(shù)據(jù)集進(jìn)行訓(xùn)練仍取得了不錯(cuò)的效果,但還不能滿足工業(yè)生產(chǎn)的需求。而本課題組之前提出的E-CNN、FCNs-GRU和MifaNet網(wǎng)絡(luò),并沒有將具有混淆性的96 h活胚心跳信號(hào)考慮在內(nèi),故無法對(duì)雞胚混淆數(shù)據(jù)集中的心跳信號(hào)進(jìn)行準(zhǔn)確分類,但這類雞胚混淆數(shù)據(jù)又大量存在于注射病毒96 h后的心跳數(shù)據(jù)中,難以忽略;經(jīng)過三分類AACN預(yù)處理后的數(shù)據(jù)本身已經(jīng)具備很強(qiáng)的可分類性,本文設(shè)計(jì)的淺層雙分支網(wǎng)絡(luò)RFTNet兼?zhèn)淙痔卣骱图?xì)節(jié)特征的提取能力,在本文數(shù)據(jù)集展現(xiàn)強(qiáng)大分類能力,各項(xiàng)評(píng)價(jià)指標(biāo)均為最高。

4 結(jié)束語

針對(duì)雞胚混淆數(shù)據(jù)集心跳信號(hào)特點(diǎn),設(shè)計(jì)了三分類AAVN 標(biāo)準(zhǔn)化對(duì)數(shù)據(jù)特征進(jìn)行增強(qiáng),并根據(jù)預(yù)處理后的信號(hào),提出了一種基于TCN與注意力機(jī)制的殘差結(jié)構(gòu)淺層雙分支分類網(wǎng)絡(luò)RFTNet,用于對(duì)雞胚心跳信號(hào)進(jìn)行成活性檢測(cè)。RTNet分支網(wǎng)絡(luò)和TRNet分支網(wǎng)絡(luò)以并行的方式分別提取心跳信號(hào)中的波形、幅值細(xì)節(jié)特征和周期性波動(dòng)全局特征,并通過拼接的方式融合為RFTNet整體網(wǎng)絡(luò),大幅增強(qiáng)其對(duì)特征進(jìn)行表達(dá)的能力。最終本文所提方法在雞胚混淆數(shù)據(jù)集心跳信號(hào)分類中具有良好的性能,分類準(zhǔn)確率高達(dá)99.75%,優(yōu)于現(xiàn)有的傳統(tǒng)方法和深度學(xué)習(xí)方法。