王 塵 蔡晶晶 郝學(xué)超 張偉義 舒紅平 王亞強(qiáng) 陳 果
(1.成都信息工程大學(xué)軟件工程學(xué)院 成都 610225)(2.成都信息工程大學(xué)數(shù)據(jù)科學(xué)與工程研究所 成都 610225)(3.成都信息工程大學(xué)軟件自動(dòng)生成與智能服務(wù)實(shí)驗(yàn)室 成都 610225)(4.四川大學(xué)華西醫(yī)院麻醉手術(shù)中心 成都 610044)
由于術(shù)后并發(fā)癥導(dǎo)致的非心臟手術(shù)患者的術(shù)后30 天死亡是全球第三大死亡原因,據(jù)統(tǒng)計(jì)約有2%的住院非心臟手術(shù)患者在術(shù)后第一個(gè)月內(nèi)死亡[1]。而術(shù)中低血壓(Intraoperative Hypotension,IH)事件的發(fā)生是導(dǎo)致術(shù)后并發(fā)癥的重要因素[2]。目前對于IH 的治療大多依靠醫(yī)生的經(jīng)驗(yàn)進(jìn)行判斷和干預(yù),并且經(jīng)常發(fā)生一些延遲。因此,若夠提前預(yù)測患者的血壓狀態(tài),可以實(shí)現(xiàn)早期的干預(yù),例如調(diào)整麻醉劑、液體和血管活性藥物,從而減少IH 對患者傷害[3],具有重要研究意義和實(shí)際應(yīng)用價(jià)值。
IH 的預(yù)測是圍術(shù)期人工智能的研究熱點(diǎn)問題之一,現(xiàn)有的IH 預(yù)測研究主要集中在事件的預(yù)測,即利用術(shù)中實(shí)時(shí)監(jiān)測的生理數(shù)據(jù)預(yù)測IH 在未來5min、10min、15min 是否會(huì)發(fā)生。Hatib 等[9]利用術(shù)中監(jiān)測的動(dòng)脈壓波形數(shù)據(jù),將IH 的預(yù)測定義為二分類問題。然而,一方面由于臨床IH 的定義存在差異,導(dǎo)致這些方法存在普適性不足的問題。另一方面僅僅依靠分類結(jié)果,沒有考慮患者血壓發(fā)展變化的過程,進(jìn)而限制了干預(yù)策略的制定,因?yàn)橥ǔB樽磲t(yī)生在判斷主動(dòng)給予液體、血管加壓藥或肌力藥物時(shí),是基于一定時(shí)間范圍內(nèi)的臨床證據(jù)。因此提前預(yù)測血壓的變化和趨勢,具有更重要的臨床研究和應(yīng)用價(jià)值。當(dāng)前一些研究開始使用深度學(xué)習(xí)技術(shù)對術(shù)中血壓的連續(xù)值進(jìn)行實(shí)時(shí)預(yù)測,Jeong等[4]使用循環(huán)神經(jīng)網(wǎng)絡(luò)實(shí)時(shí)預(yù)測未來3min 的血壓,初步驗(yàn)證了實(shí)時(shí)預(yù)測術(shù)中血壓的可行性,但僅限于短期預(yù)測。Lee等[5]使用卷積神經(jīng)網(wǎng)絡(luò)建立了回歸任務(wù)來預(yù)測未來5min、10min、15min 的術(shù)中血壓值,但精準(zhǔn)度仍有待提升。鑒于高精度,長范圍的預(yù)測血壓序列是一項(xiàng)挑戰(zhàn),同時(shí)長序列的預(yù)測也是時(shí)間序列預(yù)測領(lǐng)域相對忽視的問題,因此當(dāng)前對于術(shù)中血壓實(shí)時(shí)預(yù)測的探索尚不充分。
近年來,基于深度學(xué)習(xí)的時(shí)間序列預(yù)測模型取得很大進(jìn)展,尤其是基于Transformer 模型,受益于注意力機(jī)制,Transformer在序列數(shù)據(jù)的長期依賴關(guān)系建模方面獲得了巨大優(yōu)勢[6]。先前的一些研究如Zhou 等[7]提出的Informer 采用了稀疏注意力算法以降低注意力機(jī)制的復(fù)雜度,并在各類時(shí)序預(yù)測任務(wù)有優(yōu)異表現(xiàn)。然而,在血壓序列預(yù)測任務(wù)中僅使用規(guī)范的注意力機(jī)制來捕捉序列內(nèi)部的重要信息,忽視了血壓序列中的局部特征的提取以及多生理序列之間的依賴關(guān)系建模。針對上述問題,本文在前人工作Informer 的框架上,設(shè)計(jì)了相應(yīng)的改進(jìn)策略,提出名為CACformer 的通道自適應(yīng)與局部增強(qiáng)Transformer模型,通過術(shù)中多項(xiàng)生理序列來實(shí)時(shí)預(yù)測術(shù)中血壓,主要貢獻(xiàn)如下:
以往的術(shù)中血壓預(yù)測方法存在預(yù)測長度短,精準(zhǔn)度不高的問題。針對這一挑戰(zhàn),本文提出了一種基于Transformer 的術(shù)中血壓預(yù)測方法,利用Transformer 的長序列建模的優(yōu)勢,能夠更準(zhǔn)確地捕捉術(shù)中血壓的動(dòng)態(tài)變化,并實(shí)時(shí)預(yù)測未來的血壓變化趨勢。
針對血壓序列中存在相似節(jié)律的特點(diǎn),引入了局部增強(qiáng)的卷積注意力機(jī)制,取代了原始的規(guī)范注意力機(jī)制,使其在捕捉長序列依賴的同時(shí),引局部時(shí)間相關(guān)性和趨勢性,從而更加準(zhǔn)確地預(yù)測術(shù)中血壓變化。
考慮到血壓的變化受益于多個(gè)生理序列的信息,同時(shí)生理序列之間存在復(fù)雜的交互關(guān)系。本文提出了一種通道自適應(yīng)模塊嵌入模型中,該模塊能夠自適應(yīng)地學(xué)習(xí)不同通道之間的權(quán)重,增強(qiáng)模型對于多通道輸入的通道間關(guān)系的建模能力,更好地利用多個(gè)生理序列的信息,提高血壓預(yù)測的準(zhǔn)確度。
實(shí)驗(yàn)結(jié)果表明,本文提出的CACformer 在術(shù)中血壓預(yù)測上優(yōu)于目前先進(jìn)的時(shí)間序列預(yù)測模型,相比于改進(jìn)前的基準(zhǔn)模型在5min、10min、15min 預(yù)測精度分別提升4.88%、8.2%、8.42%,平均絕對誤差達(dá)到2.997、3.393、3.743,能夠更準(zhǔn)確地預(yù)測術(shù)中血壓的變化。此外,通過可視化分析表明預(yù)測結(jié)果的穩(wěn)定性,并進(jìn)一步通過消融實(shí)驗(yàn)驗(yàn)證了改進(jìn)模塊對于血壓預(yù)測的有效性。
當(dāng)前許多研究致力于通過機(jī)器學(xué)習(xí)技術(shù)預(yù)測IH,Kendale 等[8]開發(fā)了用于預(yù)測全身麻醉后誘導(dǎo)性血壓發(fā)生的機(jī)器學(xué)習(xí)算法,該算法涉及特征復(fù)雜,無法實(shí)現(xiàn)IH 的實(shí)時(shí)預(yù)測。Hatib 等[9]從術(shù)中動(dòng)脈波形中提取出數(shù)千個(gè)組合特征,并使用邏輯回歸方法來實(shí)時(shí)預(yù)測IH,但僅使用動(dòng)脈波形作為單一數(shù)據(jù)源。上述機(jī)器學(xué)習(xí)方法需要基于領(lǐng)域知識(shí)人工提取特征,深度學(xué)習(xí)的作為機(jī)器學(xué)習(xí)的分支彌補(bǔ)了這一缺陷。Lee等[5]使用卷積神經(jīng)網(wǎng)絡(luò)用多個(gè)波形信號(hào)進(jìn)行實(shí)時(shí)的預(yù)測IH,并取得了的不錯(cuò)的效果。
以往研究都是把IH 預(yù)測當(dāng)作分類任務(wù),既根據(jù)特定閾值劃分出樣本來預(yù)測IH 是否會(huì)發(fā)生,然而臨床IH 的定義仍存在爭議。Bijker 等[10]在審查了130 篇文章后,確定了140 個(gè)IH 定義,這些不同的定義會(huì)導(dǎo)致不同的IH 發(fā)生率。最近,Weinberg等[11]的一項(xiàng)IH 定義研究表明,在接受非心臟手術(shù)的人中,IH 主要由收縮壓(Systolic Arterial Pressure,SAP),平均動(dòng)脈壓(Mean Arterial Pressure,MAP)或兩者的組合的變化來定義,大多數(shù)研究報(bào)告MAP < 60 mmHg 或SAP < 90 mmHg 作為IH 發(fā)生的絕對閾值,部分相對閾值的定義則是MAP 或SAP 較基線下降百分比(10%~60%)作為標(biāo)準(zhǔn)。
近年來,一些初步的研究開始關(guān)注術(shù)中血壓連續(xù)值的預(yù)測,并嘗試用深度學(xué)習(xí)模型建立實(shí)時(shí)血壓預(yù)測模型。Jeong 等[4]使用循環(huán)神經(jīng)網(wǎng)絡(luò)通過監(jiān)護(hù)的生命體征數(shù)據(jù)來實(shí)時(shí)預(yù)測未來3min 的血壓,但僅限于短期預(yù)測。Lee等[5]使用卷積神經(jīng)網(wǎng)絡(luò)分別建立回歸與分類模型比較,并認(rèn)為通過回歸任務(wù)預(yù)測血壓值更具臨床適用性。因此在本研究中,將致力于填補(bǔ)實(shí)時(shí)術(shù)中血壓預(yù)測領(lǐng)域的研究空白,旨在開發(fā)一種創(chuàng)新的方法,能夠準(zhǔn)確、實(shí)時(shí)地預(yù)測術(shù)中血壓的變化。
當(dāng)前Transformer 的許多變體被提出來解決時(shí)間序列預(yù)測中的特殊挑戰(zhàn),Zhou等[7]研究的Informer 提出了一種稀疏注意力和蒸餾技術(shù)來提取最重要的鍵。Wu 等[12]研究的Autoformer 借鑒了傳統(tǒng)時(shí)間序列分析方法的分解和自相關(guān)思想,在周期性的數(shù)據(jù)上的預(yù)測效果有顯著提升。FEDformer[13]使用傅立葉增強(qiáng)結(jié)構(gòu)來獲得線性復(fù)雜度。Nie等[14]提出的Patch_TST,利用通道獨(dú)立補(bǔ)丁操作來降低模型的計(jì)算的時(shí)空復(fù)雜度。這些模型大多側(cè)重于設(shè)計(jì)新穎的機(jī)制以降低原始注意機(jī)制的復(fù)雜性,從而在預(yù)測上取得更好的性能。但原始注意力機(jī)制是從時(shí)間維度上提取重要信息,忽略了時(shí)序通道維度之間的潛在關(guān)聯(lián),同時(shí)大多數(shù)使用的逐點(diǎn)注意力,來關(guān)注全局的信息,忽略了局部的特征重要性,本文提出的CACformer 模型則針對以上問題進(jìn)行優(yōu)化,充分利用生理序列的有效特征,達(dá)到提高的預(yù)測精度的目的。
本文提出的CACformer 架構(gòu)如圖1 所示,采用原始的編碼器、解碼器架構(gòu),主要包含卷積注意力層、標(biāo)準(zhǔn)化層、通道自適應(yīng)模塊、自注意力蒸餾層。編碼器輸入Xt,經(jīng)過位置編碼,將序列的位置信息融入,注意力層采用卷積注意力機(jī)制[15],增強(qiáng)序列局部特征的提取。為了降低注意力機(jī)制復(fù)雜度,利用了Informer 的稀疏自注意力策略[7](ProbSparse Self-attention),提取卷積注意力機(jī)制中重要的查詢和鍵,將注意力機(jī)制的時(shí)空復(fù)雜度縮減到O(LlogL),每一個(gè)注意力層后嵌入通道自適應(yīng)模塊進(jìn)一步提取通道維度的依賴關(guān)系。最后通過自注意力蒸餾層[7],消除特征圖的冗余值,進(jìn)一步縮減輸入的時(shí)間維度的同時(shí)讓模型更加關(guān)注主導(dǎo)特征。
圖1 CACformer模型架構(gòu)
規(guī)范注意力機(jī)制是對時(shí)間序列進(jìn)行逐點(diǎn)運(yùn)算,旨在提取不同序列點(diǎn)之間的相關(guān)程度來提取序列內(nèi)的重要信息,而對于細(xì)粒度采集的生理數(shù)據(jù),單個(gè)序列的值不像文本具有重要的語義信息,因此提取局部信息十分重要。
從數(shù)據(jù)中截取的血壓序列的片段如圖2(a)所示,血壓序列中存在明顯的局部相似性,即不同時(shí)刻存在相似節(jié)律。為了引入序列中的局部信息以更好地捕捉時(shí)間相關(guān)性、趨勢性和異常情況,采用一種卷積注意力機(jī)制,如圖2(b)。在卷積注意力層中,多頭注意力子層將隱層H?RLx×dmodel分別轉(zhuǎn)化為h個(gè)不同的查詢矩陣Qh、關(guān)鍵矩陣Kh、值矩陣Vh。Qh、Kh的轉(zhuǎn)化方式使用內(nèi)核大小為k,步幅為1 的一維卷積構(gòu)造(使用0 進(jìn)行適當(dāng)填充維持維度大?。?,即,而Vh使用卷積核大小為1構(gòu)造,Vh=,其等同于線性變換。W為參數(shù)矩陣,。這樣生成的Qh和Kh可以通過局部的上下文信息計(jì)算相似性而不是逐點(diǎn)值,從而更好的捕捉血壓中的相似節(jié)律。其次,在對序列進(jìn)行注意力計(jì)算時(shí),只有部分點(diǎn)積對貢獻(xiàn)主要注意力,而其他點(diǎn)積對產(chǎn)生微不足道的注意力,因此采用ProbSparse Self-attention 來提取重要的Qˉ,公式如下:
圖2 血壓的局部特征捕獲
心率、灌注指數(shù)、呼吸指標(biāo)等生理指標(biāo)與血壓相關(guān)[16]。而手術(shù)技巧,機(jī)械通氣,用藥這些外部因素也會(huì)引起生理數(shù)據(jù)的變化,成為風(fēng)險(xiǎn)事件發(fā)生的信號(hào),意味著各生理序列之間交互關(guān)系是動(dòng)態(tài)變化的。自注意力機(jī)制作為Transformer 的核心構(gòu)建模塊,主要學(xué)習(xí)序列在時(shí)間維度上的依賴關(guān)系,并沒有顯式地對通道之間的依賴關(guān)系建模,在血壓預(yù)測任務(wù)中限制了多生理序列輸入的預(yù)測能力。擠壓激勵(lì)塊[17](Squeeze-and-Excitation Block,SE_Block)圖像分類任務(wù)中取得成效,受此啟發(fā),本文提出了一種應(yīng)用于時(shí)序數(shù)據(jù)通道自適應(yīng)模塊,如圖3,把SE_Block嵌入到每個(gè)卷積注意力層之后,作為注意力機(jī)制的補(bǔ)充,以進(jìn)一步提高模型對通道重要性的建模能力。
圖3 通道自適應(yīng)模塊
具體來說,經(jīng)過卷積注意力層后的輸出為O?RL×dmodel,O包含了在序列時(shí)間維度上的相關(guān)信息,為了進(jìn)一步提取通道關(guān)聯(lián)性,先聚合時(shí)間維度上的信息,如式(2)所示:
oc表示O的第c個(gè)通道,zc代表聚合時(shí)間維度后第c個(gè)通道的平均值。式(2)表示對oc在時(shí)間維度上進(jìn)行全局平均池化,即通過對序列長度L的所有時(shí)間步i進(jìn)行求和,并除以L,將通道oc匯聚到一個(gè)標(biāo)量值,在聚合時(shí)間信息得到通道平均值z后,下一步旨在捕獲通道之間的依賴性,如式(3)所示。
經(jīng)過卷積注意力層的ProbSparse Self-attention機(jī)制會(huì)導(dǎo)致特征圖具有冗余值,因此使用自注意力蒸餾層[7]來提取主導(dǎo)特征,同時(shí)削減了輸入的時(shí)間維度,減少了內(nèi)存的使用量,其定義如下:
[?]cs包含卷積注意力層和通道自適應(yīng)模塊的操作。ELU(?)為激活函數(shù),對輸入特征圖進(jìn)行一維卷積和最大池化操作來聚焦特征圖,并從編碼器的j層傳遞到j(luò)+1層。
在預(yù)測目標(biāo)序列時(shí)選擇均方誤差(Mean Square Error,MSE)作為損失函數(shù),Yi和Y?i分別為真實(shí)值和預(yù)測值,損失函數(shù)定義如下:
3.1.1 數(shù)據(jù)介紹
數(shù)據(jù)描述如表1 所示,數(shù)據(jù)集來源于某三級甲等醫(yī)院通過監(jiān)護(hù)儀采集的術(shù)中生理監(jiān)護(hù)數(shù)據(jù),共150 臺(tái)手術(shù),包含58 種指標(biāo),在本研究將無創(chuàng)血壓作為預(yù)測目標(biāo),為了提高普適性,僅選取了大多數(shù)手術(shù)監(jiān)測常見的11 種生理指標(biāo),其中包括無創(chuàng)血壓在內(nèi),采集頻率均為1s。
表1 數(shù)據(jù)介紹
3.1.2 數(shù)據(jù)預(yù)處理
數(shù)據(jù)下采樣:原始數(shù)據(jù)采集頻率為每秒一次,因此一次手術(shù)過程可能會(huì)有幾萬個(gè)數(shù)據(jù)點(diǎn),數(shù)據(jù)冗余的同時(shí)對于模型計(jì)算十分耗時(shí)。進(jìn)行初步實(shí)驗(yàn)后,本研究對數(shù)據(jù)進(jìn)行下采樣為每5s 一個(gè)值,即每隔5s 取一個(gè)點(diǎn),避免過多信息損失的同時(shí),能夠平滑噪聲以及降低數(shù)據(jù)量。
缺失值處理:數(shù)據(jù)部分缺失值用線性插值法填充。
樣本劃分:使用常見的滑動(dòng)窗口技術(shù)構(gòu)建樣本,首先將所有手術(shù)截取出平穩(wěn)期的數(shù)據(jù),并使用滑動(dòng)窗口對連續(xù)時(shí)間的數(shù)據(jù)劃分為固定長度的數(shù)據(jù)塊來創(chuàng)造樣本集。如圖4 所示,滑動(dòng)窗口向后滑動(dòng),每個(gè)新的數(shù)據(jù)塊由前一個(gè)數(shù)據(jù)塊向后移s個(gè)步長所得。滑動(dòng)窗口由回溯窗口和預(yù)測窗口兩個(gè)部分組成,回溯窗口用于輸入,包含用于預(yù)測的歷史生理序列數(shù)據(jù),而預(yù)測窗口對應(yīng)于預(yù)測的血壓序列數(shù)據(jù)。
圖4 樣本劃分
預(yù)測值的誤差衡量采用平均絕對誤差(Mean Absolute Error,MAE)和均方根誤差(Root Mean Square Error,RMSE),MAE(見式(9))用于評估模型預(yù)測結(jié)果與真實(shí)值之間的誤差絕對值,RMSE(見式(8))則加大了對異常值的懲罰,兩者越小越好。此外使用相關(guān)系數(shù)(Correlation,CORR)(見式(10))來評估真實(shí)序列和預(yù)測序列的線性相關(guān)度,CORR的取值范圍在-1~1 之間,代表序列之間的負(fù)相關(guān)性和正相關(guān)性,當(dāng)CORR越接近1時(shí),相關(guān)性越強(qiáng)。
3.3.1 實(shí)驗(yàn)對比設(shè)置
在術(shù)中血壓預(yù)測任務(wù)上,實(shí)驗(yàn)設(shè)置預(yù)測未來5min、10min、15min,對應(yīng)的預(yù)測時(shí)間步為60、120、180、三個(gè)預(yù)測范圍進(jìn)行對比實(shí)驗(yàn),5min 為目前大多數(shù)低血壓預(yù)測任務(wù)設(shè)置的基準(zhǔn),臨床醫(yī)生能夠在這個(gè)窗口期根據(jù)預(yù)測結(jié)果及時(shí)采取措施,10min、15min 則是在允許誤差的范圍內(nèi)去評估模型長序列預(yù)測的效果,為臨床提供更多的決策時(shí)間,所有實(shí)驗(yàn)均采用5 折交叉驗(yàn)證,最終結(jié)果取平均值。時(shí)間窗口的大小很大程度影響預(yù)測效果,可視為超參數(shù),在進(jìn)行模型對比實(shí)驗(yàn)時(shí),均設(shè)置為預(yù)測長度的3倍。
3.3.2 參數(shù)設(shè)置
模型訓(xùn)練使用初始學(xué)習(xí)率為10-4的Adam 優(yōu)化器,批量大小為64,最大訓(xùn)練輪次設(shè)置為100,并使用早停機(jī)制。
CACformer 模型參數(shù)經(jīng)實(shí)驗(yàn)調(diào)整,卷積注意力的卷積核大小設(shè)置為3,通道自適應(yīng)模塊中r的設(shè)置為4,模型隱層維度為512,編碼器層數(shù)為2,解碼器層數(shù)為1,dropout設(shè)置為0.05。
3.3.3 對比模型
為了驗(yàn)證CACformer 的有效性,使用下面當(dāng)前5種先進(jìn)時(shí)序預(yù)測模型對比。
LSTNet[18],一種CNN+GRU 結(jié)構(gòu)的模型,是深度學(xué)習(xí)模型在時(shí)序預(yù)測中重要的基線,可作為一種自回歸結(jié)構(gòu)預(yù)測模型的代表。
Patch_TST[14],一種最新的利用通道獨(dú)立補(bǔ)丁技術(shù)的Transformer模型。Dlinear[19],一種多變量時(shí)序預(yù)測的線性模型。Autoformer[12],一 種 基 于 時(shí) 序 分 解 架 構(gòu) 的Transformer模型,可作為時(shí)序分解預(yù)測的代表。
最后Informer 作為本方法改進(jìn)前的基線,通過選擇以上模型進(jìn)行對比,能夠充分驗(yàn)證CACformer在術(shù)中血壓預(yù)測任務(wù)上的有效性。
3.4.1 模型對比分析
通過將不同模型在設(shè)置預(yù)測長度分別為5min、10min、15min 作對比(見表2),用舒張壓、平均動(dòng)脈壓、收縮壓、三者預(yù)測的平均誤差指標(biāo)作為結(jié)果,本文提出的方法在三個(gè)指標(biāo)上均表現(xiàn)最優(yōu)。此外,相較于Informer 的MAE 分別降低了4.88%、8.2%、8.42%。
表2 模型對比結(jié)果
同時(shí)圖5 展示了各模型在預(yù)測長度為10min(120 個(gè)時(shí)間步),平均動(dòng)脈壓的預(yù)測效果對比圖,可以觀察出,本文的模型對于血壓的上升、平穩(wěn)、下降趨勢都能很好地捕捉,并且顯著優(yōu)于其他對比模型。
圖5 預(yù)測效果可視化對比
3.4.2 預(yù)測結(jié)果分析
表3 為本文模型在分別三個(gè)血壓的誤差指標(biāo),例如預(yù)測5min預(yù)測的平均動(dòng)脈壓MAE為2.997,一部分研究將MAP 小于65mmHg 作為低血壓的發(fā)生的閾值,意味著如果實(shí)際血壓值為65mmHg 時(shí),本文模型的預(yù)測結(jié)果可能在62mmHg 到68mmHg 之間,然而在極端情況可能會(huì)導(dǎo)致兩種相反的管理方式,當(dāng)預(yù)測值為62mmHg,醫(yī)生可能會(huì)尋找低血壓的原因進(jìn)行干預(yù),而當(dāng)預(yù)測值為68mmHg 時(shí),醫(yī)生可能只會(huì)觀察血壓而不采取任何措施。在這種模糊地帶,預(yù)測結(jié)果可能很難為醫(yī)生提供有效幫助,但至少大部分情況,這個(gè)誤差范圍對于臨床醫(yī)生在術(shù)中麻醉期間的輔助決策是有重要意義的。
圖6 顯示了三個(gè)血壓真實(shí)值和預(yù)測值的Bland-Altman 圖,其中TBP 和PBP 分別表示真實(shí)血壓和預(yù)測血壓,首先我們觀察到大多數(shù)據(jù)點(diǎn)分布在平均差異線的上下限內(nèi)(95%置信區(qū)間),較少的數(shù)據(jù)點(diǎn)超出上下限,說明所提出的術(shù)中血壓預(yù)測模型在整體上展現(xiàn)出較高的可靠性。此外,可以觀察到圖中數(shù)據(jù)點(diǎn)呈現(xiàn)出帶狀分布的趨勢,這種分布模式表明預(yù)測誤差在不同血壓值范圍內(nèi)可能存在一定的系統(tǒng)性差異。這可能與術(shù)中生理變化和血壓波動(dòng)模式有關(guān),對于血壓預(yù)測模型的進(jìn)一步改進(jìn),可以考慮這種系統(tǒng)性差異,并針對不同血壓范圍進(jìn)行模型的調(diào)整和優(yōu)化。同時(shí)也要注意到一些超出上下限的數(shù)據(jù)點(diǎn),這可能是由于特定的個(gè)體差異、噪聲數(shù)據(jù)或其他未知因素導(dǎo)致的。因此在實(shí)際應(yīng)用中,仍然需要謹(jǐn)慎解釋和使用預(yù)測結(jié)果,并結(jié)合其他臨床指標(biāo)和專業(yè)知識(shí)進(jìn)行綜合評估和決策。
3.4.3 消融實(shí)驗(yàn)
為研究通道自適應(yīng)模塊和卷積注意力機(jī)制對血壓預(yù)測的影響,本文設(shè)計(jì)了消融實(shí)驗(yàn),如表4 所示,CACformer 為本文模型,Informer+c 代表用卷積注意力替換原始的規(guī)范注意力,Informer+s 代表添加通道自適應(yīng)模塊,Informer則是未改進(jìn)的模型。
表4 消融實(shí)驗(yàn)結(jié)果
經(jīng)觀察表4,在用卷積注意力代替規(guī)范注意力后,MAE 降低了2.42%,這表明卷積注意力引入的局部性進(jìn)行注意力提取來關(guān)注序列的局部相似性,能夠在一定程度上提升模型的預(yù)測性能。此外,僅加入通道自適應(yīng)模塊,MAE 降低了6.98%,表明通過建模通道維度的重要程度,從而增強(qiáng)模型對多通道生理序列的深層交互關(guān)系的捕捉,能夠有效增強(qiáng)模型的預(yù)測能力。
本文提出了一種通道自適應(yīng)與局部增強(qiáng)Transformer模型,通過生理監(jiān)護(hù)數(shù)據(jù)對術(shù)中血壓實(shí)時(shí)預(yù)測。該模型考慮了血壓序列的特點(diǎn),引入卷積注意力機(jī)制有效捕捉血壓的局部性相關(guān)性。此外,針對多個(gè)生理時(shí)序輸入通道間潛在關(guān)聯(lián)建模的不足問題,還提出了通道自適應(yīng)模塊嵌入模型來進(jìn)一步提高了的血壓預(yù)測的準(zhǔn)確度。實(shí)驗(yàn)結(jié)果表明,所提出的模型在術(shù)中血壓預(yù)測的任務(wù)上顯著優(yōu)于對比模型,通過消融實(shí)驗(yàn)驗(yàn)證了卷積注意力和通道自適應(yīng)模塊在血壓預(yù)測任務(wù)上的有效性。為醫(yī)學(xué)時(shí)間序列領(lǐng)域提供了新的思路和方法,具有重要的理論價(jià)值和實(shí)際應(yīng)用價(jià)值。未來的工作將集中在收集更多的數(shù)據(jù),并進(jìn)行實(shí)驗(yàn)和臨床應(yīng)用驗(yàn)證,更加全面地評估該模型在臨床實(shí)踐中的性能,為術(shù)中血壓管理提供更可靠的預(yù)測和干預(yù)策略。