一種通道自適應(yīng)與局部增強(qiáng)的Transformer術(shù)中血壓預(yù)測方法?

王 塵 蔡晶晶 郝學(xué)超 張偉義 舒紅平 王亞強(qiáng) 陳 果

（1.成都信息工程大學(xué)軟件工程學(xué)院 成都 610225）（2.成都信息工程大學(xué)數(shù)據(jù)科學(xué)與工程研究所 成都 610225）（3.成都信息工程大學(xué)軟件自動生成與智能服務(wù)實(shí)驗(yàn)室 成都 610225）（4.四川大學(xué)華西醫(yī)院麻醉手術(shù)中心 成都 610044）

1 引言

由于術(shù)后并發(fā)癥導(dǎo)致的非心臟手術(shù)患者的術(shù)后30 天死亡是全球第三大死亡原因，據(jù)統(tǒng)計約有2%的住院非心臟手術(shù)患者在術(shù)后第一個月內(nèi)死亡［1］。而術(shù)中低血壓（Intraoperative Hypotension，IH）事件的發(fā)生是導(dǎo)致術(shù)后并發(fā)癥的重要因素［2］。目前對于IH 的治療大多依靠醫(yī)生的經(jīng)驗(yàn)進(jìn)行判斷和干預(yù)，并且經(jīng)常發(fā)生一些延遲。因此，若夠提前預(yù)測患者的血壓狀態(tài)，可以實(shí)現(xiàn)早期的干預(yù)，例如調(diào)整麻醉劑、液體和血管活性藥物，從而減少IH 對患者傷害［3］，具有重要研究意義和實(shí)際應(yīng)用價值。

IH 的預(yù)測是圍術(shù)期人工智能的研究熱點(diǎn)問題之一，現(xiàn)有的IH 預(yù)測研究主要集中在事件的預(yù)測，即利用術(shù)中實(shí)時監(jiān)測的生理數(shù)據(jù)預(yù)測IH 在未來5min、10min、15min 是否會發(fā)生。Hatib 等［9］利用術(shù)中監(jiān)測的動脈壓波形數(shù)據(jù)，將IH 的預(yù)測定義為二分類問題。然而，一方面由于臨床IH 的定義存在差異，導(dǎo)致這些方法存在普適性不足的問題。另一方面僅僅依靠分類結(jié)果，沒有考慮患者血壓發(fā)展變化的過程，進(jìn)而限制了干預(yù)策略的制定，因?yàn)橥ǔＢ樽磲t(yī)生在判斷主動給予液體、血管加壓藥或肌力藥物時，是基于一定時間范圍內(nèi)的臨床證據(jù)。因此提前預(yù)測血壓的變化和趨勢，具有更重要的臨床研究和應(yīng)用價值。當(dāng)前一些研究開始使用深度學(xué)習(xí)技術(shù)對術(shù)中血壓的連續(xù)值進(jìn)行實(shí)時預(yù)測，Jeong等［4］使用循環(huán)神經(jīng)網(wǎng)絡(luò)實(shí)時預(yù)測未來3min 的血壓，初步驗(yàn)證了實(shí)時預(yù)測術(shù)中血壓的可行性，但僅限于短期預(yù)測。Lee等［5］使用卷積神經(jīng)網(wǎng)絡(luò)建立了回歸任務(wù)來預(yù)測未來5min、10min、15min 的術(shù)中血壓值，但精準(zhǔn)度仍有待提升。鑒于高精度，長范圍的預(yù)測血壓序列是一項(xiàng)挑戰(zhàn)，同時長序列的預(yù)測也是時間序列預(yù)測領(lǐng)域相對忽視的問題，因此當(dāng)前對于術(shù)中血壓實(shí)時預(yù)測的探索尚不充分。

近年來，基于深度學(xué)習(xí)的時間序列預(yù)測模型取得很大進(jìn)展，尤其是基于Transformer 模型，受益于注意力機(jī)制，Transformer在序列數(shù)據(jù)的長期依賴關(guān)系建模方面獲得了巨大優(yōu)勢［6］。先前的一些研究如Zhou 等［7］提出的Informer 采用了稀疏注意力算法以降低注意力機(jī)制的復(fù)雜度，并在各類時序預(yù)測任務(wù)有優(yōu)異表現(xiàn)。然而，在血壓序列預(yù)測任務(wù)中僅使用規(guī)范的注意力機(jī)制來捕捉序列內(nèi)部的重要信息，忽視了血壓序列中的局部特征的提取以及多生理序列之間的依賴關(guān)系建模。針對上述問題，本文在前人工作Informer 的框架上，設(shè)計了相應(yīng)的改進(jìn)策略，提出名為CACformer 的通道自適應(yīng)與局部增強(qiáng)Transformer模型，通過術(shù)中多項(xiàng)生理序列來實(shí)時預(yù)測術(shù)中血壓，主要貢獻(xiàn)如下：

以往的術(shù)中血壓預(yù)測方法存在預(yù)測長度短，精準(zhǔn)度不高的問題。針對這一挑戰(zhàn)，本文提出了一種基于Transformer 的術(shù)中血壓預(yù)測方法，利用Transformer 的長序列建模的優(yōu)勢，能夠更準(zhǔn)確地捕捉術(shù)中血壓的動態(tài)變化，并實(shí)時預(yù)測未來的血壓變化趨勢。

針對血壓序列中存在相似節(jié)律的特點(diǎn)，引入了局部增強(qiáng)的卷積注意力機(jī)制，取代了原始的規(guī)范注意力機(jī)制，使其在捕捉長序列依賴的同時，引局部時間相關(guān)性和趨勢性，從而更加準(zhǔn)確地預(yù)測術(shù)中血壓變化。

考慮到血壓的變化受益于多個生理序列的信息，同時生理序列之間存在復(fù)雜的交互關(guān)系。本文提出了一種通道自適應(yīng)模塊嵌入模型中，該模塊能夠自適應(yīng)地學(xué)習(xí)不同通道之間的權(quán)重，增強(qiáng)模型對于多通道輸入的通道間關(guān)系的建模能力，更好地利用多個生理序列的信息，提高血壓預(yù)測的準(zhǔn)確度。

實(shí)驗(yàn)結(jié)果表明，本文提出的CACformer 在術(shù)中血壓預(yù)測上優(yōu)于目前先進(jìn)的時間序列預(yù)測模型，相比于改進(jìn)前的基準(zhǔn)模型在5min、10min、15min 預(yù)測精度分別提升4.88%、8.2%、8.42%，平均絕對誤差達(dá)到2.997、3.393、3.743，能夠更準(zhǔn)確地預(yù)測術(shù)中血壓的變化。此外，通過可視化分析表明預(yù)測結(jié)果的穩(wěn)定性，并進(jìn)一步通過消融實(shí)驗(yàn)驗(yàn)證了改進(jìn)模塊對于血壓預(yù)測的有效性。

2 相關(guān)工作

2.1 術(shù)中低血壓

當(dāng)前許多研究致力于通過機(jī)器學(xué)習(xí)技術(shù)預(yù)測IH，Kendale 等［8］開發(fā)了用于預(yù)測全身麻醉后誘導(dǎo)性血壓發(fā)生的機(jī)器學(xué)習(xí)算法，該算法涉及特征復(fù)雜，無法實(shí)現(xiàn)IH 的實(shí)時預(yù)測。Hatib 等［9］從術(shù)中動脈波形中提取出數(shù)千個組合特征，并使用邏輯回歸方法來實(shí)時預(yù)測IH，但僅使用動脈波形作為單一數(shù)據(jù)源。上述機(jī)器學(xué)習(xí)方法需要基于領(lǐng)域知識人工提取特征，深度學(xué)習(xí)的作為機(jī)器學(xué)習(xí)的分支彌補(bǔ)了這一缺陷。Lee等［5］使用卷積神經(jīng)網(wǎng)絡(luò)用多個波形信號進(jìn)行實(shí)時的預(yù)測IH，并取得了的不錯的效果。

以往研究都是把IH 預(yù)測當(dāng)作分類任務(wù)，既根據(jù)特定閾值劃分出樣本來預(yù)測IH 是否會發(fā)生，然而臨床IH 的定義仍存在爭議。Bijker 等［10］在審查了130 篇文章后，確定了140 個IH 定義，這些不同的定義會導(dǎo)致不同的IH 發(fā)生率。最近，Weinberg等［11］的一項(xiàng)IH 定義研究表明，在接受非心臟手術(shù)的人中，IH 主要由收縮壓（Systolic Arterial Pressure，SAP），平均動脈壓（Mean Arterial Pressure，MAP）或兩者的組合的變化來定義，大多數(shù)研究報告MAP < 60 mmHg 或SAP < 90 mmHg 作為IH 發(fā)生的絕對閾值，部分相對閾值的定義則是MAP 或SAP 較基線下降百分比（10%～60%）作為標(biāo)準(zhǔn)。

近年來，一些初步的研究開始關(guān)注術(shù)中血壓連續(xù)值的預(yù)測，并嘗試用深度學(xué)習(xí)模型建立實(shí)時血壓預(yù)測模型。Jeong 等［4］使用循環(huán)神經(jīng)網(wǎng)絡(luò)通過監(jiān)護(hù)的生命體征數(shù)據(jù)來實(shí)時預(yù)測未來3min 的血壓，但僅限于短期預(yù)測。Lee等［5］使用卷積神經(jīng)網(wǎng)絡(luò)分別建立回歸與分類模型比較，并認(rèn)為通過回歸任務(wù)預(yù)測血壓值更具臨床適用性。因此在本研究中，將致力于填補(bǔ)實(shí)時術(shù)中血壓預(yù)測領(lǐng)域的研究空白，旨在開發(fā)一種創(chuàng)新的方法，能夠準(zhǔn)確、實(shí)時地預(yù)測術(shù)中血壓的變化。

2.2 基于Transformer的時間序列預(yù)測模型

當(dāng)前Transformer 的許多變體被提出來解決時間序列預(yù)測中的特殊挑戰(zhàn)，Zhou等［7］研究的Informer 提出了一種稀疏注意力和蒸餾技術(shù)來提取最重要的鍵。Wu 等［12］研究的Autoformer 借鑒了傳統(tǒng)時間序列分析方法的分解和自相關(guān)思想，在周期性的數(shù)據(jù)上的預(yù)測效果有顯著提升。FEDformer［13］使用傅立葉增強(qiáng)結(jié)構(gòu)來獲得線性復(fù)雜度。Nie等［14］提出的Patch_TST，利用通道獨(dú)立補(bǔ)丁操作來降低模型的計算的時空復(fù)雜度。這些模型大多側(cè)重于設(shè)計新穎的機(jī)制以降低原始注意機(jī)制的復(fù)雜性，從而在預(yù)測上取得更好的性能。但原始注意力機(jī)制是從時間維度上提取重要信息，忽略了時序通道維度之間的潛在關(guān)聯(lián)，同時大多數(shù)使用的逐點(diǎn)注意力，來關(guān)注全局的信息，忽略了局部的特征重要性，本文提出的CACformer 模型則針對以上問題進(jìn)行優(yōu)化，充分利用生理序列的有效特征，達(dá)到提高的預(yù)測精度的目的。

2.3 任務(wù)定義

2.4 模型架構(gòu)

本文提出的CACformer 架構(gòu)如圖1 所示，采用原始的編碼器、解碼器架構(gòu)，主要包含卷積注意力層、標(biāo)準(zhǔn)化層、通道自適應(yīng)模塊、自注意力蒸餾層。編碼器輸入Xt，經(jīng)過位置編碼，將序列的位置信息融入，注意力層采用卷積注意力機(jī)制［15］，增強(qiáng)序列局部特征的提取。為了降低注意力機(jī)制復(fù)雜度，利用了Informer 的稀疏自注意力策略［7］（ProbSparse Self-attention），提取卷積注意力機(jī)制中重要的查詢和鍵，將注意力機(jī)制的時空復(fù)雜度縮減到O（LlogL），每一個注意力層后嵌入通道自適應(yīng)模塊進(jìn)一步提取通道維度的依賴關(guān)系。最后通過自注意力蒸餾層［7］，消除特征圖的冗余值，進(jìn)一步縮減輸入的時間維度的同時讓模型更加關(guān)注主導(dǎo)特征。

圖1 CACformer模型架構(gòu)

2.5 卷積注意力層

規(guī)范注意力機(jī)制是對時間序列進(jìn)行逐點(diǎn)運(yùn)算，旨在提取不同序列點(diǎn)之間的相關(guān)程度來提取序列內(nèi)的重要信息，而對于細(xì)粒度采集的生理數(shù)據(jù)，單個序列的值不像文本具有重要的語義信息，因此提取局部信息十分重要。

從數(shù)據(jù)中截取的血壓序列的片段如圖2（a）所示，血壓序列中存在明顯的局部相似性，即不同時刻存在相似節(jié)律。為了引入序列中的局部信息以更好地捕捉時間相關(guān)性、趨勢性和異常情況，采用一種卷積注意力機(jī)制，如圖2（b）。在卷積注意力層中，多頭注意力子層將隱層H?RLx×dmodel分別轉(zhuǎn)化為h個不同的查詢矩陣Qh、關(guān)鍵矩陣Kh、值矩陣Vh。Qh、Kh的轉(zhuǎn)化方式使用內(nèi)核大小為k，步幅為1 的一維卷積構(gòu)造（使用0 進(jìn)行適當(dāng)填充維持維度大小），即，而Vh使用卷積核大小為1構(gòu)造，Vh=，其等同于線性變換。W為參數(shù)矩陣，。這樣生成的Qh和Kh可以通過局部的上下文信息計算相似性而不是逐點(diǎn)值，從而更好的捕捉血壓中的相似節(jié)律。其次，在對序列進(jìn)行注意力計算時，只有部分點(diǎn)積對貢獻(xiàn)主要注意力，而其他點(diǎn)積對產(chǎn)生微不足道的注意力，因此采用ProbSparse Self-attention 來提取重要的Qˉ，公式如下：

圖2 血壓的局部特征捕獲

2.6 通道自適應(yīng)模塊

心率、灌注指數(shù)、呼吸指標(biāo)等生理指標(biāo)與血壓相關(guān)［16］。而手術(shù)技巧，機(jī)械通氣，用藥這些外部因素也會引起生理數(shù)據(jù)的變化，成為風(fēng)險事件發(fā)生的信號，意味著各生理序列之間交互關(guān)系是動態(tài)變化的。自注意力機(jī)制作為Transformer 的核心構(gòu)建模塊，主要學(xué)習(xí)序列在時間維度上的依賴關(guān)系，并沒有顯式地對通道之間的依賴關(guān)系建模，在血壓預(yù)測任務(wù)中限制了多生理序列輸入的預(yù)測能力。擠壓激勵塊［17］（Squeeze-and-Excitation Block，SE_Block）圖像分類任務(wù)中取得成效，受此啟發(fā)，本文提出了一種應(yīng)用于時序數(shù)據(jù)通道自適應(yīng)模塊，如圖3，把SE_Block嵌入到每個卷積注意力層之后，作為注意力機(jī)制的補(bǔ)充，以進(jìn)一步提高模型對通道重要性的建模能力。

圖3 通道自適應(yīng)模塊

具體來說，經(jīng)過卷積注意力層后的輸出為O?RL×dmodel，O包含了在序列時間維度上的相關(guān)信息，為了進(jìn)一步提取通道關(guān)聯(lián)性，先聚合時間維度上的信息，如式（2）所示：

oc表示O的第c個通道，zc代表聚合時間維度后第c個通道的平均值。式（2）表示對oc在時間維度上進(jìn)行全局平均池化，即通過對序列長度L的所有時間步i進(jìn)行求和，并除以L，將通道oc匯聚到一個標(biāo)量值，在聚合時間信息得到通道平均值z后，下一步旨在捕獲通道之間的依賴性，如式（3）所示。

2.7 自注意力蒸餾層

經(jīng)過卷積注意力層的ProbSparse Self-attention機(jī)制會導(dǎo)致特征圖具有冗余值，因此使用自注意力蒸餾層［7］來提取主導(dǎo)特征，同時削減了輸入的時間維度，減少了內(nèi)存的使用量，其定義如下：

[?]cs包含卷積注意力層和通道自適應(yīng)模塊的操作。ELU(?)為激活函數(shù)，對輸入特征圖進(jìn)行一維卷積和最大池化操作來聚焦特征圖，并從編碼器的j層傳遞到j(luò)+1層。

2.8 生成式預(yù)測

2.9 損失函數(shù)

在預(yù)測目標(biāo)序列時選擇均方誤差（Mean Square Error，MSE）作為損失函數(shù)，Yi和Y?i分別為真實(shí)值和預(yù)測值，損失函數(shù)定義如下：

3 實(shí)驗(yàn)結(jié)果及其分析

3.1 實(shí)驗(yàn)數(shù)據(jù)

3.1.1 數(shù)據(jù)介紹

數(shù)據(jù)描述如表1 所示，數(shù)據(jù)集來源于某三級甲等醫(yī)院通過監(jiān)護(hù)儀采集的術(shù)中生理監(jiān)護(hù)數(shù)據(jù)，共150 臺手術(shù)，包含58 種指標(biāo)，在本研究將無創(chuàng)血壓作為預(yù)測目標(biāo)，為了提高普適性，僅選取了大多數(shù)手術(shù)監(jiān)測常見的11 種生理指標(biāo)，其中包括無創(chuàng)血壓在內(nèi)，采集頻率均為1s。

表1 數(shù)據(jù)介紹

3.1.2 數(shù)據(jù)預(yù)處理

數(shù)據(jù)下采樣：原始數(shù)據(jù)采集頻率為每秒一次，因此一次手術(shù)過程可能會有幾萬個數(shù)據(jù)點(diǎn)，數(shù)據(jù)冗余的同時對于模型計算十分耗時。進(jìn)行初步實(shí)驗(yàn)后，本研究對數(shù)據(jù)進(jìn)行下采樣為每5s 一個值，即每隔5s 取一個點(diǎn)，避免過多信息損失的同時，能夠平滑噪聲以及降低數(shù)據(jù)量。

缺失值處理：數(shù)據(jù)部分缺失值用線性插值法填充。

樣本劃分：使用常見的滑動窗口技術(shù)構(gòu)建樣本，首先將所有手術(shù)截取出平穩(wěn)期的數(shù)據(jù)，并使用滑動窗口對連續(xù)時間的數(shù)據(jù)劃分為固定長度的數(shù)據(jù)塊來創(chuàng)造樣本集。如圖4 所示，滑動窗口向后滑動，每個新的數(shù)據(jù)塊由前一個數(shù)據(jù)塊向后移s個步長所得。滑動窗口由回溯窗口和預(yù)測窗口兩個部分組成，回溯窗口用于輸入，包含用于預(yù)測的歷史生理序列數(shù)據(jù)，而預(yù)測窗口對應(yīng)于預(yù)測的血壓序列數(shù)據(jù)。

圖4 樣本劃分

3.2 評估指標(biāo)

預(yù)測值的誤差衡量采用平均絕對誤差（Mean Absolute Error，MAE）和均方根誤差（Root Mean Square Error，RMSE），MAE（見式（9））用于評估模型預(yù)測結(jié)果與真實(shí)值之間的誤差絕對值，RMSE（見式（8））則加大了對異常值的懲罰，兩者越小越好。此外使用相關(guān)系數(shù)（Correlation，CORR）（見式（10））來評估真實(shí)序列和預(yù)測序列的線性相關(guān)度，CORR的取值范圍在-1～1 之間，代表序列之間的負(fù)相關(guān)性和正相關(guān)性，當(dāng)CORR越接近1時，相關(guān)性越強(qiáng)。

3.3 實(shí)驗(yàn)設(shè)置

3.3.1 實(shí)驗(yàn)對比設(shè)置

在術(shù)中血壓預(yù)測任務(wù)上，實(shí)驗(yàn)設(shè)置預(yù)測未來5min、10min、15min，對應(yīng)的預(yù)測時間步為60、120、180、三個預(yù)測范圍進(jìn)行對比實(shí)驗(yàn)，5min 為目前大多數(shù)低血壓預(yù)測任務(wù)設(shè)置的基準(zhǔn)，臨床醫(yī)生能夠在這個窗口期根據(jù)預(yù)測結(jié)果及時采取措施，10min、15min 則是在允許誤差的范圍內(nèi)去評估模型長序列預(yù)測的效果，為臨床提供更多的決策時間，所有實(shí)驗(yàn)均采用5 折交叉驗(yàn)證，最終結(jié)果取平均值。時間窗口的大小很大程度影響預(yù)測效果，可視為超參數(shù)，在進(jìn)行模型對比實(shí)驗(yàn)時，均設(shè)置為預(yù)測長度的3倍。

3.3.2 參數(shù)設(shè)置

模型訓(xùn)練使用初始學(xué)習(xí)率為10-4的Adam 優(yōu)化器，批量大小為64，最大訓(xùn)練輪次設(shè)置為100，并使用早停機(jī)制。

CACformer 模型參數(shù)經(jīng)實(shí)驗(yàn)調(diào)整，卷積注意力的卷積核大小設(shè)置為3，通道自適應(yīng)模塊中r的設(shè)置為4，模型隱層維度為512，編碼器層數(shù)為2，解碼器層數(shù)為1，dropout設(shè)置為0.05。

3.3.3 對比模型

為了驗(yàn)證CACformer 的有效性，使用下面當(dāng)前5種先進(jìn)時序預(yù)測模型對比。

LSTNet［18］，一種CNN+GRU 結(jié)構(gòu)的模型，是深度學(xué)習(xí)模型在時序預(yù)測中重要的基線，可作為一種自回歸結(jié)構(gòu)預(yù)測模型的代表。

Patch_TST［14］，一種最新的利用通道獨(dú)立補(bǔ)丁技術(shù)的Transformer模型。Dlinear［19］，一種多變量時序預(yù)測的線性模型。Autoformer［12］，一 種 基 于 時 序 分 解 架 構(gòu) 的Transformer模型，可作為時序分解預(yù)測的代表。

最后Informer 作為本方法改進(jìn)前的基線，通過選擇以上模型進(jìn)行對比，能夠充分驗(yàn)證CACformer在術(shù)中血壓預(yù)測任務(wù)上的有效性。

3.4 實(shí)驗(yàn)結(jié)果及其分析

3.4.1 模型對比分析

通過將不同模型在設(shè)置預(yù)測長度分別為5min、10min、15min 作對比（見表2），用舒張壓、平均動脈壓、收縮壓、三者預(yù)測的平均誤差指標(biāo)作為結(jié)果，本文提出的方法在三個指標(biāo)上均表現(xiàn)最優(yōu)。此外，相較于Informer 的MAE 分別降低了4.88%、8.2%、8.42%。

表2 模型對比結(jié)果

同時圖5 展示了各模型在預(yù)測長度為10min（120 個時間步），平均動脈壓的預(yù)測效果對比圖，可以觀察出，本文的模型對于血壓的上升、平穩(wěn)、下降趨勢都能很好地捕捉，并且顯著優(yōu)于其他對比模型。

圖5 預(yù)測效果可視化對比

3.4.2 預(yù)測結(jié)果分析

表3 為本文模型在分別三個血壓的誤差指標(biāo)，例如預(yù)測5min預(yù)測的平均動脈壓MAE為2.997，一部分研究將MAP 小于65mmHg 作為低血壓的發(fā)生的閾值，意味著如果實(shí)際血壓值為65mmHg 時，本文模型的預(yù)測結(jié)果可能在62mmHg 到68mmHg 之間，然而在極端情況可能會導(dǎo)致兩種相反的管理方式，當(dāng)預(yù)測值為62mmHg，醫(yī)生可能會尋找低血壓的原因進(jìn)行干預(yù)，而當(dāng)預(yù)測值為68mmHg 時，醫(yī)生可能只會觀察血壓而不采取任何措施。在這種模糊地帶，預(yù)測結(jié)果可能很難為醫(yī)生提供有效幫助，但至少大部分情況，這個誤差范圍對于臨床醫(yī)生在術(shù)中麻醉期間的輔助決策是有重要意義的。

圖6 顯示了三個血壓真實(shí)值和預(yù)測值的Bland-Altman 圖，其中TBP 和PBP 分別表示真實(shí)血壓和預(yù)測血壓，首先我們觀察到大多數(shù)據(jù)點(diǎn)分布在平均差異線的上下限內(nèi)（95%置信區(qū)間），較少的數(shù)據(jù)點(diǎn)超出上下限，說明所提出的術(shù)中血壓預(yù)測模型在整體上展現(xiàn)出較高的可靠性。此外，可以觀察到圖中數(shù)據(jù)點(diǎn)呈現(xiàn)出帶狀分布的趨勢，這種分布模式表明預(yù)測誤差在不同血壓值范圍內(nèi)可能存在一定的系統(tǒng)性差異。這可能與術(shù)中生理變化和血壓波動模式有關(guān)，對于血壓預(yù)測模型的進(jìn)一步改進(jìn)，可以考慮這種系統(tǒng)性差異，并針對不同血壓范圍進(jìn)行模型的調(diào)整和優(yōu)化。同時也要注意到一些超出上下限的數(shù)據(jù)點(diǎn)，這可能是由于特定的個體差異、噪聲數(shù)據(jù)或其他未知因素導(dǎo)致的。因此在實(shí)際應(yīng)用中，仍然需要謹(jǐn)慎解釋和使用預(yù)測結(jié)果，并結(jié)合其他臨床指標(biāo)和專業(yè)知識進(jìn)行綜合評估和決策。

3.4.3 消融實(shí)驗(yàn)

為研究通道自適應(yīng)模塊和卷積注意力機(jī)制對血壓預(yù)測的影響，本文設(shè)計了消融實(shí)驗(yàn)，如表4 所示，CACformer 為本文模型，Informer+c 代表用卷積注意力替換原始的規(guī)范注意力，Informer+s 代表添加通道自適應(yīng)模塊，Informer則是未改進(jìn)的模型。

表4 消融實(shí)驗(yàn)結(jié)果

經(jīng)觀察表4，在用卷積注意力代替規(guī)范注意力后，MAE 降低了2.42%，這表明卷積注意力引入的局部性進(jìn)行注意力提取來關(guān)注序列的局部相似性，能夠在一定程度上提升模型的預(yù)測性能。此外，僅加入通道自適應(yīng)模塊，MAE 降低了6.98%，表明通過建模通道維度的重要程度，從而增強(qiáng)模型對多通道生理序列的深層交互關(guān)系的捕捉，能夠有效增強(qiáng)模型的預(yù)測能力。

4 結(jié)語

本文提出了一種通道自適應(yīng)與局部增強(qiáng)Transformer模型，通過生理監(jiān)護(hù)數(shù)據(jù)對術(shù)中血壓實(shí)時預(yù)測。該模型考慮了血壓序列的特點(diǎn)，引入卷積注意力機(jī)制有效捕捉血壓的局部性相關(guān)性。此外，針對多個生理時序輸入通道間潛在關(guān)聯(lián)建模的不足問題，還提出了通道自適應(yīng)模塊嵌入模型來進(jìn)一步提高了的血壓預(yù)測的準(zhǔn)確度。實(shí)驗(yàn)結(jié)果表明，所提出的模型在術(shù)中血壓預(yù)測的任務(wù)上顯著優(yōu)于對比模型，通過消融實(shí)驗(yàn)驗(yàn)證了卷積注意力和通道自適應(yīng)模塊在血壓預(yù)測任務(wù)上的有效性。為醫(yī)學(xué)時間序列領(lǐng)域提供了新的思路和方法，具有重要的理論價值和實(shí)際應(yīng)用價值。未來的工作將集中在收集更多的數(shù)據(jù)，并進(jìn)行實(shí)驗(yàn)和臨床應(yīng)用驗(yàn)證，更加全面地評估該模型在臨床實(shí)踐中的性能，為術(shù)中血壓管理提供更可靠的預(yù)測和干預(yù)策略。