
該論文發(fā)表在《Expert Systems With Applications》期刊 2024 年第 240 卷(計(jì)算機(jī)科學(xué)1區(qū),IF=7.5),題目為《SleePyCo: Automatic sleep scoring with feature pyramid and contrastive learning》。第一作者是韓國(guó)光州科學(xué)技術(shù)院(GIST)的 Seongju Lee 博士后研究員,通訊作者是 Kyoobin Lee 教授。
論文鏈接:https://doi.org/10.1016/j.eswa.2023.122551
代碼鏈接:https://github.com/gist-ailab/SleePyCo
論文概要
該研究的主要貢獻(xiàn)如下:
- 提出了一種名為 SleePyCo 的新型自動(dòng)睡眠分期框架,該框架結(jié)合了特征金字塔和有監(jiān)督對(duì)比學(xué)習(xí),用于自動(dòng)睡眠評(píng)分。
- 將特征金字塔整合到自動(dòng)睡眠分期中,并提出了 SleePyCo-backbone,以考慮原始單通道腦電圖中存在的不同時(shí)間和頻率尺度,從而提高睡眠階段之間的區(qū)分度。
- 通過(guò)對(duì)比分析表明,SleePyCo 在四個(gè)公共數(shù)據(jù)集上的性能優(yōu)于最先進(jìn)的框架。
研究背景
自動(dòng)睡眠分期對(duì)于睡眠障礙的診斷、治療以及實(shí)現(xiàn)家庭環(huán)境下的長(zhǎng)期睡眠監(jiān)測(cè)至關(guān)重要。多導(dǎo)睡眠圖(PSG)是睡眠評(píng)分的黃金標(biāo)準(zhǔn),包含多種生物信號(hào),睡眠專家會(huì)依據(jù)相關(guān)標(biāo)準(zhǔn)對(duì) PSG 數(shù)據(jù)的 20 或 30 秒片段(即 “epoch”)進(jìn)行睡眠階段劃分。
目前,基于單通道腦電圖(EEG)的自動(dòng)睡眠評(píng)分研究較為活躍,因?yàn)楂@取睡眠時(shí)的多通道信號(hào)存在困難。但從原始 EEG 信號(hào)中學(xué)習(xí)表征面臨著一些挑戰(zhàn):一是與睡眠相關(guān)的 EEG 模式會(huì)出現(xiàn)在不同的時(shí)間和頻率尺度上;二是不同睡眠階段的 EEG 模式存在相似性。這些問(wèn)題使得自動(dòng)睡眠分期的準(zhǔn)確性和有效性受到影響,亟需新的方法來(lái)解決。
研究方法
1. 模型架構(gòu)
SleePyCo 的架構(gòu)由三個(gè)主要組件構(gòu)成,整體設(shè)計(jì)考慮了 EEG 信號(hào)在不同時(shí)間和頻率尺度上的特征,以及睡眠階段間的區(qū)分性需求,具體結(jié)構(gòu)如圖1所示:

圖1 SleePyCo的整體結(jié)構(gòu)
- 骨干網(wǎng)絡(luò)(SleePyCo-backbone):包含 5 個(gè)卷積塊,每個(gè)塊由 1D 卷積層、批歸一化層和參數(shù)化 ReLU(PReLU)組成,并加入擠壓 - 激勵(lì)模塊(SE)增強(qiáng)特征選擇。通過(guò)最大池化層減少時(shí)間維度,最終輸出 3 個(gè)不同層級(jí)的特征序列(C?、C?、C?),覆蓋多尺度時(shí)間和頻率信息。
- 橫向連接(Lateral Connections):將骨干網(wǎng)絡(luò)輸出的不同通道維度的特征序列轉(zhuǎn)換為相同通道維度,形成特征金字塔(F?、F?、F?),確保多尺度特征可被統(tǒng)一分類器處理。
- 分類器網(wǎng)絡(luò):采用 Transformer 編碼器捕捉特征金字塔中的時(shí)序關(guān)系。首先通過(guò)全連接層將特征金字塔映射到模型維度,加入改進(jìn)的位置編碼以保留時(shí)間信息;再通過(guò)注意力機(jī)制聚合特征,最終通過(guò)多個(gè)層級(jí)的輸出 logits 求和預(yù)測(cè)目標(biāo) epoch 的睡眠階段。
2. 訓(xùn)練過(guò)程
訓(xùn)練分為兩個(gè)階段,分別優(yōu)化特征提取和時(shí)序上下文學(xué)習(xí):

圖2 SleePyCo的訓(xùn)練過(guò)程
- 對(duì)比表征學(xué)習(xí)(CRL):采用有監(jiān)督對(duì)比學(xué)習(xí)預(yù)訓(xùn)練骨干網(wǎng)絡(luò)。通過(guò)對(duì)單個(gè) EEG epoch 進(jìn)行兩種不同的數(shù)據(jù)增強(qiáng)(如振幅縮放、時(shí)間偏移、加性高斯噪聲等),生成 “多視圖” 樣本;利用對(duì)比損失最小化同類樣本距離、最大化異類樣本距離,增強(qiáng)特征的類別區(qū)分性。
- 多尺度時(shí)序上下文學(xué)習(xí)(MTCL):凍結(jié) CRL 預(yù)訓(xùn)練的骨干網(wǎng)絡(luò)參數(shù),訓(xùn)練橫向連接和分類器。輸入連續(xù) L 個(gè) EEG epoch(研究中 L=10),通過(guò)交叉熵?fù)p失學(xué)習(xí)多尺度特征的時(shí)序關(guān)系,預(yù)測(cè)目標(biāo) epoch 的睡眠階段。
具體訓(xùn)練的偽代碼如下:

研究結(jié)果
與現(xiàn)有方法的性能對(duì)比
表1 SleePyCo與現(xiàn)有方法的性能對(duì)比

SleePyCo 在四個(gè)公共數(shù)據(jù)集(Sleep-EDF、MASS、Physio2018、SHHS)上均實(shí)現(xiàn)了最先進(jìn)(SOTA)的性能,具體表現(xiàn)如下:
- Sleep-EDF:總體準(zhǔn)確率(ACC)84.6%、宏 F1 分?jǐn)?shù)(MF1)79.0、Cohen's Kappa 系數(shù)(κ)0.787,優(yōu)于 XSleepNet 等方法,其中 N1 階段 F1 分?jǐn)?shù)提升 0.5%,REM 階段提升 2.4%。
- MASS:ACC 86.8%、MF1 82.5、κ 0.811,在 N1 階段 F1 分?jǐn)?shù)達(dá) 60.1%,顯著高于 SeqSleepNet(52.8%)和 IITNet(59.8%)。
- Physio2018:ACC 80.9%、MF1 78.9、κ 0.737,在單通道 EEG 輸入下優(yōu)于結(jié)合原始信號(hào)和頻譜圖的 XSleepNet。
- SHHS:ACC 87.9%、MF1 80.7、κ 0.830,與 SleepTransformer 相當(dāng),但僅需單通道 EEG,參數(shù)更少(2.37M vs 5.8M),推理速度更快(14.5ms vs 29.7ms)。
消融實(shí)驗(yàn)
- 特征金字塔(FP)的作用:在基線模型(BL)基礎(chǔ)上加入 FP 后,Sleep-EDF 的 ACC 提升 0.3%,MF1 提升 0.4%,尤其 N1 階段 F1 分?jǐn)?shù)提升 1.3%,表明多尺度特征融合增強(qiáng)了模糊階段(如 N1 和 REM)的區(qū)分度。
- 有監(jiān)督對(duì)比學(xué)習(xí)(CRL)的作用:CRL 使基線模型的 ACC 提升 1.0%,MF1 提升 1.2%,N1、N2、REM 階段 F1 分?jǐn)?shù)分別提升 2.7%、1.0%、1.9%,驗(yàn)證了其減少睡眠階段特征歧義的效果。
- 協(xié)同效應(yīng):FP 與 CRL 結(jié)合時(shí),Sleep-EDF 的 ACC 提升 1.4%,MF1 提升 1.7%,輪廓系數(shù)從 0.292 升至 0.325,表明兩者協(xié)同增強(qiáng)了類內(nèi)相似度和類間差異。
表2 SleePyCo在SleepEDF上進(jìn)行的消融實(shí)驗(yàn)

骨干網(wǎng)絡(luò)性能
SleePyCo-backbone 在單尺度和多尺度設(shè)置下均優(yōu)于 DeepSleepNet、TinySleepNet 等現(xiàn)有骨干網(wǎng)絡(luò):
- 單尺度設(shè)置中,在 Sleep-EDF 的 ACC 達(dá) 84.1%,高于 IITNet(83.5%)和 U-Time(83.6%)。
- 多尺度設(shè)置中,結(jié)合特征金字塔后,在 MASS 和 SHHS 的 ACC 分別達(dá) 86.8% 和 87.9%,顯著高于 U-Time 和 XSleepNet 的多尺度版本。
表3 SleePyCo-backbone 在單尺度和多尺度設(shè)置下與基準(zhǔn)網(wǎng)絡(luò)的對(duì)比

結(jié)論
SleePyCo 僅使用原始單通道 EEG 即可超越需多模態(tài)輸入(如頻譜圖)的方法,避免了信息損失和預(yù)處理成本。且該模型在低頻(如 N3 的慢波)和中頻(如 N1 的 theta 波)特征上的區(qū)分能力顯著,在實(shí)時(shí)睡眠分期場(chǎng)景具有巨大潛力。
撰稿人:鄭澤昆
審稿人:王斐