CN116072265B - 基于时间自注意力与动态图卷积的睡眠分期分析系统及方法 - Google Patents
基于时间自注意力与动态图卷积的睡眠分期分析系统及方法 Download PDFInfo
- Publication number
- CN116072265B CN116072265B CN202310356676.3A CN202310356676A CN116072265B CN 116072265 B CN116072265 B CN 116072265B CN 202310356676 A CN202310356676 A CN 202310356676A CN 116072265 B CN116072265 B CN 116072265B
- Authority
- CN
- China
- Prior art keywords
- module
- time
- sleep
- attention
- features
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/48—Other medical applications
- A61B5/4806—Sleep evaluation
- A61B5/4812—Detecting sleep stages or cycles
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/24—Detecting, measuring or recording bioelectric or biomagnetic signals of the body or parts thereof
- A61B5/316—Modalities, i.e. specific diagnostic methods
- A61B5/369—Electroencephalography [EEG]
- A61B5/372—Analysis of electroencephalograms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
- G16H20/70—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to mental therapies, e.g. psychological therapy or autogenous training
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Theoretical Computer Science (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Public Health (AREA)
- Psychology (AREA)
- Pathology (AREA)
- Surgery (AREA)
- Veterinary Medicine (AREA)
- Psychiatry (AREA)
- Heart & Thoracic Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Child & Adolescent Psychology (AREA)
- Primary Health Care (AREA)
- Epidemiology (AREA)
- Social Psychology (AREA)
- Hospice & Palliative Care (AREA)
- Developmental Disabilities (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
本发明涉及基于时间自注意力与动态图卷积的睡眠分期分析系统及方法,属于睡眠健康监测技术领域。首先,特征提取模块从原始信号中捕捉到具有代表性的信息。然后,基于动态时间规整算法的注意力模块增强提取特征空间信息的表达;时间信息处理模块利用多头注意力捕捉机制提取特征之间的时间依赖关系。使用基于标准化的注意力模块,利用权重的贡献因子抑制不显著的信息。同时,利用动态图卷积模块捕捉脑电通道之间的空间功能连接,其中每层图卷积网络的邻接矩阵自适应地调整以获得最优的内在连接关系。最后将提取到的时间和空间特征进行操作融合,得到睡眠分期预测结果。
Description
技术领域
本发明涉及基于时间自注意力与动态图卷积的睡眠分期分析系统及方法,该方法适用基于多通道睡眠信号的睡眠分期,从而支撑睡眠障碍相关疾病的诊断,属于睡眠健康监测技术领域。
背景技术
睡眠占据人一生的三分之一,监测睡眠质量存在重大需求。研究表明,良好的睡眠质量有利于身心健康。另一方面,失眠和睡眠呼吸暂停等睡眠障碍往往会导致睡眠质量下降,使人体产生健康问题。为了协助诊断睡眠障碍,基于多导睡眠图(PSG)的评估标准被用来支持睡眠阶段监测,其中PSG包括脑电图(EEG)、眼电图(EOG)、肌电图(EMG)和心电图(ECG)。根据美国睡眠医学会(AASM)的标准,PSG信号被分割成30秒的脑电信号片段,并被分为五个睡眠阶段,包括清醒期(W)、快速眼动期(REM)和三个非快速眼动期(NREM:N1、N2和N3)。注意到N3是由R&K规则中的第3和第4阶段合并而来的,因为这两个阶段的临床/生理差异有限。人工分类是十分耗时耗力且具有主观性的。因此,许多研究提出自动睡眠分期系统,目的是避免主观的睡眠评估同时提高睡眠分期的准确性。
许多研究将传统的机器学习方法应用于睡眠分期上。这些方法通常包括两个步骤,即手工特征提取和睡眠分期。然而,这些方法的分类精度在很大程度上依赖于手工提取特征质量,因此需要大量的先验知识才能达到较好的性能。近些年来,深度学习方法因其强大表示学习能力,被广泛应用于各个领域。因此,更多的研究采用深度学习进行睡眠分期。许多研究应用卷积神经网络(CNN)和循环神经网络(RNN)从原始数据中自动学习有用的特征。比如Tsinalis等人使用具有全连接层的连续卷积层和池化层,使用单通道EEG对睡眠阶段进行分类。这些基于CNN模型的睡眠分期模型表现尚可。然而,大多数方法都不能有效地捕获脑电信号间的时间依赖性。于是RNN模型被用来弥补这一缺点,如Supratak等人提出了一种名为DeepSleepNet的模型,该模型利用卷积神经网络提取时不变特征,利用双向长短期记忆网络(BiLSTM)从脑电信号学习不同睡眠阶段之间的转移规则。
虽然基于CNN或RNN睡眠分期模型取得了相对较高的准确率,特别是利用空间-时间联合特征提取策略的混合模型,但这类方法的一个局限是其输入是网格化的数据(类似图像的表示),没有考虑脑电通道的空间连接。考虑到脑区的非欧几里得空间特性,图数据结构有利于描述多通道脑电数据间的联系。随着图论的快速发展,图卷积网络(GCN)已被广泛用于解决图数据结构方面的问题,为获得脑电空间特性提供了有效方法。具体来说,每个EEG通道代表图的一个节点,两个通道之间的连接可以看作是图的一条边。所有边的权重构成图的邻接矩阵。邻接矩阵作为GCN模型的关键部分,一般被认为是先验知识,这意味着邻接矩阵将是固定的,在整个训练过程中不会被优化,如通道之间的余弦值或锁相值(PLV)也可构成邻接矩阵。然而,由于对睡眠动力学中的大脑连接性的理解有限,要提前设置一个合适的脑区图结构仍然是一个挑战。
另一方面,不仅要考虑单个脑电信号片段中的局部时间信息,还要考虑其相邻片段的全局时间信息。相邻睡眠阶段的转移规律对提高分类准确性尤为重要。为了捕捉相邻睡眠阶段的转移规律,一些研究采用了RNN(如LSTM)来处理多个睡眠信号片段。然而,由于RNN的循环特性,其当前输出严重依赖于前一时刻的状态。因此,模型计算不能并行。
根据上述文献回顾,有两个缺点需要解决。首先,虽然RNN模型因其循环特性而被广泛用于提取脑电信号局部和全局时间信息,然而,这些模型具有较高的模型复杂度,难以进行并行训练。其次,GCN的邻接矩阵通常是事先固定的,在整个训练过程中没有进行优化,这可能会忽略不同EEG通道间的潜在空间功能关系,从而导致次优的性能。
发明内容
本发明的技术解决问题是:克服现有技术的不足,提出基于时间自注意力与动态图卷积的睡眠分期分析系统及方法。
本发明的技术解决方案是:
基于时间自注意力与动态图卷积的睡眠分期分析系统,该睡眠分期分析系统基于获取的原始信号进行睡眠分期分析,该睡眠分期分析系统包括特征提取模块(FEM)、动态时间规整(DTW)注意力模块、时间信息处理模块(TCM)、动态图卷积模块(DGCM)和特征融合模块;
所述原始信号的获取方法为:在脑部不同位置放置电极来采集脑电信号,每个电极采集的脑电信号均对应一个脑电(EEG)通道,原始信号包括所有EEG通道采集到的脑电信号,并将原始信号按照30s一个片段进行分割,分为若干个睡眠片段;
所述特征提取模块(FEM)由多层神经网络组成,便于提取输入数据中不同频段的特征,特征提取模块(FEM)用于接收原始信号,并提取接收到的原始信号中脑电信号不同频段的特征,得到不同睡眠片段的特征向量,将得到的不同睡眠片段的特征向量输出给注意力模块和动态图卷积模块(DGCM);
所述特征提取模块(FEM) 由五个卷积层和三个最大池化层组成,每个卷积层依次进行两个操作,包括应用一维卷积,然后是ReLU激活函数(relu(x) =max(0,x)),其中卷积核大小选择与EEG信号采样率有关。每个池化层通过取最大值进行降采样。
所述动态时间规整(DTW)注意力模块用于接收特征提取模块(FEM)输出的不同睡眠片段的特征向量,利用动态时间规整(DTW)算法,通过接收到的特征向量计算不同EEG通道之间的相关性,根据计算的相关性结果聚合来自相邻EEG通道的特征向量,得到不同睡眠片段的聚合特征并输出给时间信息处理模块(TCM);
所述时间信息处理模块(TCM)由多头注意力机制组成,以在所提取特征中捕捉更具辨别力的时间依赖性,时间信息处理模块(TCM)用于接收动态时间规整(DTW)注意力模块输出的不同睡眠片段的聚合特征,并根据接收到的不同睡眠片段的聚合特征提取不同睡眠片段之间的全局时间依赖关系作为时间特征,即不同睡眠阶段之间的转移关系,将提取到的时间特征输出给特征融合模块;
所述动态图卷积模块(DGCM)用于接收特征提取模块(FEM)输出的不同睡眠片段特征向量,并根据接收到的不同睡眠片段的特征向量构建不同睡眠片段的自适应邻接矩阵,以此来表示不同EEG通道之间的空间功能连接关系,然后将构建的不同睡眠片段的自适应邻接矩阵和特征向量进行图卷积,得到空间特征,并将得到的空间特征输出给特征融合模块;
所述特征融合模块用于接收时间信息处理模块(TCM)输出的时间特征和动态图卷积模块(DGCM)输出的空间特征进行特征融合,得到类别结果序列,完成睡眠分期分析。
所述根据相关性结果聚合来自相邻脑电通道的特征向量,得到的不同睡眠片段的聚合特征Q i为:
Q i=X i×softmax(DTW(X i,X i)W)
其中,DTW(X i,X i)为DTW算法计算的N×N相关性矩阵,矩阵中的每一项DTW(X i,X i)p,q代表脑电通道p和通电通道q的相关性;softmax运算用于注意力权重矩阵的归一化;W∈RN×N是可学习参数,是由特征向量/>组成的特征矩阵,i=1,2,…,L,L为睡眠片段的个数,N是脑电通道个数,F CNN是特征提取模块提取特征向量的长度;j=1,2,…,N;
所述相关性矩阵DTW(X i,X i)通过使用DTW算法计算成本矩阵得到,具体如下:
设时间序列X=(x 1,x 2,…,x i,…,x n)和Y=(y 1,y 2,…,y j,…,y m),两个时间序列间的匹配定义为一条规整路径:Path=(p 1,p 2,…,p k,…,p K),其中,max(n,m)≤K≤m+n,n和m均为特征提取模块提取到的特征向量长度F CNN,K为时间序列X和时间序列Y中时间点匹配对的个数;k=1,2,…,K;
成本矩阵定义为:
γ c(i,j)=M i,j+min(γ c(i-1,j),γ c(i,j-1),γ c(i-1,j-1) )(1)
其中,M i,j=|x i-y j|为时间序列距离矩阵中的项;
迭代执行公式(1)后,时间序列X和时间序列Y最优规整路径对应的距离被定义为DST(X,Y)=γ c(n,m)1/2,表示两个时间序列之间的相关性,即为N×N相关性矩阵DTW(X i,X i)中的一项。
基于时间自注意力与动态图卷积的睡眠分期分析方法,该睡眠分期分析方法基于获取的原始信号进行睡眠分期分析,具体步骤包括:
第一步,在脑部不同位置放置电极采集脑电信号,采集的所有脑电信号形成原始信号,并将原始信号按照30s一个片段进行分割,分为若干个睡眠片段;
第二步,特征提取模块(FEM)接收第一步中形成的原始信号,并提取原始信号中脑电信号不同频段的特征,得到不同睡眠片段的特征向量,将得到的不同睡眠片段的特征向量输出给注意力模块和动态图卷积模块(DGCM);
第三步,动态时间规整(DTW)注意力模块接收到特征提取模块(FEM)输出的不同睡眠片段的特征向量,然后利用动态时间规整(DTW)算法,通过接收到的特征向量计算不同EEG通道之间的相关性,并根据计算的相关性结果聚合来自相邻EEG通道的特征向量,得到不同睡眠片段的聚合特征并输出给时间信息处理模块(TCM);
第四步,时间信息处理模块(TCM)接收到动态时间规整(DTW)注意力模块输出的不同睡眠片段的聚合特征,并根据接收到的不同睡眠片段的聚合特征提取不同睡眠片段之间的全局时间依赖关系作为时间特征,将提取到的时间特征输出给特征融合模块;
第五步,动态图卷积模块(DGCM)接收特征提取模块(FEM)输出的不同睡眠片段特征向量,并根据接收到的不同睡眠片段的特征向量构建不同睡眠片段的自适应邻接矩阵,然后将构建的不同睡眠片段的自适应邻接矩阵和特征向量进行图卷积,得到空间特征,并将得到的空间特征输出给特征融合模块;
第六步,特征融合模块接收到时间信息处理模块(TCM)输出的时间特征和动态图卷积模块(DGCM)输出的空间特征,并将时间特征和空间特征进行特征融合,得到类别结果序列,完成睡眠分期分析。
有益效果
(1)本发明基于自注意力机制和图卷积优化传统睡眠分期方法,创新性地提出一套融合时间注意力和动态图卷积的睡眠分期模型,并在MASS-SS3数据集上取得了当前最优的性能。
(2)本发明基于自注意力机制于处理时间序列中的并行训练优势,以及图卷积针对非欧氏空间数据在有效提取空间信息上的优势,首次提出了一套融合自注意力机制和图卷积的多通道睡眠分期方法,包括以下步骤:首先,特征提取模块(FEM)能够从原始信号中捕捉到具有代表性的信息。然后,基于动态时间规整(DTW)算法的注意力模块用于增强提取特征空间信息的表达;时间信息处理模块(TCM)利用多头注意力捕捉机制提取特征之间的时间依赖关系。特别地,使用基于标准化的注意力模块(NAM),利用权重的贡献因子抑制不显著的信息。同时,利用动态图卷积模块(DGCM)捕捉脑电通道之间的空间功能连接,其中每层图卷积网络(GCN)的邻接矩阵自适应地调整以获得最优的内在连接关系。最后将提取到的时间和空间特征通过concat操作融合,并得到睡眠分期预测结果。
(3)本发明面向实际临床便携精准睡眠诊断需求,实现了睡眠分期准确率的极大提升,突破了传统睡眠分期无法充分利用多通道睡眠信号时空信息的技术难点,可望为睡眠健康监测提供可行新途径。
(4)本发明首次提出一套基于时间注意力和动态图卷积的混合网络,适用于精准睡眠分期,高效可靠。
附图说明
图1为本发明的方法流程示意图;
图2为两个时间序列及其对应的规整路径示意图。
具体实施方式
下面结合附图和实施例对本发明做进一步说明。
实施例
为突破传统睡眠分期模型无法并行训练(基于RNN)以及无法充分利用多通道脑电信号空间信息的技术难点,本发明提出一套基于时间注意力机制和动态图卷积混合模型,并在MASS-SS3数据集上取得了最优结果。
本发明的方法流程图如图1所示,详细过程如下:
步骤1)将PSG信号分割成30秒睡眠片段,构成输入睡眠片段序列S = {S 1,S 2,…,S L}∈RL×N×T,其中,L代表30秒睡眠片段的数量,N是通道(即电极)数量,T是一个睡眠片段的点数。
步骤2)将处理好的睡眠片段输入到FEM,FEM 由五个卷积层和三个最大池化层组成,每个卷积层先进行一维卷积,得到卷积特征,再将得到的卷积特征输入到ReLU激活函数中,卷积层中卷积核的大小为脑电信号采样率的二分之一,每个最大池化层通过取最大值进行降采样。
步骤3)将FEM提取到的不同睡眠片段的特征向量输入DTW注意力模块并根据接收到的不同睡眠片段的特征向量计算不同脑电通道之间的相关性,再根据计算得到的相关性结果聚合来自相邻脑电通道的特征向量,得到不同睡眠片段的聚合特征。DTW是衡量两个时间序列之间相似度的经典算法。DTW的主要概念是通过匹配时间序列之间的相似元素计算距离。它使用动态规划寻找两个时间序列元素之间的最佳匹配。具体来说:
根据相关性结果聚合来自相邻脑电通道的特征向量,得到的不同睡眠片段的聚合特征Q i为:
Q i=X i×softmax(DTW(X i,X i)W)
其中,DTW(X i,X i)为DTW算法计算的N×N相关性矩阵,矩阵中的每一项DTW(X i,X i)p,q代表脑电通道p和通电通道q的相关性;softmax运算用于注意力权重矩阵的归一化;W∈RN×N是可学习参数,是由特征向量/>组成的特征矩阵,i=1,2,…,L,L为睡眠片段的个数,N是脑电通道个数,F CNN是特征提取模块提取特征向量的长度;j=1,2,…,N;
所述相关性矩阵DTW(X i,X i)通过使用DTW算法计算成本矩阵得到,具体如下:
设时间序列X=(x 1,x 2,…,x i,…,x n)和Y=(y 1,y 2,…,y j,…,y m),如图2所示,两个时间序列间的匹配定义为一条规整路径:Path=(p 1,p 2,…,p k,…,p K),其中,max(n,m)≤K≤m+n,n和m均为特征提取模块提取到的特征向量长度F CNN,K为时间序列X和时间序列Y中时间点匹配对的个数;k=1,2,…,K;
成本矩阵定义为:
γ c(i,j)=M i,j+min(γ c(i-1,j),γ c(i,j-1),γ c(i-1,j-1) )(1)
其中,M i,j=|x i-y j|为时间序列距离矩阵中的项;
迭代执行公式(1)后,时间序列X和时间序列Y最优规整路径对应的距离被定义为DST(X,Y)=γ c(n,m)1/2,表示两个时间序列之间的相关性,即为N×N相关性矩阵DTW(X i,X i)中的一项。
步骤4)对DTW注意力模块输出的聚合特征使用TCM提取时间特征,具体来说:
第一步,利用NAM抑制不显著的特征。接收DTW注意力模块输出的聚合特征作为NAM的输入特征,设为J= (X 1,X 2,…,X L)∈RN×F CNN ×L,其中L为睡眠片段个数,对应于时间通道个数,N为EEG通道个数,F CNN为每个睡眠片段的特征向量长度。对于时间通道注意力,使用从批归一化(BN式(5))表示权重在时间尺度上的重要性。缩放因子用于测量时间通道的方差,并表明它们的重要性。缩放因子越大,时间通道的数据差异越大,意味着该时间通道包含的信息越丰富,反之亦然。批量归一化(BN)的一般公式如下:
其中μ B和σ B分别为小批量数据在时间通道维度上的均值和标准差;γ和β分别对应于缩放和位移的可训练仿射变换参数,B in和B out分别表示小批量输入数据和经过BN的输出数据。
NAM在时间通道上的注意子模块公式表示如下:
M Lnam=sigmoid(w γ BN(J))(3)
其中M Lnam表示输出特征,γ为每个时间通道的缩放因子,权重的重要度为w γ=γ i/Σj=0 γ j。w γ表示各个时间通道中权重的重要性,可以进一步抑制不重要时间通道的特征向量,sigmoid表示sigmoid激活函数。
第二步,将位置编码添加到NAM的输出特征M Lnam。使用与NAM的输出特征M Lnam相同的维度,定义为ddim,等于N×F CNN。
位置编码公式化如下:
PEpos,2i= sin(pos/100002i/ddim)(i∈{1,2,…,ddim/2}) (4)
PEpos,2i+1= cos(pos/100002i/ddim)(i∈{1,2,…,ddim/2}) (5)
其中pos表示当前睡眠片段在输入睡眠片段序列中的位置。
第三步,使用多头自注意力机制(MHA)计算输入特征(第二步的输出特征)在时间尺度上的内在关系(即,不同睡眠片段之间的全局时间依赖关系),将不同的权重分配至不同位置上的特征(即,睡眠片段在输入睡眠片段序列中的位置)。权重由以下公式计算:
式中X∈RL×dim为输入特征向量组成的特征矩阵,L表示睡眠片段个数,dim为输入特征向量长度。此时具有H个头的MHA可定义为如下形式:
A h=Attention(X h,X h , X h)∈RL×(dim/H)(7)
MHA(X,X,X) =Concat(A 1,…,A h ,…,A H)(8)
其中,X h∈RL×(dim/H)代表第h个子空间的特征矩阵(X= (X 1,…,X h ,…,X H),1≤h≤H)。A h表示子空间h中的注意力特征,MHA(X,X,X)表示所有H个特征子空间生成注意力特征拼接形成的特征。
第四步:TCM拥有两个Add&Normalize层,通过残差连接将上一个模块输出特征和当前层输入特征相加。该模块在数学上可以表示为LayerNorm(z + SubLayer(z)),其中LayerNorm表示层的归一化,SubLayer指两个全连接层或MHA,z表示SubLayer的输入特征。残差连接的应用可以避免反向传播过程中的梯度消失问题,并在低层特征有用时提高性能。同时,为了加快模型收敛速度,应用了层归一化,这是保证特征分布稳定性的常用操作。
第五步:前馈层(Feed-Forward)由两个全连接层组成,采用ReLU激活函数来增加模型的非线性,同时考虑潜在维度之间的相互作用。MHA的输出被投射到高维表示,然后被ReLU激活。此后,另一个全连接层将结果投射到原始维度。该操作可以表示为Z =W 1(σW 2((z))),其中W 1和W 2指的是TCM中的两个全连接层,σ表示ReLU激活函数。
步骤5)将FEM提取到不同睡眠片段的特征向量输入DGCM,提取不同睡眠片段的特征向量中的空间特征。具体来说:
图卷积层可以表示如下:
该图卷积层是用K个有限步对图信号的扩散过程进行建模得到,本模型中设置K为2。其中X∈RN×F CNN代表不同睡眠片段的特征向量组成的特征矩阵,N表示EEG通道数目,F CNN表示特征向量的长度,W k∈RF CNN ×Mg表示可学习参数,Z∈RN×Mg是图卷积输出特征,Mg可根据自己需求设置(本模型中Mg=12)。
A adp是自适应邻接矩阵,可以表示为:
A adp=softmax(v Ttanh(WX+UX))(10)
其中W,U∈RF CNN ×M和v T∈RM×1是可学习的参数,X∈RN×F CNN表示输入特征矩阵,N表示表示脑电通道数目,F CNN表示特征向量的长度,M可根据自己需求设置(本模型中M=F CNN)。softmax函数用来归一化自适应邻接矩阵。
步骤6)使用融合策略将将两个分支网络所得时间特征和空间特征进行融合,最终特征将包含丰富时空信息。
本发明已在MASS数据库中的SS3数据集上进行验证。通过与7种不同的基线方法对比(包括机器学习、深度学习和图卷积),本发明取得了最优性能表现(如表1所示)。综上,时间自注意力与动态图卷积的睡眠分期分析系统及方法可作为睡眠分期补充工具,有助于提高睡眠障碍事件诊断能力,在便携可穿戴式睡眠健康监测中具有一定的潜在价值和应用前景。
表1. TS-DGCHN与基线模型在MASS-SS3数据集上的性能对比
综上所述,以上仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (4)
1.基于时间自注意力与动态图卷积的睡眠分期分析系统,其特征在于:
该睡眠分期分析系统包括特征提取模块、注意力模块、时间信息处理模块、动态图卷积模块和特征融合模块;
所述特征提取模块用于接收原始信号,并提取接收到的原始信号中脑电信号不同频段的特征,得到不同睡眠片段的特征向量,再将得到的不同睡眠片段的特征向量输出给注意力模块和动态图卷积模块;
所述注意力模块用于接收特征提取模块输出的不同睡眠片段的特征向量,并根据接收到的不同睡眠片段的特征向量计算不同脑电通道之间的相关性,再根据计算得到的相关性结果聚合来自相邻脑电通道的特征向量,得到不同睡眠片段的聚合特征并输出给时间信息处理模块;
所述时间信息处理模块用于接收注意力模块输出的不同睡眠片段的聚合特征,并根据接收到的不同睡眠片段的聚合特征提取不同睡眠片段之间的全局时间依赖关系作为时间特征,再将提取到的时间特征输出给特征融合模块;
所述动态图卷积模块用于接收特征提取模块输出的不同睡眠片段的特征向量,并根据接收到的不同睡眠片段的特征向量构建不同睡眠片段的自适应邻接矩阵,再将构建的不同睡眠片段的自适应邻接矩阵和特征向量进行图卷积,得到空间特征,最后将得到的空间特征输出给特征融合模块;
所述特征融合模块用于接收时间信息处理模块输出的时间特征和动态图卷积模块输出的空间特征,并将接收到的时间特征和空间特征进行特征融合,得到类别结果序列;
所述原始信号的获取方法为:在脑部不同位置放置电极来采集脑电信号,每个电极采集到的脑电信号均对应一个脑电通道,原始信号包括所有脑电通道采集到的脑电信号;
所述睡眠片段是指将原始信号按照30s一个片段进行分割,得到若干个睡眠片段;
所述特征提取模块由五个卷积层和三个最大池化层组成,每个卷积层先进行一维卷积,得到卷积特征,再将得到的卷积特征输入到ReLU激活函数中,卷积层中卷积核的大小为脑电信号采样率的二分之一,每个最大池化层通过取最大值进行降采样;
所述注意力模块利用动态时间规整算法,计算不同脑电通道之间的相关性;
所述时间信息处理模块由多头注意力机制组成;
根据相关性结果聚合来自相邻脑电通道的特征向量,得到的不同睡眠片段的聚合特征Qi为:
Qi=Xi×softmax(DTW(Xi,Xi)W)
其中,DTW(Xi,Xi)为DTW算法计算的N×N相关性矩阵,矩阵中的每一项DTW(Xi,Xi)p,q代表脑电通道p和通电通道q的相关性;softmax运算用于注意力权重矩阵的归一化;W∈RN×N是可学习参数,是由特征向量/>组成的特征矩阵,i=1,2,…,L,L为睡眠片段的个数,N是脑电通道个数,FCNN是特征提取模块提取特征向量的长度;j=1,,2,…,N;
所述相关性矩阵DTW(Xi,Xi)通过使用DTW算法计算成本矩阵得到,具体如下:
设时间序列X=(x1,x2,…,xi,…,xn)和Y=(y1,y2,…,yj,…,ym),两个时间序列间的匹配定义为一条规整路径:Path=(p1,p2,…,pk,…,pK),其中,max(n,m)≤K≤m+n,n和m均为特征提取模块提取到的特征向量长度FCNN,K为时间序列X和时间序列Y中时间点匹配对的个数;k=1,2,…,K;
成本矩阵定义为:
γc(i,j)=Mi,j+min(γc(i-1,j),γc(i,j-1),γc(i-1,j-1))(1)
其中,Mi,j=|xi-yj|为时间序列距离矩阵中的项;
迭代执行公式(1)后,时间序列X和时间序列Y最优规整路径对应的距离被定义为DST(X,Y)=γc(n,m)1/2,表示两个时间序列之间的相关性,即为N×N相关性矩阵DTW(Xi,Xi)中的一项。
2.基于权利要求1所述的时间自注意力与动态图卷积的睡眠分期分析系统的睡眠分期分析方法,其特征在于该方法的步骤包括:
第一步,在脑部不同位置放置电极采集脑电信号,采集的所有脑电信号形成原始信号,并将原始信号按照设定时间一个片段进行分割,得到若干个睡眠片段;
第二步,特征提取模块接收第一步中形成的原始信号,并提取原始信号中脑电信号不同频段的特征,得到不同睡眠片段的特征向量,再将得到的不同睡眠片段的特征向量输出给注意力模块和动态图卷积模块;
第三步,注意力模块接收到特征提取模块输出的不同睡眠片段的特征向量,通过接收到的特征向量计算不同脑电通道之间的相关性,根据计算的相关性结果聚合来自相邻脑电通道的特征向量,得到不同睡眠片段的聚合特征并输出给时间信息处理模块;
第四步,时间信息处理模块接收到注意力模块输出的不同睡眠片段的聚合特征,根据接收到的不同睡眠片段的聚合特征提取不同睡眠片段之间的全局时间依赖关系作为时间特征,将提取到的时间特征输出给特征融合模块;
第五步,动态图卷积模块接收特征提取模块输出的不同睡眠片段特征向量,根据接收到的不同睡眠片段的特征向量构建不同睡眠片段的自适应邻接矩阵,然后将构建的不同睡眠片段的自适应邻接矩阵和特征向量进行图卷积,得到空间特征,将得到的空间特征输出给特征融合模块;
第六步,特征融合模块接收到时间信息处理模块输出的时间特征和动态图卷积模块输出的空间特征,并将时间特征和空间特征进行特征融合,得到类别结果序列,完成睡眠分期分析。
3.根据权利要求2所述的基于时间自注意力与动态图卷积的睡眠分期分析方法,其特征在于:
所述第一步中,设定时间为30s。
4.根据权利要求2所述的基于时间自注意力与动态图卷积的睡眠分期分析方法,其特征在于:
所述第三步中,利用动态时间规整算法,计算不同脑电通道之间的相关性。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310356676.3A CN116072265B (zh) | 2023-04-06 | 2023-04-06 | 基于时间自注意力与动态图卷积的睡眠分期分析系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310356676.3A CN116072265B (zh) | 2023-04-06 | 2023-04-06 | 基于时间自注意力与动态图卷积的睡眠分期分析系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116072265A CN116072265A (zh) | 2023-05-05 |
CN116072265B true CN116072265B (zh) | 2023-06-27 |
Family
ID=86173523
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310356676.3A Active CN116072265B (zh) | 2023-04-06 | 2023-04-06 | 基于时间自注意力与动态图卷积的睡眠分期分析系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116072265B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117235678B (zh) * | 2023-11-14 | 2024-01-26 | 山东交通学院 | 一种木材切割过程中刀片磨损程度的检测方法 |
CN117520779A (zh) * | 2023-11-17 | 2024-02-06 | 河海大学 | 基于多指标图注意力网络的水电机转轮状态关联分析方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114129138A (zh) * | 2021-12-29 | 2022-03-04 | 北京工业大学 | 一种基于时序多尺度混合注意力模型的自动睡眠分期方法 |
CN115530847A (zh) * | 2022-09-30 | 2022-12-30 | 哈尔滨理工大学 | 一种基于多尺度注意力的脑电信号自动睡眠分期方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022061414A1 (en) * | 2020-09-25 | 2022-03-31 | Seer Medical Pty Ltd | Methods and systems for forecasting epileptic events |
CN115844326A (zh) * | 2022-11-16 | 2023-03-28 | 杭州电子科技大学 | 一种基于关键脑网络的自适应睡眠分期方法及系统 |
-
2023
- 2023-04-06 CN CN202310356676.3A patent/CN116072265B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114129138A (zh) * | 2021-12-29 | 2022-03-04 | 北京工业大学 | 一种基于时序多尺度混合注意力模型的自动睡眠分期方法 |
CN115530847A (zh) * | 2022-09-30 | 2022-12-30 | 哈尔滨理工大学 | 一种基于多尺度注意力的脑电信号自动睡眠分期方法 |
Also Published As
Publication number | Publication date |
---|---|
CN116072265A (zh) | 2023-05-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Gavrilescu et al. | Predicting depression, anxiety, and stress levels from videos using the facial action coding system | |
Liu et al. | EEG emotion recognition based on the attention mechanism and pre-trained convolution capsule network | |
CN116072265B (zh) | 基于时间自注意力与动态图卷积的睡眠分期分析系统及方法 | |
Salido et al. | Using deep learning to detect melanoma in dermoscopy images | |
Chen et al. | PCAT-UNet: UNet-like network fused convolution and transformer for retinal vessel segmentation | |
Luo et al. | Retinal image classification by self-supervised fuzzy clustering network | |
WO2023116736A1 (zh) | 一种基于视频数据的抽动症辅助筛查系统 | |
Li et al. | Adversarial learning for semi-supervised pediatric sleep staging with single-EEG channel | |
Jinliang et al. | EEG emotion recognition based on granger causality and capsnet neural network | |
Xie et al. | Surrogate network-based sparseness hyper-parameter optimization for deep expression recognition | |
Das et al. | Automated classification of retinal OCT images using a deep multi-scale fusion CNN | |
CN115089123A (zh) | 基于注意力和Transformer的OSA检测方法 | |
Das et al. | CA-Net: A Novel Cascaded Attention-based Network for Multi-stage Glaucoma Classification using Fundus Images | |
Yang et al. | A study on automatic sleep stage classification based on cnn-lstm | |
Thilakarathne et al. | Artificial Intelligence-Enabled IoT for Health and Wellbeing Monitoring | |
Zhu et al. | Multi-modal non-euclidean brain network analysis with community detection and convolutional autoencoder | |
Li et al. | Multi-channel EEG-based emotion recognition in the presence of noisy labels | |
CN114027786B (zh) | 基于自监督式记忆网络的睡眠呼吸障碍检测方法及系统 | |
Einizade et al. | ProductGraphSleepNet: Sleep staging using product spatio-temporal graph learning with attentive temporal aggregation | |
Ma et al. | Multi-Scale Dynamic Graph Learning for Brain Disorder Detection with Functional MRI | |
Liu et al. | Information-enhanced network for noncontact heart rate estimation from facial videos | |
Li et al. | Automatic classification of ASD children using appearance-based features from videos | |
Jacaruso | Accuracy improvement for Fully Convolutional Networks via selective augmentation with applications to electrocardiogram data | |
CN115349821A (zh) | 一种基于多模态生理信号融合的睡眠分期方法及系统 | |
CN114081492A (zh) | 一种基于可学习邻接矩阵的脑电情绪识别系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |