CN112957054B - 一种基于通道注意力分组残差网络的12导联心电信号分类方法 - Google Patents

一种基于通道注意力分组残差网络的12导联心电信号分类方法 Download PDF

Info

Publication number
CN112957054B
CN112957054B CN202110092953.5A CN202110092953A CN112957054B CN 112957054 B CN112957054 B CN 112957054B CN 202110092953 A CN202110092953 A CN 202110092953A CN 112957054 B CN112957054 B CN 112957054B
Authority
CN
China
Prior art keywords
spectrogram
resnext
network
category
record
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110092953.5A
Other languages
English (en)
Other versions
CN112957054A (zh
Inventor
杨新武
窦梦菲
斯迪文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Technology
Original Assignee
Beijing University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Technology filed Critical Beijing University of Technology
Priority to CN202110092953.5A priority Critical patent/CN112957054B/zh
Publication of CN112957054A publication Critical patent/CN112957054A/zh
Application granted granted Critical
Publication of CN112957054B publication Critical patent/CN112957054B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

本发明公开了一种基于通道注意力分组残差网络的12导联心电信号分类方法,由于原始12导联心电信号的长度不一或时间过长,无法对其直接分类,需要对每条记录以等长的时间间隔分割处理,把分割好心电信号片段经过SIFT变换到频域中,得到频谱图,然后对频谱图取对数最后得到对数频谱图,然后将对数频谱图输入到设计好的基于通道注意力分组残差网络(XSENet)网络中进行分类。该方法的主干网络主要采用分组残差网络和Senet结合的思想。该方法具有分类识别率高等优点。该主干网络的输入为12导联心电信号在频域上取对数后的频谱图,每个输出分别为所属类别的概率,是一种端对端的心电信号分类方法;本发明降低了解决问题的繁琐复杂过程,有效地提高了心电信号分类准确率。

Description

一种基于通道注意力分组残差网络的12导联心电信号分类 方法
技术领域
本发明属于机器学习与模式识别技术领域,利用给定的12导联心电信号(ECG)数据集构造一种鲁棒性较强的神经网络预测方法,以期达到对新的心电信号给出正确分类。
背景技术
心血管疾病(CVD)是最常见的死亡原因之一,占全世界死亡人数的31%以上,统计显示,心脏猝死占所有心脏疾病死亡的一半,超过80%的心脏猝死于心率失常密切相关。心电图(ECG)是诊断心脏相关疾病的临床标准,对心率失常的筛选和分类尤其有价值。一般通过直观分析心电图的形态,可以区分不同类型的心率失常。然而,心电图的形态高度依赖于主体,不同受试者差异有统计学意义,心电分析在很大程度上依赖医生的经验,视觉评估难以准确诊断心律失常。因此,开发出一种能够分析心电信号的计算机辅助诊断技术具有重要意义。近年来,深度学习在不同的应用场景中显示出强大的信息提取和拟合能力,如图像分类和疾病监测等。其动机在于通过模拟人类大脑的神经连接结构来建立模型。卷积神经网络是目前最受欢迎的深度学习方法,其本质是一种表示学习方法,是一种端到端学习的深度学习方法。深度网络是以端到端的多层方式集成了低/中/高级特征和分类器,特征的“层次”可以通过层叠层的深度来丰富。但是,深度神经网络训练很困难,往往会出席那梯度消失或梯度爆炸问题。分组残差网络(ResNext)在解决深度卷积神经网络退化的问题上,没有直接向网络中堆砌层去拟合所需的潜在映射,而是显示地让这些层拟合残差映射,并且包含了分组卷积的思想,不同组的卷积能够学习到更加多样的表示。
Senet的核心思想在于通过网络去学习特征权重,使得有效的特征向量全重大,无效或效果小的特征向量权重小,训练模型达到更好的效果。Senet作为一个轻量级的网络可以嵌入到以后的网络中。
本发明提出一种基于通道注意力分组残差网络的12导联心电信号分类方法(XSENet)。
发明内容
本发明的目的在于针对传统的心电信号分类技术存在特征提取繁琐复杂,准确率低以及泛化能力差等缺点,提出一种基于通道注意力分组残差网络的12导联心电信号分类方法(XSENet)。
本发明公开了一种基于通道注意力分组残差网络的12导联心电信号分类方法,由于原始心电信号的长度不一或时间过长,无法对其直接分类,需要对每条记录以等长的时间间隔分割处理,把分割好心电信号片段经过SIFT变换到频域中,得到频谱图,然后对频谱图取对数最后得到对数频谱图,然后将对数频谱图输入到设计好的XSENet网络中进行分类。该方法的主干网络主要采用分组残差网络和Senet结合的思想,该方法具有分类识别率高等优点。该网络的输入为心电信号在频域上取对数后的频谱图,每个输出分别为所属类别的概率,是一种端对端的心电信号分类方法:
本发明整体流程见图1,其具体方法步骤如下:
S1.对12导联心电信号进行预处理
(1)计算每个样本的总长度RL,确定分割窗口长度WL以及窗口移动步长S,对每个样本进行等长度的分割,每条记录分割出片段数量为:
Figure BDA0002913365420000021
(2)将分割等到的心电信号子片段经过STFT变换到频域中,得到频谱图;
(3)对频谱图取对数,得到对数频谱图;
(4)最后对对数频谱图进行Z-Score归一化处理
S2.构建面向12导联心电信号的XSENet模型
该模型的主干网络采用Resnext和Senet结合的结构,包括四个残差块,记作Resnext_se block1、Resnext_seblock2、Resnext_seblock3、Resnext_seblock4。特征向量A进入Resnext_se block1,分为c个组记作{A1,A2,...Ac},分别经过1×1卷积层、3×3卷积层、1×1卷积层,得到{A1′,A2′,...Ac′},然后将其合并为A′,然后A′通过Senet后与输入的特征向量A进行相加的结果作为Resnext_seblock2的输入,接着以此进入Resnext_seblock3、Resnext_seblock4,最后进入全连接层。其中Senet的网络结构包括globalaveragepooling,两层全连接层,sigmoid层。
S3.对S2中构建的模型进行优化训练
所采用的损失函数是主干网络的损失和辅助分类器的损失组成的联合损失函数,数学定义如下:
以W表示主干网络的权重,则有:
W=(W1,···,Wn)
输出层softmax表示为:
Figure BDA0002913365420000022
主干网络的损失函数为:
Figure BDA0002913365420000031
S4.对测试集中的每条12导联心电记录进行预测
具体步骤如下:
(1)对测试集中每个12导联心电信号记录,采用S1中所述的方法进行预处理,每个记录共有N个对数频谱图Spes={spe1,spe2,…,speN}本心电频谱图所属记录的类别作为该频谱图的标签。
(2)将分割的片段Spes输入到训练好的DSRXNet模型中,通过softmax函数得到每条分割片段属于各个类别的概率向量Wn={wn 1,wn 2,…,wn K},其中n表示第n条分割的片段,wn K表示第n条片段属于类别k的概率。
(3)计算每条分割片段频谱的最大概率类别向量maxwN kj=[0,0...,wn j,...,0],整个记录中所有分割片段分别得到的最大概率类别矩阵表示为MaxW=[maxw1 k1,maxw2 k2,…,maxwN kj].其中Kj表示所有K个类别中第j个类别。
(4)通过该记录的所有分割片段最大概率矩阵MaxW,对各个类别进行投票,最终获得每类的投票数向量WNums=[w1,w2,…,wk],则投票数最多的类别即为该记录的最终分类结果。
本发明是一种基于深度监督分组残差网络的12导联心电信号分类方法,不需要对心电信号做过多的预处理,相比传统的方法,有效的减少了繁琐复杂的预处理过程。该网络结构采用Resnext作为主干网络,通过基数C控制组的数量,不同组的卷积能够学到输入特征更加多样的表示,加强网络对特征进行多角度理解的能力,将Senet融入其中,采用一种全新的“特征重标定”策略,具体来说,通过学习的方式来自动获取每个特征通道的重要程度,依照这个重要程度去增强有用的特征并抑制对当前任务用处不大的特征,便于模型学习通道特征关系。
本发明的有益效果在于:(1)降低了解决问题的繁琐复杂过程;(2)有效地提高了心电信号分类准确率。
附图说明
图1是本法方法的流程图
图2是本发明设计的每个Resnext的结构图
图3是本发明设计的Resnext_se block的结构图
图4是本发明中所设计的神经网络模型的整体结构
具体实施方式
为了使本发明的目的、技术方案和优点更加清晰,下面详细给出技术发明方案中所涉及的各个细节问题的说明:
本发明提出一种基于深度监督分组残差网络的12导联心电信号分类方法,所使用的心电信号数据来源于2018年中国生理信号挑战赛(ChinaPhysiological SignalChallenge 2018)12导联心电信号数据。该数据是由11家医院中收集而来,官方公开的训练集中包含了6877条记录,其中男性3699条,女性3178条。此外还有2954条记录作为测试集,但是不对外公开。同时,数据集也提供了个体的年龄和性别。信号的采样率为500Hz,每条记录包含标准12导联,数据集共包含了8个心率失常类和1个正常心律类共9种心电类型,具体为:正常(Normal)、房颤(AF)、一级房室传导阻滞(I-AVB)、左束支传导阻滞(LBBB)、右束支传导阻滞(RBBB)、房性早搏(PAC)、室性早搏(PVC)、ST段抑止(STD)和ST段抬高(STE)。每个样本有1-3个参考标签。
为验证本发明的有效性以及可行性,具体实施方式如下:
步骤1:数据预处理
(1)对所有心电信号记录,计算每条记录的总长度RL,确定分割出窗口长度WL以及窗口移动步长S,对每条记录进行等长的分割。
(2)将分割等到的心电信号子片段经过STFT变换到频域中,得到频谱图。
(3)把频谱图取对数,得到对数频谱图
(4)把该对数频谱图作为一个训练样本,其对应所属记录的类别作为该样本标签。
步骤2:构建面向心电信号的DSRXNet神经网络模型
对于模型的搭建,采用Resnext作为主干网络,加强模型对特征进行多角度理解的能力,将Senet融入其中,便于模型学习通道特征关系。除此之外,利用深度监督的思想在Resnext的每一个block后增加了辅助分类器,能够对每个block提供直接监督层,而不是只在输出层监督,为模型学习增加了附加约束,使得最终得到的分类优化效果达到最佳状态。
该网络结构具体组成为该模型的主干网络采用Resnext和Senet结合的结构,包括四个残差块,记作Resnext_se block1、Resnext_se block2、Resnext_se block3、Resnext_se block4。Resnext_se block1首先将输入的特征向量A分为c个组记作{A1,A2,...Ac},分别经过1×1卷积层、3×3卷积层、1×1卷积层,得到{A1′,A2′,...Ac′}然后将其合并为A′,A′通过Senet后与输入的特征向量A进行相加的结果作为Resnext_se block2的输入,接着以此进入Resnext_seblock3、Resnext_se block4,最后进入全连接层。其中Senet的网络结构包括global averagepooling,两层全连接层,sigmoid层。
步骤3:对搭建的模型进行优化训练
本发明使用经典的Softmax损失函数,将辅助分类器的损失函数和主干网络的损失函数进行加和作为最终的损失函数。
以W表示主干网络的权重,则有:
W=(W1,...,Wn)
输出层softmax表示为:
Figure BDA0002913365420000051
主干网络的损失函数为:
Figure BDA0002913365420000052
本发明神经网络模型每层使用Relu激活函数,其定义形式:
Figure BDA0002913365420000053
该网络权重W的初始化方式为He初始化。在训练过程中,使用的优化方式是Momentum Optimizer。在实际应用中,与其他自适应学习率算法相比,Momentum Optimizer方法收敛速度更快,学习效果更为有效。
步骤4:分类预测过程,具体做法如下:
现假设每条心电信号记录共有N条分割片段的对数频谱图Spes={spe1,spe2,...,speN},本心电片段所属记录的类别作为该样本标签。
其次,把分割的片段Spes输入到训练好的模型中,通过softmax函数得到每条分割片段属于各个类别的概率向量为:Wn={wn 1,wn 2,...,wn K},其中n表示第n条分割的片段,wn K表示第n条片段属于类别k的概率。
然后计算每条分割片段频谱的最大概率类别向量maxwN kj=[0,0...,wn j,...,0],整个记录中所有分割片段分别得到的最大概率类别矩阵表示为:
MaxW=[maxw1 k1,maxw2 k2,...,maxwN kj].其中Kj表示所有K个类别中第j个类别。
最后,通过该记录的所有分割片段最大概率矩阵MaxW,对各个类别进行投票,最终获得每类的加权投票数向量WNums=[w1,w2,...,wk],则投票数最多的类别即为该记录的最终分类结果。
为验证本发明方法的有效性及可行性,以CPSC2018比赛的12导联心电信号数据集来验证,在测试集中的最终实验结果如表1:
表1
Figure BDA0002913365420000061

Claims (1)

1.一种基于通道注意力分组残差网络的12导联心电信号分类方法,其特征在于:该方法包括以下步骤:
S1.对12导联心电信号进行预处理;
(1)计算每个样本的总长度RL,确定分割窗口长度WL以及窗口移动步长S,对每个样本进行等长度的分割,每条记录分割出片段数量为:
Figure QLYQS_1
(2)将分割得到的心电信号子片段经过STFT变换到频域中,得到频谱图;
(3)对频谱图取对数,得到对数频谱图;
(4)最后对对数频谱图进行Z-Score归一化处理;
S2.构建面向12导联心电信号的XSENet模型;
该XSENet模型的主干网络采用Resnext和Senet结合的结构,包括四个残差块,记作Resnext_se block1、Resnext_se block2、Resnext_se block3、Resnext_se block4;特征向量A进入Resnext_se block1,分为c个组记作{A1,A2,...Ac},分别经过1×1卷积层、3×3卷积层、1×1卷积层,得到{A1′,A2′,...Ac′},然后将其合并为A′,然后A′通过Senet后与输入的特征向量A进行相加的结果作为Resnext_se block2的输入,接着以此进入Resnext_seblock3、Resnext_se block4,最后进入全连接层;其中Senet的网络结构包括globalaverage pooling,两层全连接层,sigmoid层;
S3.对S2中构建的XSENet模型进行优化训练;
所采用的损失函数是主干网络的损失和辅助分类器的损失组成的联合损失函数,数学定义如下:
以W表示主干网络的权重,则有:
W=(W1,...Wn);
输出层softmax表示为:
Figure QLYQS_2
主干网络的损失函数为:
Figure QLYQS_3
S4.对测试集中的每条12导联心电记录进行预测;
具体步骤如下:
(1)对测试集中每个12导联心电信号记录,采用S1中所述的方法进行预处理,每个记录共有N个对数频谱图Spes={spe1,spe2,...,speN},本心电频谱图所属记录的类别作为该频谱图的标签;
(2)将分割的片段Spes输入到训练好的XSENet模型中,通过softmax函数得到每条分割片段属于各个类别的概率向量Wn={wn 1,wn 2,...,wn K},其中n表示第n条分割的片段,wn K表示第n条片段属于类别k的概率;
(3)计算每条分割片段频谱的最大概率类别向量maxwN kj=[0,0…,wn j,…,0],整个记录中所有分割片段分别得到的最大概率类别矩阵表示为MaxW=[maxw1 k1,maxw2 k2,...,maxwN kj],其中Kj表示所有K个类别中第j个类别;
(4)通过该记录的所有分割片段最大概率矩阵MaxW,对各个类别进行投票,最终获得每类的投票数向量WNums=[w1,w2,...,wk],则投票数最多的类别即为该记录的最终分类结果。
CN202110092953.5A 2021-01-25 2021-01-25 一种基于通道注意力分组残差网络的12导联心电信号分类方法 Active CN112957054B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110092953.5A CN112957054B (zh) 2021-01-25 2021-01-25 一种基于通道注意力分组残差网络的12导联心电信号分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110092953.5A CN112957054B (zh) 2021-01-25 2021-01-25 一种基于通道注意力分组残差网络的12导联心电信号分类方法

Publications (2)

Publication Number Publication Date
CN112957054A CN112957054A (zh) 2021-06-15
CN112957054B true CN112957054B (zh) 2023-06-23

Family

ID=76271393

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110092953.5A Active CN112957054B (zh) 2021-01-25 2021-01-25 一种基于通道注意力分组残差网络的12导联心电信号分类方法

Country Status (1)

Country Link
CN (1) CN112957054B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113855043B (zh) * 2021-08-29 2023-08-18 北京工业大学 一种融合多导联注意力机制的ResNeXt网络分类方法
CN113768515A (zh) * 2021-09-17 2021-12-10 重庆邮电大学 一种基于深度卷积神经网络的心电信号分类方法
CN115429284B (zh) * 2022-09-16 2024-05-03 山东科技大学 心电信号分类方法、系统、计算机设备以及可读存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109620152A (zh) * 2018-12-16 2019-04-16 北京工业大学 一种基于MutiFacolLoss-Densenet的心电信号分类方法
CN110046604A (zh) * 2019-04-25 2019-07-23 成都信息工程大学 一种基于残差网络的单导联ecg心律失常检测分类方法
CN110251120A (zh) * 2019-06-06 2019-09-20 山东省计算中心(国家超级计算济南中心) 基于注意力机制的深度残差神经网络的心电图分类方法
JP2020020872A (ja) * 2018-07-30 2020-02-06 国立研究開発法人情報通信研究機構 識別器、学習済モデル、学習方法
CN111184511A (zh) * 2020-02-04 2020-05-22 西安交通大学 一种基于注意力机制和卷积神经网络的脑电信号分类方法
CN111814622A (zh) * 2020-06-29 2020-10-23 华南农业大学 农作物病虫害类型识别方法、系统、设备和介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020020872A (ja) * 2018-07-30 2020-02-06 国立研究開発法人情報通信研究機構 識別器、学習済モデル、学習方法
CN109620152A (zh) * 2018-12-16 2019-04-16 北京工业大学 一种基于MutiFacolLoss-Densenet的心电信号分类方法
CN110046604A (zh) * 2019-04-25 2019-07-23 成都信息工程大学 一种基于残差网络的单导联ecg心律失常检测分类方法
CN110251120A (zh) * 2019-06-06 2019-09-20 山东省计算中心(国家超级计算济南中心) 基于注意力机制的深度残差神经网络的心电图分类方法
CN111184511A (zh) * 2020-02-04 2020-05-22 西安交通大学 一种基于注意力机制和卷积神经网络的脑电信号分类方法
CN111814622A (zh) * 2020-06-29 2020-10-23 华南农业大学 农作物病虫害类型识别方法、系统、设备和介质

Also Published As

Publication number Publication date
CN112957054A (zh) 2021-06-15

Similar Documents

Publication Publication Date Title
CN112957054B (zh) 一种基于通道注意力分组残差网络的12导联心电信号分类方法
CN107822622B (zh) 基于深度卷积神经网络的心电图诊断方法和系统
CN110890155B (zh) 一种基于导联注意力机制的多类心律失常检测方法
CN109620152B (zh) 一种基于MutiFacolLoss-Densenet的心电信号分类方法
CN110638430B (zh) 级联神经网络ecg信号心律失常分类模型的搭建方法
TW201643865A (zh) 識別生理聲音的方法以及系統
CN110974214A (zh) 一种基于深度学习的自动心电图分类方法、系统及设备
US8750973B2 (en) Method and system for detecting P-waves in the surface ECG signal
Wen et al. Classification of ECG complexes using self-organizing CMAC
Feng et al. Unsupervised semantic-aware adaptive feature fusion network for arrhythmia detection
CN111368627A (zh) Cnn结合改进频率小波切片变换的心音分类方法及系统
Wu et al. Personalizing a generic ECG heartbeat classification for arrhythmia detection: a deep learning approach
Güler et al. Two-stage classification of respiratory sound patterns
Yadav et al. Analysis of heart disease using parallel and sequential ensemble methods with feature selection techniques: heart disease prediction
CN113855042B (zh) 融合深度和医学特征的基于序列标注的多导联心电信号分类方法
Wang et al. Multiscale residual network based on channel spatial attention mechanism for multilabel ECG classification
Tung et al. Multi-lead ECG classification via an information-based attention convolutional neural network
Zeng et al. Deep arrhythmia classification based on SENet and lightweight context transform
CN115470832B (zh) 一种基于区块链的心电信号数据处理方法
CN116649899A (zh) 一种基于注意力机制特征融合的心电信号分类方法
CN113855043B (zh) 一种融合多导联注意力机制的ResNeXt网络分类方法
He et al. Automatic classification of arrhythmias by residual network and BiGRU with attention mechanism
Liu et al. Classification of Arrhythmia Based on Convolutional Neural Networks and Encoder-Decoder Model.
Shafaatfar et al. Improving the Efficiency of Automatic Cardiac Arrhythmias Classification by a Novel Patient-Specific Feature Space Mapping
Li et al. AdapSQA: Adaptive ECG Signal Quality Assessment Model for Inter-Patient Paradigm using Unsupervised Domain Adaptation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant