CN110688942B - 一种基于InResNet网络的心电信号联合识别模块及方法 - Google Patents
一种基于InResNet网络的心电信号联合识别模块及方法 Download PDFInfo
- Publication number
- CN110688942B CN110688942B CN201910913305.4A CN201910913305A CN110688942B CN 110688942 B CN110688942 B CN 110688942B CN 201910913305 A CN201910913305 A CN 201910913305A CN 110688942 B CN110688942 B CN 110688942B
- Authority
- CN
- China
- Prior art keywords
- module
- network
- layer
- data
- inresnet
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
- G06F2218/10—Feature extraction by analysing the shape of a waveform, e.g. extracting parameters relating to peaks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
本发明公开了一种基于InResNet网络的心电信号联合识别模块及方法,本发明采用了InRes模块,将未知类型的心电信号输入训练好的InResNet网络,输入的信号依次经过输入模块、收缩模块、扩张模块、激活模块、分类模块处理得到各分类结果的概率,并以概率值最大的类型作为心电信号分类结果由输出模块输出。本发明具有在相同迭代次数下训练精确率高,训练损失低等优势。InRes模块相比于传统卷积层提高了网络的表达能力,减少了参数,且保护了信息的完整性。
Description
技术领域
本发明属于医疗器械技术领域,涉及心电信号的识别,特别涉及一种基于InResNet网络的心电信号联合识别模块及方法。
背景技术
传统的心电图检测识别方法主要有图像二值化、网格滤波和图像数字化。随后,许多学者对数字处理过程进行了优化,提出了多种提取信息的算法,如K-means方法和模式分类。传统的心电信号检测识别领域,其本质是分类,其中包括基于心拍的分类方法和基于片段的分类方法。基于心拍的分类方法思想在于找出患者心电图中的所有心拍,并依次判断其类别;基于片段的分类方法思想在于直接对患者心电图中包含多个心拍的某个片段做出判断,判断其所属类别。两种方法有各自的优缺点,基于心拍的分类方法由于落实到了单个心拍,其结果足够精细,给出的类别可信度较高,但由于要捕捉每个心拍,故需要额外的QRS波检测算法,导致后端分类器对于心拍定位的具体方法存在依赖;基于片段的分类方法由于直接对片段做出分类,故无需额外的QRS波检测算法辅助,可以实现端对端的分类,但其结果不够精细,比如片段中出现了多个类型的心拍,则无法对其类型一一做出判断。
发明内容
本发明解决的技术问题在于提供一种基于InResNet网络的心电信号联合识别模块及方法,基于深度学习的网络结构及方法,可用于心电仪器进行正常及多种非正常心电信号的识别。
本发明是通过以下技术方案来实现:
一种基于InResNet网络的心电信号联合识别模块,包括:
输入模块,接收一维心电数据作为输入的心电信号;
收缩模块,捕捉心电信号中的上下文信息,其包含特征提取和降维两个层,特征提取模块包含一个InRes层,降维模块包含一个池化层;
扩张模块,提取特征并将其与收缩模块中相应特征相对比,对心电信号中需要分割的部分进行定位,其主要包括上采样层和聚合层;
激活模块,利用Leaky ReLU激活函数对上一层的结果进行激活,以加入非线性因素;
分类模块,利用softmax层产生心电信号属于各个类别的概率;
输出模块,以概率值最大的类型作为心电信号分类的结果并输出。
所述各模块的信号处理为:
输入模块,接收结构为1×1800的一维心电信号作为输入;
收缩模块,对输入的心电信号数据进行特征提取,捕捉信号中的上下文信息,得到225×128的特征;
扩张模块,225×128的特征输入扩张模块再次进行特征提取,并将提取出的特征与在收缩模块中对应的特征相结合,得到1800×3的特征数据;
激活模块,1800×3的特征数据输入激活模块增强网络的表达能力,并将激活后的特征数据输入分类模块;
分类模块,利用softmax函数得到表现心电信号在每个采样点处所属类别的概率的1800×1的数据;
输出模块,以概率值最大的类型作为心电信号分类的结果并输出。
所述的收缩模块中,特征提取层是利用InRes层对输入信号进行特征提取,学习信号中的数据分布;
降维层包含一个1×2的最大池化操作,利用池化操作对提取到的特征进行降维,降低信息复杂度。
所述的扩张模块中,上采样层包含一个1×2的上采样操作以及一个1×4的卷积操作;聚合层包含一个将相应特征合并的操作。
进一步,本发明还提供一种基于InResNet网络的心电信号联合识别方法,包括以下操作:
1)构建由输入模块、包含InRes层的收缩模块、包含上采样层和聚合层的扩张模块、激活模块、包含softmax层的分类模块以及输出模块组成的InResNet网络;
设输入的心电信号为A=[a1 a2 ... a1800],所述的InResNet网络的信号处理过程为:
一维的心电数据A由输入模块进入;
再经收缩模块的InRes层对数据进行特征提取,得到结构为225×128的特征B;
特征B输入扩张模块的上采样层再次进行特征提取,并将提取出的特征与在InRes层中对应的特征相结合进行定位,得到特征数据C;
特征数据C输入聚合层进行卷积,并将输出结果输入到激活层增强网络的表达能力,得到数据D=[d1 d2 ... d1800];
数据D被输入分类模块的softmax层得到数据E=[e1 e2 ... e1800],数据E表现了心电信号在每个采样点处所属类别的概率;
最终由输出模块输出数据E;
2)对构建的InResNet网络利用训练集进行以下学习训练:
a、将每一个心电数据的损失表示为p(xi)表示数据的真实分布,q(xi)表示网络预测的分布,选用包含正常搏动型和室性早搏型这两类心电信号的训练集进行训练,每类数据含多个样本;每次迭代后所有数据的损失为LOSS,其中I为类别,J为每种类别的样本数量;
b、利用反向传播调节InResNet网络参数,在InResNet网络前向传播后,得到每一层每一个节点的输出值,然后确定InResNet网络的损失函数LOSS,在输出模块计算出输出和样本值的残差,并分别计算出其他各层各节点的残差,最后分别求出损失函数对于权值和偏置的偏导数,根据梯度下降法更新权值和偏置;经过多轮迭代核卷积神经网络达到收敛状态,得到优化的InResNet网络参数;
3)将未知类型的心电信号输入训练好的InResNet网络,输入的信号依次经过输入模块、收缩模块、扩张模块、激活模块、分类模块处理得到各分类结果的概率,并以概率值最大的类型作为心电信号分类结果由输出模块输出。
进一步的,在对InResNet网络训练开始前还设置以下训练条件:
采用正态分布初始化方法,令所有卷积层的参数由均值为0,标准差为1的正态分布随机产生;
对输入心电数据进行z-score标准化,然后开始训练;
每个训练批次包含5个样本,一次迭代包含100个训练批次,共迭代70次,其中学习率在前50次迭代中设置为10-4,在50次以后变为10-5。
进一步的,所述的训练集的制作为:
1)从数据库中提取心电数据,利用心电数据生成心电图,每张心电图中包含5个完整心拍;
2)选取部分心电图,利用图像标注工具对相应心拍的位置和类型进行标记;
3)心电图中被标记的心拍,根据下式转换为包含信号幅值的一维数据的形式:
其中,Li表示图片长度,Ls表示信号实际长度,xl1,xl2,xr1,xr2分别表示labelme边界框四个点的水平位置坐标;xl'和xr'表示心电图中左右边界在信号上的实际位置;
所有被标记的一维心电数据随机选择其中500个作为训练集,100个作为测试集。
与现有技术相比,本发明具有以下有益的技术效果:
本发明提供的基于InResNet网络的心电信号联合识别模块及方法。与U-Net比较,由于采用了InRes模块,使得本发明具有在相同迭代次数下训练精确率高,训练损失低等优势;迭代完成后U-Net模型在测试集上的准确率达到92.19%,损失值为0.1909;InResNet模型在测试集上的准确率达到98.25%,损失值为0.0423。结果表明在训练过程中,InResNet模型的性能较好,并可知在实现相同准确率的情况下,InResNet的收敛速度更快;由相同心电信号的识别结果的精确率和损失曲线对比可知,本发明提供的InResNet的鲁棒性优于U-Net,InRes模块相比于传统卷积层提高了网络的表达能力,减少了参数,且保护了信息的完整性。
在相同的网络深度下,U-Net模型训练过程中的单次平均迭代时长和运行时间均少于InResNet模型,即U-Net的时间复杂度小于InResNet;U-Net的参数个数为1579363,而本发明的InResNet的参数个数为259586,即InResNet的空间复杂度小于U-Net。
同一心电信号在两种网络模型上的测试结果,每张图的第一个部分代表输入信号的波形,后三个部分分别代表该信号属于背景,正常或室性早搏的概率。我们可以看出,在横坐标约为1500~1800的范围内,U-Net模型没有正确检测识别该信号(图9a),而InResNet模型则将其准确检测并判定为正常波形。因此,在检测实例中,本发明的InResNet模型表现也更好。
附图说明
图1为InResNet的网络结构的示意图。
图2为InRes模块的结构示意图。
图3为特征堆叠模块的结构示意图。
图4为残差模块的结构示意图。
图5为本发明的相关模块以及数据的运行流程示意图。
图6为本发明方法的整体流程图。
图7为本发明方法的实验流程图。
图8a-图8b分别为U-Net和InResNet的训练情况,图8a为U-Net的精确率(左图)和损失曲线(右图),图8b为InResNet的精确率曲线(左图)和损失曲线(右图)。
图9a-图9b为同一心电信号在两种网络模型上的测试结果,图9a为U-Net模型的测试结果,图9b为本发明的测试结果。
具体实施方式
下面结合实施例对本发明做进一步详细描述,所述是对本发明的解释而不是限定。
1、InResNet网络结构
U-Net是一种图像分割网络,它由一个收缩路径和一个扩展路径组成。收缩路径主要是用来捕捉图片中的上下文信息,而与之相对称的扩展路径则是为了对图片中所需要分割出来的部分进行精准定位。U-Net的特点在于收缩路径和扩张路径是相互映射的关系,在扩张的过程中,通过合并与之对应的收缩路径特征补全丢失的边界信息,提升预测边缘信息的准确性。与其他网络相比,U-Net具有结构简单,样本需求量少等优点。
如图1所示,本发明基于U-Net提出了InResNet网络,分为收缩路径和扩张路径两个部分。在收缩路径中,每一个下采样层都使数据的特征长度变为原来的1/2;在扩展路径中,每一个上采样操作包含一个上采样层和一个1×8的卷积层,在每一次上采样之后,输出数据的特征长度变为原来的2倍,并且需要与收缩路径中相应的特征合并才能输入到下一层;在网络的末尾,令最后一个InRes层的输出通过一个包含1x1卷积层、Leaky ReLU激活层以及softmax层的网络得到输入心电信号所对应的检测识别结果其中,1x1卷积层的作用是提取特征,降维;Leaky ReLU激活层的作用是增加网络的表达能力;softmax层的作用是对输入数据进行分类。
与U-Net相比,本发明的InResNet主要有以下差别:
1)输入由二维图片变成了1800×1的一维信号;
2)将收缩路径中单一尺度的卷积层替换成了InRes模块(层);
3)网络中所有的激活函数由ReLU替换为Leaky ReLU。
下面对InRes模块进行具体的说明。
如图2所示,InRes模块首先对输入进行三路的1×1的卷积,然后输出分别连接1×64、1×32、1×16的卷积,最后通过一个聚合操作将三路特征合并,重复此过程两遍;再将第三次的输出与开始的输入再进行聚合并通过Leaky ReLU激活函数,便得到最终的输出。结构中的卷积操作均进行全零填充,可保证不同卷积尺度下的输出特征长度相同,方便合并。
由于InRes模块中包含了3种不同尺寸的卷积,增加了网络对不同尺度的适应性,扩充了网络的深度和宽度,提高了网络的表达能力,减少了计算量;而且通过直接将输入信息绕道传到输出,保护信息的完整性,简化学习目标和难度。本发明将InRes模块在卷积中划分为一个单独的层,称作InRes层。
Leaky ReLU激活函数
Leaky ReLU激活函数是经典的ReLU激活函数的变体,该函数给所有负值赋予一个非零斜率。这能减少静默神经元的出现,解决了ReLU函数进入负区间后神经元不学习的问题。其表达式可用式(1)表示:
其中,xi是经过当前层线性变化后的输出,yi是经过激活后的输出,ai是(1,+∞)区间内的固定参数。
2、InRes模块的特征堆叠
如图3所示,网络在3x3,5x5卷积层前,最大池化层后分别加上了1x1的卷积操作。在所有卷积操作完成后,最终将1x1,3x3,5x5的卷积层和3x3的最大池化层产生的特征图堆叠在一起。
这样有以下几个优点:
(1)在多个尺度上同时进行卷积,能提取到不同尺度的特征;
(2)利用稀疏矩阵分解成密集矩阵计算的原理来加快收敛速度;
(3)类似赫布原理,Inception结构要把相关性强的特征汇聚到一起;
(4)可以进行跨通道的特征变换,把这些相关性很高的、在同一个空间位置但是不同通道的特征连接在一起,提高网络的表达能力;
(5)对输出通道升维和降维,减少计算量。
3、InRes模块的激活
如图4所示,图中x为输入值,F(x)是经过卷积层1线性变化并激活后的输出,F(x)在经过卷积层2线性变化之后并不进行激活,而是在F(x)加入了输入值x后再进行激活并输出。在卷积层2的输出值激活前加入x,这条路径称作shortcut连接。shortcut连接相当于简单执行了同等映射,不会产生额外的参数,也不会增加计算复杂度。其优势是通过直接将输入信息绕道传到输出,保护了信息的完整性,简化了学习目标和难度,加强了对于高级抽象特征的提取能力,同时解决了梯度消失的问题。
4、损失函数
损失函数用来评估预测值与参考值之间的不一致程度,在网络模型的输出层后进行计算。损失函数越小,则模型的鲁棒性越好。具体的,采用交叉熵作为损失函数,交叉熵的计算如式(2)所示。
其中,p(x)表示数据的真实分布,q(x)表示网络预测的分布。
如图5所示,本发明提供的基于InResNet网络的心电信号联合识别模块,包括:
输入模块,接收一维心电数据作为输入的心电信号;
收缩模块,捕捉心电信号中的上下文信息,其包含特征提取和降维两个层,特征提取模块包含一个InRes层,降维模块包含一个池化层;
扩张模块,提取特征并将其与收缩模块中相应特征相对比,对心电信号中需要分割的部分进行定位,其主要包括上采样层和聚合层;
激活模块,利用Leaky ReLU激活函数对上一层的结果进行激活,以加入非线性因素;
分类模块,利用softmax层产生心电信号属于各个类别的概率;
输出模块,以概率值最大的类型作为心电信号分类的结果并输出。
具体的:
输入模块,负责接收一个1×1800的一维心电数据作为输入。
收缩模块,负责捕捉信号中的上下文信息,得到225×128的特征(如RR间期和R波峰值等信息),主要包含特征提取和降维两个层,特征提取模块主要包含一个InRes层,降维模块主要包含一个1×2的最大池化操作。特征提取模块的作用是利用InRes层对输入信号进行特征提取,学习信号中的数据分布;降维模块的作用是利用池化操作对提取到的特征进行降维,降低信息复杂度。
扩张模块,225×128的特征输入扩张模块再次进行特征提取,扩张模块负责对信号中需要分割出来的部分进行精准定位,扩张模块通过将模块中提取出来的特征与收缩模块中相应特征相结合来确定心电信号中需要分割出来的部分,其中主要包括上采样和聚合两个层;上采样模块主要包含一个1×2的上采样操作以及一个1×4的卷积操作,聚合模块主要包含一个将相应特征合并的操作。
激活模块,1800×3的特征数据输入激活模块增强网络的表达能力,负责利用LeakyReLU激活函数对上一层的结果进行激活。活模块的作用是,加入非线性因素,提高网络的表达能力。
分类模块,利用softmax函数得到表现心电信号在每个采样点处所属类别的概率的1800×1的数据;
输出模块,以概率值最大的类型作为心电信号分类的结果并输出。
如图6所示,展示了本发明方法的操作流程,主要包括构建InResNet的网络模型,InResNet网络的学习,输出检测识别结果等部分;
具体的,基于InResNet网络的心电信号联合识别方法,包括以下操作:
1)构建由输入模块、包含InRes层的收缩模块、包含上采样层和聚合层的扩张模块、激活模块、包含softmax层的分类模块以及输出模块组成的InResNet网络;
设输入的心电信号为A=[a1 a2 ... a1800],所述的InResNet网络的信号处理过程为:
一维的心电数据A由输入模块进入;
再经收缩模块的InRes层对数据进行特征提取,得到结构为225×128的特征B;
特征B输入扩张模块的上采样层再次进行特征提取,并将提取出的特征与在InRes层中对应的特征相结合进行定位,得到特征数据C;
特征数据C输入聚合层进行卷积,并将输出结果输入到激活层增强网络的表达能力,得到数据D=[d1 d2 ... d1800];
数据D被输入分类模块的softmax层得到数据E=[e1 e2 ... e1800],数据E表现了心电信号在每个采样点处所属类别的概率;
最终由输出模块输出数据E;
2)对构建的InResNet网络利用训练集进行以下学习训练:
a、将每一个心电数据的损失表示为p(xi)表示数据的真实分布,q(xi)表示网络预测的分布,选用包含正常搏动型和室性早搏型这两类心电信号的训练集进行训练,每类数据含多个样本;每次迭代后所有数据的损失为LOSS,其中I为类别,J为每种类别的样本数量;
b、利用反向传播调节InResNet网络参数,在InResNet网络前向传播后,得到每一层每一个节点的输出值,然后确定InResNet网络的损失函数LOSS,在输出模块计算出输出和样本值的残差,并分别计算出其他各层各节点的残差,最后分别求出损失函数对于权值和偏置的偏导数,根据梯度下降法更新权值和偏置;经过多轮迭代核卷积神经网络达到收敛状态,得到优化的InResNet网络参数;
3)将未知类型的心电信号输入训练好的InResNet网络,输入的信号依次经过输入模块、收缩模块、扩张模块、激活模块、分类模块处理得到各分类结果的概率,并以概率值最大的类型作为心电信号分类结果由输出模块输出。
进一步的,InResNet网络在识别心电信号时,所述的收缩模块、扩张模块还进行以下重复操作:
收缩模块对输入的心电信号进行三路的1×1的卷积,然后输出分别连接1×64、1×32、1×16的卷积,然后通过扩张模块的聚合操作将三路特征合并,重复此过程两遍;再将第三次的输出与输入模块接收的心电信号再进行聚合。
在模型训练开始前,采用正态分布初始化方法,令所有卷积层的参数由均值为0,标准差为1的正态分布随机产生;对输入心电数据进行z-score标准化,然后开始训练。每个训练批次包含5个样本,一次迭代包含100个训练批次,共迭代70次,其中学习率在前50次迭代中设置为10-4,在50次以后变为10-5。
训练完成后,输入心电信号由InResNet网络模型进行识别,输出分类结果。
所述的训练集的制作为:
步骤1,从数据库中提取心电数据。
具体的,使用二导联方式下采集到的心电数据;其中,数据长度为30分钟。
步骤2,利用心电数据生成心电图,每张心电图中包含5个完整心拍。
步骤3,选取部分心电图,利用图像标注工具对相应心拍的位置和类型进行标记;即人工标注出各心拍的大致范围,并为每个心拍添加标签,共设置2类标签:正常(N)和室性早搏(V)。
步骤4,制作数据集
4.1)心电图中被标记的心拍,转换为相应的一维心电数据。
将心电图中的波形由二维图片转换为包含信号幅值的一维数据的形式,转换规则如公式(4-1)和公式(4-2)所示:
其中,Li表示图片长度,Ls表示信号实际长度,xl1,xl2,xr1,xr2分别表示labelme边界框四个点的水平位置坐标。xl'和xr'表示心电图中左右边界在信号上的实际位置。
4.2)所有被标记的一维心电数据随机选择其中500个作为训练集,100个作为测试集。
步骤5,利用制作好的数据集训练模型。
步骤6,利用模型对测试数据中的心电信号进行检测识别。
步骤7,得到正常及非正常心电信号的检测识别结果。
在训练完成后,迭代完成后U-Net模型在测试集上的准确率达到92.19%,损失值为0.1909;InResNet模型在测试集上的准确率达到98.25%,损失值为0.0423。因此,在训练过程中,InResNet模型的性能较好,并可知在实现相同准确率的情况下,InResNet的收敛速度更快。
表1表示在相同迭代次数下,U-Net和InResNet的训练情况。与U-Net比较,由于采用了InRes模块,使得本发明具有在相同迭代次数下训练精确率高,训练损失低等优势。相应的精确率和损失曲线如图8a-图8b所示。通过对比我们可以得出结论,InResNet的鲁棒性优于U-Net,并且可以确定,在实现相同精确率的情况下,InResNet网络的收敛速度更快。
表1两种网络的训练结果比较
网络模型 | 精确率(accuracy) | 损失(loss) |
U-Net | 92.19% | 0.1909 |
InResNet | 98.25% | 0.0423 |
与U-Net比较,由于采用了InRes模块,使得本发明具有在网络深度相同情况下,训练参数小,计算量低等优势。
表2两种网络的训练参数比较
网络模型 | 训练参数 |
U-Net | 1,579,363 |
InResNet | 259,586 |
结果表明在相同的网络深度下,U-Net模型训练过程中的单次平均迭代时长和运行时间均少于InResNet模型,即U-Net的时间复杂度小于InResNet;U-Net的参数个数为1579363,InResNet的参数个数为259586,即InResNet的空间复杂度小于U-Net。
图9a-图9b为同一心电信号在两种网络模型上的测试结果,每张图的第一个部分代表输入信号的波形,后三个部分分别代表该信号属于背景,正常或室性早搏的概率。我们可以看出,在横坐标约为1500~1800的范围内,U-Net模型没有正确检测识别该信号(图9a),而InResNet模型则将其准确检测并判定为正常波形(N)(图9b)。
以上给出的实施例是实现本发明较优的例子,本发明不限于上述实施例。本领域的技术人员根据本发明技术方案的技术特征所做出的任何非本质的添加、替换,均属于本发明的保护范围。
Claims (8)
1.一种基于InResNet网络的心电信号联合识别模块,其特征在于,包括:
输入模块,接收一维心电数据作为输入的心电信号;
收缩模块,捕捉心电信号中的上下文信息,其包含特征提取和降维两个层,特征提取模块包含一个InRes层,降维模块包含一个池化层;所述InRes层是将InRes模块在卷积中划分为一个单独的层;InRes层在特征提取时对输入的心电信号进行三路的1×1的卷积,然后输出分别连接1×64、1×32、1×16三路卷积;
扩张模块,提取特征并将其与收缩模块中相应特征相对比,对心电信号中需要分割的部分进行定位,其包括上采样层和聚合层;
激活模块,利用Leaky ReLU激活函数对上一层的结果进行激活,以加入非线性因素;
分类模块,利用softmax层产生心电信号属于各个类别的概率;
输出模块,以概率值最大的类型作为心电信号分类的结果并输出。
2.如权利要求1所述的基于InResNet网络的心电信号联合识别模块,其特征在于,各模块的信号处理为:
输入模块,接收结构为1×1800的一维心电信号作为输入;
收缩模块,对输入的心电信号数据进行特征提取,捕捉信号中的上下文信息,得到225×128的特征;
扩张模块,225×128的特征输入扩张模块再次进行特征提取,并将提取出的特征与在收缩模块中对应的特征相结合,得到1800×3的特征数据;
激活模块,1800×3的特征数据输入激活模块增强网络的表达能力,并将激活后的特征数据输入分类模块;
分类模块,利用softmax函数得到表现心电信号在每个采样点处所属类别的概率的1800×1的数据;
输出模块,以概率值最大的类型作为心电信号分类的结果并输出。
3.如权利要求1所述的基于InResNet网络的心电信号联合识别模块,其特征在于,所述的收缩模块中,特征提取层是利用InRes层对输入信号进行特征提取,学习信号中的数据分布;
降维层包含一个1×2的最大池化操作,利用池化操作对提取到的特征进行降维,降低信息复杂度。
4.如权利要求1所述的基于InResNet网络的心电信号联合识别模块,其特征在于,所述的扩张模块中,上采样层包含一个1×2的上采样操作以及一个1×4的卷积操作;聚合层包含一个将相应特征合并的操作。
5.一种基于InResNet网络的心电信号联合识别方法,其特征在于,包括以下操作:
1)构建由输入模块、包含InRes层的收缩模块、包含上采样层和聚合层的扩张模块、激活模块、包含softmax层的分类模块以及输出模块组成的InResNet网络;所述InRes层是将InRes模块在卷积中划分为一个单独的层;InRes层在特征提取时对输入的心电信号进行三路的1×1的卷积,然后输出分别连接1×64、1×32、1×16三路卷积;
设输入的心电信号为A=[a1 a2 ... a1800],所述的InResNet网络的信号处理过程为:
一维的心电数据A由输入模块进入;
再经收缩模块的InRes层对数据进行特征提取,得到结构为225×128的特征B;
特征B输入扩张模块的上采样层再次进行特征提取,并将提取出的特征与在InRes层中对应的特征相结合进行定位,得到特征数据C;
特征数据C输入聚合层进行卷积,并将输出结果输入到激活层增强网络的表达能力,得到数据D=[d1 d2 ... d1800];
数据D被输入分类模块的softmax层得到数据E=[e1 e2 ... e1800],数据E表现了心电信号在每个采样点处所属类别的概率;
最终由输出模块输出数据E;
2)对构建的InResNet网络利用训练集进行以下学习训练:
a、将每一个心电数据的损失表示为p(xi)表示数据的真实分布,q(xi)表示网络预测的分布,选用包含正常搏动型和室性早搏型这两类心电信号的训练集进行训练,每类数据含多个样本;每次迭代后所有数据的损失为LOSS,/>其中I为类别,J为每种类别的样本数量;
b、利用反向传播调节InResNet网络参数,在InResNet网络前向传播后,得到每一层每一个节点的输出值,然后确定InResNet网络的损失函数LOSS,在输出模块计算出输出和样本值的残差,并分别计算出其他各层各节点的残差,最后分别求出损失函数对于权值和偏置的偏导数,根据梯度下降法更新权值和偏置;经过多轮迭代核卷积神经网络达到收敛状态,得到优化的InResNet网络参数;
3)将未知类型的心电信号输入训练好的InResNet网络,输入的信号依次经过输入模块、收缩模块、扩张模块、激活模块、分类模块处理得到各分类结果的概率,并以概率值最大的类型作为心电信号分类结果由输出模块输出。
6.如权利要求5所述的基于InResNet网络的心电信号联合识别方法,其特征在于,InResNet网络在识别心电信号时,所述的收缩模块、扩张模块还进行以下重复操作:
收缩模块对输入的心电信号进行三路的1×1的卷积,然后输出分别连接1×64、1×32、1×16的卷积,然后通过扩张模块的聚合操作将三路特征合并,重复此过程两遍;再将第三次的输出与输入模块接收的心电信号再进行聚合。
7.如权利要求5所述的基于InResNet网络的心电信号联合识别方法,其特征在于,在对InResNet网络训练开始前还设置以下训练条件:
采用正态分布初始化方法,令所有卷积层的参数由均值为0,标准差为1的正态分布随机产生;
对输入心电数据进行z-score标准化,然后开始训练;
每个训练批次包含5个样本,一次迭代包含100个训练批次,共迭代70次,其中学习率在前50次迭代中设置为10-4,在50次以后变为10-5。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910913305.4A CN110688942B (zh) | 2019-09-25 | 2019-09-25 | 一种基于InResNet网络的心电信号联合识别模块及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910913305.4A CN110688942B (zh) | 2019-09-25 | 2019-09-25 | 一种基于InResNet网络的心电信号联合识别模块及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110688942A CN110688942A (zh) | 2020-01-14 |
CN110688942B true CN110688942B (zh) | 2023-05-26 |
Family
ID=69110318
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910913305.4A Active CN110688942B (zh) | 2019-09-25 | 2019-09-25 | 一种基于InResNet网络的心电信号联合识别模块及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110688942B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111481192B (zh) * | 2020-04-22 | 2022-06-03 | 重庆邮电大学 | 一种基于改进U-Net的心电信号R波检测方法 |
CN113095238B (zh) * | 2021-04-15 | 2021-12-28 | 山东省人工智能研究院 | 一种基于联邦学习的个性化心电信号监测方法 |
CN113469218A (zh) * | 2021-06-02 | 2021-10-01 | 安徽心之声医疗科技有限公司 | 基于深度学习的心电信号危急值处理方法、系统及介质 |
CN113838026B (zh) * | 2021-09-22 | 2024-02-02 | 中南大学 | 非小细胞肺癌检测方法、装置、计算机设备和存储介质 |
CN115553787A (zh) * | 2022-09-30 | 2023-01-03 | 哈尔滨理工大学 | 一种基于多尺度残差收缩U-Net的胎儿心电信号提取方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019178404A1 (en) * | 2018-03-14 | 2019-09-19 | The Regents Of The University Of California | Automated cardiac function assessment by echocardiography |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190156204A1 (en) * | 2017-11-20 | 2019-05-23 | Koninklijke Philips N.V. | Training a neural network model |
CN108113666B (zh) * | 2017-12-19 | 2019-06-21 | 中国科学院深圳先进技术研究院 | 房颤信号的识别方法、装置和设备 |
CN108175402A (zh) * | 2017-12-26 | 2018-06-19 | 智慧康源(厦门)科技有限公司 | 基于残差网络的心电数据的智能识别方法 |
CN109377470A (zh) * | 2018-03-20 | 2019-02-22 | 任昊星 | 一种心脏病风险预测系统 |
CN109303560A (zh) * | 2018-11-01 | 2019-02-05 | 杭州质子科技有限公司 | 一种基于卷积残差网络和迁移学习的短时心电信号房颤识别方法 |
CN110251120B (zh) * | 2019-06-06 | 2021-03-30 | 山东省计算中心(国家超级计算济南中心) | 基于注意力机制的深度残差神经网络的心电图分类方法 |
CN110141220B (zh) * | 2019-06-20 | 2022-03-15 | 鲁东大学 | 基于多模态融合神经网络的心肌梗死自动检测系统 |
-
2019
- 2019-09-25 CN CN201910913305.4A patent/CN110688942B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019178404A1 (en) * | 2018-03-14 | 2019-09-19 | The Regents Of The University Of California | Automated cardiac function assessment by echocardiography |
Also Published As
Publication number | Publication date |
---|---|
CN110688942A (zh) | 2020-01-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110688942B (zh) | 一种基于InResNet网络的心电信号联合识别模块及方法 | |
CN108573225B (zh) | 一种局部放电信号模式识别方法及系统 | |
CN106529447B (zh) | 一种小样本人脸识别方法 | |
Othman et al. | Probabilistic neural network for brain tumor classification | |
Zhang et al. | Picking neural activations for fine-grained recognition | |
CN112883803B (zh) | 一种基于深度学习的心电信号分类方法、装置及存储介质 | |
CN107301643B (zh) | 基于鲁棒稀疏表示与拉普拉斯正则项的显著目标检测方法 | |
CN108171119B (zh) | 基于残差网络的sar图像变化检测方法 | |
CN110786849B (zh) | 基于多视图鉴别分析的心电信号身份识别方法及系统 | |
CN111898621A (zh) | 一种轮廓形状识别方法 | |
CN112364974B (zh) | 一种基于激活函数改进的YOLOv3算法 | |
CN115530788A (zh) | 基于自注意力机制的心律失常分类方法 | |
CN111027570B (zh) | 一种基于细胞神经网络的图像多尺度特征提取方法 | |
Sun et al. | Prototypical inception network with cross branch attention for time series classification | |
CN106897724A (zh) | 一种基于轮廓线形状特征的植物叶片识别方法 | |
CN114492519A (zh) | 一种基于超声回波射频信号的肺超声特殊征象b线识别分类方法 | |
Maiti et al. | Detection of skin cancer using neural architecture search with model quantization | |
Iqtidar et al. | Image pattern analysis towards classification of skin cancer through dermoscopic images | |
CN115546862A (zh) | 基于跨尺度局部差异深度子空间特征的表情识别方法和系统 | |
CN113361494B (zh) | 基于人脸识别的自助服务方法及自助服务系统 | |
Menaka et al. | Classification of multispectral satellite images using sparse SVM classifier | |
CN109190645A (zh) | 一种高阶高维图像数据的表示与分类方法 | |
CN113052802A (zh) | 基于医学图像的小样本图像分类方法、装置及设备 | |
Fatih Demirci et al. | Many-to-many matching of scale-space feature hierarchies using metric embedding | |
CN110852167A (zh) | 一种基于最优激活模型的遥感图像分类方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |