CN113288163A - 基于注意力机制的多特征融合心电信号分类模型建模方法 - Google Patents
基于注意力机制的多特征融合心电信号分类模型建模方法 Download PDFInfo
- Publication number
- CN113288163A CN113288163A CN202110627422.1A CN202110627422A CN113288163A CN 113288163 A CN113288163 A CN 113288163A CN 202110627422 A CN202110627422 A CN 202110627422A CN 113288163 A CN113288163 A CN 113288163A
- Authority
- CN
- China
- Prior art keywords
- attention mechanism
- feature fusion
- layer
- attention
- electrocardiosignal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000004927 fusion Effects 0.000 title claims abstract description 57
- 230000007246 mechanism Effects 0.000 title claims abstract description 50
- 238000013145 classification model Methods 0.000 title claims abstract description 31
- 238000000034 method Methods 0.000 title claims abstract description 23
- 238000012549 training Methods 0.000 claims abstract description 21
- 230000002457 bidirectional effect Effects 0.000 claims abstract description 11
- 238000011156 evaluation Methods 0.000 claims abstract description 10
- 230000006870 function Effects 0.000 claims abstract description 8
- 238000012360 testing method Methods 0.000 claims abstract description 7
- 230000007787 long-term memory Effects 0.000 claims abstract description 4
- 230000006403 short-term memory Effects 0.000 claims abstract description 4
- 206010003658 Atrial Fibrillation Diseases 0.000 claims description 23
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 claims description 7
- 230000004913 activation Effects 0.000 claims description 7
- 230000015654 memory Effects 0.000 claims description 7
- 238000010606 normalization Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 230000008569 process Effects 0.000 claims description 3
- 239000000284 extract Substances 0.000 abstract description 3
- 238000007781 pre-processing Methods 0.000 abstract description 3
- 239000003814 drug Substances 0.000 abstract description 2
- 238000000605 extraction Methods 0.000 abstract 1
- 238000013528 artificial neural network Methods 0.000 description 4
- 206010019280 Heart failures Diseases 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000004880 explosion Methods 0.000 description 2
- 208000019622 heart disease Diseases 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 208000010125 myocardial infarction Diseases 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 208000024172 Cardiovascular disease Diseases 0.000 description 1
- 241000282414 Homo sapiens Species 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 206010003119 arrhythmia Diseases 0.000 description 1
- 230000006793 arrhythmia Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000747 cardiac effect Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000002565 electrocardiography Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000001766 physiological effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
- A61B5/7267—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/2431—Multiple classes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/08—Feature extraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2218/00—Aspects of pattern recognition specially adapted for signal processing
- G06F2218/12—Classification; Matching
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Physiology (AREA)
- Psychiatry (AREA)
- Signal Processing (AREA)
- Pathology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Probability & Statistics with Applications (AREA)
- Fuzzy Systems (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
本发明公开了基于注意力机制的多特征融合心电信号分类模型建模方法。本发明步骤：构建基于注意力机制的多特征融合模型，进行模型训练，用测试集验证模型，计算评价标准，根据评价标准调整模型参数，最终得到基于注意力机制的多特征融合心电信号分类模型；其中，构建基于注意力机制的多特征融合模型，包括利用深层残差网络提取心电信号的局部特征，利用双向长短期记忆网络提取心电信号的全局特征，并引入注意力机制进行特征融合，同时对重要信息进行保留，最后输入softmax函数进行分类。本发明摒弃了传统算法数据预处理、手工特征提取等步骤，融合多个心电特征，能提取重点信息，去除干扰信息，提升模型准确率，对临床医学做出贡献。
Description
技术领域
本发明属于心电信号分类技术领域，具体涉及一种基于注意力机制的多特征融合心电信号分类模型建模方法。
背景技术
在全世界，心脏病是导致死亡的主要原因之一。心电描记术(ECG)可以记录心脏在一段时间内的生理活动，常被用于生理信号的常规监测。对心电信号的有效分析有助于检测许多心脏疾病，如房颤(AF)、心肌梗死(MI)和心力衰竭(HF)等。其中，房颤是临床上最为常见的心律失常之一。近年来，随着人口老龄化的日益加重，房颤的发病率呈现逐年增加的趋势，由此而引发的并发症及心血管疾病严重威胁着人类的健康。因此，有关从心电信号记录中有效且准确地诊断房颤的研究，具有非常重要的意义。
计算机辅助解释自从50多年前被引入临床心电图工作流程以来，已经变得越来越重要，在许多临床环境中作为医生解释的重要辅助手段。心电信号分类相关研究中，传统的机器学习是凭借人为手工提取特征来获得模型，但是人为手工提取特征的方法，不仅受各种噪声影响，而且会丢失大量信息，并不适用于庞大的用户人群，泛化能力较差，不足以应对实际运用。
最近几年，深度学习模型在心电数据建模方面取得了初步成功，广泛使用的心电信号数据和深度学习的算法范例为大幅提高自动心电图分析的准确性和可扩展性提供了机会。现有的算法，大多是以原始心电信号作为端到端的深度神经网络(DNNs)模型的输入数据，不需要大量的数据预处理、特征工程或手工规则，经过层层抽象将原始数据逐层抽象为自身任务所需的最终特征表示，最后以特征到任务目标的映射作为结束。然而端到端的深度神经网络无法对全面的特征进行提取，现有的商业心电图解释算法仍然表现出相当大的误诊率。
发明内容
针对现有技术所存在的问题，本发明提出一种基于注意力机制的多特征融合心电信号分类模型建模方法，构建的基于注意力机制的多特征融合模型利用深层残差网络提取心电信号的局部信息，并利用双向长短期记忆网络提取心电信号的全局信息，引入注意力机制进行特征融合，同时对重要信息进行保留，最后输入softmax函数进行分类。
为实现上述目的，本发明采用如下的技术方案：
本发明基于注意力机制的多特征融合心电信号分类模型建模方法，按以下步骤实现：
步骤1、构建基于注意力机制的多特征融合模型，具体过程如下：
1.1将T组原始心电信号输入深度残差网络，获得原始心电信号数据的局部特征vi，i∈[1，T]。其中，搭建的深度残差网络包括34层，采用残差块的连接方式，每个残差块有两个卷积层，在每一个卷积层之前，顺序采用批归一化和ReLu激活函数层，最后一个残差块的最后一个卷积层之前采用了dropout层。
1.2将步骤1.1中的T组原始心电信号传入双向长短期记忆网络，双向长短期记忆网络的输出维度设置为128，获得原始心电信号的全局特征hi，i∈[1,T]。
1.3将全局特征和局部特征输入注意力机制，提取出局部特征中的原始心电信号分类依据，具体过程如下：
1.3.1将局部特征vi和全局特征hi分别经过全连接层，与不同的权重WQ、Wk乘积后通过融合层实现相加，相加后再传入tanh激活函数，获取全局特征与局部特征的相似度，最后将相似度传入全连接层，与权重Wa乘积得到融合特征ei。融合特征ei的表达式如下：
ei＝Wa*tanh(WQ*vi+Wk*hi) (1)
1.3.2将融合特征ei传入softmax层做归一化处理，得到权重ai。ai的表达式如下：
1.3.3将权重ai与局部特征vi做乘积计算，提取局部特征中的原始心电信号分类依据S，S的表达式如下：
S＝ai*vi (3)
1.4利用softmax层的映射做原始心电信号的最终分类输出，得到分类模型，共分成四个分类标签，包括房颤类、噪声类、正常类和其他类；
步骤2、对基于注意力机制的多特征融合模型进行训练。
步骤3、将测试集数据输入分类模型，获得分类输出类别，并与真实分类标签做对比，得出分类模型中房颤类的评价标准：精度pre、召回率rec、F1指标f1、准确率acc。
步骤4、若评价标准不满足精度pre、召回率rec、F1指标f1和准确率acc中任一个的阈值要求，则手动调整基于注意力机制的多特征融合模型在dropout层的学习率drop，然后回到步骤3，否则执行步骤5。
步骤5、将基于注意力机制的多特征融合模型在dropout层的参数设置为0.3，同时使用Adam优化器将学习率初始化为10×e-2，最终得到基于注意力机制的多特征融合心电信号分类模型。
优选地，每个残差块的两个卷积层的卷积核长度分别是16和32×2k，k从0开始，每间隔4个残差块增大1。
优选地，所述的双向长短期记忆网络包括前向和后向两个隐藏层，每个隐藏层引入门控机制，包括遗忘门、输入门和输出门。
优选地，基于注意力机制的多特征融合模型训练数据来自于physionet2017挑战赛的公开数据，采用256个样本，90％作为训练集，10％作为测试集。
优选地，基于注意力机制的多特征融合模型训练中，通过交叉熵C评估当前训练得到的预测分类标签和真实分类标签的差异情况，交叉熵的值越小，基于注意力机制的多特征融合模型实际输出与期望输出的分布就越接近；设置交叉熵值在8个迭代轮次中没有改变，便结束训练。
更优选地，所述交叉熵C的计算公式如下：
C＝-[ylna+(1-y)ln(1-a)] (4)
其中y为期望输出，a为基于注意力机制的多特征融合模型的实际输出。
优选地，所述精度pre、召回率rec、F1指标f1和准确率acc的计算公式如下：
其中，TP为被检索到真阳性的房颤数目；FP为被检索到伪阳性的房颤数目；FN为被检索到伪阴性的房颤数目；TN为被检索到真阴性的房颤数目。
优选地，步骤4中精度pre、召回率rec、F1指标f1和准确率acc的阈值要求为：精度pre高于0.859，召回率rec高于0.857，F1指标f1高于0.857，准确率acc高于0.857。
本发明具有的有益效果：
本发明构建的基于注意力机制的多特征融合模型，一方面摒弃了传统机器学习方法中的数据预处理、特征工程或手工规则等步骤，可以自适应地发现不同心电信号的隐藏结构，自动学习它们的相关性，最终抽象为分类任务所需的特征表示；另一方面基于注意力机制的特征融合层，整合原始心电信号中的局部特征和全局特征，对重点信息进行提取，去除干扰信息，提升心电数据分类的准确率。
附图说明
图1是本发明的流程图；
图2是本发明中构建基于注意力机制的多特征融合模型的流程图。
具体实施方式
下面结合附图和具体实施方式对本发明作进一步详细的说明。
如图1所示，基于注意力机制的多特征融合心电信号分类模型建模方法，具体步骤如下：
步骤1、如图2所示，构建基于注意力机制的多特征融合模型，具体过程如下：
1.1将T组原始心电信号输入深度残差网络(ResNet)，获得原始心电信号数据的局部特征vi，i∈[1,T]。搭建的深度残差网络包括34层，采用残差块的连接方式，缓解因网络层数过多造成的梯度爆炸的问题。每个残差块有两个卷积层，两个卷积层的卷积核长度分别是16和32×2k，k从0开始，每间隔4个残差块增大1。在每一个卷积层之前，顺序采用批归一化和ReLu激活函数层，批归一化保证了网络的平滑收敛，ReLu激活函数层有效改善网络的学习效率并显著减少深度学习网络中收敛所需的迭代次数。最后一个残差块的最后一个卷积层之前采用了dropout层。
1.2将步骤1.1中的T组原始心电信号传入双向长短期记忆网络(Bi-LSTM)，双向长短期记忆网络的输出维度设置为128，获得原始心电信号的全局特征hi，i∈[1,T]。双向长短期记忆网络包括前向和后向两个隐藏层，每个隐藏层引入门控机制，包括遗忘门、输入门和输出门，从而缓解了常规的循环神经网络(RNN)带来的梯度消失和梯度爆炸的问题。通过双向的隐藏层，结合前向和后向的记忆，更加充分地考虑隐藏在T组原始心电信号数据中的全局信息。
1.3将全局特征和局部特征输入注意力机制，提取出局部特征中的原始心电信号分类依据，具体过程如下：
1.3.1将局部特征vi和全局特征hi分别经过全连接层，与不同的权重WQ、WK乘积后通过融合层实现相加，相加后再传入tanh激活函数，获取全局特征与局部特征的相似度，最后将相似度传入全连接层，与权重Wa乘积得到融合特征ei。融合特征ei的表达式如下：
ei＝Wa*tanh(WQ*vi+Wk*hi) (1)
1.3.2将融合特征ei传入softmax层做归一化处理，得到权重ai。ai的表达式如下：
1.3.3将权重ai与局部特征vi做乘积计算，提取局部特征中的原始心电信号分类依据S，S的表达式如下：
S＝ai*vi (3)
1.4利用softmax层的映射做原始心电信号的最终分类输出，得到分类模型，共分成四个分类标签，包括房颤类、噪声类、正常类和其他类；
步骤2、对基于注意力机制的多特征融合模型进行训练：
将来自于physionet2017挑战赛的公开数据，分成一个训练集(90％)和一个测试集(10％)，用于所有任务的训练和评估。为了达到分类任务的最佳性能，采用256个样本对基于注意力机制的多特征融合模型进行小批量训练。通过交叉熵C评估当前训练得到的预测分类标签和真实分类标签的差异情况，并通过计算交叉熵C判断训练准确率；交叉熵的值越小，基于注意力机制的多特征融合模型实际输出与期望输出的分布就越接近。交叉熵C的计算公式如下：
C＝-[ylna+(1-y)ln(1-a)] (4)
其中y为期望输出，a为基于注意力机制的多特征融合模型的实际输出。
根据交叉熵，设置模型训练中的早停机制，设置参数为8，即当交叉熵值在8个迭代轮次中没有改变，立即停止模型训练。
步骤3、将测试集数据输入分类模型，获得分类输出类别，并与真实分类标签做对比，得出分类模型中房颤类的评价标准：精度pre、召回率rec、F1指标f1、准确率acc。
其中，TP为被检索到真阳性(诊断为有，实际上也有病)的房颤数目；FP为被检索到伪阳性(诊断为有，实际却没有病)的房颤数目；FN为被检索到伪阴性(诊断为没有，实际却有病)的房颤数目；TN为被检索到真阴性(诊断为没有，实际上也没有病)的房颤数目。
步骤4、若评价标准不满足条件①：精度pre高于0.859，rec高于0.857，f1高于0.857，acc高于0.857，则手动调整基于注意力机制的多特征融合模型在dropout层的学习率drop，然后回到步骤3；若评价标准满足条件①，则执行步骤5。
步骤5、将基于注意力机制的多特征融合模型在dropout层的参数设置为0.3，同时使用Adam优化器将学习率初始化为10×e-2，最终得到基于注意力机制的多特征融合心电信号分类模型。
下面在统一的PhysioNet2017挑战赛公开数据条件下，将本发明与吴恩达于2017年发表在Nature Medicine中的论文《Cardiologist-level arrythmia detection withconvolutional neural networks》中所构建的34层深度残差网络进行对比实验。实验表明，吴恩达的模型获得了pre＝0.859，rec＝0.857，f1＝0.857，acc＝0.857，本发明的最佳模型获得了pre＝0.867、rec＝0.866、f1＝0.866、acc＝0.866。由此可以证明，本发明构建的模型在性能上有明显的提升，从而证明了考虑全局特征依赖对于长序列数据的处理的有效作用。
Claims (8)
1.基于注意力机制的多特征融合心电信号分类模型建模方法，其特征在于：按以下步骤实现：
步骤1、构建基于注意力机制的多特征融合模型，具体过程如下：
1.1将T组原始心电信号输入深度残差网络，获得原始心电信号数据的局部特征vi，i∈[1,T]；其中，搭建的深度残差网络包括34层，采用残差块的连接方式，每个残差块有两个卷积层，在每一个卷积层之前，顺序采用批归一化和ReLu激活函数层，最后一个残差块的最后一个卷积层之前采用了dropout层；
1.2将步骤1.1中的T组原始心电信号传入双向长短期记忆网络，双向长短期记忆网络的输出维度设置为128，获得原始心电信号的全局特征hi，i∈[1,T]；
1.3将全局特征和局部特征输入注意力机制，提取出局部特征中的原始心电信号分类依据，具体过程如下：
1.3.1将局部特征vi和全局特征hi分别经过全连接层，与不同的权重WQ、WK乘积后通过融合层实现相加，相加后再传入tanh激活函数，获取全局特征与局部特征的相似度，最后将相似度传入全连接层，与权重Wα乘积得到融合特征ei；融合特征ei的表达式如下：
ei＝Wα*tanh(WQ*vi+WK*hi) (1)
1.3.2将融合特征ei传入softmax层做归一化处理，得到权重αi；αi的表达式如下：
1.3.3将权重αi与局部特征vi做乘积计算，提取局部特征中的原始心电信号分类依据S，S的表达式如下：
S＝αi*vi (3)
1.4利用softmax层的映射做原始心电信号的最终分类输出，得到分类模型，共分成四个分类标签，包括房颤类、噪声类、正常类和其他类；
步骤2、对基于注意力机制的多特征融合模型进行训练；
步骤3、将测试集数据输入分类模型，获得分类输出类别，并与真实分类标签做对比，得出分类模型中房颤类的评价标准：精度pre、召回率rec、F1指标f1、准确率acc；
步骤4、若评价标准不满足精度pre、召回率rec、F1指标f1和准确率acc中任一个的阈值要求，则手动调整基于注意力机制的多特征融合模型在dropout层的学习率drop，然后回到步骤3，否则执行步骤5；
步骤5、将基于注意力机制的多特征融合模型在dropout层的参数设置为0.3，同时使用Adam优化器将学习率初始化为10×e-2，最终得到基于注意力机制的多特征融合心电信号分类模型。
2.根据权利要求1所述基于注意力机制的多特征融合心电信号分类模型建模方法，其特征在于：每个残差块的两个卷积层的卷积核长度分别是16和32×2k，k从0开始，每间隔4个残差块增大1。
3.根据权利要求1所述基于注意力机制的多特征融合心电信号分类模型建模方法，其特征在于：所述的双向长短期记忆网络包括前向和后向两个隐藏层，每个隐藏层引入门控机制，包括遗忘门、输入门和输出门。
4.根据权利要求1所述基于注意力机制的多特征融合心电信号分类模型建模方法，其特征在于：基于注意力机制的多特征融合模型训练数据来自于physionet2017挑战赛的公开数据，采用256个样本，90％作为训练集，10％作为测试集。
5.根据权利要求1所述基于注意力机制的多特征融合心电信号分类模型建模方法，其特征在于：基于注意力机制的多特征融合模型训练中，通过交叉熵C评估当前训练得到的预测分类标签和真实分类标签的差异情况，交叉熵的值越小，基于注意力机制的多特征融合模型实际输出与期望输出的分布就越接近；设置交叉熵值在8个迭代轮次中没有改变，便结束训练。
6.根据权利要求5所述基于注意力机制的多特征融合心电信号分类模型建模方法，其特征在于：所述交叉熵C的计算公式如下：
C＝-[ylna+(1-y)ln(1-a)] (4)
其中y为期望输出，a为基于注意力机制的多特征融合模型的实际输出。
7.根据权利要求1所述基于注意力机制的多特征融合心电信号分类模型建模方法，其特征在于：所述精度pre、召回率rec、F1指标f1和准确率acc的计算公式如下：
其中，TP为被检索到真阳性的房颤数目；FP为被检索到伪阳性的房颤数目；FN为被检索到伪阴性的房颤数目；TN为被检索到真阴性的房颤数目。
8.根据权利要求1所述基于注意力机制的多特征融合心电信号分类模型建模方法，其特征在于：步骤4中精度pre、召回率rec、F1指标f1和准确率acc的阈值要求为：精度pre高于0.859，召回率rec高于0.857，F1指标f1高于0.857，准确率acc高于0.857。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110627422.1A CN113288163A (zh) | 2021-06-04 | 2021-06-04 | 基于注意力机制的多特征融合心电信号分类模型建模方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110627422.1A CN113288163A (zh) | 2021-06-04 | 2021-06-04 | 基于注意力机制的多特征融合心电信号分类模型建模方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113288163A true CN113288163A (zh) | 2021-08-24 |
Family
ID=77327214
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110627422.1A Pending CN113288163A (zh) | 2021-06-04 | 2021-06-04 | 基于注意力机制的多特征融合心电信号分类模型建模方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113288163A (zh) |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114652322A (zh) * | 2022-03-24 | 2022-06-24 | 中南大学 | 一种基于多域特征学习的心电信号分类方法和系统 |
| CN114668397A (zh) * | 2022-03-14 | 2022-06-28 | 中国人民解放军总医院第八医学中心 | 一种基于融合注意力机制的心理压力监测方法 |
| CN114764575A (zh) * | 2022-04-11 | 2022-07-19 | 山东省人工智能研究院 | 基于深度学习和时序注意力机制的多模态数据分类方法 |
| CN115429284A (zh) * | 2022-09-16 | 2022-12-06 | 山东科技大学 | 心电信号分类方法、系统、计算机设备以及可读存储介质 |
| CN115568860A (zh) * | 2022-09-30 | 2023-01-06 | 厦门大学 | 基于双注意力机制的十二导联心电信号的自动分类方法 |
| CN116458897A (zh) * | 2023-04-18 | 2023-07-21 | 山东省人工智能研究院 | 基于二维图像和注意力机制的心电信号质量评估方法 |
| CN116584902A (zh) * | 2023-07-18 | 2023-08-15 | 山东大学 | 基于特征选优及可视化的心音分类装置 |
| CN116616792A (zh) * | 2023-07-21 | 2023-08-22 | 山东大学 | 基于轻量化设计和特征融合的心房颤动检测系统 |
| CN116778968A (zh) * | 2023-06-20 | 2023-09-19 | 山东省人工智能研究院 | 一种基于深度可分离卷积与注意力机制的心音分类方法 |
| CN117481606A (zh) * | 2023-11-13 | 2024-02-02 | 齐鲁工业大学(山东省科学院) | 一种基于改进孪生网络的小样本心电信号分类方法 |
| CN117547283A (zh) * | 2024-01-11 | 2024-02-13 | 湘江实验室 | 心电信号数据分类方法、装置、计算机设备及介质 |
Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108175402A (zh) * | 2017-12-26 | 2018-06-19 | 智慧康源（厦门）科技有限公司 | 基于残差网络的心电数据的智能识别方法 |
| CN109543180A (zh) * | 2018-11-08 | 2019-03-29 | 中山大学 | 一种基于注意力机制的文本情感分析方法 |
| CN109846472A (zh) * | 2019-01-30 | 2019-06-07 | 郑州大学 | 基于BiLSTM-Attention深度神经网络的心搏分类方法 |
| CN109948647A (zh) * | 2019-01-24 | 2019-06-28 | 西安交通大学 | 一种基于深度残差网络的心电图分类方法及系统 |
| CN110464334A (zh) * | 2019-07-23 | 2019-11-19 | 苏州国科视清医疗科技有限公司 | 一种基于复合深度学习网络的心电图异常检测方法 |
| CN110890155A (zh) * | 2019-11-25 | 2020-03-17 | 中国科学技术大学 | 一种基于导联注意力机制的多类心律失常检测方法 |
| CN111184511A (zh) * | 2020-02-04 | 2020-05-22 | 西安交通大学 | 一种基于注意力机制和卷积神经网络的脑电信号分类方法 |
| CN111184508A (zh) * | 2020-01-19 | 2020-05-22 | 武汉大学 | 一种基于联合神经网络的心电信号检测装置及分析方法 |
| CN111920405A (zh) * | 2020-09-15 | 2020-11-13 | 齐鲁工业大学 | 一种房颤信号识别系统及方法 |
| CN112674780A (zh) * | 2020-12-23 | 2021-04-20 | 山东省人工智能研究院 | 一种心电图异常信号中的房颤信号自动检测方法 |
| CN112883803A (zh) * | 2021-01-20 | 2021-06-01 | 武汉中旗生物医疗电子有限公司 | 一种基于深度学习的心电信号分类方法、装置及存储介质 |
-
2021
- 2021-06-04 CN CN202110627422.1A patent/CN113288163A/zh active Pending
Patent Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108175402A (zh) * | 2017-12-26 | 2018-06-19 | 智慧康源（厦门）科技有限公司 | 基于残差网络的心电数据的智能识别方法 |
| CN109543180A (zh) * | 2018-11-08 | 2019-03-29 | 中山大学 | 一种基于注意力机制的文本情感分析方法 |
| CN109948647A (zh) * | 2019-01-24 | 2019-06-28 | 西安交通大学 | 一种基于深度残差网络的心电图分类方法及系统 |
| CN109846472A (zh) * | 2019-01-30 | 2019-06-07 | 郑州大学 | 基于BiLSTM-Attention深度神经网络的心搏分类方法 |
| CN110464334A (zh) * | 2019-07-23 | 2019-11-19 | 苏州国科视清医疗科技有限公司 | 一种基于复合深度学习网络的心电图异常检测方法 |
| CN110890155A (zh) * | 2019-11-25 | 2020-03-17 | 中国科学技术大学 | 一种基于导联注意力机制的多类心律失常检测方法 |
| CN111184508A (zh) * | 2020-01-19 | 2020-05-22 | 武汉大学 | 一种基于联合神经网络的心电信号检测装置及分析方法 |
| CN111184511A (zh) * | 2020-02-04 | 2020-05-22 | 西安交通大学 | 一种基于注意力机制和卷积神经网络的脑电信号分类方法 |
| CN111920405A (zh) * | 2020-09-15 | 2020-11-13 | 齐鲁工业大学 | 一种房颤信号识别系统及方法 |
| CN112674780A (zh) * | 2020-12-23 | 2021-04-20 | 山东省人工智能研究院 | 一种心电图异常信号中的房颤信号自动检测方法 |
| CN112883803A (zh) * | 2021-01-20 | 2021-06-01 | 武汉中旗生物医疗电子有限公司 | 一种基于深度学习的心电信号分类方法、装置及存储介质 |
Non-Patent Citations (2)
| Title |
|---|
| "attention的各种形式总结" * |
| 马广龙: "基于多模态神经网络的心电信号自动识别算法研究", 《中国优秀硕士学位论文全文数据库 医药卫生科技辑》, 15 August 2019 (2019-08-15), pages 35 - 49 * |
Cited By (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114668397A (zh) * | 2022-03-14 | 2022-06-28 | 中国人民解放军总医院第八医学中心 | 一种基于融合注意力机制的心理压力监测方法 |
| CN114652322B (zh) * | 2022-03-24 | 2024-10-11 | 中南大学 | 一种基于多域特征学习的心电信号分类方法和系统 |
| CN114652322A (zh) * | 2022-03-24 | 2022-06-24 | 中南大学 | 一种基于多域特征学习的心电信号分类方法和系统 |
| CN114764575B (zh) * | 2022-04-11 | 2023-02-28 | 山东省人工智能研究院 | 基于深度学习和时序注意力机制的多模态数据分类方法 |
| CN114764575A (zh) * | 2022-04-11 | 2022-07-19 | 山东省人工智能研究院 | 基于深度学习和时序注意力机制的多模态数据分类方法 |
| CN115429284B (zh) * | 2022-09-16 | 2024-05-03 | 山东科技大学 | 心电信号分类方法、系统、计算机设备以及可读存储介质 |
| CN115429284A (zh) * | 2022-09-16 | 2022-12-06 | 山东科技大学 | 心电信号分类方法、系统、计算机设备以及可读存储介质 |
| CN115568860A (zh) * | 2022-09-30 | 2023-01-06 | 厦门大学 | 基于双注意力机制的十二导联心电信号的自动分类方法 |
| CN116458897B (zh) * | 2023-04-18 | 2024-01-26 | 山东省人工智能研究院 | 基于二维图像和注意力机制的心电信号质量评估方法 |
| CN116458897A (zh) * | 2023-04-18 | 2023-07-21 | 山东省人工智能研究院 | 基于二维图像和注意力机制的心电信号质量评估方法 |
| CN116778968A (zh) * | 2023-06-20 | 2023-09-19 | 山东省人工智能研究院 | 一种基于深度可分离卷积与注意力机制的心音分类方法 |
| CN116778968B (zh) * | 2023-06-20 | 2024-03-12 | 山东省人工智能研究院 | 一种基于深度可分离卷积与注意力机制的心音分类方法 |
| CN116584902B (zh) * | 2023-07-18 | 2024-05-07 | 山东大学 | 基于特征选优及可视化的心音分类装置 |
| CN116584902A (zh) * | 2023-07-18 | 2023-08-15 | 山东大学 | 基于特征选优及可视化的心音分类装置 |
| CN116616792B (zh) * | 2023-07-21 | 2023-12-01 | 山东大学 | 基于轻量化设计和特征融合的心房颤动检测系统 |
| CN116616792A (zh) * | 2023-07-21 | 2023-08-22 | 山东大学 | 基于轻量化设计和特征融合的心房颤动检测系统 |
| CN117481606A (zh) * | 2023-11-13 | 2024-02-02 | 齐鲁工业大学(山东省科学院) | 一种基于改进孪生网络的小样本心电信号分类方法 |
| CN117481606B (zh) * | 2023-11-13 | 2024-05-14 | 齐鲁工业大学(山东省科学院) | 一种基于改进孪生网络的小样本心电信号分类方法 |
| CN117547283A (zh) * | 2024-01-11 | 2024-02-13 | 湘江实验室 | 心电信号数据分类方法、装置、计算机设备及介质 |
| CN117547283B (zh) * | 2024-01-11 | 2024-05-14 | 湘江实验室 | 心电信号数据分类方法、装置、计算机设备及介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113288163A (zh) | 基于注意力机制的多特征融合心电信号分类模型建模方法 | |
| CN110522444B (zh) | 一种基于Kernel-CNN的心电信号识别分类方法 | |
| Chauhan et al. | Anomaly detection in ECG time signals via deep long short-term memory networks | |
| Luo et al. | Multi-classification of arrhythmias using a HCRNet on imbalanced ECG datasets | |
| CN106251880A (zh) | 识别生理声音的方法以及系统 | |
| CN110638430B (zh) | 级联神经网络ecg信号心律失常分类模型的搭建方法 | |
| CN113274031B (zh) | 一种基于深度卷积残差网络的心律失常分类方法 | |
| Chen et al. | Edge2Analysis: a novel AIoT platform for atrial fibrillation recognition and detection | |
| CN113768514B (zh) | 基于卷积神经网络与门控循环单元的心律失常分类方法 | |
| CN112957054B (zh) | 一种基于通道注意力分组残差网络的12导联心电信号分类方法 | |
| CN113080993B (zh) | 一种基于改进多基分类器集成的自动心律失常分析方法 | |
| WO2024098553A1 (zh) | 一种针对心电图的分析识别方法、系统以及存储介质 | |
| CN109033990B (zh) | 基于类内类间距离的cnn模型心拍分类方法 | |
| CN115470832A (zh) | 一种基于区块链的心电信号数据处理方法 | |
| Baviskar et al. | Efficient heart disease prediction using hybrid deep learning classification models | |
| Fan et al. | A new direct heart sound segmentation approach using bi-directional GRU | |
| Dambal et al. | Premature Ventricular Contraction Classification Based on Spiral Search-Manta Ray Foraging and Bi-LSTM | |
| Haseena et al. | Classification of arrhythmia using hybrid networks | |
| Nehary et al. | A deep convolutional neural network classification of heart sounds using fractional fourier transform | |
| CN116898451A (zh) | 用具有多尺度注意力机制的神经网络实现房颤预测的方法 | |
| CN115115038B (zh) | 一种基于单导联心电信号的模型构建方法及性别识别方法 | |
| CN112022149B (zh) | 一种基于心电信号的房颤检测方法 | |
| Balcı | A hybrid attention-based LSTM-XGBoost model for detection of ECG-based atrial fibrillation | |
| CN112686091A (zh) | 基于深度神经网络的两步骤心律失常分类方法 | |
| Wang et al. | Arrhythmia Recognition Based on Multimodal Neural Network |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210824 |
|
| RJ01 | Rejection of invention patent application after publication |