CN110251120A - 基于注意力机制的深度残差神经网络的心电图分类方法 - Google Patents

Abstract

一种基于注意力机制的深度残差神经网络的心电图分类方法，通过多导联心电图数据和基于注意力机制的深层残差神经网络模型实现心律失常自动分类，首先多导联心电图较单导联心电图蕴含更多心电信息，其次深度残差网络可以更高的学习模型的特征，有助于模型收敛，最后注意力机制模块自动增强特征图，提高模型泛化能力，提高网络的学习效率和心电图识别的精度。

Description

基于注意力机制的深度残差神经网络的心电图分类方法

技术领域

本发明涉及心电图分类技术领域，具体涉及一种基于注意力机制的深度残差神经网络的心电图分类方法。

背景技术

心电图检查在医院已成为常见检验项目，心电图是医生判断病人心脏状况最基本的指标。心电图信号是由心脏的电活动引起的非平稳周期性生物信号，蕴含大量 复杂的心脏活动信息，只有经过专业培训的医生才能准确解读。因为心脏结构复 杂和心脏活动规律较多，所以心律失常类型分类较多。同类型的心律失常在相同 患者的不同阶段之间的心电图很可能有明显变化，不同患者同种类型的心律失常 在心电图上的差异更大，这就在客观方面给心律失常的自动分类造成很大难题， 普通卷积神经网络的泛化能力有限，对样本较少疾病预测能力偏差。

发明内容

本发明为了克服以上技术的不足，提供了一种提高网络学习精度的基于注意力机制的深度残差神经网络的心电图分类方法。

本发明克服其技术问题所采用的技术方案是：

一种基于注意力机制的深度残差神经网络的心电图分类方法，包括如下步骤：

a)计算机从MIT-BIH心律失常数据库中获取心电数据，根据心电数据中导联记录内容，选择upper信号为Ⅱ导联信号以及选择lower信号为胸部Ⅰ导联信号作为 实验数据；

b)使用基于双尺度小波变换法对实验数据进行降噪处理，定位实验数据中的QRS波群，通过QRS波群获取心电信号中的P波和T波的位置，获取一个心拍数据， 通过边缘填充随机剪裁算法得到心拍数据的扩充数据集；

c)对扩充数据集添加高斯白噪声，得到数据集集合，通过公式 X＝{(x₁₁,x₁₂,...x_1N),(x₂₁,x₂₂,...x_2N)}计算数据集集合中的样本 X，式中x₁₁为心电数据中肢体II导联第1个点位电压，x₂₁为胸部Ⅰ导联第 一个点位电压，N为心电数据中肢体II导联使用的像素点个数；

d)通过包含c¹个卷积核的一维卷积层Conv1D对数据集集合提取特征，得到特 征图a¹，其中c¹为特征图a¹通道数，w¹为特征图a¹每个通道特征宽度， 计算得到第k个通道的特征图；

e)通过一维卷积层，对特征图a¹计算得到特征图a^2.1，其中特征图a^2.1通道 数为c^2.1，压缩特征图a^2.1每个通道特征宽度为w^2.1；

f)通过批处理层，利用公式计算特征图a^2.1归一化数据 均值式中，为特征图a^2.1第k个通道的第i个特征，通过公式计算特征图a^2.1归一化数据方差σ^2.1，通 过公式计算特征图a^2.1规范化函数 BN_γ,β(a^2.1)，其中式中0＜ε＜0.001，γ为 线性规范化的斜率，β为线性规范化的截距，a^2.2为a^2.1批规范化的结果；

g)通过非线性激活层，利用公式计算得到线性修正结果a^2.3；

h)通过第二个卷积层，批处理层对线性修正结果a^2.3计算得到结果a^2.4；

i)通过公式a^2.5＝a¹+a^2.4计算综合特征a^2.5，利用ReLU激活函数通过公式计算输出特征图a²，特征图a²通道数为c²，特征图a²每个通道特征宽度为w²；

j)通过全局平均池化层，根据公式计算第k个通道平 均特征a_k ^3.1，式中是特征图a²第k个通道第i个特征；

k)通过全连接层，根据公式计算重要度a^3.2，式中W²是全连接层的权重，b²是全连接层的偏倚；

l)通过Sigmoid函数，根据公式计算归一化a^3.3，通过公 式a³＝a²×a^3.3计算增强特征图a³；

m)将增强特征图a³替代步骤d)中的特征图a¹后，重复执行步骤e)至步骤l)， 计算得到特征图a⁴；

n)通过最大池化层对特征图a⁴计算得到压缩图a⁵，通过展平层将特征图a⁵展平成一维向量a⁶，通过全连接层根据公式a⁷＝W⁶·a⁶+b⁶计算样本对 应每类疾病得分a⁷，W⁶为全连接层权重，b⁶为全连接层偏倚，通过softmax 激活函数根据公式计算预测结果a⁸，其中为第i类疾 病预测得分，为第j类疾病预测得分；

o)使用交叉熵函数计算预测结果a⁸的损失，如果损失小于制定阈值Threshold 则跳转至步骤q)，如果损失大于等于制定阈值Threshold则跳转至步骤p)；

p)使用Adam优化算法调整模型参数，跳转至步骤d)；

q)保存模型参数，算法结束。

进一步的，步骤c)中对扩充数据集分别添加信噪比为40db、60db和80db的高 斯白噪声，形成40db数据集、60db数据集和80db数据集，40db数据集、60db 数据集和80db数据集构成数据集集合。

进一步的，步骤c)中N＝192。

进一步的，步骤d)中通过公式计算得到一个通道特征向量的宽度w¹，式中F为卷积核大小，P为边缘填充密度，S为步长，通过公 式计算第k个通道的特征图，其中为 卷积层第1层第k个通道的权重，为卷积层第1层第k个通道的的偏倚， Conv1D为一维卷积神经网络计算函数。

进一步的，步骤o)中制定阈值Threshold＝0.001。

进一步的，步骤p)中使用Adam优化算法调整步骤d)中的权重偏倚调整步骤k)中的权重W²、偏倚b²，调整步骤n)中的权重W⁶、偏倚b⁶。

本发明的有益效果是：通过多导联心电图数据和基于注意力机制的深层残差 神经网络模型实现心律失常自动分类，首先多导联心电图较单导联心电图蕴含更 多心电信息，其次深度残差网络可以更高的学习模型的特征，有助于模型收敛， 最后注意力机制模块自动增强特征图，提高模型泛化能力，提高网络的学习效率 和心电图识别的精度。

具体实施方式

下面对本发明做进一步说明。

一种基于注意力机制的深度残差神经网络的心电图分类方法，包括如下步骤：

a)计算机从MIT-BIH心律失常数据库中获取心电数据，根据心电数据中导联记录内容，选择upper信号为Ⅱ导联信号以及选择lower信号为胸部Ⅰ导联信号作为 实验数据；

b)使用基于双尺度小波变换法对实验数据进行降噪处理，定位实验数据中的QRS波群，通过QRS波群获取心电信号中的P波和T波的位置，获取一个心拍数据， 通过边缘填充随机剪裁算法得到心拍数据的扩充数据集；

c)对扩充数据集添加高斯白噪声，得到数据集集合，通过公式 X＝{(x₁₁,x₁₂,...x_1N),(x₂₁,x₂₂,...x_2N)}计算数据集集合中的样本 X，式中x₁₁为心电数据中肢体II导联第1个点位电压，x₂₁为胸部Ⅰ导联第 一个点位电压，N为心电数据中肢体II导联使用的像素点个数；

d)通过包含c¹个卷积核的一维卷积层Conv1D对数据集集合提取特征，得到特 征图a¹，其中c¹为特征图a¹通道数，w¹为特征图a¹每个通道特征宽度， 计算得到第k个通道的特征图；

e)通过一维卷积层，对特征图a¹计算得到特征图a^2.1，其中特征图a^2.1通道 数为c^2.1，压缩特征图a^2.1每个通道特征宽度为w^2.1；

f)通过批处理层，利用公式计算特征图a^2.1归一化数据均值式中，为特征图a^2.1第k个通道的第i个特征，通过公式计算特征图a^2.1归一化数据方差σ^2.1，通 过公式计算特征图a^2.1规范化函数BN_γ,β(a^2.1)，其中式中0＜ε＜0.001，γ为 线性规范化的斜率，β为线性规范化的截距，a^2.2为a^2.1批规范化的结果；

g)通过非线性激活层，利用公式计算得到线性修正结果a^2.3；

h)通过第二个卷积层，批处理层对线性修正结果a^2.3计算得到结果a^2.4；

i)通过公式a^2.5＝a¹+a^2.4计算综合特征a^2.5，利用ReLU激活函数通过公式计算输出特征图a²，特征图a²通道数为c²，特征图a²每个通道特征宽度为w²；

j)通过全局平均池化层，根据公式计算第k个通道平 均特征a_k ^3.1，式中是特征图a²第k个通道第i个特征；

k)通过全连接层，根据公式计算重要度a^3.2，式中W²是全连接层的权重，b²是全连接层的偏倚；

l)通过Sigmoid函数，根据公式计算归一化a^3.3，通过公 式a³＝a²×a^3.3计算增强特征图a³；

m)将增强特征图a³替代步骤d)中的特征图a¹后，重复执行步骤e)至步骤l)， 计算得到特征图a⁴；

n)通过最大池化层对特征图a⁴计算得到压缩图a⁵，通过展平层将特征图a⁵展平成一维向量a⁶，通过全连接层根据公式a⁷＝W⁶·a⁶+b⁶计算样本对 应每类疾病得分a⁷，W⁶为全连接层权重，b⁶为全连接层偏倚，通过softmax 激活函数根据公式计算预测结果a⁸，其中为第i类疾 病预测得分，为第j类疾病预测得分；

o)使用交叉熵函数计算预测结果a⁸的损失，如果损失小于制定阈值Threshold 则跳转至步骤q)，如果损失大于等于制定阈值Threshold则跳转至步骤p)；

p)使用Adam优化算法调整模型参数，跳转至步骤d)；

q)保存模型参数，算法结束。

优选的，步骤c)中对扩充数据集分别添加信噪比为40db、60db和80db的高斯 白噪声，形成40db数据集、60db数据集和80db数据集，40db数据集、60db数 据集和80db数据集构成数据集集合。

通过多导联心电图数据和基于注意力机制的深层残差神经网络模型实现心 律失常自动分类，首先多导联心电图较单导联心电图蕴含更多心电信息，其次深 度残差网络可以更高的学习模型的特征，有助于模型收敛，最后注意力机制模块 自动增强特征图，提高模型泛化能力，提高网络的学习效率和心电图识别的精度。 优选的，步骤c)中N＝192。

优选的，步骤d)中通过公式计算得到一个通道特征向 量的宽度w¹，式中F为卷积核大小，P为边缘填充密度，S为步长，通过公式计算第k个通道的特征图，其中为卷 积层第1层第k个通道的权重，为卷积层第1层第k个通道的的偏倚， Conv1D为一维卷积神经网络计算函数。

优选的，步骤o)中制定阈值Threshold＝0.001。

优选的，步骤p)中使用Adam优化算法调整步骤d)中的权重偏倚调整步骤k)中的权重W²、偏倚b²，调整步骤n)中的权重W⁶、偏倚b⁶。

Claims (6)

1.一种基于注意力机制的深度残差神经网络的心电图分类方法，其特征在于，包括如下步骤：

a)计算机从MIT-BIH心律失常数据库中获取心电数据，根据心电数据中导联记录内容，选择upper信号为Ⅱ导联信号以及选择lower信号为胸部Ⅰ导联信号作为实验数据；

b)使用基于双尺度小波变换法对实验数据进行降噪处理，定位实验数据中的QRS波群，通过QRS波群获取心电信号中的P波和T波的位置，获取一个心拍数据，通过边缘填充随机剪裁算法得到心拍数据的扩充数据集；

c)对扩充数据集添加高斯白噪声，得到数据集集合，通过公式X＝{(x₁₁,x₁₂,...x_1N),(x₂₁,x₂₂,...x_2N)}计算数据集集合中的样本X，式中x₁₁为心电数据中肢体II导联第1个点位电压，x₂₁为胸部Ⅰ导联第一个点位电压，N为心电数据中肢体II导联使用的像素点个数；

d)通过包含c¹个卷积核的一维卷积层Conv1D对数据集集合提取特征，得到特征图a¹，其中c¹为特征图a¹通道数，w¹为特征图a¹每个通道特征宽度，计算得到第k个通道的特征图；

e)通过一维卷积层，对特征图a¹计算得到特征图a^2.1，其中特征图a^2.1通道数为c^2.1，压缩特征图a^2.1每个通道特征宽度为w^2.1；

f)通过批处理层，利用公式计算特征图a^2.1归一化数据均值式中，为特征图a^2.1第k个通道的第i个特征，通过公式计算特征图a^2.1归一化数据方差σ^2.1，通过公式计算特征图a^2.1规范化函数BN_γ,β(a^2.1)，其中式中0＜ε＜0.001，γ为线性规范化的斜率，β为线性规范化的截距，a^2.2为a^2.1批规范化的结果；

g)通过非线性激活层，利用公式计算得到线性修正结果a^2.3；

h)通过第二个卷积层，批处理层对线性修正结果a^2.3计算得到结果a^2.4；

i)通过公式a^2.5＝a¹+a^2.4计算综合特征a^2.5，利用ReLU激活函数通过公式计算输出特征图a²，特征图a²通道数为c²，特征图a²每个通道特征宽度为w²；

j)通过全局平均池化层，根据公式计算第k个通道平均特征a_k ^3.1，式中是特征图a²第k个通道第i个特征；

k)通过全连接层，根据公式计算重要度a^3.2，式中W²是全连接层的权重，b²是全连接层的偏倚；

l)通过Sigmoid函数，根据公式计算归一化a^3.3，通过公式a³＝a²×a^3.3计算增强特征图a³；

m)将增强特征图a³替代步骤d)中的特征图a¹后，重复执行步骤e)至步骤l)，计算得到特征图a⁴；

n)通过最大池化层对特征图a⁴计算得到压缩图a⁵，通过展平层将特征图a⁵展平成一维向量a⁶，通过全连接层根据公式a⁷＝W⁶·a⁶+b⁶计算样本对应每类疾病得分a⁷，W⁶为全连接层权重，b⁶为全连接层偏倚，通过softmax激活函数根据公式计算预测结果a⁸，其中为第i类疾病预测得分，为第j类疾病预测得分；

o)使用交叉熵函数计算预测结果a⁸的损失，如果损失小于制定阈值Threshold则跳转至步骤q)，如果损失大于等于制定阈值Threshold则跳转至步骤p)；

p)使用Adam优化算法调整模型参数，跳转至步骤d)；

q)保存模型参数，算法结束。

2.根据权利要求1所述的基于注意力机制的深度残差神经网络的心电图分类方法，其特征在于：步骤c)中对扩充数据集分别添加信噪比为40db、60db和80db的高斯白噪声，形成40db数据集、60db数据集和80db数据集，40db数据集、60db数据集和80db数据集构成数据集集合。

3.根据权利要求1所述的基于注意力机制的深度残差神经网络的心电图分类方法，其特征在于：步骤c)中N＝192。

4.根据权利要求1所述的基于注意力机制的深度残差神经网络的心电图分类方法，其特征在于：步骤d)中通过公式计算得到一个通道特征向量的宽度w¹，式中F为卷积核大小，P为边缘填充密度，S为步长，通过公式计算第k个通道的特征图，其中为卷积层第1层第k个通道的权重，为卷积层第1层第k个通道的的偏倚，Conv1D为一维卷积神经网络计算函数。

5.根据权利要求1所述的基于注意力机制的深度残差神经网络的心电图分类方法，其特征在于：步骤o)中制定阈值Threshold＝0.001。

6.根据权利要求4所述的基于注意力机制的深度残差神经网络的心电图分类方法，其特征在于：步骤p)中使用Adam优化算法调整步骤d)中的权重偏倚调整步骤k)中的权重W²、偏倚b²，调整步骤n)中的权重W⁶、偏倚b⁶。