CN112560784B - 一种基于动态多尺度卷积神经网络的心电图分类方法 - Google Patents

Abstract

本发明公开了一种基于动态多尺度卷积神经网络的心电图分类方法，包括以下步骤：获取心电图数据集并进行预处理得到心电图时间序列；根据心电图时间序列和随机初始化的卷积核生成一组变长卷积核；将心电图时间序列输入到使用变长卷积核的卷积层，从而获取多尺度时序特征；将获得的多尺度时序特征输入到max‑over‑time池化层选择得到最具判别性特征；将最具判别性特征输入到分类层获得最终分类结果，构成动态多尺度卷积神经网络；使用交叉熵损失函数训练构建的动态多尺度卷积神经网络。动态多尺度卷积神经网络能够通过数据来学习卷积核的长度而不需要依靠先验知识，同时它可以为每个心电图时间序列学习样本特定的多尺度时序特征。

Description

一种基于动态多尺度卷积神经网络的心电图分类方法

技术领域

本发明涉及心电图分类技术领域，具体涉及一种基于动态多尺度卷积神经网络的心电图分类方法。

背景技术

心电图分类是医生诊断心脏病的重要辅助手段，准确快速的心电图分类能给医生提供有效的参考信息。此外，心电图分类在可穿戴心电图设备、重症监护等方面具有重要的研究意义。

心电图数据可以看作是一种时间序列数据，则心电图分类可以看作是一个时间序列分类问题。传统的时间序列分类方法主要分为三类：基于距离的、基于特征的和基于集成的方法。基于距离的方法通过设计距离度量方式来评估时间序列之间的距离从而对其进行分类。基于特征的方法通过从时间序列中捕获具有判别性的特征如shapelet(在时序分类场景中具有可解释性的子序列)等用于分类。然而，这两种方法需要显式地定义距离度量或手工设计特征。基于集成的方法通过集成多个不同的分类器来进一步提升分类准确率。虽然基于集成的方法能够取得很好的性能，但是这些方法不可避免地遭遇计算复杂度高的问题。

近年来，深度学习网络被广泛应用于各种任务并取得了巨大的成功。同样深度学习网络也在时序分类任务取得了优越的性能，如MLP(多层感知机，由三层全连接层构成)、FCN(全卷积网络，由三层卷积层构成)和ResNet(残差网络，由三个卷积块构成，其中每个卷积块由三层卷积层组成)。FCN和ResNet是基于卷积神经网络的方法，在时序分类任务中实现了很好的效果。然而，时间序列数据如心电图存在着不同尺度的时序特征，固定长度的卷积核无法很好地捕获不同尺度的时序特征如T波和P波等。

发明内容

本发明的目的是为了解决现有技术中的上述缺陷，提供一种基于动态多尺度卷积神经网络的心电图分类方法，该方法通过学习变长卷积核而不是固定卷积核的长度来捕获心电图不同尺度的时序特征。

本发明的目的可以通过采取如下技术方案达到：

一种基于动态多尺度卷积神经网络的心电图分类方法，所述心电图分类方法包括：

步骤S1、获取心电图数据集，对心电图数据集中数据进行预处理得到心电图时间序列；

步骤S2、根据心电图时间序列和随机初始化的卷积核生成一组变长卷积核；

步骤S3、将心电图时间序列输入到使用变长卷积核的卷积层，获取心电图时间序列的多尺度时序特征；

步骤S4、将步骤S3中获得的多尺度时序特征输入到max-over-time池化层中选择得到最具判别性特征；

步骤S5、将步骤S4中获得的最具判别性特征输入到带有softmax输出的分类层获得最终分类结果，构成动态多尺度卷积神经网络，然后使用交叉熵损失函数训练构建的动态多尺度卷积神经网络，其中，交叉熵损失函数用于度量两个概率分布间的差异性信息；

步骤S6、将待分类的心电图数据输入经过训练的动态多尺度卷积神经网络进行分类。

进一步地，所述步骤S2中变长卷积核生成过程如下：

步骤S21、给定一条长度为L的心电图时间序列T，获得P＝L-l+1条长度为l的子序列，将这P条子序列输入到变长卷积核生成器中的卷积层获得心电图时间序列T的嵌入表示e_i，过程如下：

e_i＝W_i*S+b_i

其中，S表示P条长度为l的子序列，W_i和b_i分别表示第i个卷积核和对应偏置，e_i表示使用第i个卷积核获得的嵌入表示，*表示卷积操作，使用K个卷积核获得的嵌入表示E表示为：

E＝{e₁,e₂,…,e_i,…,e_K}^T；

步骤S22、随机初始化K个固定长度的卷积核

并将其与上述定义的心电图时间序列的嵌入表示进行拼接作为掩码生成器的输入，其中W_i ^f表示第i个固定长度的卷积核，其中，掩码生成器为两层全连接层，其计算过程如下：

l_i＝r_i×l

其中，W^m1和W^m2分别表示第一层全连接层和第二层全连接层的连接权重矩阵，b^m1和b^m2表示对应的偏置，

表示拼接操作，r_i∈[0，1]为一个0到1的值，将其与l相乘来获得卷积核的长度，l_i表示学习到的第i个卷积核的长度，f(·)表示激活函数；

将步骤S21中获得的K个嵌入表示输入到掩码生成器中，获得K个卷积核的长度，表示为M_len＝{l₁,l₂,…,l_i,…,l_K}；

步骤S23、根据获得的K个卷积核的长度，采取掩码的方式来控制卷积核的长度，给定l_i∈[0,l]，生成长度为l的0-1掩码向量m_i，计算过程如下：

其中m_i＝{m_i1,m_i2,…,m_ij,…,m_il}表示掩码向量，λ为一个可调节的参数，σ(·)表示sigmoid函数，将K个掩码向量收集起来表示为

M＝{m₁,m₂,…,m_i,…,m_K}^T；

步骤S24、通过下式计算获得变长卷积核W^v：

其中

W_i ^v表示第i个变长卷积核，/>

表示逐元素乘积。

进一步地，所述步骤S3中获取心电图时间序列的多尺度时序特征的过程如下：

首先对心电图时间序列进行0填充，其计算过程如下：

T^p＝{x₁,x₂,…,x_i,…,x_L,0}^T

其中T^p表示经过0填充的心电图时间序列，x_i为心电图时间序列中第i个值，0表示长度为l的0向量；然后，将经过0填充的心电图时间序列输入到使用变长卷积核的卷积层中，其计算过程如下：

d_i＝W_i ^v*T^p+b_i ^v

其中，

表示第i个变长卷积核对应的偏置，d_i表示使用第i个变长卷积核获得的卷积结果；

通过上式使用K个变长卷积核获得对应的卷积结果并将其拼接起来得到心电图时间序列的多尺度时序特征D＝{d₁,d₂,…,d_i,…,d_K}^T。

进一步地，所述步骤S4中max-over-time池化层的计算过程如下：

g_i＝max(d_i)

其中，g_i表示第i个池化结果，将K个池化结果拼接起来得到最具判别性特征G＝{g₁,g₂,…,g_i,…,g_K}，max(·)为取最大值函数。

进一步地，所述步骤S5中将最具判别性特征输入到带有softmax输出的分类层获得最终分类结果，构成动态多尺度卷积神经网络，其计算过程如下：

其中W^o和b^o分别表示分类层的连接权重矩阵和偏置，

表示分类层的未激活输出向量，p(C|T)表示心电图时间序列类别标签上的条件分布，C表示最终分类结果，softmax(·)把输入映射为0-1之间的实数，并且归一化保证和为1，使用交叉熵损失函数训练构建的动态多尺度卷积神经网络。

本发明相对于现有技术具有如下的优点及效果：

本发明通过心电图时间序列来学习卷积核的长度而不需要依靠先验知识人为设定，可以更好地捕获心电图时间序列中的多尺度时序特征，同时也可以为每个心电图时间序列学习样本特定的多尺度时序特征，从而提高心电图时间序列分类的准确率。

附图说明

图1是本发明公开的基于动态多尺度卷积神经网络的心电图分类方法的具体流程图；

图2是本发明公开的基于动态多尺度卷积神经网络的心电图分类方法的网络结构图；

图3是本发明的具体实施方案的可视化分析图，其中，图3(a)是固定长度卷积核捕获的特征示意图；图3(b)是变长卷积核捕获的特征1示意图；图3(c)是变长卷积核捕获的特征2示意图；图3(a)、图3(b)和图3(c)的横坐标为心电图时间序列的时间步，竖坐标为心电图时间序列的值。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

实施例

本实施例公开了一种基于动态多尺度卷积神经网络的心电图分类方法，如图1所示，该心电图分类方法包括以下步骤：

步骤S1、获取心电图数据集，对心电图数据集中数据进行预处理得到心电图时间序列。实施过程中，使用的心电图数据集为“ECGFiveDays”数据集。该数据集中的数据来源于一名男性在不同时期记录的心电图数据。

步骤S2、根据心电图时间序列和随机初始化的卷积核生成一组变长卷积核。为了使动态多尺度卷积神经网络能够根据心电图时间序列来学习变长卷积核，首先使用卷积层获取心电图时间序列的嵌入表示，然后基于心电图时间序列的嵌入表示和随机初始化的卷积核来生成一组变长卷积核。与传统卷积神经网络只使用随机初始化的卷积核不同，变长卷积核的生成过程结合了心电图时间序列，能够更好地捕获心电图时间序列的多尺度时序特征，具体过程如下：

步骤S21、给定一条长度为L的心电图时间序列T，首先对心电图时间序列T划片可以获得P＝L-l+1条长度为l的子序列。本次实验子序列的长度l设置为0.4×L。然后将这P条子序列输入到变长卷积核生成器中的卷积层获得心电图时间序列T的嵌入表示e_i，过程如下：

e_i＝W_i*S+b_i

其中，S表示P条长度为l的子序列，W_i和b_i分别表示第i个卷积核和对应偏置，e_i表示使用第i个卷积核获得的嵌入表示，*表示卷积操作，使用K个卷积核获得的嵌入表示E表示为：

E＝{e₁,e₂,…,e_i,…,e_K}^T

其对应图2中的嵌入表示。

步骤S22、如图2所示，与传统卷积神经网络一致，首先随机初始化K个固定长度的卷积核

然后将心电图时间序列的嵌入表示与固定长度的卷积核进行拼接作为掩码生成器的输入。为了使动态多尺度卷积神经网络能够以一种简单快速的方式来自适应学习变长卷积核，将掩码生成器设计为两层全连接层，如图2的掩码生成器所示，其计算过程如下：

l_i＝r_i×l

其中，W^m1和W^m2分别表示第一层全连接层和第二层全连接层的连接权重矩阵，b^m1和b^m2表示对应的偏置，

表示拼接操作，r_i∈[0，1]为一个0到1的值，将其与l相乘来获得卷积核的长度，l_i表示学习到的第i个卷积核的长度，f(·)表示激活函数。

将步骤S21中获得的K个嵌入表示输入到掩码生成器中，获得K个卷积核的长度，表示为M_len＝{l₁,l₂,…,l_i,…,l_K}。

步骤S23、为了使动态多尺度卷积神经网络能够进行端到端的训练，每个操作步骤都需要是可微的。因此，根据步骤S22获得的K个卷积核的长度，采取掩码的方式来控制卷积核的长度。给定l_i∈[0,l]，生成长度为l的0-1掩码向量m_i，计算过程如下：

其中m_i＝{m_i1,m_i2,…,m_ij,…,m_il}表示掩码向量，λ为一个可调节的参数，σ(·)表示sigmoid函数，将K个掩码向量收集起来表示为

M＝{m₁,m₂,…,m_i,…,m_K}^T；

步骤S24、通过下式计算获得变长卷积核W^v：

其中

W_i ^v表示第i个变长卷积核，/>

表示逐元素乘积。

步骤S3、将心电图时间序列输入到使用变长卷积核的卷积层，获取心电图时间序列的多尺度时序特征。因为变长卷积核的长度是通过掩码控制的，所以为了使心电图时间序列能够正确地做卷积操作，需要对心电图时间序列进行0填充，其计算过程如下：

T^p＝{x₁,x₂,…,x_i,…,x_L,0}^T

其中T^p表示经过0填充的心电图时间序列，x_i为心电图时间序列中第i个值，0表示长度为l的0向量；然后，将经过0填充的心电图时间序列输入到使用变长卷积核的卷积层中，其计算过程如下：

d_i＝W_i ^v*T^p+b_i ^v

其中，

表示第i个变长卷积核对应的偏置，d_i表示使用第i个变长卷积核获得的卷积结果。

通过上式使用K个变长卷积核获得对应的卷积结果并将其拼接起来得到心电图时间序列的多尺度时序特征D＝{d₁,d₂,…,d_i,…,d_K}^T。

步骤S4、将步骤S3中获得的多尺度时序特征输入到max-over-time池化层中选择得到最具判别性特征，其计算过程如下：

g_i＝max(d_i)

其中，g_i表示第i个池化结果，将K个池化结果拼接起来得到最具判别性特征G＝{g₁,g₂,…,g_i,…,g_K}，max(·)为取最大值函数。

为了更详细地体现本发明的效果，通过可视化来做进一步地分析。每条心电图时间序列包括一个P波、一个QRS波和一个T波。因此，可以通过max-over-time池化层选择得到的最具判别性特征来判断是否学习到心电图时间序列的多尺度时序特征。如图3所示，图3(a)为固定长度卷积核捕获到的心电图时间序列的特征。由于卷积核长度固定，其不能很好地捕获P波、QRS波和T波所有的特征。图3(b)和图3(c)为变长卷积核捕获到的心电图时间序列的特征。由于卷积核长度是学习得到的，可以看到其学习到了两种不同长度的卷积核。如图3(b)所示，第一种长度的卷积核捕获心电图的P波和QRS波；如图3(c)所示，第二种长度的卷积核捕获心电图的T波。因此，变长卷积核能够更好地学习到心电图时间序列的多尺度时序特征，从而实现更高的分类准确率。

步骤S5、将最具判别性特征输入到带有softmax输出的分类层获得最终分类结果，构成动态多尺度卷积神经网络，其计算过程如下：

其中W^o和b^o分别表示分类层的连接权重矩阵和偏置，

表示分类层的未激活输出向量，p(C|T)表示心电图时间序列类别标签上的条件分布，C表示最终分类结果，softmax(·)把输入映射为0-1之间的实数，并且归一化保证和为1。使用交叉熵损失函数训练构建的动态多尺度卷积神经网络，其中，交叉熵损失函数用于度量两个概率分布间的差异性信息。

步骤S6、将待分类的心电图数据输入经过训练的动态多尺度卷积神经网络进行分类。

综上所述，与传统卷积神经网络相比，本实施例通过心电图时间序列来学习卷积核的长度而不是依赖先验知识进行人为设定，能够更好地捕获心电图时间序列的多尺度时序特征，从而提高心电图时间序列分类的准确率。本发明充分考虑如何更准确地捕获心电图时间序列中的多尺度时序特征，有助于更好地对心电图时间序列进行分类，服务于可穿戴心电图设备、重症监护等场景。

上述实施例为本发明较佳的实施方式，但本发明的实施方式并不受上述实施例的限制，其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化，均应为等效的置换方式，都包含在本发明的保护范围之内。

Claims (4)

1.一种基于动态多尺度卷积神经网络的心电图分类方法，其特征在于，所述心电图分类方法包括：

步骤S1、获取心电图数据集，对心电图数据集中数据进行预处理得到心电图时间序列；

步骤S2、根据心电图时间序列和随机初始化的卷积核生成一组变长卷积核；

步骤S3、将心电图时间序列输入到使用变长卷积核的卷积层，获取心电图时间序列的多尺度时序特征；

步骤S4、将步骤S3中获得的多尺度时序特征输入到max-over-time池化层中选择得到最具判别性特征；

步骤S5、将步骤S4中获得的最具判别性特征输入到带有softmax输出的分类层获得最终分类结果，构成动态多尺度卷积神经网络，然后使用交叉熵损失函数训练构建的动态多尺度卷积神经网络，其中，交叉熵损失函数用于度量两个概率分布间的差异性信息；将最具判别性特征输入到带有softmax输出的分类层获得最终分类结果，构成动态多尺度卷积神经网络，计算过程如下：

其中W^o和b^o分别表示分类层的连接权重矩阵和偏置，

表示分类层的未激活输出向量，p(C|T)表示心电图时间序列类别标签上的条件分布，C表示最终分类结果，softmax(·)把输入映射为0-1之间的实数，并且归一化保证和为1，使用交叉熵损失函数训练构建的动态多尺度卷积神经网络；

步骤S6、将待分类的心电图数据输入经过训练的动态多尺度卷积神经网络进行分类。

2.根据权利要求1所述的一种基于动态多尺度卷积神经网络的心电图分类方法，其特征在于，所述步骤S2中变长卷积核生成过程如下：

步骤S21、给定一条长度为L的心电图时间序列T，获得P＝L-l+1条长度为l的子序列，将这P条子序列输入到变长卷积核生成器中的卷积层获得心电图时间序列T的嵌入表示e_i，过程如下：

e_i＝W_i*S+b_i

其中，S表示P条长度为l的子序列，W_i和b_i分别表示第i个卷积核和对应偏置，e_i表示使用第i个卷积核获得的嵌入表示，*表示卷积操作，使用K个卷积核获得的嵌入表示E表示为：

E＝{e₁,e₂,…,e_i,…,e_K}^T；

步骤S22、随机初始化K个固定长度的卷积核

并将其与上述定义的心电图时间序列的嵌入表示进行拼接作为掩码生成器的输入，其中W_i ^f表示第i个固定长度的卷积核，其中，掩码生成器为两层全连接层，其计算过程如下：

l_i＝r_i×l

其中，W^m1和W^m2分别表示第一层全连接层和第二层全连接层的连接权重矩阵，b^m1和b^m2表示对应的偏置，

表示拼接操作，r_i∈[0，1]为一个0到1的值，将其与l相乘来获得卷积核的长度，l_i表示学习到的第i个卷积核的长度，f(·)表示激活函数；

将步骤S21中获得的K个嵌入表示输入到掩码生成器中，获得K个卷积核的长度，表示为M_len＝{l₁,l₂,…,l_i,…,l_K}；

步骤S23、根据获得的K个卷积核的长度，采取掩码的方式来控制卷积核的长度，给定l_i∈[0,l]，生成长度为l的0-1掩码向量m_i，计算过程如下：

其中m_i＝{m_i1,m_i2,…,m_ij,…,m_il}表示掩码向量，λ为一个可调节的参数，σ(·)表示sigmoid函数，将K个掩码向量收集起来表示为

M＝{m₁,m₂,…,m_i,…,m_K}^T；

步骤S24、通过下式计算获得变长卷积核W^v：

其中

W_i ^v表示第i个变长卷积核，/>

表示逐元素乘积。

3.根据权利要求2所述的一种基于动态多尺度卷积神经网络的心电图分类方法，其特征在于，所述步骤S3中获取心电图时间序列的多尺度时序特征的过程如下：

首先对心电图时间序列进行0填充，其计算过程如下：

T^p＝{x₁,x₂,…,x_i,…,x_L,0}^T

其中T^p表示经过0填充的心电图时间序列，x_i为心电图时间序列中第i个值，0表示长度为l的0向量；然后，将经过0填充的心电图时间序列输入到使用变长卷积核的卷积层中，其计算过程如下：

其中，

表示第i个变长卷积核对应的偏置，d_i表示使用第i个变长卷积核获得的卷积结果；

通过上式使用K个变长卷积核获得对应的卷积结果并将其拼接起来得到心电图时间序列的多尺度时序特征D＝{d₁,d₂,…,d_i,...,d_K}^T。

4.根据权利要求1所述的一种基于动态多尺度卷积神经网络的心电图分类方法，其特征在于，所述步骤S4中max-over-time池化层的计算过程如下：

g_i＝max(d_i)

其中，g_i表示第i个池化结果，将K个池化结果拼接起来得到最具判别性特征G＝{g₁,g₂,...,g_i,...,g_K}，max(·)为取最大值函数。

Images