CN114648048B - 基于变分自编码和PixelCNN模型的心电信号降噪方法 - Google Patents

Abstract

一种基于变分自编码和PixelCNN模型的心电信号降噪方法，变分自编码器依赖于概率分布，有利于减少重构误差，能够使模型学习数据的有用潜在表示并有效的模拟信号的全局结构。基于PixelCNN的自回归解码器进一步优化了变分自编码器压缩的潜在变量，能够在捕获大量潜在特征的同时捕捉边界小尺度特征。PixelCNN模型有助于对局部特征进行建模，这些特征与具有分解输出分布模型的VAE的全局特征互补。通过将模型扩展到不同尺度的潜在变量层次结构上，增大了感受野，减少了计算代价，更有利于细节特征信息的提取。

Description

基于变分自编码和PixelCNN模型的心电信号降噪方法

技术领域

本发明涉及心电信号降噪领域，具体涉及一种基于变分自编码和PixelCNN模型的心电信号降噪方法。

背景技术

随着物联网和人工智能技术的迅速发展，心脏病的远程监控和辅助诊疗已经成为当下医疗领域的热点问题。预防和检测心脏病的有效手段是心电图，但心电图的微弱性、低频性、不稳定性导致心电信号极易受到噪声干扰，常见噪声有肌肉伪影(MA)、电极运动(EM)和基线漂移(BW)。MA会破坏心电信号(ECG)的细节信息，导致心脏病的某些特征消失。EM或BW引起的ST段偏离基线可能被误诊为心肌梗死或其他疾病。这些噪声信号会影响心电信号的分析和诊断，因此消除这些噪声是确保心脏病被正确诊断的第一步。

现有的心电信号降噪技术可分为传统心电降噪方法和深度学习降噪方法，但现有的降噪方法仍然面临着各种各样的问题，如小波变换(WD)、经验模态分解(EMD)、维纳滤波(WF)等传统降噪方法一般只考虑了某一种类型的噪声，不能同时去除多种噪声。深度学习的降噪方法如降噪自编码器(DAE)、全卷积神经网络、生成对抗网络等在心电信号降噪方面有着优异的效果，却仍然存在着计算量大、复杂度高、过拟合和梯度消失等问题。此外，由于噪声频谱与心电信号频谱存在大量的重叠部分，这些方法会导致降噪后的信号关键信息丢失、信号失真的现象。

发明内容

本发明为了克服以上技术的不足，提供了一种通过将VAE和PixelCNN结合，生成了比原始VAE更多的压缩潜在表示，并且可以使用比PixelCNN更少的自回归层，提升模型的降噪性能，使信号具备良好的可读性，并增强其可用性，提高其干净度的心电信号降噪方法。

本发明克服其技术问题所采用的技术方案是：

一种基于变分自编码和PixelCNN模型的心电信号降噪方法，包括如下步骤：

a)从MIT-BIH心律失常数据库中随机截取，得到L个干净心电信号样本数据，第i个干净心电信号样本数据为S_i，S_i＝[s₁,s₂,...,s_M]，1≤i≤L，其中s_j为第j个采样点的心电信号，1≤j≤M，M为每条干净心电信号样本数据中具有的采样点个数；

b)对干净心电信号样本数据S_i进行归一化处理，得到归一化后的干净心电信号样本数据

c)得到L个噪声样本数据，第i个噪声信号样本数据为N_i，N_i＝[n₁,n₂,...,n_M]，1≤i≤L，其中n_j为第j个采样点的噪声信号，1≤j≤M，M为每条噪声信号样本数据中具有的采样点个数；

d)通过公式

计算得到含噪心电信号X_i，将含噪心电信号X_i划分为训练集T、验证集V、测试集H；

e)构建VAE网络，VAE网络依次由编码器、潜在空间和解码器构成，将训练集T输入到VAE网络模块中编码器的下采样单元中，编码器的下采样单元依次由七个卷积模块构成，第一卷积模块为一个大小为1*31、步长为2、填充为(0,15)的卷积核与一个ReLU激活函数组成的卷积层，第二卷积模块、第三卷积模块以及第四卷积模块均为一个大小为2*31、步长为2、填充为(1,15)的卷积核与一个ReLU激活函数组成的卷积层，第五卷积模块、第六卷积模块、第七卷积模块均为一个大小为2*15、步长为2、填充为(1,7)的卷积核与一个ReLU激活函数组成的卷积层，通过公式z^k＝δ(W^k·U^k-1+b^k)计算得到第k个卷积模块的输出z^k，k∈{1,2,...,7}，式中δ为ReLU激活函数，W^k为第k个卷积模块的卷积滤波器，b^k为第k个卷积模块的偏置量，U^k-1为第k个卷积模块的输入，经过下采样单元处理后的特征向量为X_out，X_out＝z⁷；

f)潜在空间由两个全连接层构成，将特征向量X_out输入潜在空间的两个全连接层后分别得到后验分布的均值μ和后验分布的标准差σ，通过公式z＝μ+σ⊙∈,∈～N(0,I)计算得到经潜在空间重构后的潜在特征向量z，∈为从标准正态分布N(0,I)中随机采样的一个样本，⊙为Hadamard乘积，I为正态分布的标准差；

g)将重构后的潜在特征向量z输入解码器的上采样单元中得到解码器输出特征向量X_out′，解码器的上采样单元依次由七个反卷积模块构成，第一反卷积模块、第二反卷积模块、第三反卷积模块、第四反卷积模块、第五反卷积模块、第六反卷积模块均为一个大小为1*32、步长为2、填充为(0,15)的反卷积核与一个ReLU激活函数组成的反卷积层，第七反卷积模块为一个大小为1*31、步长为1、填充为(0,15)的反卷积核与一个ReLU激活函数组成的反卷积层；

h)将特征向量X_out′输入PixelCNN模型，PixelCNN模型依次由第一掩码卷积块、四个残差块及第二掩码卷积块构成，PixelCNN模型输出得到最终降噪后的心电信号

i)通过公式

计算得到损失函数Loss，式中

为第f个干净的心电信号样本数据，

为第f个降噪后心电样本数据，F为训练集T中心电信号样本数据总数，D为潜在特征向量z的长度，e为自然底数，σ_fd为第f个心电信号样本数据对应的潜在特征向量的第d个分量的标准差，μ_fd为第f个心电信号样本数据对应的潜在特征向量的第d个分量的均值；

j)选择ADAM优化器，通过损失函数Loss对VAE网络和PixelCNN模型进行训练，训练结束后保存最优模型及其参数；

k)将测试集H输入步骤j)优化后的模型中得到降噪后的心电信号。

进一步的，步骤b)包括如下步骤：

通过公式

计算得到归一化后的干净心电信号样本数据

式中coef为系数，

ub为信号所需归一化范围上限值，lb为信号所需归一化范围下限值，s_max为干净心电信号样本数据S_i的最大值，s_min为干净心电信号样本数据S_i的最小值，s_mid为干净心电信号样本数据S_i的中间值，

mid为信号归一化所需范围的中间值，

优选的，步骤c)中选自MIT-BIH噪声压力测试数据库中MA、BW、EM三种噪声信号作为噪声信号，MA、BW、EM三种噪声信号中每条噪声信号有650000个采样点，对MA、BW、EM三种噪声信号分别进行随机起始点采样，得到L个噪声样本数据。优选的，步骤d)中将噪声信号样本数据N_i以5dB的强度加入干净心电信号样本数据S_i中。

优选的，将含噪心电信号X_i按7:2:1划分为训练集T、验证集V、测试集H。进一步的，步骤e)中第一卷积模块至第七卷积模块的卷积层的输出通道数分别为512、512、256、128、64、32、8。

进一步的，步骤g)第一反卷积模块至第七反卷积模块的卷积层的输出通道数分别为8、16、32、64、128、512、512。

进一步的，步骤h)中第一掩码卷积块由大小1*3的掩码卷积层构成，第二掩码卷积块由两个大小为1*1的掩码卷积层构成，残差块依次由一个大小为1*1的卷积层、一个大小为1*3的掩码卷积层及一个1*1的卷积层构成。

进一步的，步骤j)中训练VAE网络和PixelCNN模型时设置学习率为0.001，每100个epoch学习率下降至原学习率的一半，设置batch size大小为64，训练500个epoch，当连续20个epoch的Loss不变，则结束训练。

本发明的有益效果是：变分自编码器(VAE)依赖于概率分布，有利于减少重构误差，能够使模型学习数据的有用潜在表示并有效的模拟信号的全局结构。基于PixelCNN的自回归解码器进一步优化了变分自编码器压缩的潜在变量，能够在捕获大量潜在特征的同时捕捉边界小尺度特征。PixelCNN模型有助于对局部特征进行建模，这些特征与具有分解输出分布模型的VAE的全局特征互补。通过将模型扩展到不同尺度的潜在变量层次结构上，增大了感受野，减少了计算代价，更有利于细节特征信息的提取。

附图说明

图1为本发明的整体网络模型结构图。

具体实施方式

下面结合附图1对本发明做进一步说明。

一种基于变分自编码和PixelCNN模型的心电信号降噪方法，包括如下步骤：

a)从MIT-BIH心律失常数据库中随机截取，得到L个干净心电信号样本数据，第i个干净心电信号样本数据为S_i，S_i＝[s₁,s₂,...,s_M]，1≤i≤L，其中s_j为第j个采样点的心电信号，1≤j≤M，M为每条干净心电信号样本数据中具有的采样点个数。

b)对干净心电信号样本数据S_i进行归一化处理，得到归一化后的干净心电信号样本数据

c)得到L个噪声样本数据，第i个噪声信号样本数据为N_i，N_i＝[n₁,n₂,...,n_M]，1≤i≤L，其中n_j为第j个采样点的噪声信号，1≤j≤M，M为每条噪声信号样本数据中具有的采样点个数。

d)通过公式

计算得到含噪心电信号X_i，将含噪心电信号X_i划分为训练集T、验证集V、测试集H。

e)构建VAE网络，VAE网络依次由编码器、潜在空间和解码器构成，将训练集T输入到VAE网络模块中编码器的下采样单元中，编码器的下采样单元依次由七个卷积模块构成，第一卷积模块为一个大小为1*31、步长为2、填充为(0,15)的卷积核与一个ReLU激活函数组成的卷积层，第二卷积模块、第三卷积模块以及第四卷积模块均为一个大小为2*31、步长为2、填充为(1,15)的卷积核与一个ReLU激活函数组成的卷积层，第五卷积模块、第六卷积模块、第七卷积模块均为一个大小为2*15、步长为2、填充为(1,7)的卷积核与一个ReLU激活函数组成的卷积层，通过公式z^k＝δ(W^k·U^k-1+b^k)计算得到第k个卷积模块的输出z^k，k∈{1,2,...,7}，式中δ为ReLU激活函数，W^k为第k个卷积模块的卷积滤波器，b^k为第k个卷积模块的偏置量，U^k-1为第k个卷积模块的输入，第一个卷积模块的输入为含有噪声的心电信号，其它卷积模块的输入均为上一个卷积模块的输出，经过下采样单元处理后的特征向量为X_out，X_out＝z⁷。

f)潜在空间由两个全连接层构成，为了提高变分模型的训练稳定性，经过下采样后得到的特征向量X_out输入潜在空间的两个全连接层后分别得到后验分布的均值μ和后验分布的标准差σ，通过公式z＝μ+σ⊙∈,∈～N(0,I)计算得到经潜在空间重构后的潜在特征向量z，∈为从标准正态分布N(0,I)中随机采样的一个样本，⊙为Hadamard乘积，I为正态分布的标准差。

g)将重构后的潜在特征向量z输入解码器的上采样(Up Sampling)单元中得到解码器输出特征向量X_out′，解码器的上采样单元依次由七个反卷积模块构成，第一反卷积模块、第二反卷积模块、第三反卷积模块、第四反卷积模块、第五反卷积模块、第六反卷积模块均为一个大小为1*32、步长为2、填充(padding)为(0,15)的反卷积核与一个ReLU激活函数组成的反卷积层，第七反卷积模块为一个大小为1*31、步长为1、填充为(0,15)的反卷积核与一个ReLU激活函数组成的反卷积层。

h)将特征向量X_out′输入PixelCNN模型，PixelCNN模型依次由第一掩码卷积块、四个残差块及第二掩码卷积块构成，PixelCNN模型输出得到最终降噪后的心电信号

第一掩码卷积块作用是为掩盖掉中心向量点的掩码卷积，第二掩码卷积块的为不掩盖掉中心向量点的掩码卷积。

i)为了拥有一个接近先验分布同时能够描述输入数据特征的潜在表示，该模型使用模拟先验分布和原始数据的重构损失之和作为损失函数，具体的，通过公式

计算得到损失函数Loss，式中

为第f个干净的心电信号样本数据，

为第f个降噪后心电样本数据，F为训练集T中心电信号样本数据总数，D为潜在特征向量z的长度，e为自然底数，σ_fd为第f个心电信号样本数据对应的潜在特征向量的第d个分量的标准差，μ_fd为第f个心电信号样本数据对应的潜在特征向量的第d个分量的均值。

j)选择ADAM优化器，通过损失函数Loss对VAE网络和PixelCNN模型进行训练，训练结束后保存最优模型及其参数。

k)将测试集H输入步骤j)优化后的模型中得到降噪后的心电信号。

变分自编码器(VAE)依赖于概率分布，有利于减少重构误差，能够使模型学习数据的有用潜在表示并有效的模拟信号的全局结构。基于PixelCNN的自回归解码器进一步优化了变分自编码器压缩的潜在变量，能够在捕获大量潜在特征的同时捕捉边界小尺度特征。PixelCNN模型有助于对局部特征进行建模，这些特征与具有分解输出分布模型的VAE的全局特征互补。通过将模型扩展到不同尺度的潜在变量层次结构上，增大了感受野，减少了计算代价，更有利于细节特征信息的提取。

实施例1：

步骤b)包括如下步骤：

通过公式

计算得到归一化后的干净心电信号样本数据

式中coef为系数，

ub为信号所需归一化范围上限值，lb为信号所需归一化范围下限值，s_max为干净心电信号样本数据S_i的最大值，s_min为干净心电信号样本数据S_i的最小值，s_mid为干净心电信号样本数据S_i的中间值，

mid为信号归一化所需范围的中间值，

实施例2：

步骤c)中选自MIT-BIH噪声压力测试数据库中MA、BW、EM三种噪声信号作为噪声信号，MA、BW、EM三种噪声信号中每条噪声信号有650000个采样点，对MA、BW、EM三种噪声信号分别进行随机起始点采样，得到L个噪声样本数据。

实施例3：

步骤d)中将噪声信号样本数据N_i以5dB的强度加入干净心电信号样本数据S_i中。

实施例4：

将含噪心电信号X_i按7:2:1划分为训练集T、验证集V、测试集H。

实施例5：

步骤e)中第一卷积模块至第七卷积模块的卷积层的输出通道数分别为512、512、256、128、64、32、8。

实施例6：

步骤g)第一反卷积模块至第七反卷积模块的卷积层的输出通道数分别为8、16、32、64、128、512、512。

实施例7：

步骤h)中第一掩码卷积块由大小1*3的掩码卷积层构成，第二掩码卷积块由两个大小为1*1的掩码卷积层构成，残差块依次由一个大小为1*1的卷积层、一个大小为1*3的掩码卷积层及一个1*1的卷积层构成。

实施例8：

步骤j)中训练VAE网络和PixelCNN模型时设置学习率为0.001，每100个epoch学习率下降至原学习率的一半，设置batch size大小为64，训练500个epoch，当连续20个epoch的Loss不变，则结束训练。

最后应说明的是：以上所述仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种基于变分自编码和PixelCNN模型的心电信号降噪方法，其特征在于，包括如下步骤：

a)从MIT-BIH心律失常数据库中随机截取，得到L个干净心电信号样本数据，第i个干净心电信号样本数据为S_i，S_i＝[s₁,s₂,...,s_M]，1≤i≤L，其中s_j为第j个采样点的心电信号，1≤j≤M，M为每条干净心电信号样本数据中具有的采样点个数；

b)对干净心电信号样本数据S_i进行归一化处理，得到归一化后的干净心电信号样本数据

c)得到L个噪声信号样本数据，第i个噪声信号样本数据为N_i，N_i＝[n₁,n₂,...,n_M]，1≤i≤L，其中n_j为第j个采样点的噪声信号，1≤j≤M，M为每个噪声信号样本数据中具有的采样点个数；

d)通过公式

计算得到含噪心电信号X_i，将含噪心电信号X_i划分为训练集T、验证集V、测试集H；

e)构建VAE网络，VAE网络依次由编码器、潜在空间和解码器构成，将训练集T输入到VAE网络模块中编码器的下采样单元中，编码器的下采样单元依次由七个卷积模块构成，第一卷积模块为一个大小为1*31、步长为2、填充为(0,15)的卷积核与一个ReLU激活函数组成的卷积层，第二卷积模块、第三卷积模块以及第四卷积模块均为一个大小为2*31、步长为2、填充为(1,15)的卷积核与一个ReLU激活函数组成的卷积层，第五卷积模块、第六卷积模块、第七卷积模块均为一个大小为2*15、步长为2、填充为(1,7)的卷积核与一个ReLU激活函数组成的卷积层，通过公式z^k＝δ(W^k·U^k-1+b^k)计算得到第k个卷积模块的输出z^k，k∈{1,2,...,7}，式中δ为ReLU激活函数，W^k为第k个卷积模块的卷积滤波器，b^k为第k个卷积模块的偏置量，U^k-1为第k个卷积模块的输入，经过下采样单元处理后的特征向量为X_out，X_out＝z⁷；

f)潜在空间由两个全连接层构成，将特征向量X_out输入潜在空间的两个全连接层后分别得到后验分布的均值μ和后验分布的标准差σ，通过公式z＝μ+σ⊙,∈～N(0,I)计算得到经潜在空间重构后的潜在特征向量z，∈为从标准正态分布N(0,I)中随机采样的一个样本，⊙为Hadamard乘积，I为正态分布的标准差；

g)将重构后的潜在特征向量z输入解码器的上采样单元中得到解码器输出特征向量X_out′，解码器的上采样单元依次由七个反卷积模块构成，第一反卷积模块、第二反卷积模块、第三反卷积模块、第四反卷积模块、第五反卷积模块、第六反卷积模块均为一个大小为1*32、步长为2、填充为(0,15)的反卷积核与一个ReLU激活函数组成的反卷积层，第七反卷积模块为一个大小为1*31、步长为1、填充为(0,15)的反卷积核与一个ReLU激活函数组成的反卷积层；

h)将特征向量X_out′输入PixelCNN模型，PixelCNN模型依次由第一掩码卷积块、四个残差块及第二掩码卷积块构成，PixelCNN模型输出得到最终降噪后的心电信号

i)通过公式

计算得到损失函数Loss，式中

为第f个归一化后的干净的心电信号样本数据，

为第f个降噪后的心电信号，F为训练集T中心电信号样本数据总数，D为重构后的潜在特征向量z的长度，e为自然底数，σ_fd为第f个心电信号样本数据对应的重构后的潜在特征向量的第d个分量的标准差，μ_fd为第f个心电信号样本数据对应的重构后的潜在特征向量的第d个分量的均值；

j)选择ADAM优化器，通过损失函数Loss对VAE网络和PixelCNN模型进行训练，训练结束后保存最优模型及其参数；

k)将测试集H输入步骤j)最优模型中得到降噪后的心电信号。

2.根据权利要求1所述的基于变分自编码和PixelCNN模型的心电信号降噪方法，其特征在于，步骤b)包括如下步骤：

通过公式

计算得到归一化后的干净心电信号样本数据

式中coef为系数，

ub为信号所需归一化范围上限值，lb为信号所需归一化范围下限值，s_max为干净心电信号样本数据S_i的最大值，s_min为干净心电信号样本数据S_i的最小值，s_mid为干净心电信号样本数据S_i的中间值，

mid为信号归一化所需范围的中间值，

3.根据权利要求1所述的基于变分自编码和PixelCNN模型的心电信号降噪方法，其特征在于：步骤c)中选自MIT-BIH噪声压力测试数据库中MA、BW、EM三种噪声信号作为噪声信号，MA、BW、EM三种噪声信号中每条噪声信号有650000个采样点，对MA、BW、EM三种噪声信号分别进行随机起始点采样，得到L个噪声样本数据。

4.根据权利要求1所述的基于变分自编码和PixelCNN模型的心电信号降噪方法，其特征在于：步骤d)中将噪声信号样本数据N_i以5dB的强度加入归一化后的干净心电信号样本数据

5.根据权利要求1所述的基于变分自编码和PixelCNN模型的心电信号降噪方法，其特征在于：将含噪心电信号X_i按7:2:1划分为训练集T、验证集V、测试集H。

6.根据权利要求1所述的基于变分自编码和PixelCNN模型的心电信号降噪方法，其特征在于：步骤e)中第一卷积模块至第七卷积模块的卷积层的输出通道数分别为512、512、256、128、64、32、8。

7.根据权利要求1所述的基于变分自编码和PixelCNN模型的心电信号降噪方法，其特征在于：步骤g)第一反卷积模块至第七反卷积模块的卷积层的输出通道数分别为8、16、32、64、128、512、512。

8.根据权利要求1所述的基于变分自编码和PixelCNN模型的心电信号降噪方法，其特征在于：步骤h)中第一掩码卷积块由大小1*3的掩码卷积层构成，第二掩码卷积块由两个大小为1*1的掩码卷积层构成，残差块依次由一个大小为1*1的卷积层、一个大小为1*3的掩码卷积层及一个1*1的卷积层构成。

9.根据权利要求1所述的基于变分自编码和PixelCNN模型的心电信号降噪方法，其特征在于：步骤j)中训练VAE网络和PixelCNN模型时设置学习率为0.001，每100个epoch学习率下降至原学习率的一半，设置batch size大小为64，训练500个epoch，当连续20个epoch的Loss不变，则结束训练。

Images