CN109784242A - 基于一维残差卷积神经网络的脑电信号去噪方法 - Google Patents

Abstract

一种基于一维残差卷积神经网络的脑电信号去噪方法，由选取脑电样本、构建含噪脑电信号样本、划分网络训练集和测试集、构建一维残差卷积神经网络、训练一维残差卷积神经网络、重建去噪脑电信号步骤组成。本发明构建了一个由残差网络连接组成的一维残差卷积神经网络，引入卷积层和激活层，增强了神经网络的学习能力，建立起噪声信号到脑信号的准确映射，实时去噪，卷积层后的激活层用线性整流单元层函数，将小于0的神经元去掉，筛选出有效的特征，避免了梯度爆炸的缺陷；将信号去噪分为模型训练和去噪过程，提高了信号去噪的信噪比和均方根误差,减少了去噪时间，提升了脑电信号去噪的效率和质量，可用于信号处理的预处理和去噪处理技术领域。

Description

基于一维残差卷积神经网络的脑电信号去噪方法

技术领域

本发明属于脑电信号处理技术领域，具体涉及到一维残差卷积神经网络的脑电信号去噪方法。

技术背景

脑电信号(Electroencephalogram,EEG)是大脑神经细胞中的电活动在大脑皮层上放置在大脑多个区域的头皮上的一些电极的反应,然而EEG又是一种随机性很强的非线性非平稳信号,包含的成分非常复杂，而且信号幅度为微伏级,强度非常微弱，极易受到人体其它生理信号或是空间电磁噪声等非生理信号的干扰，结果是增加脑电信号的读取难度和阻碍脑电信号的后续研究分析以及应用。因此，发展相关的方法去除脑电信号的伪迹干扰，从中提取有效的大脑功能信息具有重大的理论和实践意义。

脑电信号的降噪预处理是保障特征提取精度的基础操作，为了去除EEG信号中的伪影，许多研究者都提出了不同的降噪算法，例如经验模态分解，小波去噪，ICA独立成分分析，自适应滤波等。

ICA方法能够将EEG信号中包括的理想信号和噪声作为独立成分分离出来，从而实现EEG信号去噪，但是当EEG信号通道数小于所分离的信号源数时，ICA方法就无法有效地将噪声与理想信号分离出来。小波变换(WT)是傅里叶变换的继承和发展，具有时频局部化、多分辨率和去相关性的特点，很适合探测信号的瞬时状态对微弱的信号可以进行有效去噪。小波变换可以提取出不同频段的小波系数对高频段和低频段的小波系数置零或进行小波阈值处理，将高斯噪声去除到达去噪的目的。小波阈值滤波方法是目前常用的一种阈值去噪方法，基于小波阈值的信号去噪，其算法简单，计算量少，在保持信号奇异性的同时能有效的滤除噪声，被广泛的应用到脑电去噪领域，然而，小波变换的阈值难以确定，不适当的阈值可能会导致脑电数据降级，从而降低脑电系统的泛化能力。虽然小波变换对于低频信号的频域特征分辨的很好，但是时域特征分辨不够，对于高频信号则相反。自适应数字滤波器是现在应用最广泛的一种滤波器。例如维纳滤波器，自适应滤波器,卡尔曼滤波器等，这些滤波器在滤除脑电信号上的噪声都取得了较好的效果。但是这些滤波器对参数的调整都太敏感，很不稳定。在对EEG信号滤波的过程中,一个很重要的问题是对原有脑电信号形态的保持，也就是对有用信息的保留问题。这些滤波方法都是离线进行的滤波，因此传输过程中可能会导致信号的失真问题，同时也会造成信号延迟分析。

基于以上分析，很明显现有方法不能满足分析所需的EEG降噪要求。是脑电图智能分析的良好平台。深度模型基于大型数据库学习特征，比依赖于表征固有数据丰富信息的浅层模型表现更好。深度学习在大数据中自动学习特征的表示，得到更有效果的特征表达。目前，深度学习已经是模式识别领域中有效的进行分类预测等，适用于图像分析，自然语言处理，医学信号分析等各个领域中。最近，深层神经网络(D NN)模型，如堆叠去噪自动编码器(DAE)，由一系列DAE构建，或由一系列形成的深层信念网络限制玻尔兹曼机器(RBM)已广泛用于信号去噪和特征学习领域。

卷积神经网络CNN是深度学习的一个子集，近年来引起了很多关注，已经在其他领域应用，效果很好，从图像识别开始，其次是许多其他领域，如自然语言处理，推荐系统和其他监督模式识别任务。从最近开始，CNN也被用于短脑电图时间序列，用于各种应用，如脑计算机接口，包括运动图像和稳态视觉诱发电位(SSVEP)。CNN也应用于图像去噪等，如X射线医学图像分析，磁共振图像，组织病理学图像，眼底图像，和计算机断层扫描图像。由于强大的学习和泛化能力，其权值共享和稀疏连接的特点，使得网络模型复杂度大大降低,同时残差网络的出现，让构建一个更深的网络模型变得可能。卷积神经网络已成为自适应信号处理中的一种有吸引力的方法。

在脑信号处理技术领域，当前需迫切解决的技术问题提供一种残差卷积神经网络的脑电信号去噪方法。

发明内容

本发明所要解决的技术问题在于克服上述现有技术问题的缺点，提供一种能保持原有脑电信号非线性特征、能滤除脑电信号的噪声的基于一维残差卷积神经网络的脑电信号去噪方法。

解决上述技术问题采用的技术方案是由下述步骤组成：

(1)选取脑电样本

从Physionet数据库中选取m个脑电样本，标记为脑电样本E_D×N，其中D为脑电信号的通道数，N为脑电信号的采样点数，在馈入一维残差卷积网络进行训练和测试之前，每个脑电信号按以下方程进行归一化处理。

式中max为样本数据x_i的最大值，min为样本数据x_i的最小值，其中1≤i≤n。

(2)构建含噪脑电信号样本

选取基线噪声或高斯白噪声或肌电噪声作为噪声，将不同信噪比的噪声分别加入到脑电样本中，构建成含噪脑电信号样本，按式(1)对含噪脑电样本进行归一化处理。

(3)划分网络训练集、测试集

使用数据增强方法扩充脑电样本和含噪脑电信号样本，并分别划分60％～80％作为网络训练集、20％～40％作为网络测试集，测试集与训练集无交叉。

(4)构建一维残差卷积神经网络

采用残差网络方法，将1个批处理归一层与2个一维卷积层依次连接，在一维卷积层的输出串联2个残差块，第二个残差块的输出依次连接1个一维卷积层和1个全连接层，构建成一维残差卷积神经网络。

(5)训练一维残差卷积神经网络

用训练样本训练一维残差卷积神经网络，采用Adam优化方法动态调整网络模型的学习率进行训练，得到训练好的一维残差卷积神经网络。

上述的动态调整网络模型的学习率进行训练为：用均方误差函数L(x,z)作为损失函数。

上述均方误差函数L(x,z)为：

其中i为1,2,...,n,n是训练样本的数量为有限的正整数，x为输入信号，z为输出的重构信号。

(6)重建去噪脑电信号

将测试集的脑电数据输入到训练好的一维残差卷积神经网络方法中，输出对应的重构脑电信号。

在本发明的构建一维残差卷积神经网络步骤(4)中，本发明的残差块为：每个残差单元包括三个线性整流单元层、三个一维卷积层和三个批量正则层，通过快捷连接将残差块的输入和输出进行一个求和，三个一维卷积层的卷积核大小分别是16×1×5、16×1×10、32×1×5，批量正则层的输出与线性整流单元层的输入相连，线性整流单元层输出与卷积层的输入相连。

在本发明的构建一维残差卷积神经网络步骤(4)中，本发明的一维卷积层为：3个一维卷积层的卷积核大小分别为16×1×5、32×1×5、1×1×5，一维卷积层的填充方式为same，批量正则层的输出与一维卷积层的输入相连，前面2个一维卷积层的输出与相互串联的2个残差单元的输入相连，后面1个残差单元的输出与第三个一维卷积层的输入相连。

在本发明的构建一维残差卷积神经网络步骤(4)中，本发明的全连接层为：第三个一维卷积层的输出与全连接层的输入相连，全连接层输出维度为400×1。

在本发明的训练一维残差卷积神经网络步骤(5)中，本发明的动态调整网络模型的学习率进行训练为：用均方误差函数L(x,z)作为损失函数，每次模型训练使用的样本数量为8，训练遍历所有样本100次，每过10代学习率降为当前的0.1。

本发明与现有的技术相比具有以下优点：

由于本发明构建了一个由残差网络连接组成的一维残差卷积神经网络，通过引入卷积层和激活层，极大地增强了神经网络的学习能力，借助卷积层的学习能力和激活层的筛选能力，建立起噪声信号到脑信号的准确映射，实现了实时去噪，每个卷积层后的激活层选用线性整流单元层函数，线性整流单元层函数可将小于0的神经元去掉，筛选出有效的特征，避免了梯度爆炸的问题；将信号去噪过程分为模型训练和去噪过程，能够显著提高信号去噪的信噪比和均方根误差,减少了去噪时间，能有效地提升脑电信号去噪的效率和质量。本发明方法可应用于信号处理的预处理过程和信号去噪处理技术领域。

附图说明

图1是本发明实施例1的脑电信号去噪流程图。

图2是残差块的结构示意图。

图3是图1中一维残差卷积神经网络的结构示意图。

图4是一维残差卷积神经网络对于信噪比为0dB的肌电噪声去噪结果图。

图5是快速独立分量分析方法去噪方法对于信噪比为0dB的肌电噪声去噪结果图。

图6是小波变换去噪方法对于信噪比为0dB的肌电噪声去噪结果图。

图7是实施例1的方法与快速独立分量分析方法和小波变换去噪方法对于信噪比为0dB的肌电噪声功率谱密度对比图。

具体实施方式

下面结合附图和实施例对本发明进一步详细说明，但本发明不限于下述的实施例。

实施例1

以在physionet网站脑电集选取20个样本数据为例，采样频率为256Hz,采用0到1分钟时间段内的信号作为输入。每一个样本数据表示一个15360×23的矩阵,每一行代表一个电极通道在1分钟内的电压信号,共有23个电极通道。基于一维残差卷积神经网络的脑电信号去噪方法由以下步骤组成(如图1所示)：

(1)选取脑电样本

从Physionet数据库中选取m个脑电样本，标记为脑电样本E_D×N，其中D为脑电信号的通道数，N为脑电信号的采样点数，在所用的脑电样本E_D×N中，D为23，N为60s×256Hz个采样点,将此数据作为输入送进一维残差卷积网络中。在馈入一维残差卷积网络进行训练和测试之前，每个脑电信号按以下方程进行归一化处理：

式中max为样本数据x_i的最大值，min为样本数据x_i的最小值，其中1≤i≤n。

(2)构建含噪脑电信号样本

选取基线噪声作为噪声，也可采用高斯白噪声为噪声，还可采用肌电噪声作为噪声，将不同信噪比的噪声分别加入到脑电样本中，构建成含噪脑电信号样本，按式(1)对含噪脑电样本进行归一化处理。

(3)划分网络训练集、测试集

使用数据增强方法扩充脑电样本和含噪脑电信号样本，并分别划分为网络训练集、测试集。数据增强方法为：对脑电样本和含噪脑电信号样本中的所有脑电信号以窗口大小400，步幅为20平移；每条记录被分成256个相等的长度为400的脑电信号，丢弃最后的样本，将每次平移得到的脑电信号分别加入脑电样本和含噪脑电信号中。

训练集组成：选取前80％的脑电样本作为无监督预训练中的无标签训练数据，选取前80％的含噪脑电信号样本作为有监督训练中的带标签训练数据。

测试集组成：选取含噪脑电信号样本中的后20％的信号作为测试数据集，网络测试集与网络训练集大小的比为1:4，测试集与训练集无交叉。

本实施例选取了20个脑电样本，每个脑电样本的训练集为7755个样本、测试集为1938个样本，分别测试10次，结果取平均值；数据集划分方法为：在193860个数据集中随机抽取155088个样本即80％作为网络训练集,38772个样本即20％作为测试集；对于每个样本，脑电样本分为两部分，第一部分用于训练和测试网络，第二部分用于删除噪声并测试所提出的方法。

(4)构建一维残差卷积神经网络

采用残差网络方法，将1个批处理归一层与2个一维卷积层依次连接，在一维卷积层的输出串联2个残差块，第二个残差块的输出依次连接1个一维卷积层和1个全连接层，构建成一维残差卷积神经网络，如图3所示。

在图2中，本实施例的残差块为：每个残差单元包括三个线性整流单元层、三个一维卷积层和三个批量正则层，通过快捷连接将残差块的输入和输出进行一个求和，三个一维卷积层的卷积核大小分别是16×1×5、16×1×10、32×1×5，批量正则层的输出与线性整流单元层的输入相连，线性整流单元层输出与卷积层的输入相连。

本实施例的一维卷积层为：3个一维卷积层的卷积核大小分别为16×1×5、32×1×5、1×1×5，一维卷积层的填充方式为same，批量正则层的输出与一维卷积层的输入相连，前面2个一维卷积层的输出与相互串联的2个残差单元的输入相连，后面1个残差单元的输出与第三个一维卷积层的输入相连。

本实施例的全连接层为：第三个一维卷积层的输出与全连接层的输入相连，全连接层输出维度为400×1。

(5)训练一维残差卷积神经网络

用训练样本训练一维残差卷积神经网络，采用Adam优化方法动态调整网络模型的学习率进行训练，得到训练好的一维残差卷积神经网络。

本实施例的动态调整网络模型的学习率进行训练为：用均方误差函数L(x,z)作为损失函数，每次模型训练使用的样本数量为8，训练遍历所有样本100次，每过10代学习率降为当前的0.1。

上述均方误差函数L(x,z)为：

其中i为1,2,...,n,n是训练样本的数量为有限的正整数，x为输入信号，z为输出的重构信号。

(6)重建去噪脑电信号

将测试集的脑电数据输入到训练好的一维残差卷积神经网络方法中，输出对应的重构脑电信号，如图4～图6所示，在图4～图6中，横坐标表示脑电信号采样点数，纵坐标表示信号幅度值，虚线是含噪声污染的脑电信号曲线，实线是分别采用本实施例方法、快速独立分量分析方法、小波变换方法处理后的脑电信号曲线。由图4～图6可见，采用本实施例方法更好地去除了脑电信号中的噪声。

图7是去除噪声功率谱密度对比图，横坐标表示频率值，单位为HZ，纵坐标表示信号功率谱密度值，单位为dB，三条曲线从上到下分别表示为使用快速独立分量分析方法、小波变换方法、本实施例方法去噪后的脑电信号功率谱密度曲线。由图7可见，采用本实施例方法去噪后的脑电信号功率谱密度最低，更好地保持了脑电信号的非线性特征。

实施例2

以在physionet网站脑电集选取20个样本数据为例，采样频率为256Hz,采用0到1分钟时间段内的信号作为输入。每一个样本数据表示一个15360×23的矩阵,每一行代表一个电极通道在1分钟内的电压信号,共有23个电极通道。基于一维残差卷积神经网络的脑电信号去噪方法由以下步骤组成：

(1)选取脑电样本

该步骤与实施例1相同。

(2)构建含噪脑电信号样本

该步骤与实施例1相同。

(3)划分网络训练集、测试集

使用数据增强方法扩充脑电样本和含噪脑电信号样本，并分别划分为网络训练集、测试集。数据增强方法为：对脑电样本和含噪脑电信号样本中的所有脑电信号以窗口大小400，步幅为20平移；每条记录被分成256个相等的长度为400的脑电信号，丢弃最后的样本，将每次平移得到的脑电信号分别加入脑电样本和含噪脑电信号中。

训练集组成：选取前70％的脑电样本作为无监督预训练中的无标签训练数据，选取前70％的含噪脑电信号样本作为有监督训练中的带标签训练数据。

测试集组成：选取含噪脑电信号样本中的后30％的信号作为测试数据集，网络测试集与网络训练集大小的比为3:7，测试集与训练集无交叉。

本实施例选取了20个脑电样本，每个脑电样本的训练集为6785个样本、测试集为2908个样本，分别测试10次，结果取平均值；数据集划分方法为：在193860个数据集中随机抽取135702个样本即70％作为网络训练集,58158个样本即30％作为测试集；对于每个样本，脑电样本分为两部分，第一部分用于训练和测试网络，第二部分用于删除噪声并测试所提出的方法。

其他步骤与实施例1相同。

实施例3

以在physionet网站脑电集选取20个样本数据为例，采样频率为256Hz,采用0到1分钟时间段内的信号作为输入。每一个样本数据表示一个15360×23的矩阵,每一行代表一个电极通道在1分钟内的电压信号,共有23个电极通道。基于一维残差卷积神经网络的脑电信号去噪方法由以下步骤组成：

(1)选取脑电样本

该步骤与实施例1相同。

(2)构建含噪脑电信号样本

该步骤与实施例1相同。

(3)划分网络训练集、测试集

使用数据增强方法扩充脑电样本和含噪脑电信号样本，并分别划分为网络训练集、测试集。数据增强方法为：对脑电样本和含噪脑电信号样本中的所有脑电信号以窗口大小400，步幅为20平移；每条记录被分成256个相等的长度为400的脑电信号，丢弃最后的样本，将每次平移得到的脑电信号分别加入脑电样本和含噪脑电信号中。

训练集组成：选取前80％的脑电样本作为无监督预训练中的无标签训练数据，选取前80％的含噪脑电信号样本作为有监督训练中的带标签训练数据。

测试集组成：选取含噪脑电信号样本中的后40％的信号作为测试数据集，网络测试集与网络训练集大小的比为2:3，测试集与训练集无交叉。

本实施例选取了20个脑电样本，每个脑电样本的训练集为5815个样本、测试集为3878个样本，分别测试10次，结果取平均值；数据集划分方法为：在193860个数据集中随机抽取116316个样本即60％作为网络训练集,77544个样本即40％作为测试集；对于每个样本，脑电样本分为两部分，第一部分用于训练和测试网络，第二部分用于删除噪声并测试所提出的方法。

其他步骤与实施例1相同。

为了验证本发明的有益效果，发明人采用本发明实施例1的方法进行了仿真实验，实验情况如下：

1、仿真条件

硬件条件为：4块Nvidia 1080Ti显卡，128G内存。

软件平台为：Pytorch框架。

2、仿真内容与结果

用实施例1方法在上述仿真条件下进行实验，结果见图4～图7，与现有技术相比，本发明具有以下优点：

本发明的脑电去噪方法基于深度网络的学习，通过引入卷积层和激活层，极大地增强神经网络的学习能力，借助卷积层的学习能力和激活层的筛选能力，获取好的特征，建立起噪声信号到脑电信号的准确映射，实现实时去噪，其中每个卷积层后的激活层选用线性整流单元层函数，线性整流单元层函数可以将小于0的神经元去掉，筛选出有效的特征，有效地避免了梯度爆炸的缺陷；将信号去噪过程分为模型训练过程和去噪过程，能够提高信号去噪的信噪比和均方根误差,减少去噪时间，应用在信号处理方面的预处理过程和独立的信号去噪领域，能提升脑电信号去噪的效率和质量。在进一步的方案中，本发明还可以具有以下有益效果：

本发明搭建的一维残差卷积神经网络模型中的残差单元中包括相互串联的多个残差单元，增加了网络深度，提升了效果。

在残差网络模型中的每个残差单元中引入卷积层、激活层，极大地增强了神经网络的学习能力，并可以针对脑电去噪建立起含噪脑电到脑电的准确映射，最终能够通过建立的有效映射对含噪信号进行处理，以获得高质量的信号；通过本发明的脑电信号去噪方法，能够显著提高脑电信号的信噪比和均方根误差，极大地提升脑电信号去噪的效率，质量和鲁棒性，在信号处理领域具有深远的意义。

一维残差卷积神经神经网络模型训练完成后，采用评价标准(SNR，MSE)对去噪进行评价，取得了较好的效果。

Claims (5)

1.一种基于一维残差卷积神经网络的脑电信号去噪方法，其特征在于由以下步骤组成：

(1)选取脑电样本

从Physionet数据库中选取m个脑电样本，标记为脑电样本E_D×N，其中D为脑电信号的通道数，N为脑电信号的采样点数，在馈入一维残差卷积网络进行训练和测试之前，每个脑电信号按以下方程进行归一化处理：

式中max为样本数据x_i的最大值，min为样本数据x_i的最小值，其中1≤i≤n；

(2)构建含噪脑电信号样本

选取基线噪声或高斯白噪声或肌电噪声作为噪声，将不同信噪比的噪声分别加入到脑电样本中，构建成含噪脑电信号样本，按式(1)对含噪脑电样本进行归一化处理；

(3)划分网络训练集、测试集

使用数据增强方法扩充脑电样本和含噪脑电信号样本，并分别划分60％～80％作为网络训练集、20％～40％作为网络测试集，测试集与训练集无交叉；

(4)构建一维残差卷积神经网络

采用残差网络方法，将1个批处理归一层与2个一维卷积层依次连接，在一维卷积层的输出串联2个残差块，第二个残差块的输出依次连接1个一维卷积层和1个全连接层，构建成一维残差卷积神经网络；

(5)训练一维残差卷积神经网络

用训练样本训练一维残差卷积神经网络，采用Adam优化方法动态调整网络模型的学习率进行训练，得到训练好的一维残差卷积神经网络；

上述的动态调整网络模型的学习率进行训练为：用均方误差函数L(x,z)作为损失函数；

述均方误差函数L(x,z)为：

其中i为1,2,...,n,n是训练样本的数量为有限的正整数，x为输入信号，z为输出的重构信号。

(6)重建去噪脑电信号

将测试集的脑电数据输入到训练好的一维残差卷积神经网络方法中，输出对应的重构脑电信号。

2.根据权利要求1所述的基于一维残差卷积神经网络方法，其特征在于在构建一维残差卷积神经网络步骤(4)中，所述的残差块为：每个残差单元包括三个线性整流单元层、三个一维卷积层和三个批量正则层，通过快捷连接将残差块的输入和输出进行一个求和，三个一维卷积层的卷积核大小分别是16×1×5、16×1×10、32×1×5，批量正则层的输出与线性整流单元层的输入相连，线性整流单元层输出与卷积层的输入相连。

3.根据权利要求1所述的基于一维残差卷积神经网络方法，其特征在于在构建一维残差卷积神经网络步骤(4)中，所述的一维卷积层为：3个一维卷积层的卷积核大小分别为16×1×5、32×1×5、1×1×5，一维卷积层的填充方式为same，批量正则层输出与一维卷积层的输入相连，前面2个一维卷积层的输出与相互串联的2个残差单元的输入相连，后面1个残差单元的输出与第三个一维卷积层的输入相连。

4.根据权利要求1所述的基于一维残差卷积神经网络方法，其特征在于在构建一维残差卷积神经网络步骤(4)中，所述的全连接层为：第三个一维卷积层的输出与全连接层的输入相连，全连接层输出维度为400×1。

5.根据权利要求1所述的基于一维残差卷积神经网络方法，其特征在于在训练一维残差卷积神经网络步骤(5)中，所述的动态调整网络模型的学习率进行训练为：用均方误差函数L(x,z)作为损失函数，每次模型训练使用的样本数量为8，训练遍历所有样本100次，每过10代学习率降为当前的0.1。