CN113378673B - 一种基于一致性正则化的半监督脑电信号分类方法 - Google Patents

Abstract

本发明公开了一种基于一致性正则化的半监督脑电信号分类方法，包括：1、选取部分数据进行标注，并进行预处理；2、搭建人工神经网络，并作为特征处理器；3、对输入进行随机增强，促使样本在输入空间上出现一定的波动；4、记录每次迭代得到的输出概率，当前的结果与历史的结果进行指数滑动平均集成；5、设计损失函数，在交叉熵损失函数的基础上，设计无监督的一致性正则项优化决策边界；6、利用组合后的损失函数优化模型参数，获得最优分类模型。本发明能够在仅有一小部分数据被标注的情况下，充分利用无标注数据来优化决策边界，从而取得较为理想的脑电信号分类性能，在医疗等应用领域，对减轻标注成本有重要意义。

Description

一种基于一致性正则化的半监督脑电信号分类方法

技术领域

本发明属于脑电信号处理领域，具体的说是一种基于一致性正则化的半监督脑电信号分类方法。

背景技术

脑电信号(EEG，Electroencephalography)是记录脑电活动的有力工具，能够准确地区分不同的脑部状态。近年来，脑电信号的自动分类越来越多的关注，在癫痫检测、情绪识别和睡眠监护等领域都有重大的应用价值。目前，脑电信号分类方法主要分为两大类：传统机器学习算法和深度学习算法。

传统机器学习算法的关键在于特征工程，它需要人工设计具有高区分度的特征。常用的人工特征可以分为两大类：线性特征和非线性特征。线性特征主要包括自回归系数、方差、谱能量和Hjorth描述符等，非线性特征主要包括动态相似指数、Lyapunov指数和相位同步系数等。人工特征的设计要求研究人员具有高度深入的专业知识，且因为脑电信号固有的非平稳性，设计鲁棒的特征困难度极高。

近年来，深度学习算法被广泛的应用到脑电信号分类中，并取得了巨大的成功，常见的网络结构有深度置信网络、卷积神经网络、长短时记忆网络等。深度学习避免了人工特征的设计，采用数据驱动的方式，驱动人工神经网络自动提取数据中的特征，从而实现分类，并取得显著的分类效果。

然而，深度学习的成功依赖于大量带标注的数据。目前基于深度学习的脑电信号分类算法多采用全监督模式，在训练过程中，需要大量带标注的样本，才能取得可靠的决策边界。现实中，对脑电的标注成本极高，不仅要求相应病理学家有相当丰富的经验，而且十分耗时。这限制了深度学习方法在脑电信号分类中的进一步发展。

发明内容

本发明是为了解决上述现有技术存在的不足之处，提出一种基于一致性正则化的半监督脑电信号分类方法，以期能充分利用无标注数据来优化决策边界以减轻对标注数据的依赖，并取得较为理想的脑电信号分类性能。

本发明为达到上述发明目的，采用如下技术方案：

本发明一种基于一致性正则化的半监督脑电信号分类方法的特点在于，包括以下步骤：

步骤1、获取脑电信号数据集，并利用随机函数选取部分数据进行标注，得到带标注的数据集；将其余的脑电信号数据集作为无标注的数据集；

步骤2、对所有数据统一进行切片分割、短时傅里叶变换、去噪的预处理；

步骤2.1、利用滑窗法分别将带标注的数据集和无标注的数据集切分为长度为l的片段，得到带标注的样本集和无标注的样本集；

步骤2.2、采用短时傅里叶变换分别将带标注的样本集和无标注的样本集转换为带标注的时频样本集和无标注的时频样本集；

步骤2.3、在频域上分别移除所述带标注的时频样本集和无标注的时频样本集的部分频率成分，以去除工频干扰和直流分量，从而得到带标注的去噪时频样本集L和无标注的去噪时频样本集U；其中，对于任意一个样本x，赋予一个标记标量I，当I＝0时，表示样本x属于无标注的去噪时频样本集U，即x∈U；当I＝1时，表示样本x属于带标注的去噪时频样本集L，即x∈L，当x∈L时，令样本x的标注y∈{0,...,C-1}，其中，C代表类别数；

步骤3、搭建人工神经网络f_θ，并作为特征处理器，其中，θ表示网络参数；

步骤4、将去噪时频样本集L和U合并，再构建随机增强函数ξ(x)对合并后的样本集中的每个样本x进行增强处理，得到增强后的合并样本集；

步骤5、将增强后的合并样本集分批次地输入到人工神经网络f_θ中进行训练，并对增强后的合并样本集中每一个增强样本

记录每次迭代得到的输出概率；将当前第t次迭代的输出概率z_t与历史的输出概率进行指数滑动平均后再除以校正因子，从而得到目标集成输出概率

步骤6、设计损失函数，建立优化目标；

通过标记I＝1从增强后的合并样本集中找出带标注的样本，并利用交叉熵损失L_c来计算当前第t次迭代的输出概率z_t与真实标注y的偏差；

对增强后的合并样本集中所有样本，构建无监督的一致性正则项L_con来约束当前第t次迭代的输出概率z_t与目标集成输出概率

间的偏差；

构建随迭代次数t逐步增加的加权函数ω(t)，从而得到组合后的损失函数L＝L_c+ω(t)L_con；

步骤7、基于组合后的损失函数L，使用优化器构建动态的学习率策略来更新人工神经网络f_θ的网络参数θ，从而获得最优分类模型；

利用最优分类模型对任一脑电信号样本进行分类，并得到对应类别的概率值，按照所设的阈值，对所得到的概率值进行二值化分类，从而得到最终的分类结果。

与现有技术相比，本发明的有益效果在于：

1、本发明设计半监督学习策略，能够在仅有一小部分数据被标注的情况下，充分利用无标注数据来大幅提升分类准确率。

2、本发明通过添加高斯噪声，结合网络固有的Dropout机制，促使同一输入在不同时刻的输出出现一定的偏差；而样本本身的类别属性应维持不变，对此，本发明设计一致性正则项驱使神经网络消除这种偏差，能在不需要标注信息的情况下，实现了对分类决策边界的优化，从而提升了分类性能。

附图说明

图1为本发明方法流程图；

图2为本发明构建的卷积神经网络结构图；

图3为本发明设计的一致性正则化原理示意图；

图4为本发明方法的半监督训练策略示意图。

具体实施方式

本实施例中，一种基于一致性正则化的半监督脑电信号分类方法，如图1所示，其包括如下步骤：

步骤1、获取脑电信号数据集，并利用随机函数选取部分数据进行标注，得到带标注的数据集；将其余的脑电信号数据集作为无标注的数据集；

具体实施中，若训练集中存在N条长时的EEG记录，用random函数随机选择1条记录进行人工标注，剩下的不进行标注。

步骤2、对所有数据统一进行切片分割、短时傅里叶变换、去噪的预处理；

步骤2.1、利用滑窗法分别将带标注的数据集和无标注的数据集切分为长度为l的片段，得到带标注的样本集和无标注的样本集；

具体实施中，对滑窗法，取窗口长度l＝30，即统一切分成长为30秒的片段；

步骤2.2、采用短时傅里叶变换分别将带标注的样本集和无标注的样本集转换为带标注的时频样本集和无标注的时频样本集；

步骤2.3、在频域上分别移除带标注的时频样本集和无标注的时频样本集的部分频率成分，以去除工频干扰和直流分量，从而得到带标注的去噪时频样本集L和无标注的去噪时频样本集U；具体实施中，在频域上移除57～63Hz和117～123Hz的频率成分来消除60Hz的工频噪声，并移除0Hz的直流分量；其中，对于任意一个样本x，赋予一个标记标量I，当I＝0时，表示样本x属于无标注的去噪时频样本集U，即x∈U；当I＝1时，表示样本x属于带标注的去噪时频样本集L，即x∈L，当x∈L时，令样本x的标注y∈{0,...,C-1}，其中，C代表类别数；

步骤3、搭建人工神经网络f_θ，并作为特征处理器，其中，θ表示网络参数；

具体实施中，构建的神经网络结构如图2所示；该网络包含三个卷积模块，每个卷积模块由批归一化层、卷积层、最大池化层依次组成，其中卷积层的激活函数为Relu函数；第一卷积模块采用3D卷积，得到的特征图重塑后输入到后两个卷积模块中，后两个卷积模块均采用2D卷积；将卷积模块输出的特征拉直，放入两层带有激活函数的全连接层中，输出当前样本对应类别的概率，其中第一全连接层的激活函数为sigmoid函数，第二全连接层的激活函数为softmax函数，每个全连接层前均设置dropout rate为0.5的dropout层。

步骤4、将去噪时频样本集L和U合并，再构建随机增强函数ξ(x)对合并后的样本集中的每个样本x进行增强处理，得到增强后的合并样本集；

具体实施中，采用高斯噪声增强作为随机增强函数ξ(x)，即在输入上添加随机的高斯噪声，高斯噪声分布的标准差设置为σ＝0.15；如图3所示，这样的随机增强相当于在输入空间原样本的附近，生成了一定的增强样本；

步骤5、将增强后的合并样本集分批次地输入到人工神经网络f_θ中进行训练，并对增强后的合并样本集中每一个增强样本

记录每次迭代得到的输出概率；将当前第t次迭代的输出概率z_t与历史的输出概率Z′进行指数滑动平均后再除以校正因子，从而得到目标集成输出概率

具体实施中，指数滑动平均公式如下：

Z＝αZ′+(1-α)z_t (1)

式(1)中，Z表示初步的集成输出概率，α表示加权常数，控制着当前结果在集成中的比重；在本实施中，α＝0.6。Z进一步除以校正因子(1-α^t)，得到最终的目标集成输出概率

步骤6、设计损失函数，建立优化目标；每一个批次评估一次损失，整体训练流程图如图4所示；

通过标记I＝1从增强后的合并样本集中找出带标注的样本，并利用如式(2)所示的交叉熵损失L_c来计算当前第t次迭代的输出概率z_t与真实标注y的偏差；

式(2)中，B表示当前批次内的样本构成的样本集，N_B表示该批次的样本数目，本实施中N_B＝32；

对增强后的合并样本集中所有样本，构建无监督的一致性正则项L_con来约束当前第t次迭代的输出概率z_t与目标集成输出概率

间的偏差；

正如步骤3所描述，随机增强将促使样本在输入空间造成一定的波动，结合神经网络固有的波动，使得同一输入在不同时刻的输出概率趋于不同；然而，样本本身的类别属性并未改变(原样本与附近的增强样本仍然属于同一类)，通过构造正则项约束这样的波动，使神经网络对于单个样本的判断保持一致，同时提示人工神经网络，相似的样本应该属于相似的类；如图3所示，这将促使决策边界落于低密度区，从而提升分类准确度；

具体实施中，采用均方差来衡量z_t与

间的距离，公式如下：

式(3)中，C代表类别数，在本实施中C＝2；

考虑到训练初始无标注样本的输出结果置信度偏低，此时一致性正则项的比重不应过大，构建随迭代次数t逐步增加的加权函数ω(t)，从而得到组合后的损失函数L＝L_c+ω(t)L_con；

具体实施中，ω(t)以高斯曲线的方式逐步上升，表达式如下：

式(4)中，τ表示权重增加的截止时刻，ω_max表示无监督项的最大权重；在本实施中，最大迭代次数为50，τ＝30，ω_max＝30；

步骤7、基于组合后的损失函数L，使用优化器构建动态的学习率策略来更新人工神经网络f_θ的网络参数θ，从而获得最优分类模型；

具体实施中，采用Adam优化器，学习率λ的最大值设为0.0005，在训练的前期采用与ω(t)相同的高斯曲线，逐步增加，增加的截止时刻τ同样取30；在后期采用下降的高斯曲线来进行退火，动态学习率具体表达式如下：

利用最优分类模型对任一脑电信号样本进行分类，并得到对应类别的概率值，按照所设的阈值，对所得到的概率值进行二值化分类，从而得到最终的分类结果。

模型的性能由所有待预测个体的平均敏感度和平均误报率来评估，灵敏度即正确预测的正类与所有正类之比，误报率即平均每小时将负类预测为正类的次数。

具体实施中，为充分验证本发明提出的半监督训练策略的有效性，将本方案的性能与相同模型在全监督模式下(称为Baseline)得到的性能进行直接对比。如表1所示，其中Baseline(全部标注)表示：所有训练数据均标注的情况下，采用全监督策略训练网络；Baseline(部分标注)表示：仅使用与本方案相同的部分标注数据下，采用全监督策略训练网络。

表1.不同方法在CHB-MIT数据集的预测性能

结果表明，当标注数据大幅减少时，基于全监督学习的Baseline性能大幅下降，这证实了全监督深度学习方法对标注数据的高度依赖性；本发明的方法在使用相同标注数据的情况，充分利用无标注数据，大幅提升了性能，灵敏度提升了17.1％，误报率降低了0.26/小时，且性能接近于使用全部标注的Baseline。这证明了本发明提出的半监督训练策略的有效性，为在脑电信号分类的应用中，减少对标注的依赖，提供了一个全新的思路。

Claims (1)

1.一种基于一致性正则化的半监督脑电信号分类方法，其特征在于，包括以下步骤：

步骤1、获取脑电信号数据集，并利用随机函数选取部分数据进行标注，得到带标注的数据集；将其余的脑电信号数据集作为无标注的数据集；

步骤2、对所有数据统一进行切片分割、短时傅里叶变换、去噪的预处理；

步骤2.1、利用滑窗法分别将带标注的数据集和无标注的数据集切分为长度为l的片段，得到带标注的样本集和无标注的样本集；

步骤2.2、采用短时傅里叶变换分别将带标注的样本集和无标注的样本集转换为带标注的时频样本集和无标注的时频样本集；

步骤2.3、在频域上分别移除所述带标注的时频样本集和无标注的时频样本集的部分频率成分，以去除工频干扰和直流分量，从而得到带标注的去噪时频样本集L和无标注的去噪时频样本集U；其中，对于任意一个样本x，赋予一个标记标量I，当I＝0时，表示样本x属于无标注的去噪时频样本集U，即x∈U；当I＝1时，表示样本x属于带标注的去噪时频样本集L，即x∈L，当x∈L时，令样本x的标注y∈{0,...,C-1}，其中，C代表类别数；

步骤3、搭建人工神经网络f_θ，并作为特征处理器，其中，θ表示网络参数；

步骤4、将去噪时频样本集L和U合并，再构建随机增强函数ξ(x)对合并后的样本集中的每个样本x进行增强处理，得到增强后的合并样本集；

步骤5、将增强后的合并样本集分批次地输入到人工神经网络f_θ中进行训练，并对增强后的合并样本集中每一个增强样本

记录每次迭代得到的输出概率；将当前第t次迭代的输出概率z_t与历史的输出概率进行指数滑动平均后再除以校正因子，从而得到目标集成输出概率

步骤6、设计损失函数，建立优化目标；

通过标记I＝1从增强后的合并样本集中找出带标注的样本，并利用交叉熵损失L_c来计算当前第t次迭代的输出概率z_t与真实标注y的偏差；

对增强后的合并样本集中所有样本，构建无监督的一致性正则项L_con来约束当前第t次迭代的输出概率z_t与目标集成输出概率

间的偏差；

构建随迭代次数t逐步增加的加权函数ω(t)，从而得到组合后的损失函数L＝L_c+ω(t)L_con；

步骤7、基于组合后的损失函数L，使用优化器构建动态的学习率策略来更新人工神经网络f_θ的网络参数θ，从而获得最优分类模型；

利用最优分类模型对任一脑电信号样本进行分类，并得到对应类别的概率值，按照所设的阈值，对所得到的概率值进行二值化分类，从而得到最终的分类结果。

Images