CN115130645A - 基于自学习小波卷积神经网络的跨个体学习方法 - Google Patents

Abstract

本发明涉及面向跨个体数据的学习分类方法，具体涉及一种基于自学习小波卷积神经网络的跨个体学习方法。包括步骤为：对待处理数据，按个体划分训练集和测试集；对每个个体数据进行滑动窗口划分、去基线漂移和标准化等预处理；构建多分支自学习小波卷积神经网络，在训练阶段，对每个个体数据，随机选择若干样本数据，将其输入多分支网络中进行学习；在测试阶段，采用自适应批标准化方法实现测试数据在训练模型上的域适应。本发明提出了一种跨个体深度学习框架，采用多分支卷积神经网络结构，实现对个体特征的全面深入学习和跨个体共性特征的提取；采用自学习小波卷积核，大大减少了可学习参数数量，降低模型过拟合风险，提高了计算效率。

Description

基于自学习小波卷积神经网络的跨个体学习方法

技术领域

本发明涉及面向跨个体数据的学习分类方法，具体涉及一种基于自学习小波卷积神经网络的跨个体学习方法。

背景技术

肌电图(Electromyography,EMG)作为神经肌肉疾病临床诊断的常用检测工具，通过对受试者在不同肌肉收缩情况下的肌内数据采集，实现对神经肌肉疾病的具体部位、神经源性损伤程度等进行分析，为疾病诊断和治疗方案的确定提供临床参考。在EMG数据采集过程中，一个人通常会选择几个肌肉部位进行采集，不同肌肉部位对神经源性损伤的敏感程度不同。如何选择对神经源性损伤敏感度高的肌肉部位作为EMG检测部位，提取出神经源性损伤的共性特征是计算机辅助诊断方法需要解决的重要问题。本发明主要涉及面向跨个体、跨部位的深度学习方法。

基于EMG数据的神经肌肉疾病计算机辅助诊断方法，可以大大提高EMG数据定量分析的效率和准确率，使得诊断结果更加准确，实现对神经肌肉疾病的早发现、早诊断、早治疗的目的。传统机器学习方法中，不同特征提取方法被用于对EMG数据的时域、频域、时频域、小波域等变换域特征的提取和分析；在深度学习方法中，把特征提取和分类结合在一起，EMG数据被直接作为分析对象或转换为二维图像表征，通过构建深度学习网络提取信号中的深层隐藏特征，并对其进行分类识别。目前，基于EMG数据的神经肌肉疾病计算机辅助诊断多属于对EMG数据的分类任务。在实际分类任务中，不同个体的EMG数据通常被滑窗划分为若干个EMG样本数据，把所有同类别的EMG样本混合到一起，进而构造机器学习所用的训练数据和测试数据。这种数据集构造方法通常可以取得较高的分类性能，但会导致同一个个体的样本数据既在训练集中出现，也在测试集中出现，使得训练数据和测试数据具有较高的相似度，无法实现对个体的准确识别。然而，在实际应用中，对于神经源性损伤的判断是需要对个体同一部位所有EMG 样本数据或不同部位所有EMG样本数据的综合分析来得到的。

因此，基于跨个体、跨部位的EMG数据学习，对于提高EMG数据神经肌肉疾病计算机辅助诊断性能、提取神经源性损伤共性特征、寻找EMG采集敏感肌肉部位有着重要的意义。

发明内容

本发明的目的在于面向跨个体数据学习，构建自学习小波卷积神经网络，实现对跨个体数据共性特征的提取，提高EMG数据神经肌肉疾病计算机辅助诊断的分类性能。

本发明是通过以下技术方案实现的，包括以下步骤：

第一步，对待处理的肌电图数据，每个人的EMG数据是一个个体S⁽ⁱ⁾ (i＝1,2,…,N)，按个体进行训练集S_train和测试集S_test划分。

第二步，对每个EMG个体数据S⁽ⁱ⁾进行滑动窗口划分、去基线漂移和标准化等预处理。具体如下：

首先，对原始EMG数据S⁽ⁱ⁾，采用窗口长度L进行滑动窗口划分，窗口与窗口之间有50％的重叠率，每个分析窗口内的EMG数据看作一个样本s_j,j＝1,2,...,M；

然后，对每个EMG样本数据，采用多项式拟合方法进行去基线漂移；

最后，对去除基线漂移的EMG样本数据，采用最小最大值方法进行标准化预处理。

第三步，在训练阶段，对每个个体的EMG数据S⁽ⁱ⁾，随机选择M个预处理后的样本数据

将其输入自学习小波卷积神经网络中进行学习。具体如下：

首先，将每个S⁽ⁱ⁾的M个样本数据

作为多分支自学习小波卷积神经网络的输入数据，每个样本对应一个分支网络输入；

其次，每个分支对应的子网络都是一个自学习的小波卷积神经网络；

然后，采用1个1×1的卷积层，将每个子网络提取的特征向量进行堆叠，提取每个个体S⁽ⁱ⁾的特征F⁽ⁱ⁾；

最后，将提取的特征F⁽ⁱ⁾输入到一个多层感知机中，采用梯度下降法进行网络参数更新，实现对输入个体数据S⁽ⁱ⁾的分类。

所述的自学习小波卷积神经网络，具体是：

(1)自学习小波卷积神经网络共包含M个分支网络，1个1×1的卷积层和1个多层感知机层；

(2)每个分支网络包含3个小波卷积层、2个池化层和2个批标准化层；

(3)每个分支网络中，小波卷积层的核函数受所选小波基函数的约束，其尺度因子、位移因子、振幅权重系数等参数可以通过梯度下降法在训练中进行学习和更新。

第四步，在测试阶段，当测试数据与训练数据存在较大的分布差异时，采用自适应批标准化(AdaBN)方法来实现对测试数据在训练模型上的域适应。具体是：

首先，基于训练集已训练好的网络模型，向网络输入一批测试数据；

然后，获取每个批标准化层之前的卷积层或全连接层的输出，统计其数字特征；

最后，基于已统计数字特征，使用滑动平均等更新策略更新批标准化层参数。

与现有技术相比，本发明的有益效果是：

(1)本发明提出了一种跨个体的深度学习框架，基于EMG数据可以实现对神经源性损伤共性特征的提取，筛选出对神经源性损伤敏感度高的肌肉部位。

(2)自学习小波卷积具有不同的卷积核，克服了传统小波变换的不足，可以适应更复杂的数据；同时，使用具有可学习参数的小波基函数对核参数进行限制，可以大大减少可学习参数数量，降低模型过拟合风险，提高计算效率。

(3)多分支的卷积神经网络结构，可以对同一个体的多个样本数据进行全面有效的学习，实现对个体特征的全面深入提取和学习。

附图说明

图1为本发明自学习小波卷积神经网络跨个体学习算法流程图。

具体实施方式

下面结合附图对本发明的实施例作详细说明，本实施例在以本发明技术方案为前提下进行实施，给出了详细的实施方式和过程，但本发明的保护范围不限于下述的实施例。

本发明以肌电图(Electromyography,EMG)数据为应用对象，对具有神经源性损伤的EMG数据和正常EMG数据进行学习和分类。实验中使用的数据来源于公开数据集EMGLAB和北京大学第三医院。本实验共包含3个肌肉部位数据集，其中来自EMGLAB的肱二头肌数据集DATA_BBM研究对象的年龄分布在21岁到 67岁，包括8个神经源性损伤受试者的80条EMG个体数据和10个正常对照受试者的100条EMG个体数据；来自北京大学第三医院的第一骨间肌数据集DATA_FIM 研究对象的年龄分布在24岁到80岁，包括81个神经源性损伤个体和52个正常对照个体的EMG数据；来自北京大学第三医院的胫前肌数据集DATA_ATM研究对象的年龄分布在23岁到80岁，包括25个神经源性损伤个体和37个正常对照个体的 EMG数据。本实验中对所有训练数据和测试数据进行了十折交叉随机实验。其中，对每个肌肉部位EMG数据进行随机实验时，选择80％的EMG个体数据作为训练，其余作为测试。

如图1所示，本发明基于自学习小波卷积神经网络跨个体学习方法的实施例流程如下：

第一步，对待处理的肌电图数据，每个人的EMG数据是一个个体S⁽ⁱ⁾ (i＝1,2,…,N)，按个体进行训练集S_train和测试集S_test划分。

在本实施例中，在进行每个肌肉部位EMG数据实验时，每个数据集中随机选择80％的EMG个体数据作为训练，其余作为测试。以DATA_BBM数据集为例，在进行同一肌肉部位测试时，随机选择64条神经源性损伤EMG个体数据和80条正常对照EMG个体数据作为训练数据，余下16条神经源性损伤和20 条正常对照的EMG个体数据作为测试数据；在进行跨肌肉部位测试时，其他肌肉部位EMG数据都作为测试数据。

第二步，对每个EMG个体数据S⁽ⁱ⁾进行滑动窗口划分、去基线漂移和标准化等预处理。具体如下：

首先，在本实施例中，对原始EMG数据S⁽ⁱ⁾，采用窗口长度6000进行滑动窗口划分，窗口与窗口之间有50％的重叠率，每个分析窗口内的EMG数据看作一个样本s_j,j＝1,2,...,M。在本实施例中，以DATA_BBM数据集为例，可获得5028 个神经源性损伤样本和5344个正常对照样本。

然后，对每个EMG样本数据，采用多项式拟合方法进行去基线漂移。在本实施例中，通过对信号多项式拟合得到一条原始基线，用原始EMG信号减去原始基线即可得到去基线漂移后的EMG数据。

最后，对去除基线漂移的EMG样本数据，在本实施例中采用最小最大值方法进行标准化预处理，实现对肌电数据的等比例缩放，使信号的幅值转换到同一量纲下。

第三步，在训练阶段，对每个个体的EMG数据S⁽ⁱ⁾，随机选择M个预处理后的样本数据

将其输入自学习小波卷积神经网络中进行学习。在本实施例中，具体操作如下：

首先，将每个S⁽ⁱ⁾的12个样本数据

作为多分支自学习小波卷积神经网络的输入数据，每个样本对应一个分支网络输入；

其次，每个分支对应的子网络都是一个自学习的小波卷积神经网络，如图1 所示。其包含12个分支网络，1个1×1的卷积层和1个多层感知机层；每个分支网络包含3个小波卷积层、2个池化层和2个批标准化层；在每个分支网络中，小波卷积层的核函数受所选小波基函数的约束。在本实施例中，我们选择Ricker小波作为小波基函数，其函数式如下：

其中，t为小波函数的自变量，长度等于卷积核尺寸；a是位移因子，b是尺度因子，c是振幅权重系数，这些参数可以通过梯度下降法在训练中进行学习和更新。

然后，采用1个1×1的卷积层，将每个子网络提取的特征向量进行堆叠，提取每个个体S⁽ⁱ⁾的特征F⁽ⁱ⁾；

最后，将提取的特征F⁽ⁱ⁾输入到一个多层感知机中，采用梯度下降法进行网络参数更新，实现对输入个体数据S⁽ⁱ⁾的分类。

第四步，在测试阶段，当测试数据与训练数据存在较大的分布差异时，采用自适应批标准化(AdaBN)方法来实现对测试数据在训练模型上的域适应。具体是：

首先，基于训练集已训练好的网络模型，向网络输入一批测试数据，在本实施例中，每一批由256个测试数据组成。

然后，使用该测试数据集更新每个批标准化层的参数即均值和方差，而不更新其他网络参数。具体操作为：对于每个批标准化层，统计其上一层(卷积层或全连接层)在这一批测试数据上的均值和方差；基于已统计数字特征，使用滑动平均法更新批标准化层参数。

本实施例中，所用系统为Ubuntu 18.04系统，GPU配置为NVIDIA GeForce 1080Ti11×8G，开发软件环境为python3.5的服务器。选择Adam作为优化器，以批尺寸64、学习率0.0004训练30轮。

依次选择DATA_BBM、DATA_FIM和DATA_ATM逐一作为训练集，分析本发明所提方法在跨部位EMG数据上的测试效果。如表1所示，本发明方法在跨个体、跨部位的测试中表现出了出色的分类性能。相对其他两个肌肉部位，第一骨间肌DATA_FIM在不同数据集作为训练集的测试中，都表现出了较高的精确度，即在神经源性损伤的分类识别方面其有着较高的灵敏度。

表1跨部位EMG数据检测结果

本发明中各算法模块的作用如表2蒸馏实验所示，在该实验中，采用 DATA_BBM作为训练数据，基于已训练好的网络模型，分别在DATA_BBM、 DATA_FIM和DATA_ATM三个肌肉部位上进行测试。与原始CNN模型相比，多分支网络结构(M-CNN)和自学习小波卷积核(W-CNN)的加入都能有效提升模型性能，本发明所提自学习小波卷积神经网络框架(WM-CNN)在不同数据集的跨个体、跨部位实验中，都表现出了最好的分类性能，这也反映了该方法可以实现对神经源性损伤共性特征的有效提取。

表2模型蒸馏实验结果

在表3所列对比实验中，将本发明所提方法与其他现有方法进行对比分析。在该对比实验中，采用DATA_BBM作为训练数据，基于已训练好的网络模型，分别在DATA_BBM、DATA_FIM和DATA_ATM三个肌肉部位上进行测试。其中，长短时记忆神经网络模型(Long Short-term Memory Networks,LSTM)实验中，以批尺寸256、学习率0.0004训练30轮；传统离散小波变换(Discrete Wavelet Transform,DWT)实验中，选择db4作为小波基函数，对每个EMG样本进行十级小波分解，对分解后的结果提取其功率谱、标准差、峰度、偏度等特征，采用线性判别分析(Linear Discriminant Analysis，LDA)作为分类器。与这两种方法相比，LSTM和DWT在同一肌肉部位数据集DATA_BBM上可以取得较好的分类性能，但在跨部位测试实验中，其分类性能远不如本发明所提的自学习小波卷积神经网络方法。

表3本发明方法与其他方法的检测性能对比结果

综合来看，在跨个体、跨部位EMG数据分析中，本发明方法可以更有效的实现对神经源性损伤共性特征的提取，提高跨部位神经源性损伤检测的准确性；在提高检测准确性的同时降低模型复杂度，以较少的模型参数量来获得较好的学习分类效果，降低模型过拟合风险，提高计算效率。

上述说明已经充分介绍了本发明的具体实施方式。需要指出的是，熟悉该领域的技术人员对本发明的具体实施方式所做的任何改动均不脱离本发明的权利要求书的范围。相应的，本发明的权利要求的范围也并不仅仅局限于前述具体实施方式。

Claims (5)

1.基于自学习小波卷积神经网络的跨个体学习方法，其特征在于，所述学习方法以肌电图即EMG，Electromyography数据为应用对象，包括以下步骤：

(1)对待处理的肌电图数据，每个人的EMG数据是一个个体S⁽ⁱ⁾(i＝1,2,…,N)，按个体进行训练集S_train和测试集S_test划分；

(2)对每个EMG数据S⁽ⁱ⁾进行滑动窗口划分、去基线漂移和标准化等预处理；

(3)在训练阶段，对每个个体的EMG数据S⁽ⁱ⁾，随机选择若干个预处理后的样本数据

将其输入自学习小波卷积神经网络中进行学习；

(4)在测试阶段，当测试数据与训练数据存在较大的分布差异时，采用自适应批标准化(AdaBN)方法来实现对测试数据在训练模型上的域适应。

2.根据权利要求1所述的基于自学习小波卷积神经网络的跨个体学习方法，其特征在于，所述步骤(2)具体如下：

首先，对原始EMG数据S⁽ⁱ⁾，采用窗口长度L进行滑动窗口划分，窗口与窗口之间有50％的重叠率，每个分析窗口内的EMG数据看作一个样本s_j,j＝1,2,...,M；

然后，对每个EMG样本数据，采用多项式拟合方法进行去基线漂移；

最后，对去除基线漂移的EMG样本数据，采用最小最大值方法进行标准化预处理。

3.根据权利要求1所述的基于自学习小波卷积神经网络的跨个体学习方法，其特征在于，所述步骤(3)具体如下：

首先，将每个S⁽ⁱ⁾的若干样本数据

作为多分支自学习小波卷积神经网络的输入数据，每个样本对应一个分支网络输入；

其次，每个分支对应的子网络都是一个自学习的小波卷积神经网络；

然后，采用一个1×1的卷积层，将每个子网络提取的特征向量进行堆叠，提取每个个体S⁽ⁱ⁾的特征F⁽ⁱ⁾；

最后，将提取的特征F⁽ⁱ⁾输入到一个多层感知机中，采用梯度下降法进行网络参数更新，实现对输入个体数据S⁽ⁱ⁾的分类。

4.根据权利要求3所述的基于自学习小波卷积神经网络的跨个体学习方法，其特征在于：

(1)每个自学习小波卷积神经网络包含3个小波卷积层、2个池化层和2个批标准化层；

(2)每个小波卷积层的核函数受所选小波基函数的约束，其尺度因子、位移因子、振幅权重系数等参数可以通过梯度下降法在训练中进行学习和更新。

5.根据权利要求1所述的基于自学习小波卷积神经网络的跨个体学习方法，其特征在于，所述步骤(4)具体如下：

首先，基于训练集已训练好的网络模型，向网络输入一批测试数据；

然后，获取每个批标准化层之前的卷积层或全连接层的输出，统计其数字特征；

最后，基于已统计数字特征，使用滑动平均等更新策略更新批标准化层参数。

Images