CN112557034B - 一种基于pca_cnns的轴承故障诊断方法 - Google Patents

Abstract

本发明公开了一种基于PCA_CNNS的轴承故障诊断方法，用于诊断生产设备关键部件轴承故障问题，本发明将卷积神经网络与主成分分析法进行结合，根据输入的轴承状态特征数据完成数据的特征提取，更加符合在实际加工生产过程中故障诊断过程。通过将故障诊断过程分为特征提取与故障分类两个部分，利用基于主成分分析改进的卷积神经网络模型完成待检测数据的特征提取，采用K折交叉验证来对数据集进行循环划分以对比求解泛化能力较强的模型，结合自组织映射算法，对完成特征提取的数据进行筛选，最后利用全连接神经网络完成故障的分类，输出诊断结果。本发明提出的故障诊断方法具有鲁棒性强、实时性高等优势。

Description

一种基于PCA_CNNS的轴承故障诊断方法

技术领域

本发明属于故障诊断领域，具体涉及一种基于卷积神经网络(PCA_CNNS)的轴承故障诊断方法。

背景技术

目前，在木门生产领域中，对木门生产加工设备的故障诊断是研究的一个核心点，故障诊断的准确率与时效性是衡量木门加工设备健康评估的标准，反映当前设备的健康状态，准确及时的判断出故障源能让木门厂商快速做出应对从而保证生产经营效益。因此，对木门生产线关键设备的故障诊断是木门生产线柔性化、智能化研究的关键。

现阶段主流的故障诊断方法主要分为基于解析模型、基于定性经验知识的方法以及基于数据驱动的方法。基于分析模型的方法适用于能够建模、有足够传感器的“信息充足”的系统，需要过程较精确的定量数学模型，并且如果建立过程的数学模型则必须了解过程的机理结构，这对于复杂的多变量系统建模代价高，且建立的模型在解决同类问题上普适性较差在实际应用中具有局限性；基于经验知识的方法不适用于不能或者不易建立机理模型、传感器数不充分的“信息缺乏”的系统，对于海量数据的系统其使用成本过高；总结来说，常规基于分析模型以及基于经验知识的故障诊断模型算法对于故障诊断的不足之处主要有以下几点：

(1)对于动态的生产线过程数据，传统故障诊断方法不能及时挖掘数据深层次的特征信息，因其稳定性与实时性较差而难以满足实际生产环境的需求。

(2)对于海量过程数据输入的系统，其构建与使用成本过高。

(3)所构建模型泛化能力太低导致其在具体对象的故障诊断中准确率得不到保证。

发明内容

本发明的目的在于提供了一种基于PCA_CNNS的轴承故障诊断方法，以解决在生产加工过程中关键设备的轴承故障诊断问题。

实现本发明目的的技术解决方案为：一种基于PCA_CNNS的轴承故障诊断方法，以完成对于轴承的故障诊断为目标，利用主成分分析法完成数据降维，采用自组织映射算法优化卷积神经网络模型，利用现有的轴承故障数据与分类完成模型训练，结合k折交叉验证选取最优表现模型，从而提升轴承故障诊断的准确率，具体包括如下步骤：

步骤1：利用主成分分析法提取输入的轴承数据集v中代表原始n维数据特征信息的m维主成分数据集w，将主成分数据集w按分割比例进行分割，分为训练样本集w_train和测试样本集w_test，其中m<n，转入步骤2。

步骤2：初始化卷积神经网络模型参数：

设置每次训练样本数Batch_Size、模型训练次数Epochs和卷积神经网络模型迭代次数Iterator_Times，所述卷积神经网络模型包括特征提取器和分类器SOM-BP，确定特征提取器的多层次卷积层、激活层及池化层，转入步骤3。

步骤3：设置Adam优化器学习率Learning_Grade，对特征提取器进行归一化，再利用自组织映射，优化BP神经网络得到SOM-BP，设置交叉熵函数为损失函数Loss，进而获得卷积神经网络，转入步骤4。

步骤4：利用训练样本集w_train训练卷积神经网络，直至Loss的值小于设定的阈值threshold或者Epochs大于Max_Epochs，获得卷积神经网络模型，转入步骤5。

步骤5：将测试样本集w_test输入卷积神经网络模型，计算卷积神经网络模型的误差error与准确率accuracy，保存各级网络参数，转入步骤6。

步骤6：判断卷积神经网络模型迭代次数Iterator_Times是否大于设定的最大迭代次数T：

若大于等于设定的最大迭代次数，则获得T组模型验证结果，转入步骤7；

若小于设定的最大迭代次数，则更新Iterator_Times的值，将w按步骤1中的分割比例进行重新分割，分为与步骤1中不同的训练样本集w_train和测试样本集w_test，返回步骤4。

步骤7：对比求解T组模型验证结果，选取其中准确率最高的模型作为输出模型。

本发明与现有技术相比，其显著优点在于：

(1)本发明提出了一种基于PCA-CNNS的故障诊断方法，通过线性变换寻找m维主成分数据替换输入n维轴承数据，实现减少数据集的维数，同时保持数据集的对方差贡献最大的特征，实现数据的去冗余，降低了算法的运算量，利于实际工程运用。

(2)本发明提出一种利用T折交叉验证的方式对于PCA_CNNS算法流程进行优化，通过对于数据集的拆分以及对应模型的训练的方式，达到对比求取泛化能力最强及准确率最高的模型。

(3)本发明提出利用SOM-BP神经网络作为PCA_CNNS算法的分类器，可以有效克服传统分类器参数冗余，空间结构的表达性不足的缺点，具有更高的训练收敛效率、更好的网络稳定性以及更高的故障诊断的准确率。

附图说明

图1为基于PCA-CNNS的故障诊断方法流程图。

图2为T折交叉验证图(T＝10)。

图3为CNNS特征提取器网络层次图。

图4为SOM-BP神经网络结构图。

图5为模型测试集误差收敛图。

具体实施方式

下面结合附图对本发明作进一步详细描述。

结合图1，本发明的一种基于PCA-CNNS的故障诊断方法，包括以下步骤：

步骤1：利用主成分分析法PCA提取输入的轴承数据集v中代表原始n维数据特征信息的m维主成分数据集w，其中m<n，将w按分割比例7:3进行分割，分为训练样本集w_train和测试样本集w_test，转入步骤2。

为了减少后期网络模型内部变量转移，提高网络的训练效率，增强网络的泛化能力，本发明利用PCA在轴承数据集输入对其进行降维，首先是通过奇异值分解计算数据矩阵的协方差矩阵，然后得到协方差矩阵的特征值特征向量，将特征值按照从大到小的顺序排序，选择特征值最大的m个特征所对应的特征向量组成的矩阵。这样就可以将数据矩阵转换到新的空间当中，实现数据特征的降维。

步骤2：初始化卷积神经网络模型参数：

设置每次训练样本数Batch_Size、模型训练次数Epochs和卷积神经网络模型迭代次数Iterator_Times，所述卷积神经网络模型包括特征提取器和分类器SOM-BP，确定特征提取器的多层次卷积层、激活层及池化层，转入步骤3。

卷积层使用卷积核对输入信号(或特征)的局部区域进行卷积运算，并产生相应的特征。卷积层最重要的特点是权值共享，即同一个卷积核将以固定的步长(Stride)遍历一次输入。权值共享减少了卷积层的网络参数，避免了由于参数过多造成的过拟合，并且降低了系统所需内存。具体的卷积层运算如下式所示：

y^l(i,j)——第l层的第i个卷积核对第j个被卷积的局部区域进行卷积运算的结果。

——第l层的第i个卷积核的第j'个权值。

——第l层的第j个被卷积的局部区域。

w——卷积核的宽度。

经过卷积操作之后，激活函数将对每一个卷积输出的logits值进行非线性变换。激活函数的目的，是将原本线性不可分的多维特征映射到另一空间，在此空间内，特征的线性可分性将增强。鉴于利用误差反向传播来更新权值时，会出现梯度弥散现象，故采用Relu函数作为激活函数以克服梯度弥散现象，Relu激活函数表达式如下式所示：

a^l(i,j)＝f(x^l(j+j'))

式中a^l(i,j)——卷积层输出y^l(i,j)的激活值。

池化层进行的是降采样操作，主要目的是减少神经网络的参数，这里采用的降采样操作为最大值池化，这样可以获取位置无关的特征，其数学描述如下：

式中a^l(i,t)——第l层第i帧第t个神经元的激活值。

W——池化区域的宽度。

p^l(i,j——池化区域的输出值。

步骤3：设置Adam优化器学习率Learning_Grade，对特征提取器进行归一化，再利用自组织映射，优化BP神经网络得到SOM-BP，设置交叉熵函数为损失函数Loss，进而获得卷积神经网络，转入步骤4。

3.1Adam优化算法

利用误差反向传播算法计算了目标函数每一个权值的导数之后，接着就是用优化算法来更新权值，求解出最优的权值，使得目标函数的值达到最小，这个过程用公式描述如下式所示

θ^*＝argmin_θL(f(xⁱ,θ))

其中L(·)、f(·)——目标函数值与输出值。

θ——卷积神经网络的所有参数。

θ^*——卷积神经网络的最优参数。

xⁱ——卷积神经网络的输入。

对于本发明中提出的深度卷积神经网络，由于参数及超参数多，如果超参数选择不好，使用SGD训练时往往陷入局部最优点。因此，本文中采了Adam是一种学习率自适应的优化算法，它利用梯度的一阶矩估计和二阶矩估计，动态调整每个参数的学习率。Adam的优点主要在于经过偏置校正后，修正从原点初始化的一阶矩和二阶矩的估计，使得每一次迭代学习率都有个确定范围。

3.2SOM-BP

利用SOM-BP将特征提取器提取出的特征进行分类。先将最后一个池化层的输出，铺展成一维的特征向量，作为SOM-BP的输入；样本数据进入SOM-BP网络后，会根据样本向量与各竞争层神经元权值向量的欧式距离确定获胜神经元的位置，并根据获胜神经元的位置确定权值调整范围来更新网络连接权值，随着初级网络的不断迭代，训练样本会被分配到不同的竞争层神经元当中，即实现了对样本的初步分类在对训练样本完成初步分类的基础上进行次级网络的训练，其本质是为训练样本向量增加一个维度，并作为次级网络的输入。新增加的维度用于标记初级网络对样本的分类结果，对于次级网络的训练有很好的促进作用。理论上，可以有效降低次级网络，即BP神经网络的训练时间，使整个串联网络以更快的速度收敛。SOM-BP神经网络结构如图4所示。

3.3交叉熵函数

由于平方误差函数是比较每一个类别的不同，而交叉熵函数是衡量两个概率分布的一致性，其在机器学习中常被看作是Softmax分布的负对数似然，故本发明采用交叉熵函数作为目标函数。

步骤4：利用训练样本集w_train训练卷积神经网络，直至Loss的值小于设定的阈值threshold或者Epochs大于Max_Epochs，获得卷积神经网络模型，转入步骤5。

步骤5：将测试样本集w_test输入卷积神经网络模型，计算卷积神经网络模型的误差error与准确率accuracy，保存各级网络参数，转入步骤6。

步骤6：判断训练后的卷积神经网络模型迭代次数Iterator_Times是否大于设定的最大迭代次数T：

若大于等于设定的最大迭代次数，则获得T组模型验证结果，转入步骤7；

若小于设定的最大迭代次数，则更新Iterator_Times的值，将w按步骤1中的分割比例进行重新分割，分为与步骤1中不同的训练样本集w_train和测试样本集w_test(此处包含的样本与步骤1中不一样)，返回步骤4。

T折交叉验证具体过程如下：首先将w分成T个不相交的子集，组成集合M，假设w中的训练样例个数为z，那么每一个子集有z/T个训练样例，相应的子集称作s_i；每次从集合M取出一个s_j，在训练子集中选择T-1个子集(s₁,…,s_j-1,s_j+1,…,s_T)，迭代训练后得到模型，使用最后剩下的一份做测试得到模型准确率；重复进行T次得到T个结果，对比选取其中准确率最高的作为最终输出模型。T折交叉验证具体流程如图2所示。

步骤7：对比求解T组模型验证结果，选取其中准确率最高的模型作为输出模型。

实施例

利用本发明所述基于PCA-CNNS的故障诊断方法进行试验和模型仿真验证。

本实验的实验对象为驱动端轴承，被诊断的型号为深沟球轴承SKF6205，系统的采样频率为12kHz。被诊断的轴承共有3种缺陷位置，分别为滚动体损伤，外圈损伤和内圈损伤，损伤直径的大小分别包括0.007inch,0.014inch和0.021inch，共九种损伤状态。

步骤1：利用主成分分析法提取输入的轴承数据集v中代表原始n维数据特征信息的m维主成分数据集w，其中m<n，将w按分割比例7：3进行分割，分为训练样本集w_train和测试样本集w_test，转入步骤2。

实验准备了12kHz工况下的数据集，运用PCA在原数据源中提取出10000条轴承在此工况下的运行数据；对于该一万条数据，使用one-hot编码将其分为具有相对独立特征的类别，以此完成故障分类。

实验通过选取T＝10作为交叉验证的迭代次数，每次迭代以7:3的比例将数据集划分为训练样本集w_train与测试样本集w_test，将每次迭代生成的最终评价指标E_i(测试集验证准确率)保存，迭代完成后选取准确率最高的模型作为输出模型。

步骤2：初始化卷积神经网络模型参数：

设置每次训练样本数Batch_Size、模型训练次数Epochs和卷积神经网络模型迭代次数Iterator_Times，所述卷积神经网络模型包括特征提取器和分类器SOM-BP，确定特征提取器的多层次卷积层、激活层及池化层，转入步骤3。

其中设置每次训练样本数Batch_Size大小为128，模型训练次数Epochs大小为50，并初始化卷积神经网络模型迭代次数Iterator_Times大小为1，体网络层次图如图3所示，表1为卷积神经网络模型的特征提取器具体参数。

表1 PCA-CNNS特征提取器结构参数表

步骤3：设置Adam优化器学习率Learning_Grade，对特征提取器进行归一化，再利用自组织映射，优化BP神经网络得到SOM-BP，设置交叉熵函数为损失函数Loss，进而获得初始的卷积神经网络模型，转入步骤4。

设置Adam优化器学习率Learning_Grade大小为0.02，梯度的一阶矩衰减系数beta_1大小为0.9，二阶矩衰减系数beta_2大小为0.999，SOM-BP的神经网络结构如图4所示。

步骤4：利用w_train训练初始的卷积神经网络模型，直至Loss的值小于设定的阈值threshold或者Epochs大于Max_Epochs，获得训练后的卷积神经网络模型，转入步骤5；

步骤5：将w_test输入训练后的卷积神经网络模型，计算模型的误差error与准确率accuracy，保存各级网络参数；转入步骤6。

步骤6：判断训练后的卷积神经网络模型迭代次数Iterator_Times是否大于设定的最大迭代次数T：

若大于等于设定的最大迭代次数T，则获得T组模型验证结果，转入步骤7。

若小于设定的最大迭代次数T，则更新Iterator_Times＝Iterator_Times+1，将w重新按分割比例7:3进行分割，分为训练样本集w_train和测试样本集w_test，返回步骤4。

步骤7：对比求解10组模型验证结果，选取其中准确率最高的模型作为输出模型。

对于训练好的模型导入测试集进行测试，获取全连接层输出的结果作为故障诊断的诊断依据。最终模型训练结果如图5所示。其中Loss曲线表示测试集在模型迭代训练过程中，其模型估计值与观测值的差异在不断减小；Accuracy分别为诊断结果与实际结果相符合的准确率。分析可知，随着大量数据输入，模型的诊断准确率最终可高达98.3％。

Claims (3)

1.一种基于PCA_CNNS的轴承故障诊断方法，其特征在于：以完成对于轴承的故障诊断为目标，利用主成分分析法完成数据降维，采用自组织映射算法优化卷积神经网络模型，利用现有的轴承故障数据与分类完成模型训练，结合k折交叉验证选取最优表现模型，从而提升轴承故障诊断的准确率，具体包括如下步骤：

步骤1：利用主成分分析法提取输入的轴承数据集v中代表原始n维数据特征信息的m维主成分数据集w，将主成分数据集w按分割比例进行分割，分为训练样本集w_train和测试样本集w_test，其中m<n，转入步骤2；

步骤2：初始化卷积神经网络模型参数：

设置每次训练样本数Batch_Size、模型训练次数Epochs和卷积神经网络模型迭代次数Iterator_Times，所述卷积神经网络模型包括特征提取器和分类器SOM-BP，确定特征提取器的多层次卷积层、激活层及池化层，转入步骤3；

步骤3：设置Adam优化器学习率Learning_Grade，对特征提取器进行归一化，再利用自组织映射，优化BP神经网络得到SOM-BP，设置交叉熵函数为损失函数Loss，进而获得卷积神经网络，转入步骤4；

步骤4：利用训练样本集w_train训练卷积神经网络，直至Loss的值小于设定的阈值threshold或者Epochs大于Max_Epochs，获得卷积神经网络模型，转入步骤5；

步骤5：将测试样本集w_test输入卷积神经网络模型，计算卷积神经网络模型的误差error与准确率accuracy，保存各级网络参数，转入步骤6；

步骤6：判断卷积神经网络模型迭代次数Iterator_Times是否大于设定的最大迭代次数T：

若大于等于设定的最大迭代次数，则获得T组模型验证结果，转入步骤7；

若小于设定的最大迭代次数，则更新Iterator_Times的值，将w按步骤1中的分割比例进行重新分割，分为与步骤1中不同的训练样本集w_train和测试样本集w_test，返回步骤4；

步骤7：对比求解T组模型验证结果，选取其中准确率最高的模型作为输出模型；

步骤1中轴承数据集v来自于凯斯西储大学滚动轴承数据中心的轴承数据，利用主成分分析法提取v中代表原始n维数据特征信息的m维主成分数据，将其中的冗余特征进行筛选，完成数据降维，具体如下：

提取轴承数据的n维特征向量，计算轴承数据特征向量的平均值，对轴承数据特征向量做方差归一化，再通过奇异值分解求取特征协方差矩阵，求取协方差矩阵的特征值和特征向量，将协方差矩阵的特征值按照从大到小的顺序排序，选取其中的m个，最后将轴承数据投影到选取的特征向量上，从而将输入n维特征转变成其在m维上的投影；

步骤2中确定特征提取器的多层次卷积层、激活层及池化层，具体如下：

对于多层次卷积层，第一层卷积层的卷积核大小设置为a，以提取输入数据短时特征，完成特征学习，同时将第一层以外的卷积层的卷积核大小设置为b，a＞b；

所述步骤3中，设置Adam优化器学习率Learning_Grade，对特征提取器进行归一化，再利用自组织映射，优化BP神经网络得到SOM-BP，进而获得卷积神经网络模型，具体如下：

步骤31：使用学习率自适应算法Adam替代随机梯度下降SGD，完成动态调整参数学习率；

步骤32：在卷积层与激活层之间，以及SOM-BP内加入若干归一化层：

卷积层的输入先减去所在第一小批量样本mini-batch的均值，再除以第一小批量样本的标准差，完成标准化操作；

SOM-BP内各层的输入先减去所在第二小批量样本mini-batch的均值，再除以第二小批量样本的标准差，完成标准化操作；

步骤33：利用SOM-BP将特征提取器提取出的特征进行分类：

先将最后一个池化层的输出铺展成一维的特征向量，作为SOM-BP的输入；训练样本进入SOM-BP网络后，根据训练样本向量与各SOM-BP层中的神经元权值向量的欧式距离确定获胜神经元的位置，并根据获胜神经元的位置确定权值调整范围来更新网络连接权值，随着初级网络的不断迭代，完成轴承正常特征数据与故障特征数据的区分。

2.根据权利要求1所述的基于PCA_CNNS的轴承故障诊断方法，其特征在于：步骤5中，利用w_test对训练后的卷积神经网络模型进行验证，输出的数据包括训练后的卷积神经网络模型的误差error和准确率accuracy。

3.根据权利要求1所述的基于PCA_CNNS的轴承故障诊断方法，其特征在于，步骤1中将主成分数据集w按7:3的分割比例进行分割，对应获得训练样本集w_train和测试样本集w_test。

Images