CN113255882A - 一种基于改进卷积胶囊网络的轴承故障诊断方法 - Google Patents

Abstract

本发明公开了一种基于改进卷积胶囊网络的轴承故障诊断方法，包括S1，获取轴承的训练集，训练集包含多个带有故障标签的轴承二维时频数据；S2，构建改进卷积胶囊网络，改进卷积胶囊网络依次由特征提取网络及胶囊网络构成，特征提取网络包含2个分层卷积结构及注意力层；将训练集输入至特征提取网络得到二维时频数据的空间特征图，将空间特征图输入至胶囊网络得到预测故障类型；利用损失函数来反向更新特征提取网络及胶囊网络中的权重系数直至达到预设的权重迭代次数，从而形成训练好的轴承故障诊断模型；S3，将测试集输入训练好的轴承故障诊断模型得到轴承故障诊断结果，解决了现有卷积神经网络在变工况下轴承故障诊断性能差的问题。

Description

一种基于改进卷积胶囊网络的轴承故障诊断方法

技术领域

本发明属于轴承故障诊断技术领域，更具体地，涉及一种基于改进卷积胶囊网络的轴承故障诊断方法。

背景技术

随着工业现代化的发展，机械设备正朝着自动化、规模化和智能化的方向发展。轴承是机械设备中重要的部分，其运行状态的正常与否直接影响整个系统的性能。由于轴承经常在强度大的环境下工作，会发生磨损和锈蚀等故障，可能会造成轴承的损坏和机械设备的故障。因此，对轴承进行故障诊断研究十分重要。

传统的故障诊断方法是通过人工提取信号特征，判断轴承是否发生故障。比如短时傅里叶变换和小波变换等方法。随着机器学习在工程应用领域的发展，一些算法被运用在轴承故障诊断方面。比如支持向量机和贝叶斯统计等算法。对信号进行特征提取，分析识别提取到的特征，完成故障诊断。这些方法虽然有着不错的故障诊断效果，但是特征提取和识别分类的过程比较复杂，十分依赖专家知识协助完成故障诊断。随着数据量的增大，专家知识很难协助完成大量数据下的故障诊断任务。

随着深度学习在工程应用领域的发展，一些方法被运用在轴承故障诊断方面。其中以卷积神经网络模型为代表的深度学习模型的运用，让故障诊断领域朝着智能化的方向发展。卷积神经网络虽然在故障诊断方面有一定的成效，但是在特征提取时，仍存在标量神经元提取特征性能不足，池化层丢失特征有用信息等问题。在实际工程应用中，轴承的运行状态会随着机械设备的负载的变化而发生变换，传感器获取的振动信号也会随之发生改变。卷积神经网络是通过对信号的特征提取，完成不同类型故障的诊断分类。在负载变化的情况下，同种类型故障的相似特征会减少，这会导致卷积神经网络诊断性能变差，难以很好地完成变工况下的故障诊断任务。因此需要对卷积神经网络进行改进，以完成轴承故障诊断任务。

发明内容

为解决现有卷积神经网络在变工况下轴承故障诊断性能差的技术问题，本发明提供一种基于改进卷积胶囊网络的轴承故障诊断方法，在单工况和变工况下轴承故障诊断准确高，能够完成不同工况下的轴承故障诊断任务。

为实现以上目的，本发明采用的一种技术方案如下：

一种基于改进卷积胶囊网络的轴承故障诊断方法，包括以下步骤：

步骤S1，获取轴承的训练集，所述训练集包含多个带有故障标签的轴承二维时频数据，所述轴承二维时频数据通过小波变换轴承的一维振动信号获得；

步骤S2，构建改进卷积胶囊网络，利用训练集训练改进卷积胶囊网络得到训练好的轴承故障诊断模型；

所述改进卷积胶囊网络依次由特征提取网络及胶囊网络构成，所述特征提取网络包含第一分层卷积结构Inception7层、第二分层卷积结构Inception5层及Attention层；

将训练集输入至特征提取网络得到二维时频数据的空间特征图，将空间特征图输入至胶囊网络得到预测故障类型；利用Margin Loss损失函数来反向更新特征提取网络及胶囊网络中的权重系数直至达到预设的权重迭代次数，从而形成训练好的轴承故障诊断模型；

步骤S3，将测试集输入训练好的轴承故障诊断模型得到轴承故障诊断结果。

进一步地，所述步骤S2中所述第一分层卷积结构Inception7层、第二分层卷积结构Inception5层及Attention层的结构如下：

所述Inception7层，包括输入层、第一尺度层、第二尺度层、第三尺度层、第四尺度层和concat连接层；第一尺度通道数为32，卷积核为1×1；第二尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为5×5；第三尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为7×7；第四尺度第一层为尺寸为5×5的最大值池化层，第二层通道数为32，卷积核为1×1；整个层激活函数均为relu函数；

所述Inception5层，包括输入层、第一尺度层、第二尺度层、第三尺度层、第四尺度层和concat连接层；第一尺度通道数为32，卷积核为1×1；第二尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为3×3；第三尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为5×5；第四尺度第一层为尺寸为3×3的最大值池化层，第二层通道数为32，卷积核为1×1；整个层激活函数均为relu函数；

所述的Attention层包含通道注意力模块和空间注意力模块组成，所述通道注意力模块的激活函数为relu和sigmoid函数，所述空间注意力模块的激活函数为sigmoid函数。

进一步地，所述步骤S2中利用训练集训练改进卷积胶囊网络得到训练好的轴承故障诊断模型包括如下步骤：

步骤S21，将训练集输入至Inception7层的输入层，利用Inception7层的第一尺度层、第二尺度层、第三尺度层、第四尺度层并行特征提取并通过Inception7层的concat连接层进行特征汇总得到第一特征图；将第一特征图输入至Inception5层的输入层，利用Inception5层的第一尺度层、第二尺度层、第三尺度层、第四尺度层并行特征提取并通过Inception5层的concat连接层进行特征汇总得到第二特征图；将第二特征图输入至Attention层，利用通道注意力模块对第二特征图进行通道特征提取并结合第二特征图获得通道特征图，接着利用空间注意力模块对通道特征图进行空间特征提取并结合通道特征图得到空间特征图；

步骤S22，将空间特征图输入至胶囊网络的主要帽层形成低层胶囊网络多个神经元，利用动态路由算法更新低层胶囊网络多个神经元的耦合系数实现高层胶囊网络多个神经元的更新，将高层胶囊网络多个神经元的输出向量输入至分类层得到预测故障类型；

步骤S23，分别计算高层胶囊网络多个神经元的输出向量对应的二范数得到各类故障类型的概率，将各类故障类型的概率输入至分类层得到预测故障类型，利用预测故障类型结合故障标签及各类故障类型的概率计算Margin Loss损失函数，利用Margin Loss损失函数反向更新特征提取网络及胶囊网络中的权重系数；

步骤S24，重复S21至S23，直至达到预设的权重迭代次数，从而形成训练好的轴承故障诊断模型。

进一步地，步骤S22中的利用动态路由算法更新低层胶囊网络多个神经元的耦合系数实现高层胶囊网络多个神经元的更新具体步骤如下：

第一阶段，记低层胶囊网络的第i个神经元为x_i，i＝1,2,…,n，n为低层胶囊网络神经元总数，w_ij为x_i对应的权重矩阵，j＝1,2_,…,m，m为高层胶囊网络神经元总数，x_ij为预测值，其公式为：

x_ij＝w_ijx_i (1)

第二阶段中，对预测值x_ij进行加权求和得到高层胶囊网络神经元的第一输出向量S_j，其公式为：

公式(2)中，c_ij为低层胶囊网络神经元的耦合系数；

第三阶段中，对第一输出向量S_j通过squash函数进行处理，获得高层胶囊网络神经元的第二输出向量Z_j，其公式为：

第四阶段中，计算低层胶囊网络神经元的耦合系数c_ij，其公式为：

b_ij＝b_ij+Z_ix_ij (5)

在每次前向传播时，将b_ij初始化为0，由公式(4)计算出低层胶囊网络神经元的耦合系数c_ij的初始化值，再由公式(2)和公式(3)计算出高层胶囊网络神经元的第一输出向量S_j和第二输出向量Z_j；由公式(5)更新b_ij的数值，从而更新c_ij、S_j和Z_j，直至完成3次路由更新算法。

进一步地，所述步骤S23中所述Margin Loss损失函数公式如下所示：

公式(6)中，p_j＝||Z_j||为各类故障的概率；T_j为分类判定函数，假如分类层输出的预测故障类型与故障标签一致时，则T_j＝1，否则T_j＝0；m⁺为概率上限值，若p_j大于m⁺，则损失函数L_j为0；m^-为概率下限值，若p_j小于m^-，则损失函数L_j为0；λ为比例系数。

进一步地，步骤S21中利用通道注意力模块对第二特征图进行通道特征提取并结合第二特征图获得通道特征图，具体步骤为：

所述通道注意力模块将第二特征图F∈R^C×H×W经过池化及感知机操作实现通道特征提取形成通道注意力M_c(F)，将通道注意力M_c(F)和第二特征图F∈R^C×H×W相乘得到通道特征图F'，其公式为：

公式(7)中，

表示逐个元素相乘；W₀∈R^C/r×C，W₀∈R^C/r×C，r为减少率；

表示对F进行平均池化处理，

表示对F进行最大池化处理；σ为sigmoid激活函数，τ为relu激活函数；

步骤S21中利用空间注意力模块对通道特征图进行空间特征提取并结合通道特征图得到空间特征图，具体步骤为：

所述空间注意力模块将通道特征图F'经过池化和卷积操作实现空间特征提取形成空间注意力M_s(F')，将空间注意力M_s(F')和通道特征图F'相乘得到空间特征图F”，其公式为：

公式(8)中，

表示对F'进行平均池化处理，

表示对F'进行最大池化处理；σ为sigmoid激活函数；7×7为卷积核的大小。

进一步地，步骤S2还包含利用验证集对训练好的轴承故障诊断模型进行超参数调整得到优化好的轴承故障诊断模型，所述验证集和步骤S1中训练集获取方法一样；

步骤S3，将测试集输入优化好的轴承故障诊断模型得到轴承故障诊断结果。

与现有技术相比，本发明具有以下优点：

(1)本发明利用改进的胶囊网络代替卷积神经网络，用胶囊网络中的向量神经元(低层胶囊网络及高层胶囊网络的神经元均是向量神经元)代替卷积神经网络标量神经元，在负载变换的变工况的环境下，将振动信号的空间位置作为信息的一部分被保存使用，提升预测故障模型的故障诊断性能；本发明的诊断方法在单工况和变工况下轴承故障诊断准确高，能够完成不同工况下的轴承故障诊断任务；

(2)基础的胶囊网络仅采用单层卷积核进行特征提取，未能从信号中获得更多重要信息。本发明采用第一分层卷积结构Inception7层、第二分层卷积结构Inception5层及Attention层形成特征提取网络，并与胶囊网络结合，可以从振动信号中提取多尺度的关键信息，提升预测故障模型的特征提取性能，提高预测故障模型的故障诊断性能。

附图说明

图1为本发明一实施例中一种基于改进卷积胶囊的轴承故障诊断方法流程图。

图2为本发明一实施例中利用训练集训练改进卷积胶囊网络得到训练好的轴承故障诊断模型的算法流程图；

图3为本发明一实施例中的改进卷积胶囊网络的模型结构图；

图4为本发明一实施例中的Inception层结构图；

图5为本发明一实施例中的Attention层模块结构图；

图6为本发明一实施例中的胶囊网络的动态路由算法示意图；

图7为本发明一实施例中的不同负荷工况下的信号数据图；

图8为本发明一实施例中的利用部分重复采样获取训练集中每批样本(二维时频数据)的示意图。

具体实施方式

下面将结合本发明实施例的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

如图1所示，一种基于改进卷积胶囊网络的轴承故障诊断方法，包括以下步骤：

步骤S1，获取轴承的训练集，所述训练集包含多个带有故障标签的轴承二维时频数据，所述轴承二维时频数据通过小波变换轴承的一维振动信号获得；

步骤S2，构建改进卷积胶囊网络，利用训练集训练改进卷积胶囊网络得到训练好的轴承故障诊断模型；

如图3所示，所述改进卷积胶囊网络依次由特征提取网络及胶囊网络构成，所述特征提取网络包含第一分层卷积结构Inception7层、第二分层卷积结构Inception5层及Attention层；

将训练集输入至特征提取网络得到二维时频数据的空间特征图，将空间特征图输入至胶囊网络得到预测故障类型；利用Margin Loss损失函数来反向更新特征提取网络及胶囊网络中的权重系数直至达到预设的权重迭代次数，从而形成训练好的轴承故障诊断模型；

步骤S3，将测试集输入训练好的轴承故障诊断模型得到轴承故障诊断结果。

具体地，所述步骤S2中所述第一分层卷积结构Inception7层、第二分层卷积结构Inception5层及Attention层的结构如下：

如图4所示，所述Inception7层，包括输入层、第一尺度层、第二尺度层、第三尺度层、第四尺度层和concat连接层；第一尺度通道数为32，卷积核为1×1；第二尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为5×5；第三尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为7×7；第四尺度第一层为尺寸为5×5的最大值池化层，第二层通道数为32，卷积核为1×1；整个层激活函数均为relu函数；

如图4所示，所述Inception5层，包括输入层、第一尺度层、第二尺度层、第三尺度层、第四尺度层和concat连接层；第一尺度通道数为32，卷积核为1×1；第二尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为3×3；第三尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为5×5；第四尺度第一层为尺寸为3×3的最大值池化层，第二层通道数为32，卷积核为1×1；整个层激活函数均为relu函数；

如图5所示，所述的Attention层包含通道注意力模块和空间注意力模块组成，所述通道注意力模块的激活函数为relu和sigmoid函数，所述空间注意力模块的激活函数为sigmoid函数。

如图2所示，所述步骤S2中利用训练集训练改进卷积胶囊网络得到训练好的轴承故障诊断模型包括如下步骤：

步骤S21，将训练集输入至Inception7层的输入层，利用Inception7层的第一尺度层、第二尺度层、第三尺度层、第四尺度层并行特征提取并通过Inception7层的concat连接层进行特征汇总得到第一特征图；将第一特征图输入至Inception5层的输入层，利用Inception5层的第一尺度层、第二尺度层、第三尺度层、第四尺度层并行特征提取并通过Inception5层的concat连接层进行特征汇总得到第二特征图；将第二特征图输入至Attention层，利用通道注意力模块对第二特征图进行通道特征提取并结合第二特征图获得通道特征图，接着利用空间注意力模块对通道特征图进行空间特征提取并结合通道特征图得到空间特征图；

步骤S22，将通道特征图及空间特征图输入至胶囊网络的主要帽层形成低层胶囊网络多个神经元，利用动态路由算法更新低层胶囊网络多个神经元的耦合系数实现数字帽层中的高层胶囊网络多个神经元的更新，将高层胶囊网络多个神经元的输出向量输入至分类层得到预测故障类型；

如图6所示，步骤S22中利用动态路由算法更新低层胶囊网络多个神经元的耦合系数实现高层胶囊网络多个神经元的更新具体步骤如下：

第一阶段，记低层胶囊网络的第i个神经元为x_i，i＝1,2,…,n，n为低层胶囊网络神经元总数，w_ij为x_i对应的权重矩阵，j＝1,2,…,m，m为高层胶囊网络神经元总数和故障类型总数相等，x_ij为预测值，其公式为：

x_ij＝w_ijx_i (1)

第二阶段中，对预测值x_ij进行加权求和得到高层胶囊网络神经元的第一输出向量S_j，其公式为：

公式(2)中，c_ij为低层胶囊网络神经元的耦合系数；

第三阶段中，对第一输出向量S_j通过squash函数进行处理，获得高层胶囊网络神经元的第二输出向量Z_j，其公式为：

第四阶段中，计算低层胶囊网络神经元的耦合系数c_ij，其公式为：

b_ij＝b_ij+Z_ix_ij (5)

在每次前向传播时，将b_ij初始化为0，由公式(4)计算出低层胶囊网络神经元的耦合系数c_ij的初始化值，再由公式(2)和公式(3)计算出高层胶囊网络神经元的第一输出向量S_j和第二输出向量Z_j；由公式(5)更新b_ij的数值，从而更新c_ij、S_j和Z_j，直至完成3次路由更新算法，因为在胶囊网络中一般选取迭代次数为3次；

步骤S23，分别计算高层胶囊网络多个神经元的输出向量对应的二范数得到各类故障类型的概率，将各类故障类型的概率输入至分类层得到预测故障类型，利用预测故障类型结合故障标签及各类故障类型的概率计算Margin Loss损失函数，利用Margin Loss损失函数反向更新特征提取网络及胶囊网络中的权重系数；一般通过随机优化算法(Adam)的反向传播算法更新特征提取网络及胶囊网络中的权重系数，并通过自适应学习速率算法选择最佳学习速率，使得模型能够迅速收敛。

所述步骤S23中所述Margin Loss损失函数公式如下所示：

公式(6)中，p_j＝||Z_j||为各类故障的概率；T_j为分类判定函数，假如分类层输出的预测故障类型与故障标签一致时，则T_j＝1，否则T_j＝0；m⁺为概率上限值，若p_j大于m⁺，则损失函数L_j为0；m^-为概率下限值，若p_j小于m^-，则损失函数L_j为0；λ为比例系数，一般可以选取λ＝0.5；

步骤S24，重复S21至S23，直至达到预设的权重迭代次数，从而形成训练好的轴承故障诊断模型。

进一步地，步骤S21中利用通道注意力模块对第二特征图进行通道特征提取并结合第二特征图获得通道特征图，具体步骤为：

所述通道注意力模块将第二特征图F∈R^C×H×W经过池化及感知机操作实现通道特征提取形成通道注意力M_c(F)，将通道注意力M_c(F)和第二特征图F∈R^C×H×W相乘得到通道特征图F'，其公式为：

公式(7)中，

表示逐个元素相乘；W₀∈R^C/r×C，W₁∈R^C×C/r，r为减少率一般选取r＝16；

表示对F进行平均池化处理，

表示对F进行最大池化处理；σ为sigmoid激活函数，τ为relu激活函数；

步骤S21中利用空间注意力模块对通道特征图进行空间特征提取并结合通道特征图得到空间特征图，具体步骤为：

所述空间注意力模块将通道特征图F'经过池化和卷积操作实现空间特征提取形成空间注意力M_s(F')，将空间注意力M_s(F')和通道特征图F'相乘得到空间特征图F”，其公式为：

公式(8)中，

表示对F'进行平均池化处理，

表示对F'进行最大池化处理；σ为sigmoid激活函数；7×7为卷积核的大小。

进一步地，步骤S2还包含利用验证集对训练好的轴承故障诊断模型进行超参数调整得到优化好的轴承故障诊断模型，所述验证集和步骤S1中训练集获取方法一样。

下面以一具体实施对本发明的轴承故障诊断方法进行进一步说明，采用凯斯西储大学轴承数据集作为数据集。故障类型分为正常以及内圈、外圈和滚动体三种故障。其中，每种均有0.1778mm、0.3556mm和0.5334mm三种不同尺寸的损伤，对应不同类型的故障。数据集包含了正常和九种不同类型故障共十种，如表1所示。其中，每种数据类型均按5:1:2的比例划分，划分为250个训练样本形成训练集、50个验证样本形成验证集和100个测试样本形成测试集。每个数据样本都被打上故障标签，表示对应的故障类型。

表1

本发明的实施例中，改进卷积胶囊网络是通过开源的软件库Tensorflow2.0构建的，批处理次数Batch定为100。如图8所示，每次从训练集中抽取训练样本时采用部分重复采样的手段对训练集进行扩展，利用验证集对训练好的轴承故障诊断模型进行超参数调整得到优化好的轴承故障诊断模型，所述超参数包括学习效率设于0.0001使得轴承故障诊断模型能够迅速收敛。

为验证改进卷积胶囊网络(Improved Convolutional Capsule Network,IC-CN)模型性能，将卷积神经网络(Convolutional Neural Network,CNN)以及卷积胶囊网络(Convolutional Capsule Network,C-CN)两种深度学习模型进行对比。

参照表1数据集构建的方式，分别选取0hp、1hp、2hp、3hp负荷工况下的数据构建单工况下的数据集。模型权重迭代次数Epoch定为300。为更好地评估模型的故障诊断性能，将准确度以及F1分数作为评估指标。F1分数和准确度相似，是统计学中用来衡量分类模型精确度的一种指标。为减少诊断实验的偶然性，每个模型均在不同单工况上重复诊断三次，取平均值作为模型诊断的准确度和F1分数。实验结果如表2、表3所示。

表2

表3

从表2、表3中可以得出，IC-CN模型在四种不同单工况下的准确度和F1分数基本一致，均高于CNN，在0hp和1hp单工况下的准确度高于C-CN模型。在不同单工况下的平均准确度上，IC-CN模型比CNN和C-CN模型分别提高0.46％和0.03％，这说明IC-CN模型在单工况下诊断性能更加优异。

在变工况下的实施例中，如图7所示，损伤尺寸大小为0.5334mm的外圈故障在不同负荷工况下运转的信号数据是有差别的，信号在不同负荷工况下的加速度数据是有区别的，幅值和相位是不一样的。参照表1数据集构建的方式，所用的训练和测试集均采用不同负荷工况下的数据。变工况相对于单工况，样本数据增多，模型训练过程变复杂，为让模型更好地训练数据，增大模型迭代次数，将数Epoch定为500。实验结果如表4和表5所示。

表4

表5

从表4和表5可以得出，当负荷发生变化时，三种方法的准确度和F1分数均不同程度地发生了降低。虽然诊断性能发生了下降，但是IC-CN模型与其他两种模型相比，诊断性能下降的幅度小，在三种变工况下的准确度均高于CNN和C-CN模型。在三种变工况下的平均准确度上，相对于CNN和C-CN模型，IC-CN模型分别提高了8.24％和3.42％。IC-CN模型在三种变工况下的F1分数均高于其他两种模型。在三种变工况下的平均F1分数上，IC-CN模型相对于其他两种模型分别提高了10.2％和3.65％。这些说明IC-CN模型在变工况下诊断性能更加优异。

以上实施例仅表达了本发明的几种实施方式，其描述较为具体和详细但并不能因此而理解为对本申请专利范围的限制。对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (7)

1.一种基于改进卷积胶囊网络的轴承故障诊断方法，其特征在于，包括以下步骤：

步骤S1，获取轴承的训练集，所述训练集包含多个带有故障标签的轴承二维时频数据，所述轴承二维时频数据通过小波变换轴承的一维振动信号获得；

步骤S2，构建改进卷积胶囊网络，利用训练集训练改进卷积胶囊网络得到训练好的轴承故障诊断模型；

所述改进卷积胶囊网络依次由特征提取网络及胶囊网络构成，所述特征提取网络包含第一分层卷积结构Inception7层、第二分层卷积结构Inception5层及Attention层；

将训练集输入至特征提取网络得到二维时频数据的空间特征图，将空间特征图输入至胶囊网络得到预测故障类型；利用Margin Loss损失函数来反向更新特征提取网络及胶囊网络中的权重系数直至达到预设的权重迭代次数，从而形成训练好的轴承故障诊断模型；

步骤S3，将测试集输入训练好的轴承故障诊断模型得到轴承故障诊断结果。

2.根据权利要求1所述的一种基于改进卷积胶囊网络的轴承故障诊断方法，其特征在于，所述步骤S2中所述第一分层卷积结构Inception7层、第二分层卷积结构Inception5层及Attention层的结构如下：

所述Inception7层，包括输入层、第一尺度层、第二尺度层、第三尺度层、第四尺度层和concat连接层；第一尺度通道数为32，卷积核为1×1；第二尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为5×5；第三尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为7×7；第四尺度第一层为尺寸为5×5的最大值池化层，第二层通道数为32，卷积核为1×1；整个层激活函数均为relu函数；

所述Inception5层，包括输入层、第一尺度层、第二尺度层、第三尺度层、第四尺度层和concat连接层；第一尺度通道数为32，卷积核为1×1；第二尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为3×3；第三尺度第一层通道数为32，卷积核为1×1，第二层通道数为32，卷积核为5×5；第四尺度第一层为尺寸为3×3的最大值池化层，第二层通道数为32，卷积核为1×1；整个层激活函数均为relu函数；

所述的Attention层包含通道注意力模块和空间注意力模块，所述通道注意力模块的激活函数为relu和sigmoid函数，所述空间注意力模块的激活函数为sigmoid函数。

3.根据权利要求2所述的一种基于改进卷积胶囊网络的轴承故障诊断方法，其特征在于，所述步骤S2中利用训练集训练改进卷积胶囊网络得到训练好的轴承故障诊断模型包括如下步骤：

步骤S21，将训练集输入至Inception7层的输入层，利用Inception7层的第一尺度层、第二尺度层、第三尺度层、第四尺度层并行特征提取并通过Inception7层的concat连接层进行特征汇总得到第一特征图；将第一特征图输入至Inception5层的输入层，利用Inception5层的第一尺度层、第二尺度层、第三尺度层、第四尺度层并行特征提取并通过Inception5层的c0oncat连接层进行特征汇总得到第二特征图；将第二特征图输入至Attention层，利用通道注意力模块对第二特征图进行通道特征提取并结合第二特征图获得通道特征图，接着利用空间注意力模块对通道特征图进行空间特征提取并结合通道特征图得到空间特征图；

步骤S22，将空间特征图输入至胶囊网络的主要帽层形成低层胶囊网络多个神经元，利用动态路由算法更新低层胶囊网络多个神经元的耦合系数实现高层胶囊网络多个神经元的更新，将高层胶囊网络多个神经元的输出向量输入至分类层得到预测故障类型；

步骤S23，分别计算高层胶囊网络多个神经元的输出向量对应的二范数得到各类故障类型的概率，将各类故障类型的概率输入至分类层得到预测故障类型，利用预测故障类型结合故障标签及各类故障类型的概率计算Margin Loss损失函数，利用Margin Loss损失函数反向更新特征提取网络及胶囊网络中的权重系数；

步骤S24，重复S21至S23，直至达到预设的权重迭代次数，从而形成训练好的轴承故障诊断模型。

4.根据权利要求3所述的一种基于改进卷积胶囊网络的轴承故障诊断方法，其特征在于，步骤S22中的利用动态路由算法更新低层胶囊网络多个神经元的耦合系数实现高层胶囊网络多个神经元的更新具体步骤如下：

第一阶段，记低层胶囊网络的第i个神经元为x_i，i＝1,2,…,n，n为低层胶囊网络神经元总数，w_ij为x_i对应的权重矩阵，j＝1,2,…,m，m为高层胶囊网络神经元总数，x_ij为预测值，其公式为：

x_ij＝w_ijx_i (1)

第二阶段中，对预测值x_ij进行加权求和得到高层胶囊网络神经元的第一输出向量S_j，其公式为：

公式(2)中，c_ij为低层胶囊网络神经元的耦合系数；

第三阶段中，对第一输出向量S_j通过squash函数进行处理，获得高层胶囊网络神经元的第二输出向量Z_j，其公式为：

第四阶段中，计算低层胶囊网络神经元的耦合系数c_ij，其公式为：

b_ij＝b_ij+Z_ix_ij (5)

在每次前向传播时，将b_ij初始化为0，由公式(4)计算出低层胶囊网络神经元的耦合系数c_ij的初始化值，再由公式(2)和公式(3)计算出高层胶囊网络神经元的第一输出向量S_j和第二输出向量Z_j；由公式(5)更新b_ij的数值，从而更新c_ij、S_j和Z_j，直至完成3次路由更新算法。

5.根据权利要求3所述的一种基于改进卷积胶囊网络的轴承故障诊断方法，其特征在于，所述步骤S23中所述Margin Loss损失函数公式如下所示：

公式(6)中，p_j＝||Z_j||为各类故障的概率；T_j为分类判定函数，假如分类层输出的预测故障类型与故障标签一致时，则T_j＝1，否则T_j＝0；m⁺为概率上限值，若p_j大于m⁺，则损失函数L_j为0；m^-为概率下限值，若p_j小于m^-，则损失函数L_j为0；λ为比例系数。

6.根据权利要求3所述的一种基于改进卷积胶囊网络的轴承故障诊断方法，其特征在于，步骤S21中利用通道注意力模块对第二特征图进行通道特征提取并结合第二特征图获得通道特征图，具体步骤为：

所述通道注意力模块将第二特征图F∈R^C×H×W经过池化及感知机操作实现通道特征提取形成通道注意力M_c(F)，将通道注意力M_c(F)和第二特征图F∈R^C×H×W相乘得到通道特征图F'，其公式为：

公式(7)中，

表示逐个元素相乘；W₀∈R^C/r×C，W₁∈R^C×C/r，r为减少率；

表示对F进行平均池化处理，

表示对F进行最大池化处理；σ为sigmoid激活函数，τ为relu激活函数；

步骤S21中利用空间注意力模块对通道特征图进行空间特征提取并结合通道特征图得到空间特征图，具体步骤为：

所述空间注意力模块将通道特征图F'经过池化和卷积操作实现空间特征提取形成空间注意力M_s(F')，将空间注意力M_s(F')和通道特征图F'相乘得到空间特征图F”，其公式为：

公式(8)中，

表示对F'进行平均池化处理，

表示对F'进行最大池化处理；σ为sigmoid激活函数；7×7为卷积核的大小。

7.根据权利要求1-6中任一项所述的一种基于改进卷积胶囊网络的轴承故障诊断方法，其特征在于，步骤S2还包含利用验证集对训练好的轴承故障诊断模型进行超参数调整得到优化好的轴承故障诊断模型，所述验证集和步骤S1中训练集获取方法一样；

步骤S3，将测试集输入优化好的轴承故障诊断模型得到轴承故障诊断结果。

Images