CN113239720B - 一种基于深度迁移学习的地铁车辆走行部故障诊断方法 - Google Patents

Abstract

本发明公开了一种基于深度迁移学习的地铁车辆走行部故障诊断方法，包括不同条件状态数据的提取、卷积神经网络的特征提取和基本分类、深度迁移学习的非对抗训练的特征对齐。首先，在不同条件状态数据的提取的基础上，通过对信号进行小波阈值降噪处理和数据归一化实现数据预处理；然后，以卷积神经网络CNN作为基本架构来提取特征和特征分类；最后使用迁移学习算法对架构进行改进，进行领域对抗训练，使源域特征分布和目标域特征分布对齐，不断调整模型参数直至参数收敛，实现走行部的故障识别。本发明提升了地铁车辆走行部在仅有少量目标数据时的诊断精度，降低诊断成本，增强了走行部故障诊断的环境适应性和通用性，具有潜在的经济价值。

Description

一种基于深度迁移学习的地铁车辆走行部故障诊断方法

技术领域

本发明属于故障诊断与健康管理技术领域，尤其涉及一种基于深度迁移学习的地铁车辆走行部故障诊断方法。

背景技术

地铁核心部件之一的走行部，其健康状态直接危及列车运行安全，因此需要对走行部的健康状态进行故障诊断。我国现如今的地铁走行部诊断基本依赖于检修人员实地检查、维修及运行状态的确认，人力物力消耗巨大。故障诊断与健康管理技术训练了一种故障诊断模型，实现不需人工检测即能对走行部进行故障诊断。但是在实际运行过程中，走行部不轻易发生故障，模型训练所需的故障数据难以获取，而故障诊断模型的性能极大程度上依赖于训练数据。同时，当走行部运行条件或者设备发生轻微变化，模型就得重新开始训练。而迁移学习能够通过存储前一模型训练好的的参数迁移到新的模型中来帮助训练新的模型，找到新旧模型之间的相似性，提高模型的泛化性能。

发明内容

本发明目的在于解决地铁车辆走行部故障诊断模型故障数据难以获取，泛化性能低的问题，提出了一种基于深度迁移学习的地铁车辆走行部故障诊断方法。

为实现本发明的目的，本发明所采用的技术方案是：一种基于深度迁移学习的地铁车辆走行部故障诊断方法，包括以下步骤：

(1)针对走行部所处环境条件，设置若干个不同运行条件{0,1,…,m}，通过传感器收集走行部在不同条件下的运行状态信号数据作为数据集；

(2)运行条件0作为迁移学习任务的源域，运行条件i,i∈{1,2,…,m}为目标域，对数据集进行小波阈值降噪处理，然后进行数据归一化实现预处理；

(3)利用卷积神经网络CNN搭建故障诊断模型，提取源域和目标域特征和故障分类；

(4)在原故障诊断模型基础上使用迁移学习算法进行改进，进行领域对抗训练，使源域特征分布和目标域特征分布对齐，不断调整模型参数直至参数收敛；

(5)使用收敛后的新的故障诊断模型，再提取目标域特征和故障分类，实现新环境条件下走行部故障诊断。

进一步的，所述步骤(2)中，迁移学习任务表示为环境条件改变设置，包括两个域：源域Ds＝{x_s1,...,x_sn}和目标域Dt＝{x_t1,...,x_tk}，其中x_sn是源域的第n个信号数据，x_tk是目标域的第k个信号数据；对数据集Ds,Dt进行小波阈值降噪处理，具体包括：

首先，选择db10小波基作为将原始信号分解的母小波，分解为三层；然后，使用全局统一阈值

其中σ＝MAD/0.6745，MAD为高斯噪声标准方差的调整系数，N为信号长度；接着，选择软阈值去噪法过滤小波系数，以小波系数的绝对值为计算值，令其减去阈值，当结果为正则保留计算结果为小波系数，若为负则使结果为零；最后，根据降噪后的小波系数进行小波重构，至此小波阈值降噪完成。

进一步的，所述步骤(2)中，通过归一化因子对两个域的数据集进行归一化，数据进行归一化方法是min-max标准化，具体为：

对经过小波阈值降噪处理的N点信号数据进行线性变换，将值映射到[0,1]之间，设N点信号序列为{x₁,x₂,...,x_N}，归一化公式为：

其中归一化后的新序列{y₁,y₂,...,y_N}∈[0,1]且无量纲。

进一步的，所述步骤(3)中，以卷积神经网络CNN作为基本架构来提取源域数据Ds和目标域数据Dt的特征并对Ds故障分类，CNN包括两部分：特征提取器和故障分类器；

特征提取器包括：特征提取器Cf的输入为经过预处理得到的Ds和Dt的无量纲数据，输出为信号的特征表示；采用两个一维卷积层Cf1,Cf2进行特征提取，每一个都具有3个长度的滤镜，以及10个隐藏的尺寸和一个滤除率为0.5的滤除层；然后将经过卷积层提取的特征信号再经过扁平层Cf3进行扁平化，实现从卷积层到全连接层的过渡；

故障分类器包括：在提取特征信号并扁平化后，设置两层256个单元的完全连接层，即故障分类器Cy；第一层是具有Sigmoid激活功能的连接层Cy1，用于区分出输入的特征来自Ds还是Dt；然后，第二个具有ReLu激活功能的完全连接层Cy2，用于对来自Ds的特征进行故障分类；经过两层完全连接层后将源域信号Ds映射到其所属的故障分类函数中；最后，使用softmax分类器Cy3计算分类损失，实现Ds数据集故障准确分类；

Sigmoid函数表达式S(x)和ReLu函数表达式f(x)分别为：

式中x为扁平化的特征信号，e为自然常量。

进一步的，所述的softmax分类器通过softmax函数构建概率分布，再使用交叉熵损失函数计算损失；即对最后一个输出层设置n个输出节点，n与分类任务的目标数相等，然后用交叉熵损失函数来判定实际输出和期望输出的差距；

softmax函数构建概率分布计算式y_i和交叉熵损失函数表达式Ly分别为：

式中s为健康等级标签即故障诊断结果的个数，z_i为输出的标签，j为遍历的下标，y_i为z_i的概率分布；y_i是第i个等级标签的真实概率，而

是预测的概率分布。

进一步的，所述步骤(4)中，在原故障诊断模型基础上使用迁移学习算法进行改进：

在CNN原始架构的第一层故障分类器Cy1后面设置领域判别器Cd，并在其间添加梯度反转层GRL；在领域判别器Cd之前的过程，与初始架构一致，即将预处理得到的目标域Dt的无量纲数据经过特征提取层Cf1、Cf2、扁平化层Cf3进行特征提取，然后在经过初步Sigmoid特征分类的连接层Cy1过程中，区分出输入的特征来自源域Ds或目标域Dt；在领域判别器Cd后面加上全连接分类器，针对Dt提取的特征进行故障分类。

进一步的，所述的梯度反转层GRL包括：经过CNN提取的特征在前向传播过程中实施恒等变换，在反向传播过程中改变领域判别器Cd回传的梯度符号，实现Ds和Dt数据集训练过程中梯度方向一致，在这个过程中产生的误差为领域误差Ld；GRL的前向计算和反向传播过程表示为：

式中I为单位矩阵，x为数据集，R(x)为CNN提取的特征正向传播过程，dR/dx为领域分类误差反向传播过程中的梯度。

进一步的，所述的领域对抗模型训练是实现数据集来源领域分类损失的最大化，其中整体损失的计算转化成故障分类误差最小化和领域分类损失最大化：

式中L(*)表示整体损失函数，Ld(*)表示领域分类损失最大化函数，Ly(*)表示故障分类误差最小化函数，λ表示权衡参数，x_i为数据集中的数据，y_i为对数据进行的故障分类标签，Cf,Cy,Cd分别为特征提取器、故障分类器、领域判别器，θ_f,θ_y,θ_d分别表示Cf,Cy,Cd的参数，

分别表示Cf,Cy,Cd的参数的最优值。

进一步的，所述的全连接分类器包括：使用三层全连接分类器Dy作为区分器；前两层全连接分类器Dy1、Dy2为ReLu激活函数，前两层有1024层；最后一层全连接分类器Dy3为softmax分类器来计算新条件下的故障分类损失Ln；则损耗函数重新公式化为：

L＝Ly-Ld+Ln

式中L为整体损失，Ly为故障初始分类器损失，Ld为领域分类损失，Ln为故障分类损失。

有益效果：与现有技术相比，本发明的一种基于深度迁移学习的地铁车辆走行部故障诊断方法，采用深度迁移学习方法针对地铁车辆走行部实施故障识别，方法不但能提高地铁走行部在应用数据较少时的诊断和识别精度，而且能够利用更少成本实现变工况，变环境，变压力的走行部的齿轮故障识别，节省诊断时间，具有潜在的经济价值。

附图说明

图1是本发明方法的流程图；

图2是本发明方法的CNN架构图；

图3是本发明方法的基于迁移学习的修改架构图。

具体实施方式

下面结合附图及具体实施例对本发明进行详细说明。

本发明所述的基于深度迁移学习的地铁车辆走行部故障诊断方法，能够在运行条件或者设备发生轻微变化时，将前一条件下模型数据迁移到新的模型训练中，找到新旧模型之间的相似性从而提高帮助目标数据的故障识别，如图1所示，包括以下步骤：

(1)针对走行部所处环境条件，设置若干个不同运行条件{0,1,…,m}，通过传感器收集走行部在不同条件下的运行状态信号数据作为数据集。本实施例从温度、湿度、所受冲击、自身轴承产生的振动几个方面设置若干个不同运行条件，收集走行部的运行状态信号数据包括温度、湿度、振动、冲击传感信号数据。

(2)运行条件0作为迁移学习任务的源域，运行条件i,i∈{1,2,…,m}为目标域，对数据集进行小波阈值降噪处理，然后进行数据归一化实现预处理。

迁移学习任务表示为环境条件改变设置，包括两个域：源域Ds＝{x_s1,...,x_sn}和目标域Dt＝{x_t1,...,x_tk}，其中x_sn是源域的第n个信号数据，x_tk是目标域的第k个信号数据；源域Ds是用于初始条件下通过旧模型(利用CNN搭建的原始故障诊断模型)打故障类型标签的训练数据；目标域Dt是用于运行条件改变后通过新模型(CNN结构中引入迁移学习算法后的故障诊断模型)打故障类型标签的数据；

对数据集Ds,Dt进行小波阈值降噪处理，具体包括：

首先，选择db10小波基作为将原始信号分解的母小波，分解为三层；然后，使用全局统一阈值

其中σ＝MAD/0.6745，MAD为高斯噪声标准方差的调整系数，N为信号长度；接着，选择软阈值去噪法过滤小波系数，以小波系数的绝对值为计算值，令其减去阈值，当结果为正则保留计算结果为小波系数，若为负则使结果为零(软阈值去噪法使重构信号不会产生过大波动，其整体性不会发生跳跃性变化)；最后，根据降噪后的小波系数进行小波重构，至此小波阈值降噪完成。

通过归一化因子对两个域的数据集进行归一化，采用min-max标准化方法，具体为：

对经过小波阈值降噪处理的N点信号数据进行线性变换，将值映射到[0,1]之间，设N点信号序列为{x₁,x₂,...,x_N}，归一化公式为：

其中归一化后的新序列{y₁,y₂,...,y_N}∈[0,1]且无量纲。

(3)利用卷积神经网络CNN搭建故障诊断模型，提取源域和目标域特征和故障分类，实现走行部源域信号故障诊断；如图2，CNN包括两部分：特征提取器和故障分类器；

特征提取器包括：特征提取器Cf的输入为经过预处理得到的Ds和Dt的无量纲数据，输出为信号的特征表示；由于预处理的无量纲信号是一维数据，因此采用两个一维卷积层Cf1,Cf2进行特征提取，每一个都具有3个长度的滤镜，以及10个隐藏的尺寸和一个滤除率为0.5的滤除层；然后将经过卷积层提取的特征信号再经过扁平层Cf3进行扁平化，实现从卷积层到全连接层的过渡；

故障分类器包括：在提取特征信号并扁平化后，设置两层256个单元的完全连接层，即故障分类器Cy；第一层是具有Sigmoid激活功能的连接层Cy1，用于区分出输入的特征来自Ds还是Dt；然后，第二个具有ReLu激活功能的完全连接层Cy2，用于对来自Ds的特征进行故障分类；经过两层完全连接层后将源域信号Ds映射到其所属的故障分类函数中；最后，使用softmax分类器Cy3计算分类损失，实现Ds数据集故障准确分类；

Sigmoid函数表达式S(x)和ReLu函数表达式f(x)分别为：

式中x为扁平化的特征信号，e为自然常量。

所述的softmax分类器通过softmax函数构建概率分布，再使用交叉熵损失函数计算损失；即对最后一个输出层设置n个输出节点，n与分类任务的目标数相等，然后用交叉熵损失函数来判定实际输出和期望输出的差距；

softmax函数构建概率分布计算式y_i和交叉熵损失函数表达式Ly分别为：

式中s为健康等级标签即故障诊断结果的个数，z_i为输出的标签，j为遍历的下标，y_i为z_i的概率分布；y_i是第i个等级标签的真实概率，而

是预测的概率分布。

(4)在原故障诊断模型基础上使用迁移学习算法进行改进，进行领域对抗训练，使源域特征分布和目标域特征分布对齐，降低源域特征分布和目标域特征分布差异(以实现对走行部目标域故障诊断)，不断调整模型参数，使得模型更符合目标域条件，直至参数收敛。

如图3，在CNN原始架构的第一层故障分类器Cy1后面设置领域判别器Cd，并在其间添加梯度反转层GRL，来实现不同领域特征之间的对抗训练，减少源特征分布和目标特征分布之间的差异；在领域判别器Cd之前的过程，与初始架构一致，即将预处理得到的目标域Dt的无量纲数据经过特征提取层Cf1、Cf2、扁平化层Cf3进行特征提取，然后在经过初步Sigmoid特征分类的连接层Cy1过程中，区分出输入的特征来自源域Ds或目标域Dt；在领域判别器Cd后面加上全连接分类器，对走行部在新环境条件下即目标域Dt提取的特征进行故障分类。

所述的梯度反转层GRL包括：经过CNN提取的特征在前向传播过程中实施恒等变换，在反向传播过程中改变领域判别器Cd回传的梯度符号，实现Ds和Dt数据集训练过程中梯度方向一致，在这个过程中产生的误差为领域误差Ld；GRL的前向计算和反向传播过程表示为：

式中I为单位矩阵，x为数据集，R(x)为CNN提取的特征正向传播过程，dR/dx为领域分类误差反向传播过程中的梯度。

在领域对抗模型训练中，对于Ds数据集，目的是需要取得精准故障分类，使得故障分类误差最小化，因此Cf对其Ds和Dt特征提取，Cy1精准区分特征属于哪个域，原始模型对Ds数据集进行精准分类，此时需要最小化故障分类器的损失Ly；对于Dt数据，目的是需要混淆Ds和Dt，使得领域判别器Cd无法区别特征来自Ds还是Dt，即需要实现数据集来源领域分类损失的最大化Ld。

所述的领域对抗模型训练是实现数据集来源领域分类损失的最大化，其中整体损失的计算转化成故障分类误差最小化和领域分类损失最大化：

式中L(*)表示整体损失函数，Ld(*)表示领域分类损失最大化函数，Ly(*)表示故障分类误差最小化函数，λ表示权衡参数，x_i为数据集中的数据，y_i为对数据进行的故障分类标签，Cf,Cy,Cd分别为特征提取器、故障分类器、领域判别器，θ_f,θ_y,θ_d分别表示Cf,Cy,Cd的参数，

分别表示Cf,Cy,Cd的参数的最优值。

所述的全连接分类器包括：使用三层全连接分类器Dy作为区分器；前两层全连接分类器Dy1、Dy2为ReLu激活函数，前两层有1024层；最后一层全连接分类器Dy3为softmax分类器来计算新条件下的故障分类损失Ln；则损耗函数重新公式化为：

L＝Ly-Ld+Ln

式中L为整体损失，Ly为故障初始分类器损失，Ld为领域分类损失，Ln为故障分类损失。

(5)使用收敛后的新的故障诊断模型，再提取目标域特征和故障分类，实现新环境条件下走行部故障诊断。

以上所述是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明技术原理的前提下，还可以做出若干改进和变形，这些改进和变形也应视为本发明的保护范围。

Claims (5)

1.一种基于深度迁移学习的地铁车辆走行部故障诊断方法，其特征在于，该方法包括以下步骤：

(1)针对走行部所处环境条件，设置若干个不同运行条件{0,1,…,m}，通过传感器收集走行部在不同条件下的运行状态信号数据作为数据集；

(2)运行条件0作为迁移学习任务的源域，运行条件i,i∈{1,2,…,m}为目标域，对数据集进行小波阈值降噪处理，然后进行数据归一化实现预处理；

(3)利用卷积神经网络CNN搭建故障诊断模型，提取源域和目标域特征和故障分类；

(4)在原故障诊断模型基础上使用迁移学习算法进行改进，进行领域对抗训练，使源域特征分布和目标域特征分布对齐，不断调整模型参数直至参数收敛；

(5)使用收敛后的新的故障诊断模型，再提取目标域特征和故障分类，实现新环境条件下走行部故障诊断；

所述步骤(4)中，在原故障诊断模型基础上使用迁移学习算法进行改进，包括：

在CNN原始架构的第一层故障分类器Cy1后面设置领域判别器Cd，并在其间添加梯度反转层GRL；在领域判别器Cd之前的过程，与初始架构一致，即将预处理得到的目标域Dt的无量纲数据经过特征提取层Cf1、Cf2、扁平化层Cf3进行特征提取，然后在经过初步Sigmoid特征分类的连接层Cy1过程中，区分出输入的特征来自源域Ds或目标域Dt；在领域判别器Cd后面加上全连接分类器，针对Dt提取的特征进行故障分类；

所述的梯度反转层GRL包括：经过CNN提取的特征在前向传播过程中实施恒等变换，在反向传播过程中改变领域判别器Cd回传的梯度符号，实现Ds和Dt数据集训练过程中梯度方向一致，在这个过程中产生的误差为领域误差Ld；GRL的前向计算和反向传播过程表示为：

R(x)＝x，

式中I为单位矩阵，x为数据集，R(x)为CNN提取的特征正向传播过程，dR/dx为领域分类误差反向传播过程中的梯度；

所述的领域对抗模型训练是实现数据集来源领域分类损失的最大化，其中整体损失的计算转化成故障分类误差最小化和领域分类损失最大化：

式中L(*)表示整体损失函数，Ld(*)表示领域分类损失最大化函数，Ly(*)表示故障分类误差最小化函数，λ表示权衡参数，x_i为数据集中的数据，y_i为对数据进行的故障分类标签，Cf,Cy,Cd分别为特征提取器、故障分类器、领域判别器，θ_f,θ_y,θ_d分别表示Cf,Cy,Cd的参数，

分别表示Cf,Cy,Cd的参数的最优值；

所述的全连接分类器包括：使用三层全连接分类器Dy作为区分器；前两层全连接分类器Dy1、Dy2为ReLu激活函数，前两层有1024层；最后一层全连接分类器Dy3为softmax分类器来计算新条件下的故障分类损失Ln；则损耗函数重新公式化为：

L＝Ly-Ld+Ln

式中L为整体损失，Ly为故障初始分类器损失，Ld为领域分类损失，Ln为故障分类损失。

2.根据权利要求1所述的基于深度迁移学习的地铁车辆走行部故障诊断方法，其特征在于，所述步骤(2)中，迁移学习任务表示为环境条件改变设置，包括两个域：源域Ds＝{x_s1,...,x_sn}和目标域Dt＝{x_t1,...,x_tk}，其中x_sn是源域的第n个信号数据，x_tk是目标域的第k个信号数据；对数据集Ds,Dt进行小波阈值降噪处理，具体包括：

首先，选择db10小波基作为将原始信号分解的母小波，分解为三层；然后，使用全局统一阈值

其中σ＝MAD/0.6745，MAD为高斯噪声标准方差的调整系数，N为信号长度；接着，选择软阈值去噪法过滤小波系数，以小波系数的绝对值为计算值，令其减去阈值，当结果为正则保留计算结果为小波系数，若为负则使结果为零；最后，根据降噪后的小波系数进行小波重构，至此小波阈值降噪完成。

3.根据权利要求1所述的基于深度迁移学习的地铁车辆走行部故障诊断方法，其特征在于，所述步骤(2)中，通过归一化因子对两个域的数据集进行归一化，数据进行归一化方法是min-max标准化，具体为：

对经过小波阈值降噪处理的N点信号数据进行线性变换，将值映射到[0,1]之间，设N点信号序列为{x₁,x₂,...,x_N}，归一化公式为：

其中归一化后的新序列{y₁,y₂,...,y_N}∈[0,1]且无量纲。

4.根据权利要求1所述的基于深度迁移学习的地铁车辆走行部故障诊断方法，其特征在于，所述步骤(3)中，以卷积神经网络CNN作为基本架构来提取源域数据Ds和目标域数据Dt的特征并对Ds故障分类，CNN包括两部分：特征提取器和故障分类器；

特征提取器包括：特征提取器Cf的输入为经过预处理得到的Ds和Dt的无量纲数据，输出为信号的特征表示；采用两个一维卷积层Cf1,Cf2进行特征提取，每一个都具有3个长度的滤镜，以及10个隐藏的尺寸和一个滤除率为0.5的滤除层；然后将经过卷积层提取的特征信号再经过扁平层Cf3进行扁平化，实现从卷积层到全连接层的过渡；

故障分类器包括：在提取特征信号并扁平化后，设置两层256个单元的完全连接层，即故障分类器Cy；第一层是具有Sigmoid激活功能的连接层Cy1，用于区分出输入的特征来自Ds还是Dt；然后，第二个具有ReLu激活功能的完全连接层Cy2，用于对来自Ds的特征进行故障分类；经过两层完全连接层后将源域信号Ds映射到其所属的故障分类函数中；最后，使用softmax分类器Cy3计算分类损失，实现Ds数据集故障准确分类；

Sigmoid函数表达式S(x)和ReLu函数表达式f(x)分别为：

f(x)＝max(0,x)

式中x为扁平化的特征信号，e为自然常量。

5.根据权利要求4所述的基于深度迁移学习的地铁车辆走行部故障诊断方法，其特征在于，所述的softmax分类器通过softmax函数构建概率分布，再使用交叉熵损失函数计算损失；即对最后一个输出层设置n个输出节点，n与分类任务的目标数相等，然后用交叉熵损失函数来判定实际输出和期望输出的差距；

softmax函数构建概率分布计算式y_i和交叉熵损失函数表达式Ly分别为：

式中s为健康等级标签即故障诊断结果的个数，z_i为输出的标签，j为遍历的下标，y_i为z_i的概率分布；y_i是第i个等级标签的真实概率，而

是预测的概率分布。

Images