CN112784920B - 云边端协同的旋转部件对抗域自适应故障诊断方法 - Google Patents

Abstract

本发明公开了一种云边端协同的旋转部件对抗域自适应故障诊断方法，将数据存储、扩展和智能故障诊断模型的构建、训练，以及大量计算分配到云边网络；将数据采集，各终端实时故障诊断，以及终端设备状态监测分配到端边网络，实现了云边端的人工智能协同；诊断方法融入了双层对抗域自适应思想，以在领域级和故障类别级上逐步对齐不同的域，以解决领域差异问题，实现更加全面的域自适应，并使分类器学习域不变表示特征；最后将在源域中训练好的分类器直接用于目标域的故障诊断，解决了变工况下旋转设备的数据领域差异问题，提高了旋转设备故障诊断精度。

Description

云边端协同的旋转部件对抗域自适应故障诊断方法

技术领域

本发明涉及旋转部件故障诊断领域，特别涉及一种云边端协同的旋转部件对抗域自适应故障诊断方法。

背景技术

随着人工智能技术和云计算的快速发展，云边端协同技术正成长为一个具有发展前景的新兴领域。近年来，基于深度学习模型的云边端协同的智能应用和服务正逐渐融入国家发展和民生的各个领域，例如智能制造、无人驾驶、智慧城市、气象预警等。面向各种物联场景，云端计算的优势能够用来解决终端资源受限的问题，以结合更广泛的数据训练人工智能模型，将训练好的人工智能模型迁移部署在环境复杂且计算资源受限的终端设备。这为解决旋转部件故障诊断实时性需求与大量计算负担之间的矛盾提供了思路，提高了边端对不同应用场景的适应能力。

对于故障诊断方面，旋转设备是现代工业领域广泛应用的部件，如风电领域、水电领域、航空领域等，因此在变工况下进行旋转设备的故障诊断对工业设备的安全可靠运行具有重要意义。对抗域自适应学习作为一种与迁移学习密切相关的机器学习策略，可以利用训练数据集(源域)的知识，并将其适应于不同但相关的测试数据集(目标域)，这为解决不同应用场景下旋转设备数据领域差异问题提供了很好的方法。

发明内容

为了解决上述技术问题，本发明提供一种算法简单、诊断精度高的云边端协同的旋转部件对抗域自适应故障诊断方法。

本发明解决上述问题的技术方案是：一种云边端协同的旋转部件对抗域自适应故障诊断方法，是通过云边端协同系统作为平台架构实现的，云边端协同系统包括云边网络和端边网络，所述云边网络双向通信连接所述端边网络；

所述云边网络包括云端服务器和边缘镜像仓库，所述云端服务器用于构建云端数据库和搭建系统运行环境，并在运行环境上进行智能故障诊断模型的训练和参数存储，并把训练好的智能故障诊断模型、运行环境和结果数据传输程序打包成模型镜像推送至边缘镜像仓库，并控制端边网络获取并执行所述模型镜像；

所述端边网络从相应终端采集数据并定时上传至云端，从所述云边网络获取所述模型镜像，将在云端训练好的智能故障诊断模型迁移到端边网络，在相应的边缘端构建并配置模型的执行文件；并根据智能故障诊断模型所需要的数据从各个终端获取相应数据，进行数据的处理，保存和传输；根据处理好的数据运行智能故障诊断模型和模型计算，并把结果反馈到对应的终端状态监测器；

故障诊断方法具体包括以下步骤：

(1)构建不同工况下旋转设备故障样本数据库，并划分训练集和测试集，将训练集作为源域，测试集作为目标域；

(2)使用稀疏自动编码器SAE作为特征生成器G_f，从源域和目标域中自动提取代表性特征，并引入KL散度来衡量源域和目标域之间的特征差异；

(3)构建领域鉴别器D₀，将源域和目标域样本特征作为输入，并判别特征来自于源域还是目标域，构造梯度反转层来实现特征生成器和领域鉴别器的对抗域自适应学习，并加入谱范数正则化来约束对抗训练过程；

(4)使用softmax分类器作为标签预测器C_y，并用源域数据进行训练；

(5)构建故障类别鉴别器D₁，包括一个标签预测器C，并构造梯度反转层来实现故障类别鉴别器和特征生成器的对抗域自适应学习，并加入谱范数正则化来约束对抗训练过程；

(6)使用梯度下降算法SGD来优化特征生成器G_f、领域鉴别器D₀、故障类别鉴别器D₁和标签预测器C_y总的损失函数，即得到训练好的智能故障诊断模型；

(7)将训练好的智能故障诊断模型直接用于目标域特征的故障诊断，获得预测标签，并根据实际标签计算分类精度。

上述旋转部件双层对抗域自适应故障诊断方法，所述步骤(1)中，源域数据为其中第i个样本x_i属于特征空间/>即/>第i个样本x_i对应的样本标签y_i属于标签空间/>即y_i∈y_s，n_s为源域样本数量；目标域数据为/>其中第j个样本x_j属于特征空间/>即/>n_t为目标域样本数量。

上述旋转部件双层对抗域自适应故障诊断方法，所述步骤(2)中，稀疏自编码SAE网络由编码网络和解码网络构成；其中，编码网络将输入数据X＝{x₁,x₂,...x_r,...x_n}压缩为隐含层表示H：

H＝f(W₁X+b₁)

其中，W₁为编码网络的权重矩阵，b₁为编码网络的偏置向量，f为激活函数；

然后，解码网络将隐含层表示H重构成与X相同维度的向量

其中，W₂为解码网络的权重矩阵，b₂为解码网络的偏置向量；

SAE的学习过程是最小化损失函数：

其中，θ表示要更新的参数，n为输入样本数量，β为控制稀疏惩罚项权重的超参数，s为隐藏层中神经元数量，KL表示Kullback-Leibler散度，ρ为稀疏性参数，为第l个隐藏单位的平均激活值。

上述旋转部件双层对抗域自适应故障诊断方法，所述步骤(3)中，领域鉴别器D₀与特征生成器G_f通过梯度反转层构成对抗域自适应模块，进行极大极小博弈，从而判别特征来自源域还是目标域；并引入谱范数正则化以缓解对抗训练过程的不稳定性；

D₀对抗训练过程的逻辑损失函数为：

其中，θ_f和θ₀分别为特征生成器和领域鉴别器D₀的参数，G_s和G_t分别为特征生成器G_f的源域和目标域表示，d_i'为领域标签，如果该特征来自源域，其值为1，否则为0，μ是正则化因子，σ表示谱范数，是领域鉴别器D₀的权重矩阵。

上述旋转部件双层对抗域自适应故障诊断方法，所述步骤(4)中，对于源域数据其中y_i∈{1,2,...,N_class}，N_class为标签数；利用softmax函数通过回归分析估计每个预测标签/>的概率/>并以概率最高的类别作为样本的类别；

概率假设函数为：

其中，表示softmax模型参数；

采用交叉熵函数作为softmax回归的损失函数，定义为：

其中，θ_f和θ_y分别为特征生成器G_f和标签预测器C_y的参数，1{y_i＝k}是指示器函数，如果语句为真其值为1，否则为0。

上述旋转部件双层对抗域自适应故障诊断方法，所述步骤(5)中，故障类别鉴别器D₁与特征生成器G_f通过梯度反转层构成类别级对抗域自适应模块，进行极大极小博弈，从而实现标签空间的对齐，并引入谱范数正则化以缓解对抗训练过程的不稳定性；

根据实际的故障标签和预测的故障标签，D₁对抗训练过程的逻辑损失函数为：

其中，θ_f和θ₁为特征生成器和故障类别鉴别器D₁的参数，fd_i'为样本的类别标签，W_D1为故障类别鉴别器D₁的权重矩阵。

上述旋转部件双层对抗域自适应故障诊断方法，所述步骤(6)中，总的优化目标函数如下：

其中，λ为控制对抗域自适应水平的权衡参数，优化的目标是找到一组最优参数使所有分类标签的损失最小化，同时最大化域标签的损失；优化目标写成：

随机梯度下降SGD算法被用来解决优化目标的问题，在训练过程中，参数更新规则如下：

其中，α为学习速率，-λ表示梯度反转。

上述旋转部件双层对抗域自适应故障诊断方法，所述步骤(7)中，softmax分类器以目标域数据的分类精度Accuracy作为性能评价指标，其计算公式如下：

其中，为目标域数据集，y(x)为样本的实际标签，/>为分类器预测的标签。

本发明的有益效果在于：

1、本发明实现了云边端的人工智能协同，将一种从领域级到特征级的双层对抗思想融入到诊断模型中，通过构造领域鉴别器和故障类鉴别器来减小两个域之间的分布差异以及各故障类型在目标域内的分布差异，从而实现更全面的域自适应，并且能更好适应复杂变工况下的旋转设备故障诊断环境。

2、本发明从神经网络参数矩阵的谱范数角度引入规则约束，在模型训练中引入了谱范数正则化，以解决对抗训练过程中的不稳定性，使训练过程更加稳定，且易于收敛。

附图说明

图1为本发明的诊断流程框图。

图2为稀疏自编码结构示意图。

图3为本发明诊断模型框架图。

图4为本发明实验对比条形图。

具体实施方式

下面结合附图和实施例对本发明做进一步的说明。

如图1所示，一种云边端协同的旋转部件对抗域自适应故障诊断方法，是通过云边端协同系统作为平台架构实现的，云边端协同系统包括云边网络和端边网络，所述云边网络双向通信连接所述端边网络。

所述云边网络包括云端服务器和边缘镜像仓库，所述云端服务器用于构建云端数据库和搭建系统运行环境，并在运行环境上进行智能故障诊断模型的训练和参数存储，并把训练好的智能故障诊断模型、运行环境和结果数据传输程序打包成模型镜像推送至边缘镜像仓库，并控制端边网络获取并执行所述模型镜像。

所述端边网络从相应终端采集数据并定时上传至云端，从所述云边网络获取所述模型镜像，将在云端训练好的智能故障诊断模型迁移到端边网络，在相应的边缘端构建并配置模型的执行文件；并根据智能故障诊断模型所需要的数据从各个终端获取相应数据，进行数据的处理，保存和传输；根据处理好的数据运行智能故障诊断模型和模型计算，并把结果反馈到对应的终端状态监测器。

故障诊断方法具体包括以下步骤：

(1)构建不同工况下旋转设备故障样本数据库，并划分训练集和测试集，将训练集作为源域，测试集作为目标域。

源域数据为其中第i个样本x_i属于特征空间/>即/>第i个样本x_i对应的样本标签y_i属于标签空间/>即/>n_s为源域样本数量；目标域数据为其中第j个样本x_j属于特征空间/>即/>n_t为目标域样本数量。

(2)使用稀疏自动编码器SAE作为特征生成器G_f，从源域和目标域中自动提取代表性特征，并引入KL散度来衡量源域和目标域之间的特征差异。

如图2所示，稀疏自编码SAE网络由编码网络和解码网络构成；其中，编码网络将输入数据X＝{x₁,x₂,...x_r,...x_n}压缩为隐含层表示H：

H＝f(W₁X+b₁)

其中，W₁为编码网络的权重矩阵，b₁为编码网络的偏置向量，f为激活函数。

然后，解码网络将隐含层表示H重构成与X相同维度的向量

其中，W₂为解码网络的权重矩阵，b₂为解码网络的偏置向量。

SAE的学习过程是最小化损失函数：

其中，θ表示要更新的参数，n为输入样本数量，β为控制稀疏惩罚项权重的超参数，s为隐藏层中神经元数量，KL表示Kullback-Leibler散度，ρ为稀疏性参数，为第j个隐藏单位的平均激活值。

SAE改进了传统自动编码器的性能，能够学习原始数据的有效特征，同时有效地进行降维。

(3)构建领域鉴别器D₀，如图3所示，将源域和目标域样本特征作为输入，领域鉴别器D₀与特征生成器G_f通过梯度反转层构成对抗域自适应模块，进行极大极小博弈，从而判别特征来自源域还是目标域；并引入谱范数正则化以缓解对抗训练过程的不稳定性。

D₀对抗训练过程的逻辑损失函数为：

其中，θ_f和θ₀为特征生成器和领域鉴别器D₀的参数，G_s和G_t分别为特征生成器G_f的源域和目标域表示，d_i'为领域标签，如果该特征来自源域，其值为1，否则为0，μ是正则化因子，σ表示谱范数，是领域鉴别器D₀的权重矩阵。

(4)使用softmax分类器作为标签预测器C_y，并用源域数据进行训练。

对于源域数据其中y_i∈{1,2,...,N_class}，N_class为标签数；利用softmax函数通过回归分析估计每个预测标签/>的概率/> 并以概率最高的类别作为样本的类别。

概率假设函数为：

其中，表示softmax模型参数。

采用交叉熵函数作为softmax回归的损失函数，定义为：

其中，θ_f和θ_y分别为特征生成器G_f和标签预测器C_y的参数，1{y_i＝k}是指示器函数，如果语句为真其值为1，否则为0。

(5)构建故障类别鉴别器D₁，包括一个标签预测器C；如图3所示，故障类别鉴别器D₁与特征生成器G_f通过梯度反转层构成类别级对抗域自适应模块，进行极大极小博弈，从而实现标签空间的对齐，并引入谱范数正则化以缓解对抗训练过程的不稳定性。

根据实际的故障标签和预测的故障标签，D₁对抗训练过程的逻辑损失函数为：

其中，θ_f和θ₁为特征生成器和故障类别鉴别器D₁的参数，fd_i'为样本的类别标签，为故障类别鉴别器D₁的权重矩阵。

(6)使用梯度下降算法SGD来优化特征生成器G_f、领域鉴别器D₀、故障类别鉴别器D₁和标签预测器C_y总的损失函数，即得到训练好的智能故障诊断模型。

总的优化目标函数如下：

其中，λ为控制对抗域自适应水平的权衡参数，优化的目标是找到一组最优参数使所有分类标签的损失最小化，同时最大化域标签的损失；优化目标写成：

随机梯度下降SGD算法被用来解决优化目标的问题，在训练过程中，参数更新规则如下：

其中，α为学习速率，-λ表示梯度反转。

(7)将训练好的智能故障诊断模型直接用于目标域特征的故障诊断，获得预测标签，并根据实际标签计算分类精度。

softmax分类器以目标域数据的分类精度Accuracy作为性能评价指标，其计算公式如下：

其中，为目标域数据集，y(x)为样本的实际标签，/>为分类器预测的标签。

为验证本系统所用故障诊断方法的有效性，将实验结果与三种不采用领域自适应的传统方法(BP,softmax,SAE)和三种采用领域自适应的方法(CORAL,MTLF,JDA)进行了比较。对比试验结果如图4所示，与传统方法和现有的几种自适应方法相比，领域级对齐和故障类别级对齐相结合能够更好地识别旋转设备的故障类型，提高诊断结果的准确性。

综上所述，本发明将数据存储、扩展和智能故障诊断模型的构建、训练，以及大量计算分配到云边网络；将数据采集，各终端实时故障诊断，以及终端设备状态监测分配到端边网络，实现了云边端的人工智能协同。该诊断方法融入了双层对抗域自适应思想，以在领域级和故障类别级上逐步对齐不同的域，以解决领域差异问题，实现更加全面的域自适应，并使分类器学习域不变表示特征；最后将在源域中训练好的分类器直接用于目标域的故障诊断，解决了变工况下旋转设备的数据领域差异问题，提高了旋转设备故障诊断精度。

Claims (8)

1.一种云边端协同的旋转部件对抗域自适应故障诊断方法，是通过云边端协同系统作为平台架构实现的，其特征在于：云边端协同系统包括云边网络和端边网络，所述云边网络双向通信连接所述端边网络；

所述云边网络包括云端服务器和边缘镜像仓库，所述云端服务器用于构建云端数据库和搭建系统运行环境，并在运行环境上进行智能故障诊断模型的训练和参数存储，并把训练好的智能故障诊断模型、运行环境和结果数据传输程序打包成模型镜像推送至边缘镜像仓库，并控制端边网络获取并执行所述模型镜像；

所述端边网络从相应终端采集数据并定时上传至云端，从所述云边网络获取所述模型镜像，将在云端训练好的智能故障诊断模型迁移到端边网络，在相应的边缘端构建并配置模型的执行文件；并根据智能故障诊断模型所需要的数据从各个终端获取相应数据，进行数据的处理，保存和传输；根据处理好的数据运行智能故障诊断模型和模型计算，并把结果反馈到对应的终端状态监测器；

故障诊断方法具体包括以下步骤：

(1)构建不同工况下旋转设备故障样本数据库，并划分训练集和测试集，将训练集作为源域，测试集作为目标域；

(2)使用稀疏自动编码器SAE作为特征生成器G_f，从源域和目标域中自动提取代表性特征，并引入KL散度来衡量源域和目标域之间的特征差异；

(3)构建领域鉴别器D₀，将源域和目标域样本特征作为输入，并判别特征来自于源域还是目标域，构造梯度反转层来实现特征生成器和领域鉴别器的对抗域自适应学习，并加入谱范数正则化来约束对抗训练过程；

(4)使用softmax分类器作为标签预测器C_y，并用源域数据进行训练；

(5)构建故障类别鉴别器D₁，包括一个标签预测器C，并构造梯度反转层来实现故障类别鉴别器和特征生成器的对抗域自适应学习，并加入谱范数正则化来约束对抗训练过程；

(6)使用梯度下降算法SGD来优化特征生成器G_f、领域鉴别器D₀、故障类别鉴别器D₁和标签预测器C_y总的损失函数，即得到训练好的智能故障诊断模型；

(7)将训练好的智能故障诊断模型直接用于目标域特征的故障诊断，获得预测标签，并根据实际标签计算分类精度。

2.根据权利要求1所述旋转部件双层对抗域自适应故障诊断方法，其特征在于，所述步骤(1)中，源域数据为其中第i个样本x_i属于特征空间/>即/>第i个样本x_i对应的样本标签y_i属于标签空间/>即/>n_s为源域样本数量；目标域数据为/>其中第j个样本x_j属于特征空间/>即/>n_t为目标域样本数量。

3.根据权利要求1所述旋转部件双层对抗域自适应故障诊断方法，其特征在于，所述步骤(2)中，稀疏自编码SAE网络由编码网络和解码网络构成；其中，编码网络将输入数据X＝{x₁,x₂,...x_r,...x_n}压缩为隐含层表示H：

H＝f(W₁X+b₁)

其中，W₁为编码网络的权重矩阵，b₁为编码网络的偏置向量，f为激活函数；

然后，解码网络将隐含层表示H重构成与X相同维度的向量

其中，W₂为解码网络的权重矩阵，b₂为解码网络的偏置向量；

SAE的学习过程是最小化损失函数：

其中，θ表示要更新的参数，n为输入样本数量，β为控制稀疏惩罚项权重的超参数，s为隐藏层中神经元数量，KL表示Kullback-Leibler散度，ρ为稀疏性参数，为第l个隐藏单位的平均激活值。

4.根据权利要求3所述旋转部件双层对抗域自适应故障诊断方法，其特征在于，所述步骤(3)中，领域鉴别器D₀与特征生成器G_f通过梯度反转层构成对抗域自适应模块，进行极大极小博弈，从而判别特征来自源域还是目标域；并引入谱范数正则化以缓解对抗训练过程的不稳定性；

D₀对抗训练过程的逻辑损失函数为：

其中，θ_f和θ₀分别为特征生成器和领域鉴别器D₀的参数，G_s和G_t分别为特征生成器G_f的源域和目标域表示，d_i'为领域标签，如果该特征来自源域，其值为1，否则为0，μ是正则化因子，σ表示谱范数，W_D0是领域鉴别器D₀的权重矩阵。

5.根据权利要求4所述旋转部件双层对抗域自适应故障诊断方法，其特征在于，所述步骤(4)中，对于源域数据其中y_i∈{1,2,...,N_class}，N_class为标签数；利用softmax函数通过回归分析估计每个预测标签/>的概率/>并以概率最高的类别作为样本的类别；

概率假设函数为：

其中，表示softmax模型参数；

采用交叉熵函数作为softmax回归的损失函数，定义为：

其中，θ_f和θ_y分别为特征生成器G_f和标签预测器C_y的参数，1{y_i＝k}是指示器函数，如果语句为真其值为1，否则为0。

6.根据权利要求5所述旋转部件双层对抗域自适应故障诊断方法，其特征在于，所述步骤(5)中，故障类别鉴别器D₁与特征生成器G_f通过梯度反转层构成类别级对抗域自适应模块，进行极大极小博弈，从而实现标签空间的对齐，并引入谱范数正则化以缓解对抗训练过程的不稳定性；

根据实际的故障标签和预测的故障标签，D₁对抗训练过程的逻辑损失函数为：

其中，θ_f和θ₁为特征生成器和故障类别鉴别器D₁的参数，fd_i'为样本的类别标签，为故障类别鉴别器D₁的权重矩阵。

7.根据权利要求6所述旋转部件双层对抗域自适应故障诊断方法，其特征在于，所述步骤(6)中，总的优化目标函数如下：

其中，λ为控制对抗域自适应水平的权衡参数，优化的目标是找到一组最优参数使所有分类标签的损失最小化，同时最大化域标签的损失；优化目标写成：

随机梯度下降SGD算法被用来解决优化目标的问题，在训练过程中，参数更新规则如下：

其中，α为学习速率，-λ表示梯度反转。

8.根据权利要求7所述旋转部件双层对抗域自适应故障诊断方法，其特征在于，所述步骤(7)中，softmax分类器以目标域数据的分类精度Accuracy作为性能评价指标，其计算公式如下：

其中，为目标域数据集，y(x)为样本的实际标签，/>为分类器预测的标签。