CN114169433A

CN114169433A - 一种基于联邦学习+图学习+cnn的工业故障预测方法

Info

Publication number: CN114169433A
Application number: CN202111485624.3A
Authority: CN
Inventors: 王玉乾; 张卫山; 陈雷鸣; 董次浩
Original assignee: China University of Petroleum East China
Current assignee: China University of Petroleum East China
Priority date: 2021-12-07
Filing date: 2021-12-07
Publication date: 2022-03-11

Abstract

本发明提出了一种基于联邦学习+图学习+CNN的工业故障预测方法，基于联邦学习框架和图结构生成的思想，结合卷积神经网络，设计了一种工业故障预测的神经网络FG‑CNN(Federate Learning+Graph Learning+Convolutional Neural Networks)。FG‑CNN首先基于了联邦学习的框架，在保证数据隐私安全以及合法合规的基础上，实现能够在业务相似的工厂之间共同建模，提升人工智能模型的效果。另外由于工厂间形成的高维时间序列数据是由不同传感器记录的，且不同传感器记录的数据之间总存在这一些微妙的联系，如何能够捕捉到这些传感器之间关系，并检测和解释这些关系的异常情况对于故障预测结果有着显著的影响。FG‑CNN能够在学习到各个特征之间关系的同时保护各个工厂的数据隐私并提高模型预测的准确率以及模型的泛化性。

Description

一种基于联邦学习+图学习+CNN的工业故障预测方法

技术领域

本发明涉及工业互联网领域、深度学习领域、具体涉及到一种基于联邦学习+图学习+CNN的工业故障预测方法。

背景技术

FG-CNN主要基于联邦学习和图结构生成的思想，通过联邦学习机制，达到在不泄露数据隐私的情况下提高训练模型的泛化性。同时在卷积神经网络的特征输入中结合图结构学习和数据融合，能够有效的将每一个特征与其他相关特征进行聚合表示，使得融合后的数据能够综合所有相关特征的信息，来提高模型预测的准确度。

发明内容

为解决现有技术中的缺点和不足，本发明提出了一种基于联邦学习+图学习+CNN的工业故障预测方法，对工业设备传感器间的关系进行学习。本发明的技术方案为：

一种基于联邦学习+图学习+CNN的工业故障预测方法，包括以下部分：特征聚类、图生成、数据融合。

(1)特征聚类是对每个特征的数据点进行K-Means聚类，输入的样本是该特征的所有数据点D＝{x₁，x₂，...x_n}，聚类的簇数是k，从特征数据中选择k个样本作为初始的k个质心向量：{u₁，u₂，...u_k}，然后计算特征中的每一个数据点x_i和各个质心向量u_j的距离：

并将x_i标记为最小的d_ij所对应的类别λ_i：

并对j＝1,2，……k，对Cj中所有的样本点重新计算新的质心：

直到k个质心向量都没有变化则输出簇划分C＝{C₁，C₂，...C_k}。

(2)图生成部分首先在每个特征聚类后的k个类别中进行分层抽样，即在k个类别中等比抽取部分样本，然后对各个特征抽取后的样本点向量按照标准化欧氏距离进行相似度度量，向量a(x₁₁,x₁₂,...，x_1n)和向量b(x₂₁,x₂₂,...，x_2n)之间的距离可按照如下计算：

其中s_k为向量X的标准差。筛选出与当前向量相似的前k个特征组成有向图。

(3)数据融合

定义融合函数为y(t)＝f(d₁(t)+d₂(t)+...d_n(t))，d_i(t)(i＝1,2...N)为传感器i在t时刻收集到的数据,可选择的融合函数有sum、average、max等。表达式如下：

sum：

average：

max：max{d₁(t),d₂(t)...d_n(t)}

本发明的有益效果：

(1)使用聚类算法对每一个特征间的数据进行处理，在保证保留原始特征数据信息的前提下，降低计算的空间复杂度。

(2)使用图结构思想来对多传感器间的关系进行学习，有效的捕捉到多个传感器之间的内在联系；

(3)利用学习到的图结构对各特征进行数据融合来作为神经网络的最终输入，因此输入的每一特征能够综合和本特征相关的其余特征的信息；

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明联邦学习部分的架构图；

图2为本发明的总体架构图；

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明的一种基于联邦学习+图学习+CNN的工业故障预测方法，在原有的CNN神经网络上，对特征间的关系进行学习，并结合学习到的关系对每一个特征进行聚合表示来作为CNN神经网络的输入。使得神经网络能够更好地结合每一个传感器间的隐藏关系。该方法共包含以下六个模块：信息嵌入模块、特征聚类模块、分层抽样模块、图生成模块、数据融合模块、联邦学习模块。

下面对联邦学习+图学习+CNN的工业故障预测方法的具体流程进行详细说明：

步骤(1)：对传感器采集到的数据进行数据清洗(如无效数据的去除、缺失数据的补齐等)；

步骤(2)：对清洗后的数据采用滑动窗口的形式每次错开指定长度进行数据增强处理；

步骤(3)：将处理好的数据进行嵌入，以获取各特征在更高维空间的表示，为之后的聚类操作做好铺垫；

步骤(4)：对各特征进行聚类，来确定每个特征中数据的大体类别，并在每个特征中进行分层抽样来获取每个特征中每个类别的代表数据，以方便之后特征间相似度的度量，来降低计算的空间及时间复杂度；

步骤(5)：利用标准化欧氏距离分别对每个特征抽样后的数据和其他特征抽样后的数据进行相似度的计算，对输入数据集的特征间的关系进行学习并抽象成有向图。随之对每个特征与其前k个有关联的其余特征进行数据融合，来得到该特征的聚合表示；

步骤(6)：将聚合表示的特征输入到本地的CNN网络中进行故障预测，并在联邦学习的框架下进行模型上传与下发，直至损失足够小或者达到指定迭代次数；

本发明的基于联邦学习+图学习+CNN的工业故障预测方法，结合图结构的特点，能够在高维度的数据中，学习到特征之间的相似度，结合联邦学习的思想，能够有效的在保护各个节点数据隐私的同时提高故障预测的准确率。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims

1.一种基于联邦学习+图学习+CNN的工业故障预测方法(FG-CNN)，在原有的CNN神经网络上，对特征间的关系进行学习，并结合学习到的关系对每一个特征进行聚合表示来作为CNN神经网络的输入。使得神经网络能够更好地结合每一个传感器间的隐藏关系。该方法共包含以下六个模块：信息嵌入模块、特征聚类模块、分层抽样模块、图生成模块、数据融合模块、联邦学习模块。

2.根据权利要求1所述的FG-CNN，其特征在于，所述的信息嵌入模块是指：将数据集的各个特征进行嵌入，来在更高维的特征空间中得到该数据集的表示。

3.根据权利要求1所述的FG-CNN，其特征在于，所述的特征聚类模块是指：对嵌入后的每个特征进行聚类，来确定每个特征中数据的大体类别。

4.根据权利要求1所述的FG-CNN，其特征在于，所述的分层抽样模块是指：在聚类后的每个特征中进行分层抽样来获取每个特征中每个类别的代表数据，以方便之后特征间相似度的度量，来降低计算的空间及时间复杂度。

5.根据权利要求1所述的FG-CNN，其特征在于，所述的图生成模块是指：利用标准化欧氏距离分别对每个特征抽样后的数据和其他特征抽样后的数据进行相似度的计算，对输入数据集的特征间的关系进行学习并抽象成有向图。

6.根据权利要求1所述的FG-CNN，其特征在于，所述的数据融合模块是指：对每个特征与其前k个有关联的其余特征进行数据融合，来得到该特征的聚合表示。

7.根据权利要求1所述的FG-CNN，其特征在于，所述的联邦学习模块是指：将聚合表示的特征输入到本地的CNN网络中进行故障预测，并在联邦学习的框架下进行模型更新，来提高该模型的泛化性。