CN113255977B - 基于工业互联网的智慧工厂生产设备故障预测方法及系统 - Google Patents

基于工业互联网的智慧工厂生产设备故障预测方法及系统 Download PDF

Info

Publication number
CN113255977B
CN113255977B CN202110523115.9A CN202110523115A CN113255977B CN 113255977 B CN113255977 B CN 113255977B CN 202110523115 A CN202110523115 A CN 202110523115A CN 113255977 B CN113255977 B CN 113255977B
Authority
CN
China
Prior art keywords
model
fgcnn
alarm information
fault
layer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110523115.9A
Other languages
English (en)
Other versions
CN113255977A (zh
Inventor
张天魁
贾珺
陈泽仁
陈晓东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangxi Xinbingrui Technology Co ltd
Beijing University of Posts and Telecommunications
Original Assignee
Jiangxi Xinbingrui Technology Co ltd
Beijing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangxi Xinbingrui Technology Co ltd, Beijing University of Posts and Telecommunications filed Critical Jiangxi Xinbingrui Technology Co ltd
Priority to CN202110523115.9A priority Critical patent/CN113255977B/zh
Publication of CN113255977A publication Critical patent/CN113255977A/zh
Application granted granted Critical
Publication of CN113255977B publication Critical patent/CN113255977B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/04—Manufacturing
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30—Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Tourism & Hospitality (AREA)
  • Primary Health Care (AREA)
  • Probability & Statistics with Applications (AREA)
  • Manufacturing & Machinery (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请涉及工业互联网技术领域，尤其涉及一种基于工业互联网的智慧工厂生产设备故障预测方法及系统，包括：从存储基于工业互联网的智慧工厂系统产生的告警信息的样本数据集中获得故障告警信息样本，将故障告警信息样本输入WGAN‑GP模型中，训练WGAN‑GP模型，生成故障告警信息样本比例平衡的数据集；将生成的故障告警信息样本比例平衡的数据集输入M‑FGCNN模型，以训练M‑FGCNN模型；将基于工业互联网的智慧工厂系统实时产生的告警信息样本输入至训练好的M‑FGCNN模型中，得到生产设备是否发生故障的预测结果；依据预测结果，进行故障工单的下达。本申请提高了基于工业互联网的智慧工厂生产设备故障预测的效率以及预测的精度，满足了生产设备故障预测高精度、低延时的要求。

Description

基于工业互联网的智慧工厂生产设备故障预测方法及系统
技术领域
本申请涉及工业互联网技术领域，尤其涉及一种基于工业互联网的智慧工厂生产设备故障预测方法及系统。
背景技术
智能制造是实现整个制造业价值链的智能化和创新，是信息化与工业化深度融合的进一步提升。智能制造融合了信息技术、先进制造技术、自动化技术和人工智能技术。智能制造包括开发智能产品；应用智能装备；自底向上建立智能产线，构建智能车间，打造智能工厂；践行智能研发；形成智能物流和供应链体系；开展智能管理；推进智能服务；最终实现智能决策。在智慧工厂建设中，信息技术得以应用的基础设施是工业互联网，工业互联网作为制造业与互联网深度融合的产物，已经成为新工业革命的关键支撑和智能制造的重要基石。
然而，在面向智慧工厂的工业互联网中，存在着海量传感器、生产设备、用户设备、边缘服务器、云服务器等多种类型网络实体，以及光纤网络、蜂窝网络、无线局域网等多种网络形式，因此，网络复杂度极高。而网络中任何设备发生故障都可能导致与之关联的设备一同产生告警，从而引发越来越多的告警数据，这样的情况使得工厂网管人员无法及时且准确地定位故障，为网络维护带来很大困难，尤其是生产设备告警，对告警处理的时效性要求极高，且需要具有一定的预测能力，避免设备故障导致生产线停机影响生产效率。
目前，工业互联网络管理可以借鉴传统通信网络管理方法，但是依然存在故障预测效率低以及故障预测精度低的问题。
因此，如何提高基于工业互联网的智慧工厂生产设备故障预测的效率以及预测的精度，以满足生产设备故障预测高精度、低延时的要求，是目前本领域技术人员需要解决的技术问题。
发明内容
本申请提供了一种基于工业互联网的智慧工厂生产设备故障预测方法及系统，以提高基于工业互联网的智慧工厂生产设备故障预测的效率以及预测的精度，满足生产设备故障预测高精度、低延时的要求。
为解决上述技术问题，本申请提供如下技术方案：
一种基于工业互联网的智慧工厂生产设备故障预测方法，包括如下步骤：从存储基于工业互联网的智慧工厂系统产生的告警信息的样本数据集中获得故障告警信息样本，将故障告警信息样本输入WGAN-GP模型中，训练WGAN-GP模型，生成故障告警信息样本比例平衡的数据集；将生成的故障告警信息样本比例平衡的数据集输入M-FGCNN模型，以训练M-FGCNN模型；将基于工业互联网的智慧工厂系统实时产生的告警信息样本输入至训练好的M-FGCNN模型中，得到生产设备是否发生故障的预测结果；依据预测结果，进行故障工单的下达。
如上所述的基于工业互联网的智慧工厂生产设备故障预测方法，还包括如下步骤：产生的告警信息积累至预定数量时，将积累的告警信息存储至样本数据集中，以更新样本数据集；响应于样本数据集的更新，依据样本数据集中更新的告警信息对WGAN-GP模型和M-FGCNN模型继续进行训练。
如上所述的基于工业互联网的智慧工厂生产设备故障预测方法，其中，优选的，WGAN-GP模型包括：鉴别器D和生成器G，鉴别器D采用四层全连接网络，每层网络之间使用泄露修正线性单元作为激活函数，在鉴别器D的输出层使用sigmoid函数单元通过sigmoid函数对输出变量进行二分类；生成器G采用三层全连接网络，每层网络之间使用泄露修正线性单元作为激活函数，在生成器G的输出层使用softmax函数单元通过softmax函数进行分类变量，并将所有输入特征的输出层进行拼接作为生成器G的最终输出。
如上所述的基于工业互联网的智慧工厂生产设备故障预测方法，其中，优选的是，M-FGCNN模型的基本结构为Wide&Deep模型，其中FM模型为Wide&Deep模型Wide侧的结构，而FGCNN模型为Wide&Deep模型Deep侧的结构。
如上所述的基于工业互联网的智慧工厂生产设备故障预测方法，其中，优选的是，在FGCNN模型的嵌入层中增加告警信息记忆向量，其中告警信息记忆向量为FGCNN模型前一轮输出的向量的高阶抽象表示。
一种基于工业互联网的智慧工厂生产设备故障预测系统，包括：告警信息采集设备、存储器、训练模块、预测模块和下达模块；告警信息采集设备采集基于工业互联网的智慧工厂系统产生的告警信息，并存储至存储器中的样本数据集中；训练模块从存储器的样本数据集中获得故障告警信息样本，将故障告警信息样本输入WGAN-GP模型中，训练WGAN-GP模型，生成故障告警信息样本比例平衡的数据集；训练模块将生成的故障告警信息样本比例平衡的数据集输入M-FGCNN模型，以训练M-FGCNN模型形成预测模块；将基于工业互联网的智慧工厂系统实时产生的告警信息样本输入至预测模块中，得到生产设备是否发生故障的预测结果；下达模块依据预测结果，进行故障工单的下达。
如上所述的基于工业互联网的智慧工厂生产设备故障预测系统，其中，优选的是，产生的告警信息积累至预定数量时，将积累的告警信息存储至存储器的样本数据集中，以更新样本数据集；响应于样本数据集的更新，训练模块依据样本数据集中更新的告警信息对WGAN-GP模型和M-FGCNN模型继续进行训练。
如上所述的基于工业互联网的智慧工厂生产设备故障预测系统，其中，优选的是，WGAN-GP模型包括：鉴别器D和生成器G，鉴别器D采用四层全连接网络，每层网络之间使用泄露修正线性单元作为激活函数，在鉴别器D的输出层使用sigmoid函数单元通过sigmoid函数对输出变量进行二分类；生成器G采用三层全连接网络，每层网络之间使用泄露修正线性单元作为激活函数，在生成器G的输出层使用softmax函数单元通过softmax函数进行分类变量，并将所有输入特征的输出层进行拼接作为生成器G的最终输出。
如上所述的基于工业互联网的智慧工厂生产设备故障预测系统，其中，优选的是，M-FGCNN模型的基本结构为Wide&Deep模型，其中FM模型为Wide&Deep模型Wide侧的结构，而FGCNN模型为Wide&Deep模型Deep侧的结构。
如上所述的基于工业互联网的智慧工厂生产设备故障预测系统，其中，优选的是，在FGCNN模型的嵌入层中增加告警信息记忆向量，其中告警信息记忆向量为FGCNN模型前一轮输出的向量的高阶抽象表示。
相对上述背景技术，本发明所提供的基于工业互联网的智慧工厂生产设备故障预测方法及系统，提高了基于工业互联网的智慧工厂生产设备故障预测的效率以及预测的精度，以满足生产设备故障预测高精度、低延时的要求。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明中记载的一些实施例，对于本领域普通技术人员来讲，还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的基于工业互联网的智慧工厂生产设备故障预测方法的流程图；
图2是本申请实施例提供的WGAN-GP模型的结构示意图；
图3是本申请实施例提供的M-FGCNN模型的结构示意图；
图4是本申请实施例提供的基于工业互联网的智慧工厂生产设备故障预测系统的示意图。
具体实施方式
下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，仅用于解释本申请，而不能解释为对本申请的限制。
实施例一
如图1所示，本申请提供了一种基于工业互联网的智慧工厂生产设备故障预测方法，包括如下步骤：
步骤S110、从存储基于工业互联网的智慧工厂系统产生的告警信息的样本数据集中获得故障告警信息样本，将故障告警信息样本输入WGAN-GP模型中，训练WGAN-GP模型，生成故障告警信息样本比例平衡的数据集；
通常，基于工业互联网的智慧工厂系统存在大量告警信息(例如：通过转速传感器监测而产生的转轴转速超过阈值的告警信息、通过温度传感器监测而产生的生产设备温度超过阈值的告警信息等)，但是其中反映基于工业互联网的智慧工厂系统发生故障的故障告警信息却非常少(例如：引起生产设备温度超过阈值的因素有环境温度超过阈值、发动机温度超过阈值、冷却液温度超过阈值等，但是其中反映生产设备可能发生故障的告警信息可能只有发动机温度超过阈值)，即正负样本比例非常悬殊，存在着样本不平衡问题(其中告警信息中少数类的故障告警信息为正样本，而告警信息中多数类的其余信息为负样本)。通过不平衡的样本训练得到的故障预测模型将倾向于将后续用于预测的数据判断为多数类样本，即负样本。如果将通过不平衡的样本训练得到的故障预测模型部署在智慧工厂的线上环境，将无法判断生产设备发生故障的情况。
由于基于工业互联网的智慧工厂系统产生的告警信息中包含较少的体现生产设备发生故障的故障告警信息，所以告警信息中正负样本比例非常悬殊。因此，本申请中将基于工业互联网的智慧工厂产生的告警信息存储至样本数据集中，待训练故障预测模型(M-FGCNN模型)前，先从存储告警信息的样本数据集中的获得能够引起生产设备故障的故障告警信息样本，从大量的告警信息中提取少数类故障告警信息需要依据经验值(专家经验)，然后将故障告警信息样本输入WGAN-GP模型(Wasserstein Generative AdversarialNetworks-Gradient Penalty，基于Wasserstein距离的梯度惩罚生成对抗网络)中，使用WGAN-GP模型学习告警信息中少数的故障告警信息样本的分布，从而训练WGAN-GP模型，生成故障告警信息样本比例平衡的数据集，以作为后续故障预测模型的输入，进而解决了基于工业互联网的智慧工厂系统产生的告警信息中存在样本不均衡的问题。
由于WGAN-GP模型使用了Wasserstein距离(Wasserstein距离又叫Earth-Mover距离，即EM距离，用于衡量两个分布之间的距离)，从而使得梯度下降平缓，可以提供有意义的梯度来度量正样本(告警信息中的故障告警信息)和负样本(告警信息中的其余信息)之间分布的差异，进而可以学习告警信息中少数故障告警信息样本的分布。
具体的，如图2所示，WGAN-GP模型包括：鉴别器D和生成器G。其中，鉴别器D采用四层全连接网络，每层网络之间使用泄露修正线性单元(Leaky Rectified Linear Unit,LeakyReLU)作为激活函数，以避免训练WGAN-GP模型过程中梯度的消失，其中leakyRelu是深度学习中常用的激活函数。具体的，第一层网络FC1的输入端作为鉴别器D的输入，第一层网络FC1的输出端与第二层网络FC2的输入端之间连接有第一泄露修正线性单元LeakyReLU1，第二层网络FC2的输出端与第三层网络FC3的输入端之间连接有第二泄露修正线性单元LeakyReLU2，第三层网络FC3的输出端与第四层网络FC4的输入端之间连接有第三泄露修正线性单元LeakyReLU3，第四层网络FC4的输出端与第四泄露修正线性单元LeakyReLU4连接。另外，由于sigmoid函数具有单增的性质以及其反函数具有单增的性质，因此在鉴别器D的输出层使用sigmoid函数单元通过sigmoid函数对输出变量进行二分类，以将输出变量映射到0,1之间。具体的，第四泄露修正线性单元LeakyReLU4还与sigmoid函数单元的输入端连接，sigmoid函数单元的输出端作为鉴别器D的输出。其中，鉴别器D的损失函数LD表示为：
Figure BDA0003064740320000061
Pr为故障告警信息样本x的分布；Pg为生成器G生成的假故障告警信息样本/>
Figure BDA0003064740320000062
的分布；/>
Figure BDA0003064740320000063
为输入生成器G的随机样本/>
Figure BDA0003064740320000064
的分布，在初始情况时，随机样本/>
Figure BDA0003064740320000065
为随机产生的数据样本，在后续迭代过程中，随机样本/>
Figure BDA0003064740320000066
为依据鉴别器D输出的鉴别结果而产生的数据样本；λ为梯度惩罚项的系数，D(·)为鉴别器D对输入的故障告警信息样本x和假故障告警信息样本/>
Figure BDA0003064740320000071
的鉴别结果，/>
Figure BDA0003064740320000072
为对分布为Pg的生成器G生成的假故障告警信息样本/>
Figure BDA0003064740320000073
的/>
Figure BDA0003064740320000074
求数学期望，/>
Figure BDA0003064740320000075
为对分布为Pr的故障告警信息样本x的D(x)求数学期望，/>
Figure BDA0003064740320000076
为对分布为/>
Figure BDA0003064740320000077
的输入生成器G的随机样本/>
Figure BDA0003064740320000078
的/>
Figure BDA00030647403200000720
求数学期望，‖.‖2为2范数运算，/>
Figure BDA0003064740320000079
为生成器G生成的随机样本/>
Figure BDA00030647403200000710
的梯度。
生成器G采用三层全连接网络，每层网络之间使用泄露修正线性单元(LeakyRectified Linear Unit,LeakyReLU)作为激活函数。具体的，第五层网络FC5的输入端作为生成器G的输入，第五层网络FC5的输出端与第六层网络FC6的输入端之间连接有第五泄露修正线性单元LeakyReLU5，第六层网络FC6的输出端与第七层网络FC7的输入端之间连接有第六泄露修正线性单元LeakyReLU6，第七层网络FC7的输出端与第七泄露修正线性单元LeakyReLU7连接。另外，由于输入生成器G随机样本
Figure BDA00030647403200000711
通常具有离散性，因此在生成器G的输出层使用softmax函数单元通过softmax函数进行分类变量，并将所有输入特征的输出层进行拼接作为生成器G的最终输出。具体的，第七泄露修正线性单元LeakyReLU7还与softmax函数单元的输入端连接，softmax函数单元的输出端作为生成器G的输出。其中，生成器G的损失函数LG表示为：/>
Figure BDA00030647403200000712
Pg为生成器G生成的假故障告警信息样本/>
Figure BDA00030647403200000713
的分布，D(·)为鉴别器D对输入的故障告警信息样本x和假故障告警信息样本/>
Figure BDA00030647403200000722
的鉴别结果，
Figure BDA00030647403200000714
为对分布为Pg的生成器G生成的假故障告警信息样本/>
Figure BDA00030647403200000715
的/>
Figure BDA00030647403200000716
求数学期望。
具体的，首先生成随机随机样本
Figure BDA00030647403200000721
将生成随机样本/>
Figure BDA00030647403200000717
输入至生成器G中，从生成器G中输出假故障告警信息样本/>
Figure BDA00030647403200000718
并且从样本数据集中存储的告警信息中获得故障告警信息样本x，将假故障告警信息样本/>
Figure BDA00030647403200000719
和故障告警信息样本x输入至鉴别器D中，从鉴别器D中输出鉴别结果，然后根据设定的迭代次数继续以这种模式反复多次训练鉴别器和生成器(WGAN-GP模型)，直到训练过程结束，从鉴别器D中输出故障告警信息样本比例平衡的数据集。
步骤S120、将生成的故障告警信息样本比例平衡的数据集输入M-FGCNN模型，以训练M-FGCNN模型；
M-FGCNN模型是基于记忆的特征生成卷积神经网络(Memory based FeatureGeneration by Convolutional Neural Network)。具体的，如图3所示，M-FGCNN模型的基本结构为Wide&Deep模型，其中FM模型为Wide&Deep模型Wide侧的结构，而FGCNN模型为Wide&Deep模型Deep侧的结构。
其中，FM模型为因子分解机(Factorization Machine)，是一种基于矩阵分解的机器学习算法。在训练FM模型时，由于将依据经验值(专家经验)生成的故障告警信息样本比例平衡的数据集输入至FM模型中是从众多的告警信息中提取出来的，，对FM模型进行训练后，因此使得训练好的FM模型结合了经验值(例如：告警类型、告警重要性、告警源等)。
具体的，将故障告警信息样本比例平衡的数据集中的故障告警信息x′作为输入，输入至FM模型中进行训练，训练得到FM模型
Figure BDA0003064740320000081
Figure BDA0003064740320000082
其中，f为FM模型的输出，si(x′)为输入FM模型的故障告警信息x′的第i个数据特征，wi为故障告警信息x′的第i个数据特征对应的权重，w0为偏置量，sj(x′)为输入FM模型的故障告警信息x′的第i+1个数据特征，wij为故障告警信息x′的第i个数据特征si(x′)和第j个数据特征sj(x′)进行组合时的权重，h为故障告警信息x′的数据特征个数。这里在FM模型的训练阶段，FM模型的输入为故障告警信息样本比例平衡的数据集中的故障告警信息，FM模型的输出为故障告警信息的数据特征组合关系与权重；而训练好后FM模型后，在通过训练好的FM模型进行故障结果预测阶段，FM模型的输入为实时产生的告警信息。
通过反映了经验值的故障告警信息样本比例平衡的数据集训练FM模型，对与故障告警信息包含的特征进行交互，训练好的FM模型中的故障告警信息对应的权重wi以及wij则更好的反映了经验值(专家经验)。另外，FGCNN模型为特征生成卷积神经网络(FeatureGeneration by Convolutional Neural Network)。由于FGCNN模型利用了CNN在特征抽取方面的优势，生成有效的局部特征，并通过全连接层对该特征进行重组，生成全局的新特征，然后将其与原始特征一同输入深度神经网络部分，以获得特征的高阶表示，完成分类任务，因此将其作为Wide&Deep模型Deep侧的结构，从而可以使模型具有很好的表达能力。
在上述基础上，由于基于工业互联网的智慧工厂系统产生的告警信息存在时序性，因此在FGCNN模型的嵌入层中增加告警信息记忆向量，告警信息记忆向量为FGCNN模型前一轮输出的向量的高阶抽象表示，从而使得FGCNN模型具有记忆性，并且FGCNN模型的整体训练难度小，模型部署于基于工业互联网的智慧工厂系统的线上环境时其预测速度也较快。
FGCNN模型的第i个输入表示为xi，其嵌入层的嵌入向量表示为ei，FGCNN模型的嵌入层的嵌入矩阵由n个输入的嵌入向量拼接而成，表示为E＝[e1，e2，…，en]，e1为第1个输入的嵌入层的嵌入向量，e2为第2个输入的嵌入层的嵌入向量，en为第n个输入的嵌入层的嵌入向量。向FGCNN模型的嵌入层中增加告警信息记忆向量m后，嵌入矩阵表示为E′＝[e1，e2，…，en，m]。与原始嵌入矩阵E相比，E′不仅包含了当前输入的告警信息，还可以通过告警信息记忆向量包含之前的输入的告警信息。
具体的，将故障告警信息样本比例平衡的数据集具有的n个故障告警信息作为n个输入，输入至FGCNN模型中进行训练，训练得到至FGCNN模型的zK＝ReLU(WKzK-1+bK)的第K层的权重矩阵WK。其中，zK为嵌入矩阵将通过一系列隐藏层进行学习，以获得高阶非线性的特征交互，在通过FGCNN模型的最后一个全连接层后，得到FGCNN模型第K层的输出；K表示FGCNN模型的当前层数；zK-1表示FGCNN模型第K-1层的输出；bK表示FGCNN模型第K层的偏置向量；ReLU(·)表示使用修正线性单元(Rectified Linear Unit，ReLU)作为激活函数。
为了在FGCNN模型的训练中引入记忆性，FGCNN模型的损失函数L定义为L＝Lo+αLm，其中α为可调的超参数，Lo为交叉熵损失函数，Lm为记忆损失函数，表示告警信息记忆向量m和FGCNN模型输出zK之间的距离。
其中，
Figure BDA0003064740320000101
其中y∈{0,1}为FGCNN模型依据/>
Figure BDA0003064740320000102
输出的样本的标签(例如：输出0表示不发生故障，输出1则表示发生故障)，/>
Figure BDA0003064740320000103
表示FGCNN模型的故障概率预测结果，也就是预测输入样本为正样本(故障告警信息)的概率值，其中，∑x()表示对所有样本x做求和运算，n为FGCNN模型的输入个数。
Figure BDA0003064740320000104
其中，∑x()表示对所有样本x做求和运算，n为FGCNN模型的输入个数。由此，就可以通过最小化损失函数Lm使告警信息记忆向量获得输出的最高级别抽象表示，从而在不断的训练过程中使模型具备记忆性。另外，通过反映了经验值的故障告警信息样本比例平衡的数据集训练FGCNN模型，训练好的FGCNN模型也反映了专家经验值。
这里在FGCNN模型的训练阶段，FGCNN模型的输入为故障告警信息样本比例平衡的数据集具有的n个故障告警信息，FGCNN模型的输出为故障告警的训练结果；而训练好后FGCNN模型后，在通过训练好的FGCNN模型进行故障结果预测阶段，FGCNN模型的输入为实时产生的告警信息样本具有的n个告警信息。
步骤S130、将基于工业互联网的智慧工厂系统实时产生的告警信息样本输入至训练好的M-FGCNN模型中，得到生产设备是否发生故障的预测结果；
待训练好M-FGCNN模型后，将M-FGCNN模型部署于基于工业互联网的智慧工厂系统的线上环境，实时监测基于工业互联网的智慧工厂系统产生的告警信息样本，将告警信息样本输入至训练好的M-FGCNN模型中，从而从训练好的M-FGCNN模型的输出生产设备是否发生故障的预测结果。由于训练好的M-FGCNN模型反映了经验值，因此训练好的M-FGCNN模型可以从众多的告警信息中提取故障告警信息进行是否发生故障的预测。
具体的，将告警信息样本输入至训练好的FM模型和FGCNN模型，分别得到输出，将FM模型和FGCNN模型得到的输出进行合并，从而形成生产设备是否发生故障的预测结果。
并且，基于工业互联网的智慧工厂产生的告警信息积累至预定数量时，将积累的告警信息存储至样本数据集中，以更新样本数据集，响应于样本数据集的更新，依据样本数据集中更新的告警信息对WGAN-GP模型和M-FGCNN模型继续进行训练，从而使得M-FGCNN模型能够不断适应复杂生产环境下基于工业互联网的生产设备故障预测，保证高效安全的设备运行。
步骤S140、依据预测结果，进行故障工单的下达；
从M-FGCNN模型输出生产设备是否发生故障的预测结果后，基于工业互联网的智慧工厂生产设备故障预测装置依据预测结果以及生产设备的实际运行情况、经验数据等下达故障工单，或者运营人员依据预测结果以及生产设备的实际运行情况、经验数据等下达故障工单，然后根据故障工单对生产设备进行停止、维修。
实施例二
如图4所示，本申请提供了一种基于工业互联网的智慧工厂生产设备故障预测系统400，包括：告警信息采集设备410、存储器420、训练模块430、预测模块440和下达模块450。
告警信息采集设备410采集基于工业互联网的智慧工厂系统产生的告警信息，并存储至存储器420中的样本数据集中。
基于工业互联网的智慧工厂系统会产生大量告警信息(例如：通过转速传感器监测而产生的转轴转速超过阈值的告警信息、通过温度传感器监测而产生的生产设备温度超过阈值的告警信息等)，通过告警信息采集设备410(转速传感器、温度传感器等)采集告警信息，并将告警信息存储至存储器420中的样本数据集中。
训练模块430从本数据集中获得故障告警信息样本，将故障告警信息样本输入WGAN-GP模型中，训练WGAN-GP模型，生成故障告警信息样本比例平衡的数据集。
样本数据集中反映基于工业互联网的智慧工厂系统发生故障的故障告警信息却非常少(例如：引起生产设备温度超过阈值的因素有环境温度超过阈值、发动机温度超过阈值、冷却液温度超过阈值等，但是其中反映生产设备可能发生故障的告警信息可能只有发动机温度超过阈值)，即正负样本比例非常悬殊，存在着样本不平衡问题(其中告警信息中少数类的故障告警信息为正样本，而告警信息中多数类的其余信息为负样本)。通过不平衡的样本训练得到的故障预测模型将倾向于将后续用于预测的数据判断为多数类样本，即负样本。如果将通过不平衡的样本训练得到的故障预测模型部署在智慧工厂的线上环境，将无法判断生产设备发生故障的情况。
由于基于工业互联网的智慧工厂系统产生的告警信息中包含较少的体现生产设备发生故障的故障告警信息，所以告警信息中正负样本比例非常悬殊。因此，本申请中将基于工业互联网的智慧工厂产生的告警信息存储至样本数据集中，待训练故障预测模型(M-FGCNN模型)前，训练模块430先从存储告警信息的样本数据集中的获得能够引起生产设备故障的故障告警信息样本，从大量的告警信息中提取少数类故障告警信息需要依据经验值(专家经验)，然后将故障告警信息样本输入WGAN-GP模型(Wasserstein GenerativeAdversarial Networks-Gradient Penalty，基于Wasserstein距离的梯度惩罚生成对抗网络)中，使用WGAN-GP模型学习告警信息中少数的故障告警信息样本的分布，从而训练WGAN-GP模型，生成故障告警信息样本比例平衡的数据集，以作为后续故障预测模型的输入，进而解决了基于工业互联网的智慧工厂系统产生的告警信息中存在样本不均衡的问题。
由于WGAN-GP模型使用了Wasserstein距离(Wasserstein距离又叫Earth-Mover距离，即EM距离，用于衡量两个分布之间的距离)，从而使得梯度下降平缓，可以提供有意义的梯度来度量正样本(告警信息中的故障告警信息)和负样本(告警信息中的其余信息)之间分布的差异，进而可以学习告警信息中少数故障告警信息样本的分布。
具体的，如图2所示，WGAN-GP模型包括：鉴别器D和生成器G。其中，鉴别器D采用四层全连接网络，每层网络之间使用泄露修正线性单元(Leaky Rectified Linear Unit,LeakyReLU)作为激活函数，以避免训练WGAN-GP模型过程中梯度的消失，其中leakyRelu是深度学习中常用的激活函数。具体的，第一层网络FC1的输入端作为鉴别器D的输入，第一层网络FC1的输出端与第二层网络FC2的输入端之间连接有第一泄露修正线性单元LeakyReLU1，第二层网络FC2的输出端与第三层网络FC3的输入端之间连接有第二泄露修正线性单元LeakyReLU2，第三层网络FC3的输出端与第四层网络FC4的输入端之间连接有第三泄露修正线性单元LeakyReLU3，第四层网络FC4的输出端与第四泄露修正线性单元LeakyReLU4连接。另外，由于sigmoid函数具有单增的性质以及其反函数具有单增的性质，因此在鉴别器D的输出层使用sigmoid函数单元通过sigmoid函数对输出变量进行二分类，以将输出变量映射到0,1之间。具体的，第四泄露修正线性单元LeakyReLU4还与sigmoid函数单元的输入端连接，sigmoid函数单元的输出端作为鉴别器D的输出。其中，鉴别器D的损失函数LD表示为：
Figure BDA0003064740320000131
Pr为故障告警信息样本x的分布；Pg为生成器G生成的假故障告警信息样本/>
Figure BDA0003064740320000132
的分布；/>
Figure BDA0003064740320000133
为输入生成器G的随机样本/>
Figure BDA0003064740320000134
的分布，在初始情况时，随机样本/>
Figure BDA0003064740320000135
为随机产生的数据样本，在后续迭代过程中，随机样本/>
Figure BDA0003064740320000136
为依据鉴别器D输出的鉴别结果而产生的数据样本；λ为梯度惩罚项的系数，D(·)为鉴别器D对输入的故障告警信息样本x和假故障告警信息样本/>
Figure BDA0003064740320000137
的鉴别结果，/>
Figure BDA0003064740320000138
为对分布为Pg的生成器G生成的假故障告警信息样本/>
Figure BDA0003064740320000139
的/>
Figure BDA00030647403200001310
求数学期望，/>
Figure BDA00030647403200001311
为对分布为Pr的故障告警信息样本x的D(x)求数学期望，/>
Figure BDA00030647403200001312
为对分布为/>
Figure BDA00030647403200001313
的输入生成器G的随机样本/>
Figure BDA00030647403200001314
的/>
Figure BDA00030647403200001317
求数学期望，‖.‖2为2范数运算，/>
Figure BDA00030647403200001315
为生成器G生成的随机样本/>
Figure BDA00030647403200001316
的梯度。
生成器G采用三层全连接网络，每层网络之间使用泄露修正线性单元(LeakyRectified Linear Unit,LeakyReLU)作为激活函数。具体的，第五层网络FC5的输入端作为生成器G的输入，第五层网络FC5的输出端与第六层网络FC6的输入端之间连接有第五泄露修正线性单元LeakyReLU5，第六层网络FC6的输出端与第七层网络FC7的输入端之间连接有第六泄露修正线性单元LeakyReLU6，第七层网络FC7的输出端与第七泄露修正线性单元LeakyReLU7连接。另外，由于输入生成器G随机样本
Figure BDA0003064740320000141
通常具有离散性，因此在生成器G的输出层使用softmax函数单元通过softmax函数进行分类变量，并将所有输入特征的输出层进行拼接作为生成器G的最终输出。具体的，第七泄露修正线性单元LeakyReLU7还与softmax函数单元的输入端连接，softmax函数单元的输出端作为生成器G的输出。其中，生成器G的损失函数LG表示为：/>
Figure BDA0003064740320000142
Pg为生成器G生成的假故障告警信息样本/>
Figure BDA00030647403200001410
的分布，D(·)为鉴别器D对输入的故障告警信息样本x和假故障告警信息样本/>
Figure BDA0003064740320000143
的鉴别结果，/>
Figure BDA0003064740320000144
为对分布为Pg的生成器G生成的假故障告警信息样本/>
Figure BDA0003064740320000145
的/>
Figure BDA0003064740320000146
求数学期望。
具体的，首先生成随机随机样本
Figure BDA0003064740320000147
将生成随机样本/>
Figure BDA0003064740320000148
输入至生成器G中，从生成器G中输出假故障告警信息样本/>
Figure BDA0003064740320000149
并且从样本数据集中存储的告警信息中获得故障告警信息样本x，将假故障告警信息样本/>
Figure BDA00030647403200001411
和故障告警信息样本x输入至鉴别器D中，从鉴别器D中输出鉴别结果，然后根据设定的迭代次数继续以这种模式反复多次训练鉴别器和生成器(WGAN-GP模型)，直到训练过程结束，从鉴别器D中输出故障告警信息样本比例平衡的数据集。
训练模块430将生成的故障告警信息样本比例平衡的数据集输入M-FGCNN模型，以训练M-FGCNN模型形成预测模块440。
M-FGCNN模型是基于记忆的特征生成卷积神经网络(Memory based FeatureGeneration by Convolutional Neural Network)。具体的，如图3所示，M-FGCNN模型的基本结构为Wide&Deep模型，其中FM模型为Wide&Deep模型Wide侧的结构，而FGCNN模型为Wide&Deep模型Deep侧的结构。基于此，训练M-FGCNN模型形成预测模块440包括对FM模型的训练和对FGCNN模型的训练。
其中，FM模型为因子分解机(Factorization Machine)，是一种基于矩阵分解的机器学习算法。在训练FM模型时，由于将依据经验值(专家经验)生成的故障告警信息样本比例平衡的数据集输入至FM模型中，对FM模型进行训练后，因此使得训练好的FM模型结合了经验值(例如：告警类型、告警重要性、告警源等)。
具体的，将故障告警信息样本比例平衡的数据集中的故障告警信息x′作为输入，输入至FM模型中进行训练，训练得到FM模型
Figure BDA0003064740320000151
Figure BDA0003064740320000152
其中，f为FM模型的输出，si(x′)为输入FM模型的故障告警信息x′的第i个数据特征，wi为故障告警信息x′的第i个数据特征对应的权重，w0为偏置量，sj(x′)为输入FM模型的故障告警信息x′的第i+1个数据特征，wij为故障告警信息x′的第i个数据特征si(x′)和第j个数据特征sj(x′)进行组合时的权重，h为故障告警信息x′的数据特征个数。这里在FM模型的训练阶段，FM模型的输入为故障告警信息样本比例平衡的数据集中的故障告警信息，FM模型的输出为故障告警信息的数据特征组合关系与权重；而训练好后FM模型后，在通过训练好的FM模型进行故障结果预测阶段，FM模型的输入为实时产生的告警信息。
通过反映了经验值的故障告警信息样本比例平衡的数据集训练FM模型，对与故障告警信息包含的特征进行交互，训练好的FM模型中的故障告警信息对应的权重wi以及wij则更好的反映了经验值(专家经验)。另外，FGCNN模型为特征生成卷积神经网络(FeatureGeneration by Convolutional Neural Network)。由于FGCNN模型利用了CNN在特征抽取方面的优势，生成有效的局部特征，并通过全连接层对该特征进行重组，生成全局的新特征，然后将其与原始特征一同输入深度神经网络部分，以获得特征的高阶表示，完成分类任务，因此将其作为Wide&Deep模型Deep侧的结构，从而可以使模型具有很好的表达能力。
在上述基础上，由于基于工业互联网的智慧工厂系统产生的告警信息存在时序性，因此在FGCNN模型的嵌入层中增加告警信息记忆向量，告警信息记忆向量为FGCNN模型前一轮输出的向量的高阶抽象表示，从而使得FGCNN模型具有记忆性，并且FGCNN模型的整体训练难度小，模型部署于基于工业互联网的智慧工厂系统的线上环境时其预测速度也较快。
FGCNN模型的第i个输入表示为xi，其嵌入层的嵌入向量表示为ei，FGCNN模型的嵌入层的嵌入矩阵由n个输入的嵌入向量拼接而成，表示为E＝[e1，e2，…，en]，e1为第1个输入的嵌入层的嵌入向量，e2为第2个输入的嵌入层的嵌入向量，en为第n个输入的嵌入层的嵌入向量。向FGCNN模型的嵌入层中增加告警信息记忆向量m后，嵌入矩阵表示为E′＝[e1，e2，…，en，m]。与原始嵌入矩阵E相比，E′不仅包含了当前输入的告警信息，还可以通过告警信息记忆向量包含之前的输入的告警信息。
具体的，将故障告警信息样本比例平衡的数据集具有的n个故障告警信息作为n个输入，输入至FGCNN模型中进行训练，训练得到至FGCNN模型的zK＝ReLU(WKzK-1+bK)的第K层的权重矩阵WK。其中，zK为嵌入矩阵将通过一系列隐藏层进行学习，以获得高阶非线性的特征交互，在通过FGCNN模型的最后一个全连接层后，得到FGCNN模型第K层的输出；K表示FGCNN模型的当前层数；zK-1表示FGCNN模型第K-1层的输出；bK表示FGCNN模型第K层的偏置向量；ReLU(·)表示使用修正线性单元(Rectified Linear Unit，ReLU)作为激活函数。
为了在FGCNN模型的训练中引入记忆性，FGCNN模型的损失函数L定义为L＝Lo+αLm，其中α为可调的超参数，Lo为交叉熵损失函数，Lm为记忆损失函数，表示告警信息记忆向量m和FGCNN模型输出zK之间的距离。
其中，
Figure BDA0003064740320000161
其中y∈{0,1}为FGCNN模型依据/>
Figure BDA0003064740320000162
输出的样本的标签(例如：输出0表示不发生故障，输出1则表示发生故障)，/>
Figure BDA0003064740320000163
表示FGCNN模型的故障概率预测结果，也就是预测输入样本为正样本(故障告警信息)的概率值，其中，∑x()表示对所有样本x做求和运算，n为FGCNN模型的输入个数。
Figure BDA0003064740320000164
其中，∑x()表示对所有样本x做求和运算，n为FGCNN模型的输入个数。由此，就可以通过最小化损失函数Lm使告警信息记忆向量获得输出的最高级别抽象表示，从而在不断的训练过程中使模型具备记忆性。另外，通过反映了经验值的故障告警信息样本比例平衡的数据集训练FGCNN模型，训练好的FGCNN模型也反映了专家经验值。
这里在FGCNN模型的训练阶段，FGCNN模型的输入为故障告警信息样本比例平衡的数据集具有的n个故障告警信息，FGCNN模型的输出为故障告警的训练结果；而训练好后FGCNN模型后，在通过训练好的FGCNN模型进行故障结果预测阶段，FGCNN模型的输入为实时产生的告警信息样本具有的n个告警信息。
将基于工业互联网的智慧工厂系统实时产生的告警信息样本输入至预测模块440中，得到生产设备是否发生故障的预测结果。
待训练好M-FGCNN模型后，形成预测模块440，将预测模块440部署于基于工业互联网的智慧工厂系统的线上环境，实时监测基于工业互联网的智慧工厂系统产生的告警信息样本，将告警信息样本输入至预测模块440中，从而得到生产设备是否发生故障的预测结果。由于预测模块440反映了经验值，因此预测模块440可以从众多的告警信息中提取故障告警信息进行是否发生故障的预测。
具体的，将告警信息样本输入至训练好的FM模型和FGCNN模型，分别得到输出，将FM模型和FGCNN模型得到的输出进行合并，从而形成生产设备是否发生故障的预测结果。
并且，基于工业互联网的智慧工厂产生的告警信息积累至预定数量时，将积累的告警信息存储至存储器420的样本数据集中，以更新样本数据集，响应于样本数据集的更新，训练模块430依据样本数据集中更新的告警信息对WGAN-GP模型和M-FGCNN模型继续进行训练，从而使得M-FGCNN模型能够不断适应复杂生产环境下基于工业互联网的生产设备故障预测，保证高效安全的设备运行。
下达模块450依据预测结果，进行故障工单的下达。
从M-FGCNN模型输出生产设备是否发生故障的预测结果后，基于工业互联网的智慧工厂生产设备故障预测装置依据预测结果以及生产设备的实际运行情况、经验数据等下达故障工单，或者运营人员依据预测结果以及生产设备的实际运行情况、经验数据等下达故障工单，然后根据故障工单对生产设备进行停止、维修。
用WGAN-GP模型学习告警信息中少数类故障告警信息的分布，生成新的故障告警信息样本比例平衡的数据集，从而对数据集的样本比例进行均衡；另外，利用FM模型作为Wide&Deep模型Wide侧的结构生成基于经验值的特征作为Wide侧的输入，利用FGCNN模型作为Wide&Deep模型Deep侧的结构，并且在FGCNN模型的嵌入矩阵中引入告警信息记忆向量，从而使得FGCNN模型具有记忆性，从而提高基于工业互联网的智慧工厂生产设备故障预测的效率以及预测的精度，以满足生产设备故障预测高精度、低延时的要求。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。
此外，应当理解，虽然本说明书按照实施方式加以描述，但并非每个实施方式仅包含一个独立的技术方案，说明书的这种叙述方式仅仅是为清楚起见，本领域技术人员应当将说明书作为一个整体，各实施例中的技术方案也可以经适当组合，形成本领域技术人员可以理解的其他实施方式。

Claims (6)

1.一种基于工业互联网的智慧工厂生产设备故障预测方法，其特征在于，包括如下步骤：
从存储基于工业互联网的智慧工厂系统产生的告警信息的样本数据集中获得故障告警信息样本，将故障告警信息样本输入WGAN-GP模型中，训练WGAN-GP模型，生成故障告警信息样本比例平衡的数据集；
将生成的故障告警信息样本比例平衡的数据集输入M-FGCNN模型，以训练M-FGCNN模型；
将基于工业互联网的智慧工厂系统实时产生的告警信息样本输入至训练好的M-FGCNN模型中，得到生产设备是否发生故障的预测结果；
依据预测结果，进行故障工单的下达；
其中，M-FGCNN模型的基本结构为Wide&Deep模型，其中FM模型为Wide&Deep模型Wide侧的结构，FGCNN模型为Wide&Deep模型Deep侧的结构；
FM模型
Figure FDA0004184441260000011
其中，f为FM模型的输出，si(x′)为输入FM模型的故障告警信息x′的第i个数据特征，wi为故障告警信息x′的第i个数据特征对应的权重，w0为偏置量，sj(x′)为输入FM模型的故障告警信息x′的第i+1个数据特征，wij为故障告警信息x′的第i个数据特征si(x′)和第j个数据特征sj(x′)进行组合时的权重，h为故障告警信息x′的数据特征个数；
FGCNN模型的第i个输入表示为xi，其嵌入层的嵌入向量表示为ei，FGCNN模型的嵌入层的嵌入矩阵由n个输入的嵌入向量拼接而成，表示为E＝[e1，e2，…，en]，e1为第1个输入的嵌入层的嵌入向量，e2为第2个输入的嵌入层的嵌入向量，en为第n个输入的嵌入层的嵌入向量，向FGCNN模型的嵌入层中增加告警信息记忆向量m，嵌入矩阵表示为E′＝[e1，e2，…，en，m]；
将故障告警信息样本比例平衡的数据集具有的n个故障告警信息作为n个输入，输入至FGCNN模型中进行训练，训练得到FGCNN模型的zK＝ReLU(WKzK-1+bK)的第K层的权重矩阵WK；其中，zK为嵌入矩阵将通过隐藏层进行学习，以获得高阶非线性的特征交互，在通过FGCNN模型的最后一个全连接层后，得到FGCNN模型第K层的输出；K表示FGCNN模型的当前层数；zK-1表示FGCNN模型第K-1层的输出；bK表示FGCNN模型第K层的偏置向量；ReLU(·)表示使用修正线性单元作为激活函数；
FGCNN模型的损失函数为L＝Lo+αLm，其中α为可调的超参数，Lo为交叉熵损失函数，Lm为记忆损失函数，表示告警信息记忆向量m和FGCNN模型输出zK之间的距离；
其中，
Figure FDA0004184441260000021
其中y∈{0，1}为FGCNN模型依据
Figure FDA0004184441260000022
输出的样本的标签，/>
Figure FDA0004184441260000023
表示FGCNN模型的故障概率预测结果，/>
Figure FDA0004184441260000024
Figure FDA0004184441260000025
其中，∑x()表示对所有样本x做求和运算，n为FGCNN模型的输入个数。
2.根据权利要求1所述的基于工业互联网的智慧工厂生产设备故障预测方法，其特征在于，还包括如下步骤：
产生的告警信息积累至预定数量时，将积累的告警信息存储至样本数据集中，以更新样本数据集；
响应于样本数据集的更新，依据样本数据集中更新的告警信息对WGAN-GP模型和M-FGCNN模型继续进行训练。
3.根据权利要求1所述的基于工业互联网的智慧工厂生产设备故障预测方法，其特征在于，WGAN-GP模型包括：鉴别器D和生成器G，鉴别器D采用四层全连接网络，每层网络之间使用泄露修正线性单元作为激活函数，在鉴别器D的输出层使用sigmoid函数单元通过sigmoid函数对输出变量进行二分类；
生成器G采用三层全连接网络，每层网络之间使用泄露修正线性单元作为激活函数，在生成器G的输出层使用softmax函数单元通过softmax函数进行分类变量，并将所有输入特征的输出层进行拼接作为生成器G的最终输出。
4.一种基于工业互联网的智慧工厂生产设备故障预测系统，其特征在于，包括：告警信息采集设备、存储器、训练模块、预测模块和下达模块；
告警信息采集设备采集基于工业互联网的智慧工厂系统产生的告警信息，并存储至存储器中的样本数据集中；
训练模块从存储器的样本数据集中获得故障告警信息样本，将故障告警信息样本输入WGAN-GP模型中，训练WGAN-GP模型，生成故障告警信息样本比例平衡的数据集；
训练模块将生成的故障告警信息样本比例平衡的数据集输入M-FGCNN模型，以训练M-FGCNN模型形成预测模块；
将基于工业互联网的智慧工厂系统实时产生的告警信息样本输入至预测模块中，得到生产设备是否发生故障的预测结果；
下达模块依据预测结果，进行故障工单的下达；
其中，M-FGCNN模型的基本结构为Wide&Deep模型，其中FM模型为Wide&Deep模型Wide侧的结构，FGCNN模型为Wide&Deep模型Deep侧的结构；
FM模型
Figure FDA0004184441260000031
其中，f为FM模型的输出，si(x′)为输入FM模型的故障告警信息x′的第i个数据特征，wi为故障告警信息x′的第i个数据特征对应的权重，w0为偏置量，sj(x′)为输入FM模型的故障告警信息x′的第i+1个数据特征，wij为故障告警信息x′的第i个数据特征si(x′)和第j个数据特征sj(x′)进行组合时的权重，h为故障告警信息x′的数据特征个数；
FGCNN模型的第i个输入表示为xi，其嵌入层的嵌入向量表示为ei，FGCNN模型的嵌入层的嵌入矩阵由n个输入的嵌入向量拼接而成，表示为E＝[e1，e2，…，en]，e1为第1个输入的嵌入层的嵌入向量，e2为第2个输入的嵌入层的嵌入向量，en为第n个输入的嵌入层的嵌入向量，向FGCNN模型的嵌入层中增加告警信息记忆向量m，嵌入矩阵表示为E′＝[e1，e2，…，en，m]；
将故障告警信息样本比例平衡的数据集具有的n个故障告警信息作为n个输入，输入至FGCNN模型中进行训练，训练得到FGCNN模型的
zK＝ReLU(WKzK-1+bK)的第K层的权重矩阵WK；其中，zK为嵌入矩阵将通过隐藏层进行学习，以获得高阶非线性的特征交互，在通过FGCNN模型的最后一个全连接层后，得到FGCNN模型第K层的输出；K表示FGCNN模型的当前层数；zK-1表示FGCNN模型第K-1层的输出；bK表示FGCNN模型第K层的偏置向量；ReLU(·)表示使用修正线性单元作为激活函数；
FGCNN模型的损失函数为L＝Lo+αLm，其中α为可调的超参数，Lo为交叉熵损失函数，Lm为记忆损失函数，表示告警信息记忆向量m和FGCNN模型输出zK之间的距离；
其中，
Figure FDA0004184441260000041
其中y∈{0，1}为FGCNN模型依据
Figure FDA0004184441260000042
输出的样本的标签，/>
Figure FDA0004184441260000043
表示FGCNN模型的故障概率预测结果，/>
Figure FDA0004184441260000044
Figure FDA0004184441260000045
其中，∑x()表示对所有样本x做求和运算，n为FGCNN模型的输入个数。
5.根据权利要求4所述的基于工业互联网的智慧工厂生产设备故障预测系统，其特征在于，产生的告警信息积累至预定数量时，将积累的告警信息存储至存储器的样本数据集中，以更新样本数据集；响应于样本数据集的更新，训练模块依据样本数据集中更新的告警信息对WGAN-GP模型和M-FGCNN模型继续进行训练。
6.根据权利要求4所述的基于工业互联网的智慧工厂生产设备故障预测系统，其特征在于，WGAN-GP模型包括：鉴别器D和生成器G，鉴别器D采用四层全连接网络，每层网络之间使用泄露修正线性单元作为激活函数，在鉴别器D的输出层使用sigmoid函数单元通过sigmoid函数对输出变量进行二分类；
生成器G采用三层全连接网络，每层网络之间使用泄露修正线性单元作为激活函数，在生成器G的输出层使用softmax函数单元通过softmax函数进行分类变量，并将所有输入特征的输出层进行拼接作为生成器G的最终输出。
CN202110523115.9A 2021-05-13 2021-05-13 基于工业互联网的智慧工厂生产设备故障预测方法及系统 Active CN113255977B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110523115.9A CN113255977B (zh) 2021-05-13 2021-05-13 基于工业互联网的智慧工厂生产设备故障预测方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110523115.9A CN113255977B (zh) 2021-05-13 2021-05-13 基于工业互联网的智慧工厂生产设备故障预测方法及系统

Publications (2)

Publication Number Publication Date
CN113255977A CN113255977A (zh) 2021-08-13
CN113255977B true CN113255977B (zh) 2023-06-23

Family

ID=77181716

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110523115.9A Active CN113255977B (zh) 2021-05-13 2021-05-13 基于工业互联网的智慧工厂生产设备故障预测方法及系统

Country Status (1)

Country Link
CN (1) CN113255977B (zh)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102155261B1 (ko) * 2016-04-13 2020-09-11 구글 엘엘씨 광역 및 심층 기계 학습 모델들
WO2018212711A1 (en) * 2017-05-19 2018-11-22 National University Of Singapore Predictive analysis methods and systems
CN109816044A (zh) * 2019-02-11 2019-05-28 中南大学 一种基于wgan-gp和过采样的不平衡学习方法
CN110298497A (zh) * 2019-06-11 2019-10-01 武汉蓝智科技有限公司 基于大数据的工业预测维修系统及其使用方法
KR102134405B1 (ko) * 2019-06-27 2020-07-15 중앙대학교 산학협력단 적대적 생성망을 이용한 저조도 영상 개선을 위한 장치 및 방법
CA3053894A1 (en) * 2019-07-19 2021-01-19 Inspectorio Inc. Defect prediction using historical inspection data
CN112729381B (zh) * 2020-12-11 2023-05-02 广州致新电力科技有限公司 一种基于神经网络的高压断路器的故障诊断方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于样本均衡与特征交互的通信网络故障预测方法;贾珺 等;《北京邮电大学学报》;第1-7页 *

Also Published As

Publication number Publication date
CN113255977A (zh) 2021-08-13

Similar Documents

Publication Publication Date Title
Hu et al. Transfer learning for short-term wind speed prediction with deep neural networks
CN104246798A (zh) 基于模糊专家系统的问题分析和优先级确定
Jiao Application and prospect of artificial intelligence in smart grid
Luan et al. Out-of-distribution detection for deep neural networks with isolation forest and local outlier factor
CN115796434A (zh) 一种用于配电网的管控方法、装置、电子设备及存储介质
Dong et al. A multifactorial short-term load forecasting model combined with periodic and non-periodic features-a case study of qingdao, China
CN112925824A (zh) 针对极端天气类型的光伏功率预测方法及系统
Chen et al. A novel Bayesian-optimization-based adversarial TCN for RUL prediction of bearings
CN113255977B (zh) 基于工业互联网的智慧工厂生产设备故障预测方法及系统
CN106202805B (zh) 一种开关设备可靠性评价方法
Gao et al. Intelligent instrument fault diagnosis and prediction system based on digital twin technology
Juwono et al. Motorized Vehicle Diagnosis Design Using the Internet of Things Concept with the Help of Tsukamoto's Fuzzy Logic Algorithm
Jóźwiak Application of Kohonen's Network in Logistics
CN114881308A (zh) 基于元学习的网联车辆速度预测方法
Azyus et al. Determining rul predictive maintenance on aircraft engines using gru
Bunte et al. Mapping Data Sets to Concepts using Machine Learning and a Knowledge based Approach.
Moehrle Generic self-learning decision support system for large-scale disasters.
Kuang et al. Short-term power load forecasting method in rural areas based on cnn-lstm
Jing et al. A multi-dimensional city data embedding model for improving predictive analytics and urban operations
Zhu et al. Optoelectronic sensor fault detection based predictive maintenance smart industry 4.0 using machine learning techniques
Liu et al. State prediction and servitisation of manufacturing processing equipment resources in smart cloud manufacturing
Yitmen et al. Enabling Technologies for Cognitive Digital Twins Towards Construction 4.0
Cobilean et al. Informed Deep Learning for Anomaly Detection in Cyber-Physical Systems
Sadiku et al. Artificial Intelligence in Manufacturing
Setiono et al. MofN rule extraction from neural networks trained with augmented discretized input

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant