CN114818954A - 基于增量学习的工业互联网故障检测方法、设备及存储介质 - Google Patents

Abstract

本发明公开了一种基于增量学习的工业互联网故障检测方法、设备及存储介质。本发明首先获取工业互联网数据，并将其标记为故障类与非故障类两个类别。其次基于时间戳，将工业互联网数据等大小划分为连续的工业互联网数据块。然后在每个类别分布平衡的数据子块中，增量地训练一个决策树模型。同时，使用基于分类性能的集成剪枝机制去除了性能最差的若干基础分类器。最后使用集成剪枝后的流数据集成分类模型对工业互联网数据的类别进行预测，从而实现了工业互联网的故障检测。本发明使用增量学习的方法训练流数据集成分类模型，并使用构建好的模型用以识别工业互联网故障，通过识别出工业互联网故障，可以降低风险，以保证工业生产的稳定运行。

Description

基于增量学习的工业互联网故障检测方法、设备及存储介质

技术领域

本发明涉及一种基于增量学习的工业互联网故障检测方法、设备及存储介质。

背景技术

随着大数据技术的飞快发展，工业互联网数据挖掘问题已经成为了热点问题。如何从海量、实时达到的、数据分布动态的工业互联网数据中挖掘出潜在的有用知识，是工业互联网数据挖掘的关键。

工业互联网故障检测可以看作是一个分类问题，根据工业互联网运行的参数数据，工业互联网数据可被分为故障类与非故障类两类。通常地，工业互联网数据的类别分布是不平衡的，即故障类的工业互联网数据往往比非故障类的工业互联网数据少。因此，属于故障类的工业互联网数据被称为小样本，而属于非故障类的工业互联网数据被称为大样本。在类别分别不平衡的数据环境中，传统的分类方法的性能往往会偏向于大样本，即对非故障类的工业互联网数据具有较好的识别能力。然而，相比于对非故障类的工业互联网数据的错误分类，将故障类工业互联网数据误判为非故障类工业互联网数据往往会带来更大的损失。因此，可使用类别不平衡分类算法对工业互联网数据进行分类，从而识别出工业互联网故障。模型训练的目标在于不明显降低对非故障类工业互联网数据分类性能的前提下，能够显著提高其对故障类工业互联网数据的识别率。

工业互联网数据是实时不断产生的，因此很难使用传统的批处理方法对所有的工业互联网数据进行收集和建模。同时，工业互联网数据的数据分布是动态变化的，稳定的分类模型将无法处理符合最新工业互联网数据，这种数据分布的动态性被称为概念漂移。因此，可将工业互联网数据看作流数据，使用基于增量学习的不平衡流数据分类模型对工业互联网的故障进行检测，从而可以同时解决工业互联网数据中的概念漂移与类别不平衡问题。

发明内容

本发明针对现有技术的不足，提供了一种基于增量学习的工业互联网故障检测方法、设备及存储介质。

本发明的一方面，提供了一种基于增量学习的工业互联网故障检测方法，包括以下步骤：

步骤1)收集工业互联网数据，并对其类别进行标记，得到故障类与非故障类两个类别。

步骤2)基于工业互联网数据到达的时间戳，将工业互联网数据等大小划分为一系列的数据块，并设C_t是t时刻获取的工业互联网数据块。

步骤3)基于步骤2得到的工业互联网数据块C_t，进行混合重采样，得到工业互联网数据子块C_t,i,C_t,i是C_t中的第i个数据子块，且其中的类别分布是平衡的。

步骤4)基于步骤3得到的类别分布平衡的工业互联网数据子块C_t,i，训练得到一个基础分类器M_t,i。

步骤5)评估步骤4得到的M_t,i在最终分类决策时的权重，得到W_t,i。

步骤6)基于步骤5计算得到的权重W_t,i，使用基于分类性能的剪枝技术，去除性能基础分类器，得到M。

步骤7)使用步骤6得到的工业互联网故障检测模型M以及步骤5得到的每个基础分类器的权重W_t,i,预测工业互联网数据的类别。

本发明的另一方面，提供了一种基于增量学习的工业互联网故障检测设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其中，所述处理器执行所述程序时实现上述基于增量学习的工业互联网故障检测方法.

本发明的再一方面，提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述基于增量学习的工业互联网故障检测方法。

本发明与现有技术相比，本发明产生的有益效果是：

工业互联网数据具有概念漂移与类别不平衡两个问题。一方面，为了解决概念漂移问题，本发明没有使用传统的批处理的方式进行分类器的模型训练，而是将工业互联网数据看作流数据，使用增量学习的方式训练流数据集成分类模型。由于用于模型训练的数据符合最新的数据分布，模型在不断地用新的工业互联网数据进行更新，因此可以有效地解决工业互联网数据中的概念漂移问题。另一方面，为了解决工业互联网数据中的类别不平衡问题，在每个基础分类器的训练集中，使用了混合重采样技术平衡类别分布，有效地缓解了过采样过程中的过拟合问题以及欠采样过程中的信息丢失问题。

综上，本发明使用增量学习的方法训练流数据集成分类模型，并使用构建好的模型用以识别工业互联网故障。通过识别出工业互联网故障，及时检修，可以降低风险，以保证工业生产的稳定运行。

附图说明

图1为本发明提出的一种基于增量学习的工业互联网故障检测方法原理图。

图2为本发明的设备结构图。

具体实施方式

本发明提出了一种基于增量学习的工业互联网故障检测方法。如图1所示，主要包含了工业互联网数据块划分机制、基于混合重采样的工业互联网数据子块划分机制、基于VFDT的基础分类器训练机制、基于分类性能的集成剪枝机制和基于集成分类模型的工业互联网故障检测机制。

首先，获取工业互联网数据，并将其标记为故障类与非故障类两个类别。其次，基于工业互联网数据的时间戳，将工业互联网数据等大小划分为连续的工业互联网数据块，每个数据块中的工业互联网数据的类别分布是不平衡的。为了解决每个工业互联网数据块中的类别不平衡问题，使用了混合重采样技术，得到|N_t|/|P_t|个类别分布平衡的数据子块。一方面，使用了欠采样方法，在每个数据子块中包含了|P_t|个非故障类的工业互联网数据。另一方面，使用了过采样方法，将P_t中所有的工业互联网数据放入每个数据子块中。然后，在每个类别分布平衡的数据子块中，增量地训练一个决策树模型。同时，使用基于分类性能的集成剪枝机制去除了性能最差的若干基础分类器，可以提高工业互联网故障检测模型对动态工业互联网数据的适应性能。最后，使用集成剪枝后的流数据集成分类模型对工业互联网数据的类别进行预测，从而实现了工业互联网的故障检测。在分类决策时同时考虑了集成框架中所保留的所有分类器的预测值，并考虑到每个基础分类器的权重，对预测结果加权集成。

据此，本发明的实施例主要包含以下步骤：

步骤1)基于收集得到的工业互联网数据，进行数据标签的标记。将工业互联网数据分为故障类与非故障类两个类别。其中，故障类的工业互联网数据量通常少于非故障类工业互联网数据量。

步骤2)基于工业互联网数据的时间戳，将工业互联网数据等大小划分为一系列连续的数据块，称为工业互联网数据块，设C_t是t时刻获取的工业互联网数据块。连续数据块中含有等量的工业互联网数据。在每个工业互联网数据块中，非故障类工业互联网数据数量通常远远大于故障类工业互联网数据数量，即每个数据块内的类别分布不平衡的。其中，非故障类工业互联网数据被称为大样本，而故障类工业互联网数据被看作小样本。

步骤3)基于混合重采样技术，将步骤2得到的最新的工业互联网数据块C_t,划分得到|N_t|/|P_t|个类别分布平衡的数据子块C_t,i(1≤i≤|N_t|/|P_t|)。C_t,i是C_t中划分得到的第i个数据子块，|P_t|和|N_t|分别为数据块C_t中小样本集P_t与大样本集N_t的基数。在每个工业互联网数据子块中，包含了|P_t|个大样本和P_t中全部的小样本，即同时使用了过采样与欠采样技术。因此，工业互联网数据子块中的类别分布是平衡的。

步骤4)基于步骤3得到的类别分布平衡的工业互联网数据子块C_t,i，使用VFDT快速决策树算法训练得到一个基础分类器M_t,i。其中，M_t,i对故障类与非故障类工业互联网数据都具有较好的识别性能。VFDT模型的训练采用了增量学习的方式构建了一个决策树分类模型。

步骤5)基于模型对工业互联网数据子块的分类性能，得到步骤4训练出的每个基础分类器M_t,i的权重W_t,i。其中，权重W_t,i决定了基础分类器M_t,i在最终分类决策时所占的比重。首先，每个基础分类器M_t,i的初始权重为1，即W⁰ _t,i＝1。然后，评估模型M_t,i在连续工业互联网数据子块C_t,i中的G-mean值G^j _t,i,G^j _t,i,即为M_t,i在第j个数据子块上的G-mean性能值。最后，由C_t,i训练得到的基础分类器M_t,i的权重

因此，基础分类器M_t,i的权重W_t,i在不断地衰减，且分类性能好的基础分类器被赋予较高的权重。

步骤6)基于步骤5计算得到的权重W_t,i，使用基于性能的剪枝技术用于工业互联网故障检测的集成分类模型M。即从最初的基础分类器集合中移除权重W_t,i<θ的基础分类器。其中，θ为事先设定的分类G-mean性能阈值。通过去除性能差的基础分类器，可以加快集成分类模型对动态工业互联网数据环境的适应。

步骤7)使用步骤6得到的工业互联网故障检测模型M以及步骤5得到的每个基础分类器的权重W_t,i,识别新来的工业互联网数据的类别，从而实现了工业互联网的故障检测。

在使用M分类工业互联网数据时，同时考虑了集成框架中所保留的所有分类器的预测值，并对预测结果加权集成。权重较高的基础分类器对工业互联网数据的类别识别的重要性越高。若工业互联网数据的类别被M判定为大类，则识别出非故障类工业互联网数据，相反地，判别出故障类的工业互联网数据，从而可以有效地识别工业互联网故障，可以保证工业生产过程的稳定进行。

优选地，步骤1)中，工业互联网数据被分为故障类与非故障类两个类别，工业互联网数据具有实时性、类别不平衡性、概念漂移、海量等特征，被看作流数据。

优选地，步骤2)中，基于工业互联网数据到达的先后顺序，赋予工业互联网数据时间戳。因此，工业互联网数据是时序型数据。按照数据的时间戳，划分工业互联网数据块，每个数据块中含有等量的工业互联网数据，且类别分布是不平衡的。

优选地，步骤3)中，为解决工业互联网数据块中的类别不平衡问题，使用混合重采样技术来平衡基础分类器训练集的类别分布。一方面，使用欠采样技术将工业互联网数据块中的N_t随机等大小划分成|N_t|/|P_t|个子集。另一方面，使用过采用技术，将P_t中的所有的小样本用于训练基础分类器。

优选地，步骤4)中，基于每个类别分布平衡的工业互联网数据子块，训练得到一个基础分类器M_t,i。用以训练不同基础分类器的小样本集是相同的，但是大样本集不一定相同，且每个基础分类器对大样本与小样本都具有较好的分类性能。M_t,i是基于VFDT的基础分类器模型，其训练集C_t,i是类别平衡的。因此，工业互联网故障检测模型中的每个基础分类器对故障类与非故障类的工业互联网数据都具有较好的识别性能。

优选地，步骤5)中，基础分类器M_t,i在最终分类决策时的权重取决于其对C_t中类别分布平衡的连续交易数据子块的G-mean性能值。采用G-mean作为评估指标，其对类别不平衡问题具有较好的鲁棒性。

优先地，步骤6)中，使用基于性能的剪枝技术去除性能差的基础分类器，集成分类框架中集成成员的大小是随着阈值θ适应性调整的，即集成分类模型中基础分类器的个数是动态的。

优先地，步骤7)中，基于增量学习训练得到的流数据集成分类模型用来识别工业互联网故障，在分类决策时考虑了所有基础分类器的预测值以及相应的权重。通过使用加权投票的方式，赋予性能好的基础分类器较好的权重，因此，权重较高的基础分类器在最终分类决策时更为重要。

本实施例旨在提供一种基于增量学习的工业互联网故障检测方法，该方法使用了增量学习的方式训练得到一个流数据分类模型，该模型用于检测工业互联网故障。通常地，故障类工业互联网数据的数量远远多于非故障类工业互联网数据的数量，因此需要使用类别不平衡处理机制来处理工业互联网数据。同时，为了适应不断变化的工业互联网数据环境，使用增量学习的方式使用最新的数据及时更新工业互联网故障检测模型。

本发明的实施例可以应用在网络设备上。实施例可以通过软件实现，也可以通过硬件或者软硬件结合的方式实现。以软件实现为例，作为一个逻辑意义上的装置，是通过其所在设备的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的，其中计算机程序用于执行上述步骤1)-步骤7)所确定的方法。从硬件层面而言，如图2所示，为本发明的基于增量学习的工业互联网故障检测设备的硬件结构图，除了图2所示的处理器、网络接口、内存以及非易失性存储器之外，所述设备通常还可以包括其他硬件，以便在硬件层面进行的扩展。另一方面，本申请还提供了一种计算机可读存储介质，存储介质存储有计算机程序，计算机程序用于执行上述步骤1)-步骤7)所确定的方法。

对于实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。

以上所述仅为本申请的较佳实施例而已，并不用以限制本申请，凡在本申请的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本申请保护的范围之内。

Claims (8)

1.基于增量学习的工业互联网故障检测方法，其特征在于：包括以下步骤：

步骤1)收集工业互联网数据，并对其类别进行标记，得到故障类与非故障类两个类别；

步骤2)基于工业互联网数据到达的时间戳，将工业互联网数据等大小划分为一系列的数据块，并设C_t是t时刻获取的工业互联网数据块；

步骤3)基于步骤2得到的工业互联网数据块C_t，进行混合重采样，得到工业互联网数据子块C_t,i,C_t,i是C_t中的第i个数据子块，且其中的类别分布是平衡的；

步骤4)基于步骤3得到的类别分布平衡的工业互联网数据子块C_t,i，训练得到一个基础分类器M_t,i；

步骤5)评估步骤4得到的M_t,i在最终分类决策时的权重，得到W_t,i；；

步骤6)基于步骤5计算得到的权重W_t,i，使用基于分类性能的剪枝技术，去除性能基础分类器，得到M；

步骤7)使用步骤6得到的工业互联网故障检测模型M以及步骤5得到的每个基础分类器的权重W_t,i,预测工业互联网数据的类别。

2.根据权利要求1所述的基于增量学习的工业互联网故障检测方法，其特征在于：步骤3)中若|P_t|和|N_t|分别为工业互联网数据块C_t中的小样本P_t和大样本N_t中工业互联网样本的个数，则构建的工业互联网数据子块的个数为|N_t|/|P_t|，其中小样本P_t为故障类工业互联网数据，大样本N_t为非故障类工业互联网数据。

3.根据权利要求2所述的基于增量学习的工业互联网故障检测方法，其特征在于：在每个工业互联网数据子块C_t,i中，故障类的工业互联网数据个数等于非故障类的工业互联网数据个数。

4.根据权利要求1所述的基于增量学习的工业互联网故障检测方法，其特征在于：步骤4)中所述的基础分类器基于VFDT模型。

5.根据权利要求2所述的基于增量学习的工业互联网故障检测方法，其特征在于：步骤5)具体是：设基础分类器M_t,i的权重初始值为1，然后计算M_t,i在C_t中连续工业互联网数据子块C_t,i的G-mean值；则基础分类器M_t,i在最终分类决策时的权重

其中G^j _t,i为M_t,i在第j个工业互联网数据子块上的G-mean性能值。

6.根据权利要求1所述的基于增量学习的工业互联网故障检测方法，其特征在于：步骤6)具体是：从最初的集成分类框架中，移除W_t,i<θ的基础分类器，其中θ为事先设定的分类G-mean性能阈值。

7.一种基于增量学习的工业互联网故障检测设备，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其中，所述处理器执行所述程序时实现上述权利要求1-6任一所述的基于增量学习的工业互联网故障检测方法。

8.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-6任一所述的基于增量学习的工业互联网故障检测方法。

Images