CN110334478A - 机器设备异常检测模型构建方法、检测方法及模型 - Google Patents

机器设备异常检测模型构建方法、检测方法及模型 Download PDF

Info

Publication number
CN110334478A
CN110334478A CN201910661730.9A CN201910661730A CN110334478A CN 110334478 A CN110334478 A CN 110334478A CN 201910661730 A CN201910661730 A CN 201910661730A CN 110334478 A CN110334478 A CN 110334478A
Authority
CN
China
Prior art keywords
data
hidden layer
abnormality detection
input
machinery equipment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910661730.9A
Other languages
English (en)
Other versions
CN110334478B (zh
Inventor
李锐
冯落落
安程治
于治楼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Inspur Scientific Research Institute Co Ltd
Original Assignee
Shandong Inspur Artificial Intelligence Research Institute Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong Inspur Artificial Intelligence Research Institute Co Ltd filed Critical Shandong Inspur Artificial Intelligence Research Institute Co Ltd
Priority to CN201910661730.9A priority Critical patent/CN110334478B/zh
Publication of CN110334478A publication Critical patent/CN110334478A/zh
Application granted granted Critical
Publication of CN110334478B publication Critical patent/CN110334478B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Evolutionary Computation (AREA)
  • Geometry (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

本发明公开了一种机器设备异常检测模型构建方法、检测方法及模型,属于基于迁移学习的机器设备异常检测领域,要解决的技术问题为如何结合深度学习和迁移学习实现对机器设备的检测。构建方法包括如下步骤:基于Tensorflow学习框架构建异常检测模型,异常检测模型包括输入层、输出层和多个隐藏层;获取旧机器设备数据为源领域,以源领域为输入、基于Dropout‑SDA算法对所述异常检测模型进行参数优化,得到初始模型;获取新机器设备数据为目标领域,以目标领域为输入、基于Dropout‑SDA算法对初始模型进行参数微调,得到目标模型。检测方法包括通过目标模型判断待检测数据是否异常。该模型为上述方法得到的目标模型。

Description

机器设备异常检测模型构建方法、检测方法及模型
技术领域
本发明涉及基于迁移学习的机器设备异常检测领域,具体地说是一种机器设备异常检测模型构建方法、检测方法及模型。
背景技术
近年来,深度学习和迁移学习已经引起了广泛的关注和研究,深度学习已经成功的应用到很多领域当中,例如不同的CNN和GAN网络成功应用到图像处理的任务中,RNN、LSTM和GRU等模型成功应用到NLP任务当中;迁移学习作为机器学习的一个新领域,通过放宽传统机器学习的独立同分布的假设,借助与目标领域相关但不相同的源领域中大量的数据获得预测目标领域模型。随着深度学习技术的快速发展,深度迁移学习技术得到了广泛的应用,例如图片识别、自然语言处理等应用。
在工业大数据分析中,首先有些工业设备很难获得大量有效的数据进行分析,其次工业设备往往在原理和功能上存在一定的相似性,因此可以利用这种相似性,把针对某种设备的异常检测模型应用于其他种类的设备的异常检测中。
基于上述分析,如何结合深度学习和迁移学习实现对机器设备的检测,是需要解决的技术问题。
发明内容
本发明的技术任务是针对以上不足,提供一种机器设备异常检测模型构建方法、检测方法及模型,来解决如何结合深度学习和迁移学习实现对机器设备的检测的问题。
第一方面,本发明提供一种机器设备异常检测模型构建方法,包括如下步骤:
基于Tensorflow学习框架构建异常检测模型,所述异常检测模型包括输入层、输出层和多个隐藏层;
获取旧机器设备数据为源领域,以源领域为输入、基于Dropout-SDA算法对所述异常检测模型进行参数优化,得到初始模型;
获取新机器设备数据为目标领域,以目标领域为输入、基于Dropout-SDA算法对所述初始模型进行参数微调,得到目标模型。
在机器设备异常检测中,新的机器设备设备和旧的机器设备设备往往在工作原理上存在相似性,本实施方式中基于Tensorflow学习框架构建异常检测模型,借助旧的机器设备中大量的数据所提供的知识对异常检测模型进行预训练,然后使用新机器设备的数据对模型参数进行一个微调,得到目标模型。该目标模型用于对新机器设备的待检测数据进行异常检测。
作为优选,以源领域为输入、基于Dropout-SDA算法对所述异常检测模型进行参数优化,包括如下步骤:
以所述源领域的数据为原始输入数据,输入输入层;
通过迭代的方式逐个对隐藏层进行参数优化,输入所述第i个隐藏层的数据为输入数据x(i),对第i个隐藏层进行参数优化的步骤包括:
通过所述第i个隐藏层的中编码参数θi对所述输入数据x(i)进行编码,得到编码数据y(i)
添加随机失活层,通过所述随机失活层对所述第i个隐藏层进行节点失活处理,得到失活后第i个隐藏层;
通过所述失活后第i个隐藏层对所述编码数据y(i)进行计算,得到数据Y(i)
通过所述第i个隐藏层的中解码参数θi'对所述数据Y(i)进行解码,得到与所述输入数据x(i)对应的重构数据z(i)
基于所述输入数据x(i)和所述重构数据z(i)构建损失函数,并通过AdaGrad优化算法对所述损失函数进行优化,得到所述第i个隐藏层中编码参数θi和解码参数θi'的初值;
其中,输入第一个隐藏层的数据为通过输入层输出的原始输入数据;除第一个隐藏层之外,输入第i+1个隐藏层的数据为y(i)
上述实施方式中通过源领域对构建的异常检测模型进行参数优化,在优化过程中,通过隐藏层对具有噪声的源领域数据进行编码得到编码数据,并添加随机失活层对隐藏层的节点进行失活,通过失活后隐藏层对编码数据进行计算并解码,得到低纬度的特征表,通过上述训练过程得到的隐藏层提高了特征提取效率。
作为优选,在输入层通过噪声函数为原始输入数据添加噪声,得到具有噪声的数据;输入第一个隐藏层的数据为通过输入层输出的具有噪声的原始输入数据。
在上述实施方式中,在输入层对源领域加入噪声函数,以具有噪声的数据作为输入数据输入第一个隐藏层,后期对新机器设备进行异常检测时,获取的待检测数据可能存在噪声,在训练异常检测模型过程中对输入的源领域数据加入噪声,可以减少模型误差。
作为优选,以目标领域为输入、基于Dropout-SDA算法对所述初始模型进行参数微调,包括如下步骤:
通过迭代的方式逐个对隐藏层进行参数微调,对于第i个隐藏层进行参数微调的步骤包括:
输入所述第i个隐藏层的数据为输入数据x(i)
通过所述第i个隐藏层的中编码参数θi对所述输入数据x(i)进行编码,得到编码数据y(i)
添加随机失活层,通过所述随机失活层对所述第i个隐藏层进行节点失活处理,得到失活后第i个隐藏层;
通过所述失活后第i个隐藏层对所述编码数据y(i)进行计算,得到数据Y(i)
通过所述第i个隐藏层的中解码参数θi'对所述数据Y(i)进行解码,得到与所述输入数据x(i)对应的重构数据z(i)
基于所述输入数据x(i)和所述重构数据z(i)构建损失函数,并通过AdaGrad优化算法对所述损失函数进行优化,得到所述第i个隐藏层中编码参数θi和解码参数θi'的初值;
所述对隐藏层进行参数微调过程中,输入第一个隐藏层的数据为目标领域的数据;除第一个隐藏层之外,输入第i+1个隐藏层的数据为y(i)
作为优选,通过AdaGrad优化算法对所述损失函数进行优化过程中,所述损失函数为平方损失函数,所述平方损失函数计算公式为:
其中,输入数据x和重构数据z均为一维向量,组成样本;m表示样本总数,k表示样本数据的维度;i表示第几个样本,j表示样本数据的第几个维度。
作为优选,通过AdaGrad优化算法对所述损失函数进行优化过程中,AdaGrad优化算法计算公式为:
其中,t表示第t时间步;
Θt+1,i表示在t+1轮迭代时,第i个编码参数的参数值,
α表示初始化的学习率,
gt,i表示在t轮迭代时,第i个编码参数的梯度,
Gt,ii表示第t轮迭代的对角矩阵,ii表示对角位置,为编码参数θi从第一轮迭代到第t轮迭代梯度的平方和;
ε表示平滑顶,用于避免分母为0。
第二方面,本发明提供一种机器设备异常检测方法,包括如下步骤:
通过如第一方面任一项所述的一种机器设备异常检测模型构建方法构建机器设备异常检测模型,得到目标模型;
通过所述目标模型判断待检测数据是否异常。
作为优选,通过所述目标模型判断待检测数据是否异常,包括如下步骤:
将所述源领域的数据输入所述目标模型,得到对应的重构数据,并计算所述源领域的数据和与其对应的重构数据之间的源重构误差;
将所述目标领域的数据输入所述目标模型,得到对应的重构数据,并计算所述目标领域的数据和与其对应的重构数据之间的目标重构误差;
从上述源重构误差和目标重构误差中选取取值较大的为阈值K;
将待检测数据输入所述目标模型,得到对应的重构数据,计算所述待检测数据和与其对应的重构数据之间的待测重构误差;
将所述待测重构误差与所述阈值K进行大小比对,判断所述待测数据是否异常。
第三方面,本发明提供一种机器设备异常检测模型,所述机器设备异常检测模型为通过如第一方面任一项所述的一种机器设备异常检测模型构建方法得到的目标模型。
作为优选,一种机器设备异常检测模型,所述目标模型用于通过如下步骤对机器设备进行异常检测:
将所述源领域的数据输入所述目标模型,得到对应的重构数据,并计算所述源领域的数据和与其对应的重构数据之间的源重构误差;
将所述目标领域的数据输入所述目标模型,得到对应的重构数据,并计算所述目标领域的数据和与其对应的重构数据之间的目标重构误差;
从上述源重构误差和目标重构误差中选取取值较大的为阈值K;
将待检测数据输入所述目标模型,得到对应的重构数据,计算所述待检测数据和与其对应的重构数据之间的待测重构误差;
将所述待测重构误差与所述阈值K进行大小比对,判断所述待测数据是否异常。
本发明的一种机器设备异常检测模型构建方法、检测方法及模型具有以下优点:基于迁移学习利用旧机器设备充足的数据,构建适用于新机器设备的异常检测模型,可缓解新机器设备数据不足的问题,并可实现对新机器设备所产生的数据进行实时的监测和分析,达到预测性维护和预警的目的。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例中描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
下面结合附图对本发明进一步说明。
附图1为实施例1机器设备异常检测模型构建方法的流程框图;
附图2为实施例1机器设备异常检测模型构建方法改进后的流程框图。
具体实施方式
下面结合附图和具体实施例对本发明作进一步说明,以使本领域的技术人员可以更好地理解本发明并能予以实施,但所举实施例不作为对本发明的限定,在不冲突的情况下,本发明实施例以及实施例中的技术特征可以相互结合。
本发明实施例提供一种机器设备异常检测模型构建方法、检测方法及模型,用于解决如何结合深度学习和迁移学习实现对机器设备的检测的技术问题。
实施例1:
本发明的机器设备异常检测模型构建方法,包括如下步骤:
S100、基于Tensorflow学习框架构建异常检测模型,异常检测模型包括输入层、输出层和多个隐藏层;
S200、获取旧机器设备数据为源领域,以源领域为输入、基于Dropout-SDA算法对异常检测模型进行参数优化,得到初始模型;
S300、获取新机器设备数据为目标领域,以目标领域为输入、基于Dropout-SDA算法对初始模型进行参数微调,得到目标模型。
其中,本实施例中,机器设备为水泵,构建的异常检测模型具有两个隐藏层,其中第一个隐藏层中有10个节点,第二个隐藏层中有5个节点。
步骤S200中,获取旧水泵的数据绕组温度、电流、电压和瞬时电流组成源领域。将上述源领域的数据作为原始输入数据x(x1,x2,x3,x4),输入输入层。并将上述原始输入数据输入第一个隐藏层,基于Dropout-SDA算法对第一个隐藏层进行参数优化,具体过程为:
将原始输入数据作为第一个隐藏层的输入数据x(1),通过第一个隐藏层中的编码参数θ1对输入数据x(1)进行编码,得到编码数据y(1),表示为
添加随机失活层,随机失活层中keep-Prob设置为0.7,通过该随机失活层对第一个隐藏层进行节点失活处理,得到失活后第一个隐藏层;
通过述失活后第一个隐藏层对编码数据y(1)进行计算,得到数据Y(1),表示为
通过第一个隐藏层的中解码参数θ1'对数据Y(i)进行解码,得到与输入数据x(1)对应的重构数据z(1)
基于输入数据x(1)和重构数据z(1)构建损失函数,并通过AdaGrad优化算法对损失函数进行优化,得到第一个隐藏层中编码参数θ1和解码参数θ1'的初值。
对第一个隐藏层中编码参数θ1和解码参数θ1'优化后,对第二个隐藏层进行参数优化,具体过程为:
将编码数据y(1)作为第二个隐藏层的输入数据x(2),通过第二个隐藏层中的编码参数θ2对输入数据x(2)进行编码,得到编码数据y(2),表示为
添加随机失活层,随机失活层中keep-Prob设置为0.7,通过该随机失活层对第二个隐藏层进行节点失活处理,得到失活后第二个隐藏层;
通过失活后第二个隐藏层对编码数据y(2)进行计算,得到数据Y(2),表示为
通过第二个隐藏层的中解码参数θ2'对数据Y(2)进行解码,得到与输入数据x(2)对应的重构数据z(2)
基于输入数据x(2)和重构数据z(2)构建损失函数,并通过AdaGrad优化算法对损失函数进行优化,得到第二个隐藏层中编码参数θ2和解码参数θ2'的初值。
对第二个隐藏层中编码参数θ2和解码参数θ2'优化后,得到得到初始模型。
在步骤S300中,获取新水泵的数据绕组温度、电流、电压和瞬时电流组成目标领域。将上述目标领域的数据作为原始输入数据x(x1,x2,x3,x4),输入输入层。并将上述原始输入数据输入第一个隐藏层,基于Dropout-SDA算法对第一个隐藏层进行参数微调,具体过程为:
将原始输入数据作为第一个隐藏层的输入数据x(1),通过第一个隐藏层中的编码参数θ1对输入数据x(1)进行编码,得到编码数据y(1),表示为
添加随机失活层,随机失活层中keep-Prob设置为0.7,通过该随机失活层对第一个隐藏层进行节点失活处理,得到失活后第一个隐藏层;
通过失活后第一个隐藏层对编码数据y(1)进行计算,得到数据Y(1),表示为
通过第一个隐藏层的中解码参数θ1'对数据Y(i)进行解码,得到与输入数据x(1)对应的重构数据z(1)
基于输入数据x(1)和重构数据z(1)构建损失函数,并通过AdaGrad优化算法对损失函数进行优化,得到第一个隐藏层中编码参数θ1和解码参数θ1'的终值。
对第一个隐藏层中编码参数θ1和解码参数θ1'微调后,对第二个隐藏层进行参数微调,具体过程为:
将编码数据y(1)作为第二个隐藏层的输入数据x(2),通过第二个隐藏层中的编码参数θ2对输入数据x(2)进行编码,得到编码数据y(2),表示为
添加随机失活层,随机失活层中keep-Prob设置为0.7,通过该随机失活层对第二个隐藏层进行节点失活处理,得到失活后第二个隐藏层;
通过失活后第二个隐藏层对编码数据y(2)进行计算,得到数据Y(2),表示为
通过第二个隐藏层的中解码参数θ2'对数据Y(2)进行解码,得到与输入数据x(2)对应的重构数据z(2)
基于输入数据x(2)和重构数据z(2)构建损失函数,并通过AdaGrad优化算法对损失函数进行优化,得到第二个隐藏层中编码参数θ2和解码参数θ2'的终值。
对第二个隐藏层中编码参数θ2和解码参数θ2'微调后,得到目标模型。
其中,通过AdaGrad优化算法对损失函数进行优化过程中,损失函数为平方损失函数,平方损失函数计算公式为:
其中,输入数据x和重构数据z均为一维向量,组成样本;m表示样本总数,k表示样本数据的维度;i表示第几个样本,j表示样本数据的第几个维度。
AdaGrad优化算法计算公式为:
其中,t表示第t时间步;
Θt+1,i表示在t+1轮迭代时,第i个编码参数的参数值,
α表示初始化的学习率,
gt,i表示在t轮迭代时,第i个编码参数的梯度,
Gt,ii表示第t轮迭代的对角矩阵,ii表示对角位置,为编码参数θi从第一轮迭代到第t轮迭代梯度的平方和;
ε表示平滑顶,用于避免分母为0。
通过上述目标模型可对机器设备进行异常检测。检测方法为:将待检测数据输入该目标模型,通过目标模型计算该待检测数据的重构数据,并计算待检测数据与重构数据之间的重构误差,通过重构误差判断待检测数据是否异常。
由于在采集机器设备数据时,存在噪声,上述在构建异常检测模型时,没有涉及噪声处理,通过上述目标模型对待检测数据进行异常检测时,存在误差。
针对上述问题,作为本实施例的进一步改进,如附图2所示,在以源领域为输入、基于Dropout-SDA算法对异常检测模型进行参数优化时,在输入层通过噪声函数为原始输入数据添加噪声,得到具有噪声的数据;输入第一个隐藏层的数据为通过输入层输出的具有噪声的原始输入数据。
本实施例中噪声函数为高斯噪声,噪声数据满足标准正态分布。
实施例2:
本发明的机器设备异常检测方法,包括如下步骤:
L100、通过实施例1公开的机器设备异常检测模型构建方法构建机器设备异常检测模型,得到目标模型;
L200、通过目标模型判断待检测数据是否异常。
其中,该机器设备为水泵,L200通过目标模型判断待检测数据是否异常,包括如下步骤:
L210、将源领域的数据输入目标模型,得到对应的重构数据,并计算重构数据与源领域的数据之间的源重构误差;
L220、将目标领域的数据输入目标模型,得到对应的重构数据,并计算重构数据与目标领域的数据之间的目标重构误差;
L230、从上述源重构误差和目标重构误差中选取取值较大的为阈值K;
L240、将待检测数据输入目标模型,得到对应的重构数据,计算重构数据与待检测数据之间的待测重构误差;
L250、将待测重构误差与阈值K进行大小比对,判断待测数据是否异常。
其中,在对上述异常检测模型进行优化时,添加了随机失活层,在上述计算重构误差的过程中,将随机失活层中Keep-prob设置为1。
实施例3:
本发明的机器设备异常检测模型,该机器设备异常检测模型为实施例1公开的机器设备异常检测模型构建方法得到的目标模型。
该目标模型用于通过如下步骤对机器设备进行异常检测:
将源领域的数据输入目标模型,得到对应的重构数据,并计算源领域的数据和与其对应的重构数据之间的源重构误差;
将目标领域的数据输入目标模型,得到对应的重构数据,并计算目标领域的数据和与其对应的重构数据之间的目标重构误差;
从上述源重构误差和目标重构误差中选取取值较大的为阈值K;
将待检测数据输入目标模型,得到对应的重构数据,计算待检测数据和与其对应的重构数据之间的待测重构误差;
将待测重构误差与阈值K进行大小比对,判断待测数据是否异常。
在对上述异常检测模型进行优化时,添加了随机失活层,在计算重构误差时,将随机失活层中Keep-prob设置为1。
以上所述实施例仅是为充分说明本发明而所举的较佳的实施例,本发明的保护范围不限于此。本技术领域的技术人员在本发明基础上所作的等同替代或变换,均在本发明的保护范围之内。本发明的保护范围以权利要求书为准。

Claims (10)

1.机器设备异常检测模型构建方法,其特征在于包括如下步骤:
基于Tensorflow学习框架构建异常检测模型,所述异常检测模型包括输入层、输出层和多个隐藏层;
获取旧机器设备数据为源领域,以源领域为输入、基于Dropout-SDA算法对所述异常检测模型进行参数优化,得到初始模型;
获取新机器设备数据为目标领域,以目标领域为输入、基于Dropout-SDA算法对所述初始模型进行参数微调,得到目标模型。
2.根据权利要求1所述的机器设备异常检测模型构建方法,其特征在于以源领域为输入、基于Dropout-SDA算法对所述异常检测模型进行参数优化,包括如下步骤:
以所述源领域的数据为原始输入数据,输入输入层;
通过迭代的方式逐个对隐藏层进行参数优化,输入所述第i个隐藏层的数据为输入数据x(i),对第i个隐藏层进行参数优化的步骤包括:
通过所述第i个隐藏层的中编码参数θi对所述输入数据x(i)进行编码,得到编码数据y(i)
添加随机失活层,通过所述随机失活层对所述第i个隐藏层进行节点失活处理,得到失活后第i个隐藏层;
通过所述失活后第i个隐藏层对所述编码数据y(i)进行计算,得到数据Y(i)
通过所述第i个隐藏层的中解码参数θi'对所述数据Y(i)进行解码,得到与所述输入数据x(i)对应的重构数据z(i)
基于所述输入数据x(i)和所述重构数据z(i)构建损失函数,并通过AdaGrad优化算法对所述损失函数进行优化,得到所述第i个隐藏层中编码参数θi和解码参数θi'的初值;
其中,输入第一个隐藏层的数据为通过输入层输出的原始输入数据;除第一个隐藏层之外,输入第i+1个隐藏层的数据为y(i)
3.根据权利要求2所述的机器设备异常检测模型构建方法,其特征在于在输入层通过噪声函数为原始输入数据添加噪声,得到具有噪声的数据;
输入第一个隐藏层的数据为通过输入层输出的具有噪声的原始输入数据。
4.根据权利要求1所述的机器设备异常检测模型构建方法,其特征在于以目标领域为输入、基于Dropout-SDA算法对所述初始模型进行参数微调,包括如下步骤:
通过迭代的方式逐个对隐藏层进行参数微调,输入所述第i个隐藏层的数据为输入数据x(i),对第i个隐藏层进行参数微调的步骤包括:
通过所述第i个隐藏层的中编码参数θi对所述输入数据x(i)进行编码,得到编码数据y(i)
添加随机失活层,通过所述随机失活层对所述第i个隐藏层进行节点失活处理,得到失活后第i个隐藏层;
通过所述失活后第i个隐藏层对所述编码数据y(i)进行计算,得到数据Y(i)
通过所述第i个隐藏层的中解码参数θi'对所述数据Y(i)进行解码,得到与所述输入数据x(i)对应的重构数据z(i)
基于所述输入数据x(i)和所述重构数据z(i)构建损失函数,并通过AdaGrad优化算法对所述损失函数进行优化,得到所述第i个隐藏层中编码参数θi和解码参数θi'的初值;
所述对隐藏层进行参数微调过程中,输入第一个隐藏层的数据为目标领域的数据;除第一个隐藏层之外,输入第i+1个隐藏层的数据为y(i)
5.根据权利要求2、3或4所述的机器设备异常检测模型构建方法,其特征在于通过AdaGrad优化算法对所述损失函数进行优化过程中,所述损失函数为平方损失函数,所述平方损失函数计算公式为:
其中,输入数据x和重构数据z均为一维向量,组成样本;m表示样本总数,k表示样本数据的维度;i表示第几个样本,j表示样本数据的第几个维度。
6.根据权利要求5所述的机器设备异常检测模型构建方法,其特征在于通过AdaGrad优化算法对所述损失函数进行优化过程中,AdaGrad优化算法计算公式为:
其中,t表示第t时间步;
Θt+1,i表示在t+1轮迭代时,第i个编码参数的参数值,
α表示初始化的学习率,
gt,i表示在t轮迭代时,第i个编码参数的梯度,
Gt,ii表示第t轮迭代的对角矩阵,ii表示对角位置,为编码参数θi从第一轮迭代到第t轮迭代梯度的平方和;
ε表示平滑顶,用于避免分母为0。
7.机器设备异常检测方法,其特征在于包括如下步骤:
通过如权利要求1-6任一项所述的机器设备异常检测模型构建方法构建机器设备异常检测模型,得到目标模型;
通过所述目标模型判断待检测数据是否异常。
8.根据权利要求7所述的机器设备异常检测方法,其特征在于通过所述目标模型判断待检测数据是否异常,包括如下步骤:
将所述源领域的数据输入所述目标模型,得到对应的重构数据,并计算所述源领域的数据和与其对应的重构数据之间的源重构误差;
将所述目标领域的数据输入所述目标模型,得到对应的重构数据,并计算所述目标领域的数据和与其对应的重构数据之间的目标重构误差;
从上述源重构误差和目标重构误差中选取取值较大的为阈值K;
将待检测数据输入所述目标模型,得到对应的重构数据,计算所述待检测数据和与其对应的重构数据之间的待测重构误差;
将所述待测重构误差与所述阈值K进行大小比对,判断所述待测数据是否异常。
9.机器设备异常检测模型,其特征在于所述机器设备异常检测模型为通过如权利要求1-6任一项所述的机器设备异常检测模型构建方法得到的目标模型。
10.机器设备异常检测模型,其特征在于所述目标模型用于通过如下步骤对机器设备进行异常检测:
将所述源领域的数据输入所述目标模型,得到对应的重构数据,并计算所述源领域的数据和与其对应的重构数据之间的源重构误差;
将所述目标领域的数据输入所述目标模型,得到对应的重构数据,并计算所述目标领域的数据和与其对应的重构数据之间的目标重构误差;
从上述源重构误差和目标重构误差中选取取值较大的为阈值K;
将待检测数据输入所述目标模型,得到对应的重构数据,计算所述待检测数据和与其对应的重构数据之间的待测重构误差;
将所述待测重构误差与所述阈值K进行大小比对,判断所述待测数据是否异常。
CN201910661730.9A 2019-07-22 2019-07-22 机器设备异常检测模型构建方法、检测方法及模型 Active CN110334478B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910661730.9A CN110334478B (zh) 2019-07-22 2019-07-22 机器设备异常检测模型构建方法、检测方法及模型

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910661730.9A CN110334478B (zh) 2019-07-22 2019-07-22 机器设备异常检测模型构建方法、检测方法及模型

Publications (2)

Publication Number Publication Date
CN110334478A true CN110334478A (zh) 2019-10-15
CN110334478B CN110334478B (zh) 2023-07-25

Family

ID=68147083

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910661730.9A Active CN110334478B (zh) 2019-07-22 2019-07-22 机器设备异常检测模型构建方法、检测方法及模型

Country Status (1)

Country Link
CN (1) CN110334478B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111091863A (zh) * 2019-11-29 2020-05-01 浪潮(北京)电子信息产业有限公司 一种存储设备故障检测方法及相关装置
CN111459778A (zh) * 2020-03-12 2020-07-28 平安科技(深圳)有限公司 运维系统异常指标检测模型优化方法、装置及存储介质
CN112101870A (zh) * 2020-09-19 2020-12-18 炬星科技(深圳)有限公司 一种实物信息采集方法、设备及计算机可读存储介质
CN114710211A (zh) * 2022-03-02 2022-07-05 比科奇微电子(杭州)有限公司 设备检测方法、装置、存储设备以及电子装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104268627A (zh) * 2014-09-10 2015-01-07 天津大学 一种基于深度神经网络迁移模型的短期风速预报方法
CN108344574A (zh) * 2018-04-28 2018-07-31 湖南科技大学 一种基于深度联合适配网络的风电机组轴承故障诊断方法
CN108764341A (zh) * 2018-05-29 2018-11-06 中国矿业大学 一种工况自适应深度神经网络模型及变工况故障诊断方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104268627A (zh) * 2014-09-10 2015-01-07 天津大学 一种基于深度神经网络迁移模型的短期风速预报方法
CN108344574A (zh) * 2018-04-28 2018-07-31 湖南科技大学 一种基于深度联合适配网络的风电机组轴承故障诊断方法
CN108764341A (zh) * 2018-05-29 2018-11-06 中国矿业大学 一种工况自适应深度神经网络模型及变工况故障诊断方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
WANLIN ZHAO 等: "A deep learning method using SDA combined with dropout for bearing fault diagnosis", 《19TH INTERNATIONAL CONFERENCE VIBROENGINEERING IN NANJING, CHINA, 2015》 *
刘志宇等: "基于深度学习和迁移学习的液压泵健康评估方法", 《机械与电子》 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111091863A (zh) * 2019-11-29 2020-05-01 浪潮(北京)电子信息产业有限公司 一种存储设备故障检测方法及相关装置
CN111459778A (zh) * 2020-03-12 2020-07-28 平安科技(深圳)有限公司 运维系统异常指标检测模型优化方法、装置及存储介质
CN111459778B (zh) * 2020-03-12 2024-05-07 平安科技(深圳)有限公司 运维系统异常指标检测模型优化方法、装置及存储介质
CN112101870A (zh) * 2020-09-19 2020-12-18 炬星科技(深圳)有限公司 一种实物信息采集方法、设备及计算机可读存储介质
CN114710211A (zh) * 2022-03-02 2022-07-05 比科奇微电子(杭州)有限公司 设备检测方法、装置、存储设备以及电子装置
CN114710211B (zh) * 2022-03-02 2023-11-17 比科奇微电子(杭州)有限公司 设备检测方法、装置、存储设备以及电子装置

Also Published As

Publication number Publication date
CN110334478B (zh) 2023-07-25

Similar Documents

Publication Publication Date Title
CN110334478A (zh) 机器设备异常检测模型构建方法、检测方法及模型
Adeli et al. Dynamic fuzzy wavelet neural network model for structural system identification
CN109116834B (zh) 一种基于深度学习的间歇过程故障检测方法
CN109635763B (zh) 一种人群密度估计方法
Chandy et al. Cyberattack detection using deep generative models with variational inference
CN113904786B (zh) 一种基于线路拓扑分析和潮流特性的虚假数据注入攻击辨识方法
Nejati et al. A new stochastic search technique combined with scenario approach for dynamic state estimation of power systems
CN110208660B (zh) 一种用于电力设备局部放电缺陷诊断的训练方法及装置
CN110147323A (zh) 一种基于生成对抗网络的变更智能检查方法及装置
CN109034140A (zh) 基于深度学习结构的工业控制网络信号异常检测方法
Padonou et al. Polar Gaussian processes and experimental designs in circular domains
Teferra et al. Mapping model validation metrics to subject matter expert scores for model adequacy assessment
CN112669230A (zh) 基于卷积神经网络的点云数据去噪方法
CN107402859A (zh) 软件功能验证系统及其验证方法
CN113487600A (zh) 一种特征增强尺度自适应感知船舶检测方法
CN114444620A (zh) 一种基于生成式对抗神经网络的示功图故障诊断方法
Li et al. Collective efficacy of support vector regression with smoothness priority in marine sensor data prediction
Rani et al. Fault detection and isolation using probabilistic wavelet neural operator auto-encoder with application to dynamic processes
Huang et al. Outlier detection for process monitoring in industrial cyber-physical systems
Foddis et al. Polluted aquifer inverse problem solution using artificial neural networks
CN110991603A (zh) 一种神经网络的局部鲁棒性验证方法
CN111126560A (zh) 一种基于云遗传算法优化bp神经网络的方法
CN116680639A (zh) 一种基于深度学习的深海潜水器传感器数据的异常检测方法
CN116754213A (zh) 一种基于强噪声背景下的电动闸阀故障诊断方法、装置及设备
CN116563250A (zh) 一种复原式自监督疵点检测方法、装置及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20230626

Address after: 250100 building S02, No. 1036, Langchao Road, high tech Zone, Jinan City, Shandong Province

Applicant after: Shandong Inspur Scientific Research Institute Co.,Ltd.

Address before: North 6th floor, S05 building, Langchao Science Park, 1036 Langchao Road, hi tech Zone, Jinan City, Shandong Province, 250100

Applicant before: SHANDONG INSPUR ARTIFICIAL INTELLIGENCE RESEARCH INSTITUTE Co.,Ltd.

GR01 Patent grant
GR01 Patent grant