CN113033695A - 一种电子器件故障的预测方法 - Google Patents

一种电子器件故障的预测方法 Download PDF

Info

Publication number
CN113033695A
CN113033695A CN202110389709.5A CN202110389709A CN113033695A CN 113033695 A CN113033695 A CN 113033695A CN 202110389709 A CN202110389709 A CN 202110389709A CN 113033695 A CN113033695 A CN 113033695A
Authority
CN
China
Prior art keywords
data
time
time sequence
normalization processing
current
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110389709.5A
Other languages
English (en)
Other versions
CN113033695B (zh
Inventor
王超
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Information Science and Technology University
Original Assignee
Beijing Information Science and Technology University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Information Science and Technology University filed Critical Beijing Information Science and Technology University
Priority to CN202110389709.5A priority Critical patent/CN113033695B/zh
Publication of CN113033695A publication Critical patent/CN113033695A/zh
Application granted granted Critical
Publication of CN113033695B publication Critical patent/CN113033695B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
    • Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
    • Y04S10/00—Systems supporting electrical power generation, transmission or distribution
    • Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

一种电子器件故障的预测方法，它属于电子器件故障预测技术领域。本发明解决了利用现有LSTM网络对电子器件故障预测的准确率低的问题。本发明在LSTM中引入数据感受野的思想，在单次计算中将前后时间步需要处理的数据关联纳入考虑，使模块对当前时刻数据特征的提取不只局限于当前数据本身，而是对子序列同时进行特征提取。这一机制可以充分利用LSTM网络的链式结构，使模型拥有独立的关系信息提取能力，提高了对电子器件输出的电压和电流数据预测的准确率以及故障预测的准确率。本发明可以应用于电子器件故障预测。

Description

一种电子器件故障的预测方法
技术领域
本发明属于电子器件故障预测技术领域，具体涉及一种电子器件故障的预测方法。
背景技术
时间序列是指在对生产和科学研究等过程中，按照时间顺序记录得到的一系列观测值，它是某个变量或多个变量在不同时刻所形成的随机数据，反映了现象的发展变化规律。传统方法如差分自回归滑动平均模型(ARIMA)、隐马尔科夫模型(HMM)、支持向量机(SVM)在时间序列预测问题上广泛应用。传统方法只通过较少数据即可对时序数据建模，但存在需要人工对模型定阶、状态提取、难以处理序列中上下文信息的问题。
深度学习模型能够对输入信号逐层抽象并提取特征，挖掘出更深层次的潜在规律，这使其逐渐被应用到时序数据的研究中。循环神经网络(Recurrent Neural Network,RNN)在隐藏层结构中引入了时序的概念，前面节点的信息会被记忆并被加入到当前节点的计算中。这一机制的设计，使得RNN具有记忆能力，可以很好地表达前后数据的依赖性。RNN模型在语音识别、时间序列预测等众多场景都有很好的表现。
电子器件所输出的电压和电流数据作为时间序列数据的一种，可以应用RNN模型进行下一时刻数据的预测，进而根据预测出的数据来预测下一时刻电子器件是否会发生故障。但是RNN是一种具有重复的神经网络模块的链式结构。在RNN的训练过程中，反向传播的梯度在每个时间步长逐渐增长或缩小，导致梯度向量的分量可能会在长时序列上指数增长或消失。针对此问题，Schmidhuber等人提出了长短时神经网络(Long Short-Term MemoryNeural Network，LSTM)，LSTM同样是链式循环结构，但是重复的模块拥有不同的结构。LSTM有四个交互的网络层进行删除或者增加信息到细胞状态。LSTM通过这种机制可以记忆更长的序列特征信息，在预测领域得以广泛应用。
虽然LSTM可以记忆更长的序列特征信息，但是LSTM并不能充分利用序列上不同时刻的数据的关联信息，因此，利用现有LSTM网络对电子器件所输出的电压和电流数据进行预测的准确率仍然较低，导致对电子器件故障预测的准确率较低。
发明内容
本发明的目的是为解决由于利用现有LSTM网络对电子器件所输出的电压和电流数据进行预测的准确率低，导致对电子器件故障预测的准确率低的问题，而提出了一种电子器件故障的预测方法。
本发明为解决上述技术问题所采取的技术方案是：一种电子器件故障的预测方法，所述方法具体包括以下步骤：
步骤一、采集M条电子器件正常运行时所输出的时序数据以及N条电子器件异常时所输出的时序数据，所述时序数据为各个时刻的电压和电流数据；并将采集的M+N条时序数据随机分为训练集和测试集两个部分；
步骤二、分别对训练集和测试集中的每条时序数据进行归一化处理后，得到归一化处理后的各条时序数据；
再分别对归一化处理后的各条时序数据内的各时刻数据进行分组：对于归一化处理后的当前条时序数据，从当前条时序数据的首个时刻开始对数据进行分组，每组内包含n个时刻的数据；
步骤三、利用数据分组后的训练集对构建的神经网络模型进行训练，其具体过程为：
所述构建的神经网络模型由n个LSTM网络并联组成；
所述构建的神经网络模型的初始化单元状态为C0，将第一组数据组成的输入序列记为[x1,x2,…,xn]，将输入序列[x1,x2,…,xn]输入构建的神经网络模型后，C0与输入序列[x1,x2,…,xn]结合生成序列组[x1,h0],[x2,h0],…,[xn,h0]；
其中，x1为第一组内的第1个时刻的数据，x2为第一组内的第2个时刻的数据,…,xn为第一组内的第n个时刻的数据，h0为隐状态；
序列组[x1,h0],[x2,h0],…,[xn,h0]进入各个LSTM网络的计算单元后生成[G1,G2,…,Gn]、[f1,f2,…,fn]与输出序列[h1,h2,…,hn]；
其中，G1为x1经第1个LSTM网络记忆的部分，G2为x2经第2个LSTM网络记忆的部分,…,Gn为xn经第n个LSTM网络记忆的部分；f1表示x1对应的遗忘信息的比例，f2表示x2对应的遗忘信息的比例,…,fn表示xn对应的遗忘信息的比例，h1为x1对应的输出，h2为x2对应的输出,…,hn为xn对应的输出；
根据[G1,G2,…,Gn]、[f1,f2,…,fn]和C0得到单元状态C1,C2,…,Cn；其中，C1,C2,…,Cn分别为第1个,第2个,…,第n个单元状态；
将Cn作为第一组数据的记忆状态，当第二组数据组成的输入序列输入到构建的神经网络模型后，Cn参与到第二组数据的计算；
直至构建的神经网络模型在测试集上的数据预测准确率达到精度要求时停止训练，获得训练好的神经网络模型；
步骤四、采集电子器件实际运行时所输出的电压和电流数据，对采集的数据进行步骤二的处理后，将处理后的数据输入到步骤三中训练好的神经网络模型，通过训练好的神经网络模型输出连续n个时刻的预测数据；
步骤五、将步骤四输出的预测数据与电压和电流阈值进行比较，预测电子器件是否发生故障。
本发明的有益效果是：本发明提出了一种电子器件故障的预测方法，本发明在LSTM中引入数据感受野的思想，在单次计算中将前后时间步需要处理的数据关联纳入考虑，使模块对当前时刻数据特征dt的提取不只局限于当前数据本身，而是对子序列中当前时刻数据及其邻近时刻数据dt,…,dt+n同时进行特征提取。这一机制可以充分利用LSTM的链式结构，使模型拥有独立的关系信息提取能力，提高了对电子器件输出的电压和电流数据预测的准确率以及故障预测的准确率。
实验结果表明，对比原LSTM模型，本发明模型针对长序列输入时的拟合和预测性能整体更优，在测试集上的最优预测精度(RMSE、MAE)分别达到了6.08与4.91，而原LSTM模型面对相同序列情况下RMSE与MAE值分别为13.68与9.57。
附图说明
图1为本发明的组间结构数据传输的示意图；
图2是本发明的组内数据传输的示意图；
图3是模块序列处理结构的示意图；
图4是原模型、改进模型1与改进模型2的RMSE结果对比图；
图5是原模型、改进模型1与改进模型2的MAE结果对比图。
具体实施方式
具体实施方式一、结合图1说明本实施方式。本实施方式所述的一种电子器件故障的预测方法，所述方法具体包括以下步骤：
步骤一、采集M条电子器件正常运行时所输出的时序数据以及N条电子器件异常时所输出的时序数据，所述时序数据为各个时刻的电压和电流数据；并将采集的M+N条时序数据随机分为训练集和测试集两个部分；
电子器件正常运行的过程中，每次采集电子器件输出的一条时序数据，该条时序数据中包括连续多个时刻的电压数据和电流数据，即对于时序数据中的每一时刻，均采集了该时刻输出的电压数据和电流数据，例如该条时序数据可以表示为(V1,I1),(V2,I2),…,(VN,IN)，(V1,I1)代表采集的第1个时刻的电压数据和电流数据，(V2,I2)代表采集的第2个时刻的电压数据和电流数据，(VN,IN)代表采集的第N个时刻的电压数据和电流数据。在具体划分数据集时，训练集和测试集中均应包括正常运行时的数据以及异常运行时的数据；
步骤二、分别对训练集和测试集中的每条时序数据进行归一化处理后，得到归一化处理后的各条时序数据；
再分别对归一化处理后的各条时序数据内的各时刻数据进行分组：对于归一化处理后的当前条时序数据，从当前条时序数据的首个时刻开始对数据进行分组，每组内包含n个时刻的数据；
步骤三、利用数据分组后的训练集对构建的神经网络模型进行训练，其具体过程为：
所述构建的神经网络模型由n个LSTM网络并联组成；
所述构建的神经网络模型的初始化单元状态为C0，将第一组数据组成的输入序列记为[x1,x2,…,xn]，将输入序列[x1,x2,…,xn]输入构建的神经网络模型后，C0与输入序列[x1,x2,…,xn]结合生成序列组[x1,h0],[x2,h0],…,[xn,h0]；其中，x1为第1个LSTM网络的输入，x2为第2个LSTM网络的输入，…，xn为第n个LSTM网络的输入；
其中，x1为第一组内的第1个时刻的数据(由电压数据和电流数据组成的向量)，x2为第一组内的第2个时刻的数据,…,xn为第一组内的第n个时刻的数据，h0为隐状态；
序列组[x1,h0],[x2,h0],…,[xn,h0]进入各个LSTM网络的计算单元后生成[G1,G2,…,Gn]、[f1,f2,…,fn]与输出序列[h1,h2,…,hn]；
其中，G1为x1经第1个LSTM网络记忆的部分，G2为x2经第2个LSTM网络记忆的部分,…,Gn为xn经第n个LSTM网络记忆的部分；f1表示x1对应的遗忘信息的比例，f2表示x2对应的遗忘信息的比例,…,fn表示xn对应的遗忘信息的比例，h1为x1对应的输出，h2为x2对应的输出,…,hn为xn对应的输出；
根据[G1,G2,…,Gn]、[f1,f2,…,fn]和C0得到单元状态C1,C2,…,Cn；其中，C1,C2,…,Cn分别为第1个,第2个,…,第n个单元状态；C1也就是x1对应的单元状态，C2也就是x2对应的单元状态，Cn也就是xn对应的单元状态；
将Cn作为第一组数据的记忆状态，当第二组数据组成的输入序列输入到构建的神经网络模型后，Cn参与到第二组数据的计算；
直至构建的神经网络模型在测试集上的数据预测准确率达到精度要求时停止训练，获得训练好的神经网络模型；
步骤四、采集电子器件实际运行时所输出的电压和电流数据，对采集的数据进行步骤二的处理后，将处理后的数据输入到步骤三中训练好的神经网络模型，通过训练好的神经网络模型输出连续n个时刻的预测数据；
步骤五、将步骤四输出的预测数据与电压和电流阈值进行比较，预测电子器件是否发生故障。
由于不同的电子器件正常运行时所输出的电压和电流数据不同，所以，需要根据具体待预测的电子器件来设定电压和电流阈值。
具体实施方式二：本实施方式与具体实施方式一不同的是，所述步骤一中，训练集和测试集中的数据量之比为8：2。
具体实施方式三：本实施方式与具体实施方式一不同的是，所述步骤二中，分别对训练集和测试集中的每条时序数据进行归一化处理后，得到归一化处理后的各条时序数据，归一化处理的具体过程为：
对于任意的一条时序数据，对该条时序数据中的电压数据进行归一化处理：
Figure BDA0003016370240000051
其中，Maxvalue为该条时序数据的各个时刻电压数据中的最大值，Minvalue为该条时序数据的各个时刻电压数据中的最小值，Maxvalue-Minvalue为极差，Vi为该条时序数据中第i时刻的电压数据，Vi′为归一化处理后该条时序数据中第i时刻的电压数据大小；
同理，再对该条时序数据中的电流数据进行归一化处理，得到归一化处理后的该条时序数据；
分别对每条时序数据进行归一化处理后，获得归一化处理后的各条时序数据。
在数据采集的过程中，数据集质量会受环境因素干扰，采集数据的不正当操作以及设备本身的问题会导致采集的数据中存在异常，因此在训练前先对数据进行预处理。
具体实施方式四：本实施方式与具体实施方式一不同的是，所述步骤二中，对归一化处理后的各条时序数据内的各时刻数据进行分组，其具体过程为：
对于归一化处理后的当前条时序数据，将归一化处理后的当前条时序数据中第1时刻至第n时刻的电压和电流数据作为第一组，将第n+1时刻至第2n时刻的电压和电流数据作为第二组，以此类推，直至归一化处理后的当前条时序数据中各时刻数据分组完成；
同理，直至对归一化处理后的各条时序数据内的各时刻数据分组完成。
具体实施方式五：本实施方式与具体实施方式一不同的是，所述单元状态C1,C2,…,Cn的计算方法为：
C1＝G1+f1·C0
C2＝G2+f2·G1+f2·f1·C0
C3＝G3+f3·G2+f3·f2·G1+f3·f2·f1·C0
……
Cn＝Gn+fn·Gn-1+fn·fn-1·Gn-2+…+fn·fn-1…f3·f2·G1+fn·fn-1…f2·f1·C0
其中，fn-1表示第n-1个时刻的数据xn-1对应的遗忘信息的比例，f3表示第3个时刻的数据x3对应的遗忘信息的比例，Gn-1为xn-1经LSTM网络记忆的部分。
理论背景：长短时神经网络
LSTM单元中有三种类型的门控，分别为输入门、遗忘门和输出门。(a)遗忘门用来控制前一个过程中状态信息的保存；(b)输入门是用来控制序列的输入大小；(c)输出门用来控制输入信息在计算后的输出。门控可以看作一层全连接层，LSTM对信息的存储和更新正是由这些门控来实现。更具体地说，门控是由sigmoid函数和点乘运算实现，门控并不会提供额外的信息。LSTM的前向传播如公式(1-6)所示：
ft＝σ(Wfht-1+Ufxt+bf) (1)
it＝σ(Wiht-1+Uixt+bi) (2)
Figure BDA0003016370240000061
Figure BDA0003016370240000062
ot＝σ(Woht-1+Uoxt+bo) (5)
ht＝otΘtanh(Ct) (6)
Figure BDA0003016370240000063
其中，Wf、Wc、Wi、Wo为循环权重，Uf、Ui、Uc、Uo为输入权重，wy为输出权重，bf、bo、bi、bc、by为偏置，ht-1和xt分别为隐含层的输出和输入，Θ为每个时刻输入的有效信息。
在LSTM的反向传播过程中，通过损失函数可计算得
Figure BDA0003016370240000064
以此为基础可得
Figure BDA0003016370240000065
Figure BDA0003016370240000066
计算t时刻各节点的梯度结果如公式(8)所示。
Figure BDA0003016370240000071
本发明通过引入数据感受野进一步强化长短时神经网络针对序列中不同时间点的数据特征的提取能力。
在单次计算中将前后时间步需要处理的数据关联纳入考虑，对当前时刻数据{dt}的处理不只局限于当前数据本身，而是对长度为n子序列(当前时刻数据及其邻近序列dt,…,dt+n)同时进行特征提取。在梯度反向传导时，并联结构可通过单次计算得到n个序列的节点梯度。这一机制可在当前序列节点同时计算前后相邻节点的梯度，同时进行前后节点的特征提取。
在公式(4)中设定
Figure BDA0003016370240000072
由式(4)可得
C1＝G1+f1C0 (9)
C2＝G2+f2G1+f2f1C0 (10)
C3＝G3+f3G2+f3f2G1+f3f2f1C0 (11)
……
Cn＝Gn+fnGn-1+fnfn-1Gn-2+...+fnfn-1...f3f2G1+fnfn-1...f2f1C0 (12)
模块序列处理结构如图3所示，初始化单元状态C0传入模块内，与输入序列[x1,x2,x3,x4]结合，生成序列组[x1,h0]、[x2,h0]、[x3,h0]、[x4,h0]。序列组进入计算单元后生成[G1,G2,G3,G4]，[f1,f2,f3,f4]与输出序列[h1,h2,h3,h4]。由[G1,G2,G3,G4]，[f1,f2,f3,f4]与传入单元状态C0通过式(12)可得本模块单元状态C4，传输给下一模块。在此结构中，单模块可提取长度为4的序列特征，在单次计算中将t＝1、2、3、4时需要处理的数据关联纳入考虑，以增强数据感受野提高记忆上限。
图1展示模块间的数据交互过程，长度为4的序列经特征提取得到四个单元状态，将最新的单元状态向下个模块传递。模块内部数据传输过程如图2所示。前一个模块传输的单元状态C0转换为隐状态h0与输入序列[x1,x2,x3,x4]结合，生成序列组[x1,h0]、[x2,h0]、[x3,h0]、[x4,h0]。当前模块在进行特征提取后，输出隐状态序列[h1,h2,h3,h4]，同时向后一模块传输最新单元状态。
图3展示出模块内结构设计，模块内由四个标准LSTM模块并联构成。前模块状态C0传输到模块内部转换为h0，分别与X1、X2、X3、X4组合成特征向量。特征向量经过LSTM模块后生成特征参数{f1，G1，C1}、{f2，G2，C2}、{f3，G3，C3}、{f4，G4，C4}，根据公式(6,9～12)计算得{C4，h1，h2，h3，h4}。其中C4表示当前模块的记忆状态向下一模块传输，{h1,h2,h3,h4}为当前模块输出。
实验选取均方根误差(Root Mean Square Error，RMSE)，平均绝对误差(MeanAbsolute Error，MAE)和受试者工作特征线下面积(Area Under Curve，AUC)对模型效果进行评估，RMSE的计算公式表示为
Figure BDA0003016370240000081
其中yt和ft分别为数据时间序列在t时刻的观测值和模型输出值，T为数据点个数，当RMSE达到最小时，可得到最佳回归模型(Cao K,Kim H,Hwang C,et al.CNN-LSTM Coupled Model for Prediction ofWaterworks Operation Data[J].Journal of Information Processing Systems,2018,14(6))。受试者工作特征曲线(receiver operating characteristic curve，ROC)是以真阳性率(敏感性)为纵坐标，假阳性率(1-特异性)为横坐标绘制的曲线。AUC为ROC曲线下与坐标轴围成的面积，AUC越接近1.0，检测方法真实性越高。本发明通过对测试集计算RMSE，MAE和AUC值来定量地评价模型的拟合和预测精度。
图4给出原模型(LSTM)、改进模型1(每组内包含两个时刻的数据)与改进模型2(每组内包含三个时刻的数据)预测过程中的RMSE结果对比图，图5给出原模型(LSTM)、改进模型1(每组内包含两个时刻的数据)与改进模型2(每组内包含三个时刻的数据)预测过程中的MAE结果对比图。
图4显示，改进后模型预测误差显著降低。直到序列长度为10时，原模型、改进模型1、改进模型2误差接近。序列长度增长到25时，改进模型1误差降低，远低于原模型。在序列长度逐渐增长到200的过程中，原模型、改进模型1与改进模型2均有上下波动的现象。但是原模型的误差曲线有明显升高的趋势。这表明，随着时间序列的增长，LSTM模型(单模块结构建立)的记忆能力在逐渐弱化。
然而，改进后的模型有效延缓了此现象，在此过程中，改进模型1与改进模型2的误差虽有略微上升趋势，但明显低于原模型误差。同时改进后模型误差增长趋势变慢。和均方根误差(图4)表现相似，平均绝对误差MAE(图5)曲线展示同样的发展趋势。
表1模型预测精度(RMSE)对比
Figure BDA0003016370240000091
表1给出常规LSTM模型、RNN模型、与本发明模型预测精度(RMSE)对比。对比分为故障区间误差、正常区间误差与总区间误差。表1中RNN在正常区间与故障区间的预测误差较大，分别为30.1与33.49。与之相比，常规LSTM模型的预测值更贴近真实值，但针对故障区间的预测波动幅度依旧很大。而本发明提出的提高数据感受野的LSTM模型比前几个模型的预测都精准，预测值最接近真实值。其中针对正常区间的预测误差为1.98，故障区间的预测误差为9.28。较常规LSTM模型分别提升了68.37％与54.04％。
本发明的上述算例仅为详细地说明本发明的计算模型和计算流程，而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动，这里无法对所有的实施方式予以穷举，凡是属于本发明的技术方案所引伸出的显而易见的变化或变动仍处于本发明的保护范围之列。

Claims (5)

1.一种电子器件故障的预测方法，其特征在于，所述方法具体包括以下步骤：
步骤一、采集M条电子器件正常运行时所输出的时序数据以及N条电子器件异常时所输出的时序数据，所述时序数据为各个时刻的电压和电流数据；并将采集的M+N条时序数据随机分为训练集和测试集两个部分；
步骤二、分别对训练集和测试集中的每条时序数据进行归一化处理后，得到归一化处理后的各条时序数据；
再分别对归一化处理后的各条时序数据内的各时刻数据进行分组：对于归一化处理后的当前条时序数据，从当前条时序数据的首个时刻开始对数据进行分组，每组内包含n个时刻的数据；
步骤三、利用数据分组后的训练集对构建的神经网络模型进行训练，其具体过程为：
所述构建的神经网络模型由n个LSTM网络并联组成；
所述构建的神经网络模型的初始化单元状态为C0，将第一组数据组成的输入序列记为[x1,x2,…,xn]，将输入序列[x1,x2,…,xn]输入构建的神经网络模型后，C0与输入序列[x1,x2,…,xn]结合生成序列组[x1,h0],[x2,h0],…,[xn,h0]；
其中，x1为第一组内的第1个时刻的数据，x2为第一组内的第2个时刻的数据,…,xn为第一组内的第n个时刻的数据，h0为隐状态；
序列组[x1,h0],[x2,h0],…,[xn,h0]进入各个LSTM网络的计算单元后生成[G1,G2,…,Gn]、[f1,f2,…,fn]与输出序列[h1,h2,…,hn]；
其中，G1为x1经第1个LSTM网络记忆的部分，G2为x2经第2个LSTM网络记忆的部分,…,Gn为xn经第n个LSTM网络记忆的部分；f1表示x1对应的遗忘信息的比例，f2表示x2对应的遗忘信息的比例,…,fn表示xn对应的遗忘信息的比例，h1为x1对应的输出，h2为x2对应的输出,…,hn为xn对应的输出；
根据[G1,G2,…,Gn]、[f1,f2,…,fn]和C0得到单元状态C1,C2,…,Cn；其中，C1,C2,…,Cn分别为第1个,第2个,…,第n个单元状态；
将Cn作为第一组数据的记忆状态，当第二组数据组成的输入序列输入到构建的神经网络模型后，Cn参与到第二组数据的计算；
直至构建的神经网络模型在测试集上的数据预测准确率达到精度要求时停止训练，获得训练好的神经网络模型；
步骤四、采集电子器件实际运行时所输出的电压和电流数据，对采集的数据进行步骤二的处理后，将处理后的数据输入到步骤三中训练好的神经网络模型，通过训练好的神经网络模型输出连续n个时刻的预测数据；
步骤五、将步骤四输出的预测数据与电压和电流阈值进行比较，预测电子器件是否发生故障。
2.根据权利要求1所述的一种电子器件故障的预测方法，其特征在于，所述步骤一中，训练集和测试集中的数据量之比为8：2。
3.根据权利要求1所述的一种电子器件故障的预测方法，其特征在于，所述步骤二中，分别对训练集和测试集中的每条时序数据进行归一化处理后，得到归一化处理后的各条时序数据，归一化处理的具体过程为：
对于任意的一条时序数据，对该条时序数据中的电压数据进行归一化处理：
Figure FDA0003016370230000021
其中，Maxvalue为该条时序数据的各个时刻电压数据中的最大值，Minvalue为该条时序数据的各个时刻电压数据中的最小值，Maxvalue-Minvalue为极差，Vi为该条时序数据中第i时刻的电压数据，Vi′为归一化处理后该条时序数据中第i时刻的电压数据大小；
同理，再对该条时序数据中的电流数据进行归一化处理，得到归一化处理后的该条时序数据；
分别对每条时序数据进行归一化处理后，获得归一化处理后的各条时序数据。
4.根据权利要求1所述的一种电子器件故障的预测方法，其特征在于，所述步骤二中，对归一化处理后的各条时序数据内的各时刻数据进行分组，其具体过程为：
对于归一化处理后的当前条时序数据，将归一化处理后的当前条时序数据中第1时刻至第n时刻的电压和电流数据作为第一组，将第n+1时刻至第2n时刻的电压和电流数据作为第二组，以此类推，直至归一化处理后的当前条时序数据中各时刻数据分组完成；
同理，直至对归一化处理后的各条时序数据内的各时刻数据分组完成。
5.根据权利要求1所述的一种电子器件故障的预测方法，其特征在于，所述单元状态C1,C2,…,Cn的计算方法为：
C1＝G1+f1·C0
C2＝G2+f2·G1+f2·f1·C0
C3＝G3+f3·G2+f3·f2·G1+f3·f2·f1·C0
……
Cn＝Gn+fn·Gn-1+fn·fn-1·Gn-2+…+fn·fn-1…f3·f2·G1+fn·fn-1…f2·f1·C0
其中，fn-1表示第n-1个时刻的数据xn-1对应的遗忘信息的比例，f3表示第3个时刻的数据x3对应的遗忘信息的比例，Gn-1为xn-1经LSTM网络记忆的部分。
CN202110389709.5A 2021-04-12 2021-04-12 一种电子器件故障的预测方法 Active CN113033695B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110389709.5A CN113033695B (zh) 2021-04-12 2021-04-12 一种电子器件故障的预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110389709.5A CN113033695B (zh) 2021-04-12 2021-04-12 一种电子器件故障的预测方法

Publications (2)

Publication Number Publication Date
CN113033695A true CN113033695A (zh) 2021-06-25
CN113033695B CN113033695B (zh) 2023-07-25

Family

ID=76456326

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110389709.5A Active CN113033695B (zh) 2021-04-12 2021-04-12 一种电子器件故障的预测方法

Country Status (1)

Country Link
CN (1) CN113033695B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115041544A (zh) * 2022-08-11 2022-09-13 深圳市信润富联数字科技有限公司 冲压件的异常检测方法、装置及存储介质

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107121679A (zh) * 2017-06-08 2017-09-01 湖南师范大学 用于雷达回波外推的循环神经网络预测法及记忆单元结构
US20190018019A1 (en) * 2017-07-17 2019-01-17 Bioinformatics Solutions Inc. Methods and systems for de novo peptide sequencing using deep learning
WO2019025944A1 (en) * 2017-07-31 2019-02-07 Telefonaktiebolaget Lm Ericsson (Publ) INTEGRATED METHOD FOR AUTOMATING THE IMPLEMENTATION OF SERVICE LEVEL AGREEMENTS FOR CLOUD SERVICES
CN109711714A (zh) * 2018-12-24 2019-05-03 浙江大学 基于并联长短期记忆网络的制造装配产品质量预测方法
CN110021165A (zh) * 2019-03-18 2019-07-16 浙江工业大学 一种基于Autoencoder-LSTM融合模型的交通流预测方法
CN110390436A (zh) * 2019-07-25 2019-10-29 上海电力大学 一种基于ssa与lstm深度学习的电厂存煤量短期预测方法
CN110702418A (zh) * 2019-10-10 2020-01-17 山东超越数控电子股份有限公司 航空发动机故障预测方法
US20200042799A1 (en) * 2018-07-31 2020-02-06 Didi Research America, Llc System and method for point-to-point traffic prediction
CN111638028A (zh) * 2020-05-20 2020-09-08 国网河北省电力有限公司电力科学研究院 一种基于振动特征的高压并联电抗器机械状态评估方法
CN111695607A (zh) * 2020-05-25 2020-09-22 北京信息科技大学 基于lstm增强模型的电子设备故障预测方法
CN111753189A (zh) * 2020-05-29 2020-10-09 中山大学 一种少样本跨模态哈希检索共同表征学习方法
CN111948622A (zh) * 2020-08-07 2020-11-17 哈尔滨工程大学 基于并联cnn-lstm的线性调频雷达信号toa估计算法

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107121679A (zh) * 2017-06-08 2017-09-01 湖南师范大学 用于雷达回波外推的循环神经网络预测法及记忆单元结构
US20190018019A1 (en) * 2017-07-17 2019-01-17 Bioinformatics Solutions Inc. Methods and systems for de novo peptide sequencing using deep learning
WO2019025944A1 (en) * 2017-07-31 2019-02-07 Telefonaktiebolaget Lm Ericsson (Publ) INTEGRATED METHOD FOR AUTOMATING THE IMPLEMENTATION OF SERVICE LEVEL AGREEMENTS FOR CLOUD SERVICES
US20200042799A1 (en) * 2018-07-31 2020-02-06 Didi Research America, Llc System and method for point-to-point traffic prediction
CN109711714A (zh) * 2018-12-24 2019-05-03 浙江大学 基于并联长短期记忆网络的制造装配产品质量预测方法
CN110021165A (zh) * 2019-03-18 2019-07-16 浙江工业大学 一种基于Autoencoder-LSTM融合模型的交通流预测方法
CN110390436A (zh) * 2019-07-25 2019-10-29 上海电力大学 一种基于ssa与lstm深度学习的电厂存煤量短期预测方法
CN110702418A (zh) * 2019-10-10 2020-01-17 山东超越数控电子股份有限公司 航空发动机故障预测方法
CN111638028A (zh) * 2020-05-20 2020-09-08 国网河北省电力有限公司电力科学研究院 一种基于振动特征的高压并联电抗器机械状态评估方法
CN111695607A (zh) * 2020-05-25 2020-09-22 北京信息科技大学 基于lstm增强模型的电子设备故障预测方法
CN111753189A (zh) * 2020-05-29 2020-10-09 中山大学 一种少样本跨模态哈希检索共同表征学习方法
CN111948622A (zh) * 2020-08-07 2020-11-17 哈尔滨工程大学 基于并联cnn-lstm的线性调频雷达信号toa估计算法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
ZUNYA SHI 等: "A dual-LSTM framework combining change point detection and remaining useful life prediction", 《RELIABILITY ENGINEERING AND SYSTEM SAFETY》, vol. 205, pages 1 - 12 *
刘春晓 等: "时空神经网络滚动轴承故障诊断方法", 《中国设备工程》, no. 13, pages 147 - 149 *
刘月峰 等: "融合CNN与BiLSTM的网络入侵检测方法", 《计算机工程》, vol. 45, no. 12, pages 127 - 133 *
吴明慧 等: "面向预测的长短时神经网络记忆增强机制", 《计算机工程与应用》, vol. 57, no. 21, pages 109 - 115 *
曹正志 等: "基于并联CNN-SE-Bi-LSTM的轴承剩余使用寿命预测", 《计算机应用研究》, vol. 38, no. 07, pages 2103 - 2107 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115041544A (zh) * 2022-08-11 2022-09-13 深圳市信润富联数字科技有限公司 冲压件的异常检测方法、装置及存储介质

Also Published As

Publication number Publication date
CN113033695B (zh) 2023-07-25

Similar Documents

Publication Publication Date Title
CN110223517B (zh) 基于时空相关性的短时交通流量预测方法
CN109816095B (zh) 基于改进门控循环神经网络的网络流量预测方法
CN108197648B (zh) 一种基于lstm深度学习模型的水电机组故障诊断方法与系统
CN110070172B (zh) 基于双向独立循环神经网络的序列预测模型的建立方法
CN111324990A (zh) 基于多层长短期记忆神经网络模型的孔隙度预测方法
CN111144552B (zh) 一种粮食品质多指标预测方法及装置
CN111539132B (zh) 一种基于卷积神经网络的动载荷时域识别方法
CN113723007B (zh) 基于drsn和麻雀搜索优化的设备剩余寿命预测方法
CN111257934B (zh) 基于二阶神经元深度神经网络的地震动峰值加速度预测方法
CN115051929B (zh) 基于自监督目标感知神经网络的网络故障预测方法及装置
CN116738868B (zh) 一种滚动轴承剩余寿命预测方法
CN112287592A (zh) 一种基于深度置信网络的工业设备故障诊断方法及系统
CN112766603A (zh) 一种交通流量预测方法、系统、计算机设备及存储介质
CN113743011A (zh) 一种基于pso-bp神经网络的设备寿命预测方法和系统
CN114548532A (zh) 一种基于vmd的tgcn-gru超短期负荷预测方法、装置和电子设备
CN113947182A (zh) 基于双阶段堆叠图卷积网络的交通流预测模型构建方法
CN110223342B (zh) 一种基于深度神经网络的空间目标尺寸估计方法
CN117312769A (zh) 一种基于BiLSTM的物联网时序数据异常检测方法
CN113033695A (zh) 一种电子器件故障的预测方法
CN108538301B (zh) 一种基于神经网络音频技术的智能数码乐器
CN113627594A (zh) 基于wgan的一维时序数据增广方法
CN112149355B (zh) 基于半监督动态反馈堆栈降噪自编码器模型的软测量方法
CN115800274B (zh) 一种5g配电网馈线自动化自适应方法、装置及存储介质
CN117668743A (zh) 一种关联时空关系的时序数据预测方法
CN117131979A (zh) 基于有向超图及注意力机制的交通流速度预测方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant