CN109407654B - 一种基于稀疏深度神经网络的工业数据非线性因果分析方法 - Google Patents
一种基于稀疏深度神经网络的工业数据非线性因果分析方法 Download PDFInfo
- Publication number
- CN109407654B CN109407654B CN201811563379.1A CN201811563379A CN109407654B CN 109407654 B CN109407654 B CN 109407654B CN 201811563379 A CN201811563379 A CN 201811563379A CN 109407654 B CN109407654 B CN 109407654B
- Authority
- CN
- China
- Prior art keywords
- variable
- neural network
- variables
- causal
- input
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000001364 causal effect Effects 0.000 title claims abstract description 76
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 52
- 238000004458 analytical method Methods 0.000 title claims abstract description 40
- 238000000034 method Methods 0.000 claims abstract description 72
- 230000008569 process Effects 0.000 claims abstract description 55
- 238000004519 manufacturing process Methods 0.000 claims abstract description 11
- 238000007689 inspection Methods 0.000 claims abstract description 4
- 238000012360 testing method Methods 0.000 claims description 31
- 238000012549 training Methods 0.000 claims description 20
- 238000004422 calculation algorithm Methods 0.000 claims description 17
- 239000011159 matrix material Substances 0.000 claims description 15
- 238000005457 optimization Methods 0.000 claims description 13
- 210000002569 neuron Anatomy 0.000 claims description 11
- 230000004913 activation Effects 0.000 claims description 6
- 238000011478 gradient descent method Methods 0.000 claims description 3
- 238000009826 distribution Methods 0.000 claims description 2
- 239000000126 substance Substances 0.000 claims description 2
- 238000005070 sampling Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 108010057186 Insulin Glargine Proteins 0.000 description 2
- COCFEDIXXNGUNL-RFKWWTKHSA-N Insulin glargine Chemical compound C([C@@H](C(=O)N[C@@H](CC(C)C)C(=O)N[C@H]1CSSC[C@H]2C(=O)N[C@H](C(=O)N[C@@H](CO)C(=O)N[C@H](C(=O)N[C@H](C(N[C@@H](CO)C(=O)N[C@@H](CC(C)C)C(=O)N[C@@H](CC=3C=CC(O)=CC=3)C(=O)N[C@@H](CCC(N)=O)C(=O)N[C@@H](CC(C)C)C(=O)N[C@@H](CCC(O)=O)C(=O)N[C@@H](CC(N)=O)C(=O)N[C@@H](CC=3C=CC(O)=CC=3)C(=O)N[C@@H](CSSC[C@H](NC(=O)[C@H](C(C)C)NC(=O)[C@H](CC(C)C)NC(=O)[C@H](CC=3C=CC(O)=CC=3)NC(=O)[C@H](CC(C)C)NC(=O)[C@H](C)NC(=O)[C@H](CCC(O)=O)NC(=O)[C@H](C(C)C)NC(=O)[C@H](CC(C)C)NC(=O)[C@H](CC=3NC=NC=3)NC(=O)[C@H](CO)NC(=O)CNC1=O)C(=O)NCC(=O)N[C@@H](CCC(O)=O)C(=O)N[C@@H](CCCNC(N)=N)C(=O)NCC(=O)N[C@@H](CC=1C=CC=CC=1)C(=O)N[C@@H](CC=1C=CC=CC=1)C(=O)N[C@@H](CC=1C=CC(O)=CC=1)C(=O)N[C@@H]([C@@H](C)O)C(=O)N1[C@@H](CCC1)C(=O)N[C@@H](CCCCN)C(=O)N[C@@H]([C@@H](C)O)C(=O)N[C@@H](CCCNC(N)=N)C(=O)N[C@@H](CCCNC(N)=N)C(O)=O)C(=O)NCC(O)=O)=O)CSSC[C@@H](C(N2)=O)NC(=O)[C@H](CCC(N)=O)NC(=O)[C@H](CCC(O)=O)NC(=O)[C@H](C(C)C)NC(=O)[C@@H](NC(=O)CN)[C@@H](C)CC)[C@@H](C)CC)[C@@H](C)O)NC(=O)[C@H](CCC(N)=O)NC(=O)[C@H](CC(N)=O)NC(=O)[C@@H](NC(=O)[C@@H](N)CC=1C=CC=CC=1)C(C)C)C1=CN=CN1 COCFEDIXXNGUNL-RFKWWTKHSA-N 0.000 description 2
- 238000011217 control strategy Methods 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 229960002869 insulin glargine Drugs 0.000 description 2
- 238000012417 linear regression Methods 0.000 description 2
- 230000010355 oscillation Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 238000013019 agitation Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000012047 cause and effect analysis Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 238000009776 industrial production Methods 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003534 oscillatory effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B23/00—Testing or monitoring of control systems or parts thereof
- G05B23/02—Electric testing or monitoring
- G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
- G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
- G05B23/0243—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/20—Pc systems
- G05B2219/24—Pc safety
- G05B2219/24065—Real time diagnostics
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Feedback Control In General (AREA)
Abstract
本发明公开了一种基于稀疏深度神经网络的工业数据非线性因果分析方法，包括以下步骤：(1)采集待检测工业过程中全部控制回路的过程输出信号；(2)选取一个过程输出信号作为输出变量，全部变量的各阶滞后作为输入变量，构建稀疏深度神经网络；(3)通过依次删减输入变量，逐个完成格兰杰因果检验，得到此过程输出信号的全部格兰杰原因；(4)重复步骤(2)和(3)，得到全部过程输出信号间的因果关系；(5)综合全部过程输出信号间的因果关系，定位故障源位置及故障传播路径。利用本发明，可以对工业过程的控制回路信号进行非线性因果分析，完成故障源的定位及故障传播路径的分析。
Description
技术领域
本发明属于工业控制系统中的故障诊断领域，尤其是涉及一种基于稀疏深度神经网络的工业数据非线性因果分析方法。
背景技术
现代工业过程由成百上千个高度耦合的控制回路组成，其过程设备具有规模大、变量多、综合度高且长时间运行在闭环控制下等特点。因而，各个回路的实际控制性能与工业生产的质量、能耗以及操作的安全性息息相关，也是实现上层优化、调度和管理的基础。然而，由于控制回路中控制器的过整定、过程的非线性、阀门粘滞、外部扰动和模型失配等原因，只有三分之一的回路在实际操作中控制性能满足要求，其余三分之二的回路出现不同程度的控制性能问题。因而，对工业控制回路进行因果分析，对工业过程的故障诊断和控制性能的提升具有重要意义。
但是在典型的工业过程中，回路变量数目众多，若采用普通的非稀疏的因果分析方法，计算过程将十分复杂、计算结果也不够直观简洁，最终的应用效果和价值有限。而在实际过程中，存在直接或者强烈因果关系的变量只占总变量的小部分，同时只有部分变量是因果关系中关键变量。因而，对工业控制回路，采用稀疏因果分析的研究方法，实现对回路的关键因果关系的检测，可以达到高效、简洁、精准的目的。
若想通过对复杂工业过程的建模实现因果分析，需要知道完整的工艺流程、过程结构等基础知识，因此存在一定的难度。所以在实际应用中，还可以基于工业过程的数据实现因果分析。
根据原理不同，可将已提出的基于数据的因果分析方法大致分为三类：基于时滞关系的格兰杰因果分析、基于统计概率的条件概率因果分析以及基于因果信息不对称性的因果分析。
格兰杰因果关系最早由格兰杰提出并命名，是最经典也是最常用的因果分析概念。在时间序列情形下，两个变量X、Y之间的格兰杰因果关系定义为：若在包含了变量X、Y的过去信息的条件下，对变量Y的预测效果要优于只单独由Y的过去信息对Y进行的预测效果，即变量X有助于解释变量Y的将来变化，则认为变量X是变量Y的格兰杰原因。
传统的格兰杰因果分析需要对模型进行回归，这导致此分析方法依旧存在要求假设X与Y间为线性关系、变量间两两配对检验算法整体效率较低、模型的准确度(特别是模型的阶次)对结果存在影响等问题。
发明内容
本发明提供了一种基于稀疏深度神经网络的工业数据非线性因果分析方法，克服了传统格兰杰因果分析的计算效率低、只能检测线性因果关系的缺点，可以完成非线性因果关系的检验，且只需获取常规运行数据，无需过程机理知识。
一种基于稀疏深度神经网络的工业数据非线性因果分析方法，包括以下步骤：
(1)采集待检测工业过程中全部控制回路的过程输出信号；
(2)选取一个过程输出信号作为输出变量，全部变量的各阶滞后作为输入变量，构建稀疏深度神经网络；
(3)通过依次删减输入变量，逐个完成格兰杰因果检验，得到此过程输出信号的全部格兰杰原因；
(4)重复步骤(2)和(3)，得到全部过程输出信号间的因果关系；
(5)综合全部过程输出信号间的因果关系，定位故障源位置及故障传播路径。
本发明利用深度神经网络训练代替线性回归，可以检验出非线性因果关系，并加入分层组稀疏的约束，减少不必要的格兰杰因果检验次数，并实现滞后阶次的自动选择。通过本发明的方法，可以对工业过程的控制回路信号进行非线性因果分析，完成故障源的定位及故障传播路径的分析。
步骤(2)中，构建稀疏深度神经网络的过程为：
(2-1)选取一个过程输出信号Xi(t)作为输出变量，全部变量的各阶滞后X1(t-1),X1(t-2),…,X1(t-K),…,Xp(t-1),Xp(t-2),…,Xp(t-K)作为输入变量，取前3/4时间的数据作为训练集，后1/4时间的数据作为测试集，设计包含三个隐层的全连接神经网络，选取ReLU激活函数；
其中，i＝1,2,…,p，表示待分析的变量的编号；K表示滞后阶次，p表示变量个数；
(2-2)定义该神经网络的损失函数，在均方误差的基础上添加损失函数为：
其中，T表示总时间长度，xit表示第i个变量的当前值信号序列，x(t-1):(t-K)表示全部变量的第1至第K阶滞后信号构成的信号矩阵，W表示神经网络的权重系数矩阵，
表示输入层由第j组神经元中的第k个至第一隐层每一个神经元的权重系数，‖·‖F表示矩阵的Frobenius范数；
(2-3)选取神经网络的反向传播优化算法为近端梯度法，具体公式为：
可以通过以下算法迭代得到：
1)
2)对于h＝1,…,H，更新rgh←(1-λ/||rgh||2)+rgh；
3)返回迭代结果r作为最优解
其中，
代表迭代时参数目标值，
为通过迭代得到的使得该目标函数最小的x作为迭代结果，λ为参数范围的阈值，r存储迭代结果，xgh为经过第h次迭代得到的结果。
(2-4)生成会话，在训练集上反复运行反向传播优化算法，不断优化模型各层间的权重系数得到在训练集上损失函数最小的模型参数，计算其在测试集上的全均方误差。
步骤(3)的具体过程为：
(3-1)找出可能为输出变量的格兰杰原因的全部输入变量；
(3-2)轮流从找到的全部输入变量的各阶滞后
中成组地删去每个变量的各阶滞后Xir(t-1),Xir(t-2),…,Xir(t-K),r＝1,2,…,ni，将其余的信号作为输入变量，取前3/4时间的数据作为训练集，后1/4时间的数据作为测试集，设计包含三个隐层的全连接神经网络，选取ReLU激活函数；
(3-3)选取均方差作为该神经网络的损失函数，具体公式为：
其中，T表示总时间长度，xit表示第i个变量的当前值信号序列，x(t-1):(t-K)表示全部变量的第1至第K阶滞后信号构成的信号矩阵，W表示神经网络的权重系数矩阵；
(3-4)选取神经网络的反向传播优化算法为随机梯度下降法；
(3-5)生成会话，在训练集上反复运行反向传播优化算法，不断优化模型各层间的权重系数得到在训练集上损失函数最小的模型参数，计算其在测试集上的限制均方误差；
(3-6)利用步骤(3-5)得到的限制均方误差与步骤(2-4)得到的全均方误差，在格兰杰因果检验的框架下判定两个信号是否具有因果关系，具体方式为：
认为均方误差遵循自由度为q和(n-k)的F分布，其中，n是样本容量，q等于滞后项x的个数，即有约束回归中待估参数的个数，k是无约束回归中待估参数的个数；如果在选定的显著性水平α上计算的F值超过临界值Fα，则拒绝零假设，认为测试的可能为原因的输入变量是待分析输出变量的原因。显著性水平α是一个(0,1)区间的可变参数，默认值为0.05。
步骤(3-1)的具体步骤为：
找出输入层至第一隐层的权重系数均非0的神经元组对应的全部输入变量，若不存在这样的输入变量或仅有待分析的输出变量自身，则认为此待分析的输出变量不存在其它信号是它的格兰杰原因，直接结束步骤(3)；若找到的输入变量只有1个且不为带分析的输出变量自身，则认为找到的这个输入变量就是待分析的输出变量的格兰杰原因，直接结束步骤(3)；若找到的输入变量有多个，即为输出变量的格兰杰原因的全部输入变量。
步骤(3-6)中，所述格兰杰因果检验的框架为：
零假设H0：测试的输入变量的各阶滞后信号的输入层权重系数均为0，不能判断它是待分析输出变量的格兰杰原因；
备择假设H1：测试的输入变量的各阶滞后信号的输入层权重系数不均为0，认为它是待分析输出变量的格兰杰原因。
步骤(5)的具体过程为：
(5-1)根据步骤(4)得到的全部过程输出信号间的因果关系，绘制变量因果关系拓扑图；
(5-2)根据拓扑图确定故障源位置,若存在一个变量是一个或多个其它变量的原因变量，而不是其它变量的结果变量，则认为此变量是故障源所在位置；
(5-3)根据步骤(5-2)所定位的故障源所在位置及步骤(5-1)所得到的变量因果关系拓扑图，得到故障传播路径。
与现有技术相比，本发明具有以下有益效果：
1、本发明的分析方法无需外部附加信号激励，也不会对控制系统引入附加扰动，能够实现非侵入式的检测与诊断。
2、本发明用深度神经网络训练代替传统格兰杰因果分析中的线性回归，克服其对于变量间的关系为线性关系的要求，可以检验出非线性因果关系。
3、本发明构建的神经网络，在损失函数中加入分层组稀疏惩罚，减少不必要的格兰杰因果检验测试次数，提高算法效率；可以实现滞后阶次的自动选择，客服传统的格兰杰因果检验模型的准确度(特别是模型的阶次)对结果存在较大影响的问题。
4、本发明所提出的非线性因果分析算法在工业数据因果分析领域，具有较高的准确度和稳定性。
5、本发明完全采用数据驱动型的方法，无需过程先验知识，也不需要进行人工干预。
附图说明
图1为本发明实施例中TE过程及控制策略流程图；
图2为本发明一种基于稀疏深度神经网络的工业数据非线性因果分析方法的流程示意图；
图3a为本发明实施例中采集的待检测控制回路1至9的过程输出信号绘图；
图3b为本发明实施例中采集的待检测控制回路10至17的过程输出信号绘图；
图4为本发明实施例中利用本发明的方法得到的因果关系拓扑图结果。
具体实施方式
下面以TE过程仿真数据的因果分析为例，对各回路中存在持续厂级振荡的过程数据,利用稀疏神经网络进行非线性因果分析的方法做详细描述。需要指出的是，以下所述实施例旨在便于对本发明的理解，而对其不起任何限定作用。
TE过程共有41个包含测量噪声的测量变量和12个操作变量(11个阀门流量信号及反应器搅拌速率信号)。主要控制目标包括：产物流率、产物流中的G组分含量、反应器压力、反应器液位、分离器液位、汽提塔液位等保持在设定值。其19个控制回路的控制策略如图1及表1所示。
表1
其中，第18、19控制回路为提升系统稳定性的超驰控制，限制反应器的最大压力及最高液位，仿真中暂不加入，仅考虑前17个回路的控制。在第16回路反应器温度回路中添加了持续的振荡噪声信号以模拟故障的发生，噪声信号为周期正弦信号与有色噪声信号的叠加。
如图2所示，一种基于稀疏神经网络的工业数据非线性因果分析方法，包括：
步骤1，采集待检测工业过程的各回路输出信号。
采集过程输出信号的方法为，在预设的每个采样间隔内记录下待检测的控制回路中的过程数据，且每个采样间隔内采集到的过程数据都添加在先前已经采集到的过程数据末端。
采样间隔是指性能评估系统的采样间隔。过程数据随着时间推移不断更新，每经过一个采样间隔的时间长度，均有新的过程数据添加到先前采集的过程数据的末端。性能评估系统的采样间隔一般与工业控制系统中的控制周期相同，也可以选择为控制周期的整数倍，具体根据性能监控和工业现场的实时性要求和数据存储量限制来确定。
本实施例所采集的过程输出信号经过归一化后如图3a、图3b所示，图中横坐标为采样点序数，单位为Sample(1个Sample对应一个数据的采样间隔)，纵坐标为经过归一化后的数据，无量纲。
步骤2，选取全部过程输出变量中的一个过程输出时序信号作为神经网络的输出变量，全部变量的各阶滞后作为神经网络的输入变量，构建稀疏深度神经网络。具体过程如下：
步骤2-1，选取其中一个过程输出信号X1(t)作为输出变量，全部变量的各阶滞后X1(t-1),X1(t-2),…,X1(t-5),…,X17(t-1),X17(t-2),…,X17(t-5)作为输入变量，取前3/4时间的数据作为训练集，后1/4时间的数据作为测试集，设计包含三个隐层的全连接神经网络，选取ReLU激活函数；
步骤2-2，定义神经网络的损失函数，在均方误差的基础上添加损失函数为
其中，T表示总时间长度，xit表示第i个变量的当前值信号序列，x(t-1):(t-5)表示全部变量的第1至第K阶滞后信号构成的信号矩阵，W表示神经网络的权重系数矩阵，
表示输入层由第j组神经元中的第k个至第一隐层每一个神经元的权重系数，‖·‖F表示矩阵的Frobenius范数；
步骤2-3，选取神经网络的反向传播优化算法为近端梯度法，具体公式为：
可以通过以下算法迭代得到：
1)
；2)对于h＝1,…,H，更新rgh←(1-λ/||rgh||2)+rgh；3)返回迭代结果r作为最优解
步骤2-4，生成会话，在训练集上反复运行反向传播优化算法5000次，不断优化模型各层间的权重系数得到在训练集上损失函数最小的模型参数。计算其在测试集上的全均方误差为0.000581209。
步骤3，通过依次删减输入变量，逐个完成格兰杰因果检验，得到此待检测变量的全部格兰杰原因。具体过程为：
步骤3-1，找出所有可能成为神经网络输出信号的变量的格兰杰原因的变量，依次做格兰杰因果检验。可能成为其原因的信号Xj(t)具有特点为，该信号的各阶滞后神经元Xj(t-1),Xj(t-2),…,Xj(t-5)到第一隐层的权重系数
(
表示输入层由第j组神经元中的第k个至第一隐层每一个神经元的权重系数)均非0。包括变量1、9、10、14、15、16，对这些可能的原因变量依次在置信水平1-α下做格兰杰因果检验。
所设计的格兰杰因果假设检验框架为：
零假设(H0)：测试的可能的原因变量的各阶滞后信号的输入层权重系数均为0，不能判断它是待分析变量的格兰杰原因；
备择假设(H1)：测试的可能的原因变量的各阶滞后信号的输入层权重系数不均为0，认为它是待分析变量的格兰杰原因。
步骤3-2，例如对变量9是否是变量1的原因做假设检验，取待分析的过程输出信号X1(t)作为输出变量，取其余可能的原因变量的各阶滞后X1(t-1),X1(t-2),…,X1(t-5),X10(t-1),X10(t-2),…,X10(t-5),X14(t-1),X14(t-2),…,X14(t-5),X15(t-1),X15(t-2),…,X15(t-5),X16(t-1),X16(t-2),…,X16(t-5)作为输入变量，取前3/4时间的数据作为训练集，后1/4时间的数据作为测试集，设计包含三个隐层的全连接神经网络，选取ReLU激活函数；
步骤3-3，取计算均方误差作为损失函数
其中，T表示总时间长度，xit表示第i个变量的当前值信号序列，x(t-1):(t-K)表示全部变量的第1至第K阶滞后信号构成的信号矩阵，W表示神经网络的权重系数矩阵；
步骤3-4，选取神经网络的反向传播优化算法为随机梯度下降法；
步骤3-5，生成会话，在训练集上反复运行反向传播优化算法，计算其在测试集上的限制均方误差为0.0382292；
步骤3-6，利用限制均方误差0.0382292与全均方误差0.000581209，在假设检验的框架下判定变量9是变量1的格兰杰原因。
重复步骤3-2至3-6，得到变量1的全部格兰杰原因包括变量9、14、15、16。
步骤4，重复步骤2、3，得到全部过程输出信号间的因果关系，得到因果关系拓扑图如图4所示；
步骤5，综合全部过程输出信号间的因果关系，变量16是多个变量的原因，但本身又不作为其它变量的结果，可以认为故障源位于回路16中，这与实际故障源位置是一致的。故障由回路16传递至1、6、10、17等回路，最终导致厂级振荡，其结果可以基于控制方案及物理连接得到合理的解释。验证了利用本发明对工业数据进行非线性因果分析的有效性及结果的合理性。
以上所述的实施例对本发明的技术方案和有益效果进行了详细说明，应理解的是以上所述仅为本发明的具体实施例，并不用于限制本发明，凡在本发明的原则范围内所做的任何修改、补充和等同替换，均应包含在本发明的保护范围之内。
Claims (7)
1.一种基于稀疏深度神经网络的工业数据非线性因果分析方法，其特征在于，包括以下步骤：
(1)采集待检测工业过程中全部控制回路的过程输出信号；
(2)选取一个过程输出信号作为输出变量，全部变量的各阶滞后作为输入变量，构建稀疏深度神经网络；构建稀疏深度神经网络的过程为：
(2-1)选取一个过程输出信号Xi(t)作为输出变量，全部变量的各阶滞后X1(t-1),X1(t-2),…,X1(t-K),…,Xp(t-1),Xp(t-2),…,Xp(t-K)作为输入变量，取前3/4时间的数据作为训练集，后1/4时间的数据作为测试集，设计包含三个隐层的全连接神经网络，选取ReLU激活函数；
其中，i＝1,2,…,p，表示待分析的变量的编号；K表示滞后阶次，p表示变量个数；
(2-2)定义该神经网络的损失函数，在均方误差的基础上添加损失函数为：
其中，T表示总时间长度，xit表示第i个变量的当前值信号序列，x(t-1):(t-K)表示全部变量的第1至第K阶滞后信号构成的信号矩阵，W表示神经网络的权重系数矩阵，
表示输入层由第j组神经元中的第k个至第一隐层每一个神经元的权重系数，‖·‖F表示矩阵的Frobenius范数；
(2-3)选取神经网络的反向传播优化算法为近端梯度法，具体公式为：
其中，
代表参数目标值，
为通过迭代得到的使得该目标函数最小的x作为迭代结果，λ为参数范围的阈值，xgh为经过第h次迭代得到的结果；
(2-4)生成会话，在训练集上反复运行反向传播优化算法，不断优化模型各层间的权重系数得到在训练集上损失函数最小的模型参数，计算其在测试集上的全均方误差；
(3)通过依次删减输入变量，逐个完成格兰杰因果检验，得到此过程输出信号的全部格兰杰原因；
(4)重复步骤(2)和(3)，得到全部过程输出信号间的因果关系；
(5)综合全部过程输出信号间的因果关系，定位故障源位置及故障传播路径。
2.根据权利要求1所述的基于稀疏深度神经网络的工业数据非线性因果分析方法，其特征在于，步骤(3)的具体过程为：
(3-1)找出可能为输出变量的格兰杰原因的全部输入变量；
(3-2)轮流从找到的全部输入变量的各阶滞后
中成组地删去每个变量的各阶滞后Xir(t-1),Xir(t-2),…,Xir(t-K),r＝1,2,…,ni，将其余的信号作为输入变量，取前3/4时间的数据作为训练集，后1/4时间的数据作为测试集，设计包含三个隐层的全连接神经网络，选取ReLU激活函数；
(3-3)选取均方差作为该神经网络的损失函数，具体公式为：
其中，T表示总时间长度，xit表示第i个变量的当前值信号序列，x(t-1):(t-K)表示全部变量的第1至第K阶滞后信号构成的信号矩阵，W表示神经网络的权重系数矩阵；
(3-4)选取神经网络的反向传播优化算法为随机梯度下降法；
(3-5)生成会话，在训练集上反复运行反向传播优化算法，不断优化模型各层间的权重系数得到在训练集上损失函数最小的模型参数，计算其在测试集上的限制均方误差；
(3-6)利用步骤(3-5)得到的限制均方误差与步骤(2-4)得到的全均方误差，在格兰杰因果检验的框架下判定两个信号是否具有因果关系，具体方式为：
认为均方误差遵循自由度为q和(n-k)的F分布，其中，n是样本容量，q等于滞后项x的个数，即有约束回归中待估参数的个数，k是无约束回归中待估参数的个数；如果在选定的显著性水平α上计算的F值超过临界值Fα，则拒绝零假设，认为测试的可能为原因的输入变量是待分析输出变量的原因。
3.根据权利要求2所述的基于稀疏深度神经网络的工业数据非线性因果分析方法，其特征在于，步骤(3-1)的具体步骤为：
找出输入层至第一隐层的权重系数均非0的神经元组对应的全部输入变量，若不存在这样的输入变量或仅有待分析的输出变量自身，则认为此待分析的输出变量不存在其它信号是它的格兰杰原因，直接结束步骤(3)；若找到的输入变量只有1个且不为带分析的输出变量自身，则认为找到的这个输入变量就是待分析的输出变量的格兰杰原因，直接结束步骤(3)；若找到的输入变量有多个，即为输出变量的格兰杰原因的全部输入变量。
4.根据权利要求2所述的基于稀疏深度神经网络的工业数据非线性因果分析方法，其特征在于，步骤(3-6)中，所述格兰杰因果检验的框架为：
零假设H0：测试的输入变量的各阶滞后信号的输入层权重系数均为0，不能判断它是待分析输出变量的格兰杰原因；
备择假设H1：测试的输入变量的各阶滞后信号的输入层权重系数不均为0，认为它是待分析输出变量的格兰杰原因。
5.根据权利要求2所述的基于稀疏深度神经网络的工业数据非线性因果分析方法，其特征在于，显著性水平α是一个(0,1)区间的可变参数。
6.根据权利要求2所述的基于稀疏深度神经网络的工业数据非线性因果分析方法，其特征在于，显著性水平α的默认值为0.05。
7.根据权利要求1所述的基于稀疏深度神经网络的工业数据非线性因果分析方法，其特征在于，步骤(5)的具体过程为：
(5-1)根据步骤(4)得到的全部过程输出信号间的因果关系，绘制变量因果关系拓扑图；
(5-2)根据拓扑图确定故障源位置,若存在一个变量是一个或多个其它变量的原因变量，而不是其它变量的结果变量，则认为此变量是故障源所在位置；
(5-3)根据步骤(5-2)所定位的故障源所在位置及步骤(5-1)所得到的变量因果关系拓扑图，得到故障传播路径。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811563379.1A CN109407654B (zh) | 2018-12-20 | 2018-12-20 | 一种基于稀疏深度神经网络的工业数据非线性因果分析方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811563379.1A CN109407654B (zh) | 2018-12-20 | 2018-12-20 | 一种基于稀疏深度神经网络的工业数据非线性因果分析方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN109407654A CN109407654A (zh) | 2019-03-01 |
| CN109407654B true CN109407654B (zh) | 2020-08-04 |
Family
ID=65460074
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811563379.1A Active CN109407654B (zh) | 2018-12-20 | 2018-12-20 | 一种基于稀疏深度神经网络的工业数据非线性因果分析方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109407654B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP4310618A1 (en) * | 2022-07-21 | 2024-01-24 | Tata Consultancy Services Limited | Method and system for causal inference and root cause identification in industrial processes |
Families Citing this family (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11093315B2 (en) * | 2019-03-22 | 2021-08-17 | Toyota Motor Engineering & Manufacturing North America, Inc. | Systems and methods for detecting a fault or a model mismatch |
| CN110365708B (zh) * | 2019-08-05 | 2021-12-07 | 山东浪潮科学研究院有限公司 | 一种基于向量自回归模型的交换机数据异常检测方法 |
| CN110502590A (zh) * | 2019-08-27 | 2019-11-26 | 紫荆智维智能科技研究院(重庆)有限公司 | 基于格兰杰因果关系校验构建工业装备故障关系的方法 |
| US11415975B2 (en) | 2019-09-09 | 2022-08-16 | General Electric Company | Deep causality learning for event diagnosis on industrial time-series data |
| CN111310305B (zh) * | 2020-01-19 | 2023-04-25 | 华中科技大学鄂州工业技术研究院 | 一种固体氧化物燃料电池系统振荡变量获取方法 |
| CN111367959B (zh) * | 2020-02-17 | 2021-02-26 | 大连理工大学 | 一种零时滞非线性扩展Granger因果分析方法 |
| CN111950358A (zh) * | 2020-07-01 | 2020-11-17 | 浙江中控技术股份有限公司 | 一种基于图像识别的阀门粘滞检测方法 |
| CN111859799A (zh) * | 2020-07-14 | 2020-10-30 | 西安交通大学 | 基于复杂机电系统耦合关系模型评估数据准确性的方法及装置 |
| CN112101480B (zh) * | 2020-09-27 | 2022-08-05 | 西安交通大学 | 一种多变量聚类与融合的时间序列组合预测方法 |
| CN113328881B (zh) * | 2021-05-26 | 2022-05-03 | 南京航空航天大学 | 一种面向非合作无线网络的拓扑感知方法及装置、系统 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6473084B1 (en) * | 1999-09-08 | 2002-10-29 | C4Cast.Com, Inc. | Prediction input |
| US6658467B1 (en) * | 1999-09-08 | 2003-12-02 | C4Cast.Com, Inc. | Provision of informational resources over an electronic network |
| CN102366323A (zh) * | 2011-09-30 | 2012-03-07 | 中国科学院自动化研究所 | 一种基于pca和gca的磁共振脑成像因果连接强度的检测方法 |
| CN103310286A (zh) * | 2013-06-25 | 2013-09-18 | 浙江大学 | 一种具有时间序列特性的产品订单预测方法及装置 |
| CN105004498A (zh) * | 2015-07-09 | 2015-10-28 | 西安理工大学 | 一种水电机组的振动故障诊断方法 |
| CN106355248A (zh) * | 2016-08-26 | 2017-01-25 | 深圳先进技术研究院 | 一种深度卷积神经网络训练方法及装置 |
| CN106773693A (zh) * | 2016-12-21 | 2017-05-31 | 浙江大学 | 一种工业控制多回路振荡行为稀疏因果分析方法 |
-
2018
- 2018-12-20 CN CN201811563379.1A patent/CN109407654B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6473084B1 (en) * | 1999-09-08 | 2002-10-29 | C4Cast.Com, Inc. | Prediction input |
| US6658467B1 (en) * | 1999-09-08 | 2003-12-02 | C4Cast.Com, Inc. | Provision of informational resources over an electronic network |
| CN102366323A (zh) * | 2011-09-30 | 2012-03-07 | 中国科学院自动化研究所 | 一种基于pca和gca的磁共振脑成像因果连接强度的检测方法 |
| CN103310286A (zh) * | 2013-06-25 | 2013-09-18 | 浙江大学 | 一种具有时间序列特性的产品订单预测方法及装置 |
| CN105004498A (zh) * | 2015-07-09 | 2015-10-28 | 西安理工大学 | 一种水电机组的振动故障诊断方法 |
| CN106355248A (zh) * | 2016-08-26 | 2017-01-25 | 深圳先进技术研究院 | 一种深度卷积神经网络训练方法及装置 |
| CN106773693A (zh) * | 2016-12-21 | 2017-05-31 | 浙江大学 | 一种工业控制多回路振荡行为稀疏因果分析方法 |
Non-Patent Citations (5)
| Title |
|---|
| Papagiannopoulou, Christina, Miralles, Diego G, Decubber, Stijn,.A non-linear Granger-causality framework to investigate climate–vegetation dynamics.《 Geoscientific Model Development》.2016, * |
| Yao, Can-Zhong, Lin, Ji-Nan, Lin, Qing-Wen,等.A study of causality structure and dynamics in industrial electricity consumption based on Granger network.《Physica A Statistical Mechanics & Its Applications》.2016, * |
| 吴越.基于多点过程的复杂网络拓扑识别.《中国优秀硕士学位论文全文数据库基础科学辑》.2015, * |
| 崔崯东.基于格兰杰因果关系触发复杂网络的时间序列分析方法的研究及应用.《中国优秀硕士学位论文全文数据库基础科学辑》.2012, * |
| 郭水霞.矢量格兰杰因果关系及其在复杂网络中的应用.《计算机工程与应用》.2008, * |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP4310618A1 (en) * | 2022-07-21 | 2024-01-24 | Tata Consultancy Services Limited | Method and system for causal inference and root cause identification in industrial processes |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109407654A (zh) | 2019-03-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109407654B (zh) | 一种基于稀疏深度神经网络的工业数据非线性因果分析方法 | |
| CN110738360B (zh) | 一种设备剩余寿命预测方法及系统 | |
| CN108095716B (zh) | 一种基于置信规则库和深度神经网络的心电信号检测方法 | |
| CN108197648A (zh) | 一种基于lstm深度学习模型的水电机组故障诊断方法与系统 | |
| CN112990556A (zh) | 一种基于Prophet-LSTM模型的用户用电能耗预测方法 | |
| CN110824915B (zh) | 基于ga-dbn网络的废水处理智能监控方法及系统 | |
| CN110689171A (zh) | 一种基于e-lstm的汽轮机健康状态预测方法 | |
| CN107436409B (zh) | 一种电动汽车动力电池soc智能预测装置 | |
| CN110455537A (zh) | 一种轴承故障诊断方法及系统 | |
| Mo et al. | Multi-head CNN-LSTM with prediction error analysis for remaining useful life prediction | |
| CN112488235A (zh) | 一种基于深度学习的电梯时序数据的异常诊断方法 | |
| CN112132430B (zh) | 一种配电主设备分布式状态传感器可靠性评估方法及系统 | |
| CN114282443B (zh) | 基于mlp-lstm有监督联合模型的剩余使用寿命预测方法 | |
| CN109033513A (zh) | 电力变压器故障诊断方法与电力变压器故障诊断装置 | |
| CN110309609A (zh) | 一种基于粗糙集和小波神经网络的建筑室内空气品质评价方法 | |
| CN112686372A (zh) | 基于深度残差gru神经网络的产品性能预测方法 | |
| CN114819054A (zh) | 一种基于物理信息神经网络的电力电子系统状态监测方法 | |
| CN115456245A (zh) | 一种感潮河网区溶解氧预测方法 | |
| CN113627594A (zh) | 基于wgan的一维时序数据增广方法 | |
| CN115618987A (zh) | 生产井生产数据预测方法、装置、设备和存储介质 | |
| Wang | Data preprocessing for soft sensor using generative adversarial networks | |
| CN113126489A (zh) | 一种基于cnn-gru-binn的重型燃气轮机控制系统智能bit设计方法 | |
| CN116094758B (zh) | 一种大规模网络流量采集方法及系统 | |
| CN115828744A (zh) | 一种白光发光二极管故障在线诊断与寿命预测方法 | |
| CN115062759A (zh) | 一种基于改进型长短记忆神经网络的故障诊断方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CB03 | Change of inventor or designer information |
Inventor after: Chen Xiaoqiang Inventor after: Xie Lei Inventor after: Qiao Dan Inventor after: Su Hongye Inventor before: Xie Lei Inventor before: Qiao Dan Inventor before: Su Hongye |
|
| CB03 | Change of inventor or designer information | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20210810 Address after: 200086 Room 601, 216 Siping Road, Hongkou District, Shanghai Patentee after: CLP HUACHUANG POWER TECHNOLOGY RESEARCH Co.,Ltd. Address before: 310013 Yuhang Tang Road, Xihu District, Hangzhou, Zhejiang 866 Patentee before: ZHEJIANG University |
|
| TR01 | Transfer of patent right |