CN111915120B - 一种基于动态正交近邻保持嵌入模型的过程监测方法 - Google Patents

Abstract

本发明公开一种基于动态正交近邻保持嵌入模型的过程监测方法，该方法在挖掘训练数据中潜藏的有用特征时，能同时考虑自相关特征与局部近邻结构特征并保证投影变换向量的正交特性。本发明方法首先将自相关性与局部近邻结构嵌入量化成一个目标函数；其次，在保证各投影变换向量相互正交的约束下求解该目标函数，从而利用得到的投影变换向量实施特征提取；最后，利用提取出的潜在特征以及模型误差实施过程监测。与传统方法相比：首先本发明方法中涉及的动态正交近邻保持嵌入模型的建立方法是一种全新的建模策略，它同时考虑了自相关性特征与局部近邻特征，并且保证了投影变换向量的正交特性，能够更全面地挖掘训练数据中潜藏的有用信息。

Description

一种基于动态正交近邻保持嵌入模型的过程监测方法

技术领域

本发明涉及一种数据驱动的过程监测方法，尤其涉及一种基于动态正交近邻保持嵌入模型的过程监测方法。

背景技术

为保证生产过程的安全运行与维持产品质量的稳定性，学术界与工业界都投入了大量的人力与物力研究以故障监测为核心任务的过程监测方法。而今，工业发展已进入信息化建设，利用采样数据实施数据驱动的过程运行状态监测，已经成为工业自动化领域的研究热门之一。通常来讲，数据驱动的过程监测方法的核心思想在于：如何对过程正常数据进行有效地挖掘以提取能反应过程运行状态的潜在有用信息。然而，考虑到现代工业过程规模的复杂化趋势，采集到的工业数据所呈现出的特征往往也是非常复杂的。可以说，如何更有效地挖掘出过程数据中潜藏的有用信息，并建立更适于监测现代工业过程对象的过程监测模型，一直以来都是该研究领域所面临的主要问题。

在现有的科研文献与专利材料中，主元分析(Principal Component Analysis，缩写：PCA)与近邻保持嵌入(Neighborhood Preserving Embedding，缩写：NPE)算法等都被用于过程监测。与PCA算法提取数据方差信息不同的是，NPE方法则考虑的是原始数据点的局部近邻特征。NPE在提取原始数据中的潜在信息时，尽量保留数据点在空间距离上的分布特征。此外，由于现代工业过程的采样时间都较短，采样数据之间的时序自相关性是数据驱动的过程监测方法在建模时另一个必须考虑的一个问题。最近，有研究学者提出一类能挖掘自相关潜在特征的数据建模算法，并较好地解决了动态过程监测问题。此外，通过增广矩阵引入延时测量值可将数据的时序自相关性考虑进来，是一种最为经典的动态过程监测思路，PCA或NPE等都可以直接拓展成动态PCA与动态NPE方法。

由于局部近邻特征与自相关特征都是数据中潜藏的有用特征，因此两者都应予以考虑。然而，在现有的科研文献与专利材料中，却没有同时提取局部近邻特征与自相关特征的算法。此外，提取潜在特征的投影变换向量的正交性在建立模型时也是非常重要的一个考量，因为这直接关系着模型误差的计算。因此，有效地考虑局部近邻特征与自相关特征是动态过程监测领域继续解决的一个问题。

发明内容

本发明所要解决的主要技术问题是：如何在挖掘训练数据中潜藏的有用特征时，同时考虑自相关特征与局部近邻结构特征并保证投影变换向量的正交特性，并基于此实施对对生产过程运行状态的监测。具体来讲，本发明方法首先将自相关性与局部近邻结构嵌入量化成一个目标函数；其次，在保证各投影变换向量相互正交的约束下求解该目标函数，从而利用得到的投影变换向量实施特征提取；最后，提取出的潜在特征以及模型误差实施过程监测模。

本发明解决上述技术问题所采用的技术方案为：一种基于动态正交近邻保持嵌入模型的过程监测方法，包括以下步骤：

步骤(1)：在生产过程正常运行状态下，按照采样时间先后依次采集n个样本数据组成矩阵X∈R^n×m，并计算矩阵X中各行向量的均值向量μ与标准差向量δ，其中m为测量变量的总个数、R为实数集，R^n×m表示n×m维的实数矩阵。

步骤(2)：利用均值向量μ与标准差向量δ对矩阵X中各行向量实施标准化处理，从而得到矩阵其中/>为标准化处理后的数据向量，i＝1，2，…，n，上标号T表示矩阵或向量的转置。

步骤(3)：设置自相关阶数为d，将矩阵中第d+1行至第n行向量组成矩阵Y∈R^{(n -d)×m}，并根据公式①构造矩阵Z：

一方面，为提取训练数据中自相关特征，可根据最大化潜在特征的时序自相关性来设计如下所示的目标函数：

上式中，表示Kronecker乘法，p∈R^m×1表示投影变换向量，β∈R^d×1为自相关系数向量，d为自相关阶数(一般可取d＝2)。由此可见，上式②要求经投影变换向量p∈R^m×1转换后的潜在特征满足时序自相关性最大的要求。

另一方面，为保留训练数据中局部近邻结构特征，可借用如下所示的NPE算法的目标函数，从而在投影变换的过程中嵌入局部近邻重构信息：

上式中，矩阵M＝(I_n-W)(I_n-W)^T，I_n表示n×n维的单位矩阵，M∈R^n×n为近邻保持嵌入矩阵。根据NPE算法推理过程，现将近邻保持嵌入矩阵M∈R^n×n的获取过程介绍如下：

步骤(A)：针对矩阵中的各个数据向量/>计算各数据向量与其他n-1个数据向量之间的距离/>其中j＝1，2，…，n且j≠i。

步骤(B)：根据这些计算出来的距离，为各数据向量找出距离其最近的k个数据向量，从而组成近邻矩阵/>其中k为近邻个数，一般可取k＝5。

步骤(C)：先根据公式计算向量w_i∈R^k×1，再根据w_i＝w_i/||w_i||对向量w_i进行归一化处理。

步骤(D)：根据近邻矩阵中的k个数据向量对应于矩阵/>中的位置，相应地将向量w_i中的k个元素赋值给全零矩阵W∈R^n×n中第i行的相应元素。

步骤(E)：根据公式M＝(I_n-W)(I_n-W)^T计算近邻保持嵌入矩阵M∈R^n×n。

若想同时考虑自相关特征与局部近邻结构特征，需在求解投影变换向量时，同时满足公式②与公式③中的目标函数。由于J₁是最大化问题而J₂是最小化问题，因此可设计如下所示的目标函数：

为不失一般性，可设此外，为保证投影变换向量的正交化，还需增加正交约束条件：p_a ^Tp₁＝p_a ^Tp₂＝…＝p_a ^Tp_a-1＝0，其中a表示求解的第a个投影变换向量。上式④最终转变成如下所示的优化问题：

再通过拉格朗日乘子法即可求解上式⑤：构造如下所示的拉格朗日函数L：

计算函数L相对于p_a与β_a的偏微分：

上式中，I_m与I_d分别表示m×m维与d×d维的单位矩阵。根据极值求解思路，上式⑦与⑧中的偏微分都等于零。因此，可推理出：

其中，显而易见，公式⑩则定义了β_a与p_a之间的等式关系。在公式⑨中等号两边同时左乘p_a ^T，即可得到：/>所以，拉格朗日乘子λ即等价于公式⑤中的目标函数值。

在公式⑨中等号两边同时依次左乘则可得到a-1个等式关系：

上式则可以等价的写成如下所示的矩阵形式：

上式中，γ^(a-1)＝[γ₁，γ₂，…，γ_a-1]^T，A^(a-1)＝[p₁，p₂，…，p_a-1]，/>将公式⑨等号两边同时左乘/>后再减去公式/>即可得到：

因此，公式定义了一个常规的特征值问题，投影变换向量p_a即是最大特征值所对应的特征同量。

由于矩阵G的计算涉及到自回归系数向量β_a，而β_a的求解需要在p_a已知的前提下根据公式⑩计算得到。所以，p_a与β_a的求解相互耦合，可通过迭代收敛的方式予以同时求解。

综上所述，本发明方法的步骤(4)即是在求解得到A个投影变换向量p₁，p₂，…，p_A后，建立动态正交近邻保持嵌入模型。

步骤(4)：设置投影变换向量的个数为A，根据如下所示步骤(4.1)至步骤(4.6)求解得到A个投影变换向量p₁，p₂，…，p_A后，建立动态正交近邻保持嵌入模型：其中A＜m。

步骤(4.1)：初始化a＝1与初始化p_a为任意m×1维的非零实数向量。

步骤(4.2)：根据公式计算自相关系数向量β_a，并根据公式β_a＝β_a/||β_a||对β_a实施归一化处理，其中|| ||表示计算向量的长度。

步骤(4.3)：根据公式计算矩阵G，判断是否满足条件：a＜2？若是，则计算特征值问题：/>最大特征值λ所对应的特征向量p_a；若否，则求解如公式/>所示特征值问题中最大特征值所对应的特征向量p_a：

步骤(4.4)：根据公式p_a＝p_a/||p_a||对p_a实施归一化处理后，判断p_a是否收敛？收敛的标准为：p_a中各元素不再发生变化，若是，则得到第a个投影变换向量p_a并执行步骤(4.5)；若否，则返回步骤(4.2)。

步骤(4.5)：判断是否满足条件：a＜A？若是，则置a＝a+1后初始化p_a为任意m×1维的非零实数向量，并返回步骤(4.2)；若否，则得到A个投影变换向量p₁，p₂，…p_A。

步骤(4.6)：根据公式分别计算得分矩阵S与误差矩阵E，那么动态正交近邻保持嵌入模型即为：/>其中P＝[p₁，p₂，…p_A]^T。

步骤(5)：根据公式Λ＝S^TS/(n-1)计算协方差矩阵Λ，并根据公式ψ＝diag{SΛ^{- 1}S^T}与分别计算监测指标向量ψ与Q，其中diag{ }表示将矩阵对角线上的元素组成向量的操作。

步骤(6)：分别将监测指标向量ψ与Q中第n/100个最大元素记做监测指标上限ψ_lim与Q_lim。

以上步骤(1)至步骤(6)为本发明方法的离线建模阶段，离线建模完成后，即可实施对工业过程过程对象的在线监测。

步骤(7)：采集最新采样时刻的样本数据x_new∈R^m×1，并利用均值向量μ与标准差向量δ对x_new实施标准化处理得到向量

步骤(8)：根据公式计算得分向量s_new后，再根据公式ψ_new＝s_newΛ^-1s_new ^T与/>计算出监测指标ψ_new与Q_new的具体数值。

步骤(9)：判断是否满足条件：ψ_new≤ψ_lim且Q_new≤Q_lim？若是，则当前采样时刻过程正常运行，返回步骤(7)继续实施对下一采样时刻数据的监测；若否，则当前采样时刻过程进入异常工况状态。

与传统方法相比，本发明方法的优势在于：

首先，本发明方法中涉及的动态正交近邻保持嵌入模型的建立方法是一种全新的建模策略，它同时考虑了自相关性特征与局部近邻特征，并且保证了投影变换向量的正交特性，能够更全面地挖掘训练数据中潜藏的有用信息。其次，在具体实施案例中，通过TE过程上的监测详情对比，验证了本发明方法相比于传统动态过程监测方法在故障监测上的优越性。因此，本发明方法是一种更为优选的动态过程监测方法。

附图说明

图1为本发明方法的实施流程图。

图2为建立动态正交近邻保持嵌入模型的实施流程图。

图3本发明方法与传统方法的故障监测效果对比图。

具体实施方式

下面结合附图与具体的实施案例对本发明方法进行详细的说明。

如图1所示，本发明公开一种基于动态正交近邻保持嵌入模型的过程监测方法。现结合一个具体的实施案例来阐述本发明方法的具体实施方式。

所测试的过程对象为TE过程，该过程原型是伊斯曼化工生产车间的一个实际工艺流程。目前，TE过程因其流程的复杂性，已作为一个标准实验平台被广泛用于故障检测研究。整个TE过程包括22个测量变量、12个操作变量、和19个成分测量变量。所采集的数据分为22组，其中包括1组正常工况下的数据集与21组故障数据。而在这些故障数据中，有16个是已知故障类型，如冷却水入口温度或进料成分的变化、阀门粘滞、反应动力学漂移等，还有5个故障类型是未知的。为了对该过程进行监测，选取如表1所示的33个过程变量，接下来结合该TE过程对本发明具体实施步骤进行详细的阐述。

表1：TE过程监测变量。

序号	变量描述	序号	变量描述	序号	变量描述
						1	物料A流量	12	分离器液位	23	D进料阀门位置
2	物料D流量	13	分离器压力	24	E进料阀门位置
						3	物料E流量	14	分离器塔底流量	25	A进料阀门位置
4	总进料流量	15	汽提塔液位	26	A和C进料阀门位置
						5	循环流量	16	汽提塔压力	27	压缩机循环阀门位置
6	反应器进料	17	汽提塔底部流量	28	排空阀门位置
						7	反应器压力	18	汽提塔温度	29	分离器液相阀门位置
8	反应器液位	19	汽提塔上部蒸汽	30	汽提塔液相阀门位置
						9	反应器温度	20	压缩机功率	31	汽提塔蒸汽阀门位置
10	排空速率	21	反应器冷却水出口温度	32	反应器冷凝水流量
						11	分离器温度	22	分离器冷却水出口温度	33	冷凝器冷却水流量

步骤(1)：在TE过程正常运行状态下，按照采样时间先后依次采集n＝960个样本数据x₁，x₂，…，x_n组成矩阵X＝[x₁，x₂，…，x_n]^T∈R^960×33，并计算矩阵X中各行向量的均值向量μ与标准差向量δ。

步骤(2)：利用均值向量μ与标准差向量δ对矩阵X中各行向量实施标准化处理，从而得到矩阵其中/>为标准化处理后的数据向量。

步骤(3)：设置自相关阶数为d，将矩阵中第d+1行至第n行向量组成矩阵Y∈R^{(n -d)×m}，并根据公式①构造矩阵Z。

步骤(4)：根据上述步骤(A)至步骤(E)计算得到近邻保持嵌入矩阵M∈R^n×n。

步骤(5)：设置投影变换向量的个数为A＝12，根据如图2所示的实施流程求解得到A个投影变换向量p₁，p₂，…，p_A后，建立动态正交近邻保持嵌入模型：

步骤(6)：根据公式Λ＝S^TS/(n-1)计算协方差矩阵Λ，并根据公式ψ＝diag{SΛ^{- 1}S^T}与分别计算监测指标向量ψ与Q。

步骤(7)：分别将监测指标向量ψ与Q中第n/100≈10个最大元素记做监测指标上限ψ_lim与Q_lim。

离线建模阶段完成后，即可实施在线过程监测。采集TE过程在第19种故障工况条件下的测试数据，其中前160个样本数据采集自正常运行状态，故障样本数据从第161个采样时刻引入。

步骤(8)：采集最新采样时刻的样本数据x_new∈R^33×1，并利用均值向量μ与标准差向量δ对x_new实施标准化处理得到向量

步骤(9)：根据公式计算得分向量s_new后，再根据公式ψ_new＝s_newΛ^-1s_new ^T与/>计算出监测指标ψ_new与Q_new的具体数值。

步骤(10)：判断是否满足条件：ψ_new≤ψ_lim且Q_new≤Q_lim？若是，则当前采样时刻过程正常运行，返回步骤(7)继续实施对下一采样时刻数据的监测；若否，则当前采样时刻过程进入异常工况状态。

将本发明方法与其他传统过程监测方法(包括NPE与动态PCA)对TE过程该故障的监测详情对比于图3中。从图3中可以明显地发现，本发明方法的故障漏报情况更少，监测效果得到了有效的改善。

上述实施案例只用来解释说明本发明的具体实施，而不是对本发明进行限制。在本发明的精神和权利要求的保护范围内，对本发明做出的任何修改，都落入本发明的保护范围。

Claims (1)

1.一种基于动态正交近邻保持嵌入模型的过程监测方法，其特征在于，包括以下步骤：

首先，离线建模阶段包括如下所示步骤(1)至步骤(5)；

步骤(1)：在生产过程正常运行状态下，按照采样时间先后依次采集n个样本数据组成矩阵X∈R^n×m，并计算矩阵X中各行向量的均值向量μ与标准差向量δ，其中m为测量变量的总个数、R为实数集，R^n×m表示n×m维的实数矩阵；

步骤(2)：利用均值向量μ与标准差向量δ对矩阵X中各行向量实施标准化处理，从而得到矩阵其中/>为标准化处理后的数据向量，i＝1，2，…，n，上标号T表示矩阵或向量的转置；

步骤(3)：设置自相关阶数为d，将矩阵中第d+1行至第n行向量组成矩阵Y∈R^(n-d)×m，并根据公式①构造矩阵Z：

步骤(4)：根据如下所示步骤(4.1)至步骤(4.5)计算得到近邻保持嵌入矩阵M∈R^n×n：

步骤(4.1)：针对矩阵中的各个数据向量/>计算各数据向量与其他n-1个数据向量之间的距离/>其中j＝1，2，…，n且j≠i；

步骤(4.2)：根据这些计算出来的距离，为各数据向量找出距离其最近的k个数据向量，从而组成近邻矩阵/>

步骤(4.3)：先根据公式计算向量w_i∈R^k×1，再根据w_i＝w_i/||w_i||对向量w_i进行归一化处理；

步骤(4.4)：根据近邻矩阵的k个数据向量对应于矩阵/>中的位置，相应地将向量w_i中的k个元素赋值给全零矩阵W∈R^n×n中第i行的相应元素；

步骤(4.5)：根据公式M＝(I_n-W)(I_n-W)^T计算近邻保持嵌入矩阵M∈R^n×n；

步骤(5)：设置投影变换向量的个数为A，根据如下所示步骤(5.1)至步骤(5.6)求解得到A个投影变换向量p₁，p₂，…，p_A后，建立动态正交近邻保持嵌入模型：

步骤(5.1)：初始化a＝1与初始化p_a为任意m×1维的非零实数向量；

步骤(5.2)：根据公式计算自相关系数向量β_a，并根据公式β_a＝β_a/||β_a||对β_a实施归一化处理，其中|| ||表示计算向量的长度，/>表示Kronecker乘法；

步骤(5.3)：根据公式计算矩阵G，判断是否满足条件：a＜2；若是，则计算特征值问题：/>最大特征值λ所对应的特征向量p_a；若否，则求解如公式②所示特征值问题中最大特征值所对应的特征向量p_a：

其中，A^(a-1)＝[p₁，p₂，…，p_a-1]，I_m与I_d分别表示m×m维与d×d维的单位矩阵；

步骤(5.4)：根据公式p_a＝p_a/||p_a||对p_a实施归一化处理后，判断p_a是否收敛；若是，则得到第a个投影变换向量p_a并执行步骤(5.5)；若否，则返回步骤(5.2)；

步骤(5.5)：判断是否满足条件：a＜A；若是，则置a＝a+1后初始化p_a为任意m×1维的非零实数向量，并返回步骤(5.2)；若否，则得到A个投影变换向量p₁，p₂，…p_A；

步骤(5.6)：根据公式与/>分别计算得分矩阵S与误差矩阵E，那么动态正交近邻保持嵌入模型即为：/>其中P＝[p₁，p₂，…p_A]^T；

步骤(6)：根据公式Λ＝S^TS/(n-1)计算协方差矩阵Λ，并根据公式ψ＝diag{SΛ^-1S^T}与分别计算监测指标向量ψ与Q，其中diag{ }表示将矩阵对角线上的元素组成向量的操作；

步骤(7)：分别将监测指标向量ψ与Q中第n/100个最大元素记做监测指标上限ψ_lim与Q_lim；

其次，实施在线过程监测的步骤如下所示：

步骤(8)：采集最新采样时刻的样本数据x_new∈R^m×1，并利用均值向量μ与标准差向量δ对x_new实施标准化处理得到向量

步骤(9)：根据公式计算得分向量s_new后，再根据公式ψ_new＝s_newΔ^-1s_new ^T与计算出监测指标ψ_new与Q_new的具体数值；

步骤(10)：判断是否满足条件：ψ_new≤ψ_lim且Q_new≤Q_lim；若是，则当前采样时刻过程正常运行，返回步骤(8)继续实施对下一采样时刻数据的监测；若否，则当前采样时刻过程进入异常工况状态。