CN106649202B - 基于多样性变量加权plsr模型的工业过程软测量方法 - Google Patents

Abstract

本发明公开一种基于多样性变量加权PLSR模型的工业过程软测量方法，旨在改善传统PLSR模型用于工业过程软测量的效果。该发明方法主要针对传统PLSR模型用于软测量时两个方面的不足(即：未曾考虑各输入变量重要性差异以及如何建立多样化的PLSR软测量模型)，通过利用输入数据各测量变量间相关性大小的差异为不同变量赋予不同的权值，这不仅将各输入变量间相关性差异考虑进回归模型中，而且还实现了多样化数据特征的目的。之后，原始数据通过这种多样性变量加权后重新作为PLSR模型的输入数据，即可建立多样化的回归模型。最后，这些多样化回归模型对输出的估计值又再次作为PLSR模型的输入数据，从而进一步提升软测量模型的精度。总的来讲，该发明方法充分考虑了各输入测量变量相关性的差异对输出变量的影响，并利用多样化PLSR回归模型有效地提高软测量精度。

Description

基于多样性变量加权PLSR模型的工业过程软测量方法

技术领域

本发明涉及一种工业过程软测量方法，尤其是涉及一种基于多样性变量加权PLSR模型的工业过程软测量方法。

背景技术

实时监测产品质量信息是保证产品质量稳定与提高企业盈利能力的基本手段，在整个生产自动化系统中占有着重要的地位。随着计算机技术以及先进仪表技术的飞速发展，工业过程可以很容易地测量到流量、液位、压力、温度等信息，直接或间接反应产品质量的信息也能通过仪器仪表测量得到实时数据。然而，相对于流量或温度等仪表，在线实时分析产品质量信息的设备通常价格高昂。若是采用离线分析手段，产品质量数据的获取就存在一定的延时，操作人员因此无法及时而准确的知晓产品质量数据。近十几年来，随着数据驱动方法的广泛应用，软测量技术应运而生。它通过建立生产过程中容易测量的数据与产品质量数据之间的回归模型，实现了对质量数据的实时估计。近年来，针对软测量方法技术的研究已受到了工业界与学术界越来越多的关注。

软测量技术的核心在于建立输入数据(通常是工业过程中易测量的信息，如压力、温度、流量等)与输出数据(通常为能直接或间接反映质量信息的测量指标，如浓度)之间的回归模型。而在当前已有的文献与专利资料中，建立回归模型常采用的方法有：统计回归法、神经网络、支持向量机等。在数据量充分以及非线性特性很强的条件下，利用神经网络与支持向量机所建立的回归模型精度高，通常能达到较满意的软测量效果。相比较而言，统计回归法所需的数据量较小，而且训练时间很短，已越来越多地被应用在工业过程软测量领域。在众多的统计回归方法中，偏最小二乘回归(Partial Least Square Regression，PLSR)是最基本也是最常用的算法。近年来，对PLSR的改进举措也层出不穷，衍生出了诸如核PLSR、动态PLSR、多重PLSR等回归模型。然而，作为一种最基本的回归建模方法，PLSR在迭代训练模型之前，默认需将输入输出数据进行标准化处理，以消除各测量变量的量纲影响。从某种程度上看，标准化处理后的数据变量其赋予的权值都相等。也就是说，输入数据中各测量变量在建立PLSR模型时是同等重要的。在无法确切知晓每个输入变量如何影响输出变量的前提下，这么预处理数据是可行的。可想而知，这种预处理方法对所有变量一视同仁，不能区分各个测量变量的差异。因此，基于PLSR的软测量模型预测精度还有很大程度的提升空间。

此外，理论和实践都已经证明了通过构建多重模型来建立软测量模型可以使所建立的模型更好地匹配过程数据变化的多样性，进而有效地提高模型的预测精度。这种利用多重回归模型实施软测量的技术手段关键在于如何多样化输入输出数据的特征，并在此基础上建立多样化的回归模型。若是生产过程有足够的经验知识可供参考，根据过程的变化特征多样化输入输出数据就不是什么难题。然而，实际操作中通常是缺乏这些可用来多样化数据的先验知识。因此，在过程经验知识缺乏的前提下，如何描述过程数据变化的多样性并建立多样化的回归模型仍是一个有待解决的问题。

发明内容

本发明所要解决的主要技术问题是：针对传统PLSR回归模型在以上两个方面的不足，通过利用输入数据各测量变量间相关性大小的差异为不同变量赋予不同的权值，一则将各输入变量间相关性差异考虑进回归模型中，二则实现了多样化数据特征的目的。与此同时，原始数据通过这种多样性变量加权后重新作为PLSR模型的输入数据，可以建立多样化的回归模型，进而可以有效地改善传统PLSR模型用于工业过程软测量的效果。

本发明解决上述技术问题所采用的技术方案为：一种基于多样性变量加权PLSR模型的工业过程软测量方法，包括以下步骤：

(1)从生产过程的历史数据库中找出容易测量变量所对应的采样数据组成输入数据矩阵X∈R^n×m，能直接或间接反映产品质量的指标所对应的数据组成输出向量y∈R^n×1。其中，n为训练样本数，m为过程测量变量数，R为实数集，R^n×m表示n×m维的实数矩阵。

(2)将向量y与矩阵X中的每一列进行标准化处理，得到均值为0，标准差为1的新输出向量与新数据矩阵记录向量y的标准差δ与均值μ并初始化i＝1。

(3)按照下式计算第i个输入测量变量与中不同列之间的相关系数C_i，j：

其中，上标号T表示矩阵或向量的转置，下标号j＝1，2，…，m，符号|| ||示计算向量的长度，并将得到的m个相关系数组成向量C_i＝[C_i，1，C_i，2，…，C_i，m]。

(4)将向量C_i中各元素做为权值赋予矩阵中相应的列，得到加权后的输入数据矩阵X_i，即：

其中，diag(C_i)表示将向量C_i变成对角矩阵，且对角线上的元素为C_i中各元素。

(5)利用PLSR算法建立输入矩阵X_i与向量之间的模型，即：

上式中，b_i为回归系数向量，e_i为模型误差，并利用b_i与X_i求得该PLSR模型的输出估计值y_i＝X_ib_i。

(6)置i＝i+1后，判断是否满足条件i≤m。若是，重复步骤(4)～(6)；若否，执行步骤(7).

(7)将m个PLSR模型的输出估计值组成新的输入矩阵Y＝[y₁，y₂，…，y_m]∈R^n×m后，再次利用PLSR算法建立输入矩阵Y与输出向量之间的模型，即：

上式中，q为回归系数向量，f为模型误差，并保留所有的回归系数向量b₁，b₂，…，b_m，q以备调用。

(8)实施在线工业过程软测量，具体的实施过程如下所示：

①采集新时刻易测量变量的样本数据z∈R^1×m，并对其实施与矩阵X相同的标准化处理得到

②调用m个不同的权值向量C₁，C₂，…，C_m，按照下式分别对数据向量中各列进行加权处理，对应得到m个新输入数据向量z₁，z₂，…，z_m：

其中，下标号i＝1，2，…，m；

③调用回归系数向量b₁，b₂，…，b_m按照下式分别求得对应的模型输出估计值

④将所得到的输出估计值组成向量并调用回归系数向量q求得那么最终的产品质量估计值

与现有方法相比，本发明方法的优势在于：

首先，通过计算输入数据各测量变量与其他测量变量间相关性的大小，并以之作为输入数据变量的权值，这从数据统计特性角度体现了各个输入变量间相关性的差异在回归建模中的重要性。此外，在不需要任何过程经验知识的前提下，直接基于多样性变量加权处理后的数据建立多样化的PLSR模型。从这两点上将，本发明方法为解决如前所述传统PLSR模型用于软测量时的不足提供了一条可行之路。其次，本发明方法在多个PLSR模型估计值的基础上再次使用PLSR方法，能更进一步的优化软测量模型输出估计值。相比于传统基于PLSR的软测量方法而言，不仅能在数据特征描述上充分考虑输入变量差异的多样性，而且还利用了多样化的回归模型提升软测量模型对产品质量指标的预测精度。

附图说明

图1为本发明方法的实施流程图。

图2为PLSR算法的实施流程图。

具体实施方式

下面结合附图对本发明方法进行详细的说明。

如图1所示，本发明提供了一种基于多样性变量加权PLSR模型的工业过程软测量方法，该方法的具体实施步骤如下所示：

步骤1：从生产过程的历史数据库中找出容易测量变量所对应的采样数据组成输入数据矩阵X∈R^n×m，能直接或间接反映产品质量的指标所对应的数据组成输出向量y∈R^{n ×1}。其中，n为训练样本数，m为过程测量变量数，R为实数集，R^n×m表示^n×m维的实数矩阵。

步骤2：将向量y与矩阵X中的每一列进行标准化处理，得到均值为0，标准差为1的新输出向量与新数据矩阵记录向量y的标准差δ与均值μ并初始化i＝1。

步骤3：按照下式计算第i个输入测量变量与中不同列之间的相关系数C_i，j：

其中，上标号T表示矩阵或向量的转置，下标号j＝1，2，…，m，符号|| ||表示计算向量的长度，并将得到的m个相关系数组成向量C_i＝[C_i，1，C_i，2，…，C_i，m]。

步骤4：将向量C_i中各元素做为权值赋予矩阵中相应的列，得到加权后的输入数据矩阵X_i，即：

其中，diag(C_i)表示将向量C_i变成对角矩阵，且对角线上的元素为C_i中各元素。

步骤5：利用PLSR算法建立输入矩阵X_i与向量之间的模型，即：

上式中，b_i为回归系数向量，e_i为模型误差，并利用b_i与X_i求得该PLSR模型的输出估计值y_i＝X_ib_i。

如图2所示，利用PLSR算法建立矩阵X_i与向量之间模型的详细实施过程如下所示：

①初始化h＝1，并设置向量与向量

②依据公式w_h＝X_i ^Tu/(u^Tu)计算输入权值向量w_h，并用公式w_h＝w_h/||w_h||单位化向量w_h；

③依据公式s_h＝X_iw_h/(w_h ^Tw_h)计算得分向量s_h；

④依据公式g_h＝y₀ ^Ts_h/(s_h ^Ts_h)计算输出权值g_h；

⑤依据公式u＝y₀g_h更新向量u；

⑥重复②～⑤直至s_h收敛(即向量s_h中各元素不再变化)；

⑦保留输入权值向量w_h与输出权值g_h，并依据公式p_h＝X_i ^Ts_h/(s_h ^Ts_h)计算投影向量p_h；

⑧依据如下两式更新输入矩阵X_i与输出向量y₀：

X_i＝X_i-s_hp_h ^T (10)

y₀＝y₀-s_hg_h (11)

⑨令h＝h+1后，若h≤3k_i/4，重复②～⑧求解下一个w_h、g_h、和p_h；若h＞3k_i/4，则执行⑩；

⑩将得到的所有输入权值向量组成矩阵W＝[w₁，w₂，…，w_h]、所有输出权值向量组成行向量G＝[g₁，g₂，…，g_h]、以及所有投影向量组成矩阵P＝[p₁，p₂，…，p_h]，那么PLSR模型的回归系数向量b_i＝W(P^TW)^-1G^T。

步骤6：置i＝i+1后，判断是否满足条件i≤m。若是，重复步骤4～6；若否，执行步骤7.

步骤7：将m个PLSR模型的输出估计值组成新的输入矩阵Y＝[y₁，y₂，…，y_m]∈R^n×m后，再次利用PLSR算法建立输入矩阵Y与输出向量之间的模型，即：

上式中，q为回归系数向量，f为模型误差，并保留所有的回归系数向量b₁，b₂，…，b_m，q以备调用。具体建立Y与输出向量之间的PLSR模型的实施步骤与步骤5类似，这里不再赘述。

步骤8：实施在线工业过程软测量，具体的实施过程如下所示：

①采集新时刻易测量变量的样本数据z∈R^1×m，并对其实施与矩阵X相同的标准化处理得到

②调用m个不同的权值向量C₁，C₂，…，C_m，按照下式分别对数据向量中各列进行加权处理，对应得到m个新输入数据向量z₁，z₂，…，z_m：

其中，下标号i＝1，2，…，m；

③调用回归系数向量b₁，b₂，…，b_m按照下式分别求得对应的模型输出估计值

④将所得到的输出估计值组成向量并调用回归系数向量q求得那么最终的产品质量估计值

上述实施例仅是对本发明的优选实施方式，在本发明的精神和权利要求的保护范围内，对本发明做出的任何修改和改变，不应排除在本发明的保护范围之外。

Claims (2)

1.一种基于多样性变量加权PLSR模型的工业过程软测量方法，其特征在于，包括以下步骤：

(1)从生产过程的历史数据库中找出容易测量变量所对应的采样数据组成输入数据矩阵X∈R^n×m，能直接或间接反映产品质量的指标所对应的数据组成输出向量y∈R^n×1，其中，n为训练样本数，m为过程测量变量数，R为实数集，R^n×m表示n×m维的实数矩阵；

(2)将向量y与矩阵X中的每一列进行标准化处理，得到均值为0，标准差为1的新输出向量与新数据矩阵记录向量y的标准差δ与均值μ并初始化i＝1；

(3)按照下式计算第i个输入测量变量与中不同列之间的相关系数C_i，j：

其中，上标号T表示矩阵或向量的转置，下标号j＝1，2，…，m，符号|| ||表示计算向量的长度，并将得到的m个相关系数组成向量C_i＝[C_i，1，C_i，2，…，C_i，m]；

(4)将向量C_i中各元素做为权值赋予矩阵中相应的列，得到加权后的输入数据矩阵X_i，即：

其中，diag(C_i)表示将向量C_i变成对角矩阵，且对角线上的元素为C_i中各元素；

(5)利用PLSR算法建立输入矩阵X_i与向量之间的回归模型，即：

上式中，b_i为回归系数向量，e_i为模型误差，并利用b_i与X_i求得该PLSR模型的输出估计值y_i＝X_ib_i；

(6)置i＝i+1后，判断是否满足条件i≤m？若是，重复步骤(4)～(6)；若否，执行步骤(7)；

(7)将m个PLSR模型的输出估计值组成新的输入矩阵Y＝[y₁，y₂，…，y_m]∈R^n×m后，再次利用PLSR算法建立输入矩阵Y与输出向量之间的回归模型，即：

上式中，q为回归系数向量，f为模型误差，并保留所有的回归系数向量b₁，b₂，…，b_m，q以备调用；

(8)实施在线工业过程软测量，具体的实施过程如下所示：

①采集新时刻易测量变量的样本数据z∈R^1×m，并对其实施与矩阵X相同的标准化处理得到

②调用m个不同的权值向量C₁，C₂，…，C_m，按照下式分别对数据向量中各列进行加权处理，对应得到m个新输入数据向量z₁，z₂，…，z_m：

其中，下标号i＝1，2，…，m；

③调用回归系数向量b₁，b₂，…，b_m按照下式分别求得对应的模型输出估计值

④将所得到的输出估计值组成向量并调用回归系数向量q求得那么最终的产品质量估计值

2.根据权利要求1所述的基于多样性变量加权PLSR模型的工业过程软测量方法，其特征在于，所述步骤(5)中利用PLSR算法建立输入矩阵X_i与向量之间回归模型的详细实施过程具体为：

①初始化h＝1，并设置向量与向量

②依据公式w_h＝X_i ^Tu/(u^Tu)计算输入权值向量w_h，并用公式w_h＝w_h/||w_h||单位化向量w_h；

③依据公式s_h＝X_iw_h/(w_h ^Tw_h)计算得分向量s_h；

④依据公式g_h＝y₀ ^Ts_h/(s_h ^Ts_h)计算输出权值g_h；

⑤依据公式u＝y₀g_h更新向量u；

⑥重复②～⑤直至s_h收敛；

⑦保留输入权值向量w_h与输出权值g_h，并依据公式p_h＝X_i ^Ts_h/(s_h ^Ts_h)计算投影向量p_h；

⑧依据如下两式更新输入矩阵X_i与输出向量y₀：

X_i＝X_i-s_hp_h ^T (7)

y₀＝y₀-s_hg_h (8)

⑨令h＝h+1后，若h≤3k_i/4，重复②～⑧求解下一个w_h、g_h、和p_h；若h＞3k_i/4，则执行下一步；

⑩将得到的所有输入权值向量组成矩阵W＝[w₁，w₂，…，w_h]、所有输出权值向量组成行向量G＝[g₁，g₂，…，g_h]、以及所有投影向量组成矩阵P＝[p₁，p₂，…，p_h]，那么PLSR模型的回归系数向量b_i＝W(P^TW)^-1G^T。