CN114239400A - 基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法 - Google Patents

Abstract

本发明公开一种基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，首先基于变分贝叶斯高斯混合模型拟合多工况过程，利用多个高斯组分模拟多工况数据的分布，并计算训练样本归属于各高斯组分的后验概率，实现对训练数据集的多工况软划分；进而针对待预测样本构建各组分下的局部双加权概率隐变量回归模型，并计算待预测样本归属于各组分的后验概率，以融合各局部加权模型的输出预测，形成最终的软测量预测结果。本发明能够获得更准确的输出预测结果，极大地提升工业软测量模型的预报性能，同时自适应多工况过程，可更精准反映工业生产状况。

Description

基于局部双加权概率隐变量回归模型的多工况过程自适应软 测量建模方法

技术领域

本发明属于工业过程控制领域，特别涉及一种基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法。

背景技术

在工业生产过程中，由于过程环境和生产条件的复杂，许多反映生产质量的关键变量无法用工业仪表实时测量。这些质量变量的数据通常由实验室分析或在线分析仪获得，受到大延迟或高成本的限制。近年来，随着数据科学和信息技术的进步，数据驱动软测量模型在过程工业中得到了广泛的应用，主要基于历史过程数据和统计机器学习方法构建输入输出模型，以解决具有非线性、噪声、多模态和多采样率等特点的过程数据建模问题。此外，由于实际生产要求的频繁变化，工业过程数据普遍存在时变特性。

由于生产的要求和原料成分的比例不同，实际工业生产的操作点是经常变化的，产生了多工况过程建模问题。近年来，多工况过程建模成为的研究热点。数据驱动方法中，高斯混合模型(GMM)是最适合对多工况数据进行建模的方法，因为它能以多个高斯组分拟合工业过程的多个生产工况。基本的高斯混合模型需要指定高斯组分的个数，而基于变分贝叶斯算法的高斯混合模型(VBGMM)可自动确定高斯组分个数，实现对工业过程的多工况软划分。

局部加权学习模型通过选择与在线测试样本相似的历史样本建立局部模型进行输出预测，能够较好地建立非线性、多工况和时变过程软测量模型。与此同时，概率隐变量回归模型(PLVR)能够以随机变量的形式对含有噪声的工业数据进行描述，在隐变量空间中提取数据特征。因此，对概率隐变量回归模型采取局部加权的学习策略能够有效解决非线性、时变、多模态过程数据建模问题，可以大大提升工业软测量模型的预测性能和对过程变化的自适应能力。

进一步，在不同高斯组分下建立局部加权模型，不仅可以集成多个工况下的数据特征信息，还能提升各工况下局部模型的预测性能。同时，以概率归属度的形式对工业数据的不同工况进行软划分，可以有效避免硬划分算法带来的信息损失问题。对不同工况下进行软测预报时，以概率归属度为权重融合各局部加权模型的预测结果，可有效实现对多工况过程的自适应建模和预报。因此，非常有必要发明一种面向多工况过程集成学习的局部加权概率隐变量模型，以提升复杂工业过程软测量模型的预报性能。

发明内容

本发明的目的在于针对现有软测量建模方法的局限，提供一种基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，具体技术方案如下：

一种基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，包括以下步骤：

(1)利用工业控制系统收集训练数据集

其中N代表训练数据集中样本个数，M代表训练数据集变量维度，数据集由输入变量ξ_n∈R^m和输出变量ο_n∈R¹构成，即ψ_n＝[ξ_n ο_n]^T；假设训练数据集服从混合高斯分布

包含K个高斯组分，其均值和协方差为

和

τ^k代表第k个高斯组分的混合权重；

(2)基于训练数据集训练变分贝叶斯高斯混合模型，获得各高斯组分参数Θ^k＝{τ^k,u^k,Ω^k}，k＝1,...,K；

(3)计算每个训练样本属于各高斯组分的归属度S＝{S_nk},n＝1,...,N；k＝1,...,K，并在各高斯组分下依据归属度值S_nk从大到小对原始训练样本进行排序，为每个高斯组分构造一组重新排序后的训练数据集Z_k,k＝1,...,K；

(4)分别计算待预测样本输入部分

与训练后的各高斯组分下的训练样本的相似度

(5)将各高斯组分下相似度值较高的前Ns个样本取出，并基于训练样本归属度S_nk和相似度

双加权的策略构建并训练各组分下的局部加权概率隐变量回归模型M_ik，并设定隐变量个数p和加权调节参数

(6)计算待预测样本输入部分归属于各高斯组分的后验概率ω_ik；

(7)计算各局部加权概率隐变量回归模型M_ik的预测值

并依据待预测样本输入部分的归属度值ω_ik进行加权求和，获得待预测样本输入部分的最终输出预测值

进一步地，所述步骤(2)具体为：

1)基于变分贝叶斯算法学习高斯混合模型参数时，需要为模型的随机变量V＝{τ,u,Ω,C}设定先验分布，均值和方差服从正态逆威沙特分布：p(u^k,Ω^k)＝NIW(u^k,Ω^k|υ^k,ε^k,Γ^k,κ^k)，高斯混合权重服从狄利克雷分布：p(τ^k)＝Dir(τ^k|ν^k)和样本的组分标签C_n服从类别分布：C_n～categorical(C_n|π)，其中υ,ε,Γ,κ,ν是先验分布的超参数；

2)在变分贝叶斯算法中，采用变分分布q(V|η)近似随机变量的后验分布：

q(V|η)＝q(τ|η_τ)q(u,Ω|η_υ,η_ε,η_Γ,η_κ)q(C|η_C)

其中η代表变分分布的超参数；

3)依据变分贝叶斯算法原理，构建目标函数，即变分证据下界：

(a)首先最大化目标函数的第一项，获得变分分布q(C|η_C)的变分超参数η_C：

其中Ψ(·)代表双伽玛函数，利用softmax函数得到η_C的计算式：

(b)然后最大化目标函数的第二项，获得剩余的变分超参数：

(c)最后将变分超参数转化为高斯混合模型的各高斯组分的参数Θ^k＝{τ^k,u^k,Ω^k}，k＝1,...,K：

进一步地，所述步骤(3)具体为：

1)基于贝叶斯公式计算每个训练样本属于各高斯组分的归属度：

其中p(ψ_n|Θ^k)是ψ_n在第k个组分下的似然函数，其参数为Θ^k＝{τ^k,u^k,Ω^k}；

2)在第k个组分中，对归属度值S_nk进行从大到小排序，并依据该顺序对原始训练样本进行重新排列，即可为每个组分构造一组重新排序后的训练数据集Z_k,k＝1,...,K。

进一步地，所述步骤(4)具体为：

1)分别计算待预测样本输入部分

与第k个高斯组分训练集Z_k中样本的欧氏距离：

其中

代表Z_k中第n个样本Z_nk与

的欧氏距离；

2)利用负指数函数将欧氏距离转化为(0,1)范围内的相似度值：

其中

为样本集Z_k与

欧氏距离

的标准差，

是调节参数，在[0.1,10]内取值。

进一步地，所述步骤(5)具体为：

1)对于待预测样本输入部分

将各高斯组分下相似度值较高的前Ns个训练样本取出，基于样本归属度S_nk和相似度

双加权策略构建K个高斯组分下的局部加权概率隐变量回归模型M_ik,k＝1,...,K，具体包括如下步骤：

利用训练样本归属度S_nk对第k个组分下的Ns个训练样本进行加权，即：

然后，基于相似度

构建局部加权概率隐变量回归模型，其表达式为：

ξ＝ΗL+e

ο＝ΡL+f

其中Η∈R^M×p和Ρ∈R^r×p是待求解的参数矩阵；

和

分别代表模型的输入和输出，对应第k个高斯组分下的加权样本

其变量维度分别为M和r；

代表模型的隐变量，服从单位高斯分布

隐变量维度设为p；e和f分别代表输入和输出变量包含的噪声，并假设其服从高斯分布

和

其中Σ_ξ和Σ_ο代表噪声的协方差矩阵；

2)采用期望最大化算法求解模型参数，基于相似度

加权后的模型目标函数，即Q函数为：

3)通过期望最大化算法中的E步计算隐变量的充分统计量：

其中<·>代表隐变量的期望；

4)通过期望最大化算法中的M步，最大化Q函数，获得模型参数的更新公式：

5)对模型参数设定初始值，代入期望最大化算法中的E步计算充分统计量，开始EM算法迭代，经过E步和M步的多次交替迭代后，参数值趋于收敛，迭代停止，即可得到最终的局部加权概率隐变量回归模型参数。

进一步地，所述步骤(6)具体为：基于贝叶斯公式计算待预测样本

属于各高斯组分的后验概率：

其中

是

服从第k个高斯分布的概率，其参数为Θ^k＝{τ^k,u^k,Ω^k}。

进一步地，所述步骤(7)具体为：

1)基于步骤(6)中获得的局部加权概率隐变量回归模型参数，计算待预测样本输入部分

在第k个组分下的隐变量的估计值：

2)根据模型表达式计算第k个组分下局部加权概率隐变量回归模型的输出预测值：

其中

代表训练样本基于相似度加权后的输入均值和输出均值；

3)依据待预测样本输入部分的归属度值ω_ik对各局部加权概率隐变量回归模型的输出预测结果进行加权求和，获得待预测样本的最终输出预测值：

本发明的有益效果如下：

本发明通过基于概率归属度的多工况软划分方法，避免了传统多工况过程硬划分带来的建模信息损失，并且本发明在构建局部加权预测模型时，提出了一种局部样本归属度和相似度双加权的策略，能够获得更加准确的输出预测结果，提升工业软测量模型的预报性能，同时具备自适应多工况过程的能力，可更加精准地反映工业生产状况。

附图说明

图1是基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模算法流程图；

图2是一段炉生产工艺流程图；

图3是确定VBGMM高斯组分数目折线图；

图4是本发明提出方法的预测结果图；

图5是对比方法一的预测结果图；

图6是对比方法二的预测结果图；

图7是对比方法三的预测结果图；

图8是对比方法四的预测结果图。

具体实施方式

下面根据附图和优选实施例详细描述本发明，本发明的目的和效果将变得更加明白，应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

本发明针对多工况工业过程软测量建模问题，提出了一种基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，其算法流程如图1所示。该方法首先基于变分贝叶斯高斯混合模型(VBGMM)拟合多工况过程，利用多个高斯组分模拟多工况数据的分布，并计算训练样本归属于各高斯组分(工况)的后验概率，实现对训练数据集的多工况软划分；进而针对待预测样本构建各组分下的局部双加权概率隐变量回归模型(LDWPLVR)，并计算待预测样本归属于各组分的后验概率，以融合各局部加权模型的输出预测，形成最终的软测量预测结果。

本发明通过基于概率归属度的多工况软划分方法，可以有效避免传统多工况过程硬划分带来的建模信息损失，并且局部样本归属度和相似度双加权的策略，能够使模型获得更加准确的输出预测结果，极大地提升工业软测量模型的预报精度，同时具备自适应多工况过程的能力，精准地反映工业生产状况。

本发明的基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，具体包括如下步骤：

第一步：利用工业控制系统收集软测量建模用的训练数据集

其中N代表训练数据集中样本个数，M代表训练数据集变量维度，数据集由输入变量ξ_n∈R^m和输出变量ο_n∈R¹构成，即ψ_n＝[ξ_n ο_n]^T。假设训练数据集服从混合高斯分布

包含K个高斯组分，其均值和协方差为

和

τ^k代表第k个高斯组分的混合权重。将这些数据存入历史数据库。

第二步基于历史数据训练变分贝叶斯高斯混合模型(VBGMM)，获得各高斯组分参数Θ^k＝{τ^k,u^k,Ω^k}，k＝1,...,K。具体按照下面三个内容展开：

1)基于变分贝叶斯算法学习高斯混合模型参数时，需要为模型的随机变量V＝{τ,u,Ω,C}设定先验分布，均值和方差服从正态逆威沙特分布：p(u^k,Ω^k)＝NIW(u^k,Ω^k|υ^k,ε^k,Γ^k,κ^k)，高斯混合权重服从狄利克雷分布：p(τ^k)＝Dir(τ^k|ν^k)和隐变量——样本的组分标签C_n服从类别分布：C_n～categorical(C_n|π)，其中υ,ε,Γ,κ,ν是先验分布的超参数。

2)在变分贝叶斯算法中，采用变分分布q(V|η)近似随机变量的后验分布：

q(V|η)＝q(τ|η_τ)q(u,Ω|η_υ,η_ε,η_Γ,η_κ)q(C|η_C)

其中η代表变分分布的超参数。

3)依据变分贝叶斯算法原理，可得模型需要最大化的目标函数——变分证据下界(ELBO)：

(a)首先最大化第一项计算变分分布q(C|η_C)的变分超参数η_C：

其中Ψ(·)代表双伽玛函数，利用softmax函数可得η_C的计算式：

(b)然后最大化第二项以获得余下变分超参数：

(c)最后将变分超参数转化为GMM的参数Θ^k＝{τ^k,u^k,Ω^k}，k＝1,...,K：

第三步计算每个训练样本属于各高斯组分的归属度S＝{S_nk},n＝1,...,N；k＝1,...,K，并在各高斯组分下依据归属度值S_nk从大到小对原始训练样本进行排序，为每个高斯组分构造一组重新排序后的训练数据集Z_k,k＝1,...,K。具体按照下面两个内容展开：

1)基于贝叶斯公式计算每个训练样本属于各高斯组分的归属度：

其中p(ψ_n|Θ^k)是ψ_n在第k个组分下的似然函数，其参数为Θ^k＝{τ^k,u^k,Ω^k}。

2)在第k个高斯组分中，对归属度值S_nk进行从大到小排序，并依据该顺序对原始训练样本进行重新排列，即可为每个高斯组分构造一组重新排序后的训练数据集Z_k,k＝1,...,K。

第四步在获得待预测样本

时，分别计算待预测样本与各组分下训练样本的相似度

这里基于欧氏距离和负指数函数计算样本间的相似度值

具体按照下面两个内容展开：

1)分别计算待预测样本

与第k个组分训练集Z_k中样本的欧氏距离：

其中

代表Z_k中第n个样本Z_nk与

的欧氏距离。

2)利用负指数函数将欧氏距离转化为(0,1)范围内的相似度值：

其中

为样本集Z_k与

欧氏距离

的标准差，

是调节参数，在[0.1,10]内取值。

第五步将各高斯组分下相似度值较高的前Ns个样本取出，并基于样本归属度S_nk和相似度

双加权的策略构建各组分下的局部加权概率隐变量回归(LDWPLVR)模型M_ik，并设定隐变量个数p和加权调节参数

具体按照下面五个内容展开：

1)对于待预测样本

将各高斯组分下相似度值较高的前Ns个训练样本取出，基于样本归属度S_nk和相似度

双加权策略构建K个组分下的局部加权概率隐变量回归(LDWPLVR)模型M_ik,k＝1,...,K。首先引入样本的高斯组分归属度S_nk，以区分模型训练时样本的不同贡献(对当前高斯组分的归属度越高，在建立当前局部模型时的贡献越大)，利用样本归属度S_nk对第k个高斯组分下的Ns个训练样本进行加权，即：

然后，考虑训练样本与待预测样本的相似程度(相似程度越高，其建模时的贡献越大)，基于相似度

构建LDWPLVR模型：

ξ＝ΗL+e

ο＝ΡL+f

其中，Η∈R^M×p和Ρ∈R^r×p是待求解的参数矩阵；

和

分别代表LDWPLVR模型的输入和输出，对应第k个高斯组分下的加权样本

其变量维度分别为M和r；

代表LDWPLVR模型的隐变量，服从单位高斯分布

隐变量维度设为p；e和f分别代表输入和输出变量包含的噪声，并假设其服从高斯分布

和

其中Σ_ξ和Σ_ο代表噪声的协方差矩阵。

2)采用期望最大化(EM)算法求解模型参数，基于相似度

加权后的模型目标函数(Q函数)为：

3)通过E步计算隐变量的充分统计量：

其中<·>代表隐变量的期望。

4)通过M步最大化Q函数获得模型参数的更新公式：

5)对模型参数设定初始值，代入E步计算充分统计量，开始EM算法迭代，经过E步和M步的多次交替迭代后，参数值趋于收敛，迭代停止，即可得到最终的LDWPLVR模型参数。

第六步基于贝叶斯公式计算待预测样本

属于各高斯组分的后验概率(归属度)：

其中

是

服从第k个高斯分布的概率，其参数为Θ^k＝{τ^k,u^k,Ω^k}。

第七步计算各局部加权概率隐变量回归模型M_ik的预测值

并依据待预测样本的归属度值ω_ik进行加权求和，获得待预测样本的最终输出预测值

具体按照下面三个内容展开：

1)基于步骤(6)中获得的LDWPLVR参数，计算待预测样本

在第k个高斯组分下的隐变量：

2)根据模型表达式计算第k个高斯组分下局部模型的输出预测值：

其中

代表样本基于相似度加权后的输入均值和输出均值。

3)依据待预测样本的归属度值ω_ik对各局部模型的输出预测结果进行加权求和，获得待预测样本的最终输出预测值：

为了评价软测量模型的性能，计算模型评价指标——均方根误差(RMSE)和确定性系数(R²)

其中，

和

分别为待预测样本输出的真实值、预测值和平均值，Nt为待预测样本的个数。

以下结合一个具体的工业过程实例来验证本发明的有效性。一段炉是合成氨生产过程的核心工艺装置，其功能是将天然气转化为氢。图2为该装置的工艺流程图，其中包含13个工艺变量和一个质量变量，其中的变量描述如表1所示。在这个装置中，炉顶的氧含量是一个关键的质量变量。在实际生产过程中，需要建立数据驱动的软测量模型对氧含量进行实时估计。由于原料成分变化，使得实际工艺操作需要随之变化，炉膛内的氧含量也经常发生变化，存在多工况特性。由于过程结构复杂，过程变量与质量变量之间存在很强的非线性关系。因此，本发明可用于此案例建立在线预测模型。从实际工艺过程中收集了2000个样本数据，其中1500个用于训练模型，剩下500个用于构建测试数据集。

表1：工艺变量说明

标签	变量	标签	变量
				U<sub>1</sub>	燃料天然气流量	U<sub>8</sub>	顶部左侧炉膛烟气温度
U<sub>2</sub>	燃料尾气流量	U<sub>9</sub>	顶部右侧炉膛烟气温度
				U<sub>3</sub>	出口燃料天然气压力	U<sub>10</sub>	顶部混合炉膛烟气温度
U<sub>4</sub>	出口炉膛烟气压力	U<sub>11</sub>	出口转换气温度
				U<sub>5</sub>	E3出口燃料尾气温度	U<sub>12</sub>	右侧出口转换气温度
U<sub>6</sub>	出口燃料天然气温度	U<sub>13</sub>	出口转换气温度
				U<sub>7</sub>	入口工艺气温度	Y	炉内顶部氧气含量

首先基于VBGMM对数据中存在的生产工况数量进行确定。将VBGMM的初始组分数设置为3～20，根据最终收缩得到的组分数来确定。如果初始值足够大，最终有效组分数值就会坍缩到一个稳定值。组分数的详细确定如图3所示。可以看出，当初始值增大时，拟合RMSE减小且保持不变。最终确定了本案例的高斯组分数为14，此时RMSE趋于稳定且计算负担相对较小。

然后，基于本发明提出的方法构建氧含量软测量模型。在VBGMM确定的各个高斯组分下，建立针对在线测试样本的LDWPLVR模型，并基于样本的归属度权重将各组分下的预测结果融合成最终的软测量预测值。与四种方法进行对比。方法一为仅用相似度加权的LWPLVR模型，方法二为基于VBGMM工况硬划分下的LWPLVR模型，方法三为基本的LWPLVR模型(不采用VBGMM进行工况划分)，方法四为基本的VBGMR模型。最终，本发明提出的方法和上述四种方法在测试集上的预测结果分别如图4、图5、图6、图7、图8所示，预测性能评价指标RMSE和R²值如表2所示。比较结果表明，本发明提出的软测建模方法能够有效融合多工况下的数据信息，同时考虑样本归属度和相似度构建局部双加权学习模型，其性能相较先前的局部加权软测量模型有了显著提升。

表2：软测量模型预测性能比较

指标/模型	本发明	方法一	方法二	方法三	方法四
						预测RMSE	0.76	0.85	0.89	1.01	1.18
预测R<sup>2</sup>	0.82	0.74	0.71	0.63	0.55

本领域普通技术人员可以理解，以上所述仅为发明的优选实例而已，并不用于限制发明，尽管参照前述实例对发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实例记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在发明的精神和原则之内，所做的修改、等同替换等均应包含在发明的保护范围之内。

Claims (7)

1.一种基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，其特征在于，包括以下步骤：

(1)利用工业控制系统收集训练数据集

其中N代表训练数据集中样本个数，M代表训练数据集变量维度，数据集由输入变量ξ_n∈R^m和输出变量ο_n∈R¹构成，即ψ_n＝[ξ_n ο_n]^T；假设训练数据集服从混合高斯分布

包含K个高斯组分，其均值和协方差为

和

τ^k代表第k个高斯组分的混合权重；

(2)基于训练数据集训练变分贝叶斯高斯混合模型，获得各高斯组分参数Θ^k＝{τ^k,u^k,Ω^k}，k＝1,...,K；

(3)计算每个训练样本属于各高斯组分的归属度S＝{S_nk},n＝1,...,N；k＝1,...,K，并在各高斯组分下依据归属度值S_nk从大到小对原始训练样本进行排序，为每个高斯组分构造一组重新排序后的训练数据集Z_k,k＝1,...,K；

(4)分别计算待预测样本输入部分

与训练后的各高斯组分下的训练样本的相似度

(5)将各高斯组分下相似度值较高的前Ns个样本取出，并基于训练样本归属度S_nk和相似度

双加权的策略构建并训练各组分下的局部加权概率隐变量回归模型M_ik，并设定隐变量个数p和加权调节参数

(6)计算待预测样本输入部分归属于各高斯组分的后验概率ω_ik；

(7)计算各局部加权概率隐变量回归模型M_ik的预测值

并依据待预测样本输入部分的归属度值ω_ik进行加权求和，获得待预测样本输入部分的最终输出预测值

2.根据权利要求1所述基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，其特征在于，所述步骤(2)具体为：

1)基于变分贝叶斯算法学习高斯混合模型参数时，需要为模型的随机变量V＝{τ,u,Ω,C}设定先验分布，均值和方差服从正态逆威沙特分布：p(u^k,Ω^k)＝NIW(u^k,Ω^k|υ^k,ε^k,Γ^k,κ^k)，高斯混合权重服从狄利克雷分布：p(τ^k)＝Dir(τ^k|ν^k)和样本的组分标签C_n服从类别分布：C_n～categorical(C_n|π)，其中υ,ε,Γ,κ,ν是先验分布的超参数；

2)在变分贝叶斯算法中，采用变分分布q(V|η)近似随机变量的后验分布：

q(V|η)＝q(τ|η_τ)q(u,Ω|η_υ,η_ε,η_Γ,η_κ)q(C|η_C)

其中η代表变分分布的超参数；

3)依据变分贝叶斯算法原理，构建目标函数，即变分证据下界：

(a)首先最大化目标函数的第一项，获得变分分布q(C|η_C)的变分超参数η_C：

其中Ψ(·)代表双伽玛函数，利用softmax函数得到η_C的计算式：

(b)然后最大化目标函数的第二项，获得剩余的变分超参数：

(c)最后将变分超参数转化为高斯混合模型的各高斯组分的参数Θ^k＝{τ^k,u^k,Ω^k}，k＝1,...,K：

3.根据权利要求1所述基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，其特征在于，所述步骤(3)具体为：

1)基于贝叶斯公式计算每个训练样本属于各高斯组分的归属度：

其中p(ψ_n|Θ^k)是ψ_n在第k个组分下的似然函数，其参数为Θ^k＝{τ^k,u^k,Ω^k}；

2)在第k个组分中，对归属度值S_nk进行从大到小排序，并依据该顺序对原始训练样本进行重新排列，即可为每个组分构造一组重新排序后的训练数据集Z_k,k＝1,...,K。

4.根据权利要求1所述基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，其特征在于，所述步骤(4)具体为：

1)分别计算待预测样本输入部分

与第k个高斯组分训练集Z_k中样本的欧氏距离：

其中

代表Z_k中第n个样本Z_nk与

的欧氏距离；

2)利用负指数函数将欧氏距离转化为(0,1)范围内的相似度值：

其中

为样本集Z_k与

欧氏距离

的标准差，

是调节参数，在[0.1,10]内取值。

5.根据权利要求1所述基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，其特征在于，所述步骤(5)具体为：

1)对于待预测样本输入部分

将各高斯组分下相似度值较高的前Ns个训练样本取出，基于样本归属度S_nk和相似度

双加权策略构建K个高斯组分下的局部加权概率隐变量回归模型M_ik,k＝1,...,K，具体包括如下步骤：

利用训练样本归属度S_nk对第k个组分下的Ns个训练样本进行加权，即：

然后，基于相似度

构建局部加权概率隐变量回归模型，其表达式为：

ξ＝ΗL+e

ο＝ΡL+f

其中Η∈R^M×p和Ρ∈R^r×p是待求解的参数矩阵；

和

分别代表模型的输入和输出，对应第k个高斯组分下的加权样本

其变量维度分别为M和r；

代表模型的隐变量，服从单位高斯分布

隐变量维度设为p；e和f分别代表输入和输出变量包含的噪声，并假设其服从高斯分布

和

其中Σ_ξ和Σ_ο代表噪声的协方差矩阵；

2)采用期望最大化算法求解模型参数，基于相似度

加权后的模型目标函数，即Q函数为：

3)通过期望最大化算法中的E步计算隐变量的充分统计量：

其中<·>代表隐变量的期望；

4)通过期望最大化算法中的M步，最大化Q函数，获得模型参数的更新公式：

5)对模型参数设定初始值，代入期望最大化算法中的E步计算充分统计量，开始EM算法迭代，经过E步和M步的多次交替迭代后，参数值趋于收敛，迭代停止，即可得到最终的局部加权概率隐变量回归模型参数。

6.根据权利要求1所述基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，其特征在于，所述步骤(6)具体为：基于贝叶斯公式计算待预测样本

属于各高斯组分的后验概率：

其中

是

服从第k个高斯分布的概率，其参数为Θ^k＝{τ^k,u^k,Ω^k}。

7.根据权利要求1所述基于局部双加权概率隐变量回归模型的多工况过程自适应软测量建模方法，其特征在于，所述步骤(7)具体为：

1)基于步骤(6)中获得的局部加权概率隐变量回归模型参数，计算待预测样本输入部分

在第k个组分下的隐变量的估计值：

2)根据模型表达式计算第k个组分下局部加权概率隐变量回归模型的输出预测值：

其中

代表训练样本基于相似度加权后的输入均值和输出均值；

3)依据待预测样本输入部分的归属度值ω_ik对各局部加权概率隐变量回归模型的输出预测结果进行加权求和，获得待预测样本的最终输出预测值：

Images