CN106355330A - 基于径向基神经网络预测模型的多响应参数优化方法 - Google Patents

Abstract

本发明提出了一种基于径向基神经网络预测模型的改进加权主成分分析多响应参数优化方法，用径向基神经网络建立生产过程的非线性预测模型，引入神经网络模型能力预测指数，调整加权主成分分析算法，在多响应参数设计中优先改进预测能力强的响应，改善工艺参数优化效果。加权主成分分析法在多响应参数优化设计中通常采用线性回归构建响应变量与可控因子变量之间的关系模型，而对于复杂非线性生产过程，线性回归模型的拟合度不高，不能满足参数设计的建模要求。将本发明提出的方法应用于铝金属化聚丙烯薄膜电容器热聚合过程多响应参数优化设计，使电容器容值和损耗角正切值两个响应达到了满意的综合优化结果。

Description

基于径向基神经网络预测模型的多响应参数优化方法

技术领域

本发明涉及产品生产的过程控制，更具体地说，涉及生产工艺多响应参数优化的方法。

背景技术

随着生产工艺的复杂程度以及产品质量要求的提升，产品优化设计过程往往需要考虑多个质量特性，多质量特性参数优化设计方法旨在通过工艺过程参数的优化大幅提高产品质量。在现实生产中，多质量特性优化设计在质量连续改善过程中彰显出愈发重要的地位与作用。质量损失函数法和满意度函数法在多响应优化设计中应用较泛，但其忽略了各个响应彼此间的相关性。在多质量特性优化设计中，若忽视多质量特性之间存在的相关性问题，将影响优化设计的效果，从而使多质量特性优化设计中考虑多质量特性的相关性问题引起学术界广泛关注。文献《相关多质量特性的优化设计》，管理工程学报,汪建均，马义中等在运用田口质量损失函数度量多质量特性的稳健性基础上提出多变量偏最小二乘回归模型的改进方法，以解决多质量特性相关性问题。文献《多元质量特性的满意参数设计》，控制与决策,顾晓光，马义中等将满意度理论和相容性思想运用到多响应优化设计中对满意度法进行了改进。外国文献中公开了基于满意度法和球状准则模型提出一种解决多质量特性相关性的新方法。

现有技术中提出了加权主成分分析法，可将多响应问题转化为单响应优化问题。主成分分析法应用到实际工业生产中的多响应参数优化设计问题中，取得了令人满意的效果。现有技术中已有用基于主成分分析与似然不相关回归相结合的方法解决含有多个协变量的具有相关性的多响应稳健设计问题。现有技术中已有对加权主成分分析法进行改进，提出了一种改进的考虑预测能力的加权主成分分析法。改进的主成分分析方法是以建立过程影响因子与多个响应变量之间的数学模型为基础的，而传统参数响应曲面法是以一阶、二阶多项式为模型，回归确定参数来近似过程输入与输出的物理模型。对于现代先进制造过程中出现的越来越多的高度复杂非线性生产过程，一阶、二阶多项式参数响应曲面无法满足建立过程模型的要求，人工神经网络作为一种信息处理系统，具有较强的自主学习能力，可以在不了解过程输入与输出之间物理模型机理的情况下，逼近复杂非线性过程，属于非参数响应曲面法，具有较强的预测能力。

发明内容

本发明提出了一种基于径向基函数神经网络预测的改进主成分分析方法，进行生产过程多响应参数优化设计，解决了现有技术中现代先进制造过程中出现的越来越多的高度复杂非线性生产过程，一阶、二阶多项式参数响应曲面无法满足建立过程模型的要求等问题。

为解决上述技术问题，本发明采用的技术方案为：

基于径向基神经网络预测模型的改进加权主成分分析多响应参数优化方法，包括：

1)用主成分分析消除多个响应的相关性；

对于生产过程中的P个响应Y₁，Y₂，…，Y_p，用主成分分析消除它们之间的相关性，将其转化为k个不相关的主成分：

Z_q＝e_q1Y₁+e_q2Y₂+…+e_qpY_p

其中中，k≤p，e_q1,e_q2,…,e_qp为第q主成分的系数。

2)构建RBF神经网络模型，计算预测能力指数；

实验数据中可控影响因子变量共i个，过程响应变量共k个，将可控影响因子变量x1、x2…xi作为RBF神经网络模型的输入向量；将第j个响应变量y_j作为RBF神经网络模型的输出向量，分别建立k个RBF神经网络模型；用MATLAB计算机应用软件构建并训练RBF神经网络模型；

将第j个相应的RBF神经网络预测模型响应预测能力指数定义为r_j：

$R_j=\frac{\underset{i=1}{\overset{p}{\Σ}}{\mathrm{mse}}_i-{\mathrm{mse}}_j}{\underset{i=1}{\overset{p}{\Σ}}{\mathrm{mse}}_i},r_j=\frac{R_j}{\underset{i=1}{\overset{p}{\Σ}}{R}_i},j=1,2,...,p,$

mse为均方误差，r₁+r₂+…+r_p＝1。

3)用RBF神经网络模型响应预测能力指数与加权主成分分析法相结合，将主成分模型修改为:

Z_q-new＝e_q1r₁Y₁+e_q2r₂Y₂+…+e_qpr_pY_p，

利用各响应的RBF神经网络模型预测能力指数大小对各系数进行调整。

优选地：每一个主成分中含有的响应信息用方差贡献率表示为：

${\mathrm{\α}}_q=\frac{{\mathrm{\λ}}_q}{q=\underset{q=1}{\overset{k}{\Σ}}{\mathrm{\λ}}_q}$

式中λ_q为Y＝(Y₁，Y₂，…，Y_p)＇的协方差矩阵的第q个特征值；将方差贡献率作为权重，得到的k个主成分的加权和，作为多响应绩效指标MPI：

$MPI=\underset{q=1}{\overset{k}{\Σ}}{\mathrm{\α}}_q{Z}_q.$

优选地：所述RBF神经网络的激活函数常用的是高斯函数。

优选地：对响应的实验数据作均值化处理；对处理后响应均值做标准化处理。

优选地：所述优化方法可以应用于金属化聚丙烯膜电容器热聚合工艺过程多响应参数设计。

优选地：所述优化方法解决聚合过程影响因子聚合温度和聚合时间的参数优化设计，整体优化电容器的两个响应质量指标容值和损耗角正切值。

优选地：所述金属化聚丙烯薄膜电容器的生产过程是在大气中进行的。

本发明的有益效果：

本发明提出了一种基于径向基函数神经网络预测的改进主成分分析方法，进行生产过程多响应参数优化设计，建立生产过程影响因素与多个响应之间映射关系的径向基函数神经网络预测模型，应用主成分分析将多响应指标转化为不相关的指标，通过加权使多响应指标转化为综合评价的单响应指标，并优先改进预测能力强的响应，实现多个响应整体效果的优化。将基于参数和非参数预测模型的改进主成分分析方法，应用于金属化聚丙烯膜电容器热聚合工艺过程多响应参数设计，解决聚合过程影响因子聚合温度和聚合时间的参数优化设计问题，使电容器两个响应质量指标容值和损耗角正切值得到整体优化。

附图说明

图1为本发明的方法流程图。

图2是RBF神经网络结构图。

图3是基于一阶回归预测模型的MPI值主效应图。

图4是基于二阶回归预测模型的MPI值主效应图。

图5是基于RBF神经网络预测模型的MPI值主效应图。

具体实施方式

下面结合附图以实施例的方式详细描述本发明。

本发明提供一种基于径向基神经网络预测模型的改进加权主成分分析多响应参数优化方法，方法流程图参见图1。

加权主成分分析与RBF神经网络原理：

假设生产过程共有p个响应Y1，Y2，…，Yp，用主成分分析可消除响应之间的相关性，将其转化为k(k≤p)个不相关的主成分:

Z_q＝e_q1Y₁+e_q2Y₂+…+e_qpY_p (1)

式中e_q1,e_q2,…,e_qp为第q主成分的系数。每一个主成分中含有的响应信息用方差贡献率表示为：

${\mathrm{\α}}_q=\frac{{\mathrm{\λ}}_q}{q=\underset{q=1}{\overset{k}{\Σ}}{\mathrm{\λ}}_q}---\left(2\right)$

式中λ_q为Y＝(Y₁，Y₂，…，Y_p)＇的协方差矩阵的第q个特征值。将方差贡献率作为权重，得到的k个主成分的加权和，作为多响应绩效指标MPI(Multi-response Performance Index)：

$MPI=\underset{q=1}{\overset{k}{\Σ}}{\mathrm{\α}}_q{Z}_q---\left(3\right)$

这样即可将多响应优化转化为单响应优化问题。对望大特性的响应，MPI越大，质量水平越高；对望小特性的响应，MPI越小，质量水平越高。为保证MPI进行单响应优化的有效性，多响应指标中望大、望目、望小特性应该转化为相同的特性。如对望目特性的响应，将望目特性值转化为响应均值与其目标值之差的绝对值，即可转化为望小特性。

径向基函数(Radical Basis Function，简记为RBF)神经网络是一种高效的前馈式神经网络，在逼近能力、泛化能力和学习速度等多方面优于BP神经网络，可逼近线性和非线性函数，不存在局部最优问题，其结构如附图1所示。

RBF神经网络的激活函数常用的是高斯函数：

$R(x_p-c_i)=\exp (-\frac{1}{2{\mathrm{\σ}}^2}||x_p-c_i|{|}^2)---\left(4\right)$

式中：||x_p-c_i||表示欧式范数；c表示高斯函数的中心；σ表示基函数的方差，σ越小，径向基函数的宽度越小，基函数就越有选择性。设d是样本的期望输出值，基函数的方差可表示为：

$\mathrm{\σ}=\frac{1}{p}\underset{j}{\overset{m}{\Σ}}\left|\right|d_j-y_j{c}_i|{|}^2---\left(5\right)$

式中:p＝1,2,…,P，P表示样本总数；C_i表示网络隐层结点的中心；i＝1,2,…,h表示隐层的节点数；y_j表示与输入样本对应的网络的第j个输出结点的实际输出。

图2中的径向基神经网络的输出层的输出：

$y_j=\underset{i=1}{\overset{h}{\Σ}}{w}_{ij}\exp (-\frac{1}{2{\mathrm{\σ}}^2}||x_p-c_i|{|}^2)---\left(6\right)$

式中表示第p个输入样本，wij表示隐含层到输出层的连接权值。

RBF神经网络具有结构自适应能力，若期望值与回检预测值间的误差未达到误差要求，网络会自动增加神经元，循环重复过程，直至误差达到设置要求。

对于加权主成分分析方法，若各响应回归方程的拟合度有显著差别，则对参数优化结果会产生不利影响，现有技术的加权主成分分析方法和改进的加权主成分分析方法中，响应的预测模型均为回归方程模型，但对于一些复杂的非线性生产过程，一阶和二阶回归模型无法达到过程响应的预测能力。考虑到RBF神经网络是一种高效的前馈型网络，对复杂非线性函数逼近能力强，而且学习速度快，泛化能力良好。本发明引入RBF神经网络，建立非参数预测模型，解决过程响应的预测问题。将神经网络的均方误差mse作为网络预测模型预测能力的评价指标，用改进主成分分析法将响应的预测能力与主成分分析方法相结合，优先改进预测能力强的响应，使多响应优化问题整体优化效果达到最优。

(1)数据处理

为更好地分析响应的预测能力，对响应的实验数据作均值化处理；对处理后响应均值做标准化处理，以消除量纲影响。

(2)RBF神经网络模型

假设实验数据中可控影响因子变量共i个，过程响应变量共k个，将可控影响因子变量x₁、x₂…x_i作为RBF神经网络模型的输入向量；将第j个响应变量y_j作为RBF神经网络模型的输出向量，分别建立k个RBF神经网络模型。

用MATLAB计算机应用软件构建并训练RBF神经网络模型，构建方法与执行语句如下：

P＝[x₁x₂…x_i]'，x₁、x₂…x_i为影响因子变量数据；

T＝[y_j]'，y_j为第j个响应变量数据；

net＝newrb(P,T,GOAL,spread)，RBF神经网络模型创建语句，P为输入向量，T为输出向量，spread为径向基层的散布常数；

y＝sim(net,p)，用sim()函数对训练后的网络进行回检实验，y为回检预测值；

e＝T-y，e为期望值与回检预测值之间的误差向量；

ee＝mse(e)，mse(e)为均方误差，其值越小网络拟合度越高。

(3)预测能力指数

预测能力指数用r表示，对于一阶和二阶回归参数模型，r_j表示第j个响应的预测能力指数，计算公式为：

$r_j=\frac{R_j^2}{\underset{i=1}{\overset{p}{\Σ}}{R}_i^2}---\left(7\right)$

式中R²是回归方程的拟合度。

对于神经网络非参数预测模型，相应Y_j的神经网络预测模型的预测回检值与其期望输出值的均方误差mse是评价网络预测能力的有效指标，因此本文将第j个相应Y_j的RBF神经网络预测模型的预测能力指数定义为r_j：

$R_j=\frac{\underset{i=1}{\overset{p}{\Σ}}{\mathrm{mse}}_i-{\mathrm{mse}}_j}{\underset{i=1}{\overset{p}{\Σ}}{\mathrm{mse}}_i},r_j=\frac{R_j}{\underset{i=1}{\overset{p}{\Σ}}{R}_i},j=1,2,...,p,---\left(8\right)$

即第j个响应模型的均方误差mse_j越小，该响应的预测能力指数r_j越

大，并且满足r₁+r₂+…+r_p＝1。

用RBF神经网络模型响应预测能力指数与加权主成分分析法相结合，将原模型(1)式修改为:

Z_q-new＝e_q1r₁Y₁+e_q2r₂Y₂+…+e_qpr_pY_p (9)

利用各响应的RBF神经网络模型预测能力指数大小对各系数进行调整，增大预测能力强的响应对主成分的影响，使得优化结果更加准确，达到优先改进预测能力强的响应的目的。

实施例1

金属化聚丙烯膜电容器的生产过程是在大气中进行的，热聚合工艺过程是消除金属化薄膜层之间空气的关键工艺，可以达到提高电容器的紧密度和电性能稳定性的目的。但如果热聚合不充分，造成芯子定形不彻底，膜层松驰，会导致电容器容量下降，损耗角正切值增大。因此，热聚合工艺过程必须严格控制温度和时间，对温度和时间两个工艺参数进行优化设计，有望改善电容器的容值和损耗角正切值两个质量特性值。

本实施例对某种铝金属化聚丙烯膜电容器热聚合工艺参数进行优化设计。热聚合工艺过程的响应变量之一容值(记为y₁)为望目特性，另一个响应变量损耗角正切值(记为y₂)为望小特性。电容器容值的目标值为45.45μF，将容值特性值转化为容值与目标值45.45μF之差的绝对值，则容值也变为望小特性。影响因子热聚合温度记为x₁，聚合时间记为x₂。将温度变量分别设置为7个水平值95℃、100℃、105℃、110℃、115℃、120℃和125℃，记为1、2、3、4、5、6、7水平，时间变量分别设置为4个水平值，分别为4小时、6小时、8小时、10小时，记为1、2、3、4水平。对铝金属化聚丙烯膜电容器进行全面28组热聚合实验，对于中心水平组合(1,1)、(1,2)、(1,3)、(1,4)、(2,1)、(2,2)、(2,3)、(2,4)、(3,1)、(3,2)、(3,3)、(3,4)分别做10次重复实验，其它水平组合分别做5次重复实验。计算每组实验两个响应变量的平均值，为消除量纲影响，对两个响应均值分别进行标准化处理，得到28组标准化响应均值Y₁、Y₂，实验结果数据如表1所示。利用Minitab对响应变量作主成分分析，特征值及特征向量如表2所示。

表1实验数据及MPI值表

表2主成分分析表

(1)基于一阶回归预测模型的参数优化

根据表1中的实验数据，用Minitab计算机软件建立工艺过程影响因子变量与响应变量的一阶回归预测模型，并用(7)式计算其预测能力指数，结果如下：

Y₁＝-0.0406+0.0494x₁-0.0104x₂，R²＝53.1％，r₁＝0.993

Y₂＝3.42-0.0027x₁+0.0171x₂，R²＝0.4％，

r₂＝0.007

由(9)式计算得：

Z₁＝0.707×0.993×Y₁+0.707×0.007×Y₂

Z₂＝0.707×0.993×Y₁-0.707×0.007×Y₂

由(3)式计算得：

MPI₁＝0.522Z₁+0.478Z₂＝0.702Y₁+0.0002Y₂

根据上式计算MPI₁值(见表1)，并用Minitab软件做出其主效应图，如图3所示。

由于y₁、y₂为望小特性，MPI值越小，响应综合效果越优，即使得主效应图(见图2)中值最小的水平组合为最优参数组合，x₁选取第2水平，x₂选取第4水平。即基于一阶回归预测模型的优化参数设计结果为(2,4)。

(2)基于二阶回归预测模型的参数优化

根据表1中的实验数据，用Minitab计算机软件建立工艺过程影响因子变量与响应变量的二阶响应曲面回归预测模型，并用(7)式计算其预测能力指数，结果如下：

y₁＝0.350-0.155x₁-0.0695x₂+0.0113x₁x₂+0.0220x₁x₁+0.0028x₂x₂，

R²＝87.7％，r₁＝0.746，

y₂＝4.30+0.007x₁-0.867x₂+0.0068x₁x₂-0.0033x₁x₁+0.171x₂x₂，

R²＝29.8％，r₂＝0.254，

由(9)式计算得：

Z₁＝0.707×0.746×Y₁+0.707×0.254×Y₂

Z₂＝0.707×0.746×Y₁-0.707×0.254×Y₂

由(3)式计算得：

MPI₂＝0.522Z₁+0.478Z₂＝0.527Y₁+0.008Y₂

根据上式计算MPI₂值(见表1)，并用Minitab软件做出其主效应图，如图4所示。

基于二阶回归预测模型的优化参数设计结果也为(2,4)。

(3)基于RBF神经网络预测模型的参数优化

上述电容器热聚合过程的多响应一阶和二阶参数回归方程中拟合度分别为53.1％，0.4％，87.7％，29.8％，最大的87.7％，最小的仅有0.4％，而且有三个拟合度都不超过60％，说明实际上该过程用一阶或二阶参数回归模型会影响其预测效果。下面采用RBF神经网络建立其非参数预测模型，再进行参数优化。

利用Matlab软件编程构建响应变量与可控变量之间非参数预测模型，以x₁、x₂为输入变量，y₁、y₂分别为输出变量建立两个RBF神经网络模型，构建网络模型语句中GOAL选取0，径向基层散布常数spread选取8。训练时的均方误差越小，训练结果越理想。通过网络训练得到y₁回检预测的均方误差为mse₁＝1.3835×10^-5，y₂回检预测的均方误差为mse₂＝6.3297×10^-4，两个神经网络模型的回检均方误差都非常小，说明过程的预测模型较为理想。将响应均方误差代入(8)式，计算得到两个响应的预测能力指数为：

r₁＝0.9786，r₂＝0.0214。

由(9)式计算得：

Z₁＝0.707×0.9786×Y₁+0.707×0.0214×Y₂

Z₂＝0.707×0.9786×Y₁-0.707×0.0214×Y₂

由(3)式计算得：

MPI₃＝0.522×Z₁+0.478×Z₂＝0.6919×Y₁+0.0007×Y₂

根据上式计算MPI₃值(见表1)，并用minitab软件做出其主效应图，如图5所示。

基于RBF神经网络预测模型的优化参数设计结果也为(2,4)。企业实际采用的参数水平组合是(4,3)，采用上述三种参数或非参数预测模型的改进加权主成分分析方法设计的优化参数组合均为(2,4)，由表1实验数据可知，参数组合(2,4)对应的电容器的容值和损耗角正切值与原工艺参数(4,3)的响应值相比均有所改善，达到了满意的优化效果。

本发明基于参数和非参数预测模型的改进加权主成分分析方法，提出了一种多响应参数优化方法，并将此方法应用于某种铝金属化聚丙烯膜电容器热聚合过程多响应工艺参数优化设计，有效地改善了电容器的两个响应质量指标。

(1)基于参数和非参数预测模型的改进加权主成分分析方法，考虑多个响应模型的预测能力，计算其预测能力指数，并引入到加权主成分分析方法的综合评价指标MPI的模型中，使回归预测能力强的响应在优化中得到更多的侧重。提高整体优化效果。

(2)本发明由于RBF神经网络可以逼近任意的非线性函数，具有良好的泛化能力，所以，对于复杂非线性生产过程，可以通过建立RBF神经网络预测模型，有效的进行多响应工艺参数优化设计。

Claims (7)

1.基于径向基神经网络预测模型的改进加权主成分分析多响应参数优化方法，其特征在于，包括：

1)用主成分分析消除多个响应的相关性；

对于生产过程中的P个响应Y₁，Y₂，…，Y_p，用主成分分析消除它们之间的相关性，将其转化为k个不相关的主成分：

Z_q＝e_q1Y₁+e_q2Y₂+…+e_qpY_p

其中中，k≤p，e_q1,e_q2,…,e_qp为第q主成分的系数。

2)构建RBF神经网络模型，计算预测能力指数；

实验数据中可控影响因子变量共i个，过程响应变量共k个，将可控影响因子变量x1、x2…xi作为RBF神经网络模型的输入向量；将第j个响应变量y_j作为RBF神经网络模型的输出向量，分别建立k个RBF神经网络模型；用MATLAB计算机应用软件构建并训练RBF神经网络模型；

将第j个相应的RBF神经网络预测模型响应预测能力指数定义为r_j：

$R_j=\frac{\underset{i=1}{\overset{p}{\Σ}}{\mathrm{mse}}_i-{\mathrm{mse}}_j}{\underset{i=1}{\overset{p}{\Σ}}{\mathrm{mse}}_i},r_j=\frac{R_j}{\underset{i=1}{\overset{p}{\Σ}}{R}_i},j=1,2,...,p,$

mse为均方误差，r₁+r₂+…+r_p＝1。

3)用RBF神经网络模型响应预测能力指数与加权主成分分析法相结合，将主成分模型修改为:

Z_q-new＝e_q1r₁Y₁+e_q2r₂Y₂+…+e_qpr_pY_p，

利用各响应的RBF神经网络模型预测能力指数大小对各系数进行调整。

2.根据权利要求1所述的优化方法，其特征在于，每一个主成分中含有的响应信息用方差贡献率表示为：

${\mathrm{\α}}_q=\frac{{\mathrm{\λ}}_q}{q=\underset{q=1}{\overset{k}{\mathrm{\Σ}}}{\mathrm{\λ}}_q}$

式中λ_q为Y＝(Y₁，Y₂，…，Y_p)＇的协方差矩阵的第q个特征值；将方差贡献率作为权重，得到的k个主成分的加权和，作为多响应绩效指标MPI：

$MPI=\underset{q=1}{\overset{k}{\Σ}}{\mathrm{\α}}_q{Z}_q.$

3.根据权利要求2所述的优化方法，其特征在于，所述RBF神经网络的激活函数常用的是高斯函数。

4.根据权利要求1所述的优化方法，其特征在于，对响应的实验数据作均值化处理；对处理后响应均值做标准化处理。

5.根据权利要求2所述的优化方法，其特征在于，所述优化方法可以应用于金属化聚丙烯膜电容器热聚合工艺过程多响应参数设计。

6.根据权利要求5所述的优化方法，其特征在于，所述优化方法解决聚合过程影响因子聚合温度和聚合时间的参数优化设计，整体优化电容器的两个响应质量指标容值和损耗角正切值。

7.根据权利要求5所述的优化方法，其特征在于，所述金属化聚丙烯薄膜电容器的生产过程是在大气中进行的。