CN106600001B - 基于混合高斯分布相关学习机的玻璃窑炉温度预报方法 - Google Patents
基于混合高斯分布相关学习机的玻璃窑炉温度预报方法 Download PDFInfo
- Publication number
- CN106600001B CN106600001B CN201611105105.9A CN201611105105A CN106600001B CN 106600001 B CN106600001 B CN 106600001B CN 201611105105 A CN201611105105 A CN 201611105105A CN 106600001 B CN106600001 B CN 106600001B
- Authority
- CN
- China
- Prior art keywords
- parameter
- model
- glass furnace
- gaussian mixtures
- learning machine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000000203 mixture Substances 0.000 title claims abstract description 28
- 239000011521 glass Substances 0.000 title claims abstract description 23
- 238000013277 forecasting method Methods 0.000 title claims abstract description 8
- 238000000034 method Methods 0.000 claims abstract description 29
- 230000006870 function Effects 0.000 claims abstract description 20
- 238000009826 distribution Methods 0.000 claims abstract description 18
- 238000004519 manufacturing process Methods 0.000 claims abstract description 15
- 230000008569 process Effects 0.000 claims abstract description 8
- 238000012549 training Methods 0.000 claims description 15
- 230000002596 correlated effect Effects 0.000 claims description 3
- 238000002790 cross-validation Methods 0.000 claims description 2
- VNWKTOKETHGBQD-UHFFFAOYSA-N methane Chemical compound C VNWKTOKETHGBQD-UHFFFAOYSA-N 0.000 claims 2
- 239000003345 natural gas Substances 0.000 claims 1
- 238000005516 engineering process Methods 0.000 abstract description 2
- 238000005457 optimization Methods 0.000 abstract description 2
- 230000004044 response Effects 0.000 abstract description 2
- 238000012360 testing method Methods 0.000 description 6
- 238000004458 analytical method Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000001311 chemical methods and process Methods 0.000 description 1
- 230000000875 corresponding effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16Z—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS, NOT OTHERWISE PROVIDED FOR
- G16Z99/00—Subject matter not provided for in other main groups of this subclass
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Feedback Control In General (AREA)
Abstract
本发明涉及一种基于混合高斯分布相关学习机的玻璃窑炉温度预报方法,属于自动控制、信息技术和先进制造领域,其特征在于,针对玻璃窑炉温度预报所具有的玻璃窑炉内部反应过程复杂、数据存在复杂非对称噪声及输入变量中包含时间序列变量等建模难题,提出一种基于混合高斯分布下鲁棒相关学习机的玻璃窑炉温度预报方法。该方法采用核函数回归模型作为预报模型结构,使用非零均值混合高斯分布作为预报模型残差项的概率密度分布,将时间序列变量并列列出作为模型的输入变量,并采用贝叶斯推断方法获得模型结构参数的近似后验概率分布,从而获得预报模型的结构参数。本发明可有效应用于玻璃窑炉池底温度的预报,以提高玻璃窑炉控制和操作优化的效果。
Description
技术领域
本发明属于自动控制、信息技术和先进制造领域,具体涉及针对玻璃窑炉池底温度指标预报所具有的玻璃窑炉内部反应过程复杂、数据存在复杂非对称噪声以及输入变量中包含连续时间序列变量等建模难题,提出一种基于混合高斯分布相关学习机的玻璃窑炉温度预报方法。
背景技术
在玻璃窑炉生产过程的控制和优化过程中,玻璃窑炉池底温度的预报起到了关键性的指导作用。但由于实际的工业生产过程涉及复杂的物理化学过程,生产过程数据受环境和测量的影响存在强不确定性和复杂的非对称噪声,以及输入变量中包含连续时间序列变量等原因,采用传统的建模方法会出现预报精度不高、泛化能力差等问题。针对以上问题,设计和使用基于混合高斯分布下鲁棒相关学习机的玻璃窑炉池底温度预报方法是解决上述指标预报难题的有效途径之一。
发明内容
本发明提出一种基于混合高斯分布相关学习机的玻璃窑炉温度预报方法,其特征在于,所述方法是在计算机上依次按以下步骤实现的:
步骤(1):根据对生产过程的机理分析和先验知识,从历史数据数据库中选择与待预测指标相关的变量作为模型的输入向量x∈Rd,其中d表示输入变量的个数;相对应的待预测指标作为模型的输出变量y,假设一共有N个数据,则指标预报模型的模型训练数据集可以表示为:
其中,xn和yn分别表示第n个训练样本的输入向量和输出值;
步骤(2):由于往往数据中不同输入变量之间的量纲是不同的,需要先对数据进行归一化处理,即根据如下表达式将各个输入变量逐一归一化为均值为0,方差为1的形式:
其中x表示某一种输入变量,μ表示该输入变量的均值,δ表示该输入变量的标准差,x*是该输入变量归一化以后的值;
步骤(3):设置混合高斯分布下鲁棒相关学习机相关变量的初始值,具体包括:
a0,b0:模型参数先验分布的超参数;
μ0,β0:混合高斯分布均值向量先验分布的超参数;
c0,d0:混合高斯分布精准度向量先验分布的超参数;
α0:混合高斯分布混合向量先验分布的超参数;
K:混合高斯分布的组份数;
θ:高斯核函数的参数;
tol:停止迭代的条件参数;
maxiter:最大迭代次数;
在无先验知识下超参数a0,b0,β0,c0,d0,α0可设为10-4,μ0可设为0,参数K和θ采用交叉验证方法进行调节以得到最好的预报性能;
步骤(4):混合高斯分布下鲁棒相关学习机的模型训练过程;
步骤(4.1):所提出的混合高斯分布下鲁棒相关学习机方法的模型假设为:
其中参数w1,w2,...,wN是基函数φ1(x),φ2(x),…,φN(x)的加权权重,wN+1是模型的偏置项;基函数φn(x)=k(xn,x),函数k(xn,x)为高斯核函数,其表达式为:
下面用向量w表示[w1,w2,...,wN+1]组成的向量,向量φ(x)表示[φ1(x),φ2(x),...,φN(x),1]组成的向量,则模型可以表示为:
f(x;w)=wTφ(x)
步骤(4.2):初始化模型参数w和误差隶属度参数rnk;其初始化方法为:模型参数w可使用随机初始化的方法;在初始化误差隶属度参数rnk时,对第n个训练样本,对rn1,rn2,…,rnK,随机初始化其中的一个为1,其余为0;
步骤(4.3):根据如下公式分别更新模型内部参数μw,∑w,an,bn,αl,βl,mk,ck,dk,rnk:
其中:
在上述各表达式中,符号<x>表示求变量x的期望;上述各式所需的各个期望可通过以下各式进行计算:
<μk>=mk
其中[S]nn表示矩阵S对角线上第n个元素;函数ψ(a)的表达式为:
其中Γ表示伽马函数。
步骤(4.4):计算下界函数:
其中各个概率分布的定义为:
p(zn:|π)=Multinomial(zn:|π)
p(π)=Dir(π|α0)
q(π)=Dir(π|α)
q(τ)=Gam(τk|ck,dk)
q(θ)=Gam(θn|an,bn)
其中符号Gam,Dir,Multinomial分别表示正态分布,伽马分布,狄里克雷分布和多项式分布;
步骤(4.5):判断训练过程是否收敛;如果未收敛,则继续迭代步骤(4.3)和步骤(4.4);如果收敛,则停止迭代,所得模型参数w=μw;判断收敛的准则为:下界函数的变化率小于停止迭代的条件参数tol或迭代次数超过最大迭代次数maxiter。
附图说明
图1:本发明的算法流程图。
图2:本发明的实施流程图。
具体实施方式
为了更好地理解本发明的技术方案,图1中给出了本发明的算法流程图。
以某大型玻璃生产企业为例来说明本发明的实施过程,该实施过程的流程图见图2。首先从该公司的玻璃窑炉生产线的MES系统和数据库中收集相关的数据。然后进行数据预处理,例如输入特征选择,时滞选择,填补缺失数据等。然后按照图1所示的算法流程进行模型的训练以得到预报模型的参数。当需要进行指标预报的时候就将当前的模型输入传递到生产指标预报模块中,通过计算得到最终的模型预测值。由于实际生产过程是实时变化的,需要定期对模型进行更新,即用最新的数据重新对模型进行训练。
为说明本发明所提方法的有效性,从该玻璃生产企业的生产系统中读取一段时间的生产数据,进行数据预处理以后得到400条完整的按时间顺序排列的数据。使用这些训练数据对所提出的鲁棒相关学习机方法进行训练并建立窑炉池底的温度预报模型。
将所提方法与经典相关学习机进行对比,所选择的预测性能指标包括平均绝对误差(Mean Absoulte Error,MAE),均方根误差(Root Mean Square Error,RMSE)以及R2,其数学定义为:
由定义可以看出,MAE和RMSE越小,说明预报性能越好。而对R2而言,约接近1,模型的预报性能越好。
在此次试验中,把所有400个数据分为3份,首先使用前200个数据训练模型,后201-300的数据作为测试数据调整训练算法的参数。通过交叉验证调整模型参数,所得的模型参数为:经典相关学习机的高斯核函数参数为0.04;所提方法的高斯核函数参数为0.00032,混合高斯分布组分数为3。为了准确的表明模型的泛化性能,使用101-300的数据训练模型,在最后100个未用过的数据作为测试数据,每次测试分别从训练数据和和测试数据中随机抽取50%的数据进行测试,实验重复50次,最终结果为50次测试结果的平均值。表1中列出了实验结果。从结果中可以看出,相比经典的相关学习机算法,本发明所提出的鲁棒相关学习机算法有更好的预报性能。
表1所提方法与经典相关学习机算法在池底温度预报问题上的性能比较
经典相关学习机 | 所提出的方法 | |
MAE | 1.2574 | 0.6313 |
RMSE | 1.4621 | 0.7563 |
R<sup>2</sup> | 0.2040 | 0.7863 |
Claims (3)
1.一种基于混合高斯分布相关学习机的玻璃窑炉温度预报方法,其特征在于,包括:
采集并处理与玻璃窑炉池底温度预报相关的生产历史数据;
设置混合高斯分布下鲁棒相关学习机相关变量的初始值;
根据所采集的生产历史数据,对混合高斯分布下鲁棒相关学习机进行训练,得到玻璃窑炉池底温度智能预报模型;
所述对混合高斯分布下鲁棒相关学习机进行训练,是按如下步骤进行的:
步骤1:所提出的混合高斯分布下鲁棒相关学习机方法的模型假设为:
其中,参数w1,w2,...,wN是基函数φ1(x),φ2(x),...,φN(x)的加权权重,wN+1是模型的偏置项;基函数φn(x)=k(xn,x),函数k(xn,x)为高斯核函数,其表达式为:
下面用向量w表示[w1,w2,...,wN+1]组成的向量,向量φ(x)表示[φ1(x),φ2(x),...,φN(x),1]组成的向量,则模型可以表示为:
f(x;w)=wTφ(x);
步骤2:初始化模型参数w和误差隶属度参数rnk;其初始化方法为:模型参数w可使用随机初始化的方法;在初始化误差隶属度参数rnk时,对第n个训练样本,对rn1,rn2,…,rnK,随机初始化其中的一个为1,其余为0;
步骤3:根据如下公式分别更新模型内部参数μw,∑w,an,bn,αk,βk,mk,ck,dk,rnk:
其中:
在上述各表达式中,符号<x>表示求变量x的期望;上述各式所需的期望通过以下各式进行计算:
<μk>=mk
其中,函数ψ(a)的表达式为:
其中,Γ表示伽马函数;
步骤4:计算下界函数:
其中,各个概率分布的定义为:
p(zn:|π)=Multinomial(zn:|π)
p(π)=Dir(π|α0)
q(π)=Dir(π|α)
q(τ)=Gam(τk|ck,dk)
q(θ)=Gam(θn|an,bn)
其中,符号Gam,Dir,Multinomial分别表示正态分布,伽马分布,狄里克雷分布和多项式分布;
步骤5:判断训练过程是否收敛;如果未收敛,则继续迭代步骤3和步骤4;如果收敛,则停止迭代,所得模型参数w=μw;判断收敛的准则为:下界函数的变化率小于停止迭代的条件参数tol或迭代次数超过最大迭代次数maxiter。
2.根据权利要求1所述的方法,其特征在于,所述采集并处理与玻璃窑炉池底温度预报相关的生产历史数据,具体包括:预报模型输入变量包括天然气用量、窑炉拉引量、单耗、窑炉顶温度和窑炉流液洞温度,设为输入向量x∈Rd,其中,d为输入变量的个数d=5,预报模型输出变量包括窑炉池底温度,设为y;假设一共有N个数据,则玻璃窑炉池底温度预报模型的训练数据集可以表示为:
其中,xn和yn分别表示第n个训练样本的输入向量和输出值;之后,根据如下表达式将各个输入变量逐一归一化为均值为0,方差为1的形式:
其中,x表示一种输入变量,μ表示该输入变量的均值,δ表示该输入变量的标准差,x*是该输入变量归一化以后的值。
3.根据权利要求1所述的方法,其特征在于,所述设置混合高斯分布下鲁棒相关学习机相关变量的初始值,具体包括:
a0,b0:模型参数先验分布的超参数;
μ0,β0:混合高斯分布均值向量先验分布的超参数;
c0,d0:混合高斯分布精准度向量先验分布的超参数;
α0:混合高斯分布混合向量先验分布的超参数;
K:混合高斯分布的组份数;
θ:高斯核函数的参数;
tol:停止迭代的条件参数;
maxiter:最大迭代次数;
在无先验知识下超参数a0,b0,β0,c0,d0,α0设为10-4,μ0设为0,参数K和θ采用交叉验证方法进行调节以得到优化后的预报模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611105105.9A CN106600001B (zh) | 2016-12-05 | 2016-12-05 | 基于混合高斯分布相关学习机的玻璃窑炉温度预报方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611105105.9A CN106600001B (zh) | 2016-12-05 | 2016-12-05 | 基于混合高斯分布相关学习机的玻璃窑炉温度预报方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106600001A CN106600001A (zh) | 2017-04-26 |
CN106600001B true CN106600001B (zh) | 2019-04-05 |
Family
ID=58595277
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611105105.9A Active CN106600001B (zh) | 2016-12-05 | 2016-12-05 | 基于混合高斯分布相关学习机的玻璃窑炉温度预报方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106600001B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108563829B (zh) * | 2018-03-14 | 2020-07-31 | 天津大学 | 一种基于贝叶斯鲁棒函数回归的多步风速预报方法 |
CN110045702A (zh) * | 2019-04-23 | 2019-07-23 | 蚌埠中光电科技有限公司 | 一种tft玻璃窑炉生产工艺模拟及参数调整评价方法 |
CN110187727B (zh) * | 2019-06-17 | 2021-08-03 | 武汉理工大学 | 一种基于深度学习和强化学习的玻璃熔炉温度控制方法 |
CN113191078B (zh) * | 2021-04-26 | 2024-05-31 | 北京工业大学 | 城市生活垃圾焚烧过程一燃室烟气温度预报方法 |
CN115366281A (zh) * | 2022-08-22 | 2022-11-22 | 青岛科技大学 | 基于机器学习的模温机温度控制方法、装置及可存储介质 |
CN115619041B (zh) * | 2022-11-09 | 2023-11-21 | 哈尔滨工业大学 | 基于lda主题模型与固定效应模型的直播效果的预测方法 |
-
2016
- 2016-12-05 CN CN201611105105.9A patent/CN106600001B/zh active Active
Non-Patent Citations (1)
Title |
---|
"基于EM算法和混合高斯模型的淬火炉构件温度软测量建模";苏云;《中国优秀硕士学位论文全文数据库 工程科技Ⅰ辑》;20140615;第B022-310页 |
Also Published As
Publication number | Publication date |
---|---|
CN106600001A (zh) | 2017-04-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106600001B (zh) | 基于混合高斯分布相关学习机的玻璃窑炉温度预报方法 | |
Tian | Modes decomposition forecasting approach for ultra-short-term wind speed | |
Khodayar et al. | Rough deep neural architecture for short-term wind speed forecasting | |
Sun et al. | Design and application of a variable selection method for multilayer perceptron neural network with LASSO | |
CN108764540B (zh) | 基于并行lstm串联dnn的供水管网压力预测方法 | |
CN106022521B (zh) | 基于Hadoop架构的分布式BP神经网络的短期负荷预测方法 | |
CN104537033A (zh) | 基于贝叶斯网络和极限学习机的区间型指标预报方法 | |
CN111199272B (zh) | 一种面向智能车间的自适应调度方法 | |
CN106056127A (zh) | 一种带模型更新的gpr在线软测量方法 | |
Liu | Adaptive just-in-time and relevant vector machine based soft-sensors with adaptive differential evolution algorithms for parameter optimization | |
CN106650920A (zh) | 一种基于优化极限学习机的预测模型 | |
CN103778482A (zh) | 基于多尺度分析的水产养殖溶解氧短期预测方法 | |
CN108832663A (zh) | 微电网光伏发电系统的发电功率的预测方法及设备 | |
CN112163671A (zh) | 一种新能源场景生成方法及系统 | |
CN114169434A (zh) | 一种负荷预测方法 | |
CN114944203A (zh) | 基于自动寻优算法与深度学习的废水处理监控方法及系统 | |
CN110598929A (zh) | 一种风电功率非参数概率区间超短期预测方法 | |
CN107885967A (zh) | 一种回归模型超参数优化方法 | |
CN117063190A (zh) | 用于预测和规定应用的多级机器学习 | |
CN104732067A (zh) | 一种面向流程对象的工业过程建模预测方法 | |
CN107894710A (zh) | 一种裂解反应炉温度的主成分分析建模方法 | |
Sun et al. | Multi-fidelity Gaussian process for biomanufacturing process modeling with small data | |
CN116703607A (zh) | 一种基于扩散模型的金融时间序列预测方法与系统 | |
CN117252285A (zh) | 基于并行cnn-gru网络的多指标污水水质预测方法 | |
Faqih et al. | Multi-Step Ahead Prediction of Lorenz's Chaotic System Using SOM ELM-RBFNN |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |