CN117455320A - 基于qgmvpn模型的多釜聚合过程熔体质量指标在线预测方法 - Google Patents
基于qgmvpn模型的多釜聚合过程熔体质量指标在线预测方法 Download PDFInfo
- Publication number
- CN117455320A CN117455320A CN202311788856.5A CN202311788856A CN117455320A CN 117455320 A CN117455320 A CN 117455320A CN 202311788856 A CN202311788856 A CN 202311788856A CN 117455320 A CN117455320 A CN 117455320A
- Authority
- CN
- China
- Prior art keywords
- model
- qgmvpn
- quality index
- polymerization process
- kettle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000006116 polymerization reaction Methods 0.000 title claims abstract description 96
- 238000000034 method Methods 0.000 title claims abstract description 91
- 229920000728 polyester Polymers 0.000 claims abstract description 49
- 239000013598 vector Substances 0.000 claims abstract description 47
- 230000008569 process Effects 0.000 claims abstract description 42
- 238000012549 training Methods 0.000 claims abstract description 34
- 238000012360 testing method Methods 0.000 claims abstract description 22
- 239000000203 mixture Substances 0.000 claims description 34
- 238000009826 distribution Methods 0.000 claims description 25
- 239000000155 melt Substances 0.000 claims description 20
- 239000011159 matrix material Substances 0.000 claims description 19
- 230000007246 mechanism Effects 0.000 claims description 19
- 230000006870 function Effects 0.000 claims description 14
- 230000004913 activation Effects 0.000 claims description 6
- 238000013528 artificial neural network Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 3
- 238000002474 experimental method Methods 0.000 description 9
- 238000004519 manufacturing process Methods 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 7
- 238000002347 injection Methods 0.000 description 4
- 239000007924 injection Substances 0.000 description 4
- 239000002002 slurry Substances 0.000 description 4
- 239000007787 solid Substances 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 239000000835 fiber Substances 0.000 description 3
- 238000007380 fibre production Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000002068 genetic effect Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000010036 direct spinning Methods 0.000 description 1
- 230000001747 exhibiting effect Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000000243 solution Substances 0.000 description 1
- 239000007921 spray Substances 0.000 description 1
- 238000005507 spraying Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
- G06Q10/0639—Performance analysis of employees; Performance analysis of enterprise or organisation operations
- G06Q10/06395—Quality analysis or management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/0985—Hyperparameter optimisation; Meta-learning; Learning-to-learn
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/04—Manufacturing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Business, Economics & Management (AREA)
- Human Resources & Organizations (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Economics (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Educational Administration (AREA)
- Tourism & Hospitality (AREA)
- Development Economics (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Manufacturing & Machinery (AREA)
- Game Theory and Decision Science (AREA)
- Primary Health Care (AREA)
- Quality & Reliability (AREA)
- Operations Research (AREA)
- Polyesters Or Polycarbonates (AREA)
Abstract
本发明涉及一种基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,包括:从聚酯聚合多釜工艺过程的传感器上采集聚合过程变量和聚酯熔体质量指标的历史数据,构建聚合数据集,并划分为训练集和测试集;建立QGMVPN模型;设置QGMVPN模型的超参数的初始值;采用训练集训练QGMVPN模型,并利用测试集进行模型测试,提取最后一次迭代过程中特征空间输出的深度特征,将训练且测试后的QGMVPN模型的解码器作为多釜聚合过程熔体质量指标预测模型;从聚酯聚合多釜工艺过程的传感器上采集聚合过程变量的实时数据,得到由聚合过程变量构成的向量,将混合向量输入模型中,由其输出预测的聚酯熔体质量指标。
Description
技术领域
本发明属于化纤全流程智能化生产技术领域,涉及一种基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法。
背景技术
聚酯纤维生产过程是一个典型的复杂非线性流程工业过程,传统的基于数据驱动的算法已不再适用于现代工业的强非线性数据特性,因而利用深度学习算法对复杂非线性的聚酯纤维生产过程进行建模优化越来越盛行。此外,在实际的聚酯纤维生产过程中,由于聚合过程是整个流程的首要过程,其熔体质量的优劣直接影响后续纤维的品质。
目前对于聚合过程熔体质量指标的预测研究已较为成熟,如专利CN111553117B公开了一种基于遗传算法的堆叠式集成学习的聚酯特性粘度控制方法,该专利采用的遗传算法为堆叠式集成模型的学习器选择提供了一种新的解决思路,将筛选学习器转为单目标寻优问题,选择初级学习器的组合和次级学习器使堆叠式集成学习达到最优化,改善了模型泛化性能;专利CN116127841A公开了一种基于双高斯贝叶斯网络的特性粘度在线软测量方法,该专利利用高斯贝叶斯网络强大的不确定性推理能力学习偏差的后验分布,能够对特性粘度的离线预测值进行校正,克服了传统离线模型线上应用性能下降的问题,提高了特性粘度的预测精度。
但针对多釜聚合工艺这一特性,仍没有相应的预测建模研究。多釜聚合工艺的不同,往往会导致过程数据呈现不同模态。通常对于多模态过程的处理方法是将可观测过程数据划分为不同的成分进行线性回归建模,再根据数据属于各个成分的后验概率进行加权集成,特别是高斯混合模型,因其具有多个高斯组分的能力而在多模态数据建模中得以广泛应用。然而,由于现代工业过程的复杂性,其可观测过程数据往往过于庞大且无法直接进行精确地成分划分,故可以考虑先对可观测数据进行特征提取,再在其隐变量空间上进行多个模态的划分和加权集成建模。
发明内容
本发明针对多釜聚合过程数据多模态问题,提出了一种基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法。
本发明首先改进了原始变分自编码网络的特征空间分布,将其由标准正态分布改进为非对角型高斯混合分布,其中高斯混合组分个数由聚合过程主反应釜的个数决定。然后将编码器和解码器的层与层间的连接方式改进为门机制连接,增强模型提取聚合过程的非线性特征。最后引入质量驱动机制,使得所构建模型可用于关键质量指标的回归建模。在实际预测阶段,本发明仅需提取上述模型特征空间的输出特征和解码器,即可直接构成预测模型,实现多釜聚合过程熔体质量指标的快速在线精准预测,从而更及时的反馈到生产中,指导实际生产。
为达到上述目的,本发明采用的技术方案如下:
基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,包括如下步骤:
S1. 从聚酯聚合多釜工艺过程的传感器上采集聚合过程变量和聚酯熔体质量指标的历史数据,构建聚合数据集,并划分为训练集和测试集;
S2. 建立QGMVPN(质量驱动型高斯混合变分概率网络)模型;
QGMVPN模型由编码器(encoder)、特征空间和解码器(decoder)构成;
编码器的输入包括,表示由聚合过程变量构成的向量,表示聚合过程
变量的维数;
编码器的输出为编码后的变量;
特征空间的工作流程如下:
(a)将直接等价映射为对角型高斯混合分布的均
值向量和方差向量的对数形式,其中,表示高斯混合分布的第个分量,表示
高斯混合组分个数,由聚合主反应釜个数决定,表示第个分量的混合组分系数;
(b)利用再参数化技巧,计算得到服从对角型高斯混合分布的初始特征,公式如
下:
;
;
其中,表示单位矩阵;
(c)将经过次Householder变换,得到服从非对角型高斯混合分布的深度特征,公式如下:
;
其中,表示第个Householder变换矩阵,表示经过t-1次Householder变换
后得到的特征,表示第个Householder向量;
解码器的输入为[ ],[ ]表示混合向量,即两个向量的连缀;
解码器的输出为聚酯熔体质量指标;
S3. 设置QGMVPN模型的超参数的初始值;
S4. 采用训练集训练QGMVPN模型,并利用测试集进行模型测试,提取最后一次迭
代过程中特征空间输出的,将其记为,将训练且测试后的QGMVPN模型的解码器作为多
釜聚合过程熔体质量指标预测模型;
S5. 从聚酯聚合多釜工艺过程的传感器上采集聚合过程变量的实时数据,得到由
聚合过程变量构成的向量,将[ ]输入多釜聚合过程熔体质量指标预测模型,
由其输出预测的聚酯熔体质量指标,[ ]表示混合向量,即两个向量的连缀。
作为优选的技术方案:
如上所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,步骤S1中,聚合过程变量包括注射浆料前部温度、注射浆料后部温度、虹吸管压力、泵流量、泵转速、UFPP PH出口温度、UFPP 16th出口温度、UFPP压力、UFPP EG喷淋温度、FINISHER进口液位、FINISHER出口液位、FINISHER出口温度、FINISHER压力和FINISHER搅拌器转速;聚酯熔体质量指标包括熔融指数、熔体粘度、低聚物密度;训练集和测试集的样本数量比为4:1。
如上所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,步骤S2中,编码器的结构为3层的神经网络,连接方式为门机制连接。
如上所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,步骤S2
中,编码器的输入为[ ],其中,表示由聚合过程变量构成的向量,表示聚合过
程变量的维数,表示由聚酯熔体质量指标构成的向量,表示聚酯熔体质量指标的
维数,[ ]表示混合向量,即两个向量的连缀,维数为。
如上所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,步骤S2
中,的计算公式如下:
;
其中,和分别对应表示编码器中门机制连接的变量权重矩阵和变量偏置
项,和分别对应表示编码器中门机制连接的门权重矩阵和门偏置项,表示sigmoid
激活函数。
如上所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,步骤S2中,解码器的结构为3层的神经网络,连接方式为门机制连接。
如上所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,步骤S2
中,的计算公式如下:
;
=[ ];
其中,和分别对应表示解码器中门机制连接的变量权重矩阵和变量偏置
项,和分别对应表示解码器中门机制连接的门权重矩阵和门偏置项,表示sigmoid
激活函数。
如上所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,步骤S3
中,设置QGMVPN模型的超参数的初始值的具体过程为:利用控制变量实验法确定以及
的初始值,并通过经验调参法设置QGMVPN模型的其它超参数(学习率、批次大小、最大迭代
次数、辍学率等)的初始值。
如上所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,步骤S4中,采用训练集训练QGMVPN模型时,若QGMVPN模型的损失函数值小于0.007,则停止训练;反之,则调整QGMVPN模型的超参数,继续训练;损失函数的表达式如下:
;
式中,表示损失函数,表示散度,表示第个分量对应的单位矩阵。
发明原理
原始变分自编码VAE的特征空间为标准正态分布,即均值为0、方差为1的单高斯分布,这将导致其无法很好地拟合非高斯和多模态特性的数据,特别是多釜聚合过程这种典型的多模态工业过程数据。因此本发明引入对角型高斯混合分布,将VAE的特征空间由标准正态分布改进为对角型高斯混合分布,其中高斯混合组分个数即为聚合主反应釜个数,再利用Householder变换将对角型高斯混合分布改进为非对角型高斯混合分布,进一步提取多釜聚合过程的深度特征。这一改进点可以根据不同的多釜聚合工艺,有效地提取其相对应的多模态深度特征,从而提升模型预测精度。
同时本发明所提出的QGMVPN模型的编码器和解码器均由原始VAE的全连接方式改进为门机制连接方式,门机制连接是一种层与层之间的新型连接方式,这种结构对函数的表示能力更强,可以使得数据信息更加丰富。这一改进点可以有效地增强聚合过程数据融合的能力。
本发明还引入了质量驱动机制,即在输入中引入由聚酯熔体质量指标构成的向
量,即输入分为两部分:一部分是由聚合过程变量构成的向量,另一部分是由聚酯熔体质
量指标构成的向量。在输入中加入由聚酯熔体质量指标构成的向量,可以使得初始特征包含重要的由聚酯熔体质量指标构成的向量的信息,从而使得初始特征更利于构建多釜
聚合过程熔体质量指标预测模型。除此以外,还在解码之前加入了过程变量信息,添加此操
作后,整个解码器就可以看成是一个回归网络,直接实现对熔体质量指标的预测估计。
在该QGMVPN中,模型的训练阶段需要将编码器和解码器一起进行训练,得到网络
的权重从而固定模型。在测试应用阶段,仅需要解码器部分,输入由聚合过程变量构成的向
量到解码器中,再将其和特征空间采样得到的深度特征进行解码,即可得到聚酯熔体
质量指标的预测。此时,从特征空间上采样得到的信息既可看成是将由聚合过程变量构成
的向量解码到由聚酯熔体质量指标构成的向量的辅助信息,又可以看成是在解码过程
中加入的高斯噪声,从而提高了模型的鲁棒性。
有益效果
(1)本发明的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,旨在构建适用于多釜聚合工艺的熔体质量指标预测模型,解决了不同多釜工艺导致多模态数据建模不精准的问题,可以更加灵活地挖掘复杂非线性多模态数据中的内在特征。
(2)本发明的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,通过对原始VAE神经网络模型的改进,进一步提升了算法在多釜聚酯聚合过程上的预测精度,并通过提取深度特征和解码器,重新组合构建成可在线预测熔体质量指标的预测模型,可实现多釜聚合过程熔体质量指标的快速在线精准预测,从而更及时的反馈到生产中,指导实际生产。
附图说明
图1为本发明的质量驱动型高斯混合变分概率网络(QGMVPN)模型图;
图2为本发明的多釜聚合过程熔体质量指标预测模型图;
图3为本发明实施例中的三釜聚合工艺过程示意图;
图4为本发明的QGMVPN模型在三釜聚酯聚合工艺过程数据中提取的深度特征可视化图;
图5为本发明的QGMVPN模型在三釜聚酯聚合过程熔体中预测熔体粘度的仿真误差图。
具体实施方式
下面结合具体实施方式,进一步阐述本发明。应理解,这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解,在阅读了本发明讲授的内容之后,本领域技术人员可以对本发明作各种改动或修改,这些等价形式同样落于本申请所附权利要求书所限定的范围。
基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,如图1所示,包括如下步骤:
S1. 从聚酯聚合多釜工艺过程的传感器上采集聚合过程变量和聚酯熔体质量指标的历史数据,构建聚合数据集,并划分为训练集和测试集,训练集和测试集的样本数量比为4:1;
其中,如表1和图3所示,聚合过程变量由注射浆料前部温度、注射浆料后部温度、虹吸管压力、泵流量、泵转速、UFPP PH出口温度、UFPP 16th出口温度、UFPP 压力、UFPP EG喷淋温度、FINISHER进口液位、FINISHER出口液位、FINISHER出口温度、FINISHER压力和FINISHER搅拌器转速组成,聚酯熔体质量指标由熔融指数、熔体粘度、低聚物密度组成;
表1. 多釜聚酯聚合过程变量描述
S2. 建立QGMVPN(质量驱动型高斯混合变分概率网络)模型;
QGMVPN模型由编码器(encoder)、特征空间和解码器(decoder)构成;
编码器的结构为3层的神经网络,连接方式为门机制连接;
编码器的输入为[ ],其中,表示由聚合过程变量构成的向量,表示
聚合过程变量的维数,表示由聚酯熔体质量指标构成的向量,表示聚酯熔体质量
指标的维数,[ ]表示混合向量,即两个向量的连缀,维数为;
编码器的输出为编码后的变量,的计算公式如下:
;
其中,和分别对应表示编码器中门机制连接的变量权重矩阵和变量偏置
项,和分别对应表示编码器中门机制连接的门权重矩阵和门偏置项,表示sigmoid
激活函数;
特征空间的工作流程如下:
(a)将直接等价映射为对角型高斯混合分布的
均值向量和方差向量的对数形式,其中,表示高斯混合分布的第个分量,表
示高斯混合组分个数,由聚合主反应釜个数决定,表示第个分量的混合组分系数;
(b)利用再参数化技巧,计算得到服从对角型高斯混合分布的初始特征,公式如
下:
;
;
其中,表示单位矩阵;
(c)将经过次Householder变换,得到服从非对角型高斯混合分布的深度特征,公式如下:
;
其中,表示第个Householder变换矩阵,表示经过t-1次Householder变换
后得到的特征,表示第个Householder向量;
解码器的结构为3层的神经网络,连接方式为门机制连接;
解码器的输入为[ ],[ ]表示混合向量,即两个向量的连缀;
解码器的输出为聚酯熔体质量指标,的计算公式如下:
;
=[ ];
其中,和分别对应表示解码器中门机制连接的变量权重矩阵和变量偏置
项,和分别对应表示解码器中门机制连接的门权重矩阵和门偏置项,表示sigmoid
激活函数;
S3. 设置QGMVPN模型的超参数的初始值,具体过程为:利用控制变量实验法确定以及的初始值,并通过经验调参法设置QGMVPN模型的其它超参数的初始值;
S4. 采用训练集训练QGMVPN模型,并利用测试集进行模型测试,提取最后一次迭
代过程中特征空间输出的,将其记为,将训练且测试后的QGMVPN模型的解码器作为多
釜聚合过程熔体质量指标预测模型;
采用训练集训练QGMVPN模型时,若QGMVPN模型的损失函数值小于0.007,则停止训练;反之,则调整QGMVPN模型的超参数,继续训练;损失函数的表达式如下:
;
式中,表示损失函数,表示散度,表示第个分量对应的单位矩阵;
S5. 如图2所示,从聚酯聚合多釜工艺过程的传感器上采集聚合过程变量的实时
数据,得到由聚合过程变量构成的向量,将[ ]输入多釜聚合过程熔体质量指
标预测模型,由其输出预测的聚酯熔体质量指标,[ ]表示混合向量,即两个向
量的连缀。
下面结合具体数据对本发明进行具体说明:
本发明实施数据来源于长三角某家聚酯工厂DCS系统上采集到的实际数据,采样间隔为1秒;采集了聚酯纤维熔体直纺的三釜聚合工艺过程上的14维过程变量作为样本数据,将聚酯熔体粘度作为待预测的熔体关键质量指标。
采用DCS上的连续10000秒的数据作为样本,将10000个数据样本划分为训练集和测试集,其中8000个数据点作为训练集,2000个数据点作为测试集;
QGMVPN模型中的高斯混合组分个数M为3,对应三釜聚合工艺;利用控制变量实验
法确定GMM分布的混合系数以及Householder变换次数,具体如下:先控制混合系数
为平均值,即3个混合系数均为1/3,再变动Householder变换次数,结果如表2所示:
表2. 不同Householder变换个数对模型的影响
由表2可以看出,当Householder变换次数从1增加到10时,模型预测精度在提升,
再继续增加变换次数时,模型性能出现了下降的趋势;故针对三釜聚酯聚合过程的数据,将
所设计的软测量模型的高斯混合组分设置为3,将Householder变换次数设置为10。
针对高斯混合系数的分配进行了第二组实验,本实验仍采用控制变量法,由上一
组实验可知,当Householder变换次数设定为10时,所设计模型和现有实际数据最为匹配;
在此,控制Householder变换次数为10,以0.1为变化步长,穷举了所有的混合系数的组合
情形,具体见表3:
表3. 不同高斯混合系数对模型的影响
由表3可以看出,当混合高斯组分为3时,混合系数有9种组合形式,当每个组分的混合系数相等时,其结果最好,所以将其均设置为固定值1/M。
除此以外,对于一些基本的网络超参数的设置,如学习率(learning rate)等,均通过试错的方式设定;以0.1为增量步长搜索从0.3到0.9的最佳辍学率(dropout rate),最终将其设置为0.6;批处理大小(batch size)也是至关重要的超参数,通常从[64、128、256、512]中搜索,较大的批次大小可以提高训练速度,但收敛速度较差,在平衡训练速度和收敛速度之后,将其设置为256;学习率也是一个不可忽略的重要超参数,最终设定为0.02。
本发明的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,在三釜聚酯聚合工艺过程数据中提取的深度特征如图4所示,表明本发明的多模态特征提取能力优异,且所设计的高斯混合组分与多釜聚合工艺能完全匹配。本发明在三釜聚酯聚合工艺过程数据中预测熔体粘度的仿真误差结果,如图5所示,结果表明本发明预测效果优异。
为了验证本发明提出的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法的有效性,本部分还进行了对比实验,对比实验中,将上述实验的所有参数设定保持不变,仅以VAE-NN算法为最基础的对比算法,该算法利用传统的软测量建模方式进行建模,即先利用无监督学习算法(此处即为VAE)进行特征提取,再利用回归模型(此处即为NN)将所提取特征和关键质量指标进行回归建模;进行5次独立实验,对比实验的最小、最大及平均值;实验结果如表4所示,其中性能指标为MSE。
表4. QGMVPN模型的MSE统计结果
实验表明,本发明提出的QGMVPN模型在聚酯三釜聚合过程中对聚酯熔体粘度的预测精度优于传统VAE-NN模型,具有较好的预测结果。
Claims (9)
1.基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,其特征在于,包括如下步骤:
S1. 从聚酯聚合多釜工艺过程的传感器上采集聚合过程变量和聚酯熔体质量指标的历史数据,构建聚合数据集,并划分为训练集和测试集;
S2. 建立QGMVPN模型;
QGMVPN模型由编码器、特征空间和解码器构成;
编码器的输入包括,/>表示由聚合过程变量构成的向量,/>表示聚合过程变量的维数;
编码器的输出为编码后的变量;
特征空间的工作流程如下:
(a)将直接等价映射为对角型高斯混合分布/>的均值向量/>和方差向量的对数形式/>,其中,/>表示高斯混合分布的第/>个分量,/>表示高斯混合组分个数,由聚合主反应釜个数决定,/>表示第/>个分量的混合组分系数;
(b)利用再参数化技巧,计算得到服从对角型高斯混合分布的初始特征,公式如下:
;
;
其中,表示单位矩阵;
(c)将经过/>次Householder变换,得到服从非对角型高斯混合分布的深度特征/>,公式如下:
;
其中,表示第/>个Householder变换矩阵,/>表示经过t-1次Householder变换后得到的特征,/>表示第/>个Householder向量;
解码器的输入为[ ],[/> ]表示混合向量,即两个向量的连缀;
解码器的输出为聚酯熔体质量指标;
S3. 设置QGMVPN模型的超参数的初始值;
S4. 采用训练集训练QGMVPN模型,并利用测试集进行模型测试,提取最后一次迭代过程中特征空间输出的,将其记为/>,将训练且测试后的QGMVPN模型的解码器作为多釜聚合过程熔体质量指标预测模型;
S5. 从聚酯聚合多釜工艺过程的传感器上采集聚合过程变量的实时数据,得到由聚合过程变量构成的向量,将[/> ]输入多釜聚合过程熔体质量指标预测模型,由其输出预测的聚酯熔体质量指标/>,[/> ]表示混合向量,即两个向量的连缀。
2.根据权利要求1所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,其特征在于,步骤S1中,训练集和测试集的样本数量比为4:1。
3.根据权利要求1所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,其特征在于,步骤S2中,编码器的结构为3层的神经网络,连接方式为门机制连接。
4.根据权利要求3所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,其特征在于,步骤S2中,编码器的输入为[ ],其中,/>表示由聚酯熔体质量指标构成的向量,/>表示聚酯熔体质量指标的维数,[/> ]表示混合向量,即两个向量的连缀,维数为/>。
5.根据权利要求4所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,其特征在于,步骤S2中,的计算公式如下:
;
;
其中,和/>分别对应表示编码器中门机制连接的变量权重矩阵和变量偏置项,/>和/>分别对应表示编码器中门机制连接的门权重矩阵和门偏置项,/>表示sigmoid激活函数。
6.根据权利要求5所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,其特征在于,步骤S2中,解码器的结构为3层的神经网络,连接方式为门机制连接。
7.根据权利要求6所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,其特征在于,步骤S2中,的计算公式如下:
;
=[/> ];
其中,和/>分别对应表示解码器中门机制连接的变量权重矩阵和变量偏置项,/>和/>分别对应表示解码器中门机制连接的门权重矩阵和门偏置项,/>表示sigmoid激活函数。
8.根据权利要求7所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,其特征在于,步骤S3中,设置QGMVPN模型的超参数的初始值的具体过程为:利用控制变量实验法确定以及/>的初始值,并通过经验调参法设置QGMVPN模型的其它超参数的初始值。
9.根据权利要求4所述的基于QGMVPN模型的多釜聚合过程熔体质量指标在线预测方法,其特征在于,步骤S4中,采用训练集训练QGMVPN模型时,若QGMVPN模型的损失函数值小于0.007,则停止训练;反之,则调整QGMVPN模型的超参数,继续训练;损失函数的表达式如下:
;
式中,表示损失函数,/>表示散度,/>表示第/>个分量对应的单位矩阵。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311788856.5A CN117455320B (zh) | 2023-12-25 | 2023-12-25 | 基于qgmvpn模型的多釜聚合过程熔体质量指标在线预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311788856.5A CN117455320B (zh) | 2023-12-25 | 2023-12-25 | 基于qgmvpn模型的多釜聚合过程熔体质量指标在线预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117455320A true CN117455320A (zh) | 2024-01-26 |
CN117455320B CN117455320B (zh) | 2024-03-19 |
Family
ID=89593309
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311788856.5A Active CN117455320B (zh) | 2023-12-25 | 2023-12-25 | 基于qgmvpn模型的多釜聚合过程熔体质量指标在线预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117455320B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117894397A (zh) * | 2024-03-15 | 2024-04-16 | 北京科技大学 | 一种基于机器学习的连铸保护渣粘度预报方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021007812A1 (zh) * | 2019-07-17 | 2021-01-21 | 深圳大学 | 一种深度神经网络超参数优化方法、电子设备及存储介质 |
CN115963788A (zh) * | 2022-12-12 | 2023-04-14 | 中南大学 | 多采样率工业过程关键质量指标在线预测方法 |
CN116434884A (zh) * | 2023-03-15 | 2023-07-14 | 东华大学 | 一种聚酯纤维酯化过程的低聚物密度预测方法 |
US20230375745A1 (en) * | 2022-05-17 | 2023-11-23 | Nanjing University Of Information Science & Technology | High-temperature disaster forecast method based on directed graph neural network |
-
2023
- 2023-12-25 CN CN202311788856.5A patent/CN117455320B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021007812A1 (zh) * | 2019-07-17 | 2021-01-21 | 深圳大学 | 一种深度神经网络超参数优化方法、电子设备及存储介质 |
US20230375745A1 (en) * | 2022-05-17 | 2023-11-23 | Nanjing University Of Information Science & Technology | High-temperature disaster forecast method based on directed graph neural network |
CN115963788A (zh) * | 2022-12-12 | 2023-04-14 | 中南大学 | 多采样率工业过程关键质量指标在线预测方法 |
CN116434884A (zh) * | 2023-03-15 | 2023-07-14 | 东华大学 | 一种聚酯纤维酯化过程的低聚物密度预测方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117894397A (zh) * | 2024-03-15 | 2024-04-16 | 北京科技大学 | 一种基于机器学习的连铸保护渣粘度预报方法 |
CN117894397B (zh) * | 2024-03-15 | 2024-05-28 | 北京科技大学 | 一种基于机器学习的连铸保护渣粘度预报方法 |
Also Published As
Publication number | Publication date |
---|---|
CN117455320B (zh) | 2024-03-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN117455320B (zh) | 基于qgmvpn模型的多釜聚合过程熔体质量指标在线预测方法 | |
AU2022202698B2 (en) | Systems and methods for making a product | |
CN108520155B (zh) | 基于神经网络的车辆行为模拟方法 | |
CN109597449A (zh) | 一种基于神经网络的超声波分散仪温度控制方法 | |
CN108875771A (zh) | 一种基于稀疏高斯伯努利受限玻尔兹曼机和循环神经网络的故障分类模型及方法 | |
CN111768000A (zh) | 在线自适应微调深度学习的工业过程数据建模方法 | |
CN102626557B (zh) | 基于ga-bp算法的分子蒸馏工艺参数优化方法 | |
CN110889085A (zh) | 基于复杂网络多元在线回归的废水智能监控方法及系统 | |
CN107868979A (zh) | 一种基于恒拉速控制结构的硅单晶直径控制方法 | |
CN112085252A (zh) | 一种关于集合类型决策效果的反事实预测方法 | |
CN109460890B (zh) | 一种基于强化学习与控制性能监测的智能自愈方法 | |
CN114239397A (zh) | 基于动态特征提取与局部加权深度学习的软测量建模方法 | |
CN105807611B (zh) | 一种闭环控制系统的模型与对象不匹配的检测方法 | |
CN114781249A (zh) | 基于多维评分模型的高密度澄清池加药量预测及控制方法 | |
CN113223634B (zh) | 基于二维自注意力增强gru模型高炉铁水硅含量预测方法 | |
CN110879873B (zh) | 一种基于哈密顿蒙特卡洛采样的vine copula相关性描述的软测量方法及系统 | |
CN106599391B (zh) | 基于三角形角度值动态加权的关联向量机软测量建模方法 | |
CN110084428B (zh) | 基于决策者偏好方案计算的水资源配置方法及系统 | |
Yao et al. | Multi‐stage fusion regression network for quality prediction of batch process | |
CN115099537A (zh) | 一种聚酯纤维熔体直纺过程中熔体品质的预测方法 | |
CN113534663B (zh) | 用于cstr温度控制的广义最小方差控制器设计方法 | |
CN114036832A (zh) | 一种基于大数据的批次过程建模与最终产品质量预测方法 | |
CN111537468B (zh) | 柠檬酸生产中的小麦淀粉乳总糖的nir检测方法 | |
CN109635465A (zh) | 基于tpls模型的批次内操作轨迹调整方法 | |
Liu et al. | Robust prediction for quality of industrial processes |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |