CN110378035A - 一种基于深度学习的加氢裂化软测量建模方法 - Google Patents

一种基于深度学习的加氢裂化软测量建模方法 Download PDF

Info

Publication number
CN110378035A
CN110378035A CN201910663520.3A CN201910663520A CN110378035A CN 110378035 A CN110378035 A CN 110378035A CN 201910663520 A CN201910663520 A CN 201910663520A CN 110378035 A CN110378035 A CN 110378035A
Authority
CN
China
Prior art keywords
data
soft
deep learning
layer
dbn
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910663520.3A
Other languages
English (en)
Inventor
秦岭
赵志涛
杨小健
张振
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Tech University
Original Assignee
Nanjing Tech University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing Tech University filed Critical Nanjing Tech University
Priority to CN201910663520.3A priority Critical patent/CN110378035A/zh
Publication of CN110378035A publication Critical patent/CN110378035A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/088Non-supervised learning, e.g. competitive learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Geometry (AREA)
  • Testing Or Calibration Of Command Recording Devices (AREA)

Abstract

本发明公开了一种基于深度学习的加氢裂化软测量建模方法。涉及软测量技术领域,该方法使用Java编写了分别获取过程历史数据库和生产过程质量检测类LIMS数据库的过程数据和质量数据的定时程序,周期性的获取过程数据;根据加氢裂化工艺的先验知识选取了软测量建模中所需的辅助变量,并对相应的过程数据进行了数据预处理;然后,建立了深度置信网络和深度神经网络结合的网络模型,深度置信网络用于提取复杂非线性过程数据的特征和降低数据维度,深度神经网络用于回归预测质量变量。

Description

一种基于深度学习的加氢裂化软测量建模方法
技术领域
本发明涉及软测量领域,尤其涉及一种基于深度学习的加氢裂化软测量建模方法。
背景技术
在石化和炼油行业中,最常用的技术方法之一就是加氢裂化,它指的是原料在高温高压和催化剂的条件下,通过加氢反应和裂化反应达到产品要求的一类工艺技术。目前,加氢裂化过程参数的监控,大多数还是依靠工作人员的先验经验,以及现场采集数据并在实验室进行离线分析的方法。该方法耗时长、时滞严重且精度较低,没有能够有效的利用已产生的大规模的数据,影响了最终结果的准确性。那么,如何获取与加氢裂化阶段密切相关的数据,以及或者建立对应的软测量预测模型就显得尤为重要。
软测量技术把是生产过程知识有机的结合起来,应用计算机技术对难以测量或者暂时不能测量的重要变量,选择另外一些容易测量的变量,通过构成某种数学关系来推断或者估计,以软件来替代硬件的功能的技术。软测量技术分为基于机理的传统建模方法、基于数据驱动的建模方法和混合建模方法三类。
目前,主流的数据驱动软测量建模方法主要来自于机器学习和模式识别领域。另外,考虑到在实际过程工业中过程的内在变化会影响很多过程变量,采集到的数据的维度要远远大于其实际维度,表现为“数据丰富而信息贫乏”,这种明显的信息冗余现象对软测量带来了挑战。
发明内容
本发明提供一种在线测量、计算速度快、预测精度较高的基于深度学习的加氢裂化软测量建模方法。为了克服加氢裂化生产过程中一些关键的过程变量难以直接测量、过程数据具有较强非线性和动态性的难点,该方法通过对复杂非线性的过程数据使用深度置信网络(DBN)提取非线性特征、降低数据维度,利用深度神经网络进行有监督的反向传播,以获得较高精度的质量变量预测值。
为了实现上述发明目的,本发明采用一种基于深度学习的加氢裂化软测量建模方法,所述方法包括以下步骤:
步骤一:获取数据,定时获取固定时间间隔的过程数据
步骤二:根据过程知识选择辅助变量;
步骤三:预处理数据。首先从原始样本中去除所有可能的异常值,然后进行归一化以便所有的样本是零均值和单位方差。
步骤四:确定网络的体系结构,并通过连续训练每个单独的RBM以无监督的方式预训练DBN;
步骤五:通过反向传播用目标变量微调DNN,使用预训练的DBN输出初始化DNN的参数;通过附加数据集验证深度网络。如果存在过拟合,请回到步骤五;
步骤六:在测试数据集中测试软测量模型。使用均方根误差(RMSE)评价模型。
附图说明
图1是本发明所述的一种基于深度学习的加氢裂化软测量模型图。
图2是深度置信网络和深度神经网络模型图
具体实施方式
下面结合附图对本发明作进一步描述。本发明实施例用来解释说明本发明,而不是对本发明进行限制,在本发明的精神和权利要求的保护范围内,对本发明做出的任何修改和改变,都落入本发明的保护范围
实施例一
参照图1、图2,一种基于深度学习的加氢裂化软测量方法,在加氢裂化过程中以预测航空煤油干点为例,包括以下步骤:
步骤一:获取过程数据
加氢裂化过程数据来自过程历史数据库(PHD)和LIMS质量数据库。使用Java编写后台定时任务通过JDBC每隔5min获取过程数据和过程数据对应的质量数据。
步骤二:根据过程知识选择辅助变量;
辅助变量的选择通常首先根据先验知识初步确定待选的辅助变量集,然后根据统计方法选择最佳的变量集。
表1 选取的辅助变量
如表1所示选取这13个变量构成航空煤油干点软测量建模的辅助变量,整个软测量模型可用公式(1)表示:
Y=f(Th,Fh,Tj,Fj,Tr,Ft,Ttop,Ptop,Tin,Fin,Tb,Fb,Fl) (1)
步骤三:预处理数据。
由于工业过程通常涉及异常值,数据驱动的软测量模型性能可能会因此严重恶化。在实际应用中,由于传感器故障,通信异常或者数据库关闭,收集的数据可能会在一段时间内保持固定值,或者意外地脱离正常操作范围,从而对于建模是不可靠的。获得这样的正常范围通常需要从过程工业从业这哪里获得先验知识。在这项实例中,使用3σ规则提出异常数据,最后,通过以下线性变换过程将过程变量归一化为零均值和单位方差。
由于加氢裂化生产流程的过程操作数据和油品质量数据分别来自PHD数据库和LIMS数据库,为了综合来自不同数据源的数据,需要进行数据集成。同一个装置的不同参数分布在不同的数据库里,这将导致不一致性和冗余。冗余数据的存在将对稳态数据的获取造成一定偏差,使该稳态数据不能够反应此段时间内的稳态工作点。
共采集了400组数据。将其中的350作为训练数据,剩下的50组作为测试数据,
步骤四:确定网络的体系结构,并通过连续训练每个单独的RBM以无监督的方式预训练DBN;
深度神经网络开发回归模型有两阶段过程,第一步是预训练,其中DBN仅使用无监督的输入数据进行训练;第二步时反向传播,其中使用在预训练中获得的参数和质量变量数据训练递归神经网络。整个软测量模型为深度{13,20,13,1}的神经网络用于质量预测,为了避免过度拟合,训练集中的50个样本用于反向传播步骤中的验证,而其他350个样本用于梯度下降。如果错误开始增加,则表示发生过度拟合,应停止反向传播。训练次数设置为10次。
本发明中使用的软测量模型如图1所示。深度信念网络是一个由可视层和隐含层构成的多层结构。堆叠一系列RBM构建一个DBN。DBN中包含三个RBM,其中输入层和第二层(隐含层I)构成第一个RBM,第二层(隐含层I)和第三层(隐含层II)形成第二个RBM,以此类推。构建的5层DBN包含输入层、三个隐含层和输出层。
其中RBM的能量函数E定义为:
E(v,h|θ)=-∑naivi-∑nbihi-∑nmviwijhj (3)
为了得到观察数据v的分布P(v|θ),也就是联合概率分布P(v,h|θ)的边际分布,可用式(4)。
P(hj=1|v,θ)=f(bj+∑iviwij) (4)
其中,f(x)含义时神经元的激活函数。隐含层单元确定后,可视层单元状态如式(5)。
P(vj=1|h,θ)=f(ai+∑jwijhj) (5)
对一个训练样本而言,分别使用data和recon代表P(h|v(t)θ)和P(v,h|θ),则输入数据所确定的期望为<vihj>data,而<vihj>recon表示对一切可能的(v,h)建立模型的期望。对数据在模型上的似然函数关于网络的连接权重的偏导如式(6)。
计算<vihj>recon的值必须对训练集中的一切样本的对数概率求导,为了避免计算代价过大,权值的更新可表示为式(6)。
Δwij=ε(<vihj>data-<vihj>recon) (7)
其中ε是学习速率。类似的,对于各偏置的更新可分别表示为(8)式和(9)式。
Δai=ε(<vi>data-<vi>recon) (8)
Δbj=ε(<hj>data-<hj>recon) (9)
为了让RBM的训练过程更加稳定,在更新权阈值时可引入动量值。使当前迭代受之前的参数更新经验的影响,训练过程更加稳定并且能更顺利的通过停滞期。此时权值更新公式可表示成式(10)
当一个RBM的参数经过以上算法预训练完成后,将其隐含层单元的值作为训练下一个RBM的输入数据,使用同样的算法对其进行训练。以此类推,按照不同的需求训练需要的RBM。当足够的RBM训练完成后,将它们按照训练顺序自底向上进行组合便可得到一个DBN网络。
步骤五:通过反向传播用目标变量微调DNN
当完成了DBN的无监督预训练步骤,就进入了有监督反向传播阶段,该阶段为4层深度神经网络。损失函数是均方差,激活函数是sigmoid,输入值是预训练好的DBN的输出。Sigmoid激活函数的表达式为式(11)。
使用预训练的DBN输出初始化DNN的参数
通过附加数据集验证深度网络。如果存在过拟合,请回到步骤五。当训练集的准确率比附加数据集上的测试结果的准确率要高时为过拟合
步骤六:在测试数据集中测试软测量模型。使用均方根误差(RMES)评价软测量模型精度。
均方根误差的表达式如式(12)。

Claims (7)

1.一种基于深度学习的加氢裂化软测量建模方法,其特征在于,所述方法包括以下步骤:
步骤一:获取数据,定时获取固定时间间隔的过程数据
步骤二:根据过程知识选择辅助变量;
步骤三:预处理数据。首先从原始样本中去除所有可能的异常值,然后进行归一化以便所有的样本是零均值和单位方差;
步骤四:确定网络的体系结构,并通过连续训练每个单独的RBM以无监督的方式预训练DBN;
步骤五:通过反向传播用目标变量微调DNN,使用预训练的DBN输出初始化DNN的参数;
步骤六:通过附加数据集验证深度网络。如果存在过拟合,请回到步骤五。
步骤七:在测试数据集中测试软测量模型。使用均方根误差(RMSE)评价模型。
2.根据权利要求1所述的一种基于深度学习的加氢裂化软测量建模方法,其特征在于,步骤一中所述获取过程数据集方法包括以下步骤:
加氢裂化过程数据来自过程历史数据库(PHD)和LIMS质量数据库。使用Java编写后台定时任务通过JDBC每隔5min获取过程数据和过程数据对应的质量数据。
3.根据权利要求1所述的一种基于深度学习的加氢裂化软测量建模方法,其特征在于,步骤二所述的关于根据过程知识选择辅助变量的获得方法包括以下步骤:
辅助变量的选择通常首先根据先验知识初步确定待选的辅助变量集,然后根据统计方法选择最佳的变量集。选取这13个变量构成航空煤油干点软测量建模的辅助变量,整个软测量模型可用公式(1)表示:
Y=f(Th,Fh,Tj,Fj,Tr,Fr,Ttop,Ptop,Tin,Fin,Tb,Fb,Fl) (1)。
4.根据权利要求1所述的一种基于深度学习的加氢裂化建模方法,其特征在于,步骤三中所述数据预处理的操作逻辑为:
使用3σ规则提出异常数据,最后,通过以下线性变换过程将过程变量归一化为零均值和单位方差。
由于加氢裂化生产流程的过程操作数据和油品质量数据分别来自PHD数据库和LIMS数据库,为了综合来自不同数据源的数据,需要进行数据集成。同一个装置的不同参数分布在不同的数据库里,这将导致不一致性和冗余。冗余数据的存在将对稳态数据的获取造成一定偏差,使该稳态数据不能够反应此段时间内的稳态工作点。
5.根据权利要求1所述的一种基于深度学习的加氢裂化建模方法,其特征在于,步骤四中所述网络体系结构为:
深度信念网络是一个由可视层和隐含层构成的多层结构。堆叠一系列RBM构建一个DBN。DBN中包含三个RBM,其中输入层和第二层(隐含层I)构成第一个RBM,第二层(隐含层I)和第三层(隐含层II)形成第二个RBM,以此类推。构建的5层DBN包含输入层、三个隐含层和输出层。有监督的反向传播为4层深度神经网络。
6.根据权利要求1所述的一种基于深度学习的加氢裂化建模方法,其特征在于,步骤五中所述深度神经网络的设置方法为:
该阶段为4层深度神经网络。损失函数是均方差,激活函数是sigmoid,输入值是预训练好的DBN的输出。Sigmoid激活函数的表达式为式(11)。
使用预训练的DBN输出初始化DNN的参数。
7.根据权利要求1所述的一种基于深度学习的加氢裂化建模方法,其特征在于,步骤六中所述评价软测量模型精度方法为:
均方根误差的表达式如式(12)。
CN201910663520.3A 2019-07-19 2019-07-19 一种基于深度学习的加氢裂化软测量建模方法 Pending CN110378035A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910663520.3A CN110378035A (zh) 2019-07-19 2019-07-19 一种基于深度学习的加氢裂化软测量建模方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910663520.3A CN110378035A (zh) 2019-07-19 2019-07-19 一种基于深度学习的加氢裂化软测量建模方法

Publications (1)

Publication Number Publication Date
CN110378035A true CN110378035A (zh) 2019-10-25

Family

ID=68254966

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910663520.3A Pending CN110378035A (zh) 2019-07-19 2019-07-19 一种基于深度学习的加氢裂化软测量建模方法

Country Status (1)

Country Link
CN (1) CN110378035A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111679636A (zh) * 2020-05-11 2020-09-18 杭州传化智能制造科技有限公司 生产工艺参数处理的系统、方法和计算机设备
CN111930601A (zh) * 2020-05-14 2020-11-13 国家电网有限公司客户服务中心 一种基于深度学习的数据库状态综合评分方法及其系统
CN113343566A (zh) * 2021-05-31 2021-09-03 北京信息科技大学 基于深度学习的镍基合金断裂韧性预测方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108445752A (zh) * 2018-03-02 2018-08-24 北京工业大学 一种自适应选择深度特征的随机权神经网络集成建模方法
CN109102126A (zh) * 2018-08-30 2018-12-28 燕山大学 一种基于深度迁移学习的理论线损率预测模型
CN109165798A (zh) * 2018-10-19 2019-01-08 燕山大学 一种水泥熟料游离氧化钙含量在线预测方法及系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108445752A (zh) * 2018-03-02 2018-08-24 北京工业大学 一种自适应选择深度特征的随机权神经网络集成建模方法
CN109102126A (zh) * 2018-08-30 2018-12-28 燕山大学 一种基于深度迁移学习的理论线损率预测模型
CN109165798A (zh) * 2018-10-19 2019-01-08 燕山大学 一种水泥熟料游离氧化钙含量在线预测方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
毛佳敏: "深度学习算法在软测量建模中的应用研究", 《中国优秀硕士学位论文全文数据库》 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111679636A (zh) * 2020-05-11 2020-09-18 杭州传化智能制造科技有限公司 生产工艺参数处理的系统、方法和计算机设备
CN111679636B (zh) * 2020-05-11 2021-11-09 杭州睿疆科技有限公司 生产工艺参数处理的系统、方法和计算机设备
CN111930601A (zh) * 2020-05-14 2020-11-13 国家电网有限公司客户服务中心 一种基于深度学习的数据库状态综合评分方法及其系统
CN113343566A (zh) * 2021-05-31 2021-09-03 北京信息科技大学 基于深度学习的镍基合金断裂韧性预测方法及系统
CN113343566B (zh) * 2021-05-31 2023-09-01 北京信息科技大学 基于深度学习的镍基合金断裂韧性预测方法及系统

Similar Documents

Publication Publication Date Title
CN111222549B (zh) 一种基于深度神经网络的无人机故障预测方法
KR102139358B1 (ko) 머신러닝 기반 플랫폼을 이용한 공정제어방법, 그를 수행하기 위한 컴퓨터 프로그램 매체 및 공정제어장치
CN110378035A (zh) 一种基于深度学习的加氢裂化软测量建模方法
CN107273924B (zh) 基于模糊聚类分析的多数据融合的电厂故障诊断方法
Liu et al. Operating optimality assessment and nonoptimal cause identification for non-Gaussian multimode processes with transitions
Wu et al. A transformer-based approach for novel fault detection and fault classification/diagnosis in manufacturing: A rotary system application
CN111768000A (zh) 在线自适应微调深度学习的工业过程数据建模方法
CN108803520A (zh) 一种基于变量非线性自相关性剔除的动态过程监测方法
CN111638707B (zh) 基于som聚类和mpca的间歇过程故障监测方法
CN113837000A (zh) 一种基于任务排序元学习的小样本故障诊断方法
CN109472057A (zh) 基于跨工步隐式参数记忆的产品加工质量预测装置及方法
CN111898867B (zh) 一种基于深度神经网络的飞机总装生产线产能预测方法
CN114239397A (zh) 基于动态特征提取与局部加权深度学习的软测量建模方法
CN112069685A (zh) 一种考虑可解释性的复杂机电系统健康评估方法及系统
Wang et al. A remaining useful life prediction model based on hybrid long-short sequences for engines
Buragohain Adaptive network based fuzzy inference system (ANFIS) as a tool for system identification with special emphasis on training data minimization
CN114692507A (zh) 基于堆叠泊松自编码器网络的计数数据软测量建模方法
CN115407753A (zh) 一种多变量加权集成学习的工业故障诊断方法
Zhang et al. Fault detection and diagnosis for data incomplete industrial systems with new Bayesian network approach
CN109164794B (zh) 基于偏f值selm的多变量工业过程故障分类方法
CN114548494B (zh) 一种可视化造价数据预测智能分析系统
Guo et al. Multiblock adaptive convolution kernel neural network for fault diagnosis in a large-scale industrial process
CN109033205B (zh) 基于数据输入行为分析的航天测试数据校核装置
CN117334271B (zh) 一种基于指定属性生成分子的方法
CN109493921A (zh) 一种基于多代理模型的常压精馏过程建模方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20191025