CN108614533A - 一种基于narx模型和时滞估计的神经网络建模方法 - Google Patents

一种基于narx模型和时滞估计的神经网络建模方法 Download PDF

Info

Publication number
CN108614533A
CN108614533A CN201810521147.3A CN201810521147A CN108614533A CN 108614533 A CN108614533 A CN 108614533A CN 201810521147 A CN201810521147 A CN 201810521147A CN 108614533 A CN108614533 A CN 108614533A
Authority
CN
China
Prior art keywords
model
formula
variable
models
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810521147.3A
Other languages
English (en)
Inventor
熊伟丽
孙文心
马君霞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangnan University
Original Assignee
Jiangnan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangnan University filed Critical Jiangnan University
Priority to CN201810521147.3A priority Critical patent/CN108614533A/zh
Publication of CN108614533A publication Critical patent/CN108614533A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G05B19/41885Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by modeling, simulation of the manufacturing system
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/32Operator till task planning
    • G05B2219/32339Object oriented modeling, design, analysis, implementation, simulation language
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Manufacturing & Machinery (AREA)
  • General Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于NARX模型和时滞估计的神经网络建模方法,属于复杂工业过程建模和软测量领域。本发明利用神经网络构造了一种新型一阶NARX模型,通过设计模型结构减小了预测时对于主导变量测量值的依赖。当工业过程无法及时提供主导变量历史数据时,能通过多步估计方法来确保主导变量的实时预测。数学分析表明,当模型建立准确时,所发明的新型NARX模型能有效抑制由多步估计造成的误差累积。脱丁烷塔数据仿真实验进一步验证了所构建模型的有效性。

Description

一种基于NARX模型和时滞估计的神经网络建模方法
技术领域
本发明涉及一种基于NARX模型和时滞估计的神经网络建模方法,属于复杂工业过程建模和软测量领域。
背景技术
工业过程中,通常会存在一些难以测量的物理量,如:精馏塔塔底物料的浓度、炼钢过程中铁水硅含量等,这些重要物理量通常被称作为主导变量,会很大程度地影响最终产品的质量。软测量建模能利用工业过程中易于测量的辅助变量对不可直接测量或测量代价大的主导变量进行实时估计,已在环保、冶金、化工等领域得到了广泛的应用。
根据模型输入变量的不同,通常可将其分为静态模型与动态模型两类,若模型仅考虑当前时刻的过程状态作为输入变量则称之为静态模型;在此基础上若模型还考虑将过程状态的历史信息作为输入变量则称之为动态模型。
相比静态模型,动态模型对于时间序列具有更强的描述能力,能更好地适应工业过程中的非稳态情况,由于更贴近实际过程,动态建模方法得到了工业界的广泛关注,现已取得许多研究成果。
动态模型中,带输入自回归模型(ARX)是最常见的一种线性动态模型,具有模型结构简单、易于实现的优点,已在许多时间序列预测中得到了应用。该模型还有其非线性拓展形式,即NARX模型,在ARX的基础上结合了神经网络(NN)的非线性逼近特性,使得模型能够更好地适应具有强非线特性的工业过程。
一方面,在许多工业过程中,主导变量的历史值与其当前值有很强的相关性,NARX模型在许多应用中表现出了很高的预测精度。另一方面,传统自回归模型需要对主导变量的数据进行实时采集,而大部分工业过程中主导变量的测量存在采样周期长、测量延迟大、代价大等问题,无法实时获得主导变量的数据,这种情况下NARX模型的使用受到了极大的限制。目前基于NARX的软测量建模研究大多建立在主导变量的数据能被实时采集的假设之下,而摒弃这一假设来构建NARX软测量模型的研究仍然较少。
发明内容
为了解决目前存在的问题,本发明提供一种基于NARX模型和时滞估计的神经网络建模方法,利用两个神经网络模型构造了一种带自相关约束的NARX模型,通过约束神经网络的输出范围减小模型对于主导变量实时测量值的依赖,在能保证建模精度的情况下能够抑制住由主导变量历史信息缺失带来的误差累积;所述技术方案如下:
步骤1:构建模型结构;
所述模型结构的详细说明如下:
定义Xt、yt为过程在t时刻辅助和主导变量的取值,在辅助变量上加上标来表示变量中的具体特征,所述具体特征指过程中能够直接进行测量的物理变量,如:温度、压力等,而辅助变量是由特征组成的列向量,设其维度为m,主导变量为标量
定义本方法模型为并定义t时刻主导变量的预测值为如式(1)所示
其中,θ表示模型的参数向量,nb表示模型的阶次,式(1)中的模型由两个输入变量为的神经神经网络构成,将其分别称作为A网络模型和B网络模型,计作其中θa和θb分别表示A、B网络模型的模型参数,模型如式(2)所示:
式(2)中的c是自定义常量,默认取0.9,当主导变量的自相关性较大,如反应速度较慢或主导变量自身存在较大惯性时适当增大c的取值,A、B网络模型都是普通的单隐层、多输入单输出神经网络,其中,A网络模型的输出层激活函数为Sigmoid函数,其输出被限制在0到1之间,而B网络模型的输出层为线性层,其输出可以是实数范围内的任意数;
步骤2:收集输入输出数据组成历史训练数据库;
步骤3:标准化训练样本数据,使数据零均值、单位方差化;
步骤4:构造代价函数,利用已有的训练样本序列构造代价函数,以此来评价预测模型的拟合精度,假设训练样本的个数为N,构造代价函数如式(3)所示:
可以看出,式(3)由误差平方和与一个正则项构成,λ为正则项系数,默认设置为0.01
步骤5:对模型进行训练,通过Adam算法对模型参数进行调整,使得代价函数J(θ)最小话,Adam算法的步骤如下:
Step1:初始化算法参数,令α=0.001;β1=0.9;β2=0.999;ε=10-8
Step2:惯性项初始化,令m←0;v←0;
Step3:求解代价函数的梯度:
Step4:更新惯性项:m←β1m+(1-β1)g;v←β1v+(1-β1)g2
Step5:修正一阶、二阶矩估计:
Step6:调整模型参数:
Step7:判断算法是否已收敛,若收敛则结束算法,否则返回step3;
模型参数θ经过调整后成为预测模型的一部分并不再更改;
步骤6:利用训练完成的模型对新来样本序列进行预测,由式(2)可以看出在对主导变量
yt进行预测时依赖yt-1,在yt-1无法实时测量得到时,用其估计值来替代,定义如下:
从式(4)可以看出,t1越接近t2所含的过程信息越新,根据式(2)和式(4)推导得到递推关系式(5),当主导变量的测量值得到更新时,以此对输出进行校正;
可选的,当模型建立能准确描述工业过程时,该模型具有以下两个特点:(1)减少了对主导变量测量值的依赖,可适用于主导变量采样缓慢、存在较大时滞或无法采样的场合;(2)对主导变量的测量噪声不敏感。
可选的,所述方法为应用于工业过程中减少NARX模型对无法直接测量的变量的依赖的方法。
可选的,所述工业过程包括环保、冶金及化工过程。
可选的,所述化工过程包括脱丁烷塔过程。
所述一种基于NARX模型和时滞估计的神经网络建模方法可应用于化工、冶金和发酵等工业过程中,比如,可应用于常见的化工过程--脱丁烷塔过程中,以提升模型预测的精度、实现主导变量的实时估计。
本发明有益效果是:
利用神经网络构造了一种新型一阶NARX模型,通过设计模型结构减小了预测时对于主导变量测量值的依赖。当工业过程无法及时提供主导变量历史数据时,能通过多步估计方法来确保主导变量的实时预测。数学分析表明,当模型建立准确时,所发明的新型NARX模型能有效抑制由多步估计造成的误差累积。脱丁烷塔数据仿真实验进一步验证了所构建模型的有效性。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为多步估计方法流程图;
图2为网络结构示意图;
图3为不同情况下各模型误差比较示意图;
图4为本发明在脱丁烷塔数据中的预测结果图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
实施例一:
本实施例提供一种基于NARX模型和时滞估计的神经网络建模方法,本实施例以常见的化工过程——脱丁烷塔过程为例。实验数据来自于脱丁烷塔过程,参见图1,所述方法包括:
步骤1:构建模型结构,以下是对该模型结构的详细说明:
定义Xt、yt为过程在t时刻辅助和主导变量的取值。在辅助变量上加上标来表示变量中的具体特征,特征指过程中易测的物理变量,如:温度、压力等,而辅助变量是由特征组成的列向量,设其维度为m。定义主导变量为标量。
定义本方法模型为并定义t时刻主导变量的预测值为如式(1)所示。
其中,θ表示模型的参数向量,nb表示模型的阶次,式(1)中的模型由两个输入变量为的神经神经网络构成,将其分别称作为A网络模型和B网络模型;计作其网络结构如图2所示模型,其中θa和θb分别表示A、B网络模型的模型参数,如式(2)所示:
式(2)中的c是自定义常量,本发明中默认取0.9,当主导变量的自相关性较大,如反应速度较慢或主导变量自身存在较大惯性时可以适当增大c的取值,A、B网络模型都是普通的单隐层、多输入单输出神经网络,其中,A网络模型的输出层激活函数为Sigmoid函数,其输出被限制在了0到1之间,而B网络模型的输出层为线性层,因此其输出可以是实数范围内的任意数。
步骤2:收集输入输出数据组成历史训练数据库。
步骤3:标准化训练样本数据,使数据零均值、单位方差化。
步骤4:构造代价函数,利用已有的训练样本序列构造代价函数,以此来评价预测模型的拟合精度。假设训练样本的个数为N,构造代价函数如式(3)所示:
可以看出,式(3)由误差平方和与一个正则项构成,λ为正则项系数,通常设为很小的值,本发明中默认设置为0.01。
步骤5:对模型进行训练,通过Adam算法对模型参数进行调整,使得代价函数J(θ)最小化,Adam算法的步骤如下:
Step1:初始化算法参数,令α=0.001;β1=0.9;β2=0.999;ε=10-8
Step2:惯性项初始化,令m←0;v←0;
Step3:求解代价函数的梯度:
Step4:更新惯性项:m←β1m+(1-β1)g;v←β1v+(1-β1)g2
Step5:修正一阶、二阶矩估计:
Step6:调整模型参数:
Step7:判断算法是否已收敛,若收敛则结束算法,否则返回step3。
模型参数θ经过调整后就成为了预测模型的一部分并不再更改,为了表示简便,后文中在表示训练完成的模型时略写其参数项。
步骤6:利用训练完成的模型对新来样本序列进行预测,通常,工业现场难以实时提供主导变量的历史信息,式(2)在对主导变量yt进行预测时依赖yt-1,因此无法直接使用,在yt-1无法实时测量得到时,可用其估计值来替代,定义如下:
从式(4)可以看出,t1越接近t2所含的过程信息越新。根据式(2)和式(4)可推导得到递推关系式(5),当主导变量的测量值得到更新时,可以此对输出进行校正。
在脱丁烷塔数据上模拟了主导变量测量存在时延、存在测量噪声、测量周期长这三种工业环境,并在上述环境下对分别对ARX模型、NARX模型和本发明的模型进行了一百次建模实验,图3展示了三种情况下各模型的表现情况,由图可知,一百次试验中,本发明都很好地抑制了主导变量测量困难所带来的影响,因此能够适用于主导变量采样缓慢、存在较大时滞或测量存在噪声的场合。
最后,在脱丁烷塔数据上模拟了主导变量无法在线测量的工业环境,图4展示了本发明在该情况下的预测效果。由图4可知,实验中本发明很好地避免了误差累计现象的发生。
本发明利用神经网络构造了一种新型一阶NARX模型,通过设计模型结构减小了预测时对于主导变量测量值的依赖。当工业过程无法及时提供主导变量历史数据时,能通过多步估计方法来确保主导变量的实时预测。数学分析表明,当模型建立准确时,所发明的新型NARX模型能有效抑制由多步估计造成的误差累积。脱丁烷塔数据仿真实验进一步验证了所构建模型的有效性。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (4)

1.一种基于NARX模型和时滞估计的神经网络建模方法,其特征在于,所述方法包括:
步骤1:构建模型结构:
定义Xt、yt为过程在t时刻辅助和主导变量的取值,在辅助变量上加上标来表示变量中的具体特征,所述具体特征指过程中能够直接进行测量的物理变量,而辅助变量是由特征组成的列向量,设其维度为m,主导变量为标量;
定义方法模型为并定义t时刻主导变量的预测值为如式(1)所示:
其中,θ表示模型的参数向量,nb表示模型的阶次,式(1)中的模型由两个输入变量为的神经网络构成,分别称作为A网络模型和B网络模型,计作其中θa和θb分别表示A、B网络模型的模型参数,模型如式(2)所示:
式(2)中的c是自定义常量,c取0.9,A、B网络模型都是普通的单隐层、多输入单输出神经网络;其中,A网络模型的输出层激活函数为Sigmoid函数,其输出被限制在0到1之间,而B网络模型的输出层为线性层,其输出为实数范围内的任意数;
步骤2:收集输入输出数据组成历史训练数据库;
步骤3:标准化训练样本数据,使数据零均值、单位方差化;
步骤4:构造代价函数,利用已有的训练样本序列构造代价函数,以此来评价预测模型的拟合精度,假设训练样本的个数为N,构造代价函数如式(3)所示:
式(3)由误差平方和与一个正则项构成,λ为正则项系数,默认设置为0.01
步骤5:对模型进行训练,通过Adam算法对模型参数进行调整,使得代价函数J(θ)最小化,Adam算法步骤如下:
Step1:初始化算法参数,令α=0.001;β1=0.9;β2=0.999;ε=10-8
Step2:惯性项初始化,令m←0;v←0;
Step3:求解代价函数的梯度:
Step4:更新惯性项:m←β1m+(1-β1)g;v←β1v+(1-β1)g2
Step5:修正一阶、二阶矩估计:
Step6:调整模型参数:
Step7:判断算法是否已收敛,若收敛则结束算法,否则返回step3;
模型参数θ经过调整后成为预测模型的一部分并且不再更改;
步骤6:利用训练完成的模型对新来样本序列进行预测,由式(2)可以看出在对主导变量yt进行预测时依赖yt-1,在yt-1无法实时测量得到时,用其估计值来替代,定义如下:
从式(4)可以看出,t1越接近t2所含的过程信息越新,根据式(2)和式(4)推导得到递推关系式(5),当主导变量的测量值得到更新时,以此对输出进行校正;
2.根据权利要求1所述的方法,其特征在于,所述方法为应用于工业过程中减少NARX模型对无法直接测量的变量的依赖的方法。
3.根据权利要求2所述的方法,其特征在于,所述工业过程包括环保、冶金及化工过程。
4.根据权利要求3所述的方法,其特征在于,所述化工过程包括脱丁烷塔过程。
CN201810521147.3A 2018-05-28 2018-05-28 一种基于narx模型和时滞估计的神经网络建模方法 Pending CN108614533A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810521147.3A CN108614533A (zh) 2018-05-28 2018-05-28 一种基于narx模型和时滞估计的神经网络建模方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810521147.3A CN108614533A (zh) 2018-05-28 2018-05-28 一种基于narx模型和时滞估计的神经网络建模方法

Publications (1)

Publication Number Publication Date
CN108614533A true CN108614533A (zh) 2018-10-02

Family

ID=63664139

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810521147.3A Pending CN108614533A (zh) 2018-05-28 2018-05-28 一种基于narx模型和时滞估计的神经网络建模方法

Country Status (1)

Country Link
CN (1) CN108614533A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109541729A (zh) * 2018-11-19 2019-03-29 青海民族大学 一种基于narx的中国北方草原地区生长季降雨量的预测方法
CN109884893A (zh) * 2019-02-28 2019-06-14 西安理工大学 一种多工序变量间动态时滞估计方法
CN110442991A (zh) * 2019-08-12 2019-11-12 江南大学 一种基于参数化fir模型的动态硫回收软测量建模方法
CN110802589A (zh) * 2019-10-23 2020-02-18 山东科技大学 一种工业机器人单关节伺服控制的迟滞补偿方法
CN113191485A (zh) * 2021-04-26 2021-07-30 东北大学 一种基于narx神经网络的电力信息网络安全检测系统及方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109541729A (zh) * 2018-11-19 2019-03-29 青海民族大学 一种基于narx的中国北方草原地区生长季降雨量的预测方法
CN109541729B (zh) * 2018-11-19 2021-08-13 青海民族大学 一种基于narx的中国北方草原地区生长季降雨量的预测方法
CN109884893A (zh) * 2019-02-28 2019-06-14 西安理工大学 一种多工序变量间动态时滞估计方法
CN110442991A (zh) * 2019-08-12 2019-11-12 江南大学 一种基于参数化fir模型的动态硫回收软测量建模方法
CN110802589A (zh) * 2019-10-23 2020-02-18 山东科技大学 一种工业机器人单关节伺服控制的迟滞补偿方法
CN113191485A (zh) * 2021-04-26 2021-07-30 东北大学 一种基于narx神经网络的电力信息网络安全检测系统及方法
CN113191485B (zh) * 2021-04-26 2024-05-10 东北大学 一种基于narx神经网络的电力信息网络安全检测系统及方法

Similar Documents

Publication Publication Date Title
CN108614533A (zh) 一种基于narx模型和时滞估计的神经网络建模方法
CN107526927B (zh) 一种高炉铁水质量在线鲁棒软测量方法
CN111308979B (zh) 基于多率迟延状态空间模型的u控制系统
CN102693452A (zh) 基于半监督回归学习的多模型软测量方法
He et al. Soft sensor development for the key variables of complex chemical processes using a novel robust bagging nonlinear model integrating improved extreme learning machine with partial least square
CN112580257B (zh) 基于深度学习的复杂工业系统预报模型构建方法、装置、设备及存储介质
CN113607601B (zh) 基于辨识模型与深度学习相结合的矿浆浓度智能检测方法
CN108595892A (zh) 基于时间差分模型的软测量建模方法
CN105487376A (zh) 一种基于数据驱动单网络结构的最优控制方法
CN112578667A (zh) 恒温差温度控制方法及其系统、工业控制设备和存储介质
CN108460462A (zh) 一种基于区间参数优化的区间神经网络学习方法
CN114239397A (zh) 基于动态特征提取与局部加权深度学习的软测量建模方法
CN110659767A (zh) 一种基于lstm-cnn深度学习模型的股票趋势预测方法
CN111103420B (zh) 一种原料不确定下的酚醛树脂产品质量预测方法
CN103743867B (zh) 基于神经网络的卡尔曼滤波甲醛检测方法
CN105550457A (zh) 动态演化模型校正方法及系统
Pengfei et al. Soft sensor model derived from wiener model structure: modeling and identification
CN116187153B (zh) 基于层次贝叶斯的水工结构数字孪生模型更新方法
Zhang et al. An ELM based online soft sensing approach for alumina concentration detection
Tran-Quang et al. Aquaculture environment prediction based on improved lstm deep learning model
Peerajit Accurate Average Run Length Analysis for Detecting Changes in a Long-Memory Fractionally Integrated MAX Process Running on EWMA Control Chart
CN110705187A (zh) 通过最小二乘算法即时在线仪表校验和诊断方法
CN110750756A (zh) 通过最优支持向量机算法即时在线仪表校验和诊断方法
CN113191082B (zh) 基于机器学习的模型参数获取方法、系统及可读介质
CN111400931A (zh) 一种车辆横摆角速度的确定方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20181002

RJ01 Rejection of invention patent application after publication