CN108388213B - 基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法 - Google Patents
基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法 Download PDFInfo
- Publication number
- CN108388213B CN108388213B CN201810113836.0A CN201810113836A CN108388213B CN 108388213 B CN108388213 B CN 108388213B CN 201810113836 A CN201810113836 A CN 201810113836A CN 108388213 B CN108388213 B CN 108388213B
- Authority
- CN
- China
- Prior art keywords
- moment
- plasticity
- spinning
- parameter
- res
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 42
- 238000010036 direct spinning Methods 0.000 title claims abstract description 29
- 238000004886 process control Methods 0.000 title claims abstract description 11
- 229920000728 polyester Polymers 0.000 claims abstract description 25
- 238000009987 spinning Methods 0.000 claims abstract description 24
- 210000002569 neuron Anatomy 0.000 claims abstract description 22
- 238000005516 engineering process Methods 0.000 claims abstract description 9
- 239000011159 matrix material Substances 0.000 claims description 42
- 238000013459 approach Methods 0.000 claims description 23
- 238000009826 distribution Methods 0.000 claims description 12
- 230000008569 process Effects 0.000 claims description 12
- 238000007664 blowing Methods 0.000 claims description 11
- 230000001242 postsynaptic effect Effects 0.000 claims description 11
- 210000005215 presynaptic neuron Anatomy 0.000 claims description 7
- 210000000225 synapse Anatomy 0.000 claims description 7
- 238000012549 training Methods 0.000 claims description 5
- 241000208340 Araliaceae Species 0.000 claims description 4
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 claims description 4
- 235000003140 Panax quinquefolius Nutrition 0.000 claims description 4
- 235000008434 ginseng Nutrition 0.000 claims description 4
- 230000004913 activation Effects 0.000 claims description 3
- 230000035772 mutation Effects 0.000 claims description 3
- 230000007115 recruitment Effects 0.000 claims description 3
- 238000003860 storage Methods 0.000 claims description 3
- 230000004044 response Effects 0.000 claims 1
- 239000000835 fiber Substances 0.000 abstract description 19
- 238000004519 manufacturing process Methods 0.000 abstract description 7
- 239000002243 precursor Substances 0.000 abstract description 6
- 238000012545 processing Methods 0.000 abstract description 5
- 238000005457 optimization Methods 0.000 description 14
- 238000013528 artificial neural network Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 230000003956 synaptic plasticity Effects 0.000 description 6
- 239000004033 plastic Substances 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 3
- 210000003710 cerebral cortex Anatomy 0.000 description 2
- 238000001816 cooling Methods 0.000 description 2
- 238000007380 fibre production Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 210000005036 nerve Anatomy 0.000 description 2
- 210000000653 nervous system Anatomy 0.000 description 2
- 230000007996 neuronal plasticity Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 230000000946 synaptic effect Effects 0.000 description 2
- 229920004933 Terylene® Polymers 0.000 description 1
- 208000027418 Wounds and injury Diseases 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- FFBHFFJDDLITSX-UHFFFAOYSA-N benzyl N-[2-hydroxy-4-(3-oxomorpholin-4-yl)phenyl]carbamate Chemical compound OC1=C(NC(=O)OCC2=CC=CC=C2)C=CC(=C1)N1CCOCC1=O FFBHFFJDDLITSX-UHFFFAOYSA-N 0.000 description 1
- 238000005422 blasting Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000006378 damage Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 150000002148 esters Chemical class 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 208000014674 injury Diseases 0.000 description 1
- 239000007788 liquid Substances 0.000 description 1
- 238000002074 melt spinning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 239000005020 polyethylene terephthalate Substances 0.000 description 1
- 238000006116 polymerization reaction Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000003518 presynaptic effect Effects 0.000 description 1
- 238000010791 quenching Methods 0.000 description 1
- 230000000171 quenching effect Effects 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 210000000697 sensory organ Anatomy 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 239000012209 synthetic fiber Substances 0.000 description 1
- 229920002994 synthetic fiber Polymers 0.000 description 1
- 238000004804 winding Methods 0.000 description 1
- 230000037303 wrinkles Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B19/00—Programme-control systems
- G05B19/02—Programme-control systems electric
- G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
- G05B19/41885—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by modeling, simulation of the manufacturing system
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/32—Operator till task planning
- G05B2219/32339—Object oriented modeling, design, analysis, implementation, simulation language
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Engineering & Computer Science (AREA)
- Manufacturing & Machinery (AREA)
- General Engineering & Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Artificial Filaments (AREA)
Abstract
本发明涉及一种基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法，采集工艺生产过程中t+1时刻的聚酯纺丝工艺参数数据作为网络的输入u(t+1)，通过局部可塑性回声状态网络输入层实现t+1时刻聚酯纺丝工艺参数数据u(t+1)的输入，并经过局部可塑性回声状态网络的储备池状态方程和输出层状态方程计算出下一时刻的预测值，并按该预测值调整聚酯纺丝工艺参数，其中，局部可塑性回声状态网络是指储备池内部不同的神经元通过不同的可塑性规则进行局部优化的可塑性回声状态网络。本发明方法能够进一步提升生产工艺参数的预测精度，进而使预测结果能够更好地指导聚酯纤维纺丝工艺过程，最终提高原丝的产出性能及品质。
Description
技术领域
本发明属人工智能纺丝领域，涉及一种基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法。
背景技术
聚酯纤维(Polyester Fibre，俗称涤纶)因其具有延展性好和抗皱性能佳等优点已经成为了合成纤维领域最具代表性的品种，并被广泛应用在服装和基建等领域。我国作为聚酯纤维的第一大生产国，年产聚酯纤维约3千万吨以上，占到了全球聚酯纤维总产量的70％以上，且市场需求仍在逐年持续增长。
熔融纺丝法是目前聚酯纤维生产的常用方法，由于聚酯纤维的生产制备过程工艺复杂且环节众多，因而对其生产过程中纺丝工艺参数的预测相对较难。聚酯纤维生产过程主要包括聚合、纺丝和后加工三部分，其中原丝的质量是制约聚酯纤维性能提高的直接因素，聚酯纤维原丝质量易受纺丝温度和纺丝速度等生产工艺参数的影响。此外，在聚酯熔体冷却形成原丝的过程中，聚酯纤维原丝质量还易受吹风区的温度和速度影响。因此，对这些工艺参数的预测精度要求很高。目前，能够实现的聚酯纤维的原丝性能与理论上能够达到的性能有很大的差距，因此，对聚酯纤维的生产工艺及其控制系统的研究还有着艰巨的任务。
近年来，神经网络是处理预测问题的常用方法。鉴于纺丝工艺过程的时序性，相较于传统的前馈神经网络，递归神经网络(Recurrent Neural Networks,RNN)在处理时序问题上具有更丰富的动力学记忆特性，然而，传统的RNN算法在实际应用中存在着网络结构设计过于复杂、计算量大、容易陷入局部最优和收敛速度慢等问题。回声状态网络(EchoState Networks,ESN)算法和流体状态机(Liquid State Machines,LSMs)算法在一定程度上弥补了传统RNN算法在应用中的不足。虽然它们提出的角度不同，但其本质都是对传统的RNN算法的改进，统称为储备池计算(Reservoir Computing,RC)。由于LSM的计算能力并没有在解决复杂问题中得到展现，因此，对于RC的研究工作大都是基于ESN展开的，然而ESN的提出虽然简化了网络的训练过程并克服记忆渐消等问题。然而储备池的不可扩展性直接影响了网络的性能，因而，储备池的优化问题有着一定的研究意义。
神经科学的研究表明，大脑皮层中的信息处理过程主要通过大量的神经元及与之连接的突触组成的神经网络完成。目前，神经科学领域的学习和记忆大都是通过储存记忆的突触强度的调整来实现的，突触强度的变化由生物神经系统的突触可塑性机制进行控制，其中，可塑性是大脑皮质回路多功能性和鲁棒性的重要基础，它使大脑能够学习感观输入的规律性，记得过去，并在损伤后恢复功能。
近年来，神经的可塑性机制成为系统优化中的新的研究热点。例如专利CN105631222A开发了一款前馈神经网络下基于FPGA的STDP突触可塑性实验平台，该实验平台包括有相互连接的FPGA开发板和上位机，以FPGA为下位机，配助以人机操作界面进行突触强度连接变化波形和动力学特性观测与参数整定，通过突触可塑性部分的硬件建模，有效的提高了平台的稳定性；专利CN106981567A提出了一种基于光电耦合忆阻器的人工突触器件及其调制方法，该发明提供的人工突触器件在电信号之外引入光作为另一端调控信号，将二端人工突触器件的调控端扩至三端，通过对光学激励信号强度、频率及光脉冲时间的选择调控，能够将该人工突触器件配置到相应的多个阻态，相应实现多种突触可塑性功能；专利CN106164940A提出了在尖峰神经网络中通过全局标量值来调制可塑性，神经科学领域已经积累了多种有关神经可塑性系统优化的生理实验和生物机理的建模工作。研究表明，记忆主要存储于突触之间，其强度的改变由神经系统的突触可塑性控制，简而言之，神经科学领域中的突触可塑性对应了机器学习领域人工神经网络的权重训练算法。然而，目前机器学习领域神经可塑性的系统优化，仍局限在某种单一可塑性规则下的全局优化，如STDP规则、Oja规则或Anti-Oja规则等，通过局部可塑性规则系统优化的相关研究仍局限在神经科学领域。
因此，研究一种基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法具有十分重要的意义。
发明内容
本发明的目的是克服上述现有技术中存在的问题，提供一种基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法。本发明提出一种基于局部可塑性规则的ESN模型，并将其应用于对聚酯纤维纺丝过程工艺参数的预测，从而进一步提升了生产工艺参数的预测精度，进而使预测结果能够更好地指导聚酯纤维纺丝工艺过程，最终提高原丝的产出性能及品质。
为了达到上述目的，本发明采用的技术方案为：
基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法，采集工艺生产过程中t+1时刻的聚酯纺丝工艺参数数据作为网络的输入u(t+1)，通过局部可塑性回声状态网络输入层实现t+1时刻聚酯纺丝工艺参数数据u(t+1)的输入，并经过局部可塑性回声状态网络的储备池状态方程和输出层状态方程计算出下一时刻的预测值，并按该预测值调整聚酯纺丝工艺参数；
所述局部可塑性回声状态网络是指储备池内部不同的神经元通过不同的可塑性规则进行局部优化的可塑性回声状态网络，通过局部可塑性规则可以进一步提高对输入数据的适应性，从而进一步提升网络性能；
所述不同的可塑性规则是指通过不同学习率参数构建的局部Oja规则或通过不同学习率参数构建的局部Anti-Oja规则；其中，通过不同学习率参数构建的局部Oja规则或通过不同学习率参数构建的局部Anti-Oja规则中表示在从t时刻到t+1时刻的权重变化的调整项ΔWres ji(t)为：
ΔWres ji(t)＝ηjxj(t)[xi(t)-xj(t)Wres ji(t)]；
xi(t)和xj(t)分别表示在t时刻储备池内部的突触前神经元i和突触后神经元j的响应状态，i和j取值范围在[1,n]之间，n为储备池个数，Wres ji(t)表示在t时刻从突触前神经元i连向突触后神经元j的突触权重，学习率参数为学习率的集合，记为{η1,η2,...,ηj,...ηn}，ηj为突触后神经元j对应的学习率，学习率参数通过进化算法实现网络的迭代寻优。
作为优选的技术方案：
如上所述的控制方法，所述进化算法为CMA_ES算法，CMA_ES算法实现对局部可塑性回声状态网络中学习率参数的迭代寻优过程如下：
(1)初始化；
首先根据学习率参数寻优问题对CMA_ES算法的策略参数进行初始化，策略参数包括步长δ、协方差矩阵C和学习率参数的均值m，初始步长、初始协方差矩阵和初始学习率参数的均值分别为δ(0)、C(0)和m(0)；
通过初始化的策略参数生成初始学习率参数，通过初始学习率参数构建局部可塑性回声状态网络Ⅰ；
(2)令g＝0，g为种群更新的代数；
(3)突变；
根据策略参数生成种群，种群按照下述公式进行更新：
式中，为突变后的第g+1代种群中的第k个个体，即一个n维的学习率参数，k∈[1,λ]，λ为第g代种群的种群大小，m(g)为第g代种群的学习率参数的均值，δ(g)为第g代分布的步长，C(g)为第g代分布的协方差矩阵；
(4)竞争与选择；
CMA_ES算法采用竞争和选择策略中的(μ,λ)策略通过适应度值选择出最优子群，其过程具体如下：
将第g代分布的λ个个体按适应度值大小排序，竞争选择出适应度值最小的μ个个体，组成第g代最优子群，其中，适应度值为纺丝过程中采集的t+1时刻的聚酯纺丝工艺参数的真实值与预测值Ⅰ之间的均方误差，预测值Ⅰ为最优学习率参数输入局部可塑性回声状态网络Ⅰ得到的预测值，最优学习率参数为上一代最优种群中适应度值最小时所对应的个体；
(5)重组；
通过第g代最优子群中的最优个体更新算法的策略参数，学习率参数的均值m的更新公式如下所示：
式中，m(g+1)为g+1代学习率参数的均值，wb为第b个最优个体所对应的权重，为第g+1代的λ个个体中第b个最优个体，b表示最优种群中的第b个个体，b∈[1,μ]，即下一代的均值为上一代最优子群中个体的加权平均值；
协方差矩阵的更新公式如下所示：
式中，C(g+1)为第g+1代的协方差矩阵，ccov为协方差矩阵的学习率，μcov为权重更新参数，pc (g+1)为第g+1代协方差矩阵的进化路径，pc (g+1)按下述所示公式更新：
式中，为第g代协方差矩阵的进化路径，当g＝0时，第0代协方差矩阵的进化路径的取值为0，ap为协方差矩阵进化路径的学习率，ap≤1；
步长δ的更新公式如下所示：
式中，ds为阻尼系数，E||N(0,I)||为欧几里得范式||N(0,I)||的期望，N(0,I)为一个均值为0，协方差矩阵为I的多维正态分布，I代表单位矩阵，as为共轭进化路径的参数，为第g+1代步长的进化路径，按下述所示公式更新：
式中，为第g代步长的进化路径，当g＝0时，第0代步长的进化路径的取值为0；
(6)判断是否满足终止迭代条件：g大于等于50代，如果是，则进入步骤(7)，反之，令g＝g+1，返回步骤(3)；
(7)输出最后一代适应度值最小时所对应的个体即为得到的迭代寻优后的学习率参数。
如上所述的控制方法，所述聚酯纺丝工艺参数为纺丝温度、纺丝速度、吹风温度或吹风速度，单位分别为℃、m/s、℃和m/s。
如上所述的控制方法，所述通过不同学习率参数构建的局部Oja规则为：
Wres ji(t+1)＝Wres ji(t)+ΔWres ji(t)；
ΔWres ji(t)＝ηjxj(t)[xi(t)-xj(t)Wres ji(t)]；
所述通过不同学习率参数构建的局部Anti-Oja规则为：
Wres ji(t+1)＝Wres ji(t)-ΔWres ji(t)；
ΔWres ji(t)＝ηjxj(t)[xi(t)-xj(t)Wres ji(t)]；
式中，Wres ji(t+1)表示在t+1时刻从突触前神经元i连向突触后神经元j的突触权重。
如上所述的控制方法，所述储备池状态方程为：
x(t+1)＝sigmoid(Winu(t+1)+Wresx(t))；
式中，Win和Wres分别为t+1时刻输入层与储备池的连接权值和储备池内部的连接权值，sigmoid为储备池单元的激活函数，x(t+1)为在t+1时刻的储备池状态，x(t)为在t时刻的储备池状态；
网络输出权重Wout的计算是通过最小二乘法完成：
Wout＝(XTX)-1X·Y；
式中，X＝[x(1),x(2),...,x(t+1)]为网络训练阶段记录下的每一时刻的储备池状态量矩阵，x(1),x(2),...,x(t+1)分别为在第1时刻、第2时刻、...第t+1时刻的储备池状态，同理，Y＝[ylabel(1),ylabel(2),...,ylabel(t+1)]为在第1时刻、第2时刻、...第t+1时刻的标签矩阵，ylabel(1),ylabel(2),...,ylabel(t+1)分别为在第1时刻、第2时刻、...第t+1时刻采集的聚酯纺丝工艺参数的真实值；
所述输出层状态方程为：
y(t+1)＝Woutx(t+1)；
y(t+1)即为计算出的下一时刻的预测值。
如上所述的控制方法，储备池个数n为300～1000。
有益效果：
相较于现有的储备池的全局可塑性优化，本发明的基于局部可塑性回声状态网络的储备池内部不同的神经元采用不同的可塑性规则，局部可塑性规则能够进一步提高储备池的可扩展性，从而进一步提升生产工艺参数的预测精度，进而使预测结果能够更好地指导聚酯纤维纺丝工艺过程，最终提高原丝的产出性能及品质。
附图说明
图1为初始化过程中构建的局部可塑性回声状态网络Ⅰ的结构示意图；
图2为本发明的通过不同的可塑性规则进行局部优化的局部可塑性回声状态网络的结构示意图；
图3为聚酯纤维纺丝过程示意图；
图4为吹风温度在局部Anti-Oja规则下的可塑性回声状态网络的优化过程；
图5为吹风温度在局部Oja规则下的可塑性回声状态网络的优化过程。
具体实施方式
下面结合具体实施方式，进一步阐述本发明。应理解，这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，这些等价形式同样落于本申请所附权利要求书所限定的范围。
一种基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法，其步骤如下：
(1)通过CMA_ES算法对学习率参数进行迭代寻优；
(1.1)初始化；
首先根据学习率参数寻优问题对CMA_ES算法的策略参数进行初始化，策略参数包括步长δ、协方差矩阵C和学习率参数的均值m，初始步长、初始协方差矩阵和初始学习率参数的均值分别为δ(0)、C(0)和m(0)；
通过初始化的策略参数生成初始学习率参数，通过初始学习率参数构建局部可塑性回声状态网络Ⅰ，其结构示意图如图1所示，从图1中可以看出，局部可塑性回声状态网络Ⅰ具有三层网络结构，即输入层、储备池及输出层，且局部可塑性回声状态网络Ⅰ是储备池内部不同的神经元通过相同的可塑性规则进行全局优化的可塑性回声状态网络；
(1.2)令g＝0，g为种群更新的代数；
(1.3)突变；
根据策略参数生成种群，种群按照下述公式进行更新：
式中，为突变后的第g+1代种群中的第k个个体，即一个n维的学习率参数，k∈[1,λ]，λ为第g代种群的种群大小，m(g)为第g代种群的学习率参数的均值，δ(g)为第g代分布的步长，C(g)为第g代分布的协方差矩阵；
(1.4)竞争与选择；
CMA_ES算法采用竞争和选择策略中的(μ,λ)策略通过适应度值选择出最优子群，其过程具体如下：
将第g代分布的λ个个体按适应度值大小排序，竞争选择出适应度值最小的μ个个体，组成第g代最优子群，其中，适应度值为纺丝过程中采集的t+1时刻的聚酯纺丝工艺参数的真实值与预测值Ⅰ之间的均方误差，预测值Ⅰ为最优学习率参数输入局部可塑性回声状态网络Ⅰ得到的预测值，最优学习率参数为上一代最优种群中适应度值最小时所对应的个体；
(1.5)重组；
通过第g代最优子群中的最优个体更新算法的策略参数，学习率参数的均值m的更新公式如下所示：
式中，m(g+1)为g+1代学习率参数的均值，wb为第b个最优个体所对应的权重，为第g+1代的λ个个体中第b个最优个体，b表示最优种群中的第b个个体，b∈[1,μ]，即下一代的均值为上一代最优子群中个体的加权平均值；
协方差矩阵的更新公式如下所示：
式中，C(g+1)为第g+1代的协方差矩阵，ccov为协方差矩阵的学习率，μcov为权重更新参数，pc(g+1)为第g+1代协方差矩阵的进化路径，pc(g+1)按下述所示公式更新：
式中，为第g代协方差矩阵的进化路径，当g＝0时，第0代协方差矩阵的进化路径的取值为0，ap为协方差矩阵进化路径的学习率，ap≤1；
步长δ的更新公式如下所示：
式中，ds为阻尼系数，E||N(0,I)||为欧几里得范式||N(0,I)||的期望，N(0,I)为一个均值为0，协方差矩阵为I的多维正态分布，I代表单位矩阵，as为共轭进化路径的参数，为第g+1代步长的进化路径，按下述所示公式更新：
式中，为第g代步长的进化路径，当g＝0时，第0代步长的进化路径的取值为0；
(1.6)判断是否满足终止迭代条件：g大于等于50代，如果是，则进入步骤(1.7)，反之，令g＝g+1，返回步骤(1.3)；
(1.7)输出最后一代适应度值最小时所对应的个体即为得到的迭代寻优后的学习率参数；
(2)通过不同的学习率参数构建局部Oja规则或局部Anti-Oja规则，通过不同的学习率参数构建的局部Oja规则为：
Wres ji(t+1)＝Wres ji(t)+ΔWres ji(t)；
ΔWres ji(t)＝ηjxj(t)[xi(t)-xj(t)Wres ji(t)]；
通过不同学习率参数构建的局部Anti-Oja规则为：
Wres ji(t+1)＝Wres ji(t)-ΔWres ji(t)；
ΔWres ji(t)＝ηjxj(t)[xi(t)-xj(t)Wres ji(t)]；
式中，Wres ji(t+1)表示在t+1时刻从突触前神经元i连向突触后神经元j的突触权重，Wres ji(t)表示在t时刻从突触前神经元i连向突触后神经元j的突触权重，ΔWres ji(t)为在从t时刻到t+1时刻的权重变化的调整项，xi(t)和xj(t)分别表示在t时刻储备池内部的突触前神经元i和突触后神经元j的响应状态，i和j取值范围在[1,n]之间，n为储备池个数，储备池个数n为300～1000，学习率参数为学习率的集合，记为{η1,η2,...,ηj,...ηn}，ηj为突触后神经元j对应的学习率；
(3)通过不同的可塑性规则对局部可塑性回声状态网络Ⅰ进行局部优化，通过不同的可塑性规则进行局部优化的局部可塑性回声状态网络的结构示意图如图2所示，从图2中可以看出，与图1相比，在图2中的局部可塑性回声状态网络为储备池内部不同的神经元通过不同的可塑性规则进行局部优化的可塑性回声状态网络；
(4)采集工艺生产过程中t+1时刻的聚酯纺丝工艺参数数据作为网络的输入u(t+1)，通过局部可塑性回声状态网络输入层实现t+1时刻聚酯纺丝工艺参数数据u(t+1)的输入，其中，聚酯纺丝工艺参数为纺丝温度、纺丝速度、吹风温度或吹风速度，单位分别为℃、m/s、℃和m/s；
(5)局部可塑性回声状态网络的储备池状态方程和输出层状态方程计算出下一时刻的预测值，其中，储备池状态方程为：
x(t+1)＝sigmoid(Winu(t+1)+Wresx(t))；
式中，Win和Wres分别为t+1时刻输入层与储备池的连接权值和储备池内部的连接权值，sigmoid为储备池单元的激活函数，x(t+1)为在t+1时刻的储备池状态，x(t)为在t时刻的储备池状态；
网络输出权重Wout的计算是通过最小二乘法完成：
Wout＝(XTX)-1X·Y；
式中，X＝[x(1),x(2),...,x(t+1)]为网络训练阶段记录下的每一时刻的储备池状态量矩阵，x(1),x(2),...,x(t+1)分别为在第1时刻、第2时刻、...第t+1时刻的储备池状态，Y＝[ylabel(1),ylabel(2),...,ylabel(t+1)]为在第1时刻、第2时刻、...第t+1时刻的标签矩阵，ylabel(1),ylabel(2),...,ylabel(t+1)分别为第1时刻、第2时刻、...第t+1时刻采集的聚酯纺丝工艺参数的真实值；
输出层状态方程为：
y(t+1)＝Woutx(t+1)；
y(t+1)即为计算出的下一时刻的预测值。
实施例1
一种基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法，按照前述步骤运行：
初始步长δ(0)为3*10-6和学习率参数的初始均值m(0)为设定为10-5，种群大小设定为20个，储备池内部神经元个数的设定为300，因此，种群中每个个体的维度为300维，即300个学习率，局部可塑性回声状态网络Ⅰ主要包括各层神经元的个数及初始权重、储备池稀疏度和谱半径，其中，输入层神经元个数设定为15，输出层神经元个数设定为1，预测时间为单步预测，输入层与储备池之间的初始权重通过标准正态分布随机产生并进行0.05倍的缩放，储备池之间的初始权重也是通过标准正态分布产生，为了保证网络模型的回声特性，储备池的初始权重也进行缩放，迭代次数为50代；
聚酯纤维纺丝过程示意图如图3所示，聚酯纤维熔体经喷丝板计量挤出丝束，进而经过吹风区冷却，最后经卷绕棍卷绕成形，采集的聚酯纺丝工艺参数为聚酯纤维纺丝过程中吹风冷却过程中的吹风温度，吹风温度是指在聚酯熔体冷却成型的过程中，对其施加的环吹风或侧吹风这两种冷却操作下的温度，吹风温度在构建的局部Anti-Oja规则下对初始局部可塑性回声状态网络模型的优化过程如图4所示，通过50代进化寻优后，局部Anti-Oja可塑性优化的ESN比全局Anti-Oja可塑性优化的ESN具有更低的预测误差，验证了局部Anti-Oja可塑性的有效性。
实施例2
一种基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法，基本步骤同实施例1，不同之处在于，步骤(2)中构建的可塑性规则为局部Oja规则，其中吹风温度在构建的局部Oja规则下对初始局部可塑性回声状态网络模型的优化过程如图5所示，通过50代进化寻优后，局部Oja可塑性优化的ESN比全局Oja可塑性优化的ESN具有更低的预测误差，验证了局部Oja可塑性的有效性。
Claims (5)
1.基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法，其特征是：采集工艺生产过程中t+1时刻的聚酯纺丝工艺参数数据作为网络的输入u(t+1)，通过局部可塑性回声状态网络输入层实现t+1时刻聚酯纺丝工艺参数数据u(t+1)的输入，并经过局部可塑性回声状态网络的储备池状态方程和输出层状态方程计算出下一时刻的预测值，并按该预测值调整聚酯纺丝工艺参数；
所述局部可塑性回声状态网络是指储备池内部不同的神经元通过不同的可塑性规则进行局部优化的可塑性回声状态网络；
所述不同的可塑性规则是指通过不同学习率参数构建的局部Oja规则或通过不同学习率参数构建的局部Anti-Oja规则；
所述通过不同学习率参数构建的局部Oja规则为：
Wres ji(t+1)＝Wres ji(t)+ΔWres ji(t)；
ΔWres ji(t)＝ηjxj(t)[xi(t)-xj(t)Wres ji(t)]；
所述通过不同学习率参数构建的局部Anti-Oja规则为：
Wres ji(t+1)＝Wres ji(t)-ΔWres ji(t)；
ΔWres ji(t)＝ηjxj(t)[xi(t)-xj(t)Wres ji(t)]；
式中，Wres ji(t+1)表示在t+1时刻从突触前神经元i连向突触后神经元j的突触权重；
其中，通过不同学习率参数构建的局部Oja规则或通过不同学习率参数构建的局部Anti-Oja规则中表示在从t时刻到t+1时刻的权重变化的调整项ΔWres ji(t)为：
ΔWres ji(t)＝ηjxj(t)[xi(t)-xj(t)Wres ji(t)]；
xi(t)和xj(t)分别表示在t时刻储备池内部的突触前神经元i和突触后神经元j的响应状态，i和j取值范围在[1,n]之间，n为储备池个数，Wres ji(t)表示在t时刻从突触前神经元i连向突触后神经元j的突触权重，学习率参数为学习率的集合，记为{η1,η2,...,ηj,...ηn}，ηj为突触后神经元j对应的学习率，学习率参数通过进化算法实现网络的迭代寻优；
所述进化算法为CMA_ES算法。
2.根据权利要求1所述的控制方法，其特征在于，CMA_ES算法实现对局部可塑性回声状态网络中学习率参数的迭代寻优过程如下：
(1)初始化；
对CMA_ES算法的策略参数进行初始化，策略参数包括步长δ、协方差矩阵C和学习率参数的均值m，初始步长、初始协方差矩阵和初始学习率参数的均值分别为δ(0)、C(0)和m(0)；
通过初始化的策略参数生成初始学习率参数，通过初始学习率参数构建局部可塑性回声状态网络Ⅰ；
(2)令g＝0，g为种群更新的代数；
(3)突变；
根据策略参数生成种群，种群按照下述公式进行更新：
式中，为突变后的第g+1代种群中的第k个个体，k∈[1,λ]，λ为第g代种群的种群大小，m(g)为第g代种群的学习率参数的均值，δ(g)为第g代分布的步长，C(g)为第g代分布的协方差矩阵；
(4)竞争与选择；
CMA_ES算法采用竞争和选择策略中的(μ,λ)策略通过适应度值选择出最优子群，其过程具体如下：
将第g代分布的λ个个体按适应度值大小排序，竞争选择出适应度值最小的μ个个体，组成第g代最优子群，其中，适应度值为纺丝过程中采集的t+1时刻的聚酯纺丝工艺参数的真实值与预测值Ⅰ之间的均方误差，预测值Ⅰ为最优学习率参数输入局部可塑性回声状态网络Ⅰ得到的预测值，最优学习率参数为上一代最优种群中适应度值最小时所对应的个体；
(5)重组；
通过第g代最优子群中的最优个体更新算法的策略参数，学习率参数的均值m的更新公式如下所示：
式中，m(g+1)为g+1代学习率参数的均值，wb为第b个最优个体所对应的权重，为第g+1代的λ个个体中第b个最优个体，b表示最优种群中的第b个个体，b∈[1,μ]；
协方差矩阵的更新公式如下所示：
式中，C(g+1)为第g+1代的协方差矩阵，ccov为协方差矩阵的学习率，μcov为权重更新参数，pc (g+1)为第g+1代协方差矩阵的进化路径，pc (g+1)按下述所示公式更新：
式中，为第g代协方差矩阵的进化路径，当g＝0时，第0代协方差矩阵的进化路径的取值为0，ap为协方差矩阵进化路径的学习率，ap≤1；
步长δ的更新公式如下所示：
式中，ds为阻尼系数，E||N(0,I)||为欧几里得范式||N(0,I)||的期望，N(0,I)为一个均值为0，协方差矩阵为I的多维正态分布，I代表单位矩阵，as为共轭进化路径的参数，为第g+1代步长的进化路径，按下述所示公式更新：
式中，为第g代步长的进化路径，当g＝0时，第0代步长的进化路径的取值为0；
(6)判断是否满足终止迭代条件：g大于等于50代，如果是，则进入步骤(7)，反之，令g＝g+1，返回步骤(3)；
(7)输出最后一代适应度值最小时所对应的个体即为得到的迭代寻优后的学习率参数。
3.根据权利要求1所述的控制方法，其特征在于，所述聚酯纺丝工艺参数为纺丝温度、纺丝速度、吹风温度或吹风速度，单位分别为℃、m/s、℃和m/s。
4.根据权利要求1所述的控制方法，其特征在于，所述储备池状态方程为：
x(t+1)＝sigmoid(Winu(t+1)+Wresx(t))；
式中，Win和Wres分别为t+1时刻输入层与储备池的连接权值和储备池内部的连接权值，sigmoid为储备池单元的激活函数，x(t+1)为在t+1时刻的储备池状态，x(t)为在t时刻的储备池状态；
网络输出权重Wout的计算是通过最小二乘法完成：
Wout＝(XTX)-1X·Y；
式中，X＝[x(1),x(2),...,x(t+1)]为网络训练阶段记录下的每一时刻的储备池状态量矩阵，x(1),x(2),...,x(t+1)分别为在第1时刻、第2时刻、...第t+1时刻的储备池状态，Y＝[ylabel(1),ylabel(2),...,ylabel(t+1)]为在第1时刻、第2时刻、...第t+1时刻的标签矩阵，ylabel(1),ylabel(2),...,ylabel(t+1)分别为在第1时刻、第2时刻、...第t+1时刻采集的聚酯纺丝工艺参数的真实值；
所述输出层状态方程为：
y(t+1)＝Woutx(t+1)；
y(t+1)即为计算出的下一时刻的预测值。
5.根据权利要求1所述的控制方法，其特征在于，储备池个数n为300～1000。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810113836.0A CN108388213B (zh) | 2018-02-05 | 2018-02-05 | 基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810113836.0A CN108388213B (zh) | 2018-02-05 | 2018-02-05 | 基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN108388213A CN108388213A (zh) | 2018-08-10 |
| CN108388213B true CN108388213B (zh) | 2019-11-08 |
Family
ID=63075034
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810113836.0A Expired - Fee Related CN108388213B (zh) | 2018-02-05 | 2018-02-05 | 基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108388213B (zh) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109462821B (zh) * | 2018-11-19 | 2021-07-30 | 东软集团股份有限公司 | 预测位置的方法、装置、存储介质及电子设备 |
| CN110531727B (zh) * | 2019-01-11 | 2020-12-18 | 东华大学 | 一种聚酯纤维生产制造全流程的多级优化控制方法 |
| CN111553415B (zh) * | 2020-04-28 | 2022-11-15 | 宁波工程学院 | 一种基于忆阻器的esn神经网络图像分类处理方法 |
| CN111709140B (zh) * | 2020-06-18 | 2023-06-27 | 上海海事大学 | 一种基于内在可塑性回声状态网络的船舶运动预报方法 |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101216436A (zh) * | 2008-01-03 | 2008-07-09 | 东华大学 | 一种基于支持向量数据描述理论的织物瑕疵自动检测方法 |
| CN101390100A (zh) * | 2005-12-28 | 2009-03-18 | 神经科学研究基金会 | 具有用于预示性运动神经控制的小脑模型的基于脑的设备 |
| CN101782771A (zh) * | 2010-03-17 | 2010-07-21 | 东华大学 | 基于免疫神经网络的纺丝工艺智能优化设计方法 |
| CN102784414A (zh) * | 2012-08-02 | 2012-11-21 | 东华大学 | 一种可用于组织工程的可注射性双交联水凝胶的制备方法 |
| CN103702413A (zh) * | 2013-12-09 | 2014-04-02 | 湖北楚骥科技有限公司 | 基于Zigbee网络的室内摄像头实时跟随定位系统 |
| CN103781108A (zh) * | 2012-10-23 | 2014-05-07 | 伍爵博 | 一种基于神经网络的无线传感器网络数据预测方法 |
| CN105315061A (zh) * | 2014-07-31 | 2016-02-10 | 沣田宝农业科技有限公司 | 中、微量营养元素螯合集成装备 |
| CN106164940A (zh) * | 2014-04-08 | 2016-11-23 | 高通股份有限公司 | 在尖峰神经网络中通过全局标量值来调制可塑性 |
| CN106254330A (zh) * | 2016-07-29 | 2016-12-21 | 中国电子科技集团公司第五十四研究所 | 一种基于bp神经网络的软件定义网络入侵检测方法 |
| CN106446315A (zh) * | 2016-05-12 | 2017-02-22 | 东华大学 | 涤纶纤维纺丝过程中性能指标的预测方法 |
| CN107180375A (zh) * | 2017-05-04 | 2017-09-19 | 东华大学 | 一种基于多层神经网络的服装号型推荐系统 |
| CN107400935A (zh) * | 2017-08-23 | 2017-11-28 | 东华大学 | 基于改进elm的熔融纺丝工艺的调节方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10248907B2 (en) * | 2015-10-20 | 2019-04-02 | International Business Machines Corporation | Resistive processing unit |
-
2018
- 2018-02-05 CN CN201810113836.0A patent/CN108388213B/zh not_active Expired - Fee Related
Patent Citations (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101390100A (zh) * | 2005-12-28 | 2009-03-18 | 神经科学研究基金会 | 具有用于预示性运动神经控制的小脑模型的基于脑的设备 |
| CN101216436A (zh) * | 2008-01-03 | 2008-07-09 | 东华大学 | 一种基于支持向量数据描述理论的织物瑕疵自动检测方法 |
| CN101782771A (zh) * | 2010-03-17 | 2010-07-21 | 东华大学 | 基于免疫神经网络的纺丝工艺智能优化设计方法 |
| CN101782771B (zh) * | 2010-03-17 | 2011-12-14 | 东华大学 | 基于免疫神经网络的纺丝工艺智能优化设计方法 |
| CN102784414A (zh) * | 2012-08-02 | 2012-11-21 | 东华大学 | 一种可用于组织工程的可注射性双交联水凝胶的制备方法 |
| CN103781108A (zh) * | 2012-10-23 | 2014-05-07 | 伍爵博 | 一种基于神经网络的无线传感器网络数据预测方法 |
| CN103702413A (zh) * | 2013-12-09 | 2014-04-02 | 湖北楚骥科技有限公司 | 基于Zigbee网络的室内摄像头实时跟随定位系统 |
| CN103702413B (zh) * | 2013-12-09 | 2017-01-25 | 湖北楚骥科技有限公司 | 基于Zigbee网络的室内摄像头实时跟随定位系统 |
| CN106164940A (zh) * | 2014-04-08 | 2016-11-23 | 高通股份有限公司 | 在尖峰神经网络中通过全局标量值来调制可塑性 |
| CN105315061A (zh) * | 2014-07-31 | 2016-02-10 | 沣田宝农业科技有限公司 | 中、微量营养元素螯合集成装备 |
| CN106446315A (zh) * | 2016-05-12 | 2017-02-22 | 东华大学 | 涤纶纤维纺丝过程中性能指标的预测方法 |
| CN106254330A (zh) * | 2016-07-29 | 2016-12-21 | 中国电子科技集团公司第五十四研究所 | 一种基于bp神经网络的软件定义网络入侵检测方法 |
| CN107180375A (zh) * | 2017-05-04 | 2017-09-19 | 东华大学 | 一种基于多层神经网络的服装号型推荐系统 |
| CN107400935A (zh) * | 2017-08-23 | 2017-11-28 | 东华大学 | 基于改进elm的熔融纺丝工艺的调节方法 |
Non-Patent Citations (4)
| Title |
|---|
| "Reducing the Time Complexity of the Derandomized Evolution Strategy with Covariance Matrix Adaptation CMA_ES";Hansen;《The MIT Press Journals》;20140930;第1-18页 * |
| "一种改进的基于STDP规则的SOM脉冲神经网络";王蕾;《东北师范大学报》;20170930;第52-56页 * |
| "基于回声状态网络的化工过程故障诊断方法研究";朱其斯;《中国优秀硕士学位论文全文数据库 工程科技I辑》;20170315;第B015-235 * |
| "基于混合智能学习法神经网络理论及其应用的研究";李享梅;《中国优秀硕士学位论文全文数据库 信息科技辑》;20040315;第I140-76 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN108388213A (zh) | 2018-08-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108388213B (zh) | 基于局部可塑性回声状态网络的聚酯纺丝工艺控制方法 | |
| Fielding et al. | Evolving image classification architectures with enhanced particle swarm optimisation | |
| CN109063911A (zh) | 一种基于门控循环单元网络的负荷聚合体分组预测方法 | |
| Zhang et al. | Dynamic multi-role adaptive collaborative ant colony optimization for robot path planning | |
| CN103971160B (zh) | 基于复杂网络的粒子群优化方法 | |
| CN109829587A (zh) | 基于深度lstm网络的小区域级超短期负荷预测及可视化方法 | |
| CN110111848A (zh) | 一种基于rnn-cnn神经网络融合算法的人体周期表达基因识别方法 | |
| CN107657243A (zh) | 基于遗传算法优化的神经网络雷达一维距离像目标识别方法 | |
| CN107480815A (zh) | 一种电力系统台区负荷预测方法 | |
| CN109766989B (zh) | 一种聚酯纤维生产过程工艺参数的智能配置方法 | |
| CN109472397A (zh) | 基于粘度变化的聚合工艺参数调节方法 | |
| CN110197251A (zh) | 基于深度学习网络的预测方法、装置、设备及存储介质 | |
| CN107400935A (zh) | 基于改进elm的熔融纺丝工艺的调节方法 | |
| CN109934422A (zh) | 一种基于时间序列数据分析的神经网络风速预测方法 | |
| CN111105077B (zh) | 一种基于变异萤火虫算法的含dg配电网重构方法 | |
| CN110032069B (zh) | 一种基于误差补偿的聚酯纤维纺丝工序分段参数配置方法 | |
| CN108985323A (zh) | 一种光伏功率的短期预测方法 | |
| CN108977897B (zh) | 基于局部内在可塑性回声状态网络的熔纺工艺控制方法 | |
| CN110263380B (zh) | 一种纺丝工序级联建模分段区间参数配置方法 | |
| CN113239211A (zh) | 一种基于课程学习的强化学习知识图谱推理方法 | |
| CN108520986A (zh) | 一种基于生成对抗网络的动力电池配组方法 | |
| CN108891421A (zh) | 一种构建驾驶策略的方法 | |
| Wu et al. | Prediction of GDP in time series data based on neural network model | |
| CN113328435A (zh) | 一种基于强化学习的主动配电网有功无功联合控制方法 | |
| Feng | A self-tuning fuzzy control system design |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20191108 Termination date: 20220205 |
|
| CF01 | Termination of patent right due to non-payment of annual fee |