CN107169559A - 一种求解多重定积分的对偶神经网络方法 - Google Patents

一种求解多重定积分的对偶神经网络方法 Download PDF

Info

Publication number
CN107169559A
CN107169559A CN201710306271.3A CN201710306271A CN107169559A CN 107169559 A CN107169559 A CN 107169559A CN 201710306271 A CN201710306271 A CN 201710306271A CN 107169559 A CN107169559 A CN 107169559A
Authority
CN
China
Prior art keywords
neutral net
netb
integrand
network
neural network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710306271.3A
Other languages
English (en)
Inventor
李海滨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Inner Mongolia University of Technology
Original Assignee
Inner Mongolia University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Inner Mongolia University of Technology filed Critical Inner Mongolia University of Technology
Priority to CN201710306271.3A priority Critical patent/CN107169559A/zh
Publication of CN107169559A publication Critical patent/CN107169559A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Complex Calculations (AREA)

Abstract

本发明公开了一种求解多重定积分的对偶神经网络方法。利用两个拓扑结构完全相同的三层前向型神经网络在权值、激活函数间的特定关联性，使得一个神经网络A在学习逼近积分被积函数的同时，在神经网络B上实现被积函数原函数的函数映射关系。在此基础上，通过反复应用上述一重对偶神经网络方法，给出了对任意给定积分上下限表达式的多重定积分的计算方法及其计算流程图。通过几个典型的一重、二重定积分求解问题，验证了本文方法是一种高效、高精度数值积分计算方法。通过探讨激活函数类型、神经网络误差函数的取值、训练样本点间隔对计算精度和效率的影响关系，为算法实施提供了有益借鉴，可为求解含有积分算式的工程问题提供强有力的计算手段。

Description

一种求解多重定积分的对偶神经网络方法
技术领域
本发明属于工程结构分析中的智能计算技术领域，尤其涉及一种多重定积分求解的神经网络计算方法。
背景技术
在结构可靠度计算、动力学分析、现代控制工程等研究领域中经常会遇到计算积分值的问题。由于通常无法找到解析解或被积函数只能以数据的形式给出，要面临数值积分的问题。目前已有newton-cotes法、 romberg方法、gauss法等数值积分计算方法，但是对于积分区域不规则的多维积分问题，利用上述方法将难以给出有效的解答。针对此问题人们提出了基于MonteCarlo法的积分计算方法。通过大量的计算和统计分析可以获得高精度的计算结果，但是计算量大是制约该方法发展与实际应用的主要问题。文献[1]提出了一种基于神经网络的计算方法。其基本思想是训练傅立叶基神经网络来逼近被积函数，再对所得傅立叶基函数进行积分以实现定积分问题的数值计算。算例仿真表明了该法的有效性，但是该方法没有在求解多重定积分问题上取得进展。文献[2]给出了一种基于对偶神经网络的积分计算方法。该方法成功解决了一重定积分和积分域为超立方体的多重定积分的计算问题，但是对于任意积分域的多重定积分问题却没有有效的解决方案。
发明内容
本发明的发明目的是：针对上述问题，将在文献[2]给出方法的基础上，提出一种通过反复使用一重对偶神经网络方法进行求解以达到对任意积分域多重定积分的求解。
本发明的技术方案是：一种求解多重定积分的对偶神经网络方法，包括以下步骤：
S1首先给出一重积分对偶神经网络方法。
一个对偶神经网络包括A、B共2个前向型BP神经网络。其中，神经网络A用于学习积分算式中的被积函数，另一个神经网络B，会通过与神经网络A在权值和激活函数上的特定联系，由神经网络A来确定，用于构建积分被积函数的原函数。神经网络B的结构框图如图1所示，网络输出与输入变量间的函数关系如式(1)。
图1中的g(x)为网络的隐层单元激活函数。
将式(1)写成更一般的函数形式Y＝NETB(x1，x2，…，xn)。
对偶神经网络中的另一个神经网络A的结构框图如图2所示，其网络输出与输入变量间的函数关系可写为式(2)。
图2中的h(x)为隐层单元激活函数。
将上述式(2)写成一般函数形式为y＝NETA(x1，x2，…，xn)。上述NETA(x1，x2，…，xn)、 NETB(x1，x2，…，xn)均为具有n个自变量的多元函数。
以下给出证明，当网络权值系数、激活函数满足式(3)时，对偶神经网络A和B的网络函数关系为积分被积函数与积分原函数关系。
将式(3)带入式(4)可得：
根据牛顿-莱布尼兹公式定义可知，函数NETB(x1，x2，…，xn)是函数NETA(x1，x2，…，xn)的原函数，即有下式成立。
称神经网络A与神经网络B为一对对偶神经网络，简称对偶神经网络。
其中，
表1给出了在对偶神经网络A、B中满足条件式(3)的隐层单元激活函数。
表1对偶神经网络激活函数表
S2、利用一重积分对偶神经网络方法给出任意积分上、下限多重定积分计算方法。
S21、首先构建一个神经网络A1用于学习被积函数f(x1，x2，…，xn)，利用对偶神经网络方法得到另一个神经网络B1，用神经网络B1的输入输出函数关系NETB1(x1，x2，…，xn)来近似被积函数f(x1，x2，…，xn)的原函数F(x1，x2，…，xn)，即可实现对x1变量的不定积分；
S22、在网络B1的输入输出函数关系NETB1(x1，x2，…，xn)的变量x1处代入积分上下限b1(x2，…，xn)和 a1(x2，…，xn)形成一个新的被积函数NETB1(b1(x2，…，xn)，x2，…，xn)-NETB1(a1(x2，…，xn)，x2，…，xn)，然后利用神经网络A2学习上述新得到的被积函数，再利用对偶神经网络方法构建其原函数NETB2(x2，x3，…，xn)；
S23、以此类推，神经网络Ai用于学习被积函数 NETBi-1(bi(xi，…，xn)，xi，…，xn)-NETBi-1(ai(xi，…，xn)，xi，…，xn)，另一个神经网络Bi用来构建被积函数的原函数，直到神经网络An用于学习被积函数NETBn-1(bn(xn)，xn)-NETBn-1(an(xn)，xn)，另一个神经网络Bn用来构建被积函数的原函数NETBn(xn)，根据定积分计算原理，NETBn(bn)-NETBn(an)即为定积分问题的神经网络解。
本发明的优点是：本发明的一种求解多重定积分的对偶神经网络方法，利用一种新颖的求解被积函数原函数的对偶神经网络计算原理，给出了任意积分上下限的多重定积分的数值计算，实现了多重定积分的高精度求解。本发明方法是一种不受积分重数限制的数值积分算法。
附图说明
图1是对偶神经网络中用于构造被积函数原函数的神经网络B的结构框图
图2是对偶神经网络中用于学习被积函数的神经网络A的结构框图
图3是求解多重定积分的对偶神经网络方法计算流程图
具体实施方式
为了说明本发明的计算效果，下面以两个算例加以示范。
算例1
标准正态分布函数的累计分布函数的计算
通过本算例，一方面进一步验证本发明的有效性，另外想说明本发明可以同时计算出积分区域内任意积分区间的积分值。
本算例以dlogsig()/logsig()为激活函数对，隐层单元个数设定为20。考虑到标准正态分布函数在[-5 5]以外区域的总概率不足1e-6，可以将[-5 5]设为整个积分域，等间距划分100等份，构造正态分布概率密度函数的样本点集，以此训练被积函数网络A，网络均方误差设定为MSE＝1E-12，最大训练步数设为2000，待网络收敛后，利用被积函数原函数网络B计算x取0～4内40个等分点上的分布函数值，计算结果列于表 1。计算结果表明，在给定点上的神经网络计算值与理论值在小数点后4位均相等。同时可以看出，对偶神经网络，可以通过一次训练网络，可以实现对积分区域内任意积分区间的高精度求解，体现了本方法的高效性。
表1
算例2
本例主要说明对偶神经网络方法在多重积分计算中的应用示范以及考察其求解精度。首先，在x＝1、x＝2、 y＝1、y＝2围成的区域内构建样本数据集。具体为，分别在x∈[12]、y∈[1 2]区间上n等分，将数据交叉构成(n+1)×(n+1)个网格节点作为网络的训练样本集合的输入数据(xi，yj)(i，j＝1，2，...21)，对应的 ti，j＝xixj作为网络输出的样本集合。其次确定对偶神经网络的结构。由问题可知网络的输入为2个单元、网络输出为1个单元，单隐层单元个数初步定为30，网络隐层单元的激活函数选为dlogsig()/logsig()。然后利用样本点集合，按照图3所示计算流程进行求解计算。网络误差分别取不同的值Mse＝1e-8、1e-6，等分数n分别取100、50、20、10、5时，将得到的计算结果列于表2。其中，由于Mse＝1e-8时，除n＝5时，计算误差较大以外，其它情况下的计算结果与理论解一致。而当Mse＝1e-6时即使取相对较密的网格构造样本集合，由于网络误差取值较大而会出现较大的计算误差，此时随着n的取值减小误差会进一步增大，故在表2中没有列出。通过上述分析可知，较高误差设定以及相对较密的网格样本点可以得到精确的计算结果。而网络训练误差较大时，将导致对偶神经网络的计算结果会出现较大计算误差。
表2
参考文献
[1]徐理英，李立军.数值积分的神经网络算法研究.系统仿真学报，2008，20(7)：1922～1924.
[2]Haibin LI，Yun He，Xiaobo Nie.Structural reliability calculationmethod based on the dual neural network and direct integration method[J].Neural Comput&Applic.2017，DOI 10.1007/s00521-016-2554-7.

Claims (3)

1.一种求解多重定积分的对偶神经网络方法，其特征在于，包括以下步骤：
设有如下多重定积分问题：
S1、首先构建一个神经网络A1用于学习被积函数f(x1，x2，…，xn)，利用对偶神经网络方法得到另一个神经网络B1，用神经网络B1的输入输出函数关系NETB1(x1，x2，…，xn)来近似被积函数f(x1，x2，…，xn)的原函数F(x1，x2，…，xn)，即可实现对x1变量的不定积分；
S2、在网络B1的输入输出函数关系NETB1(x1，x2，…，xn)的变量x1处代入积分上下限b1(x2，…，xn)和a1(x2，…，xn)形成一个新的被积函数NETB1(b1(x2，…，xn)，x2，…，xn)-NETB1(a1(x2，…，xn)，x2，…，xn)，然后利用神经网络A2学习上述新得到的被积函数，再利用对偶神经网络方法构建其原函数NETB2(x2，x3，…，xn)；
S3、以此类推，神经网络Ai用于学习被积函数NETBi-1(bi(xi，…，xn)，xi，…，xn)-NETBi-1(ai(xi，…，xn)，xi，…，xn)，另一个神经网络Bi用来构建被积函数的原函数，直到神经网络An用于学习被积函数NETBn-1(bn(xn)，xn)-NETBn-1(an(xn)，xn)，另一个神经网络Bn用来构建被积函数的原函数NETBn(xn)，根据定积分计算原理，NETBn(bn)-NETBn(an)即为定积分问题的神经网络解。
2.如权利要求1所述的求解多重定积分的对偶神经网络方法，其特征在于，一个对偶神经网络包括A、B共2个前向型BP神经网络，其中，神经网络A用于学习积分算式中的被积函数，另一个神经网络B通过与神经网络A在权值和激活函数上的特定联系，由神经网络A来确定，用于构建积分被积函数的原函数。
3.如权利要求2所述的求解多重定积分的对偶神经网络方法，其特征在于，对偶神经网络中的神经网络A和神经网络B在拓扑结构上完全一致，均为多输入单输出、单隐层前向型神经网络，其中神经网络A的激活函数为神经网络B的激活函数为神经网络隐层单元到网络输出权值系数关系为分别为网络A、B中第j个隐层单元到网络输出的连接权值，为网络A中第i个输入单元到第j个隐层单元的连接权值。
CN201710306271.3A 2017-05-04 2017-05-04 一种求解多重定积分的对偶神经网络方法 Pending CN107169559A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710306271.3A CN107169559A (zh) 2017-05-04 2017-05-04 一种求解多重定积分的对偶神经网络方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710306271.3A CN107169559A (zh) 2017-05-04 2017-05-04 一种求解多重定积分的对偶神经网络方法

Publications (1)

Publication Number Publication Date
CN107169559A true CN107169559A (zh) 2017-09-15

Family

ID=59813606

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710306271.3A Pending CN107169559A (zh) 2017-05-04 2017-05-04 一种求解多重定积分的对偶神经网络方法

Country Status (1)

Country Link
CN (1) CN107169559A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109829130A (zh) * 2019-01-29 2019-05-31 武汉轻工大学 二重积分计算方法、装置、终端设备及可读存储介质
CN109947398A (zh) * 2019-03-25 2019-06-28 武汉轻工大学 三重积分求解方法、装置、终端设备及可读存储介质

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109829130A (zh) * 2019-01-29 2019-05-31 武汉轻工大学 二重积分计算方法、装置、终端设备及可读存储介质
CN109947398A (zh) * 2019-03-25 2019-06-28 武汉轻工大学 三重积分求解方法、装置、终端设备及可读存储介质
CN109947398B (zh) * 2019-03-25 2020-12-25 武汉轻工大学 三重积分求解方法、装置、终端设备及可读存储介质

Similar Documents

Publication Publication Date Title
Guo et al. Zhang neural network, Getz–Marsden dynamic system, and discrete-time algorithms for time-varying matrix inversion with application to robots' kinematic control
Li et al. Structural reliability calculation method based on the dual neural network and direct integration method
Dovgilovich et al. High-accuracy finite-difference schemes for solving elastodynamic problems in curvilinear coordinates within multiblock approach
Zhou et al. Complex varying-parameter Zhang neural networks for computing core and core-EP inverse
Ren et al. LMI-based criteria for stability of high-order neural networks with time-varying delay
CN107169559A (zh) 一种求解多重定积分的对偶神经网络方法
Zhou et al. Existence and exponential stability of multiple periodic solutions for a multidirectional associative memory neural network
Kudryashov Painlevé analysis and exact solutions of the fourth-order equation for description of nonlinear waves
Shao et al. Chebyshev tau meshless method based on the integration–differentiation for Biharmonic-type equations on irregular domain
Lakestani et al. Application of the ITEM for the modified dispersive water-wave system
Xu et al. Exponential stability of nonlinear impulsive neutral differential equations with delays
CN105425589A (zh) 提高航天器惯性参数辨识精度的输入信号设计方法
Anderson et al. Fast and scalable computation of shape-morphing nonlinear solutions with application to evolutional neural networks
Huang et al. A data exchange algorithm for one way fluid-structure interaction analysis and its application on high-speed train coupling interface
CN103336876A (zh) 一种基于多智能体的开环配电网潮流仿真方法
Li et al. On Euler preconditioned SHSS iterative method for a class of complex symmetric linear systems
Wang et al. An efficient adaptive mesh redistribution method for a non-linear Dirac equation
CN111339688A (zh) 基于大数据并行算法求解火箭仿真模型时域方程的方法
CN107563103B (zh) 基于局部条件的一致性滤波器设计方法
Liu et al. Neural-networks-based distributed output regulation of multi-agent systems with nonlinear dynamics
CN104968047A (zh) 一种面向移动网络中节点网络距离的预测方法
Ivanov et al. On the equation of fourth order with quadratic nonlinearity
CN106610946A (zh) 改进的基于语义距离求解本体概念语义相似度的计算方法
Shi et al. Set stability of probabilistic time-delay Boolean networks with impulsive effect
Pei et al. Traveling waves of a delayed epidemic model with spatial diffusion

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20170915

WD01 Invention patent application deemed withdrawn after publication