CN107784180A - 一种时变凸二次规划求解器设计方法 - Google Patents
一种时变凸二次规划求解器设计方法 Download PDFInfo
- Publication number
- CN107784180A CN107784180A CN201711114059.3A CN201711114059A CN107784180A CN 107784180 A CN107784180 A CN 107784180A CN 201711114059 A CN201711114059 A CN 201711114059A CN 107784180 A CN107784180 A CN 107784180A
- Authority
- CN
- China
- Prior art keywords
- mrow
- time
- varying
- quadratic programming
- programming problem
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Evolutionary Computation (AREA)
- Geometry (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种时变凸二次规划求解器设计方法,包括如下步骤:通过数学建模建立实际物理系统的时变二次规划标准模型;根据拉格朗日乘数法,二次规划标准型进行最优值求解,获取关于最优解和拉格朗日乘数的偏导数信息;将上述偏导数信息转化为标准时变矩阵形式;根据标准时变矩阵设计误差函数方程;根据误差函数方程和幂型变参递归神经动力学方法,利用单调递增奇激活函数,设计实数域上的时变二次规划问题幂型求解器;通过时变二次规划问题幂型求解器所求得的网络状态解即为所求实际物理系统或数值求解时变二次规划问题的最优解。本发明时变凸二次规划求解器设计方法,具有全局收敛特性,且误差能以超指数的速度收敛到零,极大提高计算速度。
Description
技术领域
本发明专利属于实数域时变二次规划问题求解器的设计方法,特别是涉及一种基于幂型变参递归神经动力学方法。
背景技术
人工神经网络(Artificial Neural Network,即ANN)是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。每个节点(Node)代表一种特定的输出函数,称为激励函数(Activation Function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重(Weight),这相当于人工神经网络的记忆(Memory)。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也是对一种逻辑策略的表达。
二次规划是非线性规划中的一类特殊数学规划问题,在很多方面都有应用,如投资组合、约束最小二乘问题的求解、序列二次规划在非线性优化问题中应用等。在过去的几十年里,二次规划已经成为运筹学、经济数学、管理科学、系统分析和组合优化科学的基本方法。而用新兴的神经动力学方法求解时变二次规划问题,已经成为时下研究的热点问题之一。
在目前已知文献中,最接近于解决二次规划问题的方法是离散的数值方法(Discrete Numerical Methods)。但在面对庞大且复杂的数据时,数值方法由于其串行迭代特性,计算效率不足且不稳定。于是,一种基于梯度下降的神经网络(GNN)模型被提出,并用于求解二次规划问题。然而,这样一种基于梯度下降的神经网络并不能很好的解决二次规划问题,因为实际情况往往与时间相关。这样必然会导致实验产生一些无法估计的剩余误差,且这些误差无法收敛到零。这就意味着,我们在处理二次规划问题时,需要更快的收敛速度和更高的收敛精度。在这样一个背景下,张神经网络(ZNN)被提出并得到了很好的发展。这样一种神经网络模型能够解决时变条件下的二次规划问题。通过利用衍生出的时间系数,张神经网络(ZNN)可以得到二次规划问题的最优化解。如上梯度神经网络和张神经网络由于其设计参数均为恒定值,因此统称为定参递归神经网络。然而,在计算数据变得庞大时,我们往往需要更多的时间去计算结果。这对于实践操作是不利的。
基于这样一种复杂的背景,为了满足我们期望的需求,一种与现存的定参数神经网络模型不同的幂型变参递归神经网络(Power-Type Varying-Parameter RecurrentNeural Network,即PT-VP-RNN)模型被提出,并得到了一定的发展。变参递归神经网络(PT-VP-RNN)可以充分利用时变参数的导数信息,构造一种不同于梯度法神经网络(GNN)显式动力学方程的隐式动力学方程。该隐式动力学方程可以用于描述变参递归神经网络求解实际时变数学问题的过程。根据神经动力学设计方法,该神经网络构造一种不定无界的,矩阵/矢量取值的误差函数。区别于传统梯度法神经网络(GNN)的范数式标量取值函数,当该误差函数(Error Function)全局超指数收敛到零时,也即误差函数中的每一个元素都全局超指数收敛到零,表示该神经网络收敛于理想的结果曲线,所得神经网络的解收敛于全局超指数最优理论解。
由于传统的梯度法神经网络(GNN)和张神经网络(ZNN)等固定参数递归神经网络方法要求收敛参数(实际电路系统中为电感参数值或电容参数的倒数值)需要被设定得尽可能的大甚至到无穷,以得到更快的收敛性能。当神经网络应用在实际的系统中时,这样一种要求有时候往往难以满足。除此之外,在实际系统中,电感参数值和电容参数值的倒数通常是时变的,特别是大型的电力电子系统,交流电机控制系统,电力网络系统等,系统参数设定为固定值是不合理的。考虑到求解的问题和硬件系统的实际参数值都是时变的,因此,一种新型的幂型时变参数递归神经网络设计方法被提出。
发明内容
本发明的目的在于克服现有技术的不足,提供一种时变凸二次规划求解器设计方法。
为实现以上目的,本发明采取如下技术方案:
本发明公开了一种时变凸二次规划求解器设计方法,包括下述步骤:
1)通过数学建模方法将具有时变二次规划问题形式的实际物理系统形式化,建立系统的二次型表达式,并根据该表达式建立系统的时变二次规划标准模型;
2)根据拉格朗日乘数法,分别获取步骤1)中标准时变二次规划问题的关于最优解及拉格朗日乘数的偏导数信息,列写拉格朗日优化公式;
3)将步骤2)中的关于最优解及拉格朗日乘数的偏导数信息转化为标准时变矩阵形式,列写时变矩阵方程;
4)基于步骤3)中的时变矩阵方程,设计误差函数方程,并列写误差函数方程表达式;
5)基于步骤4)中的误差函数方程,运用幂型变参递归神经动力学方法并利用单调递增奇激活函数,设计实数域上的时变二次规划问题幂型求解器;
6)通过步骤5)中时变二次规划问题幂型求解器所求得的网络状态解即为所求实际物理系统或数值求解时变二次规划问题的最优解。
作为优选的,步骤1)具体为:
通过数学建模方法将具体时变二次规划问题形式的实际物理系统进行标准化,得到如下的标准时变二次规划问题模型:
subject to A(t)x(t)=B(t) (2)
其中t表示时间,T表矩阵的转置;在实数域中,定义为正定的海森矩阵,为系数向量,为满秩系数矩阵,为系数向量;除此之外,Q(t),P(t),A(t),B(t)以及它们各自的时间导数是已知、时变且光滑的;假设未知的矩阵存在。
作为优选的,在步骤2)中,所述拉格朗日优化公式的求解方法具体为:
为了获取关于时变二次规划问题的最优解及拉格朗日乘数的偏导数信息,对所述二次规划问题模型(1)-(2)使用拉格朗日乘数法得到下式:
其中t∈[0,+∞),为拉格朗日乘数;由拉格朗日定理可知,如果和存在且连续,那么如下两式成立,即拉格朗日优化公式:
作为优选的,实数域凸时变二次规划问题(1)-(2)中的时变参数矩阵及向量Q(t),P(t),A(t),B(t)由实际物理模型系统传感器获取信号及系统预期运行状态信号所构成;时变参数矩阵及向量Q(t),P(t),A(t),B(t),以及它们的时间导数是已知的或者是可被估算出来的;存在时变二次规划问题模型(1)-(2)关于最优解及拉格朗日乘数的偏导数信息,且使用拉格朗日乘数法将上述偏导数信息表示为拉格朗日优化公式(4)-(5)。
作为优选的,步骤3)具体为:
根据拉格朗日优化公式(4)-(5)设计出一个如下的关于时变二次规划问题模型(1)-(2)的时变矩阵方程:
W(t)Y(t)=G(t) (6)
其中
时变系数矩阵和向量W(t),Y(t),G(t)在实数域上均连续且光滑。
作为优选的,步骤4)具体为:
根据得到的实际物理模型系统或数值求解系统的光滑时变二次规划问题的时变矩阵方程(6),设计可得系统的误差函数方程;为得到时变二次规划问题模型(1)-(2)的最优解,定义一个矩阵形式的误差函数方程如下:
当误差函数方程ε(t)达到零时,时变二次规划问题模型(1)-(2)的最优解x*(t)能够被获得。
作为优选的,步骤5)具体为:
时变参数矩阵中的数据能够输入到处理单元计算机、单片机、以及微型处理器中;通过所获得的时变参数矩阵及其导数信息,结合实数域幂型变参递归神经动力学方法并利用单调递增奇激活函数,设计时变二次规划问题的幂型求解器;根据幂型变参递归神经动力学方法,误差函数方程ε(t)的时间导数需为负定;一种幂型的时变参数被设计并使用,其设计公式如下
其中γ>0为人为设计的常系数参数,Φ(·)为单调递增奇激活阵列;
将误差函数方程及其导数信息代入设计公式(8),则实数域幂型变参递归神经网络模型能够用如下的隐式动力学方程式表达
其中
根据对的定义,可知
Y(t):=[xT(t),λT(t)]T=[x1(t),x2(t),…,xn(t),λ1(t),λ2(t),…,λm(t)]T (10)
其中Y(t)具有初始值
根据隐式动力学方程(9),得到实数域幂型变参递归神经网络的系统模型及网络实现;网络的输出结果即为实数域时变二次规划问题模型(1)-(2)的最优解。
作为优选的,Φ(·)根据不同的映射函数关系具有不同的形式,包括线性型激活函数、幂型激活函数、双极S型激活函数、sinh型激活函数、tanh型激活函数、以及有限时间型激活函数等;矩阵形式的实数值激活函数阵列Φ(·)有m×n个单调递增奇激活函数φ(·)组成;可使用的实数值激活函数如下所示:
7)线性型激活函数:φ1(u)=u,其中标量参数
8)幂型激活函数:φ2(u)=uω,其中标量参数ω>1,且
9)双极S型激活函数:其中标量参数μ≥2,且
10)sinh型激活函数:其中标量参数
11)tanh型激活函数:其中标量参数
12)有限时间型激活函数:其中标量参数r>0且r≠1;方程sigr(u)定义如下
其中|u|表示标量参数,的绝对值。
作为优选的,步骤6)具体为:
基于幂型变参递归神经动力学方法的时变二次规划问题幂型求解器所求解得到的网络状态解即为该实际物理系统或数值求解系统的时变二次规划问题模型(1)-(2)的最优解;将处理器所得到的求解器最优解输出,完成具有实数域光滑时变二次规划问题形式的实际物理系统或数值求解系统的最优解求解。
本发明相对于现有技术具有如下的优点和效果:
1、本发明基于幂型变参递归神经动力学模型方法,不同于传统的固定参数微分神经动力学方法,本求解器在运用各种单调递增奇激活函数求解时变二次规划问题时具有全局收敛特性,且误差能以超指数的速度收敛到零,大大提高了计算速度。
2、本发明的方法采用普遍存在的隐式动力学模型进行描述,可分别从方法和系统两个层面上充分利用各时变参数的导数信息,对问题求解具有一定预测能力;可快速、准确、实时地逼近问题的最优解;可以很好地解决矩阵、向量、代数以及优化等多种时变问题。
附图说明
图1为本实施例的一种时变凸二次规划求解器设计方法的流程图;
图2为本实施例的实际系统求解器实现框架图;
图3为本实施例的各种单调递增奇激活函数图线示意图;
图4(a)为本实施例在线性型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图;
图4(b)为本实施例在幂型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图;
图4(c)为本实施例在双极S型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图;
图4(d)为本实施例在sinh型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图;
图4(e)为本实施例在tanh型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图;
图4(f)为本实施例在有限时间型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图。
具体实施方式
下面结合附图对本发明做进一步的说明。
实施例1
如图1所示为本发明实例的一种时变凸二次规划求解器设计方法的流程图;一种时变凸二次规划求解器设计方法的设计,包括如下步骤:
1)通过数学建模方法将具有时变二次规划问题形式的具体实际物理系统或数值求解进行标准化,并建立该系统的标准二次规划问题模型;
2)根据拉格朗日乘数法,分别获取步骤1)中标准时变二次规划问题的关于最优解及拉格朗日乘数的偏导数信息,列写拉格朗日优化公式;
3)将步骤2)中的关于最优解及拉格朗日乘数的偏导数信息转化为标准时变矩阵形式,列写时变矩阵方程;
4)基于步骤3)中的时变矩阵方程,设计误差函数方程,并列写误差函数方程表达式;
5)基于步骤4)中的误差函数方程,运用幂型变参递归神经动力学方法并利用单调递增奇激活函数,设计实数域上的时变二次规划问题幂型求解器;
6)通过步骤5)中时变二次规划问题幂型求解器所求得的网络状态解即为所求实际物理系统或数值求解时变二次规划问题的最优解。
如图2所示,为一种时变凸二次规划求解器设计方法的实现框架图,共包括如下模块:
1)外界环境输入即数据采集部分,包括外部传感器对外界环境进行传感数据获取以及预期实现的目标状态数据等两个部分,构成了时变参数矩阵内容的基础;
2)输入接口电路部分,即外部设定数据以及处理器间的接口通道,根据传感器的不同可由不同接口的电路与协议实现;
3)处理器部分,包括时变参数矩阵以及实数域光滑时变凸二次规划问题的幂型求解器两个部分。其中时变参数矩阵部分完成对外部输入数据的矩阵化或矢量化。实数域光滑时变凸二次规划问题的幂型求解器部分为系统的核心部分。该幂型求解器通过预先对系统进行建模、公式化、分析及设计构型,其中包括数学建模得到的系统模型,从而设计误差函数方程,并利用基于幂型变参递归神经动力学方法构造神经网络求解器;
4)输出接口部分,为求解器所求解的数据同系统最优理论解请求端的接口,其中该接口可以为电路接口也可以为程序的返回值,根据设计系统的不同而不同;
5)最优解请求端部分,为需要获得实际物理系统或数值求解系统的实数域光滑时变凸二次规划问题最优解的请求端,该端口在需要得到求解参数时像求解系统发出指令请求,并接受求解结果。
如图3所示,为各种单调递增奇激活函数图线示意图,共包括如下六种单调递增奇激活函数:
1)线性型激活函数:φ(u)=u,其中标量参数
2)幂型激活函数:φ(u)=uω,其中标量参数ω>1,且
3)双极S型激活函数:其中标量参数μ≥2,且
4)sinh型激活函数:其中标量参数
5)tanh型激活函数:其中标量参数
6)有限时间型激活函数:其中标量参数r>0且r≠1;方程sigr(u)定义如下
其中|u|表示标量参数的绝对值。
如图4(a)、图4(b)、图4(c)、图4(d)、图4(e)、图4(f)所示,为实例仿真效果曲线图。其中图4(a)为在线性型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图;图4(b)为在幂型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图;图4(c)为在双极S型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图;图4(d)为在sinh型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图;图4(e)为在tanh型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图;图4(f)为在有限时间型激活函数激励下幂型求解器所达到的剩余误差的收敛效果图。
根据设计流程图的相关步骤,在此针对本发明进行详细的算法解析。首先,针对具有实数域光滑时变凸二次规划问题形式的实际物理系统或数值求解系统(包括线性系统及近似线性系统),利用数学建模方法,对模型进行公式化,得到如下的实数域标准时变二次规划问题模型:
subject to A(t)x(t)=B(t) (2)
其中t表示时间,T表矩阵的转置。在实数域中,可以定义为正定的海赛矩阵,为系数向量,为满秩系数矩阵,为系数向量。此外,Q(t),P(t),A(t),B(t)以及它们各自的时间导数被认为是已知的,或者能够在一定精确度要求范围内被估计出来。假设未知的矩阵存在,可以寻找满足时变二次规划问题模型(1)-(2)的最优解
为了获取关于时变二次规划问题的关于最优解及拉格朗日乘数的偏导数信息,对二次规划问题模型(1)-(2)使用拉格朗日乘数法可得到下式
λT(t)(A(t)x(t)-B(t)),t∈[0,+∞) (3)
其中为拉格朗日乘数。由拉格朗日定理可知,如果 和存在且连续,那么下式两式成立,即
根据优化公式(4)-(5)可以设计出一个如下的关于时变二次规划问题模型(1)-(2)的矩阵等式
W(t)Y(t)=G(t) (6)
其中
时变系数矩阵和向量W(t),Y(t),G(t)在实数域上均连续且光滑。
根据得到的实际物理模型系统或数值求解系统的光滑时变二次规划问题的矩阵等式(6),设计可得系统的误差函数方程;为得到时变二次规划问题模型(1)-(2)的最优解,定义一个矩阵形式的误差函数方程如下
当误差函数方程ε(t)达到零时,时变二次规划问题模型(1)-(2)的最优解x*(t)能够被获得。
时变参数矩阵中的数据能够输入到处理单元(计算机、单片机、微型处理器等)中;通过所获得的时变参数矩阵及其导数信息,结合实数域幂型变参递归神经动力学方法并利用单调递增奇激活函数,设计时变二次规划问题的幂型求解器;根据幂型变参递归神经动力学方法,误差函数方程ε(t)的时间导数需为负定;不同于固定参数递归神经动力学方法,决定新型神经动力学方法收敛性能的设计参数是时变的;一种幂型的时变参数在本发明中被设计并使用,其设计公式如下
其中γ>0为人为设计的常系数参数,Φ(·)为单调递增奇激活阵列;Φ(·)根据不同的映射函数关系具有不同的形式,如线性型激活函数、幂型激活函数、双极S型激活函数、sinh型激活函数、tanh型激活函数、有限时间型激活函数等。矩阵形式的实数值激活函数阵列Φ(·)有m×n个单调递增奇激活函数φ(·)组成;可使用的实数值激活函数如下所示:
1)线性型激活函数:φ1(u)=u,其中标量参数
2)幂型激活函数:φ2(u)=uω,其中标量参数ω>1,且
3)双极S型激活函数:其中标量参数μ≥2,且
4)sinh型激活函数:其中标量参数
5)tanh型激活函数:其中标量参数
6)有限时间型激活函数:其中标量参数r>0且r≠1;方程sigr(u)定义如下
其中|u|表示标量参数的绝对值。
将误差函数方程及其导数信息代入设计公式(8),则实数域幂型变参递归神经网络模型能够用如下的隐式动力学方程式表达
其中
根据对的定义,可知
Y(t):=[xT(t),λT(t)]T=[x1(t),x2(t),…,xn(t),λ1(t),λ2(t),…,λm(t)]T (10)
其中Y(t)具有初始值
根据隐式动力学方程(9),可以得到实数域幂型变参递归神经网络的系统模型及网络实现;网络的输出结果即为实数域时变二次规划问题模型(1)-(2)的最优解。
实施例2
为了展示实际的系统设计过程,利用一个实例对所述问题进行说明:假设系统的时变参数矩阵已得到,并考虑一个具有如下时变矩阵的实数域时变二次规划问题模型
subject to A(t)x(t)=B(t) (12)
其中
A(t):=[sin 2t cos2t],B(t):=cos3t,x(t):=[x1(t)x2(t)]T
根据式(6),上述二次规划问题模型(11)-(12)可以写为如下的矩阵等式形式
W(t)Y(t)=G(t) (13)
其中
Y(t):=[x1(t) x2(t) λ(t)]T, G(t):=[-sin t -cos tcos 3t]T
根据如下的隐式动力学方程式表达
以及对的定义
Y(t):=[xT(t),λT(t)]T=[x1(t),x2(t),…,xn(t),λ1(t),λ2(t),…,λm(t)]T (15)
可以得到实数域幂型变参递归神经网络的系统模型及网络实现;网络的输出结果即为实数域时变二次规划问题模型(11)-(12)的最优解。除此之外,我们假设在随机重复仿真实验中,所有的剩余误差||W(t)Y(t)-G(t)||2达到0.01的时间记为收敛时间t,也即认为剩余误差收敛至0.01时,二次规划问题的求解过程已完成。具体求解图线如图4所示。对于线性型激活函数,在运用幂型变参递归神经网络求解器的条件下,其收敛时间为t=2.472s;在运用传统定参递归神经网络求解器的条件下,其收敛时间为t=6.015s。对于幂型激活函数,在运用幂型变参递归神经网络求解器的条件下,其收敛时间为t=9.199s;在运用传统定参递归神经网络求解器的条件下,不能收敛。对于双极S型激活函数,在运用幂型变参递归神经网络求解器的条件下,其收敛时间为t=2.432s;在运用传统定参递归神经网络求解器的条件下,其收敛时间为t=5.369s。对于sinh型激活函数,在运用幂型变参递归神经网络求解器的条件下,其收敛时间为t=0.6415s;在运用传统定参递归神经网络求解器的条件下,其收敛时间为t=1.635s。对于tanh型激活函数,在运用幂型变参递归神经网络求解器的条件下,其收敛时间为t=2.838s;在运用传统定参递归神经网络求解器的条件下,其收敛时间为=6.699。对于有限时间型激活函数,在运用幂型变参递归神经网络求解器的条件下,其收敛时间为t=0.9027s;在运用传统定参递归神经网络求解器的条件下,其收敛时间为t=1.371s。综上所述,根据上述各步骤可以完成本发明。
本发明的上述实施例仅仅是为清楚地说明本发明所作的举例,而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明权利要求的保护范围之内。
Claims (9)
1.一种时变凸二次规划求解器设计方法,其特征在于,包括下述步骤:
1)通过数学建模方法将具有时变二次规划问题形式的实际物理系统形式化,建立系统的二次型表达式,并根据该表达式建立系统的时变二次规划标准模型;
2)根据拉格朗日乘数法,分别获取步骤1)中标准时变二次规划问题的关于最优解及拉格朗日乘数的偏导数信息,列写拉格朗日优化公式;
3)将步骤2)中的关于最优解及拉格朗日乘数的偏导数信息转化为标准时变矩阵形式,列写时变矩阵方程;
4)基于步骤3)中的时变矩阵方程,设计误差函数方程,并列写误差函数方程表达式;
5)基于步骤4)中的误差函数方程,运用幂型变参递归神经动力学方法并利用单调递增奇激活函数,设计实数域上的时变二次规划问题幂型求解器;
6)通过步骤5)中时变二次规划问题幂型求解器所求得的网络状态解即为所求实际物理系统或数值求解时变二次规划问题的最优解。
2.根据权利要求1所述的一种时变凸二次规划求解器设计方法,其特征在于,步骤1)具体为:
通过数学建模方法将具体时变二次规划问题形式的实际物理系统进行标准化,得到如下的标准时变二次规划问题模型:
<mrow>
<mtable>
<mtr>
<mtd>
<mrow>
<mi>min</mi>
<mi>i</mi>
<mi>m</mi>
<mi>i</mi>
<mi>z</mi>
<mi>e</mi>
</mrow>
</mtd>
<mtd>
<mrow>
<mfrac>
<mn>1</mn>
<mn>2</mn>
</mfrac>
<msup>
<mi>x</mi>
<mi>T</mi>
</msup>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mi>Q</mi>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mi>x</mi>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>+</mo>
<msup>
<mi>P</mi>
<mi>T</mi>
</msup>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mi>x</mi>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
</mtr>
</mtable>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
</mrow>
subject to A(t)x(t)=B(t) (2)
其中t表示时间,T表矩阵的转置;在实数域中,定义为正定的海森矩阵,为系数向量,为满秩系数矩阵,为系数向量;除此之外,Q(t),P(t),A(t),B(t)以及它们各自的时间导数是已知、时变且光滑的;假设未知的矩阵存在。
3.根据权利要求2所述的时变凸二次规划求解器设计方法,其特征在于,在步骤2)中,所述拉格朗日优化公式的求解方法具体为:
为了获取关于时变二次规划问题的最优解及拉格朗日乘数的偏导数信息,对所述二次规划问题模型(1)-(2)使用拉格朗日乘数法得到下式:
其中t∈[0,+∞),为拉格朗日乘数;由拉格朗日定理可知,如果和存在且连续,那么如下两式成立,即拉格朗日优化公式:
4.根据权利要求3所述的时变凸二次规划求解器设计方法,其特征在于,实数域凸时变二次规划问题(1)-(2)中的时变参数矩阵及向量Q(t),P(t),A(t),B(t)由实际物理模型系统传感器获取信号及系统预期运行状态信号所构成;时变参数矩阵及向量Q(t),P(t),A(t),B(t),以及它们的时间导数 是已知的或者是可被估算出来的;存在时变二次规划问题模型(1)-(2)关于最优解及拉格朗日乘数的偏导数信息,且使用拉格朗日乘数法将上述偏导数信息表示为拉格朗日优化公式(4)-(5)。
5.根据权利要求3所述的时变凸二次规划求解器设计方法,其特征在于,步骤3)具体为:
根据拉格朗日优化公式(4)-(5)设计出一个如下的关于时变二次规划问题模型(1)-(2)的时变矩阵方程:
W(t)Y(t)=G(t) (6)
其中
时变系数矩阵和向量W(t),Y(t),G(t)在实数域上均连续且光滑。
6.根据权利要求5所述的时变凸二次规划求解器设计方法,其特征在于,步骤4)具体为:
根据得到的实际物理模型系统或数值求解系统的光滑时变二次规划问题的时变矩阵方程(6),设计可得系统的误差函数方程;为得到时变二次规划问题模型(1)-(2)的最优解,定义一个矩阵形式的误差函数方程如下:
当误差函数方程ε(t)达到零时,时变二次规划问题模型(1)-(2)的最优解x*(t)能够被获得。
7.根据权利要求6述的时变凸二次规划求解器设计方法,其特征在于,步骤5)具体为:
时变参数矩阵中的数据能够输入到处理单元计算机、单片机、以及微型处理器中;通过所获得的时变参数矩阵及其导数信息,结合实数域幂型变参递归神经动力学方法并利用单调递增奇激活函数,设计时变二次规划问题的幂型求解器;根据幂型变参递归神经动力学方法,误差函数方程ε(t)的时间导数需为负定;一种幂型的时变参数被设计并使用,其设计公式如下
<mrow>
<mover>
<mi>&epsiv;</mi>
<mo>&CenterDot;</mo>
</mover>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mfrac>
<mrow>
<mi>d</mi>
<mi>&epsiv;</mi>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
</mrow>
<mrow>
<mi>d</mi>
<mi>t</mi>
</mrow>
</mfrac>
<mo>=</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mi>&gamma;</mi>
<mo>+</mo>
<msup>
<mi>t</mi>
<mi>&gamma;</mi>
</msup>
<mo>)</mo>
</mrow>
<mi>&Phi;</mi>
<mrow>
<mo>(</mo>
<mi>&epsiv;</mi>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>8</mn>
<mo>)</mo>
</mrow>
</mrow>
其中γ>0为人为设计的常系数参数,Φ(·)为单调递增奇激活阵列;
将误差函数方程及其导数信息代入设计公式(8),则实数域幂型变参递归神经网络模型能够用如下的隐式动力学方程式表达
<mrow>
<mi>W</mi>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mover>
<mi>Y</mi>
<mo>&CenterDot;</mo>
</mover>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>+</mo>
<mover>
<mi>W</mi>
<mo>&CenterDot;</mo>
</mover>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mi>Y</mi>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mi>&gamma;</mi>
<mo>+</mo>
<msup>
<mi>t</mi>
<mi>&gamma;</mi>
</msup>
<mo>)</mo>
</mrow>
<mi>&Phi;</mi>
<mrow>
<mo>(</mo>
<mi>W</mi>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
<mi>Y</mi>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
<mo>-</mo>
<mi>G</mi>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
<mo>)</mo>
</mrow>
<mo>+</mo>
<mi>G</mi>
<mrow>
<mo>(</mo>
<mi>t</mi>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>9</mn>
<mo>)</mo>
</mrow>
</mrow>
其中
根据对的定义,可知
Y(t):=[xT(t),λT(t)]T=[x1(t),x2(t),...,xn(t),λ1(t),λ2(t),...,λm(t)]T (10)
其中Y(t)具有初始值
根据隐式动力学方程(9),得到实数域幂型变参递归神经网络的系统模型及网络实现;网络的输出结果即为实数域时变二次规划问题模型(1)-(2)的最优解。
8.根据权利要求7所述的时变凸二次规划求解器设计方法,其特征在于,Φ(·)根据不同的映射函数关系具有不同的形式,包括线性型激活函数、幂型激活函数、双极S型激活函数、sinh型激活函数、tanh型激活函数、以及有限时间型激活函数等;矩阵形式的实数值激活函数阵列Φ(·)有m×n个单调递增奇激活函数φ(·)组成;可使用的实数值激活函数如下所示:
1)线性型激活函数:φ1(u)=u,其中标量参数
2)幂型激活函数:φ2(u)=uω,其中标量参数ω>1,且3)双极S型激活函数:其中标量参数μ之2,且
4)sinh型激活函数:其中标量参数
5)tanh型激活函数:其中标量参数
6)有限时间型激活函数:其中标量参数r>0且r≠1;方程sigr(u)定义如下
<mrow>
<msup>
<mi>sig</mi>
<mi>r</mi>
</msup>
<mrow>
<mo>(</mo>
<mi>u</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<mfenced open = "{" close = "">
<mtable>
<mtr>
<mtd>
<mrow>
<mo>|</mo>
<mi>u</mi>
<msup>
<mo>|</mo>
<mi>r</mi>
</msup>
<mo>,</mo>
</mrow>
</mtd>
<mtd>
<mrow>
<mi>u</mi>
<mo>></mo>
<mn>0</mn>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mrow>
<mn>0</mn>
<mo>,</mo>
</mrow>
</mtd>
<mtd>
<mrow>
<mi>u</mi>
<mo>=</mo>
<mn>0</mn>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mrow>
<mo>-</mo>
<mo>|</mo>
<mi>u</mi>
<msup>
<mo>|</mo>
<mi>r</mi>
</msup>
<mo>,</mo>
</mrow>
</mtd>
<mtd>
<mrow>
<mi>u</mi>
<mo><</mo>
<mn>0</mn>
</mrow>
</mtd>
</mtr>
</mtable>
</mfenced>
</mrow>
其中|u|表示标量参数,的绝对值。
9.据权利要求1所述的时变凸二次规划求解器设计方法,其特征在于,步骤6)具体为:
基于幂型变参递归神经动力学方法的时变二次规划问题幂型求解器所求解得到的网络状态解即为该实际物理系统或数值求解系统的时变二次规划问题模型(1)-(2)的最优解;将处理器所得到的求解器最优解输出,完成具有实数域光滑时变二次规划问题形式的实际物理系统或数值求解系统的最优解求解。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711114059.3A CN107784180B (zh) | 2017-11-13 | 2017-11-13 | 一种时变凸二次规划求解器设计方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711114059.3A CN107784180B (zh) | 2017-11-13 | 2017-11-13 | 一种时变凸二次规划求解器设计方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107784180A true CN107784180A (zh) | 2018-03-09 |
CN107784180B CN107784180B (zh) | 2020-08-18 |
Family
ID=61431884
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711114059.3A Active CN107784180B (zh) | 2017-11-13 | 2017-11-13 | 一种时变凸二次规划求解器设计方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107784180B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108549222A (zh) * | 2018-04-08 | 2018-09-18 | 黄淮学院 | 一种求解数学规划问题的装置和方法 |
CN109033021A (zh) * | 2018-07-20 | 2018-12-18 | 华南理工大学 | 一种基于变参收敛神经网络的线性方程求解器设计方法 |
CN109190085A (zh) * | 2018-07-27 | 2019-01-11 | 华南理工大学 | 一种实数域光滑时变矩阵pxq=w系统的求解设计方法 |
CN110076770A (zh) * | 2019-03-28 | 2019-08-02 | 陕西理工大学 | 一种用于冗余机械臂的自运动方法 |
CN112381120A (zh) * | 2020-10-28 | 2021-02-19 | 华南理工大学 | 基于支持向量神经网络提高p300拼写器性能的方法 |
CN113183146A (zh) * | 2021-02-04 | 2021-07-30 | 中山大学 | 一种基于快速灵活全纯嵌入思想的机械臂运动规划方法 |
TWI761778B (zh) * | 2019-08-09 | 2022-04-21 | 開曼群島商創新先進技術有限公司 | 模型參數確定方法、裝置和電子設備 |
CN114580627A (zh) * | 2022-02-28 | 2022-06-03 | 华南理工大学 | 一种基于变参递归神经网络的fpga实现方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110125685A1 (en) * | 2009-11-24 | 2011-05-26 | Rizvi Syed Z | Method for identifying Hammerstein models |
CN106156847A (zh) * | 2015-04-16 | 2016-11-23 | 吉首大学 | 一种有限时间收敛的梯度递归神经网络方法 |
CN106945041A (zh) * | 2017-03-27 | 2017-07-14 | 华南理工大学 | 一种冗余度机械臂重复运动规划方法 |
CN106985138A (zh) * | 2017-03-13 | 2017-07-28 | 浙江工业大学 | 基于终态吸引优化指标的冗余机械臂轨迹规划方法 |
-
2017
- 2017-11-13 CN CN201711114059.3A patent/CN107784180B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110125685A1 (en) * | 2009-11-24 | 2011-05-26 | Rizvi Syed Z | Method for identifying Hammerstein models |
CN106156847A (zh) * | 2015-04-16 | 2016-11-23 | 吉首大学 | 一种有限时间收敛的梯度递归神经网络方法 |
CN106985138A (zh) * | 2017-03-13 | 2017-07-28 | 浙江工业大学 | 基于终态吸引优化指标的冗余机械臂轨迹规划方法 |
CN106945041A (zh) * | 2017-03-27 | 2017-07-14 | 华南理工大学 | 一种冗余度机械臂重复运动规划方法 |
Non-Patent Citations (1)
Title |
---|
刘自鑫 等: "基于分块矩阵的投影型神经网络收敛性分析", 《计算机应用研究》 * |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108549222A (zh) * | 2018-04-08 | 2018-09-18 | 黄淮学院 | 一种求解数学规划问题的装置和方法 |
CN109033021A (zh) * | 2018-07-20 | 2018-12-18 | 华南理工大学 | 一种基于变参收敛神经网络的线性方程求解器设计方法 |
CN109033021B (zh) * | 2018-07-20 | 2021-07-20 | 华南理工大学 | 一种基于变参收敛神经网络的线性方程求解器设计方法 |
CN109190085A (zh) * | 2018-07-27 | 2019-01-11 | 华南理工大学 | 一种实数域光滑时变矩阵pxq=w系统的求解设计方法 |
CN109190085B (zh) * | 2018-07-27 | 2022-04-22 | 华南理工大学 | 一种实数域光滑时变矩阵pxq=w系统的求解设计方法 |
CN110076770A (zh) * | 2019-03-28 | 2019-08-02 | 陕西理工大学 | 一种用于冗余机械臂的自运动方法 |
TWI761778B (zh) * | 2019-08-09 | 2022-04-21 | 開曼群島商創新先進技術有限公司 | 模型參數確定方法、裝置和電子設備 |
CN112381120B (zh) * | 2020-10-28 | 2023-07-18 | 华南理工大学 | 基于支持向量神经网络提高p300拼写器性能的方法 |
CN112381120A (zh) * | 2020-10-28 | 2021-02-19 | 华南理工大学 | 基于支持向量神经网络提高p300拼写器性能的方法 |
CN113183146A (zh) * | 2021-02-04 | 2021-07-30 | 中山大学 | 一种基于快速灵活全纯嵌入思想的机械臂运动规划方法 |
CN113183146B (zh) * | 2021-02-04 | 2024-02-09 | 中山大学 | 一种基于快速灵活全纯嵌入思想的机械臂运动规划方法 |
CN114580627A (zh) * | 2022-02-28 | 2022-06-03 | 华南理工大学 | 一种基于变参递归神经网络的fpga实现方法 |
CN114580627B (zh) * | 2022-02-28 | 2024-04-16 | 华南理工大学 | 一种基于变参递归神经网络的fpga实现方法 |
Also Published As
Publication number | Publication date |
---|---|
CN107784180B (zh) | 2020-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107784180A (zh) | 一种时变凸二次规划求解器设计方法 | |
CN107984472A (zh) | 一种用于冗余度机械臂运动规划的变参神经求解器设计方法 | |
CN110285532A (zh) | 基于人工智能的机房空调控制方法、装置及系统 | |
CN104298809B (zh) | 一种基于矩阵指数电磁暂态仿真的非线性建模求解方法 | |
CN108015763A (zh) | 一种抗噪声干扰的冗余度机械臂路径规划方法 | |
JP6832475B1 (ja) | ランダムアイソジオメトリック解析に基づくブレードの高剛性の設計方法 | |
CN104268322B (zh) | Weno差分方法的一种边界处理技术 | |
CN107423839A (zh) | 一种基于深度学习的智能楼宇微网负荷预测的方法 | |
CN110348059A (zh) | 一种基于结构化网格的通道内流场重构方法 | |
CN110705078A (zh) | 一种核动力装置的仿真模型开发系统及分析方法 | |
CN109583104A (zh) | 一种基于modelica规范的核反应堆热工水力仿真架构方法 | |
CN108763741A (zh) | 一种液压软管流固耦合数值预测方法 | |
CN113111515A (zh) | 一种综合能源系统的统一建模方法 | |
Guo et al. | A new mesh smoothing method based on a neural network | |
CN106650918B (zh) | 构建系统模型的方法和装置 | |
CN105512441A (zh) | 一种物体内热源分布重构系统及方法 | |
Zhang et al. | Interactive educational software for teaching water distribution networks design | |
Du et al. | Novel machine learning approach for shape-finding design of tree-like structures | |
CN107957685A (zh) | 一种求解含噪声时变问题的神经动力学方法 | |
Waibel et al. | Physics meets machine learning: Coupling FFD with regression models for wind pressure prediction on high-rise facades | |
CN107346299A (zh) | 一种实数域光滑时变Sylvester方程求解器的设计方法 | |
Picard et al. | A new hybrid model for borefield heat exchangers performance evaluation | |
Yang et al. | Isogeometric double-objective shape optimization of free-form surface structures with Kirchhoff–Love shell theory | |
CN115310209A (zh) | 基于vae的气动形状迁移优化方法及相关装置 | |
Chatziagorakis et al. | Design automation of cellular neural networks for data fusion applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |