CN111930011A - 一种基于离散时间反馈模型winner-take-all的智能优化算法 - Google Patents
一种基于离散时间反馈模型winner-take-all的智能优化算法 Download PDFInfo
- Publication number
- CN111930011A CN111930011A CN202010628866.2A CN202010628866A CN111930011A CN 111930011 A CN111930011 A CN 111930011A CN 202010628866 A CN202010628866 A CN 202010628866A CN 111930011 A CN111930011 A CN 111930011A
- Authority
- CN
- China
- Prior art keywords
- vector
- model
- value
- input
- take
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000005457 optimization Methods 0.000 title claims abstract description 33
- 238000004422 calculation algorithm Methods 0.000 title claims abstract description 32
- 239000013598 vector Substances 0.000 claims abstract description 59
- 238000000034 method Methods 0.000 claims description 5
- 239000011159 matrix material Substances 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 2
- 238000013461 design Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 10
- 230000004044 response Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 239000003795 chemical substances by application Substances 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000020595 eating behavior Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000002431 foraging effect Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000013011 mating Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 241000894007 species Species 0.000 description 1
- 238000012421 spiking Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
- G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
- G05B13/04—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators
- G05B13/042—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators in which a parameter or coefficient is automatically adjusted to optimise the performance
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Feedback Control In General (AREA)
- Complex Calculations (AREA)
Abstract
本发明公开了一种基于离散时间反馈模型winner‑take‑all的智能优化算法,包括为待优化函数在取值范围内随机生成初始值,生成的初始值形成初始向量,为优化算法设置步长,计算出待优化函数的初始,将fj作为所提出的WTA模型的输入,使用WTA模型计算出向量fj=[f1,f2,f3...f10]T中的最优值Fbest(Xbest),根据步长s搜索方向o再次生成10个下一步的搜索位置,计算出10个不同的fj=[f1,f2,f3...f10]T。该一种基于离散时间反馈模型winner‑take‑all的智能优化算法,基于非线性差分方程,提出了一个离散的时间模型,能够产生WTA现象,且能够使用这个模型设计了一种只能优化算法,该算法不需要获取优化问题的约束条件、梯度信息就能够对问题进行优化,能够使用该算法优化一些函数,进一步使用该算法优化了双闭环倒立摆系统的PID参数。
Description
技术领域
本发明涉及winner-take-all模型技术领域,具体为一种基于离散时间 反馈模型winner-take-all的智能优化算法。
背景技术
Winner-take-all(赢者通吃)指的是组内代理互相竞争激活的现象,最 终只有具有最大输入的代理保持激活状态,而其他代理则被抑制,“赢者通吃” 竞争模拟了自然界中存在的许多竞争现象:如植物的生成竞争,皮层竞争决 策,动物社会觅食和交配,和视觉系统中神经元之间的竞争等,并发现了许 多工程领域的应用,赢者通吃竞争的计算能力异常强大,可以产生计算智能 应用所需的一些有用的功能,由于工程应用中赢者通吃竞争的重要性,已经 有许多人尝试设计电路来实现它,研究人员提出了各种模型来解释或产生赢家通吃行为,如N物种Lotka-Volterra模型被设计用来解释winner-take-all 竞争现象,受到递归神经网络的巨大成功的启发,已经有许多人利用递归神 经网络来研究赢者通吃竞争,如FitzHughNagumo模型能够证明互动扣球,用 于研究赢家通吃行为。
在以往研究中,赢者通吃问题被认为是优化问题的解决方案,其结果是 通过解决这个问题而产生的,现基于离散的WTA模式,设计一种智能优化算 法,Winner-take-all神经网络具有高速并行分布处理的能力,可轻松的通过 硬件实现,能够被用于进行实时处理的强大工具,可成功应用于各种控制系 统。
针对上述问题,在原有winner-take-all模型的基础上进行创新设计。
发明内容
本发明的目的在于提供一种基于离散时间反馈模型winner-take-all的 智能优化算法,可轻松的通过硬件实现,能够被用于进行实时处理的强大工 具,可成功应用于各种控制系统。
为实现上述目的,本发明提供如下技术方案:一种基于离散时间反馈模 型winner-take-all的智能优化算法,包括以下步骤:
步骤1)、为待优化函数在取值范围内随机生成初始值,生成的初始值形 成初始向量X=[x1,x2,x3...xm]T,为优化算法设置步长s,随机生成10个搜 索方向0=[o1,o2,o3...o10]T,其中Oi在[-s,s]之间随机取值;
步骤2)、将初始向量x作为待优化函数的F(x)的输入,计算出待优化函 数的初始F(x);
步骤3)、初始向量X根据搜索方向o和步长s生成下10个下一步搜索的 位置Xj=[x1j,x2j,x3j...xmj]T将xj作为函数f(x)的输入,计算出10个不同 的fj=[f1,f2,f3...f10]T;
步骤4)、将fj作为所提出的WTA模型的输入;使用WTA模型计算出向 量fj=[f1,f2,f3...f10]T中的最优值Fbest(Xbest);
步骤5)、Xbest是向量X取得f(x)取得最优值时的Xj,将取得Xbest的作为步骤3的输入,然后根据步长s搜索方向o再次生成10个下一步的搜 索位置Xj=[x1j,X2j,x3j...xmj]T,然后再次将xj作为函数f(x)的输入,计算 出10个不同的fj-[f1,f2,f3...f10]T;
步骤6)、反复迭代,直到函数取得最优值。
优选的,所述该基于离散时间反馈模型winner-take-all的智能优化算 法不需要获取优化问题的约束条件、梯度信息就能够对问题进行优化。
优选的,所述步骤1中的10个搜索方向o的产生方式为: oj=s*rand;(-1,1)其中randj(-1,1)表示生成一个在在[-1,1]之间的随机 数,其中i表示对第i个搜索方向的操作。
优选的,所述步骤4所使用的WTA模型为:
其中x表示一个向量,它是 一个由不同元素状态值组成的t时刻的状态向量,u表示由不同输入值来组成 的输入向量,其取值范围是u∈[-1,1],f表示其输出向量,f是由状态向量的 每一个分量的值除以状态向量的p范数得到,f2n-1表示输出向量的每个分量 的2n-1次方,可以加快模型的收敛速度,在输入值很接近时,能够很快的区 分出最大值,运算符代表hadamard乘积,即两个向量的对应位置的元 素相乘,t表示时刻,||x||p表示向量在t时刻的p范数,将上述模型中的符号 扩展为的形式,如下所示:
u=[u1,u2,u3…un]T x(t)=[x1,x2,x3…xn]T,
f-[f1,f2,f3…fm]T u=f2a-1-[u1x1,u2x2,u3x3,…umxm]T
对于矩阵中每一个元素的,其运算过程如下:
xi(i+1)=uifi 2n-1(t)
在上面的模型中,其中i=1...m表示向量中元素的索引,对于每一个元 素ui∈[-1,1]是对应位置元素的输入值,而对于其它符号ui∈[-1,1]表示向量 x中索引为i的元素在t时刻的状态,向量的p范数具体表示为 fi(t+1)表示索引为i的元素在t+1时刻的输出值。
与现有技术相比,本发明的有益效果是:该一种基于离散时间反馈模型winner-take-all的智能优化算法,基于非线性差分方程,提出了一个离散的 时间模型,能够产生WTA现象,且能够使用这个模型设计了一种只能优化算 法,该算法不需要获取优化问题的约束条件、梯度信息就能够对问题进行优 化,能够使用该算法优化一些函数,进一步使用该算法优化了双闭环倒立摆 系统的PID参数。
附图说明
图1为本发明流程示意图;
图2为本发明WTA模型在静态竞争场景中y(t)在随机初始化下所有维度 上的输出象示意图;
图3为本发明WTA模型n取不同值时的收敛速度对比示意图;
图4为本发明待优化函数Michalewicz函数的函数示意图;
图5为本发明只能优化算法在迭代100次以内搜索Michalewicz的全局 最优解示意图;
图6为本发明待优化函数Ackley函数的函数示意图;
图7为本发明只能优化算法在迭代100次以内搜索Ackley的全局最优解 示意图;
图8为本发明待优化的倒立摆控制系统结构示意图;
图9为本发明倒立摆控制系统的Simulink仿真示意图;
图10为本发明倒立摆控制系统经过智能算法优化PID参数后的响应曲线 示意图。
具体实施方式
下面将对本发明实施例中的技术方案进行清楚、完整地描述,显然,所 描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发 明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的 所有其他实施例,都属于本发明保护的范围。
本发明提供一种技术方案:
请参阅图1-10,本发明提供一种技术方案:一种基于离散时间反馈模型 winner-take-all的智能优化算法,包括以下步骤:
步骤1)、为待优化函数在取值范围内随机生成初始值,生成的初始值形 成初始向量X=[x1,x2,x3...xm]T,为优化算法设置步长s,随机生成10个搜 索方向0=[o1,o2,o3…o10]T,其中Oi在[-s,s]之间随机取值;
步骤2)、将初始向量x作为待优化函数的F(x)的输入,计算出待优化函 数的初始F(x);
步骤3)、初始向量X根据搜索方向o和步长s生成下10个下一步搜索的 位置Xj=[x1j,x2j,x3j...xmj]T将xj作为函数f(x)的输入,计算出10个不同 的fj=[f1,f2,f3...f10]T;
步骤4)、将fj作为所提出的WTA模型的输入;使用WTA模型计算出向 量fj=[f1,f2,f3...f10]T中的最优值Fbest(Xbest);
步骤5)、Xbest是向量X取得f(x)取得最优值时的Xj,将取得Xbest的作为步骤3的输入,然后根据步长s搜索方向o再次生成10个下一步的搜 索位置Xj=[x1j,x2j,x3j...xmj]T,然后再次将xj作为函数f(x)的输入,计算 出10个不同的fj-[f1,f2,f3...f10]T;
步骤6)、反复迭代,直到函数取得最优值。
本例中该基于离散时间反馈模型winner-take-all的智能优化算法不需 要获取优化问题的约束条件、梯度信息就能够对问题进行优化;
步骤1中的10个搜索方向0的产生方式为:oj=s*randj(-1,1)其中randj(-1,1)表示生成一个在在[-1,1]之间的随机数,其中i表示对第i个搜索 方向的操作;
步骤4所使用的WTA模型为:
其中x表示一个向量,它是一个由不同元素状态值组成的t时刻的状态向量,u表示由不同输入值来 组成的输入向量,其取值范围是u∈[-1,1],而f表示它输出向量,它是由状 态向量的每一个分量的值除以状态向量的p范数得到的。f2n-1表示输出向量 的每个分量的2n-1次方,可以加快模型的收敛速度,在输入值很接近时,能 够很快的区分出最大值;运算符代表hadamard乘积,即两个向量的 对应位置的元素相乘;t表示时刻,||x||p表示向量在t时刻的p范数。把上述 模型中的符号扩展为的形式,如下所示
u=[u1,u2,u3...um]T x(t)=[x1,x2,x3...xn]T,
f=[f1,f2,f3…fm]T u·f2n-1=[u1x1,u2x2,u3x3,…umxm]T
对于矩阵中每一个元素的,其运算过程如下:
xi(t+1)=uifi 2a-1 (t)
在上面的模型中,其中i=1...m表示向量中元素的索引。对于每一个元 素ui∈[-1,1]是对应位置元素的输入值,而对于其它符号ui∈[-1,1]表示向 量x中索引为i的元素在t时刻的状态。向量的p范数具体表示为 fi(t+1)表示索引为i的元素在t+1时刻的输出值。
实施例1
Ackley函数的优化流程:
Ackley函数中xi∈[-600,600],因此我们设置s=30,初始值设置 为X=(300,300,300,300,300),计算得f(x)=35C,然后随机生成10个搜 索方向O=[-8.090,-2.174,8.84,8.32,14.73,-9.44,-7.33,8,23, -2.27]至此初始化部分结束;
然后根据初始向量X和搜索方向O和步长s生成下10个下一 步搜索的位置Xj=[x1j,x2j,x3j...xmj]T将xj作为函数f(x)的输入, 计算出10个不同的fj=[f1,f2,f3...f10]T;
然后将fj作为所提出的WTA模型的输入;使用WTA模型计算出向量 fj=[f1,f2,f3...f10]T中的最优值Fbest(Xbest);
经过多次迭代,最终计算出Ackley的最小值是f(x)≈0,当 x≈(0.0.0.0.0)时。
实施例2
Michalewicz函数的优化流程:
首先设置s=0.3,初始值设置为X=(0,0),计算得f(x)=0,然后随机 生成10个搜索方向o=[0.02,0.2,0.09.-0.02,-0.08,0.1,-0.123,0.17, 0,23,0.27]至此初始化部分结束;
进一步根据初始向量X根据搜索方向o和步长s生成下10个下一步搜索的 位置Xj=[x1j,x2j,x3j...xrej]T将xj作为函数f(x)的输入,计算出10个不同的 fj=[f1,f2,f3...f10]T;
然后将fj作为所提出的WTA模型的输入;使用WTA模型计算出向量fj=[f1,f2,f3...f10]T中的最优值Fbest(Xbest);
经过多次迭代,最终计算出Michalewicz的最小值是f(x)≈-1.0013, 当x≈(2.20319,1.57049)时。
实施例3
倒立摆控制系PID参数的优化流程:
首先对倒立摆系统建模后得到它的状态空间方程:
然后将其作为Simulink仿真模型状态空间方程的输入;
由于倒立摆是由两组PID控制控制,因此我们使用WTA算法优化两组PID 参数,其中使用ITAE作为评测函数;
最终得到的PID响应曲线如图10所示,其中上线条为位移响应曲线,下 线条为角度响应曲线。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而 言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行 多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限 定。
Claims (4)
1.一种基于离散时间反馈模型winner-take-all的智能优化算法,其特征在于:包括以下步骤:
步骤1)、为待优化函数在取值范围内随机生成初始值,生成的初始值形成初始向量X=[x1,x2,x3...xm]T,为优化算法设置步长s,随机生成10个搜索方向O=[o1,o2,o3...o10]T,其中oi在[-s,s]之间随机取值;
步骤2)、将初始向量x作为待优化函数的F(x)的输入,计算出待优化函数的初始F(x);
步骤3)、初始向量X根据搜索方向o和步长s生成下10个下一步搜索的位置Xj=[x1j,x2j,x3j...xmj]T将xj作为函数f(x)的输入,计算出10个不同的fj=[f1,f2,f3...f10]T;
步骤4)、将fj作为所提出的WTA模型的输入;使用WTA模型计算出向量fj=[f1,f2,f3...f10]T中的最优值Fbest(Xbest);
步骤5)、Xbest是向量X取得f(x)取得最优值时的Xj,将取得Xbest的作为(3)的输入,然后根据步长s搜索方向o再次生成10个下一步的搜索位置Xj=[x1j,x2j,x3j...xmj]T,然后再次将xj作为函数f(x)的输入,计算出10个不同的fj=[f1,f2,f3...f10]T;
步骤6)、反复迭代,直到函数取得最优值。
2.根据权利要求1所述的一种基于离散时间反馈模型winner-take-all的智能优化算法,其特征在于:所述该基于离散时间反馈模型winner-take-all的智能优化算法不需要获取优化问题的约束条件、梯度信息就能够对问题进行优化。
3.根据权利要求1所述的一种基于离散时间反馈模型winner-take-all的智能优化算法,其特征在于:所述步骤1中的10个搜索方向O的产生方式为:oj=s*randj(-1,1);其中randj(-1,1)表示生成一个在在[-1,1]之间的随机数;其中i表示对第i个搜索方向的操作。
4.根据权利要求1所述的一种基于离散时间反馈模型winner-take-all的智能优化算法,其特征在于:所述步骤4所使用的WTA模型为:
其中x表示一个向量,它是一个由不同元素状态值组成的t时刻的状态向量,u表示由不同输入值来组成的输入向量,其取值范围是u∈[-1,1],而f表示它输出向量,它是由状态向量的每一个分量的值除以状态向量的p范数得到的;f2n-1表示输出向量的每个分量的2n-1次方,可以加快模型的收敛速度,在输入值很接近时,能够很快的区分出最大值;运算符代表hadamard乘积,即两个向量的对应位置的元素相乘;t表示时刻,||x||p表示向量在t时刻的p范数;把上述模型中的符号扩展为的形式,如下所示:
u=[u1,u2,u3...um]T x(t)=[x1,x2,x3...xm]T
对于矩阵中每一个元素的,其运算过程如下:
xi(t+1)=uifi 2n-1(t)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010628866.2A CN111930011A (zh) | 2020-07-01 | 2020-07-01 | 一种基于离散时间反馈模型winner-take-all的智能优化算法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010628866.2A CN111930011A (zh) | 2020-07-01 | 2020-07-01 | 一种基于离散时间反馈模型winner-take-all的智能优化算法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111930011A true CN111930011A (zh) | 2020-11-13 |
Family
ID=73317038
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010628866.2A Pending CN111930011A (zh) | 2020-07-01 | 2020-07-01 | 一种基于离散时间反馈模型winner-take-all的智能优化算法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111930011A (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08321747A (ja) * | 1995-05-24 | 1996-12-03 | Sharp Corp | 入力判定回路 |
US6462586B1 (en) * | 2001-05-04 | 2002-10-08 | Winbond Electronics Corp. | Selectability of maximum magnitudes for K-winner take all circuit |
CN109543813A (zh) * | 2019-01-23 | 2019-03-29 | 江西理工大学 | 一种离散时间动态反馈辅助winner-take-all竞争方法 |
-
2020
- 2020-07-01 CN CN202010628866.2A patent/CN111930011A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08321747A (ja) * | 1995-05-24 | 1996-12-03 | Sharp Corp | 入力判定回路 |
US6462586B1 (en) * | 2001-05-04 | 2002-10-08 | Winbond Electronics Corp. | Selectability of maximum magnitudes for K-winner take all circuit |
CN109543813A (zh) * | 2019-01-23 | 2019-03-29 | 江西理工大学 | 一种离散时间动态反馈辅助winner-take-all竞争方法 |
Non-Patent Citations (1)
Title |
---|
巫光福等: "一种改进的winner-take-all模型及在图像中的应用", 《计算机应用研究》 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Mohamed et al. | Variational information maximisation for intrinsically motivated reinforcement learning | |
Davidson et al. | Theory of morphological neural networks | |
Parsopoulos et al. | Objective function" stretching" to alleviate convergence to local minima | |
WO2022134391A1 (zh) | 融合神经元模型、神经网络结构及训练、推理方法、存储介质和设备 | |
Parsopoulos et al. | Stretching technique for obtaining global minimizers through particle swarm optimization | |
Ydstie | Forecasting and control using adaptive connectionist networks | |
Perrin et al. | Mean field games flock! the reinforcement learning way | |
CN107909153A (zh) | 基于条件生成对抗网络的模型化策略搜索学习方法 | |
CN113792874A (zh) | 基于先天知识的持续学习方法及装置 | |
Curran et al. | Using PCA to efficiently represent state spaces | |
Thornton et al. | Robust character recognition using a hierarchical Bayesian network | |
Kozlova et al. | The use of neural networks for planning the behavior of complex systems | |
US7788194B2 (en) | Method for controlling game character | |
Bi et al. | Avoiding the local minima problem in backpropagation algorithm with modified error function | |
Rabault et al. | 18 Deep Reinforcement Learning Applied to Active Flow Control | |
CN111930011A (zh) | 一种基于离散时间反馈模型winner-take-all的智能优化算法 | |
Ghorbani et al. | Reinforcement learning with subspaces using free energy paradigm | |
CN109543813A (zh) | 一种离散时间动态反馈辅助winner-take-all竞争方法 | |
Elomda et al. | Fuzzy cognitive map with linguistic values | |
Betere et al. | Investigation of multi-layer neural network performance evolved by genetic algorithms | |
Xu et al. | Cascade attribute learning network | |
Li et al. | A fuzzy logic based approach for crowd simulation | |
Lu et al. | Accomplishing robot grasping task rapidly via adversarial training | |
Stollenga | Advances in humanoid control and perception | |
Mohtasib et al. | Robot Policy Learning from Demonstration Using Advantage Weighting and Early Termination |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20201113 |
|
RJ01 | Rejection of invention patent application after publication |