CN107784359A - 一种基于Hopfield神经网络的多稳定状态振荡电路 - Google Patents

一种基于Hopfield神经网络的多稳定状态振荡电路 Download PDF

Info

Publication number
CN107784359A
CN107784359A CN201710845238.8A CN201710845238A CN107784359A CN 107784359 A CN107784359 A CN 107784359A CN 201710845238 A CN201710845238 A CN 201710845238A CN 107784359 A CN107784359 A CN 107784359A
Authority
CN
China
Prior art keywords
neutral nets
resistance
circuit
integrator
hopfield
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710845238.8A
Other languages
English (en)
Inventor
徐权
胡爱黄
钱辉
蒋涛
宋哲
孙梦霞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Changzhou University
Original Assignee
Changzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Changzhou University filed Critical Changzhou University
Priority to CN201710845238.8A priority Critical patent/CN107784359A/zh
Publication of CN107784359A publication Critical patent/CN107784359A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03K—PULSE TECHNIQUE
    • H03K3/00—Circuits for generating electric pulses; Monostable, bistable or multistable circuits
    • H03K3/02—Generators characterised by the type of circuit or by the means used for producing pulses
    • H03K3/353—Generators characterised by the type of circuit or by the means used for producing pulses by the use, as active elements, of field-effect transistors with internal or external positive feedback
    • H03K3/3568—Multistable circuits

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Neurology (AREA)
  • Measurement Of Resistance Or Impedance (AREA)

Abstract

本发明公开了一种基于Hopfield神经网络的多稳定状态振荡电路。该电路由运算放大器与电阻和/或电容连接组合，完成该神经网络系统的加、减和积分运算，并采用现有商用分立元器件设计并研制出基于Hopfield神经网络的硬件电路。该电路在不同的初始状态下可产生多吸引子共存行为，即多稳定状态，对生物学和信息工程领域具有重要的实际应用价值。

Description

一种基于Hopfield神经网络的多稳定状态振荡电路
技术领域
本发明涉及一种基于Hopfield神经网络的多稳定状态振荡电路，有助于深入了解这种多稳定状态在脑信息处理和认知功能等方面的作用，为脑功能的理解提供神经动力学方面的解释。
背景技术
Hopfield神经网络是神经网络发展史上重要的里程碑，它在组合优化模式识别、联想记忆和立体视觉匹配等方面有着广泛的应用。当神经元激活函数采用非线性函数时，Hopfield神经网络系统属于一种非线性动力学系统，与传统的非线性动力学系统一样，它在一定的参数范围内也能产生混沌吸引子、周期极限环及稳定的点吸引子等复杂非线性动力学行为，说明了Hopfield神经网络可真实模拟大脑在信息处理过程中出现的混沌行为。
然而，多稳定性现象是在一些诸如蔡氏混沌电路、忆阻混沌电路、磁滞继电器系统、递归神经网络等非线性动力学系统和纯粹的非线性数学系统中观察到的一种奇异的、全新的物理现象，显示出非线性动力学系统具有多稳定性的本质特征。多稳定性其实是非线性动力学系统中普遍存在的一种物理现象，在系统参数不变的情况下，改变初始状态，系统运行轨道可能渐近趋向点、混沌、周期、准周期等不同的稳定状态。这意味着，在状态初值相空间中，系统有着若干完全独立的吸引盆，从不同状态初值出发的运行轨道，随着时间的演化很快地落入各自的吸引盆中，形成不同吸引子的共存现象。这种多稳定性也可用于图像去噪与对比度强化处理或作为信息工程应用的随机信号源。
迄今为止，尚未发现在基于Hopfield神经网络中存在这种多稳定状态。因此，研究该基于Hopfield神经网络的多稳定状态振荡电路，具有重要的理论物理意义和实际应用价值。
发明内容
本发明所要解决的技术问题是设计一种具有多稳定状态的Hopfield神经网络振荡电路。
为解决上述技术问题，本发明提供了一种基于Hopfield神经网络的多稳定状态振荡电路，其结构如下：
所述主电路如图1所示，包括：积分通道一、积分通道二、积分通道三。其中，每个通道中的均含有一个反相双曲正切函数单元“–tanh”。
积分通道一中，输入端“–va”串联一个的电阻R1接于运算放大器U1的反相输入端；输入端“vb”串联一个的电阻R2接于运算放大器U1的反相输入端；输入端“–vc”串联一个的电阻R3接于运算放大器U1的反相输入端；U1的反相输入端和输出端之间并联电容C和电阻R，此时U1的输出端输出“v1”；“v1”与反相双曲正切函数单元“–tanh”的输入端相连，“–tanh”函数单元的输出端输出“va”；“va”与电阻R串联接于运算放大器U2的反相输入端，并且U2的反相输入端和输出端之间并联一个电阻R，此时U2的输出端输出“–va”；运算放大器U1和U2的同相输入端均接“地”。
积分通道二中，输入端“va”串联一个的电阻R4接于运算放大器U3的反相输入端；输入端“vc”串联一个的电阻R5接于运算放大器U3的反相输入端；U3的反相输入端和输出端之间并联电容C和电阻R，此时U3的输出端输出“v2”；“v2”与反相双曲正切函数单元“–tanh”的输入端相连，“–tanh”函数单元的输出端输出“vb”；“vb”与电阻R串联接于运算放大器U4的反相输入端，并且U4的反相输入端和输出端之间并联一个电阻R，此时U4的输出端输出“–vb”；运算放大器U3和U4的同相输入端均接“地”。
积分通道三中，输入端“va”串联一个的电阻R6接于运算放大器U5的反相输入端；输入端“–vb”与电阻R7串联接于运算放大器U5的反相输入端；输入端“vc”与电阻R8串联接于运算放大器U5的反相输入端；U5的反相输入端和输出端之间并联电容C和电阻R，此时U5的输出端输出“v3”；“v3”与反相双曲正切函数单元“–tanh”的输入端相连，且“–tanh”函数单元的输出端输出“vc”；“vc”与电阻R串联接于运算放大器U6的反相输入端，并且U6的反相输入端和输出端之间并联一个电阻R，此时U6的输出端输出“–vc”；运算放大器U5和U6的同相输入端均接“地”。
反相双曲正切函数单元电路如图2所示，包括：2个运算放大器Ui和Uo、11个电阻及4个双极型晶体三极管。记双曲正切函数单元输入端为“vi”，输出端为“vo”。输入端“vi”串联一个电阻R与运算放大器Ui的反相输入端相连，Ui的反相输入端和输出端间跨接1个电阻RF；双极型晶体三极管T1的基极与运算放大器Ui的输出端连接，集电极串联1个电阻RC，而电阻RC的另一端与VCC相连；三极管T2的基极接“地”，发射极与T1的发射极相连接，T2的集电极同样与另外一个电阻RC串联，并电阻RC的另一端连接VCC；三极管T3的基极与T4的基极及集电极相连，三极管T3的集电极连接T1的发射极，三极管T3的发射极与T4的发射极分别各自串联1个电阻RT，且这2个电阻RT的另一端均与VEE相连接；精密可调电阻RW的一端连接T4的基极，另一端接“地”；运算放大器Uo的反相输入端与1个电阻R连接，电阻R的另一端与T1的集电极相连，运算放大器Uo的同相输入端同样分别连接2个电阻R的一端，其中1个电阻R的另一端与T2的集电极相连，另一个电阻R的一端接“地”，在Uo的反相输入端和输出端之间再跨接1个电阻R，同时记Uo得输出端输出为“vo”。在主电路3个积分通道中，双曲正切函数单元的输入端分别为“v1”、“v2”和“v3”，输出端分别为“va”、“vb”及“vc”。
所述的一种基于Hopfield神经网络的多稳定状态振荡电路如图1所示，系统方程含有三个状态变量x1、x2、和x3；对应电路状态方程含有三个状态变量v1、v2和v3。
本发明的有益效果如下：提出了一种基于Hopfield神经网络的多稳定状态振荡电路。该电路模型结构简单，较容易实现，同时这种奇异复杂的非线性物理现象的揭示，具有重要的生物学意义和价值。
附图说明
为了使本发明的内容更容易被清楚的理解，下面根据具体实施方案并结合附图，对本发明作进一步详细的说明：
图1一种基于Hopfield神经网络的多稳定状态振荡电路；
图2反相双曲正切函数功能模块的电路实现；
图3耦合连接权重k＝0.95时，在不同初始状态下v1-v3平面上的MATLAB数值仿真相轨图和实验验证结果；
图4耦合连接权重k＝0.9时，在不同初始状态下v1-v3平面上的MATLAB数值仿真相轨图和实验验证结果；
图5耦合连接权重k＝0.67时，在不同初始状态下v1-v3平面上的MATLAB数值仿真相轨图和实验验证结果；
具体实施方式
数学模型：本实施例的一种基于Hopfield神经网络的多稳定状态振荡电路如图1所示。首先，本发明基于一种3神经元的Hopfield神经网络模型，该数学模型可表示为：
其中，为神经元状态矢量，tanh(x)＝[tanh(x1),tanh(x2),tanh(x3)]T为神经元激活非线性函数，W为突触权重矩阵，其可表示为
其中，k为第1神经元至第3神经元的耦合连接权重。
方程式(1)所描述的非线性系统是关于原点对称的。其对称性可从(x1,x2,x3)→(–x1,–x2,–x3)变换后模型的不变性得到，意味着若(x1,x2,x3)为系统(1)的一个解，则(–x1,–x2,–x3)为它的另一个解。
令为系统(1)的一个平衡点，该平衡点可从下式求得
则在平衡点附近系统(1)的雅克比矩阵可表示为
其中，I为3阶单位矩阵，为神经元激活非线性函数在平衡点处的导数。进一步地，式(4)也可表示为
显然，系统(1)有1个零平衡点即原点代入式(5)可得相应的特征多项式方程为
λ3+0.4λ2+(7k-3.52)λ+3.64k-5.2＝0 (6)
根据劳斯判据可推算出，当k≥1.4286时，零平衡点是稳定点；反之，当k<1.4286时，零平衡点是不稳定点。
此外，系统(1)还有2个非零平衡点该非零平衡点的解析方程是三次超越方程，需要借助MATLAB数值计算才可求解。根据(3)式由数值计算方法求出非零平衡点并代入式(5)计算结果得知，当k>0.536时，为2个对称的不稳定鞍焦点；而当k≤0.536时，将变成2个稳定鞍焦点。
数值仿真：利用MATLAB数值仿真软件，对系统(1)所描述的Hopfield神经网络模型开展数值仿真分析。选择龙格-库塔(ODE45)算法对系统方程进行求解，获得系统(1)在x1–x3平面上的相轨图。在耦合连接权重k＝0.95、k＝0.9和k＝0.67时，对应不同初始状态下的MATLAB数值仿真相轨图分别如图3(a)、图4(a)和图5(a)所示。
实验验证：本设计采用了供电电压为±15V的TL082CP的运算放大器、MPS2222型晶体三极管、金属膜电阻、精密可调电阻和独石电容。根据图1示的电路原理图，v1、v2、v3分别代表3个积分电路通道的电容电压状态变量，RC为积分时间常数。因此，图1的电路状态方程表示如下：
设定RC＝100μs。电阻值R＝10kΩ，则电容值取C＝10nF。按照式(2)给出的突触权重矩阵元素，可得其它各电阻的取值分别为：R1＝R/1.4＝7.143kΩ、R2＝R/1.2＝8.333kΩ、R3＝R/7＝1.429kΩ、R4＝R/1.1＝9.091kΩ、R5＝R/2.8＝3.571kΩ、R7＝R/2＝5kΩ和R8＝R/4＝2.5kΩ。电阻R6为精密可调电阻，代表图1电路的可调控制参数，其取值为：R6＝R/k kΩ。在硬件电路实验中可通过不断开启和关断系统电路的电源供电使得电容感应上不同的电压初值来实现初值的设置。本设计中采用Tektronix DPO3034数字存储示波器捕获不用初始状态下的实验波形，分别对数值仿真中的共存多吸引子进行了实验验证，实验结果分别如图3(b)、图4(b)和图5(b)所示。
对比仿真结果和实验结果可以表明：硬件实验捕获到的中实验波形与数值仿真结果完全吻合，验证了理论分析和数值仿真的正确性。因此，说明了基于Hopfield神经网络的电路形式能展现出各种复杂的多吸引子共存现象。特别地，该多稳定性现象在神经网络动力学系统方面暂无文献成果报道，对神经学及生物学有着重要的价值。
上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。

Claims (3)

1.一种基于Hopfield神经网络的多稳定状态振荡电路，其特征在于：电路包括三个积分通道，在不同的参数和初始状态下，该电路可产生多稳定状态。
2.根据权利要求1所述的一种基于Hopfield神经网络的多稳定状态振荡电路，其特征在于：所述Hopfield神经网络的电路实现有三个积分通道；积分通道一有3个输入端，分别为“–va”、“vb”和“–vc”，且积分器电容上并联电阻R，通过积分器后输出“v1”，接着“v1”经过“–tanh”单元模块输出“va”，最后经过一级反相器输出“–va”；积分通道二有2个输入端，分别为“va”和“vc”，且积分器电容上并联电阻R，通过积分器后输出“v2”，接着“v2”经过“–tanh”单元模块输出“vb”，最后经过一级反相器输出“–vb”；积分通道三有3个输入端，分别为“va”、“–vb”和“vc”，且积分器电容上并联电阻R，通过积分器后输出“v3”，接着“v3”经过“–tanh”单元模块输出“vc”，最后经过一级反相器输出“–vc”；运算放大器U1、U2、U3、U4、U5和U6的同相输入端均接“地”。
3.根据权利要求1或2所述的一种基于Hopfield神经网络的多稳定状态振荡电路，其特征在于，系统方程含有三个状态变量x1、x2和x3；对应电路状态方程含有三个状态变量v1、v2和v3。
CN201710845238.8A 2017-09-19 2017-09-19 一种基于Hopfield神经网络的多稳定状态振荡电路 Pending CN107784359A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710845238.8A CN107784359A (zh) 2017-09-19 2017-09-19 一种基于Hopfield神经网络的多稳定状态振荡电路

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710845238.8A CN107784359A (zh) 2017-09-19 2017-09-19 一种基于Hopfield神经网络的多稳定状态振荡电路

Publications (1)

Publication Number Publication Date
CN107784359A true CN107784359A (zh) 2018-03-09

Family

ID=61437596

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710845238.8A Pending CN107784359A (zh) 2017-09-19 2017-09-19 一种基于Hopfield神经网络的多稳定状态振荡电路

Country Status (1)

Country Link
CN (1) CN107784359A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108632016A (zh) * 2018-04-17 2018-10-09 郑州轻工业学院 一种多吸引子的自治忆阻混沌电路
CN110097182A (zh) * 2019-04-10 2019-08-06 常州大学 用神经激活梯度λ控制的三维Hopfield神经网络模型实现电路
CN110956250A (zh) * 2018-09-27 2020-04-03 常州星宇车灯股份有限公司 一种具有共存多吸引子的双忆阻Hopfield神经网络模型
CN112906878A (zh) * 2021-03-11 2021-06-04 杭州电子科技大学 一种模拟电磁辐射下的Hopfield神经网络模型

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101216530A (zh) * 2007-12-29 2008-07-09 湖南大学 一种电子电路测试与故障诊断参数识别优化方法
US20110119215A1 (en) * 2009-11-13 2011-05-19 International Business Machines Corporation Hardware analog-digital neural networks
CN105681020A (zh) * 2016-03-12 2016-06-15 常州大学 一种基于无平衡点忆阻系统的超混沌隐藏振荡电路
CN106656458A (zh) * 2016-10-18 2017-05-10 江苏理工学院 超混沌隐藏吸引子产生电路及其构建方法
CN107124258A (zh) * 2017-03-31 2017-09-01 常州大学 一种基于周期激励忆阻系统的混沌振荡电路

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101216530A (zh) * 2007-12-29 2008-07-09 湖南大学 一种电子电路测试与故障诊断参数识别优化方法
US20110119215A1 (en) * 2009-11-13 2011-05-19 International Business Machines Corporation Hardware analog-digital neural networks
CN105681020A (zh) * 2016-03-12 2016-06-15 常州大学 一种基于无平衡点忆阻系统的超混沌隐藏振荡电路
CN106656458A (zh) * 2016-10-18 2017-05-10 江苏理工学院 超混沌隐藏吸引子产生电路及其构建方法
CN107124258A (zh) * 2017-03-31 2017-09-01 常州大学 一种基于周期激励忆阻系统的混沌振荡电路

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
BOCHENG BAO ET AL.: ""Coexisting Behaviors of Asymmetric Attractors in Hyperbolic-Type Memristor based Hopfield Neural Network", 《COMPUTATIONAL NEUROSCIENCE》 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108632016A (zh) * 2018-04-17 2018-10-09 郑州轻工业学院 一种多吸引子的自治忆阻混沌电路
CN108632016B (zh) * 2018-04-17 2020-07-24 郑州轻工业学院 一种多吸引子的自治忆阻混沌电路
CN110956250A (zh) * 2018-09-27 2020-04-03 常州星宇车灯股份有限公司 一种具有共存多吸引子的双忆阻Hopfield神经网络模型
CN110097182A (zh) * 2019-04-10 2019-08-06 常州大学 用神经激活梯度λ控制的三维Hopfield神经网络模型实现电路
CN110097182B (zh) * 2019-04-10 2023-03-24 常州大学 用神经激活梯度λ控制的三维Hopfield神经网络模型实现电路
CN112906878A (zh) * 2021-03-11 2021-06-04 杭州电子科技大学 一种模拟电磁辐射下的Hopfield神经网络模型

Similar Documents

Publication Publication Date Title
Chen et al. Stability and synchronization of memristor-based fractional-order delayed neural networks
CN107784359A (zh) 一种基于Hopfield神经网络的多稳定状态振荡电路
Wu et al. Anti-synchronization control of a class of memristive recurrent neural networks
Abdurahman et al. Finite-time synchronization for memristor-based neural networks with time-varying delays
Hu et al. An electronic implementation for Morris–Lecar neuron model
Vaidyanathan Adaptive synchronization of the identical FitzHugh-Nagumo chaotic neuron models
Dongale et al. Modelling of nanostructured memristor device characteristics using artificial neural network (ANN)
CN110097182B (zh) 用神经激活梯度λ控制的三维Hopfield神经网络模型实现电路
Xu et al. Piecewise-linear simplification for adaptive synaptic neuron model
Sahin et al. Design of a hyperchaotic memristive circuit based on wien bridge oscillator
CN113344191B (zh) 具有超级多稳定性的连续型Rulkov电子神经元电路
Magerl et al. Echo state networks for black-box modeling of integrated circuits
Coombes et al. Neurodynamics
Mou et al. A novel memcapacitive-synapse neuron: Bionic modeling, complex dynamics analysis and circuit implementation
Cao et al. Impulsive control via variable impulsive perturbations on a generalized robust stability for Cohen–Grossberg neural networks with mixed delays
Ersoy et al. Electronically charge-controlled tunable meminductor emulator circuit with OTAs and its applications
Ntinas et al. Coupled physarum-inspired memristor oscillators for neuron-like operations
Foulloy et al. An educational tool for fuzzy control
Nanami et al. Elliptic and parabolic bursting in a digital silicon neuron model
Yu et al. Periodic behaviors in a digital filter with two's complement arithmetic
Kohno et al. Silicon neuronal networks towards brain-morphic computers
Ochs et al. Kuramoto model with Hebbian learning mimics spatial correlations causing an optical illusion
Caamaño et al. τ-NEAT: Initial experiments in precise temporal processing through neuroevolution
Wang et al. Exponential stability analysis of mixed delayed quaternion-valued neural networks via decomposed approach
Orjuela-Cañón et al. Granger causality analysis based on neural networks architectures for bivariate cases

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20180309

WD01 Invention patent application deemed withdrawn after publication