CN110110840B - 一种基于忆阻神经网络的联想记忆情感识别电路 - Google Patents

一种基于忆阻神经网络的联想记忆情感识别电路 Download PDF

Info

Publication number
CN110110840B
CN110110840B CN201910324683.9A CN201910324683A CN110110840B CN 110110840 B CN110110840 B CN 110110840B CN 201910324683 A CN201910324683 A CN 201910324683A CN 110110840 B CN110110840 B CN 110110840B
Authority
CN
China
Prior art keywords
synapse
input
unit
neural network
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910324683.9A
Other languages
English (en)
Other versions
CN110110840A (zh
Inventor
王雷敏
邹化宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China University of Geosciences
Original Assignee
China University of Geosciences
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China University of Geosciences filed Critical China University of Geosciences
Priority to CN201910324683.9A priority Critical patent/CN110110840B/zh
Publication of CN110110840A publication Critical patent/CN110110840A/zh
Application granted granted Critical
Publication of CN110110840B publication Critical patent/CN110110840B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/008Artificial life, i.e. computing arrangements simulating life based on physical entities controlled by simulated intelligence so as to replicate intelligent life forms, e.g. based on robots replicating pets or humans in their appearance or behaviour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Robotics (AREA)
  • Neurology (AREA)
  • Image Analysis (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明提供了一种基于忆阻神经网络的联想记忆情感识别电路,该电路包括输入单元、逻辑判断单元、突触单元、学习速度调节单元、输出处理单元和输出单元;所述输入单元用来模拟神经网络中的输入神经元;输出单元用来模拟神经网络中的输出神经元;该电路用于实现一种基于忆阻神经网络的联想记忆情感识别方法;利用神经网络,建立基于忆阻神经网络的联想记忆情感识别模型,用来模拟人类感知器。本发明的有益效果是:基于忆阻神经网络的联想记忆情感识别电路的集成化程度更高,实现了对人类学习速度变化的模拟,更好的对人类情绪变化进行模拟,提高智能机器模拟人类思考和行为的可能性;增强了模拟神经网络的仿生能力和实用性。

Description

一种基于忆阻神经网络的联想记忆情感识别电路
技术领域
本发明涉及神经网络领域,尤其涉及一种基于忆阻神经网络的联想记忆情感识别电路。
背景技术
神经网络被广泛应用于人工智能领域,在模式识别、图像处理与数据挖掘等技术中都能看到它的身影。2012年至今,基于软件方式实现的神经网络得到了飞速发展和广泛应用,实际上相较于软件方式实现的神经网络而言,基于硬件方式实现的神经网络能够更好地实现算法的高速并行处理,在数据量越来越大、模型越来越复杂的今天,高速并行处理、低功耗的硬件神经网络电路具有着巨大的研究价值与实际意义。
传统的硬件神经网络电路只能靠晶体管来设计神经网络中的神经突触结构电路,受制于摩尔定律,这样做的集成化成度太低。举例而言,生物神经网络突触密度一般能够达到1010synapses/cm2,而如今半导体技术设计的神经网络电路中突触密度最高只能达到109synapses/cm2。2008年,忆阻器(纳米级电子元器件)的出现使得实现更高集成化的神经网络芯片成为可能,延续摩尔定律出现了新的转机。忆阻器是一种阻值在一定范围内连续可变的电阻,其优秀特性并不仅仅体现在它的体积远远小于晶体管,最重要的是忆阻器在硬件电路中能够同时实现运算与存储两种功能,这就打破了冯若依曼现代计算机结构,即不再会因为CPU读取处理数据而浪费大量时间,这些因素使得忆阻器成为了用于设计神经网络突触结构电路的元器件的不二之选。
联想记忆是人类大脑的一种重要记忆方式,打个比方:人类能够通过一篇文章的上下文来回忆起某几个模糊的单词;能够通过一些事物回忆起他们本快遗忘的某事。将忆阻神经网络与联想记忆相结合,使得机器人模拟生物思维,像人类一样思考具有重大的意义。
发明内容
为了解决上述问题,本发明提供了一种基于忆阻神经网络的联想记忆情感识别电路,该电路包括输入单元、逻辑判断单元、突触单元、学习速度调节单元、输出处理单元和输出单元;所述输入单元包括第一输入单元、第二输入单元和第三输入单元,用来模拟神经网络中的3个输入神经元;逻辑判断单元包括第一判断单元和第二判断单元,用来模拟神经网络中的神经元根据3个输入神经元的输入信号进行判断当前所处的状态,所述状态包括学习状态和遗忘状态;突触单元用来模拟神经元之间的突触S1、S2、S3、S4、S5和S6,其中,突触S1和突触S6为亢奋突触,突触S2和突触S5为抑制突触,且突触S1、S2、S5和S6各自的阻值固定不变,即突触强度不会发生变化,用于模拟神经元的无条件反射,突触S3和突触S4为可根据自身输入和输出端的电压的不同在某一范围内变化的阻值,即突触的强度可发生变化,用于模拟神经元的条件反射;学习速度调节单元包括第一调节单元和第二调节单元,用来模拟神经网络中的神经元判断是否是第一次学习,若是,则学习速度调节单元不作出反馈;若否,则学习速度调节单元与逻辑判断单元通过加法器共同作用于突触单元中的突触S3和突触S4,导致突触S3和突触S4输入输出两端的电压变小,从而导致突触S3和突触S4的阻值变化速度变快,模拟神经网络中的突触强度快速增强,使第二次及之后学习情感识别所需的学习时间减少;输出处理单元包括第一处理单元和第二处理单元,用来对突触输出的内容进行求和处理,便于输出单元输出;输出单元包括第一输出单元和第二输出单元,用来模拟神经网络中的输出神经元,输出情感识别类别;
突触S1的电路为:电阻R1的输出端分别连接电阻R2的输入端和第一运放器的输入信号1端,电阻R2的输入端和输出端分别和第一运放器的输入信号1端及输出端连接;突触S2的电路为:电阻R3的输出端分别连接电阻R4的输入端和第二运放器的输入端,电阻R4的输入端和输出端分别和第二运放器的输入信号1端及输出端连接;突触S3的电路为:忆阻器M1的输出端分别连接电阻R5的输入端和第三运放器的输入端,电阻R5的输入端和输出端分别和第三运放器的输入信号1端及输出端连接;其中,第一运放器、第二运放器和第三运放器的输入信号2端均接地;突触S1和突触S5的电路相同,突触S2和突触S6的电路相同,突触S3和突触S4的电路相同;
第一输入单元的输出端分别连接突触S1中的电阻R1的输入端、突触S2中的电阻R3的输入端和第一判断单元的输入端IN1,第二输入单元的输出端分别连接第一判断单元的输入端IN2和第二判断单元的输入端IN1,同理,第三输入单元的输出端分别连接突触S5中电阻R3的输入端、突触S6中电阻R1的输入端和第二判断单元的输入端IN2,第一判断单元的输出端通过加法器分别连接突触S3的输入端和第一调节单元的输出端,第二判断单元的输出端通过加法器分别连接突触S4中的忆阻器M1的输入端和第二调节单元的输出端,突触S1的输出端和突触S6的输出端均连接第一处理单元的输入端,突触S2的输出端和突触S5的输出端均连接第二处理单元的输入端,突触S3的输出端分别连接第一处理单元的输入端和第一调节单元的输入端,突触S4的输出端分别连接第二处理单元的输入端和第二调节单元的输入端,第一处理单元的输出端连接第一输出单元的输入端,第二处理单元的输出端连接第二输出单元的输入端。
进一步地,所述基于忆阻神经网络的联想记忆情感识别电路用于实现一种基于忆阻神经网络的联想记忆情感识别方法;利用神经网络,建立基于忆阻神经网络的联想记忆情感识别模型,用来模拟人类感知器;该基于忆阻神经网络的联想记忆情感识别电路的第一输入单元、第二输入单元和第三输入单元分别为所述基于忆阻神经网络的联想记忆情感识别模型的3个输入神经元:NG、NU和NB,分别用于输入好消息、未知消息和坏消息信号,所述基于忆阻神经网络的联想记忆情感识别电路的输出单元为所述基于忆阻神经网络的联想记忆情感识别模型的2个输出神经元:NH和NS,分别用于输出情感识别类型兴奋和悲伤;所述基于忆阻神经网络的联想记忆情感识别电路的突触单元为所述基于忆阻神经网络的联想记忆情感识别模型中模仿神经元中的突触:突触S1、突触S2、突触S3、突触S4、突触S5和突触S6,其中,未知消息与2个输出端之间的突触S3和突触S4采用的忆阻,其他4个突触采用的是常值电阻;当在该基于忆阻神经网络的联想记忆情感识别模型的NG中输入好消息信号,该模型总得到NH,输出兴奋信号;当在该基于忆阻神经网络的联想记忆情感识别模型的NB中输入坏消息信号,该模型总得到NS,输出悲伤信号;当在该基于忆阻神经网络的联想记忆情感识别模型的NG中输入好消息信号,NU中输入未知消息信号,该模型也会得到NH,输出兴奋信号;最后再单独在NU中输入未知消息信号,得到的也是NH,输出兴奋信号;同理,当在该基于忆阻神经网络的联想记忆情感识别模型的NB中输入坏消息信号,NB中输入未知消息信号,该模型也会得到NS,输出悲伤信号;经过一段学习过程后,再单独在NU中输入未知消息信号,得到的也是NS,输出悲伤信号;所以,经过训练后,在NU中输入未知消息信号后,该基于忆阻神经网络的联想记忆情感识别模型会自动输出未知消息信号的情感类别。
进一步地,突触S3和突触S4的变化规则为:一个电压对应于一个确定的阻值。
进一步地,所述基于忆阻神经网络的联想记忆情感识别模型具有4个阶段,学习阶段和3个遗忘阶段,经历过遗忘阶段后,该模型不会再识别未知消息。
进一步地,所述基于忆阻神经网络的联想记忆情感识别模型具有遗忘性能,需要训练后才能进行情感识别。
进一步地,所述基于忆阻神经网络的联想记忆情感识别模型在情感识别时,在第一次训练后的训练时长小于第一次训练的训练时长。
进一步地,学习速度调节单元的学习速度调节原理为:通过学习速度调节单元判断当前是否处于学习阶段,若是,则产生一个学习速度调节信号,该调节信号实质上是一个电压,学习速度调节单元将该电压反馈到逻辑判断单元的输出端,通过加法器对该电压和逻辑判断单元的输出电压进行求和或求差处理,增大或者减少突触S3或突触S4的输入输出两端间的电压,突触S3或S4输入输出两端间的电压的不同,导致忆阻器M1或M2的阻值的改变速度不同,即突触强度的变化速度不同,也就是学习速度不同;电压越小,忆阻器的阻值下降越快,模拟神经网络中的突触强度增强越快。
本发明提供的技术方案带来的有益效果是:将忆阻神经网络电路与联想记忆充分融合,建立三输入,六突触,两输出的多状态模型,提高了实用性和模拟神经突触的相似性;实现了学习速度的变化调节,缩短了再次学习的时间。
附图说明
下面将结合附图及实施例对本发明作进一步说明,附图中:
图1是本发明实施例中一种基于忆阻神经网络的联想记忆情感识别电路图;
图2是本发明实施例中基于忆阻神经网络的联想记忆情感识别模型图;
图3是本发明实施例中神经元电路结构图;
图4是本发明实施例中神经突触电路图;
图5是本发明实施例中学习速度调节电路图;
图6是本发明实施例中学习阶段与遗忘阶段的仿真结果1;
图7是本发明实施例中学习阶段与遗忘阶段的仿真结果2。
具体实施方式
为了对本发明的技术特征、目的和效果有更加清楚的理解,现对照附图详细说明本发明的具体实施方式。
当人类感知器接收到好消息时,它会感到兴奋,这是先天反应,同样的,当它接收到坏消息时,它会感到悲伤;而当一个人的消息感知器接收到一个某个未知消息时,最先开始它无法判断该消息的好坏,因此该消息不会引起情绪变化。在某段时间内,该消息总是和好消息或者坏消息一起出现,以后当该消息被人类单独感知到时,人类就会产生兴奋或者悲伤的情绪,经过一段时间的遗忘,即该信号持续单独出现或者在某段时间内该信号一直没有出现,那么该消息又会失去影响人类情绪变化的能力。然而,即便如此,当人类第二次学习判断该消息的好坏时,所需要的学习时间应该要比第一次学习接触该消息所需要的时间要短,这也是要实现的仿生功能。
本发明的实施例提供了一种基于忆阻神经网络的联想记忆情感识别电路,用于实现一种基于忆阻神经网络的联想记忆情感识别方法;利用神经网络,建立基于忆阻神经网络的联想记忆情感识别模型,用来模拟人类感知器。
请参考图1,图1是本发明实施例中一种基于忆阻神经网络的联想记忆情感识别电路的示意图,该电路包括输入单元、逻辑判断单元、突触单元、学习速度调节单元、输出处理单元和输出单元;所述输入单元包括第一输入单元、第二输入单元和第三输入单元,用来模拟神经网络中的3个输入神经元;逻辑判断单元包括第一判断单元和第二判断单元,用来模拟神经网络中的神经元根据3个输入神经元的输入信号进行判断当前所处的状态,所述状态包括学习状态和遗忘状态,当处于学习状态时,第一判断单元同时接收到第一输入单元和第二输入单元的输出信号或者第二判断单元同时接收到第三输入单元和第二输入单元的输出信号;处于遗忘状态时,逻辑判断单元只接收到一个输入单元的输出信号,即只接收到第一输入单元或者第二输入单元或者第三输入单元的输出信号,或者是逻辑判断单元没有接收到任何信号;在不同的状态下突触S3和S4两端的电压不同,这是由于学习速度调节单元输出的电压和逻辑判断单元输出的电压通过加法器共同作用于忆阻器M1和M2,忆阻器M1和M2自身输入输出两端间的电压变化,使得忆阻器M1和M2的阻值变化,进而改变了突触S3和S4的阻值;突触单元用来模拟神经元之间的突触S1、S2、S3、S4、S5和S6,其中,突触S1和突触S6为亢奋突触,突触S2和突触S5为抑制突触,且突触S1、S2、S5和S6各自的阻值固定不变,即突触强度不会发生变化,用于模拟神经元的无条件反射,突触S3和突触S4为可根据自身输入和输出端的电压的不同在某一范围内变化的阻值,即突触的强度可发生变化,用于模拟神经元的条件反射;突触S3和突触S4的变化规则为:一个电压对应于一个确定的阻值;学习速度调节单元包括第一调节单元和第二调节单元,用来模拟神经网络中的神经元判断是否是第一次学习,若是,则学习速度调节单元不作出反馈,即学习速度调节单元不会对突触S3或突触S4产生任何作用;若否,则学习速度调节单元与逻辑判断单元通过加法器共同作用于突触单元中的突触S3或突触S4,导致突触S3或突触S4输入输出两端的电压变小,从而导致突触S3和突触S4的阻值变化速度变快,模拟神经网络中的突触强度快速增强,使第二次及之后学习情感识别所需的学习时间减少;学习速度调节原理为:通过学习速度调节单元判断当前是否处于学习阶段,若是,则产生一个学习速度调节信号,该调节信号实质上是一个电压,学习速度调节单元将该电压反馈到逻辑判断单元的输出端,通过加法器对该电压和逻辑判断单元的输出电压进行求和或求差处理,增大或者减少突触S3或突触S4的输入输出两端间的电压,随着突触S3或S4输入输出两端间的电压的不同,忆阻器M1或M2的阻值的改变速度也不同,即突触强度的变化速度不同,也就是学习速度不同;电压越小,忆阻器的阻值下降越快。
因为忆阻器的变化规律:超过正向阈值后电压幅值越小忆阻器的阻值变化速度越快,导致可以通过调节忆阻器两端的电压大小来改变突触S3和S4的突触强度;所述加法器是一种电路标志,作用是加减电压,也就是对电压进行求和或求差,称为信号加法器;输出处理单元包括第一处理单元和第二处理单元,用来对突触输出的内容进行求和处理,便于输出单元输出;输出单元包括第一输出单元和第二输出单元,用来模拟神经网络中的输出神经元,输出情感识别类别;
突触S1的电路为:电阻R1的输出端分别连接电阻R2的输入端和第一运放器的输入信号1端,电阻R2的输入端和输出端分别和第一运放器的输入信号1端及输出端连接;突触S2的电路为:电阻R3的输出端分别连接电阻R4的输入端和第二运放器的输入端,电阻R4的输入端和输出端分别和第二运放器的输入信号1端及输出端连接;突触S3的电路为:忆阻器M1的输出端分别连接电阻R5的输入端和第三运放器的输入端,电阻R5的输入端和输出端分别和第三运放器的输入信号1端及输出端连接;其中,第一运放器、第二运放器和第三运放器的输入信号2端均接地;突触S1和突触S5的电路相同,突触S2和突触S6的电路相同,突触S3和突触S4的电路相同;即突触S4的电路为:忆阻器M2的输出端分别连接电阻R6的输入端和第三运放器的输入端,电阻R6和第四运放器的输入信号1端及输出端连接;突触S5的电路为:电阻R7的输出端分别连接电阻R8的输入端和第五运放器的输入信号1端,电阻R8和第五运放器的输入信号1端及输出端连接;突触S6的电路为:电阻R9的输出端分别连接电阻R10的输入端和第六运放器的输入端,电阻R10和第六运放器的输入信号1端及输出端连接;其中,第四运放器、第五运放器和第六运放器的输入信号2端均接地;
第一输入单元的输出端分别连接突触S1中的电阻R1的输入端、突触S2中的电阻R3的输入端和第一判断单元的输入端IN1,第二输入单元的输出端分别连接第一判断单元的输入端IN2和第二判断单元的输入端IN1,同理,第三输入单元的输出端分别连接突触S5中电阻R3的输入端、突触S6中电阻R1的输入端和第二判断单元的输入端IN2,第一判断单元的输出端通过加法器分别连接突触S3的输入端和第一调节单元的输出端,第二判断单元的输出端通过加法器分别连接突触S4中的忆阻器M1的输入端和第二调节单元的输出端,突触S1的输出端和突触S6的输出端均连接第一处理单元的输入端,突触S2的输出端和突触S5的输出端均连接第二处理单元的输入端,突触S3的输出端分别连接第一处理单元的输入端和第一调节单元的输入端,突触S4的输出端分别连接第二处理单元的输入端和第二调节单元的输入端,第一处理单元的输出端连接第一输出单元的输入端,第二处理单元的输出端连接第二输出单元的输入端。
请参考图2,图2是本发明实施例中基于忆阻神经网络的联想记忆情感识别模型图,NG、NU、NB分别表示输入好消息信号、未知消息信号和坏消息信号的神经元,NH、NS分别表示输出兴奋信号和悲伤信号的神经元。当该模型接收到好消息信号或者坏消息信号时,兴奋信号或者悲伤信号的神经元产生相应的输出,即输出兴奋信号或者悲伤信号。两两神经元之间通过突触连接,突触的强弱代表着前后两神经元之间的关系强度,比如NG与NH两神经元之间的突触强度始终很强,而NG与NS两神经元之间的突触强度则很弱,NU与NH或NS之间的突触强度则会通过学习与遗忘过程而发生改变。所述基于忆阻神经网络的联想记忆情感识别模型具有4个阶段,学习阶段和3个遗忘阶段,经历过遗忘阶段后,该模型不会再识别未知消息信号。所述基于忆阻神经网络的联想记忆情感识别模型具有遗忘性能,需要训练后才能进行情感识别。所述基于忆阻神经网络的联想记忆情感识别模型在情感识别时,在第一次训练后的训练时长小于第一次训练的训练时长。
所述基于忆阻神经网络的联想记忆情感识别电路用于实现一种基于忆阻神经网络的联想记忆情感识别方法;利用神经网络,建立基于忆阻神经网络的联想记忆情感识别模型,用来模拟人类感知器;该基于忆阻神经网络的联想记忆情感识别电路的第一输入单元、第二输入单元和第三输入单元分别为所述基于忆阻神经网络的联想记忆情感识别模型的3个输入神经元:NG、NU和NB,分别用于输入好消息、未知消息和坏消息信号,所述基于忆阻神经网络的联想记忆情感识别电路的输出单元为所述基于忆阻神经网络的联想记忆情感识别模型的2个输出神经元:NH和NS,分别用于输出情感识别类型兴奋和悲伤;所述基于忆阻神经网络的联想记忆情感识别电路的突触单元为所述基于忆阻神经网络的联想记忆情感识别模型中模仿神经元中的突触:突触S1、突触S2、突触S3、突触S4、突触S5和突触S6,其中,未知消息与2个输出端之间的突触S3和突触S4采用的忆阻,其他4个突触采用的是常值电阻;当在该基于忆阻神经网络的联想记忆情感识别模型的NG中输入好消息信号,该模型总得到NH,输出兴奋信号;当在该基于忆阻神经网络的联想记忆情感识别模型的NB中输入坏消息信号,该模型总得到NS,输出悲伤信号;当在该基于忆阻神经网络的联想记忆情感识别模型的NG中输入好消息信号,NU中输入未知消息信号,该模型也会得到NH,输出兴奋信号;最后再单独在NU中输入未知消息信号,得到的也是NH,输出兴奋信号;同理,当在该基于忆阻神经网络的联想记忆情感识别模型的NB中输入坏消息信号,NB中输入未知消息信号,该模型也会得到NS,输出悲伤信号;经过一段学习过程后,再单独在NU中输入未知消息信号,得到的也是NS,输出悲伤信号;所以,经过训练后,在NU中输入未知消息信号后,该基于忆阻神经网络的联想记忆情感识别模型会自动输出未知消息信号的情感类别。
请参考图3,图3是本发明实施例中神经元电路结构图,图3中包含两个运放器OP1和OP2以及一个555定时器。OP1与555定时器的作用是接受刺激信号,实际上在现实生活中两个神经元不可能总是刚好一起兴奋,会存在极小的延时,利用555定时器可以消除这种时间差的影响。运放器OP2实际上是一个比较器,作用是实现神经元的电压阈值特性。如果输入信号超过阈值,神经元做出应激反应。如果输入脉冲信号小于神经元电压阈值,则神经元不会做出应激反应。
请参见图4,图4是本发明实施例中神经突触电路图,所述神经突触即是指突触S1、S2、S3、S4、S5和S6,依据运放器的虚短虚断的性质,突触的输入输出有如下关系:
Figure GDA0002704227090000091
其中,Rs代表忆阻或者常值电阻的阻值,当神经突触是图2中突触S3或S4时,Rs为忆阻器,突触S3和S4的突触强度在外加电压下会发生变化,需要通过改变忆阻器的阻值来实现。当神经突触是图2中的突触S1或S6时,则Rs为阻值较小的常值电阻,以确保S1和S6的突触强度一直较大;当神经突触是图2中的S2或S5时,则Rs为阻值较大的常值电阻,以确保S2和S5的突触强度一直较小。
请参见图5,图5是本发明实施例中学习速度调节电路图,当人类第二次学习判断未知消息的好坏时,所需要的学习时间应该要比第一次学习接触该未知消息时所需要的时间要短,这也就是要实现的仿生能力。
利用该电路判断是否是第一次学习,若否,则产生一个再次学习的标志信号,利用该标志信号再产生再次学习所需要的学习信号,利用施加在忆阻器两端电压不同则学习速度不同这一特点,实现对再次学习时的学习速度的调节。假如是第二次学习,则产生一个第二次学习的标志信号,利用该标志信号再产生第二次学习所需要的学习信号,利用施加在忆阻器两端电压不同则学习速度不同这一特点来实现学习速度的调节。
该电路的输入信号来自于如图1和图2所示的突触S3或S4的输出信号,在本实施例中,当突触S3或S4经过第一次学习阶段后,输入信号会达到5V,因此图5中所示的Vth1的设定阈值为4.5V,突触S3或者S4的输出信号为该电路的INPUT的输入信号,当该输入信号大于Vth1的设定阈值时,该输入信号经过运放OP1就会产生一个上升沿信号;运放OP2和OP3与555定时器共同组成一个信号产生模块,运放OP1的输出信号经过该信号产生模块产生一个代表第二次学习的标志信号,该标志信号的脉冲宽度根据实际情况由端口6接的电阻阻值进行调节。该标志信号通过一个与突触类似的结构产生一个学习速度调节信号,其实质是将该标志信号作用在忆阻器上引起的该忆阻器的阻值变化,转换为特定幅值的电压信号,该电压信号反馈到突触S3或S4中的忆阻器上,就可以使得突触S3或S4的输出信号发生改变。随着突触S3或S4输入输出两端间的电压的不断变化,忆阻器M1或M2的阻值的改变速度也不同,即突触强度的变化速度不同,也就是学习速度不同。
运放OP1与555定时器的作用是接受刺激信号,在实际生活中两个神经元不可能总是刚好同时兴奋,会存在极小的延时现象,利用555定时器可以消除这种延时的影响。运放OP2实际上是一个比较器,作用是实现神经网络中的神经元的电压设定阈值特性。如果输入信号超过电压设定阈值,神经元做出应激反应。如果输入脉冲信号小于神经元电压阈值,则神经元不会做出应激反应,
当施加超过正电压阈值的正向脉冲时,电压幅值越小,忆阻阻值下降越快;而当施加超过负电压阈值的负向脉冲时,规律则恰好相反。这表明该电路结构不仅可以实现学习速度的变化,也可以实现遗忘速度的变化,即第二次遗忘的速度要比第一次遗忘的速度慢,其原理与学习速度的调整原理是一样的。在学习阶段,突触强度要增大,则需要忆阻器的阻值减小,就要给突触S3或S4两端施加正向电压,而且学习速度不同,则需要施加的电压大小也会有区别;在遗忘阶段,突触强度要减小,则需要忆阻器的阻值增大,就要给突触S3或S4两端施加反向电压,而且不同遗忘阶段,施加电压大小有区别;给忆阻器施加的电压要大于正向电压阈值或者小于负向电压阈值,如果施加的电压在正负阈值之间,忆阻器的阻值不会发生变化,即是突触S3或S4的强度不会变化。
请参见图6,图6是本发明实施例中学习阶段与遗忘阶段的仿真结果1,该图包括了两次学习阶段以及Forfet1(F1)、Forget2(F2)两种不同类型的遗忘阶段,还包括4次测试TEST1、TEST2、TEST3和TEST4;Forfet1是指经过学习阶段后,一段时间内只先单独输入好消息信号或者是坏消息信号,然后再单独输入未知消息信号的情况;Forget2是指经过学习阶段后,一段时间内只单独输入未知消息信号的情况;首先在TEST1中,NG产生幅值为5V,脉冲宽度为1s。该输入信号通过突触S1刺激NH获得输出信号,为兴奋状态,也即输出兴奋信号,而由于S2突触强度较弱,因此NS没有输出信号,为抑制状态。7s后,神经元NU发出测试信号,此时没有经历过学习阶段,S3、S4的突触强度都很低,因此NH、NS都处于抑制状态,没有输出信号。14S时NB发出测试信号,神经元NS处于兴奋状态,而NH处于抑制状态,这与前面情感模型描述的状态相符合。LEARN1阶段中神经元NG与NU一起发出信号,该过程中因为NG一直在发出刺激信号,所以NH一直处于兴奋状态。经过91s的学习,S3的突触强度逐渐增强。NU单独发出刺激信号也可以让NH处于兴奋状态,如TEST2所示。Forget1遗忘过程中,NG单独发出刺激信号,NU没有信号产生。这个阶段相当于在学习成功后的某段时间内未知消息信号没有再和好消息信号一起出现。Forget1阶段后未知消息信号单独出现,不能再引起模型的情绪变化。如在TEST3中,NU单独发出刺激信号,NH却始终处于抑制状态。LEARN2是第二次学习阶段,该过程只需要持续70s。只需要70s就能重新学会判断该未知消息信号,用时少于第一次学习阶段。这与人类第二次学习同样的东西速度一般比第一次要快的客观规律相符合。Test4中NU单独发出信号,NH处于兴奋状态。之后进入Foregt2阶段,在这个时间段里NU单独发出信号,S3的突触强度逐渐降低。NH的输出信号经历了从有到无的过程。由于S4、S5的突触强度一直较弱且NB信号没有发出刺激信号。因此除了TEST1阶段以外,NS一直都处于抑制状态。
请参见图7,图7是本发明实施例中学习阶段与遗忘阶段的仿真结果2,该图包括了两次学习阶段以及Foregt3(F3)遗忘阶段,Foregt3是指经过学习阶段后,一段时间内任何信号都不输入,然后再单独输入好消息信号或者是坏消息信号;该图中的TEST1阶段与图6中的TEST1阶段完全相同。LEARN1中输入神经元NU与NB一起输入相应信号,就是模拟神经网络中的神经元发出刺激信号,表示未知消息信号总伴随坏消息信号一起出现。由于突触S5的权重很大,因此输入神经元NB输入的相应信号使得输出神经元NS处于兴奋状态。该学习阶段为91s,TEST2中输入神经元NU单独输入相应信号,也就是模拟神经网络中的神经元发出刺激信号,也能够使得输出神经元NS处于兴奋状态。表明经历过学习阶段后,突触S4的强度得到了增强。Forget3遗忘阶段表示该过程中没有任何刺激信号存在,会导致完全遗忘。TEST3中输入神经元NU单独发出刺激信号,也就是输入神经元NU中输入相应信号,输出神经元NS没有响应。人类在完全遗忘某件事后,第二次接触回忆起该事件的速度与第一次接触所花的时间相同。这也是为什么LEARN2阶段的时间与LEARN1阶段的时间完全相同的原因,且两次学习阶段的学习速度相同。Test4中输入神经元NU中的单独输入相应信号,又可以使得输出神经元NS处于兴奋状态。该图中的Forget2阶段与图6中的Forget2阶段类似。由于突触S3和S6突触强度很弱,并且输入神经元NG一直没有输出信号,所以输出神经元NH除了TEST1阶段以外一直处于抑制状态。
本发明的有益效果是:该模型基于忆阻器增强了人工神经网络硬件电路的集成化度和功能性,对情感认知以及学习速度变化的实现提高了智能机器模拟人类的思考与行为的可能性。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (7)

1.一种基于忆阻神经网络的联想记忆情感识别电路,其特征在于:该电路包括输入单元、逻辑判断单元、突触单元、学习速度调节单元、输出处理单元和输出单元;所述输入单元包括第一输入单元、第二输入单元和第三输入单元,用来模拟神经网络中的3个输入神经元;逻辑判断单元包括第一判断单元和第二判断单元,用来模拟神经网络中的神经元根据3个输入神经元的输入信号进行判断当前所处的状态,所述状态包括学习状态和遗忘状态;突触单元用来模拟神经元之间的突触S1、S2、S3、S4、S5和S6,其中,突触S1和突触S6为亢奋突触,突触S2和突触S5为抑制突触,且突触S1、S2、S5和S6各自的阻值固定不变,即突触强度不会发生变化,用于模拟神经元的无条件反射,突触S3和突触S4为可根据自身输入和输出端的电压的不同在某一范围内变化的阻值,即突触的强度可发生变化,用于模拟神经元的条件反射;学习速度调节单元包括第一调节单元和第二调节单元,用来模拟神经网络中的神经元判断是否是第一次学习,若是,则学习速度调节单元不作出反馈;若否,则学习速度调节单元与逻辑判断单元通过加法器共同作用于突触单元中的突触S3或突触S4,导致突触S3或突触S4输入输出两端的电压变小,从而导致突触S3或突触S4的阻值变化速度变快,模拟神经网络中的突触强度快速增强,使第二次及之后学习情感识别所需的学习时间减少;输出处理单元包括第一处理单元和第二处理单元,用来对突触输出的内容进行求和处理,便于输出单元输出;输出单元包括第一输出单元和第二输出单元,用来模拟神经网络中的输出神经元,输出情感识别类别;
突触S1的电路为:电阻R1的输出端分别连接电阻R2的输入端和第一运放器的输入信号1端,电阻R2的输入端和输出端分别和第一运放器的输入信号1端及输出端连接;突触S2的电路为:电阻R3的输出端分别连接电阻R4的输入端和第二运放器的输入端,电阻R4的输入端和输出端分别和第二运放器的输入信号1端及输出端连接;突触S3的电路为:忆阻器M1的输出端分别连接电阻R5的输入端和第三运放器的输入端,电阻R5的输入端和输出端分别和第三运放器的输入信号1端及输出端连接;其中,第一运放器、第二运放器和第三运放器的输入信号2端均接地;突触S1和突触S5的电路相同,突触S2和突触S6的电路相同,突触S3和突触S4的电路相同;
第一输入单元的输出端分别连接突触S1中的电阻R1的输入端、突触S2中的电阻R3的输入端和第一判断单元的输入端IN1,第二输入单元的输出端分别连接第一判断单元的输入端IN2和第二判断单元的输入端IN1,同理,第三输入单元的输出端分别连接突触S5中电阻R7的输入端、突触S6中电阻R9的输入端和第二判断单元的输入端IN2,第一判断单元的输出端通过加法器分别连接突触S3的输入端和第一调节单元的输出端,第二判断单元的输出端通过加法器分别连接突触S4中的忆阻器M2的输入端和第二调节单元的输出端,突触S1的输出端和突触S6的输出端均连接第一处理单元的输入端,突触S2的输出端和突触S5的输出端均连接第二处理单元的输入端,突触S3的输出端分别连接第一处理单元的输入端和第一调节单元的输入端,突触S4的输出端分别连接第二处理单元的输入端和第二调节单元的输入端,第一处理单元的输出端连接第一输出单元的输入端,第二处理单元的输出端连接第二输出单元的输入端。
2.如权利要求1所述的一种基于忆阻神经网络的联想记忆情感识别电路,其特征在于:所述基于忆阻神经网络的联想记忆情感识别电路用于实现一种基于忆阻神经网络的联想记忆情感识别方法;利用神经网络,建立基于忆阻神经网络的联想记忆情感识别模型,用来模拟人类感知器;该基于忆阻神经网络的联想记忆情感识别电路的第一输入单元、第二输入单元和第三输入单元分别为所述基于忆阻神经网络的联想记忆情感识别模型的3个输入神经元:NG、NU和NB,分别用于输入好消息、未知消息和坏消息信号,所述基于忆阻神经网络的联想记忆情感识别电路的输出单元为所述基于忆阻神经网络的联想记忆情感识别模型的2个输出神经元:NH和NS,分别用于输出情感识别类型兴奋和悲伤;所述基于忆阻神经网络的联想记忆情感识别电路的突触单元为所述基于忆阻神经网络的联想记忆情感识别模型中模仿神经元中的突触:突触S1、突触S2、突触S3、突触S4、突触S5和突触S6,其中,未知消息与2个输出端之间的突触S3和突触S4采用的忆阻,其他4个突触采用的是常值电阻;当在该基于忆阻神经网络的联想记忆情感识别模型的NG中输入好消息信号,该模型总得到NH,输出兴奋信号;当在该基于忆阻神经网络的联想记忆情感识别模型的NB中输入坏消息信号,该模型总得到NS,输出悲伤信号;当在该基于忆阻神经网络的联想记忆情感识别模型的NG中输入好消息信号,NU中输入未知消息信号,该模型也会得到NH,输出兴奋信号;最后再单独在NU中输入未知消息信号,得到的也是NH,输出兴奋信号;同理,当在该基于忆阻神经网络的联想记忆情感识别模型的NB中输入坏消息信号,NB中输入未知消息信号,该模型也会得到NS,输出悲伤信号;经过一段学习过程后,再单独在NU中输入未知消息信号,得到的也是NS,输出悲伤信号;所以,经过训练后,在NU中输入未知消息信号后,该基于忆阻神经网络的联想记忆情感识别模型会自动输出未知消息信号的情感类别。
3.如权利要求2所述的一种基于忆阻神经网络的联想记忆情感识别电路,其特征在于:突触S3和突触S4的变化规则为:一个电压对应于一个确定的阻值。
4.如权利要求2所述的一种基于忆阻神经网络的联想记忆情感识别电路,其特征在于:所述基于忆阻神经网络的联想记忆情感识别模型具有4个阶段,学习阶段和3个遗忘阶段,经历过遗忘阶段后,该模型不会再识别未知消息信号。
5.如权利要求2所述的一种基于忆阻神经网络的联想记忆情感识别电路,其特征在于:所述基于忆阻神经网络的联想记忆情感识别模型具有遗忘性能,需要训练后才能进行情感识别。
6.如权利要求2所述的一种基于忆阻神经网络的联想记忆情感识别电路,其特征在于:所述基于忆阻神经网络的联想记忆情感识别模型在情感识别时,在第一次训练后的训练时长小于第一次训练的训练时长。
7.如权利要求1所述的一种基于忆阻神经网络的联想记忆情感识别电路,其特征在于:学习速度调节单元的学习速度调节原理为:通过学习速度调节单元判断当前是否处于学习阶段,若是,则产生一个学习速度调节信号,该调节信号实质上是一个电压,学习速度调节单元将该电压反馈到逻辑判断单元的输出端,通过加法器对该电压和逻辑判断单元的输出电压进行求和或求差处理,增大或者减少突触S3或突触S4的输入输出两端间的电压,突触S3或S4输入输出两端间的电压的不同,导致忆阻器M1或M2的阻值的改变速度不同,即突触强度的变化速度不同,也就是学习速度不同;电压越小,忆阻器的阻值下降越快,模拟神经网络中的突触强度增强越快。
CN201910324683.9A 2019-04-22 2019-04-22 一种基于忆阻神经网络的联想记忆情感识别电路 Active CN110110840B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910324683.9A CN110110840B (zh) 2019-04-22 2019-04-22 一种基于忆阻神经网络的联想记忆情感识别电路

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910324683.9A CN110110840B (zh) 2019-04-22 2019-04-22 一种基于忆阻神经网络的联想记忆情感识别电路

Publications (2)

Publication Number Publication Date
CN110110840A CN110110840A (zh) 2019-08-09
CN110110840B true CN110110840B (zh) 2020-11-27

Family

ID=67486111

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910324683.9A Active CN110110840B (zh) 2019-04-22 2019-04-22 一种基于忆阻神经网络的联想记忆情感识别电路

Country Status (1)

Country Link
CN (1) CN110110840B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110428050B (zh) * 2019-08-25 2024-04-05 湖北大学 一种基于忆阻器实现多样化stdp学习规则的突触仿生电路
CN110910723B (zh) * 2019-12-23 2020-09-29 郑州轻工业大学 一种基于忆阻器的巴甫洛夫双模式切换的学习记忆电路
CN112651495B (zh) * 2020-12-16 2021-10-12 郑州轻工业大学 一种面向情绪自稳态调节和联想记忆的神经网络电路
CN112953458B (zh) * 2021-03-09 2023-10-13 郑州轻工业大学 一种基于忆阻的二阶阻尼情感电路
CN113344194B (zh) * 2021-05-31 2024-02-13 郑州轻工业大学 一种基于忆阻的操作性条件反射电路
CN113469348B (zh) * 2021-06-21 2024-02-20 安徽大学 一种联想记忆中多次泛化和分化的神经形态电路
CN114169511B (zh) * 2021-11-11 2024-03-19 山东科技大学 一种基于实物忆阻器的联想记忆电路及方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103580668A (zh) * 2013-10-28 2014-02-12 华中科技大学 一种基于忆阻器的联想记忆电路
CN103810497A (zh) * 2014-01-26 2014-05-21 华中科技大学 一种基于忆阻器的图像识别系统及方法
CN104916313A (zh) * 2015-06-16 2015-09-16 清华大学 基于忆阻器件的神经网络突触结构及突触权重构建方法
US9704093B2 (en) * 2013-01-14 2017-07-11 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Asymmetrical memristor
JP2018521397A (ja) * 2015-07-13 2018-08-02 株式会社デンソー メモリスタ神経形態学的回路及びメモリスタ神経形態学的回路をトレーニングするための方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108804786B (zh) * 2018-05-26 2022-04-15 江西理工大学 一种联想神经网络突触权值可塑的忆阻模型电路设计方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9704093B2 (en) * 2013-01-14 2017-07-11 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Asymmetrical memristor
CN103580668A (zh) * 2013-10-28 2014-02-12 华中科技大学 一种基于忆阻器的联想记忆电路
CN103810497A (zh) * 2014-01-26 2014-05-21 华中科技大学 一种基于忆阻器的图像识别系统及方法
CN104916313A (zh) * 2015-06-16 2015-09-16 清华大学 基于忆阻器件的神经网络突触结构及突触权重构建方法
JP2018521397A (ja) * 2015-07-13 2018-08-02 株式会社デンソー メモリスタ神経形態学的回路及びメモリスタ神経形態学的回路をトレーニングするための方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Global stabilization analysis of inertial memristive recurrent neural networks with discrete and distributed delays;Wang L , Zeng Z , Ge M F , et al.;《Neural Networks》;20181231;第65-74页 *
基于Temporal rule的忆阻神经网络电路;黄成龙 等;《计算机工程与科学》;20200331;第41卷(第3期);第409-417页 *

Also Published As

Publication number Publication date
CN110110840A (zh) 2019-08-09

Similar Documents

Publication Publication Date Title
CN110110840B (zh) 一种基于忆阻神经网络的联想记忆情感识别电路
Sun et al. Memristor-based neural network circuit of full-function pavlov associative memory with time delay and variable learning rate
Wang et al. A novel memristor-based circuit implementation of full-function Pavlov associative memory accorded with biological feature
Bofill-i-Petit et al. Synchrony detection and amplification by silicon neurons with STDP synapses
Wang et al. The design of memristive circuit for affective multi-associative learning
Cruz-Albrecht et al. Energy-efficient neuron, synapse and STDP integrated circuits
US4874963A (en) Neuromorphic learning networks
US9418331B2 (en) Methods and apparatus for tagging classes using supervised learning
Zheng et al. Learning in memristor crossbar-based spiking neural networks through modulation of weight-dependent spike-timing-dependent plasticity
Wang et al. A new emotion model of associative memory neural network based on memristor
Merrikh-Bayat et al. The neuro-fuzzy computing system with the capacity of implementation on a memristor crossbar and optimization-free hardware training
Arima et al. A self-learning neural network chip with 125 neurons and 10 K self-organization synapses
Indiveri et al. A VLSI neuromorphic device for implementing spike-based neural networks
Zhang et al. The framework and memristive circuit design for multisensory mutual associative memory networks
Chowdhury et al. Simulations of threshold logic unit problems using memristor based synapses and CMOS neuron
Ishii et al. Hardware-backpropagation learning of neuron MOS neural networks
CN113344194B (zh) 一种基于忆阻的操作性条件反射电路
Maass et al. Theory of the computational function of microcircuit dynamics
Huayaney et al. A VLSI implementation of a calcium-based plasticity learning model
WO2014197175A2 (en) Efficient implementation of neural population diversity in neural system
Morozov et al. Simulation of the neuromorphic network operation taking into account stochastic effects
Camuñas-Mesa et al. Implementation of a tunable spiking neuron for STDP with memristors in FDSOI 28nm
Bala et al. A memristive activation circuit for deep learning neural networks
Chowdhury et al. Associative memory algorithm for visual pattern recognition with memristor array and cmos neuron
El-Masry et al. Spiking Neural Networks Design-Space Exploration Platform Supporting Online and Offline Learning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20190809

Assignee: Wuhan Haibo Wulian Technology Co.,Ltd.

Assignor: CHINA University OF GEOSCIENCES (WUHAN CITY)

Contract record no.: X2022420000018

Denomination of invention: An associative memory emotion recognition circuit based on memristor neural network

Granted publication date: 20201127

License type: Common License

Record date: 20220301

EE01 Entry into force of recordation of patent licensing contract
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20190809

Assignee: Wuhan Qiyi Information Technology Service Co.,Ltd.

Assignor: CHINA University OF GEOSCIENCES (WUHAN CITY)

Contract record no.: X2022420000022

Denomination of invention: An associative memory emotion recognition circuit based on memristor neural network

Granted publication date: 20201127

License type: Common License

Record date: 20220304