CN109165731A - 电子神经网络及其参数设置方法 - Google Patents
电子神经网络及其参数设置方法 Download PDFInfo
- Publication number
- CN109165731A CN109165731A CN201810903031.6A CN201810903031A CN109165731A CN 109165731 A CN109165731 A CN 109165731A CN 201810903031 A CN201810903031 A CN 201810903031A CN 109165731 A CN109165731 A CN 109165731A
- Authority
- CN
- China
- Prior art keywords
- electronic
- output signal
- dendron
- cynapse
- neuron network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 210000002569 neuron Anatomy 0.000 title claims abstract description 147
- 238000000034 method Methods 0.000 title claims abstract description 27
- 210000001320 hippocampus Anatomy 0.000 claims abstract description 52
- 230000036982 action potential Effects 0.000 claims abstract description 15
- 230000008569 process Effects 0.000 claims abstract description 13
- 210000000225 synapse Anatomy 0.000 claims description 98
- 238000001704 evaporation Methods 0.000 claims description 36
- 230000008020 evaporation Effects 0.000 claims description 36
- 230000006870 function Effects 0.000 claims description 27
- 239000000412 dendrimer Substances 0.000 claims description 12
- 230000010355 oscillation Effects 0.000 claims description 8
- 230000015654 memory Effects 0.000 claims description 7
- 238000013528 artificial neural network Methods 0.000 claims description 5
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 abstract description 3
- 230000005611 electricity Effects 0.000 description 18
- 230000003902 lesion Effects 0.000 description 12
- 210000004556 brain Anatomy 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 239000003990 capacitor Substances 0.000 description 7
- 230000008859 change Effects 0.000 description 5
- GWEVSGVZZGPLCZ-UHFFFAOYSA-N Titan oxide Chemical compound O=[Ti]=O GWEVSGVZZGPLCZ-UHFFFAOYSA-N 0.000 description 4
- 238000013529 biological neural network Methods 0.000 description 4
- 230000007423 decrease Effects 0.000 description 4
- PNEYBMLMFCGWSK-UHFFFAOYSA-N Alumina Chemical compound [O-2].[O-2].[O-2].[Al+3].[Al+3] PNEYBMLMFCGWSK-UHFFFAOYSA-N 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000002490 cerebral effect Effects 0.000 description 2
- 230000001186 cumulative effect Effects 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 210000000653 nervous system Anatomy 0.000 description 2
- 230000008439 repair process Effects 0.000 description 2
- 239000004408 titanium dioxide Substances 0.000 description 2
- 206010001497 Agitation Diseases 0.000 description 1
- 241000208340 Araliaceae Species 0.000 description 1
- 101000831205 Danio rerio Dynein axonemal assembly factor 11 Proteins 0.000 description 1
- 102100024282 Dynein axonemal assembly factor 11 Human genes 0.000 description 1
- 241001559542 Hippocampus hippocampus Species 0.000 description 1
- 101000831210 Homo sapiens Dynein axonemal assembly factor 11 Proteins 0.000 description 1
- 208000012902 Nervous system disease Diseases 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000004641 brain development Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000004064 dysfunction Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005669 field effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000005714 functional activity Effects 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 238000002513 implantation Methods 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical group 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000005424 photoluminescence Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Neurology (AREA)
- Micromachines (AREA)
- Semiconductor Integrated Circuits (AREA)
Abstract
一种电子神经网络和电子神经网络的参数设置方法。该电子神经网络包括：突触阵列、树突阵列和海马电路；树突阵列分别与突触阵列和海马电路连接，突触阵列被配置为接收并处理输入信号组，以生成突触输出信号组；树突阵列被配置为接收并处理突触输出信号组，以生成树突输出信号组；海马电路被配置为对树突输出信号组进行求和，以得到输出信号，并根据输出信号生成神经元的动作电位。
Description
技术领域
本公开的实施例涉及一种电子神经网络和电子神经网络的参数设置方法。
背景技术
人类的大脑发育成熟以后，人类的大脑中的神经元的数目基本不变，各种新掌握的记忆以及信息处理能力主要是依靠长出新的突触和树突连接而产生。神经系统的病变是由于一些神经元失能而无法发放电脉冲信号或者发放的电脉冲信号过强，进而不能刺激或破坏相应的突触和树突之间的连接网络造成的。
当前，随着人工智能的兴起，各种用于模拟大脑行为的电路和电子元器件相应而生，比如，忆阻器可以被用于模拟生物突触的兴奋性连接和抑制性连接过程；积分电容和一些晶体管组成的电路可以被用于模拟神经元的动作电位发放功能等。
发明内容
本公开至少一实施例提供一种电子神经网络，包括：突触阵列、树突阵列和海马电路；所述树突阵列分别与所述突触阵列和所述海马电路连接，所述突触阵列被配置为接收并处理输入信号组，以生成突触输出信号组；所述树突阵列被配置为接收并处理所述突触输出信号组，以生成树突输出信号组；所述海马电路被配置为对所述树突输出信号组进行求和，以得到输出信号，并根据所述输出信号生成神经元的动作电位。
例如，在本公开一实施例提供的电子神经网络中，所述突触阵列包括多个电子突触，所述树突阵列包括多个电子树突，每个所述电子突触包括非挥发性忆阻器或多值存储器，每个所述电子树突包括半挥发性忆阻器。
例如，在本公开一实施例提供的电子神经网络中，所述突触阵列还包括多个驱动电路，所述多个驱动电路和所述多个电子突触连接，所述多个电子突触中的第i个电子突触与所述多个驱动电路中的第j个驱动电路对应连接，其中，i和j均为正整数，且i大于0且小于等于所述多个电子突触的总数量，j大于0且小于等于所述多个驱动电路的总数量，所述第i个电子突触被配置为根据所述输入信号组中的一个输入信号生成并输出中间突触输出信号，所述第j个驱动电路被配置为接收偏置电压和所述中间突触输出信号，并根据所述中间突触输出信号和所述偏置电压得到所述突触输出信号组中的一个突触输出信号。
例如，在本公开一实施例提供的电子神经网络中，每个所述驱动电路与至少一个电子突触连接，以接收所述至少一个电子突触输出的中间突触输出信号。
例如，在本公开一实施例提供的电子神经网络中，每个所述电子突触还包括开关元件，所述第i个电子突触的开关元件连接在所述第i个电子突触的非挥发性忆阻器或多值存储器和所述第j个驱动电路之间，且被配置为控制所述第i个电子突触的非挥发性忆阻器或多值存储器和所述第j个驱动电路之间的连接导通或断开。
例如，在本公开一实施例提供的电子神经网络中，所述多个电子突触并联连接。
例如，在本公开一实施例提供的电子神经网络中，所述海马电路包括动态挥发性忆阻器；或者所述海马电路包括振荡子电路；或者所述海马电路包括积分子电路和比较子电路。
例如，在本公开一实施例提供的电子神经网络中，所述积分子电路被配置为对所述树突输出信号组进行求和，以得到所述输出信号；所述比较子电路被配置为将所述输出信号与动作电压发放阈值进行比较，在所述输出信号大于所述动作电压发放阈值时，生成并输出所述动作电位，在所述输出信号小于所述动作电压发放阈值时，无动作电位输出。
本公开至少一实施例还提供一种电子神经网络的参数设置方法，包括：获取与待修复神经元对应的正常神经元的参数；根据所述正常神经元的参数设置根据上述任一项所述的电子神经网络；通过所述电子神经网络的损失函数计算所述电子神经网络的网络参数的损失值；根据所述电子神经网络的网络参数的损失值调整所述电子神经网络的网络参数，在所述电子神经网络的损失函数不满足预定条件时，重复执行上述参数调整过程，在所述电子神经网络的损失函数满足预定条件时，获得设置好的所述电子神经网络。
例如，在本公开一实施例提供的电子神经网络的参数设置方法中，根据所述正常神经元的参数调整所述电子神经网络包括：获取与所述正常神经元的参数对应的调整输入信号组；利用所述电子神经网络对所述调整输入信号组进行处理，以得到调整输出信号；通过所述电子神经网络的损失函数计算所述电子神经网络的网络参数的损失值包括：获取与所述调整输入信号组对应的目标输出信号；根据所述调整输出信号和所述目标输出信号，通过所述电子神经网络的损失函数计算所述电子神经网络的网络参数的损失值。
附图说明
为了更清楚地说明本公开实施例的技术方案，下面将对实施例的附图作简单地介绍，显而易见地，下面描述中的附图仅仅涉及本公开的一些实施例，而非对本公开的限制。
图1示出了本公开一实施例提供的一种电子神经网络的示意性框图；
图2示出了本公开一实施例提供的一种电子神经网络的示意性结构图；
图3为本公开一实施例提供的一种驱动电路的结构示意图；
图4(a)和图4(b)为本公开一实施例提供的一种半挥发性忆阻器的电流-电压特性曲线图；
图5为本公开一实施例提供的一种动态挥发性忆阻器的电流-电压特性曲线图；
图6为本公开一实施例提供的一种电子神经网络的时序示意图；
图7为本公开一实施例提供的一种电子神经网络的参数设置方法的流程图。
具体实施方式
为了使得本公开实施例的目的、技术方案和优点更加清楚，下面将结合本公开实施例的附图，对本公开实施例的技术方案进行清楚、完整地描述。显然，所描述的实施例是本公开的一部分实施例，而不是全部的实施例。基于所描述的本公开的实施例，本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例，都属于本公开保护的范围。
除非另外定义，本公开使用的技术术语或者科学术语应当为本公开所属领域内具有一般技能的人士所理解的通常意义。本公开中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性，而只是用来区分不同的组成部分。“包括”或者“包含”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同，而不排除其他元件或者物件。“连接”或者“相连”等类似的词语并非限定于物理的或者机械的连接，而是可以包括电性的连接，不管是直接的还是间接的。“上”、“下”、“左”、“右”等仅用于表示相对位置关系，当被描述对象的绝对位置改变后，则该相对位置关系也可能相应地改变。
为了保持本公开实施例的以下说明清楚且简明，本公开省略了已知功能和已知部件的详细说明。
人的大脑主要依靠神经元和在神经元之间进行信息传递的突触来实现信息的传递和处理。神经元是大脑神经系统处理信息的基本单元，其可以用于接收、整合、过滤、存储和传递信息等，从而使人的各种机能活动有规律的进行，以适应内、外环境的变化。突触是神经元之间在功能上发生联系的部位，用于执行神经元之间的信息传递的功能。
目前，在类脑计算体系中，构建类脑计算体系需要大量的类神经元和类突触的电子器件，这些电子器件可以实现模拟神经元和突触的功能。人工电子神经网络是一种模拟大脑神经元通过突触相互联接的计算系统，可以进行信息处理，广泛应用于图像识别、数据分析、神经疾病治疗等领域。
本公开的实施例提供一种电子神经网络和电子神经网络的参数设置方法，其可以模拟实现神经元的功能，从而能够替代生物神经网络中失能的神经元单元发放动作电位或抑制失能的神经元单元发放过强的动作电位，以刺激和修复生物突触和树突之间的连接网络。
下面对本公开的实施例进行详细说明，但是本公开并不限于这些具体的实施例。
图1示出了本公开一实施例提供的一种电子神经网络的示意性框图；图2示出了本公开一实施例提供的一种电子神经网络的示意性结构图。
例如，如图1所示，本公开一实施例提供的电子神经网络100可以包括突触阵列10、树突阵列11和海马电路12。树突阵列11分别与突触阵列10和海马电路12连接。突触阵列10被配置为接收并处理输入信号组，以生成突触输出信号组。树突阵列11被配置为接收并处理突触输出信号组，以生成树突输出信号组。海马电路12被配置为对树突输出信号组进行求和，以得到输出信号，并根据输出信号生成神经元的动作电位。
例如，如图2所示，突触阵列10可以包括多个电子突触101。每个电子突触101包括多阻态的非挥发性忆阻器(Nonvolatile memristor)或多值存储器1011。
例如，生物神经网络中的突触是连个两个神经元的组件。生物神经网络利用突触连接的强弱来实现对信号执行不同的处理。对应地，可以利用非挥发性忆阻器模拟突触的功能。若非挥发性忆阻器的电阻值越大，则非挥发性忆阻器传导电流的能力就越弱，反之，若非挥发性忆阻器的电阻值越小，传导电流的能力就越强。当施加到非挥发性忆阻器上的电信号较高，则非挥发性忆阻器的电阻值逐渐下降，非挥发性忆阻器传导电流的能力就逐渐增强；当施加到非挥发性忆阻器上的电信号较低，则非挥发性忆阻器的电阻值逐渐增大，非挥发性忆阻器传导电流的能力就逐渐减弱。由此，可以利用非挥发性忆阻器模拟突触的功能。
例如，在未被施加电压时，非挥发性忆阻器1011的电阻值为第一阻值(例如，100KΩ)，第一电压(例如，第一电压可以为1V)大于非挥发性忆阻器1011的第一阈值电压，由此，当第一电压被施加非挥发性忆阻器1011上后，非挥发性忆阻器1011的电阻值逐渐减小，非挥发性忆阻器1011的电阻值例如从第一阻值变为第二阻值(例如，10KΩ)，第二阻值小于第一阻值。当第二电压被施加到非挥发性忆阻器1011上后，若第一电压大于第二电压(例如，第二电压为0.6V)时，非挥发性忆阻器1011的电阻值可以保持不变，即非挥发性忆阻器1011的电阻值保持为第二阻值；若第一电压小于第二电压(例如，第二电压为1.3V)时，非挥发性忆阻器1011的电阻值继续下降。
例如，非挥发性忆阻器可以为金属氧化物忆阻器，例如使用二氧化钛制备的忆阻器或者使用氧化铝和二氧化钛组合制备的忆阻器等。
例如，多值存储器可以为非挥发性多阻态存储器等。非挥发性多阻态存储器可以包括相变随机存储器、阻性随机存储器、闪存(例如NAND或NOR闪存)等。例如，相变随机存储器可以通过存储介质在电脉冲作用下在低电阻率的多晶体和高电阻率的非晶态之间的可逆转化进行数据存储，以实现多值存储。
下面以每个电子突触101包括非挥发性忆阻器为例详细描述本公开的实施例，需要说明的是，在不冲突的情况下，在下面的描述中，多值存储器可以替代非挥发性忆阻器，以实现相同的功能。
例如，如图2所示，为了增加电子神经网络100的稳定性和可实现性，突触阵列10还包括多个驱动电路102，多个驱动电路102和多个电子突触101连接。多个电子突触101中的第i个电子突触与多个驱动电路102中的第j个驱动电路对应连接，其中，i和j均为正整数，且i大于0且小于等于多个电子突触101的总数量，j大于0且小于等于多个驱动电路102的总数量。例如，多个电子突触101的总数量为N1，多个驱动电路102的总数量为N2，则0<i≤N1，0<j≤N2，N1、N2均为正整数。i和j可以相同，也可以不同。
例如，第i个电子突触被配置为根据输入信号组中的一个输入信号生成并输出中间突触输出信号，第j个驱动电路被配置为接收偏置电压和从第i个电子突触输出的中间突触输出信号，并根据中间突触输出信号和偏置电压得到突触输出信号组中的一个突触输出信号。
例如，突触阵列10中的各个驱动电路102输出的多个突触输出信号即组成突触输出信号组。
例如，每个驱动电路102与至少一个电子突触101连接，以接收至少一个电子突触101输出的中间突触输出信号。多个电子突触101可以被划分为多个电子突触组103，每个电子突触组103可以包括至少一个电子突触101，多个电子突触组103与多个驱动电路102一一对应连接。如图2所示，在一些实施例中，多个电子突触101被划分为四个电子突触组103，该四个电子突触组103分别为第一电子突触组103a、第二电子突触组103b、第三电子突触组103c和第四电子突触组103d。突触阵列10包括四个驱动电路102，且该四个驱动电路102分别为第一驱动电路102a、第二驱动电路102b、第三驱动电路102c和第四驱动电路102d。第一电子突触组103a连接第一驱动电路102a，第二电子突触组103b连接第二驱动电路102b，第三电子突触组103c连接第三驱动电路102c，第四电子突触组103d连接第四驱动电路102d。在图2所示的示例中，每个电子突触组103包括多个电子突触101，也就是说，每个驱动电路102与多个电子突触101连接，此时，N1大于N2。
例如，多个电子突触101均并联连接。如图2所示，以第一电子突触组103a为例，第一电子突触组103a中的各个电子突触101均并联连接，各个电子突触101的第一端分别接受对应的各个输入信号IN，各个电子突触101的第二端均与第一驱动电路102a连接。
例如，如图2所示，输入信号组可以包括多个输入信号IN，每个输入信号IN可以为模拟信号，可以包括对应于脑电波信号(EEG)、脑磁波信号(MEG)或功能性磁共振信号(FMRI)等的电压信号。在一些示例中，各个电子突触101接收到的各个输入信号IN可以各不相同。在另一些示例中，突触阵列10中的至少部分电子突触101接收的输入信号IN可以相同，例如，同一个电子突触组103中的各电子突触101接收的输入信号IN相同。本公开对此不作限制。
需要说明的是，如图2所示，每个电子突触组103仅示出了三个电子突触101，但不限于此，每个电子突触组103可以包括两个电子突触、四个电子突触等。另外，各个电子突触组103中的电子突触的数量也可以各不相同，例如，第一电子突触组103a可以包括十个电子突触101，而第二电子突触组103b可以包括七个电子突触101。各个电子突触组103中的电子突触的数量可以根据实际应用需求设置，本公开对此不作限制。
例如，如图2所示，每个电子突触101还可以包括开关元件1012。第i个电子突触的开关元件1012连接在第i个电子突触的非挥发性忆阻器或多值存储器1011和第j个驱动电路102之间，且被配置为控制第i个电子突触的非挥发性忆阻器或多值存储器1011和第j个驱动电路102之间的连接导通或断开。例如，当开关元件1012导通时，非挥发性忆阻器1011和对应的驱动电路102电连接，也就是说，非挥发性忆阻器1011输出的电信号可以被传输至对应的驱动电路102；而当开关元件1012断开时，非挥发性忆阻器1011和对应的驱动电路102断开连接，也就是说，非挥发性忆阻器1011输出的电信号无法被传输至对应的驱动电路102。在另一个示例中，两个或更多个电子突触101还可以共用一个开关元件1012。
例如，开关元件1012可以包括薄膜晶体管、场效应晶体管、三极管、单刀单掷开关等。开关元件1012的控制端被配置为接收控制信号，控制信号用于控制开关元件1012导通或断开。例如，在一些示例中，若开关元件1012为N型薄膜晶体管，则第i个电子突触的开关元件1012的控制极(例如，栅极)被配置为接收该控制信号，第i个电子突触的开关元件1012的第一极(例如，源极)与第i个电子突触的非挥发性忆阻器1011连接，第i个电子突触的开关元件1012的第二极(例如，漏极)与对应的驱动电路102(例如，第j个驱动电路102)连接。当控制信号为高电平信号时，开关元件1012导通；而当控制信号为低电平信号时，开关元件1012断开。本公开对此不作限制，控制信号可以根据开关元件1012的具体结构设计，例如，若开关元件1012为P型薄膜晶体管时，则当控制信号为低电平信号时，开关元件1012导通；而当控制信号为高电平信号时，开关元件1012断开。
需要说明的是，施加到突触阵列10中的各开关元件1012上的控制信号可以被分别控制，从而每个电子突触101可以被单独控制。
图3为本公开一实施例提供的一种驱动电路的结构示意图。
例如，如图3所示，在一些示例中，每个驱动电路102可以包括运算放大器OA和电容C，运算放大器OA和电容C可以构成积分电路。例如，图3示出了第j个驱动电路的结构示意图，在第j个驱动电路中，运算放大器OA的第一输入端被配置为接收第i个电子突触输出的中间突触输出信号，运算放大器OA的第二输入端被配置为接收偏置电压Vbias，运算放大器OA的输出端被配置为输出突触输出信号；电容C的第一端与运算放大器OA的第一输入端电连接，电容C的第二端与运算放大器OA的输出端电连接。
例如，第一输入端为同相输入端，第二输入端为反相输入端。
例如，各个驱动电路102接收的偏置电压Vbias可以各不相同。但不限于此，在另一些实施例中，突触阵列10中的至少部分驱动电路102接收的偏置电压Vbias可以相同。
例如，输入信号组中的各输入信号IN均为电压信号。第i个电子突触与第j个驱动电路连接。对于第i个电子突触，其非挥发性忆阻器1011两端的电压分别为输入到第i个电子突触上的输入信号IN和第j个驱动电路接收的偏置电压Vbias，通过控制第j个驱动电路接收的偏置电压Vbias即可控制施加第i个电子突触的非挥发性忆阻器1011上的电压差，从而调节非挥发性忆阻器1011的电阻值，最终，可以控制第i个电子突触输出的中间突触输出信号。如图3所示，在一些示例中，中间突触输出信号为电流信号Iin，第j个驱动电路输出的突触输出信号Vout可以为电容C上的积分电压和偏置电压Vbias之和，也就是说，第j个驱动电路输出的突触输出信号Vout可以表示为：
其中，C0表示电容C的电容值，t表示时间。
需要说明的是，图3所示的驱动电路102仅为一种示例，根据实际需要，驱动电路102还可以包括其他合适的器件，本公开对此不作限制。
例如，树突阵列11用于模拟生物神经网络中树突的信号处理功能，对来自突触阵列10的电信号进行非线性放大或非线性衰减。当树突阵列11中的电子树突111接收到的信号小于其阈值电压时，树突阵列11中的电子树突111处于关闭状态，即接收到的信号会在树突阵列11上被衰减。当树突阵列11中的电子树突111接收到的信号大于其阈值电压时，树突阵列11中的电子树突111处于开启状态，即接收到的信号会在树突阵列11上被放大。
例如，如图2所示，树突阵列11可以包括多个电子树突111，每个电子树突111包括半挥发性忆阻器(Diffusive memristor)，例如该半挥发性忆阻器与前述非挥发性忆阻器不同。例如，在未被施加电压时，半挥发性忆阻器的电阻值为第三阻值(例如，10MΩ)，第三电压大于半挥发性忆阻器的第二阈值电压，则当第三电压(例如，1V)被施加半挥发性忆阻器上后，半挥发性忆阻器的电阻值逐渐减小，半挥发性忆阻器的电阻值例如从第三阻值变为第四阻值(例如，100KΩ)，第四阻值小于第三阻值。例如，第四电压(例如，0.7V)被施加到半挥发性忆阻器上后，半挥发性忆阻器的电阻值保持不变，即半挥发性忆阻器的电阻值保持为第四阻值，此时，第四电压小于第三电压。当第五电压被施加到半挥发性忆阻器上后，若第五电压(例如，第五电压为0.5V)小于第四电压，则半挥发性忆阻器的电阻值逐渐增大，并最终恢复到第三阻值；若第五电压(例如，第五电压为0.8V)大于第四电压且小于第三电压，半挥发性忆阻器的电阻值可以保持不变；若第五电压(例如，第五电压为1.2V)大于第三电压，则半挥发性忆阻器的电阻值继续下降。
图4(a)和图4(b)为本公开一实施例提供的一种半挥发性忆阻器的电流-电压特性曲线图。图4(a)示出了一个半挥发性忆阻器在不同外加电压下的电流(I)-电压(V)特性曲线图，图4(b)示出了一个半挥发性忆阻器在同一个外加电压下不同时间段的电流-电压特性曲线图。
例如，如图4(a)所示，电压信号501大于电压信号502，电压信号502大于电压信号503，且电压信号501、电压信号502和电压信号503均为方波信号。当电压信号501施加到半挥发性忆阻器上，且电压信号501大于半挥发性忆阻器的阈值电压时，半挥发性忆阻器的电阻值逐渐下降，从而流过半挥发性忆阻器的电流逐渐增加，此时电流曲线可以如曲线601所示。当电压信号502施加到半挥发性忆阻器上，半挥发性忆阻器的电阻值仍然逐渐下降，但半挥发性忆阻器的电阻值的变化幅度非常小，从而虽然流过半挥发性忆阻器的电流逐渐增加，但电流的变化幅度也非常小，此时电流曲线可以如曲线602所示。当电压信号503施加到半挥发性忆阻器上，半挥发性忆阻器的电阻值几乎没有变化，由于半挥发性忆阻器的电阻值较大，从而几乎没有电流能够流过半挥发性忆阻器，此时电流曲线可以如曲线603所示。
例如，如图4(b)所示，电压信号504可以包括处于第一时间段t1的第一子信号和位于第二时间段t2的第二子信号(第二子信号包括多个脉冲信号)，在第一时间段t1，电压信号504的第一子信号大于半挥发性忆阻器的阈值电压，半挥发性忆阻器的电阻值逐渐下降，从而流过半挥发性忆阻器的电流逐渐增加；在第二时间段t2，由于电压信号504的第二子信号小于半挥发性忆阻器的阈值电压，半挥发性忆阻器的电阻值逐渐缓慢增高，在第二时间段t2的最初阶段，由于半挥发性忆阻器的电阻值仍较低，此时，当电压信号504的第二子信号施加到半挥发性忆阻器上，仍有较小的电流可以流过半挥发性忆阻器，随着时间的推移，半挥发性忆阻器的电阻值逐渐增大并恢复到高电阻状态，由此，电压信号504的第二子电压信号施加到半挥发性忆阻器上，则无电流能够流过半挥发性忆阻器。
例如，多个电子树突111可以被划分为多个电子树突组112，每个电子树突组112可以与至少一个驱动电路102连接。如图2所示，在一些实施例中，多个电子树突111被划分为两个电子树突组112，该两个电子树突组112分别为第一电子树突组112a和第二电子树突组112b。第一电子树突组112a连接第一驱动电路102a和第三驱动电路102c，第二电子树突组112b连接第二驱动电路102b和第四驱动电路102d。
例如，每个电子树突组112可以接收并根据至少一个驱动电路102输出的突触输出信号生成树突输出信号组中的一个树突输出信号。树突阵列11中的多个电子树突组112输出的多个树突输出信号即组成树突输出信号组。
例如，多个电子树突111可以串联连接，也可以并联连接。每个电子树突组112可以包括至少一个电子树突111。如图2所示，第一电子树突组112a可以包括三个电子树突111(即第一电子树突组112a可以包括三个半挥发性忆阻器)，其分别为第一电子树突111a、第二电子树突111b和第三电子树突111c。第一电子树突111a和第二电子树突111b并联连接，第一电子树突111a和第三电子树突111c串联连接，第二电子树突111b和第三电子树突111c也串联连接。
例如，每个电子树突111与至少一个驱动电路102连接，以接收至少一个驱动电路102输出的突触输出信号。如图2所示，在一些示例中，第一电子树突111a与第一驱动电路102a连接，以接收第一驱动电路102a输出的突触输出信号。第二电子树突111b与第三驱动电路102c连接，以接收第三驱动电路102c输出的突触输出信号。第三电子树突111c可以经由第一电子树突111a和第二电子树突111b分别与第一驱动电路102a和第三驱动电路102c连接。
需要说明的是，在图2所示的示例中，每个电子树突组112仅示出了三个电子树突111，但不限于此，每个电子树突组112可以包括两个电子树突、四个电子树突等。另外，各个电子树突组112中的电子树突的数量也可以各不相同，例如，第一电子树突组112a可以包括五个电子树突111，而第二电子树突组112b可以包括四个电子树突111。各个电子突触组103中的电子突触的数量和连接方式可以根据实际应用需求设置，本公开对此不作限制。
例如，海马电路12主要负责信号的整合和动作电位的发放。在一些示例中，海马电路12可以包括动态挥发性忆阻器(Dynamic memristor)，例如该动态挥发性忆阻器与前述非挥发性忆阻器和半挥发性忆阻器均不同。例如，在未被施加电压时，动态挥发性忆阻器的电阻值为第五阻值(例如，1MΩ)，第六电压(例如，第六电压可以为1V)大于动态挥发性忆阻器的第三阈值电压，则当第六电压被施加动态挥发性忆阻器上后，动态挥发性忆阻器的电阻值逐渐减小，且动态挥发性忆阻器从第五阻值变为第六阻值(例如，20KΩ)，第六阻值小于第五阻值。例如，动态挥发性忆阻器的电阻值从第五阻值变为第六阻值需要的时间为纳秒量级(例如，100ns，500ns等)。当第七电压被施加到动态挥发性忆阻器上后，若第七电压(例如，第七电压为0.6V)小于第六电压时，动态挥发性忆阻器的电阻值迅速从第六阻值恢复至第五阻值，恢复时间也为纳秒量级(例如，100ns，500ns等)；若第七电压(例如，第七电压为1.3V)大于第六电压时，则动态挥发性忆阻器的电阻值继续下降。
图5为本公开一实施例提供的一种动态挥发性忆阻器的电流-电压特性曲线图。
例如，如图5所示，在一些示例中，第三阈值电压可以包括正向子阈值电压Vth1和负向子阈值电压Vth2，正向子阈值电压Vth1可以约为0.64V，负向子阈值电压Vth2可以约为0.55V。当对动态挥发性忆阻器施加外加电压，外加电压小于负向子阈值电压Vth2，若该外加电压随时间逐渐增大，动态挥发性忆阻器的电阻值逐渐缓慢下降，流过动态挥发性忆阻器的电流逐渐缓慢增大，而当该外加电压大于正向子阈值电压Vth1时，动态挥发性忆阻器的电阻值迅速下降，动态挥发性忆阻器处于低电阻状态，此时，流过动态挥发性忆阻器的电流值突然增大，海马电路12输出脉冲电流信号(即，动作电位)，此过程的电流曲线如图5中的曲线701所示。当对动态挥发性忆阻器施加外加电压，外加电压大于正向子阈值电压Vth1，且外加电压随时间逐渐减小，当外加电压大于负向子阈值电压Vth2时，动态挥发性忆阻器的电阻值保持不变，流过动态挥发性忆阻器的电流也保持不变，当外加电压小于负向子阈值电压Vth2时，动态挥发性忆阻器的电阻值迅速恢复至高电阻状态，流过动态挥发性忆阻器的电流突然减小，此过程的电流曲线如图5中的曲线702所示。
例如，在又一些示例中，海马电路12也包括振荡子电路或施密特触发器等。该振荡子电路由电流控制，当海马电路12包括振荡子电路时，海马电路12还可以包括阈值控制子电路，突触阵列10输出的电压信号全部被施加到树突阵列11上，从而树突阵列11中的各半挥发性忆阻器的电阻值逐渐减小，树突阵列11输出的电流信号逐渐增大，树突阵列11输出的电流信号被传输至阈值控制子电路，当树突阵列11输出的电流信号大于阈值电流信号时，阈值控制子电路可以将该树突阵列11输出的电流信号传输至振荡子电路，从而振荡子电路可以输出一输出信号(例如，可以为正弦信号)，该输出信号的振荡频率与树突阵列11输出的电流信号相关，当树突阵列11输出的电流信号越大，则输出信号的振荡频率越大。施密特触发器是包含正反馈的比较器电路。对于标准施密特触发器，当输入电压高于正向阈值电压，输出信号为高电位；当输入电压低于负向阈值电压，输出信号为为低电位；当输入在正负向阈值电压之间，输出信号不改变。也就是说，输出信号由高电位翻转为低电位对应的阈值电压与其由低电位翻转为高电位对应的阈值电压是不同的。只有当输入电压发生足够的变化时，输出信号才会变化，因此将这种元件命名为施密特触发器。这种双阈值动作被称为迟滞现象。
例如，在另一些示例中，海马电路12也包括积分子电路和比较子电路。积分子电路与树突阵列11连接，以接收树突阵列11输出的树突输出信号组。积分子电路被配置为对树突输出信号组进行求和，以得到输出信号；比较子电路被配置为将输出信号与动作电压发放阈值进行比较，在输出信号大于动作电压发放阈值时，生成并输出动作电位，在输出信号小于动作电压发放阈值时，无动作电位输出。
需要说明的是，若多个电子神经网络级联连接，则本级电子神经网络的海马电路12生成的动作电位可以被传输至相邻的下一个或下一级电子神经网络。
例如，突触阵列10可以包括第一参数，树突阵列11可以包括第二参数，海马电路12可以包括第三参数。第一参数、第二参数、第三参数均与电子神经网络100的功能对应，并均可以根据电子神经网络100的功能需求进行调整。例如，第一参数包括非挥发性忆阻器1011的在未加电压的情况下的电阻值和非挥发性忆阻器1011的第一阈值电压，第二参数包括半挥发性忆阻器的第二阈值电压，第三参数包括动作电压发放阈值，第三参数还可以包括动态挥发性忆阻器的第三阈值电压。
例如，驱动电路102输出的突触输出信号被施加到对应的电子树突11和海马电路12上。当驱动电路102输出的突触输出信号在对应的电子树突11上的分压小于对应的电子树突11的电压阈值时，该驱动电路102输出的突触输出信号被过滤掉。当驱动电路102输出的突触输出信号在对应的电子树突11上的分压大于对应的电子树突11的电压阈值时，电子树突11开启，驱动电路102输出的突触输出信号可以被传递至海马电路12，并在海马电路12上累加。当海马电路12上累加的信号大于其动作电压发放阈值的时生成并输出动作电位(例如，动作电位可以为脉冲信号)。
图6为本公开一实施例提供的一种电子神经网络的时序示意图。如图6所示，Vout表示驱动电路102输出的突触输出信号，VD表示对应的电子树突11上的电压信号，RD表示对应的电子树突11中的半挥发性忆阻器的电阻值，VS表示海马电路12上的电压信号，RS表示海马电路12中的动态挥发性忆阻器的电阻值，Iout表示海马电路12输出的输出信号(例如，输出信号可以为电流信号)。驱动电路102输出的突触输出信号Vout为对应的电子树突11上的电压信号VD和海马电路12上的电压信号VS之和，即Vout＝VD+VS。
例如，如图6所示，当驱动电路102输出的突触输出信号Vout逐渐增大，然后保持不变。在最开始阶段，电子树突11上的电压信号VD和海马电路12上的电压信号VS均逐渐增大，当电子树突11上的电压信号VD大于电子树突11中的半挥发性忆阻器的第二阈值电压时，电子树突11中的半挥发性忆阻器的电阻值RD逐渐减小，电子树突11上的电压信号VD逐渐减小；此时，由于海马电路12上的电压信号VS小于动态挥发性忆阻器的第三阈值电压，海马电路12中的动态挥发性忆阻器的电阻值RS几乎不变化，海马电路12上的电压信号VS继续逐渐增大。当海马电路12上的电压信号VS大于动态挥发性忆阻器的第三阈值电压时，海马电路12中的动态挥发性忆阻器的电阻值RS迅速减小，海马电路12可以输出一输出信号。由于海马电路12中的动态挥发性忆阻器恢复为低阻态，海马电路12上的电压信号VS也迅速下降，且小于动态挥发性忆阻器的第三阈值电压，从而电子树突11上的电压信号VD增大。此时，由于海马电路12上的电压信号VS小于动态挥发性忆阻器的第三阈值电压，海马电路12中的动态挥发性忆阻器的电阻值RS又逐渐增加，从而海马电路12上的电压信号VS又逐渐增加，导致电子树突11上的电压信号VD逐渐减小，并且当海马电路12上的电压信号VS大于动态挥发性忆阻器的第三阈值电压时，海马电路12中的动态挥发性忆阻器的电阻值RS再次迅速减小，海马电路12又可以输出一输出信号。在驱动电路102输出的突触输出信号Vout施加到电子树突11和海马电路12上时，循环上述过程。
需要说明的是，图2所示的电子神经网络100的结构仅是示例性的，根据实际需要，电子神经网络100还可以包括其他器件，本公开的实施例对此不作限制。
图7为本公开一实施例提供的一种电子神经网络的参数设置方法的流程图。如图7所示，本公开实施例提供的电子神经网络的参数设置方法可以包括：
S10：获取与待修复神经元对应的正常神经元的参数；
S20：根据正常神经元的参数调整电子神经网络；
S30：通过电子神经网络的损失函数计算电子神经网络的网络参数的损失值；
S40：根据电子神经网络的网络参数的损失值调整电子神经网络的网络参数；
S50：判断电子神经网络的损失函数是否满足预定条件；
在电子神经网络的损失函数满足预定条件时，执行步骤S60：获得设置好的电子神经网络；
在电子神经网络的损失函数不满足预定条件时，返回到步骤S20：继续输入正常神经元的参数以重复执行上述参数调整过程。
例如，在一个示例中，待修复神经元例如是存在功能障碍的神经元，例如可以根据现有的检测结果确定的病灶区域的病灶神经元，来确定需要修复的待修复神经元。
例如，病灶神经元可以为病患(例如，病患可以患有神经系统疾病)的神经元，病灶神经元不能执行正常的功能，例如，病灶神经元不能发放动作电位，或者，病灶神经元发放的动作电位太强或太弱。正常神经元可以为正常人的与该病灶神经元对应的神经元。在步骤S10中，可以根据病因并结合脑电波信号、功能性磁共振信号或脑磁波信号等检测技术确定病灶区域的病灶神经元及其参数；或者，还可以利用电子神经网络提取和复制生物神经网络的网络参数，对比正常人的神经元的网络参数和病患的神经元的网络参数，以分析确定病灶区域的病灶神经元。
例如，在步骤S10中，正常神经元的参数可以包括与正常神经元对应的调整输入信号组和目标输出信号。也就是说，正常神经元处理该调整输入信号组后可以得到目标输出信号。例如，调整输入信号组可以包括多个调整输入信号，且每个调整输入信号为脑电波信号，由此，调整输入信号组和对应的目标输出信号均可以通过脑电波信号记录仪获取。
例如，在步骤S20中，电子神经网络可以为根据本公开上述任一实施例所提供的电子神经网络。步骤S20可以包括：获取与正常神经元的参数对应的调整输入信号组；利用电子神经网络对调整输入信号组进行处理，以得到调整输出信号。具体地，步骤S20可以包括：利用电子神经网络的突触阵列接收并处理调整输入信号组，以生成调整突触输出信号组；利用电子神经网络的树突阵列接收并处理调整突触输出信号组，以生成调整树突输出信号组；利用电子神经网络的海马电路对调整树突输出信号组进行求和，以得到调整输出信号。
需要说明的是，步骤S20的具体过程可以参考上述电子神经网络的实施例中对突触阵列、树突阵列和海马单元的功能相关描述，重复之处不再赘述。
例如，步骤S30可以包括：获取与调整输入信号组对应的目标输出信号；根据调整输出信号和目标输出信号，通过电子神经网络的损失函数计算电子神经网络的网络参数的损失值。
例如，在步骤S40中，电子神经网络的网络参数可以包括处于导通状态的开关元件的数量和位置、施加到突触阵列的各驱动电路上的偏置电压等。由此，在步骤S40中，根据电子神经网络的网络参数的损失值可以控制电子神经网络的电子突触中的开关元件的状态(例如，导通状态或断开状态)，还可以调节施加到突触阵列的各驱动电路上的偏置电压的大小等。
例如，设置好的电子神经网络可以通过电极植入或芯片植入的方式设置在病患的病灶区域，以代替病症区域的病灶神经元。设置好的电子神经网络也可以通过电刺激等方式，将电信号作用于病症区域的病灶神经元，以使病症区域的病灶神经元产生正常的动作电位。
对于本公开，还有以下几点需要说明：
(1)本公开实施例附图只涉及到与本公开实施例涉及到的结构，其他结构可参考通常设计。
(2)在不冲突的情况下，本公开的实施例及实施例中的特征可以相互组合以得到新的实施例。
以上所述仅为本公开的具体实施方式，但本公开的保护范围并不局限于此，本公开的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种电子神经网络，包括：突触阵列、树突阵列和海马电路；
其中，所述树突阵列分别与所述突触阵列和所述海马电路连接，
所述突触阵列被配置为接收并处理输入信号组，以生成突触输出信号组；
所述树突阵列被配置为接收并处理所述突触输出信号组，以生成树突输出信号组；
所述海马电路被配置为对所述树突输出信号组进行求和，以得到输出信号，并根据所述输出信号生成神经元的动作电位。
2.根据权利要求1所述的电子神经网络，其中，所述突触阵列包括多个电子突触，所述树突阵列包括多个电子树突，每个所述电子突触包括非挥发性忆阻器或多值存储器，每个所述电子树突包括半挥发性忆阻器。
3.根据权利要求2所述的电子神经网络，其中，所述突触阵列还包括多个驱动电路，所述多个驱动电路和所述多个电子突触连接，
所述多个电子突触中的第i个电子突触与所述多个驱动电路中的第j个驱动电路对应连接，其中，i和j均为正整数，且i大于0且小于等于所述多个电子突触的总数量，j大于0且小于等于所述多个驱动电路的总数量，
所述第i个电子突触被配置为根据所述输入信号组中的一个输入信号生成并输出中间突触输出信号，
所述第j个驱动电路被配置为接收偏置电压和所述中间突触输出信号，并根据所述中间突触输出信号和所述偏置电压得到所述突触输出信号组中的一个突触输出信号。
4.根据权利要求3所述的电子神经网络，其中，每个所述驱动电路与至少一个电子突触连接，以接收所述至少一个电子突触输出的中间突触输出信号。
5.根据权利要求3所述的电子神经网络，其中，每个所述电子突触还包括开关元件，
所述第i个电子突触的开关元件连接在所述第i个电子突触的非挥发性忆阻器或多值存储器和所述第j个驱动电路之间，且被配置为控制所述第i个电子突触的非挥发性忆阻器或多值存储器和所述第j个驱动电路之间的连接导通或断开。
6.根据权利要求2所述的电子神经网络，其中，所述多个电子突触并联连接。
7.根据权利要求2所述的电子神经网络，其中，所述海马电路包括动态挥发性忆阻器；或者
所述海马电路包括振荡子电路；或者
所述海马电路包括积分子电路和比较子电路。
8.根据权利要求7所述的电子神经网络，其中，
所述积分子电路被配置为对所述树突输出信号组进行求和，以得到所述输出信号；
所述比较子电路被配置为将所述输出信号与动作电压发放阈值进行比较，在所述输出信号大于所述动作电压发放阈值时，生成并输出所述动作电位，在所述输出信号小于所述动作电压发放阈值时，无动作电位输出。
9.一种电子神经网络的参数设置方法，包括：
获取与待修复神经元对应的正常神经元的参数；
根据所述正常神经元的参数调整根据权利要求1-8任一项所述的电子神经网络；
通过所述电子神经网络的损失函数计算所述电子神经网络的网络参数的损失值；
根据所述电子神经网络的网络参数的损失值调整所述电子神经网络的网络参数，在所述电子神经网络的损失函数不满足预定条件时，重复执行上述参数调整过程，在所述电子神经网络的损失函数满足预定条件时，获得设置好的所述电子神经网络。
10.根据权利要求9所述的电子神经网络的参数设置方法，其中，
根据所述正常神经元的参数调整所述电子神经网络包括：
获取与所述正常神经元的参数对应的调整输入信号组；
利用所述电子神经网络对所述调整输入信号组进行处理，以得到调整输出信号；
通过所述电子神经网络的损失函数计算所述电子神经网络的网络参数的损失值包括：
获取与所述调整输入信号组对应的目标输出信号；
根据所述调整输出信号和所述目标输出信号，通过所述电子神经网络的损失函数计算所述电子神经网络的网络参数的损失值。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810903031.6A CN109165731B (zh) | 2018-08-09 | 2018-08-09 | 电子神经网络及其参数设置方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810903031.6A CN109165731B (zh) | 2018-08-09 | 2018-08-09 | 电子神经网络及其参数设置方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN109165731A true CN109165731A (zh) | 2019-01-08 |
| CN109165731B CN109165731B (zh) | 2020-06-30 |
Family
ID=64895369
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810903031.6A Active CN109165731B (zh) | 2018-08-09 | 2018-08-09 | 电子神经网络及其参数设置方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109165731B (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111958599A (zh) * | 2020-08-17 | 2020-11-20 | 湖南大学 | 一种基于星形胶质细胞的自修复控制系统和智能机器人手臂 |
| CN113313240A (zh) * | 2021-08-02 | 2021-08-27 | 成都时识科技有限公司 | 计算设备及电子设备 |
| CN115810138A (zh) * | 2022-11-18 | 2023-03-17 | 天津大学 | 基于多电极阵列体外培养神经元网络的图像识别方法 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9087302B2 (en) * | 2011-06-08 | 2015-07-21 | Samsung Electronics Co., Ltd. | Synapse for function cell of spike timing dependent plasticity (STDP), function cell of STDP, and neuromorphic circuit using function cell of STDP |
| CN106778867A (zh) * | 2016-12-15 | 2017-05-31 | 北京旷视科技有限公司 | 目标检测方法和装置、神经网络训练方法和装置 |
| CN106845634A (zh) * | 2016-12-28 | 2017-06-13 | 华中科技大学 | 一种基于忆阻器件的神经元电路 |
| CN107644253A (zh) * | 2017-08-08 | 2018-01-30 | 深圳先进技术研究院 | 一种基于反函数的神经网络优化方法、系统及电子设备 |
| CN108144291A (zh) * | 2018-02-11 | 2018-06-12 | 广东欧珀移动通信有限公司 | 基于脑电波的游戏控制方法及相关产品 |
| CN108268938A (zh) * | 2018-01-24 | 2018-07-10 | 清华大学 | 神经网络及其信息处理方法、信息处理系统 |
-
2018
- 2018-08-09 CN CN201810903031.6A patent/CN109165731B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9087302B2 (en) * | 2011-06-08 | 2015-07-21 | Samsung Electronics Co., Ltd. | Synapse for function cell of spike timing dependent plasticity (STDP), function cell of STDP, and neuromorphic circuit using function cell of STDP |
| CN106778867A (zh) * | 2016-12-15 | 2017-05-31 | 北京旷视科技有限公司 | 目标检测方法和装置、神经网络训练方法和装置 |
| CN106845634A (zh) * | 2016-12-28 | 2017-06-13 | 华中科技大学 | 一种基于忆阻器件的神经元电路 |
| CN107644253A (zh) * | 2017-08-08 | 2018-01-30 | 深圳先进技术研究院 | 一种基于反函数的神经网络优化方法、系统及电子设备 |
| CN108268938A (zh) * | 2018-01-24 | 2018-07-10 | 清华大学 | 神经网络及其信息处理方法、信息处理系统 |
| CN108144291A (zh) * | 2018-02-11 | 2018-06-12 | 广东欧珀移动通信有限公司 | 基于脑电波的游戏控制方法及相关产品 |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111958599A (zh) * | 2020-08-17 | 2020-11-20 | 湖南大学 | 一种基于星形胶质细胞的自修复控制系统和智能机器人手臂 |
| CN113313240A (zh) * | 2021-08-02 | 2021-08-27 | 成都时识科技有限公司 | 计算设备及电子设备 |
| CN115810138A (zh) * | 2022-11-18 | 2023-03-17 | 天津大学 | 基于多电极阵列体外培养神经元网络的图像识别方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109165731B (zh) | 2020-06-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Hu et al. | Modeling affections with memristor-based associative memory neural networks | |
| Wang et al. | A novel memristor-based circuit implementation of full-function Pavlov associative memory accorded with biological feature | |
| Park et al. | Neuromorphic speech systems using advanced ReRAM-based synapse | |
| Izhikevich | Hybrid spiking models | |
| US8965821B2 (en) | Learning method of neural network circuit | |
| Starzyk | Memristor crossbar architecture for synchronous neural networks | |
| US20150278681A1 (en) | Memory controlled circuit system and apparatus | |
| Zhao et al. | Novel designs of spiking neuron circuit and STDP learning circuit based on memristor | |
| Lee et al. | Oxide based nanoscale analog synapse device for neural signal recognition system | |
| CN109165731A (zh) | 电子神经网络及其参数设置方法 | |
| Deng et al. | A memristive spiking neural network circuit with selective supervised attention algorithm | |
| Chen et al. | Real-time simulation of biologically realistic stochastic neurons in VLSI | |
| Yang et al. | Emotion model of associative memory possessing variable learning rates with time delay | |
| CN103580668A (zh) | 一种基于忆阻器的联想记忆电路 | |
| Huayaney et al. | Learning in silicon beyond STDP: a neuromorphic implementation of multi-factor synaptic plasticity with calcium-based dynamics | |
| Feali | Using volatile/non-volatile memristor for emulating the short-and long-term adaptation behavior of the biological neurons | |
| CN109800729A (zh) | 信号处理装置及信号处理方法 | |
| Babacan et al. | FCS based memristor emulator with associative learning circuit application | |
| Andreeva et al. | Memristive logic design of multifunctional spiking neural network with unsupervised learning | |
| Li et al. | Emerging memristive neurons for neuromorphic computing and sensing | |
| Suarez et al. | Evaluation of the computational capabilities of a memristive random network (MN3) under the context of reservoir computing | |
| Donahue et al. | Design and analysis of neuromemristive echo state networks with limited-precision synapses | |
| Zhang et al. | The framework and memristive circuit design for multisensory mutual associative memory networks | |
| Ntinas et al. | Coupled physarum-inspired memristor oscillators for neuron-like operations | |
| CN108777153B (zh) | 一种多端输入突触器件及其可塑性调制方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20231124 Address after: Room 201, 1st and 2nd floors, Building 3, No. 16 Yongchang Middle Road, Beijing Economic and Technological Development Zone, Daxing District, Beijing, 100176 Patentee after: Beijing Xinli Technology Innovation Center Co.,Ltd. Address before: No. 30 Shuangqing Road, Haidian District, Beijing 100084 Patentee before: TSINGHUA University |