CN108921290A - 神经突触单元电路、神经网络电路和信息处理系统 - Google Patents
神经突触单元电路、神经网络电路和信息处理系统 Download PDFInfo
- Publication number
- CN108921290A CN108921290A CN201810697323.9A CN201810697323A CN108921290A CN 108921290 A CN108921290 A CN 108921290A CN 201810697323 A CN201810697323 A CN 201810697323A CN 108921290 A CN108921290 A CN 108921290A
- Authority
- CN
- China
- Prior art keywords
- circuit
- nerve
- nerve synapse
- line end
- synapse element
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Neurology (AREA)
- Image Analysis (AREA)
- Semiconductor Memories (AREA)
Abstract
一种神经突触单元电路、神经网络电路、信息处理系统和信息处理方法。该神经突触单元电路包括第一权重电路和第二权重电路,第一权重电路包括第一阻变电路和第一开关电路,第一阻变电路和第一位线端以及第一开关电路电连接,第一开关电路和第一字线端、第一阻变电路以及源线端电连接;第二权重电路包括第二阻变电路和第二开关电路,第二阻变电路和第二位线端以及第二开关电路电连接,第二开关电路和第二字线端、第二阻变电路以及源线端电连接。该神经突触单元电路可以表示神经网络权重矩阵中的一个有正负的权重值。
Description
技术领域
本公开的实施例涉及一种神经突触单元电路、神经网络电路、信息处理系统和信息处理方法。
背景技术
在神经形态技术领域,可以通过构建类似人类大脑结构的计算架构来大幅提高计算机的数据处理能力和机器学习能力。与基于通用中央处理器(CPU)的串行软件实现方式相比,通过电路器件和硬件系统模拟生物神经活动的实现方式允许大量的并行计算,具有高运算速度、低功耗等优点,成为神经形态技术领域的重要研究方向。
忆阻器具有集成度高、功耗低、连续阻变、非挥发性和兼容CMOS工艺等特性,被广泛应用于神经网络电路中。由忆阻器构造的交叉阵列广泛应用于多层神经网络、自适应谐振网络以及卷积神经网络中,可以实现神经网络的权重调节。
发明内容
本公开至少一实施例提供一种神经突触单元电路,包括第一权重电路和第二权重电路,所述第一权重电路包括第一阻变电路和第一开关电路,所述第一阻变电路和第一位线端以及所述第一开关电路电连接,所述第一开关电路和第一字线端、所述第一阻变电路以及源线端电连接;所述第二权重电路包括第二阻变电路和第二开关电路,所述第二阻变电路和第二位线端以及所述第二开关电路电连接,所述第二开关电路和第二字线端、所述第二阻变电路以及所述源线端电连接。
例如,在本公开一实施例提供的神经突触单元电路中,所述神经突触单元被配置为在进行计算操作时,施加至所述第一位线端的第一位线电压大于施加至所述源线端的源线电压,且施加至所述第二位线端的第二位线电压小于所述源线电压。
例如,在本公开一实施例提供的神经突触单元电路中,所述第一阻变电路包括第一忆阻器,所述第一开关电路包括第一晶体管,所述第一忆阻器的第一极和所述第一位线端连接,所述第一忆阻器的第二极和所述第一晶体管的第一极连接,所述第一晶体管的栅极和所述第一字线端连接,所述第一晶体管的第二极和所述源线端连接;所述第二阻变电路包括第二忆阻器,所述第二开关电路包括第二晶体管,所述第二忆阻器的第一极和所述第二位线端连接,所述第二忆阻器的第二极和所述第二晶体管的第一极连接,所述第二晶体管的栅极和所述第二字线端连接,所述第二晶体管的第二极和所述源线端连接。
例如,在本公开一实施例提供的神经突触单元电路中,所述第一忆阻器和所述第二忆阻器包括阻值渐变型器件。
本公开至少一实施例还提供一种神经网络电路,包括多个呈阵列排布的如本公开的实施例提供的任一神经突触单元电路,所述阵列包括多行和多列。
例如,在本公开一实施例提供的神经网络电路中,每一行神经突触单元电路对应设置一条第一位线和一条第二位线,所述第一位线和对应行神经突触单元电路中的所述第一阻变电路电连接,所述第二位线和对应行神经突触单元电路中的所述第二阻变电路电连接;每一列神经突触单元电路对应设置一条第一字线、一条第二字线以及一条源线,所述第一字线和对应列神经突触单元电路中的所述第一开关电路电连接,所述第二字线和对应列神经突触单元电路中的所述第二开关电路电连接,所述源线和对应列神经突触单元电路中的所述源线端电连接。
例如,在本公开一实施例提供的神经网络电路中,每一行神经突触单元电路对应设置一条第一位线、一条第二位线、一条第一字线以及一条第二字线,所述第一位线和对应行神经突触单元电路中的所述第一阻变电路电连接,所述第二位线和对应行神经突触单元电路中的所述第二阻变电路电连接,所述第一字线和对应行神经突触单元电路中的所述第一开关电路电连接,所述第二字线和对应行神经突触单元电路中的所述第二开关电路电连接;每一列神经突触单元电路对应设置一条源线,所述源线和对应列神经突触单元电路中的所述源线端电连接。
例如,在本公开一实施例提供的神经网络电路中,每一行神经突触单元电路对应设置一条第一位线和一条第二位线,所述第一位线和对应行神经突触单元电路中的所述第一阻变电路电连接,所述第二位线和对应行神经突触单元电路中的所述第二阻变电路电连接;每一列神经突触单元电路对应设置一条字线以及一条源线,所述字线和对应列神经突触单元电路中的所述第一开关电路以及所述第二开关电路电连接,所述源线和对应列神经突触单元电路中的所述源线端电连接。
例如,在本公开一实施例提供的神经网络电路中,每一行神经突触单元电路对应设置一条第一位线、一条第二位线以及一条字线,所述第一位线和对应行神经突触单元电路中的所述第一阻变电路电连接,所述第二位线和对应行神经突触单元电路中的所述第二阻变电路电连接,所述字线和对应行神经突触单元电路中的所述第一开关电路以及所述第二开关电路电连接;每一列神经突触单元电路对应设置一条源线,所述源线和对应列神经突触单元电路中的所述源线端电连接。
本公开至少一实施例还提供一种信息处理系统,包括本公开的实施例提供的任一神经网络电路控制电路、驱动电路和输出电路。所述控制电路被配置为在进行计算操作时,根据输入的待处理数据向所述驱动电路发送控制信号;所述驱动电路被配置为根据所述控制信号向所述神经网络电路提供驱动电压;所述输出电路被配置为对所述神经网络电路的输出结果进行处理。
例如,在本公开一实施例提供的信息处理系统中,在所述神经网络电路包括m行神经突触单元电路的情形下,所述待处理数据包括1*m的一维矩阵数据,m为大于1的整数。
例如,在本公开一实施例提供的信息处理系统中,所述输出电路包括采样保持电路和模数转换电路;所述采样保持电路被配置为采集所述神经网络电路输出的模拟电流,所述模数转换电路被配置为将所述模拟电流转换为数字电流。
例如,在本公开一实施例提供的信息处理系统中,所述输出电路包括采样保持电路和模数转换电路;所述采样保持电路被配置为采集所述神经网络电路输出的模拟电流并将所述模拟电流转换为模拟电压,所述模数转换电路被配置为将所述模拟电压转换为数字电压。
本公开的实施例还提供一种信息处理方法,用于本公开的实施例提供的信息处理系统,该方法包括:根据待处理数据向所述驱动电路发送控制信号;根据所述控制信号向所述神经网络电路提供驱动电压;以及对所述神经网络电路的输出结果进行处理。
例如,本公开一实施例提供的信息处理方法还包括:根据预设权重矩阵对所述神经网络电路进行初始化。
例如,在本公开一实施例提供的信息处理方法中,所述根据预设权重矩阵对所述神经网络电路进行初始化包括:对所述神经网络电路中的每个神经突触单元电路进行置位和/或复位操作;以及检测所述神经网络电路中的每个神经突触单元电路的电导值是否和所述预设权重矩阵中对应的权重值相同。
例如,本公开一实施例提供的信息处理方法还包括:如果所述神经网络电路中的每个神经突触单元电路的电导值和所述预设权重矩阵中对应的权重值不同,则继续进行所述置位和/或所述复位操作,直到所述神经网络电路中的每个神经突触单元电路的电导值和所述预设权重矩阵中对应的权重值相同。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例的附图作简单地介绍,显而易见地,下面描述中的附图仅仅涉及本公开的一些实施例,而非对本公开的限制。
图1为一种神经突触单元电路的示意图;
图2为一种由图1中所示的神经突触单元电路构成的神经网络电路的示意图;
图3为本公开一实施例提供的一种神经突触单元电路的示意图;
图4为本公开一实施例提供的一种神经突触单元电路的电路图;
图5为本公开一实施例提供的一种神经网络电路的示意图;
图6为本公开一实施例提供的另一种神经网络电路的示意图;
图7为本公开一实施例提供的又一种神经网络电路的示意图;
图8为本公开一实施例提供的再一种神经网络电路的示意图;
图9为本公开一实施例提供的一种信息处理系统的示意框图;
图10为本公开一实施例提供的一种信息处理系统的示意图;
图11为本公开一实施例提供的另一种信息处理系统的示意图;
图12为本公开一实施例提供的一种信息处理方法的示意图;
图13为本公开一实施例提供的另一种信息处理方法的示意图;以及
图14为本公开的实施例提供的一种阻值渐变型器件的结构示意图。
具体实施方式
为使本公开实施例的目的、技术方案和优点更加清楚,下面将结合本公开实施例的附图,对本公开实施例的技术方案进行清楚、完整地描述。显然,所描述的实施例是本公开的一部分实施例,而不是全部的实施例。基于所描述的本公开的实施例,本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例,都属于本公开保护的范围。
除非另外定义,本公开使用的技术术语或者科学术语应当为本公开所属领域内具有一般技能的人士所理解的通常意义。本公开中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。同样,“一个”、“一”或者“该”等类似词语也不表示数量限制,而是表示存在至少一个。“包括”或者“包含”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同,而不排除其他元件或者物件。“连接”或者“相连”等类似的词语并非限定于物理的或者机械的连接,而是可以包括电性的连接,不管是直接的还是间接的。“上”、“下”、“左”、“右”等仅用于表示相对位置关系,当被描述对象的绝对位置改变后,则该相对位置关系也可能相应地改变。
图1示出了一种神经突触单元电路,如图1所示,该神经突触单元电路采用1T1R结构,即包括一个晶体管M1(例如可以采用金属氧化物半导体(CMOS)场效应晶体管(FET))和一个忆阻器R1。
晶体管M1的栅极和字线端WL连接,例如,晶体管M1可以通过字线端WL和字线连接以接收控制晶体管M1导通或关闭的控制电压;晶体管M1的源极和源线端SL连接,例如,晶体管M1可以通过源线端SL和源线连接以接收复位电压;晶体管M1的漏极和忆阻器R1的第二极(例如负极)连接,忆阻器R1的第一极(例如正极)和位线端BL连接,例如,忆阻器R1可以通过位线端BL和位线连接以接收置位电压。
字线的作用是对晶体管M1的栅极施加相应电压,从而控制晶体管的导通或关闭。在对忆阻器R1进行操作时,例如进行置位操作或复位操作,均需要先开启晶体管M1,即需要通过字线端WL对晶体管M1的栅极施加导通电压。在晶体管M1导通后,例如,可以通过在源线端SL和位线端BL向忆阻器R1施加电压,以改变忆阻器R1的阻态。例如,可以通过位线端BL施加置位电压,以使得该忆阻器R1处于低阻态;又例如,可以通过源线端SL施加复位电压,以使得该忆阻器R1处于高阻态。
需要说明的是,在本公开的实施例中,通过字线端WL和位线端BL同时施加电压,使得忆阻器R1的电阻值越来越小,即忆阻器R1从高阻态变为低阻态,将使得忆阻器R1从高阻态变为低阻态的操作称为置位操作;通过字线端WL和源线端SL同时施加电压,使得忆阻器R1的电阻值越来越大,即忆阻器R1从低阻态变为高阻态,将使得忆阻器R1从低阻态变为高阻态的操作称为复位操作。以下各实施例与此相同,不再赘述。
图2示出了一种神经网络电路,该神经网络电路由多个如图1中所示的神经突触单元电路构成,例如多个神经突触单元电路构成一个m行n列的阵列。图2中BL<1>、BL<2>……BL<m>分别表示第一行、第二行……第m行的位线,每一行的神经突触单元电路中的忆阻器和该行对应的位线连接;图2中WL<1>、WL<2>……WL<n>分别表示第一列、第二列……第n列的字线,每一列的神经突触单元电路中的晶体管的栅极和该列对应的字线连接;图2中SL<1>、SL<2>……SL<n>分别表示第一列、第二列……第n列的源线,每一列的神经突触单元电路中的晶体管的源极和该列对应的源线连接。
图2所示的m行n列的神经网络电路可以表示一个m行n/2列大小的神经网络权重矩阵。例如在进行计算操作时,由于需要两个神经突触单元电路结合来表示神经网络权重矩阵中的一个有正负的权重值,所以需要将与偶数列以及奇数列神经突触单元电路连接的源线上输出的电流做差。例如,假设一个神经网络电路输出的矩阵数据有n个元素,则需要设置2n个输出电路用于检测电流,并且还需要额外设置n个加法器电路用于对电流做差值运算。
本公开至少一实施例提供一种神经突触单元电路,包括第一权重电路和第二权重电路。第一权重电路包括第一阻变电路和第一开关电路,第一阻变电路和第一位线端以及第一开关电路电连接,第一开关电路和第一字线端、第一阻变电路以及源线端电连接;第二权重电路包括第二阻变电路和第二开关电路,第二阻变电路和第二位线端以及第二开关电路电连接,第二开关电路和第二字线端、第二阻变电路以及源线端电连接。本公开至少一实施例还提供对应于上述神经突触单元电路的神经网络电路、信息处理系统以及信息处理方法。
本公开的实施例提供的神经突触单元电路可以表示神经网络权重矩阵中的一个有正负的权重值,由该神经突触单元电路构成的神经网络电路更容易映射实际的神经网络权重矩阵,从而可以节约电路资源消耗。
本公开的至少一实施例提供一种神经突触单元电路100,如图3所示,该神经突触单元电路100包括第一权重电路110和第二权重电路120。
该第一权重电路110包括第一阻变电路111和第一开关电路112,第一阻变电路111和第一位线端BL1以及第一开关电路112电连接,第一开关电路112和第一字线端WL1、第一阻变电路111以及源线端SL电连接。第二权重电路120包括第二阻变电路121和第二开关电路122,第二阻变电路121和第二位线端BL2以及第二开关电路122电连接,第二开关电路122和第二字线端WL2、第二阻变电路121以及源线端SL电连接。
例如,在采用图3中所示的神经突触单元电路100表示一个权重值时,第一权重电路110可以表示权重值的正权重部分,第二权重电路120可以表示权重值的负权重部分,通过调整第一阻变电路111和第二阻变电路121可以分别调整正权重和负权重的大小,从而可以表示一个任意大小的有正负的权重值,例如,该权重值是神经网络权重矩阵中的一个权重值。
例如,在进行初始化操作时,可以通过第一字线端WL1向第一开关电路112施加导通电压以开启第一开关电路112,然后通过第一位线端BL1和源线端SL向第一阻变电路111施加电压(例如置位电压或复位电压)以调整第一阻变电路111的电导值,从而使得第一阻变电路111的电导值可以表示一个权重值的正权重部分。
类似地,可以通过第二字线端WL2向第二开关电路122施加导通电压以开启第二开关电路122,然后通过第二位线端BL2和源线端SL向第二阻变电路121施加电压(例如置位电压或复位电压)以调整第二阻变电路121的电导值,从而使得第二阻变电路121的电导值可以表示一个权重值的负权重部分。
例如,在进行计算操作时,可以使得施加至第一位线端BL1的第一位线电压大于施加至源线端SL的源线电压,且施加至第二位线端BL2的第二位线电压小于源线电压。采用这种配置方式,流过第一权重电路110的电流如图中I1所示,流过第二权重电路120的电流如图中I2所示,则在源线端SL检测电流时,检测到的电流Icell满足等式:Icell=I1-I2,所以第一权重电路110可以表示一个权重值的正权重部分,第二权重电路120可以表示一个权重值的负权重部分。
需要说明的是,本公开的实施例不限于上述配置方式,例如在进行计算操作时,还可以使得施加至第一位线端BL1的第一位线电压小于施加至源线端SL的源线电压,且施加至第二位线端BL2的第二位线电压大于源线电压。在这种情形下,第一权重电路110可以表示一个权重值的负权重部分,第二权重电路120可以表示一个权重值的正权重部分。
图3中所示的神经突触单元电路100可以表示神经网络权重矩阵中的一个有正负的权重值。当多个图3中所示的神经突触单元电路100构成一神经网络电路时,该神经网络电路更容易映射为实际的神经网络权重矩阵,从而完成相应的计算操作;另外,该神经网络电路不需要额外的设置加法器电路,从而可以节约电路资源消耗。
在一个示例中,图3所示的神经突触单元电路100可以实现为图4中的电路结构。
例如,如图4所示,第一阻变电路111可以实现为第一忆阻器R1,第一开关电路112可以实现为第一晶体管M1,第一忆阻器R1的第一极(例如正极)和第一位线端BL1连接,第一忆阻器R1的第二极(例如负极)和第一晶体管M1的第一极连接,第一晶体管M1的栅极和第一字线端WL1连接,第一晶体管M1的第二极和源线端SL连接。第二阻变电路121可以实现为第二忆阻器R2,第二开关电路122可以实现为第二晶体管M2,第二忆阻器R2的第一极和第二位线端BL2连接,第二忆阻器R2的第二极和第二晶体管M2的第一极连接,第二晶体管M2的栅极和第二字线端WL2连接,第二晶体管M2的第二极和源线端SL连接。
例如,如图4所示,在进行初始化操作时,可以通过第一字线端WL1向第一晶体管M1施加导通电压以开启第一晶体管M1,然后通过第一位线端BL1和源线端SL向第一忆阻器R1的两极施加电压(例如置位电压或复位电压)以调整第一忆阻器R1的电导值,从而第一忆阻器R1的电导值可以表示一个权重值的正权重部分。
类似地,可以通过第二字线端WL2向第二晶体管M2施加导通电压以开启第二晶体管M2,然后通过第二位线端BL2和源线端SL向第二忆阻器R2的两极施加电压(例如置位电压或复位电压)以调整第二忆阻器R2的电导值,从而第二忆阻器R2的电导值可以表示一个权重值的负权重部分。
例如,在进行计算操作时,可以通过第一字线端WL1和第二字线端WL2同时向第一晶体管M1和第二晶体管M2的栅极施加导通电压,以开启第一晶体管M1和第二晶体管M2。同时使得施加至第一位线端BL1的第一位线电压大于施加至源线端SL的源线电压,且施加至第二位线端BL2的第二位线电压小于源线电压。采用这种配置方式,流过第一忆阻器R1的电流如图中I1所示,流过第二忆阻器R2的电流如图中I2所示,则在源线端SL检测电流时,检测到的电流Icell满足等式:Icell=I1-I2,所以第一忆阻器R1的电导值可以表示一个权重值的正权重部分,第二忆阻器R2的电导值可以表示一个权重值的负权重部分。
例如,图4中所示的第一忆阻器R1和第二忆阻器R2为阻值渐变型器件,这样在进行初始化操作时,可以逐步调整第一忆阻器R1和第二忆阻器R2的电导值,使得第一忆阻器R1和第二忆阻器R2更易于达到相应的电导值,从而可以分别表示一个权重值的正权重部分和负权重部分。
图14为本公开的实施例提供的一种阻值渐变型器件的结构示意图。例如,如图14所示,该阻值渐变型器件包括层叠的第一氧化物层12和第二氧化物层13,第一氧化物层12的氧含量高于第二氧化物层12的氧含量。需要说明的是,氧含量为氧化物中氧的摩尔百分比含量。
例如,第一氧化物层12和第二氧化物层13的材料均为金属氧化物。例如,第一氧化物层12的材料可以为五氧化二钽(Ta5O2)或氧化铝(Al2O3)等,第二氧化物层13的材料可以为二氧化钽(TaO2)等。
例如,阻值渐变型器件还包括第一电极层11和第二电极层14,第一氧化物层12和第二氧化物层13设置在第一电极层11和第二电极层14之间,且第一电极层11与第一氧化物层12电连接,第二电极层14与第二氧化物层12电连接。
例如,第一电极层11的材料为活性金属材料,从而在外加电压下,使阻值渐变型器件的电阻值缓慢变化。活性金属例如可以为铝(Al)、镍(Ni)、或钛(Ti)等。第二电极层14的材料可以为金属等导电材料,例如,可以为铜(Cu)、铝(Al)或钨(W)等。
在图4中所示的神经突触单元电路100中,通过调整第一忆阻器R1和第二忆阻器R2的电导值,使得第一忆阻器R1和第二忆阻器R2可以分别表示一个权重值的正权重部分和负权重部分,从而神经突触单元电路100可以表示神经网络权重矩阵中的一个有正负的权重值。
需要说明的是,本公开的实施例中采用的晶体管均可以为薄膜晶体管或场效应晶体管(例如CMOS场效应晶体管)或其他特性相同的开关器件。这里采用的晶体管的源极、漏极在结构上可以是对称的,所以其源极、漏极在结构上可以是没有区别的。在本公开的实施例中,为了区分晶体管除栅极之外的两极,直接描述了其中一极为第一极,而另一极为第二极。
本公开的实施例对采用的晶体管的类型不作限定,例如当晶体管采用N型晶体管时,其栅极和字线连接,例如字线上输入高电平时晶体管导通;例如当晶体管采用P型晶体管时,其栅极和字线连接,例如字线上输入低电平时晶体管导通。本公开的实施例均以N型晶体管为例进行说明,本公开包括但不限于此,例如本公开的实施例中的一个或多个晶体管也可以采用P型晶体管。
本公开的至少一实施例还提供一种神经网络电路10,该神经网络电路10包括多个呈阵列排布的神经突触单元电路100,例如神经突触单元电路100可以采用图4所示的电路结构。
例如,在图5所示的示例中,神经网络电路10包括m行n列的神经突触单元电路100。在图5中,BLp<1>、BLp<2>……BLp<m>分别表示第一行、第二行……第m行的第一位线;BLn<1>、BLn<2>……BLn<m>分别表示第一行、第二行……第m行的第二位线;WLp<1>、WLp<2>……WLp<n>分别表示第一列、第二列……第n列的第一字线;WLn<1>、WLn<2>……WLn<n>分别表示第一列、第二列……第n列的第二字线;以及SL<1>、SL<2>……SL<n>分别表示第一列、第二列……第n列的源线。
如图5所示,每一行神经突触单元电路100对应设置一条第一位线和一条第二位线,第一位线和对应行神经突触单元电路100中的第一阻变电路111电连接(即和第一忆阻器R1的第一极连接),从而可以向对应行神经突触单元电路100提供第一位线电压;第二位线和对应行神经突触单元电路100中的第二阻变电路121电连接(即和第二忆阻器R2的第一极连接),从而可以向对应行神经突触单元电路100提供第二位线电压。
每一列神经突触单元电路100对应设置一条第一字线、一条第二字线以及一条源线,第一字线和对应列神经突触单元电路100中的第一开关电路112电连接(即和第一晶体管M1的栅极连接),从而可以向对应列神经突触单元电路100提供使得第一晶体管M1导通的电压;第二字线和对应列神经突触单元电路100中的第二开关电路122电连接(即和第二晶体管M2的栅极连接),从而可以向对应列神经突触单元电路100提供使得第二晶体管M2导通的电压;源线和对应列神经突触单元电路100中的源线端电连接,从而可以向对应列神经突触单元电路100提供源线电压。
图5所示的神经网络电路10可以用于表示实际的神经网络权重矩阵,从而完成相应的计算操作。例如,当一个神经网络权重矩阵的列数n远小于行数m时(例如,n为32,m为128),采用图5所示的神经网络电路10可以节省用于驱动第一字线和第二字线的驱动电路的个数,从而可以节约电路资源消耗。
又例如,在另一个示例中,如图6所示,该神经网络电路10同样包括m行n列的神经突触单元电路100。在图6中,BLp<1>、BLp<2>……BLp<m>分别表示第一行、第二行……第m行的第一位线;BLn<1>、BLn<2>……BLn<m>分别表示第一行、第二行……第m行的第二位线;WLp<1>、WLp<2>……WLp<m>分别表示第一行、第二行……第m行的第一字线;WLn<1>、WLn<2>……WLn<m>分别表示第一行、第二行……第m行的第二字线;以及SL<1>、SL<2>……SL<n>分别表示第一列、第二列……第n列的源线。
如图6所示,每一行神经突触单元电路100对应设置一条第一位线、一条第二位线、一条第一字线以及一条第二字线,第一位线和对应行神经突触单元电路100中的第一阻变电路111电连接(即和第一忆阻器R1的第一极连接),从而可以向对应行神经突触单元电路100提供第一位线电压;第二位线和对应行神经突触单元电路100中的第二阻变电路121电连接(即和第二忆阻器R2的第一极连接),从而可以向对应行神经突触单元电路100提供第二位线电压。
第一字线和对应行神经突触单元电路100中的第一开关电路112电连接(即和第一晶体管M1的栅极连接),从而可以向对应行神经突触单元电路100提供使得第一晶体管M1导通的电压;第二字线和对应行神经突触单元电路100中的第二开关电路122电连接(即和第二晶体管M2的栅极连接),从而可以向对应行神经突触单元电路100提供使得第二晶体管M2导通的电压。
每一列神经突触单元电路100对应设置一条源线,源线和对应列神经突触单元电路100中的源线端电连接,从而可以向对应列神经突触单元电路100提供源线电压。
图6所示的神经网络电路10可以用于表示实际的神经网络权重矩阵,从而完成相应的计算操作。例如,当一个神经网络权重矩阵的行数m远小于列数n时(例如,n为128,m为32),采用图6所示的神经网络电路10可以节省用于驱动第一字线和第二字线的驱动电路的个数,从而可以节约电路资源消耗。
又例如,在另一个示例中,如图7所示,该神经网络电路10同样包括m行n列的神经突触单元电路100。图7中所示的神经网络电路10和图5中所示的神经网络电路10的区别在于:在图7中,每一列神经突触单元电路100仅对应设置一条字线,该字线和该列神经突触单元电路100中的第一开关电路112以及第二开关电路122电连接(即和第一晶体管M1和第二晶体管M2的栅极连接),从而可以向第一晶体管M1和第二晶体管M2提供导通电压。在图7所示的神经网络电路10中,每一列神经突触单元电路100仅对应设置一条字线,可以节约布线资源。
又例如,在另一个示例中,如图8所示,该神经网络电路10同样包括m行n列的神经突触单元电路100。图8中所示的神经网络电路10和图6中所示的神经网络电路10的区别在于:在图8中,每一行神经突触单元电路100仅对应一条字线,该字线和该行神经突触单元电路100中的第一开关电路112以及第二开关电路122电连接(即和第一晶体管M1和第二晶体管M2的栅极连接),从而可以向第一晶体管M1和第二晶体管M2提供导通电压。在图8所示的神经网络电路10中,每一行神经突触单元电路100仅对应设置一条字线,可以节约布线资源。
本公开的实施例提供的神经网络电路10更容易映射为实际的神经网络权重矩阵,从而完成相应的计算操作;另外,该神经网络电路10不需要额外的设置加法器电路,从而可以节约电路资源消耗。
本公开的至少一实施例还提供一种信息处理系统1,如图9所示,该信息处理系统1包括神经网络电路10、控制电路20、驱动电路30和输出电路40。例如,神经网络电路10可以采用本公开的实施例提供的任一神经网络电路10。
例如,控制电路20被配置为在进行计算操作时,根据输入的待处理数据向驱动电路30发送控制信号。
例如,在神经网络电路10进行计算操作时,待处理数据通常为表示成比特数据的数字电压,控制电路20可以根据该待处理数据向驱动电路30发送控制信号,然后驱动电路30根据接收到的控制信号向神经网络电路10提供驱动电压。例如,驱动电路30提供至神经网络电路10的驱动电压为模拟电压。例如,在神经网络电路10包括m行神经突触单元电路100的情形下,待处理数据可以为1*m的一维矩阵数据,m为大于1的整数。需要说明的是,关于待处理数据与提供至神经网络电路10的模拟电压之间的关系将在下文中进行描述,这里不再赘述。
另外,在神经网络电路10进行初始化操作时,需要对神经网络电路10中的各个神经突触单元电路100的电导值完成初始化,此时控制电路20需要控制驱动电路30提供相应的驱动电压,以使得各个神经突触单元电路100完成置位操作或/和复位操作。例如,在一些实施例中,控制电路20可以实现为控制器。
需要说明的是,在本公开的实施例中,控制电路20还可以实现为处理器。例如该处理器可以包括各种计算结构,例如复杂指令集计算机(CISC)结构、结构精简指令集计算机(RISC)结构或者一种实行多种指令集组合的结构。在一些实施例中,处理器也可以是微处理器,例如X86处理器或ARM处理器,或者可以是数字处理器(DSP)等。
例如,驱动电路30被配置为向神经网络电路10提供驱动电压。例如,在图10和图11的示例中,驱动电路30包括位线驱动电路301、字线驱动电路302以及源线驱动电路303。例如,位线驱动电路301和神经网络电路10中的第一位线以及第二位线连接,以提供相应的第一位线电压和第二位线电压;字线驱动电路302和神经网络电路10中的第一字线以及第二字线连接,以提供相应的使得晶体管导通或关闭的控制电压;源线驱动电路303和神经网络电路10中的源线连接,以提供相应的源线电压。例如,在一些示例中,位线驱动电路301、字线驱动电路302以及源线驱动电路303都可以实现为驱动器。
例如,输出电路40被配置为对神经网络电路10的输出结果进行处理。例如,如图10和图11的示例中,输出电路40包括采样保持电路S&H和模数转换电路ADC。例如,在一个示例中,采样保持电路S&H被配置为采集神经网络电路10输出的模拟电流,模数转换电路ADC被配置为将模拟电流转换为数字电流。又例如,在另一个示例中,采样保持电路S&H被配置为采集神经网络电路10输出的模拟电流并将模拟电流转换为模拟电压,模数转换电路ADC被配置为将模拟电压转换为数字电压。
本公开的实施例提供的信息处理系统1,可以实现并行计算,从而可以提高运算速度、降低功耗。该信息处理系统1可以应用于多层神经网络、自适应谐振网络以及卷积神经网络中,通过神经网络电路10的权重调节。从而完成相应的计算操作。
图10和图11为图9所示的信息处理系统1的两个示例,其中,图10所示的信息处理系统1中的神经网络电路10对应于图5中所示的神经网络电路10,图11所示的信息处理系统1中的神经网络电路10对应于图6中所示的神经网络电路10。下面以图10中所示的信息处理系统1为例,对本公开的实施例提供的信息处理系统1以及神经网络电路10的工作原理进行描述。需要说明的是,图10中的晶体管均以N型晶体管为例进行说明。
例如,如图10所示,神经网络电路10包括m行n列神经突触单元电路100,假设该神经网络电路10已经经过初始化操作,则该神经网络电路10可以表示一个权重矩阵Wm*n。例如,待处理数据是一个1*m的一维矩阵数据I1*m,该一维矩阵数据I1*m和权重矩阵Wm*n进行叉乘可以得到一个1*n的一维矩阵数据O1*n,即
在进行计算操作时,控制电路20需要根据待处理数据I1*m向驱动电路30发送控制信号,以控制驱动电路30向神经网络电路10提供相应的模拟电压。例如,在一个示例中,待处理数据I1*m中的每个元素是1比特的比特数据,从而可以表示两种状态的模拟电压,例如该比特数据为[0]时表示不施加电压,比特数据为[1]时表示施加电压;在比特数据为1时需要提供至第一位线的第一位线电压为Vref+Vread,需要提供至第二位线的第二位线电压为Vref-Vread,Vref表示提供至源线上的源线电压,Vread表示读取电压。例如,如表1所示,在一个示例中,在源线电压Vref=2.5V且读取电压Vread=0.2V时,需要提供的第一位线电压为2.7V,第二位线电压为2.3V。
表1
置位 | 复位 | 计算 | |
第一字线电压 | 3.5V | 5V | 5V |
第二字线电压 | GND | GND | 5V |
第一位线电压 | 2.5V | GND | 2.7V(Vref+Vread) |
第二位线电压 | GND | 2.5V | 2.3V(Vref-Vread) |
源线电压 | GND | 2.5V | 2.5V(Vref) |
又例如,在另一个示例中,待处理数据I1*m中的每个元素是2比特的比特数据,从而可以表示四种状态的模拟电压,例如该比特数据为[00]时表示不施加电压,比特数据为[01]时对应的读取电压Vread=0.1V,比特数据为[10]时对应的读取电压Vread=0.2V,比特数据为[11]时对应的读取电压Vread=0.3V,然后再结合源线电压Vref就可以获得所需的第一位线电压和第二位线电压。
例如,在表1所示的示例中,在待处理数据I1*m中的每个元素是1比特的比特数据的情形下,在进行计算操作时,例如待处理数据I1*m中的第一个元素为1,则需要对第一行的神经突触单元电路100施加电压。具体地,控制电路20控制位线驱动电路301向第一行的第一位线BLp<1>提供第一位线电压2.7V,以及向第一行的第二位线BLn<1>提供第二位线电压2.3V;控制电路20控制字线驱动电路302向所有列的第一字线和第二字线提供导通电压5V;以及控制电路20控制源线驱动电路303向所有列的源线提供源线电压2.5V。
上述描述是针对待处理数据I1*m中的一个元素进行说明的,即控制电路20根据该元素去控制驱动电路30向神经网络电路10中一行神经突触单元电路100提供相应的模拟电压,对于其它行的神经突触单元电路100所需的模拟电压,可以采用相同的处理方法,这里不再赘述。需要说明的是,待处理数据I1*m中的每个元素还可以是具有更多比特位的数据,本公开的实施例对此不作限定。
施加至神经网络电路10的模拟电压经过神经网络电路10的计算后,从源线可以获得输出结果。例如,输出电路40可以对该输出结果进行处理,如上所述,在一个示例中,采样保持电路S&H可以被配置为采集神经网络电路10输出的模拟电流,例如,采样保持电路S&H和源线连接,从而采集源线上的模拟电流。模数转换电路ADC和采样保持电路S&H连接,可以将采样保持电路S&H输出的模拟电流转换为数字电流。又例如,在另一个示例中,采样保持电路可以被配置为采集神经网络电路10输出的模拟电流并将模拟电流转换为模拟电压,例如该采样保持电路可以包括积分器或采样电阻;相应地,模数转换电路ADC被配置为将上述模拟电压转换为数字电压。
经过输出电路40的处理后,可以得到一维矩阵数据I1*m和权重矩阵Wm*n叉乘的结果,即一维矩阵数据O1*n。例如,对应于第一列神经突触单元电路100的输出电路40的输出结果Data<1>是O1*n中的第一个元素,对应于第n列神经突触单元电路100的输出电路40的输出结果Data<n>是O1*n中的第n个元素。
在上述进行计算操作时,对于每一个神经突触单元电路100,施加在第一忆阻器R1的第一极的电压为第一位线电压Vref+Vread,施加在第二忆阻器R2的第一极的电压为第二位线电压Vref-Vread,施加在源线端(即第一忆阻器R1的第二极以及第二忆阻器R2的第二极)的电压为源线电压Vref,所以施加在第一忆阻器R1和第二忆阻器R2两端的电压差分别为Vread和-Vread,则通过源线检测到的电流Icell=I1-I2=Vread(G1-G2)。I1表示流过第一忆阻器R1的电流,I2表示流过第二忆阻器R2的电流,G1表示第一忆阻器R1的电导值,G2表示第二忆阻器R2的电导值。
如上所述,在神经网络电路10表示一个神经网络权重矩阵时,每一个神经突触单元电路100可以表示该权重矩阵中的一个有正负的权重值,神经突触单元电路100中的第一忆阻器R1的电导值G1可以表示该权重值的正权重部分,神经突触单元电路100中的第二忆阻器R2的电导值G2可以表示该权重值的负权重部分。
在进行计算操作前,还需要根据预设权重矩阵对神经网络电路10进行初始化操作,以使得该神经网络电路10可以表示该预设权重矩阵。下面结合图10和表1对神经网络电路10的初始化操作进行说明。
例如,根据预设权重矩阵对神经网络电路10进行初始化操作包括:对神经网络电路10中的每个神经突触单元电路100进行置位和/或复位操作;以及检测神经网络电路10中的每个神经突触单元电路100的电导值是否和所述预设权重矩阵中对应的权重值相同。
例如,对于图10中所示的第一行第一列的神经突触单元电路100,例如可以先对该神经突触单元电路100中的第一忆阻器R1进行初始化。在进行置位操作时,通过第一字线WLp<1>施加第一字线电压,使得第一晶体管M1导通,例如第一字线电压可以为3.5V。同时,通过第一位线BLp<1>施加置位电压(第一位线电压)以对第一忆阻器R1进行置位,例如该置位电压可以为2.5V。通过置位操作可以增大第一忆阻器R1的电导值。
另外,在进行复位操作时,通过第一字线WLp<1>施加第一字线电压,使得第一晶体管M1导通,例如第一字线电压可以为5V。同时,通过源线SL<1>施加复位电压(源线电压)以对第一忆阻器R1进行复位,例如该复位电压可以为2.5V。通过复位操作可以减小第一忆阻器R1的电导值。
对表1中所示的电压示例有以下几点需要说明。第一,表1中所示的“GND”表示接地,即对应的电压值为0V。第二,在进行置位操作时第一字线电压为3.5V,而在进行复位操作时第一字线电压为5V;如上所述,置位操作可以增大第一忆阻器R1的电导值,即减小第一忆阻器R1的阻值,在第一忆阻器R1两端电压不变的情况下,随着第一忆阻器R1的阻值越来越小,流过第一忆阻器R1的电流越来越大,所以为了防止电流过大发生过操作问题,在进行置位操作时,使得第一字线电压相对于复位操作时小一些。第三,在进行复位操作时,由于第二字线电压为零,所以第二晶体管M2关闭,此时仍然通过第二位线BLn<1>施加第二位线电压(例如和源线电压相同,为2.5V),可以避免通过第二晶体管M2发生漏电。当然,此时也可以使得第二位线电压为零,本公开的实施例对此不作限定。
例如,在上述对第一行第一列神经突触单元电路100中的第一忆阻器R1的初始化操作完成后,可以按照相同的方法对该神经突触单元电路100中的第二忆阻器R2进行初始化操作。例如,在对第一行第一列神经突触单元电路100完成初始化操作后,可以按照相同的方法对神经网络电路10中的其它神经突触单元电路100依次完成初始化操作,这里不再赘述。
在本公开的实施例中,在进行置位操作或复位操作时,通过驱动电路40施加的第一位线电压、第二位线电压以及源线电压可以采用脉冲电压,例如,该脉冲电压的脉冲宽度包括20ns~100ns,例如脉冲宽度可以采用50ns。
例如,在每次置位操作或复位操作后,都可以检测神经突触单元电路100的电导值是否和预设权重矩阵中对应的权重值相同。在检测神经突触单元电路100的电导值(G1-G2)时,可以根据施加在第一位线的第一位线电压、施加在第二位线的第二位线电压以及从源线上检测到的电流计算获得。
如果检测神经突触单元电路100的电导值和预设权重矩阵中对应的权重值相同,则初始化操作结束;如果检测神经突触单元电路100的电导值和预设权重矩阵中对应的权重值不同,则继续进行置位和/或复位操作,直到检测神经突触单元电路100的电导值和预设权重矩阵中对应的权重值相同,则初始化操作结束。
需要说明的是,在本公开的实施例中,神经突触单元电路100的电导值和预设权重矩阵中对应的权重值相同表示两者的误差满足预设的条件即可,并不一定要求两者完全相同,以下各实施例与此相同,不再赘述。
图11所示的信息处理系统1的工作原理可以参考对图10所示的信息处理系统1的工作原理的相应描述,这里不再赘述。
本公开的实施例提供的信息处理系统1,可以实现并行计算,从而可以提高运算速度、降低功耗。该信息处理系统1可以应用于多层神经网络、自适应谐振网络以及卷积神经网络中,通过神经网络电路10的权重调节。从而完成相应的计算操作。
本公开的至少一实施例还提供一种信息处理方法,该信息处理方法可以用于本公开的实施例提供的信息处理系统1,如图12所示,该方法包括如下操作。
步骤S20:根据待处理数据向驱动电路30发送控制信号;
步骤S30:根据控制信号向神经网络电路10提供驱动电压;以及
步骤S40:对神经网络电路10的输出结果进行处理。
在本公开的另一个实施例中,如图12所示,上述信息处理方法还可以包括步骤S10:根据预设权重矩阵对神经网络电路10进行初始化。
例如,在一个示例中,如图13所示,上述步骤S10可以包括如下操作。
步骤S110:对神经网络电路10中的每个神经突触单元电路进行置位和/或复位操作;以及
步骤S120:检测神经网络电路10中的每个神经突触单元电路100的电导值是否和预设权重矩阵中对应的权重值相同。
例如,在另一个示例中,如图13所示,上述步骤S10还可以包括步骤130:如果神经网络电路中的每个神经突触单元电路的电导值和预设权重矩阵中对应的权重值不同,则继续进行置位和/或复位操作,直到神经网络电路中的每个神经突触单元电路的电导值和预设权重矩阵中对应的权重值相同。
需要说明的是,关于本公开的实施例提供的信息处理方法的详细描述和技术效果可以参考本公开的实施例中对于信息处理系统1的工作原理的描述,这里不再赘述。
以上,仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,本公开的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种神经突触单元电路,包括第一权重电路和第二权重电路;其中,
所述第一权重电路包括第一阻变电路和第一开关电路,所述第一阻变电路和第一位线端以及所述第一开关电路电连接,所述第一开关电路和第一字线端、所述第一阻变电路以及源线端电连接;
所述第二权重电路包括第二阻变电路和第二开关电路,所述第二阻变电路和第二位线端以及所述第二开关电路电连接,所述第二开关电路和第二字线端、所述第二阻变电路以及所述源线端电连接。
2.根据权利要求1所述的神经突触单元电路,其中,
所述神经突触单元被配置为在进行计算操作时,施加至所述第一位线端的第一位线电压大于施加至所述源线端的源线电压,且施加至所述第二位线端的第二位线电压小于所述源线电压。
3.根据权利要求1或2所述的神经突触单元电路,其中,
所述第一阻变电路包括第一忆阻器,所述第一开关电路包括第一晶体管,所述第一忆阻器的第一极和所述第一位线端连接,所述第一忆阻器的第二极和所述第一晶体管的第一极连接,所述第一晶体管的栅极和所述第一字线端连接,所述第一晶体管的第二极和所述源线端连接;
所述第二阻变电路包括第二忆阻器,所述第二开关电路包括第二晶体管,所述第二忆阻器的第一极和所述第二位线端连接,所述第二忆阻器的第二极和所述第二晶体管的第一极连接,所述第二晶体管的栅极和所述第二字线端连接,所述第二晶体管的第二极和所述源线端连接。
4.根据权利要求3所述的神经突触单元电路,其中,所述第一忆阻器和所述第二忆阻器包括阻值渐变型器件。
5.一种神经网络电路,包括多个呈阵列排布的如权利要求1-4任一所述的神经突触单元电路,所述阵列包括多行和多列。
6.根据权利要求5所述的神经网络电路,其中,
每一行神经突触单元电路对应设置一条第一位线和一条第二位线,所述第一位线和对应行神经突触单元电路中的所述第一阻变电路电连接,所述第二位线和对应行神经突触单元电路中的所述第二阻变电路电连接;
每一列神经突触单元电路对应设置一条第一字线、一条第二字线以及一条源线,所述第一字线和对应列神经突触单元电路中的所述第一开关电路电连接,所述第二字线和对应列神经突触单元电路中的所述第二开关电路电连接,所述源线和对应列神经突触单元电路中的所述源线端电连接。
7.根据权利要求5所述的神经网络电路,其中,
每一行神经突触单元电路对应设置一条第一位线、一条第二位线、一条第一字线以及一条第二字线,所述第一位线和对应行神经突触单元电路中的所述第一阻变电路电连接,所述第二位线和对应行神经突触单元电路中的所述第二阻变电路电连接,所述第一字线和对应行神经突触单元电路中的所述第一开关电路电连接,所述第二字线和对应行神经突触单元电路中的所述第二开关电路电连接;
每一列神经突触单元电路对应设置一条源线,所述源线和对应列神经突触单元电路中的所述源线端电连接。
8.一种信息处理系统,包括权利要求5-7任一所述的神经网络电路、控制电路、驱动电路和输出电路;其中,
所述控制电路被配置为在进行计算操作时,根据输入的待处理数据向所述驱动电路发送控制信号;
所述驱动电路被配置为根据所述控制信号向所述神经网络电路提供驱动电压;以及
所述输出电路被配置为对所述神经网络电路的输出结果进行处理。
9.根据权利要求8所述的信息处理系统,其中,在所述神经网络电路包括m行神经突触单元电路的情形下,所述待处理数据包括1*m的一维矩阵数据,m为大于1的整数。
10.根据权利要求8或9所述的信息处理系统,其中,所述输出电路包括采样保持电路和模数转换电路;
所述采样保持电路被配置为采集所述神经网络电路输出的模拟电流,所述模数转换电路被配置为将所述模拟电流转换为数字电流。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810697323.9A CN108921290B (zh) | 2018-06-29 | 2018-06-29 | 神经突触单元电路、神经网络电路和信息处理系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810697323.9A CN108921290B (zh) | 2018-06-29 | 2018-06-29 | 神经突触单元电路、神经网络电路和信息处理系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108921290A true CN108921290A (zh) | 2018-11-30 |
CN108921290B CN108921290B (zh) | 2020-11-24 |
Family
ID=64422402
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810697323.9A Active CN108921290B (zh) | 2018-06-29 | 2018-06-29 | 神经突触单元电路、神经网络电路和信息处理系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108921290B (zh) |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110473580A (zh) * | 2019-08-21 | 2019-11-19 | 南京邮电大学 | 一种基于忆阻器芯片的可编程电路最小单元及其操作方法 |
CN110619907A (zh) * | 2019-08-28 | 2019-12-27 | 中国科学院上海微系统与信息技术研究所 | 一种突触电路、突触阵列及基于突触电路的数据处理方法 |
CN110619908A (zh) * | 2019-08-28 | 2019-12-27 | 中国科学院上海微系统与信息技术研究所 | 一种突触模块、突触阵列以及基于突触阵列的权重调节方法 |
CN110852429A (zh) * | 2019-10-28 | 2020-02-28 | 华中科技大学 | 一种基于1t1r的卷积神经网络及其操作方法 |
CN111191776A (zh) * | 2019-12-19 | 2020-05-22 | 浙江大学 | 存储计算阵列及模组、数据计算方法 |
CN111656369A (zh) * | 2019-11-15 | 2020-09-11 | 江苏时代全芯存储科技股份有限公司 | 类神经电路以及运作方法 |
CN111681696A (zh) * | 2020-05-28 | 2020-09-18 | 中国科学院微电子研究所 | 基于非易失存储器的存储和数据处理方法、装置及设备 |
CN111968689A (zh) * | 2020-08-27 | 2020-11-20 | 清华大学 | 信号处理装置及信号处理方法 |
CN111985630A (zh) * | 2019-05-22 | 2020-11-24 | 力旺电子股份有限公司 | 运用于类神经网络系统的乘积累加电路的控制电路 |
WO2021120136A1 (zh) * | 2019-12-19 | 2021-06-24 | 浙江大学 | 存储计算阵列及模组、数据计算方法 |
CN113222131A (zh) * | 2021-04-30 | 2021-08-06 | 中国科学技术大学 | 基于1t1r的可实现带符号权重系数的突触阵列电路 |
CN113782072A (zh) * | 2021-11-12 | 2021-12-10 | 中科南京智能技术研究院 | 一种多比特存内计算电路 |
CN114004343A (zh) * | 2021-12-31 | 2022-02-01 | 之江实验室 | 基于忆阻器脉冲耦合神经网络的最短路径获取方法及装置 |
CN115019856A (zh) * | 2022-08-09 | 2022-09-06 | 之江实验室 | 一种基于rram多值存储的存内计算方法与系统 |
US11443177B2 (en) | 2019-11-15 | 2022-09-13 | Jiangsu Advanced Memory Technology Co., Ltd. | Artificial neuromorphic circuit and operation method |
US11468307B2 (en) | 2019-11-15 | 2022-10-11 | Jiangsu Advanced Memory Technology Co., Ltd. | Artificial neuromorphic circuit and operation method |
US11551070B2 (en) | 2019-11-15 | 2023-01-10 | Jiangsu Advanced Memory Technology Co., Ltd. | Artificial neuromorphic circuit and operation method |
WO2024015023A3 (en) * | 2022-07-15 | 2024-02-22 | Agency For Science, Technology And Research | Neural processing core for a neural network and method of operating thereof |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104916313A (zh) * | 2015-06-16 | 2015-09-16 | 清华大学 | 基于忆阻器件的神经网络突触结构及突触权重构建方法 |
CN105976022A (zh) * | 2016-04-27 | 2016-09-28 | 清华大学 | 电路结构、人工神经网络及用电路结构模拟突触的方法 |
US20160364643A1 (en) * | 2012-03-08 | 2016-12-15 | Hrl Laboratories Llc | Scalable integrated circuit with synaptic electronics and cmos integrated memristors |
CN107273972A (zh) * | 2017-05-11 | 2017-10-20 | 北京大学 | 一种基于阻变器件和适应‑激发神经元的神经形态系统及实现方法 |
CN108009640A (zh) * | 2017-12-25 | 2018-05-08 | 清华大学 | 基于忆阻器的神经网络的训练装置及其训练方法 |
-
2018
- 2018-06-29 CN CN201810697323.9A patent/CN108921290B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160364643A1 (en) * | 2012-03-08 | 2016-12-15 | Hrl Laboratories Llc | Scalable integrated circuit with synaptic electronics and cmos integrated memristors |
CN104916313A (zh) * | 2015-06-16 | 2015-09-16 | 清华大学 | 基于忆阻器件的神经网络突触结构及突触权重构建方法 |
CN105976022A (zh) * | 2016-04-27 | 2016-09-28 | 清华大学 | 电路结构、人工神经网络及用电路结构模拟突触的方法 |
CN107273972A (zh) * | 2017-05-11 | 2017-10-20 | 北京大学 | 一种基于阻变器件和适应‑激发神经元的神经形态系统及实现方法 |
CN108009640A (zh) * | 2017-12-25 | 2018-05-08 | 清华大学 | 基于忆阻器的神经网络的训练装置及其训练方法 |
Non-Patent Citations (3)
Title |
---|
LI CAN ET AL: "Efficient and self-adaptive in-situ learning in multilayer memristor neural networks", 《NATURE COMMUNICATIONS》 * |
PENG YAO ET AL: "Face classification using electronic synapses", 《NATURE COMMUNICATIONS》 * |
YANG ZHANG: "Memristor-Based Circuit Design for Multilayer Neural Networks", 《IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS–I: REGULAR PAPERS》 * |
Cited By (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111985630A (zh) * | 2019-05-22 | 2020-11-24 | 力旺电子股份有限公司 | 运用于类神经网络系统的乘积累加电路的控制电路 |
CN110473580A (zh) * | 2019-08-21 | 2019-11-19 | 南京邮电大学 | 一种基于忆阻器芯片的可编程电路最小单元及其操作方法 |
CN110473580B (zh) * | 2019-08-21 | 2021-08-20 | 南京邮电大学 | 一种基于忆阻器芯片的可编程电路最小单元及其操作方法 |
CN110619908B (zh) * | 2019-08-28 | 2021-05-25 | 中国科学院上海微系统与信息技术研究所 | 一种突触模块、突触阵列以及基于突触阵列的权重调节方法 |
CN110619907A (zh) * | 2019-08-28 | 2019-12-27 | 中国科学院上海微系统与信息技术研究所 | 一种突触电路、突触阵列及基于突触电路的数据处理方法 |
CN110619908A (zh) * | 2019-08-28 | 2019-12-27 | 中国科学院上海微系统与信息技术研究所 | 一种突触模块、突触阵列以及基于突触阵列的权重调节方法 |
CN110619907B (zh) * | 2019-08-28 | 2021-06-04 | 中国科学院上海微系统与信息技术研究所 | 一种突触电路、突触阵列及基于突触电路的数据处理方法 |
CN110852429A (zh) * | 2019-10-28 | 2020-02-28 | 华中科技大学 | 一种基于1t1r的卷积神经网络及其操作方法 |
CN110852429B (zh) * | 2019-10-28 | 2022-02-18 | 华中科技大学 | 一种基于1t1r的卷积神经网络电路及其操作方法 |
US11443177B2 (en) | 2019-11-15 | 2022-09-13 | Jiangsu Advanced Memory Technology Co., Ltd. | Artificial neuromorphic circuit and operation method |
CN111656369B (zh) * | 2019-11-15 | 2023-09-01 | 北京时代全芯存储技术股份有限公司 | 类神经电路以及运作方法 |
US11580370B2 (en) | 2019-11-15 | 2023-02-14 | Jiangsu Advanced Memory Technology Co., Ltd. | Artificial neuromorphic circuit and operation method |
WO2021092896A1 (zh) * | 2019-11-15 | 2021-05-20 | 江苏时代全芯存储科技股份有限公司 | 类神经电路以及运作方法 |
US11551070B2 (en) | 2019-11-15 | 2023-01-10 | Jiangsu Advanced Memory Technology Co., Ltd. | Artificial neuromorphic circuit and operation method |
US11468307B2 (en) | 2019-11-15 | 2022-10-11 | Jiangsu Advanced Memory Technology Co., Ltd. | Artificial neuromorphic circuit and operation method |
CN111656369A (zh) * | 2019-11-15 | 2020-09-11 | 江苏时代全芯存储科技股份有限公司 | 类神经电路以及运作方法 |
CN111191776A (zh) * | 2019-12-19 | 2020-05-22 | 浙江大学 | 存储计算阵列及模组、数据计算方法 |
WO2021120136A1 (zh) * | 2019-12-19 | 2021-06-24 | 浙江大学 | 存储计算阵列及模组、数据计算方法 |
CN111681696A (zh) * | 2020-05-28 | 2020-09-18 | 中国科学院微电子研究所 | 基于非易失存储器的存储和数据处理方法、装置及设备 |
CN111681696B (zh) * | 2020-05-28 | 2022-07-08 | 中国科学院微电子研究所 | 基于非易失存储器的存储和数据处理方法、装置及设备 |
CN111968689B (zh) * | 2020-08-27 | 2023-05-12 | 清华大学 | 信号处理装置及信号处理方法 |
CN111968689A (zh) * | 2020-08-27 | 2020-11-20 | 清华大学 | 信号处理装置及信号处理方法 |
CN113222131B (zh) * | 2021-04-30 | 2022-09-06 | 中国科学技术大学 | 基于1t1r的可实现带符号权重系数的突触阵列电路 |
CN113222131A (zh) * | 2021-04-30 | 2021-08-06 | 中国科学技术大学 | 基于1t1r的可实现带符号权重系数的突触阵列电路 |
CN113782072A (zh) * | 2021-11-12 | 2021-12-10 | 中科南京智能技术研究院 | 一种多比特存内计算电路 |
CN114004343A (zh) * | 2021-12-31 | 2022-02-01 | 之江实验室 | 基于忆阻器脉冲耦合神经网络的最短路径获取方法及装置 |
CN114004343B (zh) * | 2021-12-31 | 2022-10-14 | 之江实验室 | 基于忆阻器脉冲耦合神经网络的最短路径获取方法及装置 |
WO2024015023A3 (en) * | 2022-07-15 | 2024-02-22 | Agency For Science, Technology And Research | Neural processing core for a neural network and method of operating thereof |
CN115019856A (zh) * | 2022-08-09 | 2022-09-06 | 之江实验室 | 一种基于rram多值存储的存内计算方法与系统 |
Also Published As
Publication number | Publication date |
---|---|
CN108921290B (zh) | 2020-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108921290A (zh) | 神经突触单元电路、神经网络电路和信息处理系统 | |
US10534840B1 (en) | Multiplication using non-volatile memory cells | |
TWI673657B (zh) | 具有非揮發性突觸陣列的神經網路電路 | |
US11727258B2 (en) | Multi-bit, SoC-compatible neuromorphic weight cell using ferroelectric FETs | |
TWI661428B (zh) | 神經形態權重單元及其形成的方法以及人工神經網路 | |
US20240170060A1 (en) | Data processing method based on memristor array and electronic apparatus | |
WO2019013953A1 (en) | NONVOLATILE MEMORY MATRIX CIRCUITS (NV) USING NVM MATRIX CIRCUITS TO PERFORM MATRIX CALCULATIONS | |
CN109635941B (zh) | 一种基于1t1r存储器件的最大池化处理器 | |
CN112005252B (zh) | 具有单独权重更新和干扰电路的电阻式处理单元架构 | |
CN107533668A (zh) | 用于计算神经网络的节点值的硬件加速器 | |
US20210319293A1 (en) | Neuromorphic device and operating method of the same | |
US11216728B2 (en) | Weight matrix circuit and weight matrix input circuit | |
Milo et al. | Optimized programming algorithms for multilevel RRAM in hardware neural networks | |
US20210012974A1 (en) | Fully-printed all-solid-state organic flexible artificial synapse for neuromorphic computing | |
CN115862708A (zh) | 忆阻器阵列的操作方法、数据处理装置 | |
Chakraborty et al. | In situ unsupervised learning using stochastic switching in magneto-electric magnetic tunnel junctions | |
WO2023130487A1 (zh) | 基于忆阻器阵列的数据处理方法、电子装置 | |
CN113222131B (zh) | 基于1t1r的可实现带符号权重系数的突触阵列电路 | |
CN115458005A (zh) | 数据处理方法和存算一体装置、电子设备 | |
Lu et al. | Novel three-dimensional artificial neural network based on an eight-layer vertical memristor with an ultrahigh rectify ratio (> 107) and an ultrahigh nonlinearity (> 105) for neuromorphic computing | |
KR20210119805A (ko) | 뉴로모픽 장치 및 그 구동 방법 | |
CN114143412B (zh) | 图像处理方法和图像处理装置 | |
US20230368839A1 (en) | Memory cell, electronic circuit comprising such cells, related programming method and multiplication and accumulation method | |
WO2024021365A1 (zh) | 存储器单元、阵列电路结构及数据处理方法 | |
Fu et al. | Enabling reliable two-terminal memristor network by exploiting the dynamic reverse recovery in a diode selector |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40001180 Country of ref document: HK |
|
GR01 | Patent grant | ||
GR01 | Patent grant |