CN217034775U - 一种参数可调的ReLU函数神经元电路及电子设备 - Google Patents
一种参数可调的ReLU函数神经元电路及电子设备 Download PDFInfo
- Publication number
- CN217034775U CN217034775U CN202220731635.9U CN202220731635U CN217034775U CN 217034775 U CN217034775 U CN 217034775U CN 202220731635 U CN202220731635 U CN 202220731635U CN 217034775 U CN217034775 U CN 217034775U
- Authority
- CN
- China
- Prior art keywords
- triode
- operational amplifier
- circuit
- electrode
- voltage
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Amplifiers (AREA)
Abstract
本实用新型公开了一种参数可调的ReLU函数神经元电路及电子设备,涉及电路技术领域。包括:至少一个正权值电路、至少一个负权值电路、偏置电流电路和ReLU激活函数电路,每个正权值电路的输出端与ReLU激活函数电路的输入端正向连接,每个负权值电路的输出端与ReLU激活函数电路的输入端负向连接,ReLU激活函数电路的输入端还与偏置电流电路连接。本实用新型提供的ReLU函数神经元电路,具有输入电流权值可调的优点,通过调整正权值电路和负权值电路的权值,可以调整ReLU激活函数电路的输入电流,具有结构简单便于实现的优点。
Description
技术领域
本实用新型涉及电路技术领域,尤其涉及一种参数可调的ReLU函数神经元电路及电子设备。
背景技术
ReLU函数是一种人工神经网络中常用的激活函数,为神经元在线性变换之后的非线性输出结果。
目前的ReLU函数神经元电路的具体参数调整困难,实用性差。
实用新型内容
本实用新型所要解决的技术问题是针对现有技术的不足,提供一种参数可调的ReLU函数神经元电路及电子设备。
本实用新型解决上述技术问题的技术方案如下:
一种参数可调的ReLU函数神经元电路,包括:至少一个正权值电路、至少一个负权值电路、偏置电流电路和ReLU激活函数电路,每个所述正权值电路的输出端与所述ReLU激活函数电路的输入端正向连接,每个所述负权值电路的输出端与所述ReLU激活函数电路的输入端负向连接,所述ReLU激活函数电路的输入端还与所述偏置电流电路连接,其中:
所述正权值电路包括:第一跨导线性环三极管、第二跨导线性环三极管、第三跨导线性环三极管、第四跨导线性环三极管、第一压控电流源和第二压控电流源,所述第一跨导线性环三极管的集电极分别与电流输入端、所述第二跨导线性环三极管的基极和所述第三跨导线性环三极管的基极连接,所述第一跨导线性环三极管的基极分别与所述第二跨导线性环三极管的发射极和所述第一压控电流源连接,所述第一跨导线性环三极管的发射极接地,所述第二跨导线性环三极管的集电极、所述第三跨导线性环三极管的集电极、所述第一压控电流源和所述第二压控电流源与供电电压端连接,所述第三跨导线性环三极管的发射极分别与所述第四跨导线性环三极管的基极和所述第二压控电流源连接,所述第四跨导线性环三极管的集电极与所述ReLU激活函数电路的输入端正向连接,所述第四跨导线性环三极管的发射极、所述第一压控电流源和所述第二压控电流源接地;
所述负权值电路包括:第五跨导线性环三极管、第六跨导线性环三极管、第七跨导线性环三极管、第八跨导线性环三极管、第三压控电流源和第四压控电流源,所述第五跨导线性环三极管的集电极分别与电流输入端、所述第六跨导线性环三极管的基极和所述第七跨导线性环三极管的基极连接,所述第五跨导线性环三极管的基极分别与所述第六跨导线性环三极管的发射极和所述第三压控电流源连接,所述第五跨导线性环三极管的发射极接地,所述第六跨导线性环三极管的集电极、所述第七跨导线性环三极管的集电极、所述第三压控电流源和所述第四压控电流源与供电电压端连接,所述第七跨导线性环三极管的发射极分别与所述第八跨导线性环三极管的基极和所述第四压控电流源连接,所述第八跨导线性环三极管的集电极与所述ReLU激活函数电路的输入端反向连接,所述第八跨导线性环三极管的发射极、所述第三压控电流源和所述第四压控电流源接地。
本实用新型的有益效果是:本实用新型提供的ReLU函数神经元电路,具有输入电流权值可调的优点,通过调整正权值电路和负权值电路的权值,可以调整ReLU激活函数电路的输入电流,具有结构简单便于实现的优点。
在上述技术方案的基础上,本实用新型还可以做如下改进。
进一步,所述第一压控电流源包括:第一运算放大器、第一MOS管、第一基准电压源和第一电阻,所述第一运算放大器的正输入端与所述第一基准电压源的正极连接,所述第一基准电压源的负极接地,所述第一运算放大器的负输入端分别与所述第一电阻的一端和所述第一MOS管的源极连接,所述第一电阻的另一端接地,所述第一MOS管的漏极与所述第一跨导线性环三极管的基极连接,所述第一运算放大器的输出端与所述第一MOS管的栅极连接,所述第一运算放大器的供电端与所述供电电压端连接。
进一步,所述第二压控电流源包括:第二运算放大器、第二MOS管、第二基准电压源和第二电阻,所述第二运算放大器的正输入端与所述第二基准电压源的正极连接,所述第二基准电压源的负极接地,所述第二运算放大器的负输入端分别与所述第二电阻的一端和所述第二MOS管的源极连接,所述第二电阻的另一端接地,所述第二MOS管的漏极与所述第四跨导线性环三极管的基极连接,所述第二运算放大器的输出端与所述第二MOS管的栅极连接,所述第二运算放大器的供电端与所述供电电压端连接。
进一步,所述第三压控电流源包括:第三运算放大器、第三MOS管、第三基准电压源和第三电阻,所述第三运算放大器的正输入端与所述第三基准电压源的正极连接,所述第三基准电压源的负极接地,所述第三运算放大器的负输入端分别与所述第三电阻的一端和所述第三MOS管的源极连接,所述第三电阻的另一端接地,所述第三MOS管的漏极与所述第五跨导线性环三极管的基极连接,所述第三运算放大器的输出端与所述第三MOS管的栅极连接,所述第三运算放大器的供电端与所述供电电压端连接。
进一步,所述第四压控电流源包括:第四运算放大器、第四MOS管、第四基准电压源和第四电阻,所述第四运算放大器的正输入端与所述第四基准电压源的正极连接,所述第四基准电压源的负极接地,所述第四运算放大器的负输入端分别与所述第四电阻的一端和所述第四MOS管的源极连接,所述第四电阻的另一端接地,所述第四MOS管的漏极与所述第八跨导线性环三极管的基极连接,所述第四运算放大器的输出端与所述第四MOS管的栅极连接,所述第四运算放大器的供电端与所述供电电压端连接。
进一步,所述偏置电流电路包括:第五压控电流源和第六压控电流源,所述第五压控电流源包括:第五运算放大器、第五MOS管、第五基准电压源和第五电阻,所述第六压控电流源包括:第六运算放大器、第六基准电压源、第六电阻、第七电阻、第一三极管和第二三极管,其中:
所述第五运算放大器的正输入端与所述第五基准电压源的正极连接,所述第五基准电压源的负极接地,所述第五运算放大器的负输入端分别与所述第五电阻的一端和所述第五MOS管源极连接,所述第五电阻的另一端接地,所述第五MOS管的漏极与所述ReLU激活函数电路连接,所述第五运算放大器的输出端与所述第五MOS管的栅极连接,所述第五运算放大器的供电端与所述供电电压端连接;
所述第六运算放大器的正输入端分别与所述第六电阻的一端和所述第六基准电压源的负极连接,所述第六电阻的另一端接地,所述第六基准电压源的正极分别与所述供电电压端和所述第七电阻的一端连接,所述第七电阻的另一端分别与所述第六运算放大器的负输入端和所述第二三极管的发射极连接,所述第二三三极管的基极与所述第一三极管的发射极连接,所述第二三极管的集电极和所述第一三极管的集电极与所述ReLU激活函数电路连接,所述第一三极管的基极与所述第六运算放大器的输出端连接,所述第六运算放大器的供电端与所述供电电压端连接。
进一步,所述ReLU激活函数电路包括:第一电流传输器、第二电流传输器、第三电流传输器、第七运算放大器、增益电路、二极管、第八电阻、第九电阻、第七基准电压源和第八基准电压源,其中:
所述正权值电路通过所述第一电流传输器与所述第七运算放大器的正输入端正向连接,所述负权值电路通过所述第二电流传输器与所述第七运算放大器的正输入端反向连接,所述第七运算放大器的正输入端还与所述第八电阻的一端连接,所述第八电阻的另一端接地,所述第七运算放大器的负输入端和输出端与所述增益电路的输入端连接,所述第七运算放大器的供电端与供电电压端连接,所述增益电路的输出端与所述二极管的正极连接,所述二极管的负极与所述第九电阻的一端连接,所述第九电阻的另一端与所述第七基准电压源的正极连接,所述第七基准电压源的负极与所述第八基准电压源的正极连接,所述第八基准电压源的负极通过所述第三电流传输器与负载连接。
本实用新型还提供一种电子设备,包括如上述任意技术方案所述的参数可调的ReLU函数神经元电路。
以上所述仅为本实用新型的较佳实施例,并不用以限制本实用新型,凡在本实用新型的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本实用新型的保护范围之内。
附图说明
图1为本实用新型ReLU函数神经元电路的实施例提供的结构示意图;
图2为本实用新型ReLU函数神经元电路的实施例提供的正权值电路及负权值电路的结构示意图;
图3为本实用新型ReLU函数神经元电路的实施例提供的偏置电流电路结构示意图;
图4为本实用新型ReLU函数神经元电路的实施例提供的ReLU激活函数电路结构示意图;
图5为本实用新型ReLU函数神经元电路的实施例提供的ReLU激活函数电路IO特性曲线示意图;
图6为本实用新型ReLU函数神经元电路的实施例提供的ReLU激活函数电路增益改变时IO特性曲线示意图;
图7为本实用新型ReLU函数神经元电路的实施例提供的ReLU激活函数电路IO特性与偏置电流变化关系示意图;
图8为本实用新型ReLU函数神经元电路的实施例提供的ReLU激活函数函数转折点随基准电压变化关系示意图;
图9为本实用新型ReLU函数神经元电路的实施例提供的ReLU激活函数电路IO特性与权值设置关系示意图。
具体实施方式
以下结合附图对本实用新型的原理和特征进行描述,所举实例只用于解释本实用新型,并非用于限定本实用新型的范围。
如图1所示,为本实用新型ReLU函数神经元电路的实施例提供的结构示意图,该参数可调的ReLU函数神经元电路包括:至少一个正权值电路、至少一个负权值电路、偏置电流电路和ReLU激活函数电路,每个正权值电路的输出端与ReLU激活函数电路的输入端正向连接,每个负权值电路的输出端与ReLU激活函数电路的输入端负向连接,ReLU激活函数电路的输入端还与偏置电流电路连接,其中:
如图2所示,正权值电路包括:第一跨导线性环三极管Qs1、第二跨导线性环三极管Qs2、第三跨导线性环三极管Qs3、第四跨导线性环三极管Qs4、第一压控电流源和第二压控电流源,第一跨导线性环三极管Qs1的集电极分别与电流输入端、第二跨导线性环三极管Qs2的基极和第三跨导线性环三极管Qs3的基极连接,第一跨导线性环三极管Qs1的基极分别与第二跨导线性环三极管Qs2的发射极和第一压控电流源连接,第一跨导线性环三极管Qs1的发射极接地,第二跨导线性环三极管Qs2的集电极、第三跨导线性环三极管Qs3的集电极、第一压控电流源和第二压控电流源与供电电压端VCC连接,第三跨导线性环三极管Qs3的发射极分别与第四跨导线性环三极管Qs4的基极和第二压控电流源连接,第四跨导线性环三极管Qs4的集电极与ReLU激活函数电路的输入端正向连接,第四跨导线性环三极管Qs4的发射极、第一压控电流源和第二压控电流源接地;
负权值电路包括:第五跨导线性环三极管Qs5、第六跨导线性环三极管Qs6、第七跨导线性环三极管Qs7、第八跨导线性环三极管Qs8、第三压控电流源和第四压控电流源,第五跨导线性环三极管Qs5的集电极分别与电流输入端、第六跨导线性环三极管Qs6的基极和第七跨导线性环三极管Qs7的基极连接,第五跨导线性环三极管Qs5的基极分别与第六跨导线性环三极管Qs6的发射极和第三压控电流源连接,第五跨导线性环三极管Qs5的发射极接地,第六跨导线性环三极管Qs6的集电极、第七跨导线性环三极管Qs7的集电极、第三压控电流源和第四压控电流源与供电电压端VCC连接,第七跨导线性环三极管Qs7的发射极分别与第八跨导线性环三极管Qs8的基极和第四压控电流源连接,第八跨导线性环三极管Qs8的集电极与ReLU激活函数电路的输入端反向连接,第八跨导线性环三极管Qs8的发射极、第三压控电流源和第四压控电流源接地。
应理解,正权值电路和负权值电路的数量可以根据实际需求选择,例如,如图1所示,可以设置3个正权值电路和3个负权值电路。
需要说明的是,正权值电路和负权值电路的结构相同,只是与ReLU激活函数电路的连接方式不同,因此图2中仅给出正权值电路的结构,负权值电路结构相同。下面以正权值电路为例,对工作原理进行说明。
正权值电路的主体为4个跨导线性环三极管,根据跨导线性原理IQs1IQs2=IQs3IQs4。其中,IQs2由第一压控电流源提供,第一压控电流源包括第一运算放大器Us1、第一MOS管Ms1、第一基准电压源Vs1和第一电阻Rs1,IQs2=Vs1/Rs1,可通过调控Vs1的大小调控IQs2。对于电流IQs3,与IQs2同理。由于Iin=IQs1,Iout=IQs4,因此Iout/Iin=IQs4/IQs1=IQs2/IQs3=Vs1/Vs2,即该权值电路的权值,权值的改变可通过改变Vs1与Vs2实现。
需要说明的,正负权值电路分别通过电流传输器与ReLU激活函数电路连接,如图4所示,正向连接和负向连接指的是电流传输器中的电流方向,负权值电路的结构与正权值电流的结构相同,只是连接方式与正权值电路的电流传输器的连接方式相反,因此为负权值。
本实施例提供的ReLU函数神经元电路,具有输入电流权值可调的优点,通过调整正权值电路和负权值电路的权值,可以调整ReLU激活函数电路的输入电流,具有结构简单便于实现的优点。
可选地,如图2所示,第一压控电流源包括:第一运算放大器Us1、第一MOS管Ms1、第一基准电压源Vs1和第一电阻Rs1,第一运算放大器Us1的正输入端与第一基准电压源Vs1的正极连接,第一基准电压源Vs1的负极接地,第一运算放大器Us1的负输入端分别与第一电阻Rs1的一端和第一MOS管Ms1的源极连接,第一电阻Rs1的另一端接地,第一MOS管Ms1的漏极与第一跨导线性环三极管Qs1的基极连接,第一运算放大器Us1的输出端与第一MOS管Ms1的栅极连接,第一运算放大器Us1的正负供电端分别与供电电压端VCC、VEE连接。
可选地,如图2所示,第二压控电流源包括:第二运算放大器Us2、第二MOS管Ms2、第二基准电压源Vs2和第二电阻Rs2,第二运算放大器Us2的正输入端与第二基准电压源Vs2的正极连接,第二基准电压源Vs2的负极接地,第二运算放大器Us2的负输入端分别与第二电阻Rs2的一端和第二MOS管Ms2的源极连接,第二电阻Rs2的另一端接地,第二MOS管Ms2的漏极与第四跨导线性环三极管Qs4的基极连接,第二运算放大器Us2的输出端与第二MOS管Ms2的栅极连接,第二运算放大器Us2的正负供电端分别与供电电压端VCC、VEE连接。
可选地,第三压控电流源包括:第三运算放大器、第三MOS管、第三基准电压源和第三电阻,第三运算放大器的正输入端与第三基准电压源的正极连接,第三基准电压源的负极接地,第三运算放大器的负输入端分别与第三电阻的一端和第三MOS管的源极连接,第三电阻的另一端接地,第三MOS管的漏极与第五跨导线性环三极管Qs5的基极连接,第三运算放大器的输出端与第三MOS管的栅极连接,第三运算放大器的正负供电端分别与供电电压端VCC、VEE连接。
可选地,第四压控电流源包括:第四运算放大器、第四MOS管、第四基准电压源和第四电阻,第四运算放大器的正输入端与第四基准电压源的正极连接,第四基准电压源的负极接地,第四运算放大器的负输入端分别与第四电阻的一端和第四MOS管的源极连接,第四电阻的另一端接地,第四MOS管的漏极与第八跨导线性环三极管Qs8的基极连接,第四运算放大器的输出端与第四MOS管的栅极连接,第四运算放大器的正负供电端分别与供电电压端VCC、VEE连接。
可选地,如图3所示,偏置电流电路包括:第五压控电流源和第六压控电流源,第五压控电流源包括:第五运算放大器Ub2、第五MOS管Mosb1、第五基准电压源Vb1和第五电阻Rb1,第六压控电流源包括:第六运算放大器Ub1、第六基准电压源Vb2、第六电阻Rb2、第七电阻Rb3、第一三极管Qb1和第二三极管Qb2,其中:
第五运算放大器Ub2的正输入端与第五基准电压源Vb1的正极连接,第五基准电压源Vb1的负极接地,第五运算放大器Ub2的负输入端分别与第五电阻Rb1的一端和第五MOS管Mosb1源极连接,第五电阻Rb1的另一端接地,第五MOS管Mosb1的漏极与ReLU激活函数电路连接,第五运算放大器Ub2的输出端与第五MOS管Mosb1的栅极连接,第五运算放大器Ub2的正负供电端分别与供电电压端VCC、VEE连接;
第六运算放大器Ub1的正输入端分别与第六电阻Rb2的一端和第六基准电压源Vb2的负极连接,第六电阻Rb2的另一端接地,第六基准电压源Vb2的正极分别与供电电压端VCC和第七电阻Rb3的一端连接,第七电阻Rb3的另一端分别与第六运算放大器Ub1的负输入端和第二三极管Qb2的发射极连接,第二三三极管的基极与第一三极管Qb1的发射极连接,第二三极管Qb2的集电极和第一三极管Qb1的集电极与ReLU激活函数电路连接,第一三极管Qb1的基极与第六运算放大器Ub1的输出端连接,第六运算放大器Ub1的正负供电端分别与供电电压端VCC、VEE连接。
需要说明的是,偏置电流电路通过两个压控电流源电路组合而成,其中,第一个压控电流源电路的电流由第五MOS管Mosb1输出,方向为流进第五MOS管Mosb1,大小为Vb1/Rb1;第一个压控电流源电路的电流由第一三极管Qb1与第二三极管Qb2的集电极相连处输出,大小为Vb2/Rb3,方向为流出集电极。通过两个电流方向相反的压控电流源电路组成了电流大小与方向可调的偏置电流电路。
可选地,如图4所示,ReLU激活函数电路包括:第一电流传输器CC1、第二电流传输器CC2、第三电流传输器CC3、第七运算放大器U1、增益电路A1、二极管D1、第八电阻R1、第九电阻R2、第七基准电压源V1和第八基准电压源V2,其中:
正权值电路通过第一电流传输器CC1与第七运算放大器U1的正输入端正向连接,负权值电路通过第二电流传输器CC2与第七运算放大器U1的正输入端反向连接,第七运算放大器U1的正输入端还与第八电阻R1的一端连接,第八电阻R1的另一端接地,第七运算放大器U1的负输入端和输出端与增益电路A1的输入端连接,第七运算放大器U1的正负供电端分别与供电电压端VCC、VEE连接,增益电路A1的输出端与二极管D1的正极连接,二极管D1的负极与第九电阻R2的一端连接,第九电阻R2的另一端与第七基准电压源V1的正极连接,第七基准电压源V1的负极与第八基准电压源V2的正极连接,第八基准电压源V2的负极通过第三电流传输器CC3与负载连接。
应理解,对于ReLU激活函数电路,该输入电流几乎全部流经第八电阻R1,因此第七运算放大器U1的正输入端电压Vr=IR1,第七运算放大器U1构成电压跟随器,第七运算放大器U1的输出端电压Vr’=Vr,Vr’经增益电路A1增益电路A1,Vr’经过增益变为Vr”=A1Vr’,其中,A1为电压增益。
ReLU激活函数电路的主体即为二极管D1,其中二极管D1的安伏特性曲线在一定情况下可等效为ReLU函数,该安伏关系即流经二极管D1的电流与二极管D1两端电压的关系。其中通过改变第七基准电压源V1与第八基准电压源V2的值可改变ReLU函数的转折点的位置。流经二极管D1的电流最终通过第三电流传输器CC3传输至输出端。
需要说明的是,可根据实际情况选用不同的增益电路A1,其中,通过改变增益电路A1的电压增益可改变ReLU函数的线性部分的斜率。
在该神经元电路中的第三电流传输器CC3既可以起到隔离前级电路与后级电路的作用从而实现良好的承接前级电路电流与带载,又相当于在神经元的输出端添加了一个权值电路,该权值电路的权值相当于神经元对于刺激的响应强度。
需要说明的是,ReLU激活函数电路的核心为二极管D1与第九电阻R2。为了便于分析,假定第七基准电压源V1和第八基准电压源V2的电压设定均为零,则二极管D1与第九电阻R2作为整体的两端电压即为增益电路A1对地电压,设ReLU激活函数电路输入电流即权值电路电流之和Isum,增益电路A1增益为A,则增益电路A1对地电压为Isum.Rr1.A。当增益电路A1对地电压较小时,二极管D1截止,ReLU激活函数电路输出电流为零,当二极管D1导通时,二极管D1相当于一电压源,其电阻远小于第九电阻R2,输出电流随增益电路A1对地电压线性变化,从而构成ReLU函数的线性部分,ReLU函数的转折点对应于Isum.Rr1.A的值刚好使二极管D1导通的点。
例如,在具体电路中,处理的电流大小为uA级,第九电阻R2为10kohm-200kohm左右,对于此处的具体电路来说,当Isum.Rr1.A的值等于Von1=400mV时,二极管D1导通。
二极管D1两端电压略小于400mV时等效为一线性电阻,大于400mV时等效为一电压源,其值介于500mV-600mV,设该电压为一定值Von2。
综合上述分析:
Isum.Rr1.A=Von1时为ReLU函数转折点。
[(Isum.Rr1.A)-Von2]/Rr2为ReLU激活函数电路的输出电流,应理解,仅当电路处在ReLU函数线性部分时满足此式。
介于以上两部分之间的区间即为过渡区,其足够小可忽略,使得该神经元电路的传输特性等效为ReLU函数。
需要说明的是,该神经元电路中的电流传输器的输入阻抗趋于0,输出阻抗无穷大,此处未予具体体现(图中用流控电流源代替),具体电路可根据实际应用选取,主要起隔离前后电路的作用,第三电流传输器CC3也可起到在输出端改变神经元输出权值,相当于改变神经元对输入的响应强度。
其中,该神经元电路中的可调参数有正负权值电路的权值、偏置电流、ReLU激活函数电路中增益电路A1的增益、第七基准电压源V1的值、第八基准电压源V2的值,第三电流传输器CC3的电流传输比,具有可调整参数多,调整灵活,实用性强的优点。
如图5所示,提供了ReLU激活函数电路IO特性曲线示意图,为一输入端一输出端的IO特性曲线;
如图6所示,提供了ReLU激活函数电路增益改变时IO特性曲线示意图,增益电路A1的增益由5倍改变至2倍;
如图7所示,提供了ReLU激活函数电路IO特性与偏置电流变化关系示意图,第五基准电压源Vb1由0v线性增加至0.08v,共8个采样点;
如图8所示,提供了ReLU激活函数电路函数转折点随调节电压变化关系示意图,通过调控电压源的第七基准电压源V1改变ReLU函数转折点,从0线性增加至0.8v,共八个采样点;
如图9所示,提供了ReLU激活函数电路IO特性与权值设置关系示意图,权值电路权值第一基准电压源Vs1由0线性增加至0.8v,共8个采样点。
该神经元电路可作为基本单元用于通过神经网络实现的类脑电路设计中。
本实用新型还提供一种电子设备,包括如上述任意实施方式公开的参数可调的ReLU函数神经元电路。
在本说明书的描述中,参考术语“实施例一”、“实施例二”、“示例”、“具体示例”或“一些示例”等的描述意指结合该实施例或示例描述的具体方法、装置或者特点包含于本实用新型的至少一个实施例或示例中。
在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、方法、装置或者特点可以在任一个或多个实施例或示例中以合适的方式结合。
此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
以上所述仅为本实用新型的较佳实施例,并不用以限制本实用新型,凡在本实用新型的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本实用新型的保护范围之内。
Claims (8)
1.一种参数可调的ReLU函数神经元电路,其特征在于,包括:至少一个正权值电路、至少一个负权值电路、偏置电流电路和ReLU激活函数电路,每个所述正权值电路的输出端与所述ReLU激活函数电路的输入端正向连接,每个所述负权值电路的输出端与所述ReLU激活函数电路的输入端负向连接,所述ReLU激活函数电路的输入端还与所述偏置电流电路连接,其中:
所述正权值电路包括:第一跨导线性环三极管、第二跨导线性环三极管、第三跨导线性环三极管、第四跨导线性环三极管、第一压控电流源和第二压控电流源,所述第一跨导线性环三极管的集电极分别与电流输入端、所述第二跨导线性环三极管的基极和所述第三跨导线性环三极管的基极连接,所述第一跨导线性环三极管的基极分别与所述第二跨导线性环三极管的发射极和所述第一压控电流源连接,所述第一跨导线性环三极管的发射极接地,所述第二跨导线性环三极管的集电极、所述第三跨导线性环三极管的集电极、所述第一压控电流源和所述第二压控电流源与供电电压端连接,所述第三跨导线性环三极管的发射极分别与所述第四跨导线性环三极管的基极和所述第二压控电流源连接,所述第四跨导线性环三极管的集电极与所述ReLU激活函数电路的输入端正向连接,所述第四跨导线性环三极管的发射极、所述第一压控电流源和所述第二压控电流源接地;
所述负权值电路包括:第五跨导线性环三极管、第六跨导线性环三极管、第七跨导线性环三极管、第八跨导线性环三极管、第三压控电流源和第四压控电流源,所述第五跨导线性环三极管的集电极分别与电流输入端、所述第六跨导线性环三极管的基极和所述第七跨导线性环三极管的基极连接,所述第五跨导线性环三极管的基极分别与所述第六跨导线性环三极管的发射极和所述第三压控电流源连接,所述第五跨导线性环三极管的发射极接地,所述第六跨导线性环三极管的集电极、所述第七跨导线性环三极管的集电极、所述第三压控电流源和所述第四压控电流源与供电电压端连接,所述第七跨导线性环三极管的发射极分别与所述第八跨导线性环三极管的基极和所述第四压控电流源连接,所述第八跨导线性环三极管的集电极与所述ReLU激活函数电路的输入端反向连接,所述第八跨导线性环三极管的发射极、所述第三压控电流源和所述第四压控电流源接地。
2.根据权利要求1所述的参数可调的ReLU函数神经元电路,其特征在于,所述第一压控电流源包括:第一运算放大器、第一MOS管、第一基准电压源和第一电阻,所述第一运算放大器的正输入端与所述第一基准电压源的正极连接,所述第一基准电压源的负极接地,所述第一运算放大器的负输入端分别与所述第一电阻的一端和所述第一MOS管的源极连接,所述第一电阻的另一端接地,所述第一MOS管的漏极与所述第一跨导线性环三极管的基极连接,所述第一运算放大器的输出端与所述第一MOS管的栅极连接,所述第一运算放大器的供电端与所述供电电压端连接。
3.根据权利要求2所述的参数可调的ReLU函数神经元电路,其特征在于,所述第二压控电流源包括:第二运算放大器、第二MOS管、第二基准电压源和第二电阻,所述第二运算放大器的正输入端与所述第二基准电压源的正极连接,所述第二基准电压源的负极接地,所述第二运算放大器的负输入端分别与所述第二电阻的一端和所述第二MOS管的源极连接,所述第二电阻的另一端接地,所述第二MOS管的漏极与所述第四跨导线性环三极管的基极连接,所述第二运算放大器的输出端与所述第二MOS管的栅极连接,所述第二运算放大器的供电端与所述供电电压端连接。
4.根据权利要求1所述的参数可调的ReLU函数神经元电路,其特征在于,所述第三压控电流源包括:第三运算放大器、第三MOS管、第三基准电压源和第三电阻,所述第三运算放大器的正输入端与所述第三基准电压源的正极连接,所述第三基准电压源的负极接地,所述第三运算放大器的负输入端分别与所述第三电阻的一端和所述第三MOS管的源极连接,所述第三电阻的另一端接地,所述第三MOS管的漏极与所述第五跨导线性环三极管的基极连接,所述第三运算放大器的输出端与所述第三MOS管的栅极连接,所述第三运算放大器的供电端与所述供电电压端连接。
5.根据权利要求4所述的参数可调的ReLU函数神经元电路,其特征在于,所述第四压控电流源包括:第四运算放大器、第四MOS管、第四基准电压源和第四电阻,所述第四运算放大器的正输入端与所述第四基准电压源的正极连接,所述第四基准电压源的负极接地,所述第四运算放大器的负输入端分别与所述第四电阻的一端和所述第四MOS管的源极连接,所述第四电阻的另一端接地,所述第四MOS管的漏极与所述第八跨导线性环三极管的基极连接,所述第四运算放大器的输出端与所述第四MOS管的栅极连接,所述第四运算放大器的供电端与所述供电电压端连接。
6.根据权利要求1所述的参数可调的ReLU函数神经元电路,其特征在于,所述偏置电流电路包括:第五压控电流源和第六压控电流源,所述第五压控电流源包括:第五运算放大器、第五MOS管、第五基准电压源和第五电阻,所述第六压控电流源包括:第六运算放大器、第六基准电压源、第六电阻、第七电阻、第一三极管和第二三极管,其中:
所述第五运算放大器的正输入端与所述第五基准电压源的正极连接,所述第五基准电压源的负极接地,所述第五运算放大器的负输入端分别与所述第五电阻的一端和所述第五MOS管源极连接,所述第五电阻的另一端接地,所述第五MOS管的漏极与所述ReLU激活函数电路连接,所述第五运算放大器的输出端与所述第五MOS管的栅极连接,所述第五运算放大器的供电端与所述供电电压端连接;
所述第六运算放大器的正输入端分别与所述第六电阻的一端和所述第六基准电压源的负极连接,所述第六电阻的另一端接地,所述第六基准电压源的正极分别与所述供电电压端和所述第七电阻的一端连接,所述第七电阻的另一端分别与所述第六运算放大器的负输入端和所述第二三极管的发射极连接,所述第二三三极管的基极与所述第一三极管的发射极连接,所述第二三极管的集电极和所述第一三极管的集电极与所述ReLU激活函数电路连接,所述第一三极管的基极与所述第六运算放大器的输出端连接,所述第六运算放大器的供电端与所述供电电压端连接。
7.根据权利要求1所述的参数可调的ReLU函数神经元电路,其特征在于,所述ReLU激活函数电路包括:第一电流传输器、第二电流传输器、第三电流传输器、第七运算放大器、增益电路、二极管、第八电阻、第九电阻、第七基准电压源和第八基准电压源,其中:
所述正权值电路通过所述第一电流传输器与所述第七运算放大器的正输入端正向连接,所述负权值电路通过所述第二电流传输器与所述第七运算放大器的正输入端反向连接,所述第七运算放大器的正输入端还与所述第八电阻的一端连接,所述第八电阻的另一端接地,所述第七运算放大器的负输入端和输出端与所述增益电路的输入端连接,所述第七运算放大器的供电端与供电电压端连接,所述增益电路的输出端与所述二极管的正极连接,所述二极管的负极与所述第九电阻的一端连接,所述第九电阻的另一端与所述第七基准电压源的正极连接,所述第七基准电压源的负极与所述第八基准电压源的正极连接,所述第八基准电压源的负极通过所述第三电流传输器与负载连接。
8.一种电子设备,其特征在于,包括如权利要求1至7中任一项所述的参数可调的ReLU函数神经元电路。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202220731635.9U CN217034775U (zh) | 2022-03-30 | 2022-03-30 | 一种参数可调的ReLU函数神经元电路及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202220731635.9U CN217034775U (zh) | 2022-03-30 | 2022-03-30 | 一种参数可调的ReLU函数神经元电路及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN217034775U true CN217034775U (zh) | 2022-07-22 |
Family
ID=82413976
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202220731635.9U Active CN217034775U (zh) | 2022-03-30 | 2022-03-30 | 一种参数可调的ReLU函数神经元电路及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN217034775U (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115688897A (zh) * | 2023-01-03 | 2023-02-03 | 浙江大学杭州国际科创中心 | 低功耗紧凑型Relu激活函数神经元电路 |
-
2022
- 2022-03-30 CN CN202220731635.9U patent/CN217034775U/zh active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115688897A (zh) * | 2023-01-03 | 2023-02-03 | 浙江大学杭州国际科创中心 | 低功耗紧凑型Relu激活函数神经元电路 |
CN115688897B (zh) * | 2023-01-03 | 2023-03-31 | 浙江大学杭州国际科创中心 | 低功耗紧凑型Relu激活函数神经元电路 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101500358B (zh) | Led驱动电路的输出电流补偿电路 | |
CN113268102B (zh) | 一种超低功耗快速瞬态响应低压差线性稳压器电路 | |
EP0256729A2 (en) | Amplifier circuit | |
CN217034775U (zh) | 一种参数可调的ReLU函数神经元电路及电子设备 | |
CN100543631C (zh) | 恒压输出电路 | |
CN114546014A (zh) | 宽带宽ldo修调控制电路、宽带宽ldo及控制方法 | |
CN111601429B (zh) | 一种恒流驱动电路 | |
US4415864A (en) | Variable-gain amplifier stage equipped with field-effect transistors | |
CN116700418A (zh) | 一种钳位电压精确可调电路 | |
EP0094485A1 (en) | Differential amplifier with auto bias adjust | |
CN115525096A (zh) | 电流镜电路、放大器和电子设备 | |
CN107666294A (zh) | 放大电路 | |
CN110928350A (zh) | 一种具有宽输入电压的供电电源 | |
CN111277235B (zh) | 一种增益可调的交叉耦合运算放大电路 | |
CN114614801A (zh) | 迟滞比较器及电压产生电路 | |
US5635868A (en) | Power transistor current limiter | |
US5751177A (en) | Variable level shifter and multiplier suitable for low-voltage differential operation | |
EP0191165B1 (en) | Adjustable speed up circuit for ttl-type gates | |
US4737665A (en) | Adjustable speed up circuit for TTL-type gates | |
CN113839633B (zh) | 一种可调增益放大器 | |
CN212726972U (zh) | 迟滞电压可配置的比较器 | |
US10236851B2 (en) | Wide bandwidth variable gain amplifier and exponential function generator | |
CN115276207A (zh) | 宽范围高适应性电源转换电路 | |
CN114825878A (zh) | 电压比较器及其电流极限控制电路 | |
KR20040050590A (ko) | 가변 이득 증폭기 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
GR01 | Patent grant | ||
GR01 | Patent grant |