CN118014818A - 一种用于红外感存算一体系统的激活函数硬件电路 - Google Patents
一种用于红外感存算一体系统的激活函数硬件电路 Download PDFInfo
- Publication number
- CN118014818A CN118014818A CN202410427521.9A CN202410427521A CN118014818A CN 118014818 A CN118014818 A CN 118014818A CN 202410427521 A CN202410427521 A CN 202410427521A CN 118014818 A CN118014818 A CN 118014818A
- Authority
- CN
- China
- Prior art keywords
- memristor
- voltage
- activation function
- calculation
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004364 calculation method Methods 0.000 title claims abstract description 92
- 230000004913 activation Effects 0.000 title claims abstract description 80
- 230000006870 function Effects 0.000 claims abstract description 112
- 238000013528 artificial neural network Methods 0.000 claims abstract description 36
- 238000000034 method Methods 0.000 claims abstract description 24
- 238000013507 mapping Methods 0.000 claims abstract description 20
- 230000003321 amplification Effects 0.000 claims description 16
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 16
- 238000012549 training Methods 0.000 claims description 12
- 230000008569 process Effects 0.000 claims description 7
- 238000012545 processing Methods 0.000 claims description 7
- 238000009825 accumulation Methods 0.000 claims description 4
- 210000002569 neuron Anatomy 0.000 claims description 3
- 230000001939 inductive effect Effects 0.000 abstract description 3
- 239000010410 layer Substances 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 229910044991 metal oxide Inorganic materials 0.000 description 3
- 150000004706 metal oxides Chemical class 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 210000005036 nerve Anatomy 0.000 description 2
- 229910003070 TaOx Inorganic materials 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000003920 cognitive function Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005265 energy consumption Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 230000000946 synaptic effect Effects 0.000 description 1
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
本发明的一种用于红外感存算一体系统的激活函数硬件电路，包括：图像输入模块，用于读取红外图像，将像素值大小映射为电压信号；感存算一体硬件网络模块，为神经网络执行线性运算，由忆阻器阵列实现，图像输入模块产生的电压信号经过忆阻器时遵循欧姆定律和基尔霍夫定律完成乘累加计算得到累计电流，完成乘累加运算；激活函数实现模块，为网络执行非线性运算，提高网络对红外图像的识别能力。本发明解决现有感存算一体硬件图像识别方法在识别红外图像时精度低导致难以在红外图像领域应用的问题。
Description
技术领域
本发明涉及红外图像处理技术领域，尤其涉及到一种用于红外感存算一体系统的激活函数硬件电路。
背景技术
随着人工智能的快速发展和广泛使用，计算机需要处理的数据量快速增长，处理器的计算能力也要不断提高。然而随着摩尔定律的不断推进，传统CMOS器件的生产工艺即将到达微缩的物理极限，芯片的功率密度不再随着晶体管密度的增加保持恒定，出现了所谓的“短沟道效应”。另一方面，基于冯·诺依曼架构的计算机采用感存算分离的计算形式，数据需要在存储单元和计算单元之间反复传输，造成了大量延时和功耗；此外计算数据与读写数据之间速度的不匹配也造成功耗和延时的增加，即所谓功耗墙和存储墙问题。神经形态计算可以突破这些瓶颈，因此成为当前最有前景的计算形式。它借鉴了大脑的信息处理方式，建立人工神经网络，通过学习训练不断更新突触权值，最终可以实现有认知功能的神经形态计算，具有规模大、高度并行等优点。
感存算一体系统中的神经形态计算采用全连接网络，分为线性计算部分和非线性计算部分。其中线性计算部分使用忆阻器实现，将忆阻器作为网络中的模拟神经元，在离线训练得到神经网络的权重后将网络的权重映射为电导写入到忆阻器阵列中，将图像映射为电压输入忆阻器阵列，阵列就会根据欧姆定律和基尔霍夫定律得到线性计算的结果。忆阻器阵列既是存储单元也是计算单元，在忆阻器阵列中完成红外传感器拍摄的红外图像处理称为感存算一体硬件图像识别，使用忆阻器实现的图像识别网络称为感存算一体硬件图像识别网络。非线性计算部分通过激活函数实现。激活函数是神经形态计算的重要组成部分，它将非线性引入到网络中，使网络能够更好的拟合目标函数，提高网络的表达能力，目前一般在上位机上通过软件实现。
在目前的感存算一体硬件图像识别方法中，一般都只对可见光波段的图像进行处理，没有针对红外图像识别的方案，例如：2015年，加州大学提出了可以实现单层感知机的忆阻器阵列，完成了3×3像素黑白图像分类任务；2017年，马萨诸塞大学实现了128×64规模的金属氧化物可重构忆阻器阵列，能够进行模拟矢量矩阵乘法，实现了可见光图像压缩和过滤；2020年，清华大学在基于8个2Kb规模的忆阻器阵列上，实现多层卷积神经网络，提高了并行计算效率，并配合有效的混合训练方法，实现了96%以上的手写数字图像识别率；2022年，复旦大学联合之江实验室在128×64规模的金属氧化物忆阻器阵列上，用自组织映射网络实现了画像的分割与重建。红外波段的图像可以发现诸多可见光波段看不到的信息，目前已被广泛应用于汽车、国防、医疗等许多行业。因此在红外波段对图像进行神经形态计算，使系统能够快速、低功耗地实现红外图像的识别具有重要的现实意义。
现有技术存在激活函数都通过软件实现，需要使用AD采集后在上位机上进行处理，只针对可见光图像进行处理，无法直接对红外目标图像进行处理的技术问题。
因此，如何解决现有技术存在激活函数都通过软件实现，需要使用AD采集后在上位机上进行处理，只针对可将光图像，无法对红外目标图像进行处理是本领域技术人员亟待解决的技术问题。
发明内容
本发明的目的在于，针对现有技术中的问题，提供一种用于红外感存算一体系统的激活函数硬件电路。
为此，本发明的上述目的通过以下技术方案实现：
一种用于红外感存算一体系统的激活函数硬件电路，具体包括：
图像输入模块，用于读取预先拍摄的红外图像信息，并将红外图像信号按像素值大小映射为电压信号，传输到忆阻器阵列中进行乘累加运算；
感存算一体硬件网络模块，为网络执行线性运算，由忆阻器阵列实现，图像输入模块产生的电压信号经过忆阻器时遵循欧姆定律完成乘法计算得到计算电流，同一列上的计算电流遵循基尔霍夫定律完成加法计算得到累计电流，完成神经网络所需的乘累加运算，感存算一体硬件网络模块与图像输入模块连接；
激活函数实现模块，为网络执行非线性运算，提高网络对红外图像的识别能力，采用基于运算放大器的电路实现，处理忆阻器阵列的信号，将忆阻器阵列输出的累计电流信号转换为电压信号，遵循激活函数特性，计算得到处理后的电压值，并将得到的计算结果传输给下一层忆阻器网络，激活函数实现模块与感存算一体硬件网络模块连接；
本发明使用离线训练的方式得到神经网络权重，并将权重映射到忆阻器阵列后，通过硬件手段实现目标图像以电压的方式输入忆阻器阵列中，应用感存算一体硬件神经网络进行红外图像识别，使用针对红外图像识别的激活函数处理第一层网络的输出，再把激活函数的计算结果输出给下一层网络并最终得到红外图像的识别结果，提高红外感存算一体系统对红外图像的识别精度和效率，克服现有面向红外图像的感存算一体硬件图像识别方法识别速度慢、精度低的缺点。
其中，激活函数是指PReLU激活函数，是一种更加灵活的非线性激活函数，其允许负轴的斜率作为一个可学习的参数，从而在不同的通道上有不同的斜率值，使得PReLU能够更好地适应数据，提高模型的性能。
在进一步的方案中，图像输入模块包括：
图像读取模块，其作用在于在使用感存算一体的硬件网络进行红外图像识别时，读取预先拍摄的红外图像；
像素映射电压模块，其作用在于根据读取的红外图像，将红外图像中每一个像素的像素值按高低映射为电压，像素值越大对应的电压越大，像素映射电压模块与图像读取模块连接；
电压输出模块，其作用在于将像素值映射得到的电压值对外输出，电压输出模块与像素映射电压模块连接。
在进一步的方案中，感存算一体硬件网络模块包括：
忆阻器阵列，其作用在于将离线训练得到的神经网络权重映射为忆阻器的电阻值写入阵列中并保存，将图像输入模块产生的电压信号与忆阻器阵列保存的第一层网络权重信息进行乘法计算，得到计算电流，或者将激活函数实现模块产生的电压信号与忆阻器阵列保存的后一层网络权重信息进行计算，得到计算电流。忆阻器阵列在执行存储功能时，阻值为保存的神经网络权重，神经网络权重越大忆阻器阻值越大，忆阻器阵列在执行计算功能时，外部输入电压与忆阻器的电导相乘得到计算电流，忆阻器电导值为：
其中，Ri为忆阻器阻值，Gi为忆阻器电导。图像输入模块与激活函数实现模块产生的电压信号在忆阻器阵列中进行计算时遵循以下公式：
其中为图像输入模块与激活函数实现模块产生的电压信号，为离线训练的神经网络中的权重映射电阻值对应的电导值，为忆阻器硬件网络中进行计算后输出的计算电流。
在进一步的方案中，激活函数实现模块包括：
跨阻放大电路，其作用在于将忆阻器阵列输出的电流信号转换为电压信号，包括：第一运算放大器和第一反馈电阻，忆阻器阵列输出的电流信号接第一运算放大器的反向输入端，第一反馈电阻接在第一运算放大器的反向输入端和输出端之间，第一运算放大器的同向输入端接地；跨阻放大电路的输出遵循以下公式：
其中Vn为跨阻放大器的输出电压，In为忆阻器阵列的输出电流，RF为反馈电阻的阻值。
电压跟随电路，其作用在于隔离并充当跨阻放大电路与函数计算电路之间的缓冲，包括：第二运算放大器，第二运算放大器的同向输入端接跨阻放大器输出的电压信号，第二运算放大器的反向输入端接第二运算放大器的输出端；电压跟随电路的输出与跨阻放大电路的输出相同。
函数计算电路，其作用在于实现神经网络中的激活函数特性，将正负电压信号按不同比例放大，正负电压信号放大倍数之比由预先离线训练的神经网络得到的参数确定，以此实现激活函数特性，包括：第三运算放大器、输入电阻、第二反馈电阻、二极管，第三运算放大器的反向输入端接输入电阻的一端，输入电阻的另一端接电压跟随电路的输出信号，第三运算放大器的反向输入端通过两个并联的二极管和第二反馈电阻连接第三运算放大器的输出端，两个二极管方向相反，第三运算放大器的同向输入端接地；函数计算电路对正负电压信号进行放大，正电压信号放大的倍数与负电压信号放大的倍数不同，正负电压信号放大的倍数由反馈电阻确定。
本发明的一种用于红外感存算一体系统的激活函数硬件电路，使用面向忆阻器阵列的激活函数硬件电路，通过忆阻器阵列的物理特性和灵活性，为神经网络改善硬件存储与计算能力、提升并行处理能力、降低能量消耗、提高模型映射效率及兼容性等，实现神经网络中的参数可训练的激活函数计算功能，代替传统图像识别网络中固定的、不可训练的激活函数，确保激活函数在计算过程中的准确性和效率；本发明使用面向忆阻器阵列的激活函数硬件电路，优化了红外感存算一体系统中的神经网络性能，提供了一种高效、可靠的激活函数硬件电路，提升了系统的计算性能和图像识别能力，代替传统感存算一体系统中使用 AD 读取阵列输出电流到上位机中计算的方法，提高了图像识别的准确率。
本发明的一种用于红外感存算一体系统的激活函数硬件电路，所有计算全部在模拟域完成，减少了计算过程中的延迟和功耗，以硬件方式实现整个神经网络的线性计算和非线性计算，得到网络对图像的识别结果，大幅提高计算速度和效率，减少对软件的依赖，提高系统的整体性能，激活函数使用针对红外图像训练得到的参数，更好地适应红外图像的特性，提升感存算一体硬件图像识别方法面向红外图像识别的识别率，有助于精确识别红外图像。本发明通过硬件实现神经网络计算、在模拟域内完成所有计算以及使用专门针对红外图像训练的激活函数参数等技术手段，显著提高了红外图像识别的精度和效率，解决了现有感存算一体系统对红外图像识别的精度低导致的难以在红外图像领域应用的问题。
附图说明
图1为本发明实施例的一种用于红外感存算一体系统的激活函数硬件电路信号处理流程示意图；
图2为本发明的用于红外感存算一体系统的各组成模块示意图；
图3为本发明的一种用于红外感存算一体系统的激活函数硬件电路中跨阻放大电路的电路示意图；
图4为本发明的一种用于红外感存算一体系统的激活函数硬件电路中电压跟随电路的电路示意图；
图5为本发明的一种用于红外感存算一体系统的激活函数硬件电路中函数计算电路的电路示意图；
图6为本发明的一种用于红外感存算一体系统的激活函数硬件电路中使用的参数可训练激活函数示意图；
图7为本发明的一种用于红外感存算一体系统的激活函数硬件电路对数字0~9图像识别结果的条形图。
具体实施方式
为了更加清楚地表明本发明的实现方式和技术特点，下面将通过本发明具体实施例，结合附图，对本发明实施例做详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本发明设计的一种用于红外感存算一体系统的激活函数硬件电路，如图1、图2所示包括：图像输入模块、感存算一体硬件网络模块和激活函数实现模块。
在本实施例中，图像输入模块用于读取预先拍摄的红外图像信息,将红外图像的像素值映射为电压值，输入到感存算一体硬件网络模块中进行计算，包括：
在本实施例中，图像读取模块，其作用在于在使用感存算一体的硬件网络进行红外图像识别时，读取拍摄的红外图像；
在本实施例中，像素映射电压模块，其作用在于根据读取的红外图像，将每一个像素的像素值按高低映射为电压，像素值越大对应的电压越大，最大为0.4V,遵循以下公式完成红外图像信号到电压信号的转换：
其中，Vi表示转换得到的电压值，Pixel表示像素值，Pixel_max表示红外图像中最大的像素值，像素映射电压模块与图像读取模块连接；
在本实施例中，电压输出模块，其作用在于将像素映射电压模块中像素值映射得到的电压值对外输出，电压输出模块与像素映射电压模块连接。
在本实施例中，感存算一体硬件网络模块为神经网络执行线性运算，由64×64规模的忆阻器阵列实现；每个单元忆阻器由金属氧化物HfO2、TaOx制成，金属线横纵交叉布置，在每个交叉点处放置一个单元忆阻器，构成在忆阻器阵列，如图1所示；图像输入模块产生的电压信号在经过忆阻器时经过遵循欧姆定律完成乘法计算得到计算电流，同一列上的计算电流遵循基尔霍夫定律完成加法计算得到累计电流，完成神经网络所需的乘累加运算，感存算一体硬件网络模块与图像输入模块连接；
在本实施例中，忆阻器阵列，其作用在于将离线训练得到的神经网络权重映射为忆阻器的电阻值写入阵列中并保存，将图像输入模块产生的电压信号与忆阻器阵列保存的第一层网络权重信息进行乘累加计算，得到计算电流，或者将激活函数实现模块产生的电压信号与忆阻器阵列保存的后一层网络权重信息进行乘累加计算，得到计算电流；忆阻器阵列在执行存储功能时，最大阻值为80K欧，最小阻值为20K欧。忆阻器阵列在执行计算功能时，图像输入模块与激活函数实现模块输出的电压信号与忆阻器的电导相乘得到计算电流，忆阻器电导值为：
其中，Ri为忆阻器阻值，Gi为忆阻器电导值。图像输入模块产生的电压信号与激活函数实现模块产生的电压信号在忆阻器阵列中进行计算时遵循以下公式：
其中为图像输入模块与激活函数实现模块产生的电压信号，离线训练的神经网络中的权重映射电阻值对应的电导值，为忆阻器网络中进行计算后输出的计算电流。
在本实施例中，激活函数实现模块，为神经网络执行非线性运算，提高网络对红外图像的识别能力，采用基于运算放大器的电路实现，处理忆阻器神经元的信号，将忆阻器阵列输出的电流信号转换为电压信号，应用激活函数计算得到函数处理后的电压值，并将得到的计算结果传输给下一层忆阻器网络，激活函数实现模块与感存算一体硬件网络模块连接，包括：
在本实施例中，跨阻放大电路如图3所示，输入信号为忆阻器阵列得到的计算电流信号，输出为0~100mV电压信号，忆阻器阵列得到的计算电流信号连接到运算放大器ADA4610的反向输入端，反馈电阻R1两端分别接在运算放大器ADA4610的反向输入端和输出端，运算放大器ADA4610的同向输入端接地，运算放大器ADA4610的输出端输出跨阻放大的结果；跨阻放大电路的输出遵循以下公式：
其中Vout为跨阻放大电路输出信号，Iin为忆阻器阵列输出的计算电流，R1为电路中的反馈电阻。
在本实施例中，电压跟随电路如图4所示，输入信号为跨阻放大电路产生的电压，输出信号为与输入信号相同的电压信号，跨阻放大电路产生的电压连接到运算放大器ADA4610的同向输入端，运算放大器ADA4610的反向输入端连接运算放大器ADA4610的输出端；电压跟随电路的输出遵循以下公式：
其中Vin为跨阻放大电路产生的电压，Vout为电压跟随电路的输出电压。
在本实施例中，函数计算电路如图5所示，其作用在于将正负电压信号按不同比例放大，正负电压信号放大倍数之比由预先离线训练的神经网络得到，以此实现激活函数特性，输入信号为电压跟随电路产生的电压信号，输出信号为-400mV到+400mV的电压信号，电压跟随电路产生的电压连接到输入电阻R2，R2的另一端连接到运算放大器ADA4610的反向输入端，反馈电阻R3一端接运算放大器ADA4610的反向输入端，另一端接二极管D1的负极，二极管D1的正极接运算放大器ADA4610的输出端，反馈电阻R4一端接运算放大器ADA4610的反向输入端，另一端接二极管D2的正极，二极管D1的负极接运算放大器ADA4610的输出端，运算放大器ADA4610的同向输入端接地；
在本实施例中，当函数计算电路的输入电压为正，二极管D2导通，二极管D1关闭，函数计算电路将电压信号进行放大，放大倍数由反馈电阻R4大小确定，调整反馈电阻R4大小，可改变输出，在本实施例中，调整R4至函数计算电路输出电压等于函数计算电路输入电压；当函数计算电路的输入电压为负，二极管D1导通，二极管D2关闭，函数计算电路将电压信号进行放大，放大倍数由反馈电阻R3大小确定。
在本实施例中，函数计算电路实现的激活函数如图6所示，特性为：
其中f(x)为函数输出，x为函数输入，a为神经网络针对红外图像进行离线训练时得到的参数，通过电路实现该函数特性时，通过函数计算电路的放大特性实现该函数特性：
并且有：
其中Vout为函数计算电路输出电压信号，Vin为电压跟随电路产生的电压信号，a为神经网络针对红外图像进行离线训练时得到的参数，R3、R4为反馈电阻。
在本实施例中，本发明设计的一种用于红外感存算一体系统的激活函数硬件电路对数字图像0~9进行了识别，所用数据集为MNIST手写数字图像数据集，识别图像共10000张，包含0~9共10种数字，其中数字0共980张，数字1共1135张，数字2共1032张，数字3共1010张，数字4共982张，数字5共892张，数字6共958张，数字7共1028张，数字8共974张，数字9共1009张，每张图像的像素为8×8，识别结果如图7所示，总体识别率达到87%以上。
综上所述，本发明的一种用于红外感存算一体系统的激活函数硬件电路，通过使用硬件电路实现神经网络中的激活函数计算功能，代替传统感存算一体系统中使用AD读取阵列输出电流到上位机中计算的方法；本发明设计的一种用于红外感存算一体系统的激活函数硬件电路，通过使用参数可训练的激活函数，代替传统图像识别网络中固定的、不可训练的激活函数，优化了神经网络的性能。
本发明的一种用于红外感存算一体系统的激活函数硬件电路，使用面向忆阻器阵列的激活函数硬件电路，通过忆阻器阵列中部署针对红外图像处理的网络权重和调整运算放大器电路中的反馈电阻，实现神经网络中的参数可训练的激活函数计算功能，代替传统图像识别网络中固定的、不可训练的激活函数，确保激活函数在计算过程中的准确性和效率;本发明优化了红外感存算一体系统中的神经网络性能，提供了一种高效、可靠的激活函数硬件电路，提升了系统的计算性能和图像识别能力，代替传统感存算一体系统中使用AD读取阵列输出电流到上位机中计算的方法，提高了图像识别的准确率。
本发明的一种用于红外感存算一体系统的激活函数硬件电路，所有计算全部在模拟域完成，以硬件方式实现整个神经网络的线性计算和非线性计算，得到网络对图像的识别结果，激活函数使用针对红外图像训练得到的参数，提升感存算一体硬件图像识别方法面向红外图像识别的识别率。本发明解决了现有感存算一体硬件图像识别方法对红外图像识别的精度低导致的难以在红外图像领域应用的问题。
应当理解的是，以上实施例仅为说明本发明的实现过程，不能因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。
Claims (8)
1.一种用于红外感存算一体系统的激活函数硬件电路，其特征在于，包括：
图像输入模块，读取预先拍摄的红外图像信息，并将红外图像信号按像素值大小映射为电压信号，将映射后的电压信号传输到忆阻器阵列中进行乘累加运算；
感存算一体硬件网络模块，使用忆阻器阵列为神经网络执行线性运算，忆阻器阵列中的各个忆阻器作为神经元，组成了具有并行处理能力的忆阻器网络，图像输入模块产生的电压信号在经过忆阻器阵列时遵循欧姆定律完成乘法计算得到计算电流，同一列上的计算电流遵循基尔霍夫定律完成加法计算得到累计电流，完成神经网络所需的乘累加运算，感存算一体硬件网络模块与图像输入模块连接；
激活函数实现模块，采用基于运算放大器的电路实现，处理忆阻器阵列的信号，将忆阻器阵列输出的累计电流信号转换为电压信号，遵循激活函数特性，计算得到处理后的电压值，并将得到的计算结果传输给下一层忆阻器网络，不断重复，直到到达最后一层忆阻器网络，在最后一层，激活函数将识别结果输出，激活函数实现模块与感存算一体硬件网络模块连接，为神经网络执行非线性运算，提高网络对红外图像的识别能力。
2.根据权利要求1所述的一种用于红外感存算一体系统的激活函数硬件电路，其特征在于，所述图像输入模块包括：
图像读取模块，使用所述感存算一体的硬件网络进行红外图像识别时，读取预先拍摄的红外图像；
像素映射电压模块，根据读取的红外图像，将红外图像中每一个像素的像素值按高低映射为电压，像素值越大对应的电压越大，像素映射电压模块与图像读取模块连接；
电压输出模块，将像素值映射得到的电压值对外输出，所述电压输出模块与所述像素映射电压模块连接。
3.根据权利要求1所述的一种用于红外感存算一体系统的激活函数硬件电路，其特征在于，所述感存算一体硬件网络模块包括：
忆阻器阵列，将离线训练得到的神经网络权重映射为忆阻器的电阻值写入阵列中并保存，将所述图像输入模块产生的电压信号与所述忆阻器阵列保存的第一层网络权重信息进行乘法计算，得到计算电流，或者将所述激活函数实现模块产生的电压信号与所述忆阻器阵列保存的后一层网络权重信息进行乘法计算，得到计算电流；所述忆阻器阵列在执行存储功能时，阻值为保存的神经网络权重，神经网络权重越大忆阻器阻值越大，所述忆阻器阵列在执行计算功能时，外部输入电压值与忆阻器电导值相乘得到计算电流。
4.根据权利要求3所述的一种用于红外感存算一体系统的激活函数硬件电路，其特征在于所述忆阻器电导值为：
，
其中，Ri为所述忆阻器阻值，Gi为所述忆阻器电导值；
所述图像输入模块与所述激活函数实现模块产生的电压信号在所述忆阻器阵列中进行计算时遵循以下公式：
，
其中为图像输入模块与激活函数实现模块产生的电压信号，为离线训练的神经网络中的权重映射电阻值对应的电导值，为所述忆阻器网络中进行计算后输出的计算电流。
5.根据权利要求1所述的一种用于红外感存算一体系统的激活函数硬件电路，其特征在于，所述激活函数实现模块包括：跨阻放大电路，电压跟随电路和函数计算电路；
所述跨阻放大电路，包括：第一运算放大器和第一反馈电阻，将所述忆阻器阵列输出的电流信号转换为电压信号；
所述电压跟随电路，包括：第二运算放大器，隔离并充当所述跨阻放大电路与所述函数计算电路之间的缓冲；
所述函数计算电路，包括：第三运算放大器、输入电阻、第二反馈电阻、二极管，实现所述神经网络中的激活函数特性，将正负电压信号按不同比例放大，正负电压信号放大倍数之比由所述离线训练的神经网络得到的参数确定，以此实现激活函数特性。
6.根据权利要求5所述的一种用于红外感存算一体系统的激活函数硬件电路，其特征在于，所述跨阻放大电路的输入为所述忆阻器阵列输出的电流信号，接第一运算放大器的反向输入端，第一反馈电阻接在第一运算放大器的反向输入端和输出端之间，第一运算放大器的同向输入端接地；所述跨阻放大电路的输出遵循以下公式：
，
其中Vn为所述跨阻放大器的输出电压，In为所述忆阻器阵列的输出电流，RF为所述第一反馈电阻的阻值。
7.根据权利要求5所述的一种用于红外感存算一体系统的激活函数硬件电路，其特征在于，所述电压跟随电路所使用第二运算放大器的同向输入端接所述跨阻放大器输出的电压信号，第二运算放大器的反向输入端接第二运算放大器的输出端；所述电压跟随电路的输出与所述跨阻放大电路的输出相同。
8.根据权利要求5所述的一种用于红外感存算一体系统的激活函数硬件电路，其特征在于，所述函数计算电路所使用第三运算放大器的反向输入端接输入电阻的一端，输入电阻的另一端接电压跟随电路的输出信号，第三运算放大器的反向输入端通过两个并联的二极管和第二反馈电阻连接第三运算放大器的输出端，两个二极管方向相反，第三运算放大器的同向输入端接地；所述函数计算电路对正负电压信号进行放大，正电压信号放大的倍数与负电压信号放大的倍数不同，正负电压信号放大的倍数由第二反馈电阻确定。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410214405 | 2024-02-27 | ||
| CN2024102144059 | 2024-02-27 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN118014818A true CN118014818A (zh) | 2024-05-10 |
Family
ID=90948951
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202410427521.9A Pending CN118014818A (zh) | 2024-02-27 | 2024-04-10 | 一种用于红外感存算一体系统的激活函数硬件电路 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN118014818A (zh) |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20170178725A1 (en) * | 2014-10-29 | 2017-06-22 | Hewlett Packard Enterprise Development Lp | Memristive dot product engine for vector processing |
| US20200143255A1 (en) * | 2017-06-27 | 2020-05-07 | Technion Research & Development Foundation Limited | Dna-based neural network |
| CN111481777A (zh) * | 2020-05-06 | 2020-08-04 | 南京邮电大学 | 一种基于忆阻器计算的非接触式静脉显像虚拟现实眼镜 |
| CN111680792A (zh) * | 2020-06-18 | 2020-09-18 | 中国人民解放军国防科技大学 | 激活函数电路、忆阻神经网络及忆阻神经网络的控制方法 |
| CN113517014A (zh) * | 2020-04-10 | 2021-10-19 | 三星电子株式会社 | 神经形态装置及其操作方法 |
| US20220027718A1 (en) * | 2020-07-23 | 2022-01-27 | University Of Dayton | Unsupervised learning of memristor crossbar neuromorphic processing systyems |
| CN114757347A (zh) * | 2022-04-22 | 2022-07-15 | 上海交通大学 | 低比特量化神经网络加速器实现方法和系统 |
| CN116074647A (zh) * | 2023-02-22 | 2023-05-05 | 陕西格芯国微半导体科技有限公司 | 一种基于忆阻器的动态视觉图像传感器 |
| CN116222790A (zh) * | 2023-02-24 | 2023-06-06 | 国科大杭州高等研究院 | 一种用于感算一体红外光电探测器阵列的驱动电路系统 |
| CN117527985A (zh) * | 2023-11-03 | 2024-02-06 | 中国科学院宁波材料技术与工程研究所 | 一种具有加密功能的神经形态视觉传感器及图像原位物理加密方法 |
-
2024
- 2024-04-10 CN CN202410427521.9A patent/CN118014818A/zh active Pending
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20170178725A1 (en) * | 2014-10-29 | 2017-06-22 | Hewlett Packard Enterprise Development Lp | Memristive dot product engine for vector processing |
| US20200143255A1 (en) * | 2017-06-27 | 2020-05-07 | Technion Research & Development Foundation Limited | Dna-based neural network |
| CN113517014A (zh) * | 2020-04-10 | 2021-10-19 | 三星电子株式会社 | 神经形态装置及其操作方法 |
| CN111481777A (zh) * | 2020-05-06 | 2020-08-04 | 南京邮电大学 | 一种基于忆阻器计算的非接触式静脉显像虚拟现实眼镜 |
| CN111680792A (zh) * | 2020-06-18 | 2020-09-18 | 中国人民解放军国防科技大学 | 激活函数电路、忆阻神经网络及忆阻神经网络的控制方法 |
| US20220027718A1 (en) * | 2020-07-23 | 2022-01-27 | University Of Dayton | Unsupervised learning of memristor crossbar neuromorphic processing systyems |
| CN114757347A (zh) * | 2022-04-22 | 2022-07-15 | 上海交通大学 | 低比特量化神经网络加速器实现方法和系统 |
| CN116074647A (zh) * | 2023-02-22 | 2023-05-05 | 陕西格芯国微半导体科技有限公司 | 一种基于忆阻器的动态视觉图像传感器 |
| CN116222790A (zh) * | 2023-02-24 | 2023-06-06 | 国科大杭州高等研究院 | 一种用于感算一体红外光电探测器阵列的驱动电路系统 |
| CN117527985A (zh) * | 2023-11-03 | 2024-02-06 | 中国科学院宁波材料技术与工程研究所 | 一种具有加密功能的神经形态视觉传感器及图像原位物理加密方法 |
Non-Patent Citations (3)
| Title |
|---|
| CHUNHUA AN等: "Anisotropic photoresponse of layered rhenium disulfide synaptic transistors", 《SPECIAL TOPIC —OPTICAL FIELD MANIPULATION》, 15 August 2021 (2021-08-15), pages 1 - 6 * |
| 张小红;廖琳玉;俞梁华;: "新型忆阻细胞神经网络的建模及电路仿真", 系统仿真学报, no. 08, 8 August 2016 (2016-08-08), pages 1715 - 1731 * |
| 胡伟达等: "具有变革性特征的红外光电探测器", 《物理学报》, 23 June 2019 (2019-06-23), pages 1 - 35 * |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112183739B (zh) | 基于忆阻器的低功耗脉冲卷积神经网络的硬件架构 | |
| CN107679622B (zh) | 一种面向神经网络算法的模拟感知计算架构 | |
| US20220335299A9 (en) | Processing method and accelerating device | |
| CN107563497B (zh) | 用于稀疏人工神经网络的计算装置和运算方法 | |
| CN111626330A (zh) | 基于多尺度特征图重构和知识蒸馏的目标检测方法与系统 | |
| Kung et al. | Efficient object detection using embedded binarized neural networks | |
| US10657439B2 (en) | Processing method and device, operation method and device | |
| CN111062450A (zh) | 基于fpga和scnn架构的图像分类装置及方法 | |
| Sun et al. | Low-consumption neuromorphic memristor architecture based on convolutional neural networks | |
| Qin et al. | Training recurrent neural networks against noisy computations during inference | |
| CN109977470B (zh) | 忆阻Hopfield神经网络稀疏编码的电路及其操作方法 | |
| CN118014818A (zh) | 一种用于红外感存算一体系统的激活函数硬件电路 | |
| US11989888B2 (en) | Image sensor with integrated efficient multiresolution hierarchical deep neural network (DNN) | |
| KR20200066215A (ko) | 컨볼루션 신경망 입력 층을 위한 비트 해석 | |
| CN113065575A (zh) | 一种图像处理方法及相关装置 | |
| CN111179212A (zh) | 集成蒸馏策略和反卷积的微小目标检测片上实现方法 | |
| Nelson et al. | Introduction to artificial neural systems: by Zarek M. Zurada, West Publishing Co., St. Paul, MN, USA. Pages 683. ISBN 0-314-93391-3. Hardcover $49 | |
| CN115049885A (zh) | 一种存算一体卷积神经网络图像分类装置及方法 | |
| CN112862663B (zh) | 一种近传感器端计算系统 | |
| Desappan et al. | CNN Inference: Dynamic and Predictive Quantization | |
| Zhang et al. | Automotive Object Detection via Learning Sparse Events by Temporal Dynamics of Spiking Neurons | |
| Song et al. | Reservoir Computing based on a Solid Electrolyte ZnO TFT: An attractive platform for flexible edge computing | |
| CN115499899B (zh) | 边缘物联代理装置的通信时延测试方法、装置及存储介质 | |
| Wei et al. | ATA: Attentional non-linear activation function approximation for VLSI-based neural networks | |
| CN115295544B (zh) | 红外感算一体芯片及其工作方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |