CN113762492B - 基于有机突触晶体管人工神经网络的图像识别系统及方法 - Google Patents
基于有机突触晶体管人工神经网络的图像识别系统及方法 Download PDFInfo
- Publication number
- CN113762492B CN113762492B CN202110995067.3A CN202110995067A CN113762492B CN 113762492 B CN113762492 B CN 113762492B CN 202110995067 A CN202110995067 A CN 202110995067A CN 113762492 B CN113762492 B CN 113762492B
- Authority
- CN
- China
- Prior art keywords
- synaptic
- organic
- image
- neural network
- image recognition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000000946 synaptic effect Effects 0.000 title claims abstract description 134
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 52
- 238000000034 method Methods 0.000 title claims abstract description 24
- 210000000225 synapse Anatomy 0.000 claims abstract description 84
- 210000002569 neuron Anatomy 0.000 claims abstract description 33
- 238000004088 simulation Methods 0.000 claims abstract description 31
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 18
- 230000003595 spectral effect Effects 0.000 claims abstract description 8
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N Silicium dioxide Chemical compound O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 claims description 17
- 229910052814 silicon oxide Inorganic materials 0.000 claims description 15
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 10
- 229910052710 silicon Inorganic materials 0.000 claims description 10
- 239000010703 silicon Substances 0.000 claims description 10
- 230000008569 process Effects 0.000 claims description 9
- 238000007667 floating Methods 0.000 claims description 7
- 238000012549 training Methods 0.000 claims description 7
- 238000002360 preparation method Methods 0.000 claims description 6
- 238000011478 gradient descent method Methods 0.000 claims description 5
- 239000004065 semiconductor Substances 0.000 claims description 5
- 238000004528 spin coating Methods 0.000 claims description 5
- 238000005265 energy consumption Methods 0.000 abstract description 5
- 230000015654 memory Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 239000000463 material Substances 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000006386 memory function Effects 0.000 description 3
- 210000005036 nerve Anatomy 0.000 description 3
- 230000005693 optoelectronics Effects 0.000 description 3
- 238000001878 scanning electron micrograph Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 210000004556 brain Anatomy 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 229910001507 metal halide Inorganic materials 0.000 description 2
- 150000005309 metal halides Chemical class 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000003977 synaptic function Effects 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- OKTJSMMVPCPJKN-UHFFFAOYSA-N Carbon Chemical class [C] OKTJSMMVPCPJKN-UHFFFAOYSA-N 0.000 description 1
- 229910004298 SiO 2 Inorganic materials 0.000 description 1
- ATJFFYVFTNAWJD-UHFFFAOYSA-N Tin Chemical compound [Sn] ATJFFYVFTNAWJD-UHFFFAOYSA-N 0.000 description 1
- -1 alkyl graphene Chemical compound 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 229910052797 bismuth Inorganic materials 0.000 description 1
- JCXGWMGPZLAOME-UHFFFAOYSA-N bismuth atom Chemical compound [Bi] JCXGWMGPZLAOME-UHFFFAOYSA-N 0.000 description 1
- 239000000969 carrier Substances 0.000 description 1
- 231100000085 chronic toxic effect Toxicity 0.000 description 1
- 229910052681 coesite Inorganic materials 0.000 description 1
- 229910052906 cristobalite Inorganic materials 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000005669 field effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 229910052732 germanium Inorganic materials 0.000 description 1
- GNPVGFCGXDBREM-UHFFFAOYSA-N germanium atom Chemical compound [Ge] GNPVGFCGXDBREM-UHFFFAOYSA-N 0.000 description 1
- 229910021389 graphene Inorganic materials 0.000 description 1
- 229910001385 heavy metal Inorganic materials 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 210000002364 input neuron Anatomy 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 239000012528 membrane Substances 0.000 description 1
- 210000000653 nervous system Anatomy 0.000 description 1
- 210000004205 output neuron Anatomy 0.000 description 1
- 230000003647 oxidation Effects 0.000 description 1
- 238000007254 oxidation reaction Methods 0.000 description 1
- 229910052760 oxygen Inorganic materials 0.000 description 1
- 239000001301 oxygen Substances 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000000377 silicon dioxide Substances 0.000 description 1
- 235000012239 silicon dioxide Nutrition 0.000 description 1
- 229910052682 stishovite Inorganic materials 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 231100000419 toxicity Toxicity 0.000 description 1
- 230000001988 toxicity Effects 0.000 description 1
- 229910052905 tridymite Inorganic materials 0.000 description 1
- 230000003313 weakening effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/067—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
- G06N3/0675—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means using electro-optical, acousto-optical or opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/061—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Neurology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明涉及一种基于有机突触晶体管人工神经网络的图像识别系统及方法,包括:图像输入模块,用于将二维图像逐行扫描生成一维向量作为神经网络的输入;图像编码网络,由若干个突触构成,用于通过突触权值将输入的图像进行编码降维,将图像的主要信息压缩为隐藏神经元,并将隐藏神经元分别输入图像识别模块和突触权值更新模块;图像识别模块,图像识别模块基于谱聚类算法对图像信息压缩得到的隐藏神经元数据进行无监督聚类,实现图像识别;突触权值更新模块,用于基于梯度下降模拟单元和误差逆传播单元更新图像编码网络的突触权值。与现有技术相比,本发明具有稳定性好、性能优异、能耗低、方便快捷、识别精度高等优点。
Description
技术领域
本发明涉及维纳光电子学技术领域,尤其是涉及一种基于有机突触晶体管人工神经网络的图像识别系统及方法。
背景技术
随着集成电路和计算机技术的飞速发展,传统冯·诺依曼(Von Neumann)架构计算机系统中内存和处理单元的分离导致传统计算机处理巨量信息的效率瓶颈。相反,人类的大脑可以利用大量的突触(Synapse)和神经元(Neurons)以超低的能耗处理并行任务,从而实现学习和记忆。因此,与传统的冯·诺依曼计算机架构相比,类脑神经形态计算可以更有效地处理非结构化和复杂的信息。在人类神经系统中,突触是神经元之间的特殊连接点,可以同时处理和存储信息。因此,通过人工装置模拟突触行为是实现神经形态计算的基础。光子突触设备具有较大的带宽并且没有电互连损耗,从而使它们能够以低功耗和高效率实现突触性能。包括记忆电阻,相变存储器和场效应晶体管在内的突触设备已经得到了广泛的讨论和研究。其中,例如文献1“Photonic Synapses Based on Inorganic PerovskiteQuantum Dots for Neuromorphic Computing”(Y.Wang,Z.Lv,et al.Adv.Mater 30(2018):1802883.)中提出,与记忆电阻和相变存储器相比,基于浮栅晶体管的突触器件可以控制线性度的变化范围和更新的权重,因此其被视为模拟突触并实现非易失性存储器功能的合适候选者。
突触材料的选择是获得高突触性能的重要影响因素。金属卤化物钙钛矿(MHPs)具有优异的光吸收能力和简单的制造工艺,其被视为制造光电突触器件的合适材料。钙钛矿中含有重金属元素铅(Pb),铅的毒性会对生物造成慢性毒性作用。除此之外,金属卤化物钙钛矿对空气中的氧化很敏感,因此它在空气中的稳定性很差。因此,迫切需要找到在大规模生产中具有优异性能的环保、稳定的无铅钙钛矿。到目前为止,锡(Sn),锗(Ge)和铋(Bi)元素已被用作构建金属卤化物钙钛矿光电器件的替代品,其中Ge2+和Sn2+容易在空气中氧化为Ge4+和Sn4+,因此Ge基和Sn基钙钛矿通常表现出较差的稳定性。相比之下,基于Bi元素的钙钛矿具有制备简单、稳定性好的优点,是一种理想的无铅钙钛矿材料。
到目前为止,基于光电突触的人工神经网络在有监督图像识别任务中已经有了较多研究,例如文献2“Optoelectronic Synapse Based on IGZO-Alkylated GrapheneOxide Hybrid Structure”(Sun.J,Oh.S,et al.Adv.Funct.Mater 28(2018):1804397.)中提出,基于IGZO烷基氧化石墨烯杂化结构的光电突触构建的人工神经网络进行图像识别,在手写数字数据集(MNIST)上的有监督分类识别准确率为62%;例如文献3“Electret-Based Organic Synaptic Transistor for Neuromorphic Computing”(R.Yu,E.Li,etal.ACS Appl.Mater.Interfaces 12,13(2020):15446-15455.)中提出,基于PDVT-10驻极体的有机突触晶体管构建的人工神经网络进行图像识别,在手写数字数据集上的有监督分类识别准确率为85.88%。但是目前的研究在神经突触的模拟中都使用的是单一器件,识别准确率受到了器件状态阶数的限制,并且都局限于有监督图像识别任务,缺乏一种合适的光电突触人工神经网络架构来实现高精度的图像无监督识别任务。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种稳定性好、性能优异、能耗低、方便快捷、识别精度高的基于有机突触晶体管人工神经网络的图像识别系统及方法。
本发明的目的可以通过以下技术方案来实现:
一种基于有机突触晶体管人工神经网络的图像识别系统,所述的图像识别系统包括:
图像输入模块,用于将二维图像逐行扫描生成一维向量作为神经网络的输入;
图像编码网络,由若干个突触构成,用于通过突触权值将输入的图像进行编码降维,将图像的主要信息压缩为隐藏神经元,并将隐藏神经元分别输入图像识别模块和突触权值更新模块;
图像识别模块,图像识别模块基于谱聚类算法对图像信息压缩得到的隐藏神经元数据进行无监督聚类,实现图像识别;
突触权值更新模块,用于基于梯度下降模拟单元和误差逆传播单元更新图像编码网络的突触权值。
优选地,所述的突触权值更新模块包括:
图像解码网络,由若干个突触构成,通过突触权值将隐藏神经元经图像复原,并输入梯度下降模拟单元;
梯度下降模拟单元,设置在突触中,通过由有机突出晶体管模拟的人工神经网络中基于梯度下降法的突触权值更新过程进行突触权值更新,然后将更新后权值输入误差逆传播单元;
误差逆传播单元,通过误差反向传播算法,更新图像编码网络的突触权值。
更加优选地,所述的图像编码网络和图像解码网络通过前向传播算法、误差逆传播算法和梯度下降模拟单元实现计算与参数更新过程。
更加优选地,所述的突触包括六个具有浮栅结构的有机突触晶体管,其中有机突触晶体管两两串联组成三个突触单元,然后三个突触单元并联形成梯度下降模拟结构,最终形成带有梯度下降模拟单元的突触结构。
更加优选地,所述的突触的突触权重计算方法为:
其中,和/>分别为第三突触单元中两个有机突触晶体管的突触电导;/>和/>分别为第二突触单元中两个有机突触晶体管的突触电导;/>和/>分别为第一突触单元中两个有机突触晶体管的突触电导;Gmax和Gmin分别为最大电导和最小电导。
更加优选地,所述的有机突触晶体管包括依次相连的n掺杂的硅晶片、热生长氧化硅层、PVP/CsBi3I10膜、PDPP4T膜和Au电极;
所述的有机突触晶体管的制备方法为:
将热生长氧化硅层和n掺杂的硅晶片分别用作栅电极和介电层,通过在热生长氧化硅层上旋涂形成PVP/CsBi3I10膜作为光敏层,将PDPP4T膜旋涂在PVP/CsBi3I10膜上作为半导体通道,最后在PDPP4T膜的顶部蒸发Au电极。
一种用于如上述任一项所述图像识别系统的基于有机突触晶体管人工神经网络的图像识别方法,所述的图像识别方法包括:
步骤1:构建基于有机突触晶体管的人工神经网络;
步骤2:训练人工神经网络,更新突触权值,直到识别精度达到预设阈值;
步骤3:获取待识别图像;
步骤4:使用训练好的人工神经网络进行图像识别,获得图像识别结果。
优选地,所述的基于有机突触晶体管的人工神经网络包括:
图像编码网络,由若干个突触构成,用于通过突触权值将输入的图像进行编码降维,将图像的主要信息压缩为隐藏神经元,并将隐藏神经元分别输入图像识别模块和突触权值更新模块;
图像识别模块,图像识别模块基于谱聚类算法对图像信息压缩得到的隐藏神经元数据进行无监督聚类,实现图像识别;
突触权值更新模块,用于在对人工神经网络训练时基于梯度下降模拟单元和误差逆传播单元更新图像编码网络的突触权值;
所述的突触权值更新模块包括:
图像解码网络,由若干个突触构成,通过突触权值将隐藏神经元经图像复原,并输入梯度下降模拟单元;
梯度下降模拟单元,设置在突触中,通过由有机突出晶体管模拟的人工神经网络中基于梯度下降法的突触权值更新过程进行突触权值更新,然后将更新后权值输入误差逆传播单元;
误差逆传播单元,通过误差反向传播算法,更新图像编码网络的突触权值。
优选地,所述的突触包括六个具有浮栅结构的有机突触晶体管,其中有机突触晶体管两两串联组成三个突触单元,然后三个突触单元并联形成梯度下降模拟结构,最终形成带有梯度下降模拟单元的突触结构;
所述的突触的突触权重计算方法为:
其中,和/>分别为第三突触单元中两个有机突触晶体管的突触电导;/>和/>分别为第二突触单元中两个有机突触晶体管的突触电导;/>和/>分别为第一突触单元中两个有机突触晶体管的突触电导;Gmax和Gmin分别为最大电导和最小电导。
优选地,所述的有机突触晶体管包括依次相连的n掺杂的硅晶片、热生长氧化硅层、PVP/CsBi3I10膜、PDPP4T膜和Au电极;
所述的有机突触晶体管的制备方法为:
将热生长氧化硅层和n掺杂的硅晶片分别用作栅电极和介电层,通过在热生长氧化硅层上旋涂形成PVP/CsBi3I10膜作为光敏层,将PDPP4T膜旋涂在PVP/CsBi3I10膜上作为半导体通道,最后在PDPP4T膜的顶部蒸发Au电极。
与现有技术相比,本发明具有以下有益效果:
一、稳定性好:本发明使用的基于无铅钙钛矿CsBi3I10的有机突触晶体管具有极高的光子记忆和突触功能,该晶体管在照明后可维持4小时以上超过103的高Ilight/Idark比值,并在30天的测试中保持良好的空气稳定性。
二、性能优异:本发明中的有机突触晶体管成功地模拟了EPSC,PPF和PPD等突触特性,可以通过更改光脉冲参数(例如宽度,强度和数量)来调节突触性能,还可以通过IDS调制实现从LTP到STP的过渡,极大地提高了人工神经网络的处理性能。
三、能耗低:本发明中的图像识别系统在至-0.01V的电压下即可实现明显的突触性能,降低了人工神经网络的能耗。
四、方便快捷:本发明中的图像识别系统可以通过光学编程操作实现多级电导,并且可以通过电擦除操作擦除,并且可以通过光脉冲和电脉冲的数量来调制线性度。
五、识别精度高:本发明中的图像识别系统及方法采用由CsBi3I10制成的有机突触晶体管搭建人工神经网络,并采用谱聚类算法对隐藏神经元进行识别,提高了图像识别任务的识别精度。
附图说明
图1为本发明中基于有机突触晶体管人工神经网络的图像识别系统的结构示意图;
图2为本发明中有机突触晶体管的结构示意图;
图3为本发明中梯度下降模拟结构的示意图;
图4为本发明实施例中的Au/PDPP4T/PVP-CsBi3I10/SiO2/Si器件的横截面;
图5为本发明实施例中纯CsBi3I10膜和PVP/CsBi3I10膜的SEM图像;
其中,图5(a)为纯CsBi3I10膜的SEM图像,图5(b)为PVP/CsBi3I10膜的SEM图像;
图6为本发明实施例中通过30个连续的光脉冲(0.5s持续时间)实现多级存储特性的示意图;
图7为本发明实施例中通过50个连续的光脉冲和50个负电脉冲获得的增强-抑制曲线;
图8为本发明实施例中人工神经网络对手写数字的降维与重建图;
图9为本发明实施例中在神经网络训练中的训练周期-分类准确率关系图;
图10为本发明实施例中对手写数字数据集分类得到的匹配矩阵结果图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明的一部分实施例,而不是全部实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都应属于本发明保护的范围。
一种基于有机突触晶体管人工神经网络的图像识别系统,其结构如图1所示,包括:
图像输入模块,用于将二维图像逐行扫描生成一维向量作为神经网络的输入;
图像编码网络,由若干个突触构成,用于通过突触权值将输入的图像进行编码降维,将图像的主要信息压缩为隐藏神经元,并将隐藏神经元分别输入图像识别模块和突触权值更新模块;
图像识别模块,图像识别模块基于谱聚类算法对图像信息压缩得到的隐藏神经元数据进行无监督聚类,实现图像识别;
突触权值更新模块,用于基于梯度下降模拟单元和误差逆传播单元更新图像编码网络的突触权值;
突触权值更新模块包括:
图像解码网络,由若干个突触构成,通过突触权值将隐藏神经元经图像复原,并输入梯度下降模拟单元;
梯度下降模拟单元,设置在突触中,通过由有机突出晶体管模拟的人工神经网络中基于梯度下降法的突触权值更新过程进行突触权值更新,然后将更新后权值输入误差逆传播单元;
误差逆传播单元,通过误差反向传播算法,更新图像编码网络的突触权值。
图像编码网络和图像解码网络通过前向传播算法、误差逆传播算法和梯度下降模拟单元实现计算与参数更新过程。
如图3所示,每个突触包括六个具有浮栅结构的有机突触晶体管,其中有机突触晶体管两两串联组成三个突触单元,然后三个突触单元并联形成梯度下降模拟结构,最终形成带有梯度下降模拟单元的突触结构。通过上述连接方法极大地提高了神经突触状态模拟阶数,从而模拟十二万种以上的神经突触状态。
突触的突触权重计算方法为:
其中,和/>分别为第三突触单元中两个有机突触晶体管的突触电导;/>和/>分别为第二突触单元中两个有机突触晶体管的突触电导;/>和/>分别为第一突触单元中两个有机突触晶体管的突触电导;Gmax和Gmin分别为最大电导和最小电导。
如图2所示,有机突触晶体管使用具有光活性的材料无铅钙钛矿CsBi3I10制造,包括依次相连的n掺杂的硅晶片、热生长氧化硅层、PVP/CsBi3I10膜、PDPP4T膜和Au电极;
有机突触晶体管的制备方法为:
将热生长氧化硅层和n掺杂的硅晶片分别用作栅电极和介电层,通过在热生长氧化硅层上旋涂形成PVP/CsBi3I10膜作为光敏层以诱导和俘获载流子,将PDPP4T膜旋涂在PVP/CsBi3I10膜上作为半导体通道,最后在PDPP4T膜的顶部蒸发Au电极。
本实施例中热生长氧化硅(SiO2)层约300nm,PVP/CsBi3I10膜约40nm,PDPP4T膜约80nm,Au电极约80nm。
本实例制造的器材截面图在图4中示出,其具有透明的分层结构。图5中展示了通过扫描电子显微镜(SEM)分析观察了PVP/CsBi3I10膜和纯CsBi3I10膜的表面形态。图6中展示了本实施例制造的器材的多级存储电导的特性。通过施加30个连续的光脉冲,电流逐渐增加并保持在稳定水平,这表明本实施例中的光电突触装置具有良好的非易失性。另外,由30个光脉冲感应的电流呈线性增加,这表明本实施例制造的器材具有光编程的灵活性。对于人的大脑,增强是学习和记忆的基础,而抑制则是突触减弱的基础。图7中展示了本实施例制造的器材由50个连续的光脉冲和50个负电脉冲获得的增强-抑制曲线。
本实施例使用的基于无铅钙钛矿CsBi3I10的有机突触晶体管具有极高的光子记忆和突触功能。该器材在照明后可维持4小时以上超过103的高Ilight/Idark比值,并在30天的测试中保持良好的空气稳定性。此外,该器材成功地模拟了EPSC,PPF和PPD等突触特性。可以通过更改光脉冲参数(例如宽度,强度和数量)来调节突触性能。这些设备还可以通过IDS调制实现从LTP到STP的过渡。值得注意的是,在低至-0.01V的电压下即可实现明显的突触性能,这在目前研究的浮栅晶体管中很少见。此外,该器件可以通过光学编程操作实现多级电导,并且可以通过电擦除操作擦除,并且可以通过光脉冲和电脉冲的数量来调制线性度。
本实施例通过在手写数字数据集(MNIST)上进行图像无监督识别来测试和验证制造的新型有机突触晶体管的特性,并根据图像重建效果进一步优化系统性能,如图8所示。本实施例基于本发明构建的自动编码神经网络(AE)结构,根据图7中新器材的增强-抑制特性来实现无监督的图像识别系统。自动编码神经网络是单隐藏层的前馈神经网络,分为编码网络和解码网络两部分,其突触权重计算示意图如图3所示,计算表达式下式所示:
该系统包括784个输入神经元和输出神经元以及100个隐藏层神经元组成。图8中展示了本实施例中的自动编码神经网络经过50个训练周期后对手写数字3的重建结果。隐藏层得到的特征表示,即编码器的“编码特征”,可以看作是输入数据的特征抽象。对于MNIST手写数字数据集的无监督聚类可以通过使用上面输出的隐藏层特征进行谱聚类来实现。训练周期-分类准确率函数曲线如图9所示,聚类结果以匹配矩阵的形式展示如图10。经过50个训练周期后,本实施中自动编码神经网络的聚类精度达到81.37%。根据上述仿真结果表明,基于本实例制造的新型有机光电突触晶体管的人工神经网络在无监督的学习分类中可以实现较高的识别精度。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (9)
1.一种基于有机突触晶体管人工神经网络的图像识别系统,其特征在于,所述的图像识别系统包括:
图像输入模块,用于将二维图像逐行扫描生成一维向量作为神经网络的输入;
图像编码网络,由若干个突触构成,用于通过突触权值将输入的图像进行编码降维,将图像的主要信息压缩为隐藏神经元,并将隐藏神经元分别输入图像识别模块和突触权值更新模块;
图像识别模块,图像识别模块基于谱聚类算法对图像信息压缩得到的隐藏神经元数据进行无监督聚类,实现图像识别;
突触权值更新模块,用于基于梯度下降模拟单元和误差逆传播单元更新图像编码网络的突触权值;
所述的突触权值更新模块包括:
图像解码网络,由若干个突触构成,通过突触权值将隐藏神经元经图像复原,并输入梯度下降模拟单元;
梯度下降模拟单元,设置在突触中,通过由有机突出晶体管模拟的人工神经网络中基于梯度下降法的突触权值更新过程进行突触权值更新,然后将更新后权值输入误差逆传播单元;
误差逆传播单元,通过误差反向传播算法,更新图像编码网络的突触权值。
2.根据权利要求1所述的一种基于有机突触晶体管人工神经网络的图像识别系统,其特征在于,所述的图像编码网络和图像解码网络通过前向传播算法、误差逆传播算法和梯度下降模拟单元实现计算与参数更新过程。
3.根据权利要求1所述的一种基于有机突触晶体管人工神经网络的图像识别系统,其特征在于,所述的突触包括六个具有浮栅结构的有机突触晶体管,其中有机突触晶体管两两串联组成三个突触单元,然后三个突触单元并联形成梯度下降模拟结构,最终形成带有梯度下降模拟单元的突触结构。
4.根据权利要求3所述的一种基于有机突触晶体管人工神经网络的图像识别系统,其特征在于,所述的突触的突触权重计算方法为:
其中,和/>分别为第三突触单元中两个有机突触晶体管的突触电导;/>和/>分别为第二突触单元中两个有机突触晶体管的突触电导;/>和/>分别为第一突触单元中两个有机突触晶体管的突触电导;Gmax和Gmin分别为最大电导和最小电导。
5.根据权利要求3所述的一种基于有机突触晶体管人工神经网络的图像识别系统,其特征在于,所述的有机突触晶体管包括依次相连的n掺杂的硅晶片、热生长氧化硅层、PVP/CsBi3I10膜、PDPP4T膜和Au电极;
所述的有机突触晶体管的制备方法为:
将热生长氧化硅层和n掺杂的硅晶片分别用作栅电极和介电层,通过在热生长氧化硅层上旋涂形成PVP/CsBi3I10膜作为光敏层,将PDPP4T膜旋涂在PVP/CsBi3I10膜上作为半导体通道,最后在PDPP4T膜的顶部蒸发Au电极。
6.一种用于如权利要求1~5中任一项所述图像识别系统的基于有机突触晶体管人工神经网络的图像识别方法,其特征在于,所述的图像识别方法包括:
步骤1:构建基于有机突触晶体管的人工神经网络;
步骤2:训练人工神经网络,更新突触权值,直到识别精度达到预设阈值;
步骤3:获取待识别图像;
步骤4:使用训练好的人工神经网络进行图像识别,获得图像识别结果。
7.根据权利要求6所述的一种基于有机突触晶体管人工神经网络的图像识别方法,其特征在于,所述的基于有机突触晶体管的人工神经网络包括:
图像编码网络,由若干个突触构成,用于通过突触权值将输入的图像进行编码降维,将图像的主要信息压缩为隐藏神经元,并将隐藏神经元分别输入图像识别模块和突触权值更新模块;
图像识别模块,图像识别模块基于谱聚类算法对图像信息压缩得到的隐藏神经元数据进行无监督聚类,实现图像识别;
突触权值更新模块,用于在对人工神经网络训练时基于梯度下降模拟单元和误差逆传播单元更新图像编码网络的突触权值;
所述的突触权值更新模块包括:
图像解码网络,由若干个突触构成,通过突触权值将隐藏神经元经图像复原,并输入梯度下降模拟单元;
梯度下降模拟单元,设置在突触中,通过由有机突出晶体管模拟的人工神经网络中基于梯度下降法的突触权值更新过程进行突触权值更新,然后将更新后权值输入误差逆传播单元;
误差逆传播单元,通过误差反向传播算法,更新图像编码网络的突触权值。
8.根据权利要求6所述的一种基于有机突触晶体管人工神经网络的图像识别方法,其特征在于,所述的突触包括六个具有浮栅结构的有机突触晶体管,其中有机突触晶体管两两串联组成三个突触单元,然后三个突触单元并联形成梯度下降模拟结构,最终形成带有梯度下降模拟单元的突触结构;
所述的突触的突触权重计算方法为:
其中,和/>分别为第三突触单元中两个有机突触晶体管的突触电导;/>和/>分别为第二突触单元中两个有机突触晶体管的突触电导;/>和/>分别为第一突触单元中两个有机突触晶体管的突触电导;Gmax和Gmin分别为最大电导和最小电导。
9.根据权利要求6所述的一种基于有机突触晶体管人工神经网络的图像识别方法,其特征在于,所述的有机突触晶体管包括依次相连的n掺杂的硅晶片、热生长氧化硅层、PVP/CsBi3I10膜、PDPP4T膜和Au电极;
所述的有机突触晶体管的制备方法为:
将热生长氧化硅层和n掺杂的硅晶片分别用作栅电极和介电层,通过在热生长氧化硅层上旋涂形成PVP/CsBi3I10膜作为光敏层,将PDPP4T膜旋涂在PVP/CsBi3I10膜上作为半导体通道,最后在PDPP4T膜的顶部蒸发Au电极。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110995067.3A CN113762492B (zh) | 2021-08-27 | 2021-08-27 | 基于有机突触晶体管人工神经网络的图像识别系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110995067.3A CN113762492B (zh) | 2021-08-27 | 2021-08-27 | 基于有机突触晶体管人工神经网络的图像识别系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113762492A CN113762492A (zh) | 2021-12-07 |
CN113762492B true CN113762492B (zh) | 2024-03-01 |
Family
ID=78791536
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110995067.3A Active CN113762492B (zh) | 2021-08-27 | 2021-08-27 | 基于有机突触晶体管人工神经网络的图像识别系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113762492B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101667252A (zh) * | 2009-10-15 | 2010-03-10 | 哈尔滨工业大学 | 基于art2a-dwnn的通信信号调制方式的分类识别方法 |
EP2259214A1 (en) * | 2009-06-04 | 2010-12-08 | Honda Research Institute Europe GmbH | Implementing a neural associative memory based on non-linear learning of discrete synapses |
CN107070687A (zh) * | 2016-12-26 | 2017-08-18 | 南京理工大学 | 基于集成神经网络的wifi定位方法 |
WO2020115746A1 (en) * | 2018-12-04 | 2020-06-11 | Technion Research & Development Foundation Limited | Delta-sigma modulation neurons for high-precision training of memristive synapses in deep neural networks |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11625611B2 (en) * | 2019-12-31 | 2023-04-11 | X Development Llc | Training artificial neural networks based on synaptic connectivity graphs |
US11568201B2 (en) * | 2019-12-31 | 2023-01-31 | X Development Llc | Predicting neuron types based on synaptic connectivity graphs |
US11593617B2 (en) * | 2019-12-31 | 2023-02-28 | X Development Llc | Reservoir computing neural networks based on synaptic connectivity graphs |
US11593627B2 (en) * | 2019-12-31 | 2023-02-28 | X Development Llc | Artificial neural network architectures based on synaptic connectivity graphs |
-
2021
- 2021-08-27 CN CN202110995067.3A patent/CN113762492B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2259214A1 (en) * | 2009-06-04 | 2010-12-08 | Honda Research Institute Europe GmbH | Implementing a neural associative memory based on non-linear learning of discrete synapses |
CN101667252A (zh) * | 2009-10-15 | 2010-03-10 | 哈尔滨工业大学 | 基于art2a-dwnn的通信信号调制方式的分类识别方法 |
CN107070687A (zh) * | 2016-12-26 | 2017-08-18 | 南京理工大学 | 基于集成神经网络的wifi定位方法 |
WO2020115746A1 (en) * | 2018-12-04 | 2020-06-11 | Technion Research & Development Foundation Limited | Delta-sigma modulation neurons for high-precision training of memristive synapses in deep neural networks |
Non-Patent Citations (3)
Title |
---|
人工神经网络在区域地质调查中的应用――反向传播模型(BP网)建立与应用;李超岭, 邱丽华;中国区域地质(04);全文 * |
增量式神经网络聚类算法;刘培磊;唐晋韬;谢松县;王挺;;国防科技大学学报(05);全文 * |
脉冲神经网络:模型、学习算法与应用;程龙;刘洋;;控制与决策(05);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113762492A (zh) | 2021-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Sun et al. | In-sensor reservoir computing for language learning via two-dimensional memristors | |
Seo et al. | Artificial optic-neural synapse for colored and color-mixed pattern recognition | |
Cho et al. | Multi-spectral gate-triggered heterogeneous photonic neuro-transistors for power-efficient brain-inspired neuromorphic computing | |
Subramanian Periyal et al. | Halide perovskite quantum dots photosensitized‐amorphous oxide transistors for multimodal synapses | |
Zhu et al. | Optical synaptic devices with ultra-low power consumption for neuromorphic computing | |
KR20180116094A (ko) | 뉴로모픽 컴퓨팅을 위한 모놀리식 멀티비트 웨이트 셀 | |
John et al. | Optogenetics inspired transition metal dichalcogenide neuristors for in-memory deep recurrent neural networks | |
Lee et al. | In-sensor image memorization and encoding via optical neurons for bio-stimulus domain reduction toward visual cognitive processing | |
Li et al. | Artificial synapses enabled neuromorphic computing: From blueprints to reality | |
Li et al. | Organic optoelectronic synaptic devices for energy-efficient neuromorphic computing | |
Yan et al. | Challenges of memristor based neuromorphic computing system | |
Li et al. | Reduction 93.7% time and power consumption using a memristor-based imprecise gradient update algorithm | |
Huang et al. | Optoelectronic synapses based on MoS2 transistors for accurate image recognition | |
Zhang et al. | Energy‐efficient organic photoelectric synaptic transistors with environment‐friendly CuInSe2 quantum dots for broadband neuromorphic computing | |
Zhang et al. | Floating-gate based PN blending optoelectronic synaptic transistor for neural machine translation | |
Sharmila et al. | MoS 2-based optical device as artificial synapse for neuromorphic computing | |
CN113762492B (zh) | 基于有机突触晶体管人工神经网络的图像识别系统及方法 | |
Chen et al. | An organic synaptic transistor with integration of memory and neuromorphic computing | |
Yuan et al. | Silicon carbide nanowire-based multifunctional and efficient visual synaptic devices for wireless transmission and neural network computing | |
Jiang et al. | Self-Powered Organic Optoelectronic Synapses with Binarized Weights for Noise-Suppressed Visual Perception and High-Robustness Inference | |
You et al. | Emerging Memtransistors for Neuromorphic System Applications: A Review | |
Tao et al. | Machine Vision With InP Based Floating-Gate Photo-Field-Effective Transistors for Color-Mixed Image Recognition | |
CN115238864A (zh) | 一种光神经单元装置、深度学习光神经网络的构建方法 | |
Kwon et al. | Hardware-based ternary neural network using AND-type poly-Si TFT array and its optimization guideline | |
Zhao et al. | Solution-processed synaptic transistors utilizing MXenes as floating gate |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |