CN116579397A - 一种基于半导体激光器的光学非线性神经元 - Google Patents
一种基于半导体激光器的光学非线性神经元 Download PDFInfo
- Publication number
- CN116579397A CN116579397A CN202310397322.3A CN202310397322A CN116579397A CN 116579397 A CN116579397 A CN 116579397A CN 202310397322 A CN202310397322 A CN 202310397322A CN 116579397 A CN116579397 A CN 116579397A
- Authority
- CN
- China
- Prior art keywords
- laser
- optical
- frequency
- neuron
- isolator
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 210000002569 neuron Anatomy 0.000 title claims abstract description 44
- 239000004065 semiconductor Substances 0.000 title claims abstract description 17
- 230000003287 optical effect Effects 0.000 title claims description 54
- 238000000034 method Methods 0.000 claims abstract description 14
- 210000000225 synapse Anatomy 0.000 claims description 27
- 230000004913 activation Effects 0.000 claims description 13
- 238000002347 injection Methods 0.000 claims description 12
- 239000007924 injection Substances 0.000 claims description 12
- 238000005516 engineering process Methods 0.000 claims description 6
- 239000013307 optical fiber Substances 0.000 claims description 5
- 239000000835 fiber Substances 0.000 claims description 4
- 239000007787 solid Substances 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 abstract description 15
- 230000008901 benefit Effects 0.000 abstract description 7
- 230000008569 process Effects 0.000 abstract description 7
- 238000006243 chemical reaction Methods 0.000 abstract description 4
- 238000005265 energy consumption Methods 0.000 abstract description 4
- 230000006870 function Effects 0.000 description 17
- 238000004364 calculation method Methods 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 239000000243 solution Substances 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- GPXJNWSHGFTCBW-UHFFFAOYSA-N Indium phosphide Chemical compound [In]#P GPXJNWSHGFTCBW-UHFFFAOYSA-N 0.000 description 1
- 229910052581 Si3N4 Inorganic materials 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000012212 insulator Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000012782 phase change material Substances 0.000 description 1
- 239000002096 quantum dot Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- HQVNEWCFYHHQES-UHFFFAOYSA-N silicon nitride Chemical compound N12[Si]34N5[Si]62N3[Si]51N64 HQVNEWCFYHHQES-UHFFFAOYSA-N 0.000 description 1
- 230000000946 synaptic effect Effects 0.000 description 1
- 230000003977 synaptic function Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/067—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0012—Optical design, e.g. procedures, algorithms, optimisation routines
-
- G—PHYSICS
- G02—OPTICS
- G02F—OPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
- G02F1/00—Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
- G02F1/35—Non-linear optics
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Nonlinear Science (AREA)
- General Physics & Mathematics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Optics & Photonics (AREA)
- Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Neurology (AREA)
- Semiconductor Lasers (AREA)
Abstract
本发明公开了一种全光非线性神经元，其特征在于，包括隔离器、激光器和滤波器。本发明仅包含半导体激光器、隔离器和滤波器三种主要器件，不需要光电和光电转换的过程，因此具有装置简单、能耗低的优势。由于神经元中的激光器能够提供能量，因此适用于具有多层深度的复杂神经网络，不会出现层数增加激光功率下降的问题，所以具有可拓展性好的优势。本发明提供的神经元不仅能够处理脉冲信号也能够处理连续波信号，因此同时适用于脉冲型和非脉冲型的神经网络。另外，本发明中的神经元工作区间大，因此具有灵活性和可靠性高的优势。
Description
技术领域
本发明涉及深度学习和半导体光电子技术，尤其涉及一种用于非线性激活函数的全光神经元，属于光学神经网络领域。
背景技术
人工智能的发展依赖于各种各样的人工神经网络实现，包括多层感知机、卷积神经网络、长短记忆神经网络、变换器网络等等。近些年来，人工神经网络已成功应用在图像识别、机器视觉、自然语言处理等领域。另一方面，人工智能的快速发展对传统的基于冯诺依曼架构的计算机的算力提出了巨大挑战。为了解决这一问题，研究人员提出了能够加速神经网络运算的新型计算架构，如图形处理器(GPU)、张量处理器单元(TPU)、类脑芯片TrueNorth和Lohi等。相对于传统的电学计算，光学计算具有速度快、时延低和能耗比高的优势(如光计算芯片PACE)，因而成为提高人工智能算力的最有前景的解决方案之一。
人工神经网络的基本组成部分包括突触和神经元。突触的作用是为神经元的输出信号施加权重，即对信号进行乘法运算。大量的突触与下一个神经元相连接，对各路突触的输入信号求和后进行非线性运算。人工神经网络常用于非线性运算的非线性激活函数包括S型(sigmoid)函数、双曲正切(tanh)函数、以及线性整流(ReLU)函数等。目前大部分光学神经网络成功实现了突触的功能，即对信号进行线性的乘积累加(MAC)运算[Y.Shen,NaturePhoton.11,441(2017)；X.Lin,Science 361,1004(2018)；X.Xu,Nature 589,44(2021)]。然而由于缺少高效的光学神经元，大部分非线性激活函数的运算是在基于CMOS的数字域进行的，由于这一过程需要电光转换和模拟数字转换，大大降低了光学神经网络的运转效率。为了解决这一问题，研究人员提出基于光学调制器和光电探测器实现模拟域的非线性激活函数[C.Huang,Nature Electron.4,837(2021)；F.Ashtiani,Nature606,501(2022)]。但是由于需要电光和光电转换的过程依旧存在能耗高的问题。另一方面，基于非线性光学效应的全光非线性激活函数需要较高的峰值功率，大部分情况下仅能够处理短脉冲形式的光学信号，因此限制了其应用场景[G.Li,Nanophoton.DOI:10.1515/nanoph-2022-0137(2022)]。同样的，基于相变材料的非线性激活函数也需要工作在脉冲状态[J.Feldmann,Nature569,208(2019)]。
发明内容
本发明要解决的技术问题是：光学神经网络亟需一种能耗低、简单可靠的全光非线性神经元。
为了解决上述技术问题，本发明的技术方案是提供了一种全光非线性神经元，其特征在于，包括隔离器、激光器和滤波器，其中：
待处理的激光信号经过光学突触加权后通过光学合束进入到光学神经元的隔离器，通过隔离器保持激光光束的单向传播；
隔离器的输出光通过光注入锁定技术注入到激光器中，由激光器实现非线性激活函数，使得光注入锁定工作在Hopf分岔线以上的区域；
激光器输出的光经过滤波器滤波后仅输出频率为fs的光场，最终光学信号经过所述全光非线性神经元的非线性变换后传输到下一层不同的突触中，其中，fs为突触中激光的频率。
优选地，所述激光器为半导体激光器、固体激光器或光纤激光器。
优选地，所述隔离器、激光器和滤波器之间的连接通过光纤或者半导体波导实施。
优选地，所述全光非线性神经元与突触之间的连接通过光纤或者半导体波导实施。
优选地，所述Hopf分岔线的横轴为注入比，代表突触注入到激光器的光功率与激光器本身的光功率的比值；所述Hopf分岔线的纵轴为调谐频率，代表突触中激光的光频率fs与所述激光器本身的光频率fn0差值。
优选地，所述Hopf分岔线以下的区间为稳定锁定区间，在稳定锁定区间中，所述激光器的频率fn锁定为突触中激光的频率fs；在Hopf分岔线以上的区域中，半导体激光器的频率fn与突触中激光的频率fs不同且fn<fs。
为了解决光学神经网络中的非线性激活函数的实施问题，本发明提出了一种基于半导体激光器的全光神经元。本发明仅包含半导体激光器、隔离器和滤波器三种主要器件，不需要光电和光电转换的过程，因此具有装置简单、能耗低的优势。由于神经元中的激光器能够提供能量，因此适用于具有多层深度的复杂神经网络，不会出现层数增加激光功率下降的问题，所以具有可拓展性好的优势。由于光注入锁定技术不需要依赖高峰值光功率实现，因此本发明提供的神经元不仅能够处理脉冲信号也能够处理连续波信号，因此同时适用于脉冲型和非脉冲型的神经网络。另外，由于光注入锁定技术存在大范围的Hopf分岔的线上区域(见图2)，因此本发明中的神经元工作区间大，具有灵活性和可靠性高的优势。
附图说明
图1为光学神经元结构图；
图2为光学神经元的工作区间示意图；
图3为光学神经元的非线性激活函数曲线图。
具体实施方式
下面结合具体实施例，进一步阐述本发明。应理解，这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，这些等价形式同样落于本申请所附权利要求书所限定的范围。
如图1所示，本实施例公开的一种全光非线性神经元由隔离器、激光器和滤波器三种器件构成。
待处理的激光信号经过光学输入突触加权后通过光学合束进入到光学神经元的隔离器中。隔离器的作用是保持激光光束的单向传播。隔离器的输出光通过光注入锁定技术注入到激光器中，由激光器实现非线性激活函数。图2展示了光注入锁定激光器的Hopf分岔线。横轴注入比代表突触注入到激光器的光功率与激光器本身的光功率的比值。纵轴调谐频率代表输入突触中激光的光频率fs与激光器本身的光频率fn0差值。Hopf分岔线以下的区间为稳定锁定区间。在这一稳定锁定区间中，激光器的频率fn锁定为突触中激光的频率fs，即fn＝fs。光学神经元非线性激活函数的实现要求光注入锁定工作在Hopf分岔线以上的区域。在Hopf分岔线以上的区域中，激光器的频率fn与突触中激光的频率fs不同且前者的频率较小，即fn<fs。激光器输出的光经过滤波器滤波后仅输出频率为fs的光场。最终光学信号经过光学神经元的非线性变换后传输到下一层不同的突触中。
在上述技术方案中，激光器包括但不限于以下类型的半导体激光器，包括多纵模Fabry-Perot激光器、单纵模分布反馈式(DFB)激光器、垂直腔面发射激光器等；块状激光器、量子阱激光器、量子点激光器带间级联激光器、量子级联激光器、拓扑激光器等。除半导体激光器外，本实施例公开的神经元也可采用包括固体激光器和光纤激光器在内的其他材料类型的激光器。
隔离器和滤波器可由各种不同类型的材料和架构实施。
光学神经元中的器件以及光学神经元和突触之间的连接可通过光纤或者半导体波导(如硅、氮化硅、绝缘体上硅、铟磷等)实施。
本实施例中，优选地采用量子阱DFB激光器作为光学神经元，其与隔离器和滤波器之间通过单模光纤进行连接。光学神经元之前的突触激光信号通过可调谐激光器模拟。在Hopf分岔以上+10GHz调谐频率条件下，图3展示了光学神经元的非线性激活函数响应曲线图。该曲线经过适当的平移和反转后类似于经典的泄露型线性整流函数(Leaky ReLU)。我们将该光学神经元嵌入到多层感知机，并在MNIST手写数字数据集中测试其性能。测试所得到的准确率(98.02％)与使用标准LeakyReLU函数的准确率相当(98.08％)。
Claims (6)
1.一种全光非线性神经元，其特征在于，包括隔离器、激光器和滤波器，其中：
待处理的激光信号经过光学突触加权后通过光学合束进入到光学神经元的隔离器，通过隔离器保持激光光束的单向传播；
隔离器的输出光通过光注入锁定技术注入到激光器中，由激光器实现非线性激活函数，使得光注入锁定工作在Hopf分岔线以上的区域；
激光器输出的光经过滤波器滤波后仅输出频率为fs的光场，最终光学信号经过所述全光非线性神经元的非线性变换后传输到下一层不同的突触中，其中，fs为突触中激光的频率。
2.如权利要求1所述的一种全光非线性神经元，其特征在于，所述激光器为半导体激光器、固体激光器或光纤激光器。
3.如权利要求1所述的一种全光非线性神经元，其特征在于，所述隔离器、激光器和滤波器之间的连接通过光纤或者半导体波导实施。
4.如权利要求1所述的一种全光非线性神经元，其特征在于，所述全光非线性神经元与突触之间的连接通过光纤或者半导体波导实施。
5.如权利要求1所述的一种全光非线性神经元，其特征在于，所述Hopf分岔线的横轴为注入比，代表突触注入到激光器的光功率与激光器本身的光功率的比值；所述Hopf分岔线的纵轴为调谐频率，代表突触中激光的光频率fs与所述激光器本身的光频率fn0差值。
6.如权利要求5所述的一种全光非线性神经元，其特征在于，所述Hopf分岔线以下的区间为稳定锁定区间，在稳定锁定区间中，所述激光器的频率fn锁定为突触中激光的频率fs；在Hopf分岔线以上的区域中，半导体激光器的频率fn与突触中激光的频率fs不同且fn<fs。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310397322.3A CN116579397A (zh) | 2023-04-13 | 2023-04-13 | 一种基于半导体激光器的光学非线性神经元 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310397322.3A CN116579397A (zh) | 2023-04-13 | 2023-04-13 | 一种基于半导体激光器的光学非线性神经元 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116579397A true CN116579397A (zh) | 2023-08-11 |
Family
ID=87538549
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310397322.3A Pending CN116579397A (zh) | 2023-04-13 | 2023-04-13 | 一种基于半导体激光器的光学非线性神经元 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116579397A (zh) |
-
2023
- 2023-04-13 CN CN202310397322.3A patent/CN116579397A/zh active Pending
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| De Marinis et al. | Photonic neural networks: A survey | |
| CN109639359B (zh) | 基于微环谐振器的光子神经网络卷积层芯片 | |
| Vandoorne et al. | Toward optical signal processing using photonic reservoir computing | |
| Dejonckheere et al. | All-optical reservoir computer based on saturation of absorption | |
| WO2022134391A1 (zh) | 融合神经元模型、神经网络结构及训练、推理方法、存储介质和设备 | |
| CN114358271B (zh) | 一种时间-波长交织光子神经网络卷积加速芯片 | |
| Fiers et al. | Nanophotonic reservoir computing with photonic crystal cavities to generate periodic patterns | |
| Hejda et al. | Resonant tunneling diode nano-optoelectronic excitable nodes for neuromorphic spike-based information processing | |
| Shi et al. | Nonlinear germanium-silicon photodiode for activation and monitoring in photonic neuromorphic networks | |
| CN111898741A (zh) | 基于铌酸锂的片上级联mzi可重构量子网络 | |
| CN115169542B (zh) | 一种面向卷积神经网络的二维光子卷积加速系统和装置 | |
| Duport et al. | Virtualization of a photonic reservoir computer | |
| WO2023109065A1 (zh) | 循环神经网络的实现方法、系统、电子设备及存储介质 | |
| CN114325932B (zh) | 一种片上集成的全光神经网络光计算芯片 | |
| Li et al. | All-optical nonlinear activation function based on germanium silicon hybrid asymmetric coupler | |
| Lin et al. | Deep time-delay reservoir computing with cascading injection-locked lasers | |
| Wu et al. | Photonic bayesian neural network using programmed optical noises | |
| Xiang et al. | Photonic integrated neuro-synaptic core for convolutional spiking neural network | |
| CN116579397A (zh) | 一种基于半导体激光器的光学非线性神经元 | |
| CN112560288A (zh) | 一种基于光泵自旋vcsel的储备池计算装置 | |
| CN115222035B (zh) | 一种光子神经网络卷积加速芯片 | |
| CN114757344B (zh) | 模拟生物神经元动力学以实现逻辑运算的系统及方法 | |
| Jacobson et al. | Image classification using delay-based optoelectronic reservoir computing | |
| Brunner et al. | Nonlinear photonic dynamical systems for unconventional computing | |
| CN113839715B (zh) | 一种光学神经网络及芯片 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |