CN114723022A - 一种基于半导体激光器的深度储备池光计算方法和系统 - Google Patents
一种基于半导体激光器的深度储备池光计算方法和系统 Download PDFInfo
- Publication number
- CN114723022A CN114723022A CN202210280738.2A CN202210280738A CN114723022A CN 114723022 A CN114723022 A CN 114723022A CN 202210280738 A CN202210280738 A CN 202210280738A CN 114723022 A CN114723022 A CN 114723022A
- Authority
- CN
- China
- Prior art keywords
- layer
- semiconductor laser
- reserve pool
- light
- reserve
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 239000004065 semiconductor Substances 0.000 title claims abstract description 48
- 238000004364 calculation method Methods 0.000 title claims abstract description 20
- 230000003287 optical effect Effects 0.000 claims abstract description 45
- 238000002347 injection Methods 0.000 claims abstract description 16
- 239000007924 injection Substances 0.000 claims abstract description 16
- 238000005516 engineering process Methods 0.000 claims abstract description 5
- 238000000034 method Methods 0.000 claims description 11
- 238000005265 energy consumption Methods 0.000 abstract description 2
- 239000010410 layer Substances 0.000 description 48
- 239000000835 fiber Substances 0.000 description 7
- 239000002356 single layer Substances 0.000 description 6
- 210000002569 neuron Anatomy 0.000 description 4
- 238000012545 processing Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000000739 chaotic effect Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 239000007788 liquid Substances 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 239000000243 solution Substances 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 241000529895 Stercorarius Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/061—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/067—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Theoretical Computer Science (AREA)
- Molecular Biology (AREA)
- Neurology (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Optical Modulation, Optical Deflection, Nonlinear Optics, Optical Demodulation, Optical Logic Elements (AREA)
Abstract
本发明的一个技术方案是提供一种基于半导体激光器的深度储备池光计算方法,本发明的另一个技术方案是提供了一种深度储备池光计算系统。本发明中每一层储备池主要由半导体激光器和光学延迟线构成,并由此产生大量的虚拟神经元。上一层储备池中激光器的输出通过光注入锁定技术单向的注入到下一层储备池的激光器中,从而实现储备池计算的深度架构。本发明提出的储备池光计算系统深度不受限制,因此具有良好的可拓展性。储备池层与层之间的连接为全光方式连接,因此具有装置简单、成本低、能耗小的优势。
Description
技术领域
本发明涉及深度储备池光计算的硬件实现方法和系统,属于机器学习和半导体光电子的交叉领域。
背景技术
储备池计算网络是一种特殊的循环神经网络。与传统的循环神经网络不同,储备池计算网络的输入层和储备池层(即隐藏层)中神经元的连接权重不需要任何训练,而是设置为随机的固定值。储备池计算网络仅输出层的权重需要训练,且大部分情况下仅需要简单的线性回归即可得到期望的目标值。因此,储备池计算具有训练成本低、训练速度快的优势。典型的储备池计算网络包括回声态网络(Echo-state network[Jaeger and Haas,Science 304,78(2004)])和液体状态机(Liquid state machine,Maass,andMarkram,Neural Computation 14,2531(2002))。储备池计算网络擅长处理时序相关的任务,包括但不限于语音识别、非线性信道均衡、复杂时序如混沌序列预测等。基于软件代码的储备池计算网络一般在CPU或者GPU等通用计算平台上运行。
得益于输入层和储备池层权重的固定性,储备池计算的网络架构非常有利于其硬件的实现。已经验证的硬件储备池计算网络所使用的核心器件包括但不限于忆阻器、自旋电子器件、光调制器和半导体激光器等。基于半导体激光器的储备池光计算网络具有速度快和延时小的优势。通常情况下,大规模的储备池计算网络需要使用以上提及的大量器件来实现。然而,这一实现方式对现实中器件的集成度和成本带来巨大挑战。2011年,Appeltant等研究人员提出具有延迟线的非线性器件所构成的系统,在动态工作条件下能够产生大量的虚拟神经元[Appeltant,Nature Communications 2,468(2011)]。基于这一原理,研究人员成功验证了基于半导体激光器和光学延迟线的储备池光计算网络[Brunner,Nature Communications 4,1364(2013)]。然而,目前基于半导体激光器的储备池光计算网络所具有的虚拟神经元数目大都在数百个[Chembo,Chaos 30,013111(2020)],无法满足现实中复杂任务的应用需求。为了提高储备池计算网络的“宽度”,即增加储备池中神经元的数目,研究人员提出了包括波分复用在内的并行解决方式[Tang,IEEE Journalof Quantum Electronics 58,8100109(2022)]。另一方面,处理复杂的任务还需要提高储备池计算网络的“深度”,即增加储备池的层级数。理论研究表明,具有多层次的深度储备池计算网络在神经元动力学丰富性、存储容量等性质方面相对于单层储备池计算网络存在明显优势,且前者在诸多基准测试任务中所表现出的性能明显优于后者[Gallicchio,Micheli,and Pedrelli,Neurocomputing 268,87(2017)];Goldmann,Chaos 30,093124(2020)]。然而,目前还缺少基于半导体激光器的深度储备池光计算的硬件实现方案。
传统的基于半导体激光器的单层储备池计算网络架构如图1所示,预处理的输入数据通过光注入锁定技术注入到半导体激光器中。半导体激光器输出的激光经过光学延迟线部分重新反馈到激光器中(即光反馈[Tang,IEEE Journal of Quantum Electronics58,8100109(2022)]。这一系统在处于稳定且动态工作的条件下产生大量的虚拟神经元。通过观测神经元的状态并施加适当的权重最终得到输出层的目标值。大部分情况下,输出层的权重通过线性回归或者逻辑回归即可得到优化的数值。
发明内容
本发明的目的是解决储备池光计算的深度问题。
为了达到上述目的,本发明提供了一种基于半导体激光器的深度储备池光计算方法,其特征在于,包括以下步骤:
步骤1、预处理的输入数据注入到第1层储备池的半导体激光器,半导体激光器的部分光输出至光学延迟线,通过光学延迟线为半导体激光器提供光反馈,并为第1层储备池提供M1个虚拟神经元;
步骤2、设n=1;
步骤3、第n层储备池的半导体激光器的另一部分光通过光注入锁定技术单向地注入至第n+1层储备池的半导体激光器中;
步骤4、第n+1层储备池的半导体激光器的部分光输出至光学延迟线,通过光学延迟线为半导体激光器提供光反馈,并为第n+1层储备池提供M(n+1)个虚拟神经元;
步骤5、n=n+1,若n≥N,则进入步骤6,否则,返回步骤3;
步骤6、收集总共N层储备池中所有虚拟神经元的状态,N≥2,并结合输出层的权重得到期望的目标值。
优选地,步骤3中,所述第n层储备池的半导体激光器的部分光通过光注入锁定技术单向地注入至第n+1层储备池的半导体激光器时,光注入锁定参数操作在由Hopf分岔和saddle-node分岔所包围的稳定锁定区间中。
本发明的技术方案是提供了一种基于前述深度储备池光计算方法实现的深度储备池光计算系统,其特征在于,由N层储备池组成,每层储备池包括半导体激光器以及光学延迟线,每层储备池的半导体激光器的部分光输出至光学延迟线,通过光学延迟线为半导体激光器提供光反馈,并为当前一层储备池提供多个虚拟神经元;
N层储备池中,除第1层储备池的半导体激光器的输入为预处理的输入数据之外,对于其余N-1层储备池而言,将上一层储备池的半导体激光器的部分光通过光注入锁定技术单向地注入至当前一层储备池的半导体激光器,从而以级联的方式构建具有N层储备池的深度储备池光计算网络架构,N≥2。
优选地,各层储备池所属的虚拟神经元的数量相同或不相同。
本发明所公开的方案不仅能够增加储备池的深度,同时还会增加整个网络中所具有的虚拟神经元总数目或者提高输入数据的处理速率。本发明所提出的方案中不同层级储备池之间的连接是一种全光的连接方式,不需要任何光电以及电光转换的过程,因此具有装置简单、能耗低、延时小、速度快的优势。
附图说明
图1展示了传统的基于半导体激光器的单层储备池计算网络架构;
图2展示了本发明提出的深度储备池光计算网络架构;
图3展示了本发明提出的深度储备池光计算的实施例图;
图4展示了本发明提出的深度储备池光计算的实施效果图。
具体实施方式
下面结合具体实施例,进一步阐述本发明。应理解,这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解,在阅读了本发明讲授的内容之后,本领域技术人员可以对本发明作各种改动或修改,这些等价形式同样落于本申请所附权利要求书所限定的范围。
如图2所示,本发明提出的深度储备池光计算网络架构由多层储备池组成。每一层储备池主要由半导体激光器和光学延迟线构成,半导体激光器通过光学延迟线提供光反馈,并为每一层储备池提供虚拟神经元。在图2所示的深度储备池光计算网络架构中,第一层储备池的输出信号通过光注入锁定技术注入到第二层储备池的激光器中。光注入锁定参数操作在由Hopf分岔和saddle-node分岔所包围的稳定锁定区间中[Tang,IEEE Journalof Quantum Electronics 58,8100109(2022)]。同样的,第二层储备池的输出信号通过光注入锁定技术注入到第三层储备池的激光器中。如此,通过光注入锁定的技术能够以级联的方式构建具有多层储备池的深度储备池光计算网络架构。
图3示意了本发明的一个具体实施方式,在图3所示的方案中,激光器1、环形器以及光纤延迟线1构成了第一层储备池,激光器2、环形器以及光纤延迟线2构成了第二层储备池,激光器3、环形器以及光纤延迟线3构成了第三层储备池。
预处理的数据通过环形器的P1口注入到激光器1中,激光器1的输出通过环形器的P3口连接由光纤组成的光纤延迟线1,延迟后的激光再次通过环形器反馈到激光器1中。激光器1通过光纤延迟线1提供光反馈,并为第一层储备池提供虚拟神经元。另一方面,激光器1的部分输出通过光注入锁定技术经由第二层储备池的环形器注入到激光器2中。激光器2通过光纤延迟线2提供光反馈,并为第二层储备池提供虚拟神经元。同样的,激光器2的部分输出再次通过光注入锁定技术经由第三层储备池的环形器注入到激光器3中。同时,激光器3通过光纤延迟线3提供光反馈,并为第三层储备池提供虚拟神经元。最后,通过收集三层储备池中所有虚拟神经元的状态,并结合输出层的权重得到期望的目标值。
基于上述技术原理构建四层储备池光计算网络,在该四层储备池光计算网络中虚拟神经元的总数为400个,即每一层储备池的神经元数均为100个。而单层储备池光计算网络中虚拟神经元的总数同样为400个。在这一条件下,四层储备池计算网络的输入数据处理速度比单层储备池计算网络的处理速度快4倍。如图4所示,前者的线性存储容量在不同光反馈比条件下均远大于后者。另外,深度储备池光计算网络在其他标准测试任务如混沌序列预测、非线性信道均衡等任务上的性能表现均明显优于传统的单层储备池光计算网络。
Claims (4)
1.一种基于半导体激光器的深度储备池光计算方法,其特征在于,包括以下步骤:
步骤1、预处理的输入数据注入到第1层储备池的半导体激光器,半导体激光器的部分光输出至光学延迟线,通过光学延迟线为半导体激光器提供光反馈,并为第1层储备池提供M1个虚拟神经元;
步骤2、设n=1;
步骤3、第n层储备池的半导体激光器的另一部分光通过光注入锁定技术单向地注入至第n+1层储备池的半导体激光器中;
步骤4、第n+1层储备池的半导体激光器的部分光输出至光学延迟线,通过光学延迟线为半导体激光器提供光反馈,并为第n+1层储备池提供M(n+1)个虚拟神经元;
步骤5、n=n+1,若n≥N,则进入步骤6,否则,返回步骤3;
步骤6、收集总共N层储备池中所有虚拟神经元的状态,N≥2,并结合输出层的权重得到期望的目标值。
2.如权利要求1所述的一种基于半导体激光器的深度储备池光计算方法,其特征在于,步骤3中,所述第n层储备池的半导体激光器的部分光通过光注入锁定技术单向地注入至第n+1层储备池的半导体激光器时,光注入锁定参数操作在由Hopf分岔和saddle-node分岔所包围的稳定锁定区间中。
3.一种基于权利要求1所述深度储备池光计算方法实现的深度储备池光计算系统,其特征在于,由N层储备池组成,每层储备池包括半导体激光器以及光学延迟线,每层储备池的半导体激光器的部分光输出至光学延迟线,通过光学延迟线为半导体激光器提供光反馈,并为当前一层储备池提供多个虚拟神经元;
N层储备池中,除第1层储备池的半导体激光器的输入为预处理的输入数据之外,对于其余N-1层储备池而言,将上一层储备池的半导体激光器的部分光通过光注入锁定技术单向地注入至当前一层储备池的半导体激光器,从而以级联的方式构建具有N层储备池的深度储备池光计算网络架构,N≥2。
4.如权利要求3所述的一种深度储备池光计算系统,其特征在于,各层储备池所属的虚拟神经元的数量相同或不相同。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210280738.2A CN114723022A (zh) | 2022-03-22 | 2022-03-22 | 一种基于半导体激光器的深度储备池光计算方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210280738.2A CN114723022A (zh) | 2022-03-22 | 2022-03-22 | 一种基于半导体激光器的深度储备池光计算方法和系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114723022A true CN114723022A (zh) | 2022-07-08 |
Family
ID=82239664
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210280738.2A Pending CN114723022A (zh) | 2022-03-22 | 2022-03-22 | 一种基于半导体激光器的深度储备池光计算方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114723022A (zh) |
-
2022
- 2022-03-22 CN CN202210280738.2A patent/CN114723022A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Dejonckheere et al. | All-optical reservoir computer based on saturation of absorption | |
Buhmann et al. | Noise-driven temporal association in neural networks | |
Bai et al. | Photonic multiplexing techniques for neuromorphic computing | |
Zokaee et al. | LightBulb: A photonic-nonvolatile-memory-based accelerator for binarized convolutional neural networks | |
CN110516802A (zh) | 基于光延时线缓存的光子卷积神经网络架构 | |
CN110113057B (zh) | 一种利用深度学习的极化码译码器 | |
Hejda et al. | Resonant tunneling diode nano-optoelectronic excitable nodes for neuromorphic spike-based information processing | |
Mourgias-Alexandris et al. | All-optical WDM recurrent neural networks with gating | |
CN114970836B (zh) | 蓄水池神经网络实现方法、系统、电子设备及存储介质 | |
WO2023109065A1 (zh) | 循环神经网络的实现方法、系统、电子设备及存储介质 | |
CN111723337A (zh) | 用于神经网络训练的光子张量核集成电路架构及其神经网络训练方法 | |
CN114723022A (zh) | 一种基于半导体激光器的深度储备池光计算方法和系统 | |
CN112560288A (zh) | 一种基于光泵自旋vcsel的储备池计算装置 | |
CN114757344A (zh) | 模拟生物神经元动力学以实现逻辑运算的系统及方法 | |
CN117669649B (zh) | 深度时延储备池计算系统 | |
CN114707629A (zh) | 基于光散射的矩阵计算方法及光学神经网络 | |
CN116579397A (zh) | 一种基于半导体激光器的光学非线性神经元 | |
CN114781636B (zh) | 一种集成型光子储备池计算装置 | |
Zhan et al. | A hybrid quantum computer for quantum finance computation of Monte-Carlo distribution | |
Hejda et al. | Resonant tunnelling diode nano-optoelectronic spiking nodes for neuromorphic information processing | |
Tossoun | Silicon photonics for energy-efficient neuromorphic computing | |
Lin et al. | Deep Reservoir Computing Based on Injection-Locked Quantum Dot Lasers | |
Shi et al. | Matrix Multiplication Unit Scalability Investigation for InP SOA-based Photonic Deep Neural Network | |
WO2023189231A1 (ja) | 非線形変換処理装置 | |
CN111145765B (zh) | 一种音频处理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |