CN117669649B - 深度时延储备池计算系统 - Google Patents
深度时延储备池计算系统 Download PDFInfo
- Publication number
- CN117669649B CN117669649B CN202410143537.7A CN202410143537A CN117669649B CN 117669649 B CN117669649 B CN 117669649B CN 202410143537 A CN202410143537 A CN 202410143537A CN 117669649 B CN117669649 B CN 117669649B
- Authority
- CN
- China
- Prior art keywords
- optical
- optical signal
- response
- signal
- delay
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000003287 optical effect Effects 0.000 claims abstract description 392
- 230000004044 response Effects 0.000 claims abstract description 166
- 238000002347 injection Methods 0.000 claims abstract description 12
- 239000007924 injection Substances 0.000 claims abstract description 12
- 108091027981 Response element Proteins 0.000 claims abstract description 9
- 239000000835 fiber Substances 0.000 claims description 28
- 230000010287 polarization Effects 0.000 claims description 26
- 230000002238 attenuated effect Effects 0.000 claims description 21
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 239000013307 optical fiber Substances 0.000 claims description 10
- 230000000739 chaotic effect Effects 0.000 claims description 7
- 238000012549 training Methods 0.000 claims description 4
- 230000000712 assembly Effects 0.000 claims description 3
- 238000000429 assembly Methods 0.000 claims description 3
- 238000012417 linear regression Methods 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 description 14
- 238000012545 processing Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 10
- 230000000306 recurrent effect Effects 0.000 description 8
- 230000008901 benefit Effects 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 210000002569 neuron Anatomy 0.000 description 4
- 230000002829 reductive effect Effects 0.000 description 4
- 238000010276 construction Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 239000006185 dispersion Substances 0.000 description 3
- 230000000670 limiting effect Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000000605 extraction Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000000873 masking effect Effects 0.000 description 2
- 238000000034 method Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 239000002800 charge carrier Substances 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 235000001968 nicotinic acid Nutrition 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000000243 solution Substances 0.000 description 1
- 230000002269 spontaneous effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/067—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B10/00—Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
- H04B10/25—Arrangements specific to fibre transmission
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B10/00—Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
- H04B10/50—Transmitters
- H04B10/501—Structural aspects
- H04B10/503—Laser transmitters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B10/00—Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
- H04B10/50—Transmitters
- H04B10/516—Details of coding or modulation
- H04B10/532—Polarisation modulation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Electromagnetism (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Neurology (AREA)
- Optics & Photonics (AREA)
- Optical Communication System (AREA)
Abstract
本发明涉及深度时延储备池计算系统,包括输入层、输出层和深度时延储备池层;输入层发射第1光信号;深度时延储备池层包括储备池单元和残差反馈光路单元;储备池单元包括响应组件和自反馈环路组件,自反馈环路组件接收响应信号并将其分为第一路光信号和第二路光信号,第一路光信号注入回响应组件,第二路光信号注入输出层;第a1‑2个响应组件用于发射第三路光信号并注入第a1‑1个响应组件;残差反馈光路单元用于将第a2‑2个响应组件发射的第四路光信号延迟注入第a2个响应组件;第1光信号仅注入第1个和第2个响应组件;输出层用于接收第二路光信号,获得输出权重。本发明通过自反馈环路组件和残差反馈光路单元提升系统状态丰富度。
Description
技术领域
本发明涉及储备池计算技术领域,尤其涉及一种深度时延储备池计算系统。
背景技术
近年来,人工神经网络在目标检测、语言处理、自动驾驶、安全等领域得到了迅速的发展,并发挥了重要作用。人工神经网络是一种模拟大脑处理信息的数学模型,由大量的节点和它们之间的相互连接构成,其强大的信息处理能力使其成为仿生学中的一个成功典范。一般来说,神经网络可以分为两类。一种是前馈神经网络。在这类模型中,神经元被分为几层,且信号只向前传播。其中最典型的一类是卷积神经网络模型,被广泛的使用去处理静态图像的识别。然而,前馈神经网络具有并不适合处理时间相关的任务。另一类是递归神经网络模型。由于递归神经网络的神经元之间具有递归连接,因此具有一定的记忆能力,适合处理时间相关的任务。然而,由于递归结构中的梯度爆炸或消失的问题,递归神经网络的训练对算法具有较高的要求,也对硬件的实施提出了更高的要求。
针对这一问题,储备池计算模型被提出。储备池计算是一种通用的、硬件兼容的神经形态计算方案,具有简单的训练算法。在训练储备池系统时,只需要训练输出层的权值,输入层和储备池层的权重随机生成且固定不变,极大降低了对算法的需求。近年来储备池计算在语音识别到手写数字识别等方面取得了巨大的成功。特别是通过实现输入层和接收层之间的非线性映射,储备池计算系统已经被证明是一种成功的无模型预测的替代方案。在储备池计算系统中,储备池层的几个关键特征对系统的性能有很大的影响,其中储层状态的丰富性是最重要的参数。典型的方案有利用多个并行分布反馈半导体激光器作为响应组件来实现并行光子延迟型储备池计算模型,其能显著增加储备池的节点的丰富性,从而提升储备池的性能;有基于忆阻器作为非线性节点,通过改变掩码长度实现储层状态的调节的延迟型储备池计算模型。在这些研究中,利用了非线性器件的固有差异来实现不同的储备池状态。
然而,在这些方案中,当组成储备池的器件制备完成后,系统状态的丰富度就被固定了,难以实现进一步的调整和优化,限制了储备池性能的进一步提升。
发明内容
为此,本发明所要解决的技术问题在于克服现有储备池当其组成器件完成制备后、系统状态的丰富度固定,难以实现调整和优化,限制了储备池性能的提升,提供一种深度时延储备池计算系统,通过自反馈环路组件和残差反馈光路单元的设置,有效提升系统状态的丰富度。
本发明提供了一种深度时延储备池计算系统,包括输入层、输出层和深度时延储备池层;所述输入层用于向所述深度时延储备池层发射第1光信号;所述深度时延储备池层包括储备池单元和残差反馈光路单元;所述储备池单元设置有A个,每个所述储备池单元均包括响应组件和自反馈环路组件,所述响应组件与所述自反馈环路组件相连接,所述自反馈环路组件用于接收所述响应组件所发射的响应信号并将所述响应信号分为第一路光信号和第二路光信号,所述自反馈环路组件将所述第一路光信号注入回对应的所述响应组件以形成自反馈环路,所述自反馈环路组件将所述第二路光信号注入至所述输出层;第a1-2个所述响应组件用于发射第三路光信号并将所述第三路光信号注入至第a1-1个所述响应组件;所述残差反馈光路单元设置有A-2个,第a2-2个所述残差反馈光路单元分别连接第a2-2个所述响应组件和第a2个所述响应组件,所述残差反馈光路单元用于将第a2-2个所述响应组件所发射的第四路光信号延迟注入至第a2个所述响应组件;其中,A、a1和a2均设置为整数且A>2,3≤a1≤A+1,3≤a2≤A,所述第1光信号仅注入至第1个所述响应组件和第2个所述响应组件;所述输出层用于接收所述第二路光信号,获得输出权重。
在本发明的一个实施例中,所述残差反馈光路单元包括第一光偏振控制器,所述第一光偏振控制器用于接收第a2-2个所述响应组件所发射的所述第四路光信号并控制所述第四路光信号的偏振状态,获得并发射第一偏振光信号;第一可变光衰减器,所述第一可变光衰减器用于接收所述第一偏振光信号并调节所述第一偏振光信号的反馈强度,获得并发射第一衰减光信号;第一延迟光纤,所述第一延迟光纤用于接收所述第一衰减光信号并将所述第一衰减光信号延迟注入至第a2个所述响应组件。
在本发明的一个实施例中,每个所述残差反馈光路单元中的所述第一延迟光纤的长度均相等。
在本发明的一个实施例中,所述自反馈环路组件包括光环形器、第二光耦合器、第二延迟光纤、第二可变光衰减器和第二光偏振控制器;所述光环形器分别连接所述第二光耦合器、所述第二光偏振控制器和对应的所述响应组件;所述第二光耦合器通过所述光环形器接收对应的所述响应组件所发射的响应信号,所述第二光耦合器用于将所述响应信号分为所述第一路光信号和所述第二路光信号,并将所述第二路光信号注入至所述输出层;所述第二可变光衰减器通过所述第二延迟光纤与所述第二光耦合器相连接,所述第二延迟光纤用于接收所述第二光耦合器所发射的所述第一路光信号并将所述第一路光信号延迟注入至所述第二可变光衰减器,所述第二可变光衰减器用于调节所述第一路光信号的反馈强度,获得并发射第二衰减光信号;所述第二光偏振控制器用于接收所述第二衰减光信号并调节所述第二衰减光信号的偏振状态,获得第二偏振光信号并将所述第二偏振光信号注入回对应的所述响应组件。
在本发明的一个实施例中,每个所述自反馈环路组件中的所述第二延迟光纤的长度均相等。
在本发明的一个实施例中,所述输入层包括驱动激光器,所述驱动激光器用于产生输入信号;任意波形发射器,所述任意波形发射器用于产生掩码信号,所述掩码信号具有不同的序列排布;调制器,所述调制器用于根据所述掩码信号、调制所述输入信号并发射所述第1光信号。
在本发明的一个实施例中,所述调制器设置为相位调制器或强度调制器。
在本发明的一个实施例中,所述掩码信号设置为二值掩码信号、多值掩码信号、混沌掩码信号。
在本发明的一个实施例中,所述输出层包括光电探测器,所述光电探测器设置有A个,每个所述光电探测器均与对应的所述响应组件相连接,所述光电探测器用于接收对应的所述响应组件所发射的所述第二路光信号并将所述第二路光信号转化为电信号;可编程门控阵列,所述可编程门控阵列用于接收并训练所述电信号,获得所述输出权重。
在本发明的一个实施例中,所述可编程门控阵列基于岭回归算法或线性回归算法训练所述电信号,获得所述输出权重。
本发明的上述技术方案相比现有技术具有以下优点:
本发明所述的深度时延储备池计算系统,通过残差反馈光路单元的设置,在不同的储备池单元之间添加了额外的时间延迟。一方面,深度时延储备池计算系统能够通过不同储备池单元之间的状态实现泛化重要特征、突出一般特征,从而提升整个深度时延储备池层的性能;另一方面,深度时延储备池层由引入了额外的时间延迟,通过残差反馈光路单元能够丰富储层状态并且增强存储容量,从而实现复杂任务的处理、如处理离散任务。此外,自反馈环路组件的设置能够构建递归神经网络,使得储备池单元具有一定的记忆能力。在自反馈环路组件和残差反馈光路单元的设置下,其输出光信号的复杂性得到提升,有效提升系统状态的丰富度。
附图说明
为了使本发明的内容更容易被清楚的理解,下面根据本发明的具体实施例并结合附图,对本发明作进一步详细的说明,其中,
图1为本发明优选实施例中深度时延储备池计算系统的结构示意图之一;
图2为本发明优选实施例中深度时延储备池层的结构示意图;
图3为本发明优选实施例中响应组件的结构示意图;
图4为本发明优选实施例中残差反馈光路单元的结构示意图之一;
图5为本发明优选实施例中残差反馈光路单元的结构示意图之二;
图6为本发明优选实施例中自反馈环路组件的结构示意图;
图7为本发明优选实施例中储备池单元的结构示意图;
图8为本发明优选实施例中输入层的结构示意图;
图9为本发明优选实施例中输出层的结构示意图;
图10为本发明优选实施例中深度时延储备池计算系统的结构示意图之二;
图11为本发明优选实施例中深度时延储备池计算系统处理Santa Fe时间序列预测任务的预测目标和预测结果示意图。
说明书附图标记说明:10、输入层;11、驱动激光器;12、任意波形发射器;13、调制器;20、深度时延储备池层;211、响应组件;2111、响应激光器;2112、第一光耦合器;212、自反馈环路组件;2121、光环形器;2122、第二光耦合器;2123、第二延迟光纤;2124、第二可变光衰减器;2125、第二光偏振控制器;22、残差反馈光路单元;221、第一光偏振控制器;222、第一可变光衰减器;223、第一延迟光纤;30、输出层;31、光电探测器;32、可编程门控阵列。
具体实施方式
下面结合附图和具体实施例对本发明作进一步说明,以使本领域的技术人员可以更好地理解本发明并能予以实施,但所举实施例不作为对本发明的限定。
参照图1所示,本发明公开了一种深度时延储备池计算系统,包括输入层10、输出层30和深度时延储备池层20。参照图2所示,输入层10用于向深度时延储备池层20发射第1光信号。深度时延储备池层20包括储备池单元和残差反馈光路单元22。储备池单元设置有A个,每个储备池单元均包括响应组件211和自反馈环路组件212,在保证节点数量的同时,增大信息处理速率。响应组件211与自反馈环路组件212相连接,自反馈环路组件212用于接收响应组件211所发射的响应信号,并将响应信号分为第一路光信号和第二路光信号。其中,自反馈环路组件212将第一路光信号注入回对应的响应组件211以形成自反馈环路,自反馈环路组件212将第二路光信号注入至输出层30。第a1-2个响应组件211用于发射第三路光信号并将第三路光信号注入至第a1-1个响应组件211;残差反馈光路单元22设置有A-2个,第a2-2个残差反馈光路单元22分别连接第a2-2个响应组件211和第a2个响应组件211,残差反馈光路单元22用于将第a2-2个响应组件211所发射的第四路光信号延迟注入至第a2个响应组件211。其中,A、a1和a2均设置为整数且A>2,3≤a1≤A+1,3≤a2≤A,第1光信号仅注入至第1个响应组件211和第2个响应组件211。输出层30用于接收第二路光信号,获得输出权重。
优选的,参照图3所示,每个响应组件211均包括一个响应激光器2111。响应激光器2111与第一光耦合器2112连接。响应激光器2111还与自反馈环路组件212相连接、以向自反馈环路组件212发射响应信号。优选的,选择半导体激光器作为响应激光器2111,半导体激光器包括动力学状态丰富,体积小,集成度高等优势。第一光耦合器2112用于耦合和分束对应的光信号。关于不同的响应组件211中第一光耦合器2112的实际数量,本领域技术人员能够根据实际需求设置。优选的,前A-2个响应组件211均包括一个响应激光器2111和两个与之相连接的第一光耦合器2112;第A-1个以及第A个响应组件均只包括一个响应激光器2111和一个与之相连接的第一光耦合器2112。
具体的,本发明所述的深度时延储备池计算系统,当A等于3时,第1个响应组件211用于接收第1光信号,并向对应的自反馈环路组件212发射响应信号、向第2个响应组件211发射第4光信号、向第1个残差反馈光路单元22发射第5光信号;该自反馈环路组件212将该响应信号分为第2光信号和第3光信号,该自反馈环路组件212将第2光信号注入回第1个响应组件211,该自反馈环路组件212将第3光信号注入至输出层30。第2个响应组件211用于接收第1光信号和第4光信号,并向对应的自反馈环路组件212发射响应信号、向第3个响应组件211发射第8光信号;该自反馈环路组件212将该响应信号分为第6光信号和第7光信号,该自反馈环路组件212将第6光信号注入回第2个响应组件211,该自反馈环路组件212将第7光信号注入至输出层30。第3个响应组件211用于接收第5光信号和第8光信号,并向对应的自反馈环路组件212发射响应信号;该自反馈环路组件212将该响应信号分为第9光信号和第10光信号,该自反馈环路组件212将第9光信号注入回第3个响应组件211,该自反馈环路组件212将第10光信号注入至输出层30。
当A等于3时,第一路光信号包括第2光信号、第6光信号和第9光信号;第二路光信号包括第3光信号、第7光信号和第10光信号;第三路光信号包括第4光信号和第8光信号;第四路光信号包括第5光信号。需要说明的是,在其它条件相同的前提下,以第1个储备池单元为例,其第2光信号、第3光信号、第4光信号和第5光信号属于同一种光信号,只是经过响应组件211的第一光耦合器2112分成四路后的处理方式不同。同样的,第2个储备池单元的第6光信号、第7光信号和第8光信号也属于同一种光信号;第3个储备池单元的第9光信号和第10光信号也属于同一种光信号。
当A等于4时,第1个响应组件211用于接收第1光信号,并向对应的自反馈环路组件212发射响应信号、向第2个响应组件211发射第4光信号、向第1个残差反馈光路单元22发射第5光信号;该自反馈环路组件212将该响应信号分为第2光信号和第3光信号,该自反馈环路组件212将第2光信号注入回第1个响应组件211,该自反馈环路组件212将第3光信号注入至输出层30。第2个响应组件211用于接收第1光信号和第4光信号,并向对应的自反馈环路组件212发射响应信号、向第3个响应组件211发射第8光信号、向第2个残差反馈光路单元22发射第9光信号;该自反馈环路组件212将该响应信号分为第6光信号和第7光信号,该自反馈环路组件212将第6光信号注入回第2个响应组件211,该自反馈环路组件212将第7光信号注入至输出层30。第3个响应组件211用于接收第5光信号和第8光信号,并向对应的自反馈环路组件212发射响应信号、向第4个响应组件211发射第12光信号;该自反馈环路组件212将该响应信号分为第10光信号和第11光信号,该自反馈环路组件212将第10光信号注入回第3个响应组件211,该自反馈环路组件212将第11光信号注入至输出层30。第4个响应组件211用于接收第9光信号和第12光信号,并向对应的自反馈环路组件212发射响应信号;该自反馈环路组件212将该响应信号分为第13光信号和第14光信号,该自反馈环路组件212将第13光信号注入回第4个响应组件211,该自反馈环路组件212将第14光信号注入至输出层30。
当A等于4时,第一路光信号包括第2光信号、第6光信号、第10光信号和第13光信号;第二路光信号包括第3光信号、第7光信号、第11光信号和第14光信号;第三路光信号包括第4光信号、第8光信号和第12光信号;第四路光信号包括第5光信号和第9光信号。需要说明的是,在其它条件相同的前提下,以第1个储备池单元为例,其发射的第2光信号、第3光信号、第4光信号和第5光信号属于同一种光信号,只是经过响应组件211的第一光耦合器2112分成四路后的处理方式不同。同样的,第2个储备池单元的第6光信号、第7光信号、第8光信号和第9光信号也属于同一种光信号;第3个储备池单元的第10光信号、第11光信号和第12光信号也属于同一种光信号;第4个储备池单元的第13光信号和第14光信号也属于同一种光信号。
当A不小于5时,第1个响应组件211用于接收第1光信号,并向对应的自反馈环路组件212发射响应信号、向第2个响应组件211发射第4光信号、向第1个残差反馈光路单元22发射第5光信号;该自反馈环路组件212将该响应信号分为第2光信号和第3光信号,该自反馈环路组件212将第2光信号注入回第1个响应组件211,该自反馈环路组件212将第3光信号注入至输出层30。第a3-2个响应组件211用于接收第4a3-15光信号和第4a3-11光信号,并向对应的自反馈环路组件212发射响应信号、向第a3-1个响应组件211发射第4a3-8光信号、向第a3-2个残差反馈光路单元22发射第4a3-7光信号;对应的自反馈环路组件212将对应的响应信号分为第4a3-10光信号和第4a3-9光信号,对应的自反馈环路组件212将第4a3-10光信号注入回第a3-2个响应组件211,对应的自反馈环路组件212将第4a3-9光信号注入至输出层30。第a3-1个响应组件211用于接收第4a3-11光信号和第4a3-8光信号,并向对应的自反馈环路组件212发射响应信号、向第a3个响应组件211发射第4a3-4光信号;对应的自反馈环路组件212将该响应信号分为第4a3-6光信号和第4a3-5光信号,对应的自反馈环路组件212将第4a3-6光信号注入回第a3-1个响应组件211,对应的自反馈环路组件212将第4a3-5光信号注入至输出层30。第a3个响应组件211用于接收第4a3-7光信号和第4a3-4光信号,并向对应的自反馈环路组件212发射响应信号;该自反馈环路组件212将该响应信号分为第4a3-3光信号和第4a3-2光信号,该自反馈环路组件212将第4a3-3光信号注入回第a3个响应组件211,该自反馈环路组件212将第4a3-2光信号注入至输出层30。其中,a3设置为整数且4≤a3≤A。
当A不小于5时,第一路光信号包括第2光信号、第4a3-10光信号、第4a3-6光信号和第4a3-3光信号;第二路光信号包括第3光信号、第4a3-9光信号、第4a3-5光信号和第4a3-2光信号;第三路光信号包括第4光信号、第4a3-8光信号和第4a3-4光信号;第四路光信号包括第5光信号和第4a3-7光信号。需要说明的是,在其它条件相同的前提下,以第1个储备池单元为例,其发射的第2光信号、第3光信号、第4光信号和第5光信号属于同一种光信号,只是经过响应组件211的第一光耦合器2112分成四路后的处理方式不同。同样的,第a3-2个储备池单元的第4a3-10光信号、第4a3-9光信号、第4a3-8光信号和第4a3-7光信号也属于同一种光信号;第a3-1个储备池单元的第4a3-6光信号、第4a3-5光信号和第4a3-4光信号也属于同一种光信号;第a3个储备池单元的第4a3-3光信号和第4a3-2光信号也属于同一种光信号。
输入层10的输出光对于前几个储备池单元的影响较大,且随储备池单元的个数增加、其对于系统性能的提升逐渐减弱。因此,相较于将输入层10的输出光注入至每一个储备池单元、或者相较于将输入层10的输出光注入至第一个储备池单元,仅将输入层10的第1光信号注入至第1个响应组件211和第2个响应组件211能够充分利用输入层10的输出光对于前几个储备池单元提升较大的优势,又能够配合残差反馈光路单元22、省去对于后续储备池单元的注入。
本发明所述的深度时延储备池计算系统,通过残差反馈光路单元22的设置,在不同的储备池单元之间添加了额外的时间延迟。一方面,深度时延储备池计算系统能够通过不同储备池单元之间的状态实现泛化重要特征、突出一般特征,从而提升整个深度时延储备池层20的性能;另一方面,深度时延储备池层20由引入了额外的时间延迟,通过残差反馈光路单元22能够丰富储层状态并且增强存储容量,从而实现复杂任务的处理、如处理离散任务。此外,自反馈环路组件212的设置能够构建递归神经网络,使得储备池单元具有一定的记忆能力。在自反馈环路组件212和残差反馈光路单元22的设置下,其输出光信号的复杂性得到提升,有效提升系统状态的丰富度。
参照图4和图5所示,本发明所述的深度时延储备池计算系统,在一些实施例中,残差反馈光路单元22包括第一光偏振控制器221、第一可变光衰减器222和第一延迟光纤223。具体的,第一光偏振控制器221用于接收第a2-2个响应组件211所发射的第四路光信号并控制第四路光信号的偏振状态,获得并发射第一偏振光信号。第一可变光衰减器222用于接收第一偏振光信号并调节第一偏振光信号的反馈强度,获得并发射第一衰减光信号。第一延迟光纤223用于接收第一衰减光信号并将第一衰减光信号延迟注入至第a2个响应组件211。通过该结构的残差反馈光路单元22的设置,能够有效实现额外时间延迟的增加、以增加存储容量,光信号的延迟注入使得深度时延储备池的记忆能力进一步增强,丰富了储层状态。优选的,第一可变光衰减器222能够根据实际需求调节反馈强度相等或不等,反馈强度的改变会带来储备池性能的变化,没有反馈强度时,整个系统不具有记忆能力,性能较差;而反馈强度较强时,会使得响应组件211的响应激光器2111进入混沌状态,严重破坏系统性能;通过反馈强度的调节,选取一个合适的反馈强度,能够使得系统性能最优。第一延迟光纤223包括色散小、传输带宽大、衰减小等优点,能够有效传递光信号。在一些其它实施例中,也能够使用空间光传输信号。
进一步的,本发明所述的深度时延储备池计算系统,在一些实施例中,每个残差反馈光路单元22中的第一延迟光纤223的长度均相等。第一延迟光纤223的长度决定了延迟时间。控制第一延迟光纤223的长度相等是为了控制每层储层拥有相同的时延以及虚拟节点数,以便后处理运算;此外,调整第一延迟光纤223的长度也能够优化系统性能。
参照图6和图7所示,本发明所述的深度时延储备池计算系统,在一些实施例中,自反馈环路组件212包括光环形器2121、第二光耦合器2122、第二延迟光纤2123、第二可变光衰减器2124和第二光偏振控制器2125。光环形器2121分别连接第二光耦合器2122、第二光偏振控制器2125和对应的响应组件211。第二光耦合器2122通过光环形器2121接收对应的响应组件211所发射的响应信号,第二光耦合器2122用于将响应信号分为第一路光信号和第二路光信号,并将第二路光信号注入至输出层30。第二可变光衰减器2124通过第二延迟光纤2123与第二光耦合器2122相连接,第二延迟光纤2123用于接收第二光耦合器2122所发射的第一路光信号并将第一路光信号延迟注入至第二可变光衰减器2124,第二可变光衰减器2124用于调节第一路光信号的反馈强度,获得并发射第二衰减光信号;第二光偏振控制器2125用于接收第二衰减光信号并调节第二衰减光信号的偏振状态,获得第二偏振光信号并将第二偏振光信号注入回对应的响应组件211。通过分离第二延迟光纤2123,形成虚拟节点,虚拟节点充当神经网络系统中的神经元,进行信息的传递与特征提取。优选的,第二可变光衰减器2124能够根据实际需求调节反馈强度相等或不等,反馈强度的改变会带来储备池性能的变化,没有反馈强度时,整个系统不具有记忆能力,性能较差;而反馈强度较强时,会使得响应组件211的响应激光器2111进入混沌状态,严重破坏系统性能;通过反馈强度的调节,选取一个合适的反馈强度,能够使得系统性能最优。第二延迟光纤2123包括色散小、传输带宽大、衰减小等优点,能够有效传递光信号。在一些其它实施例中,也能够使用空间光传输信号。
第二可变光衰减器2124通过第二延迟光纤2123与对应的响应组件211相连接,具体的,第二可变光衰减器2124通过第二延迟光纤2123与对应的响应组件211中的第一光耦合器2112连接。第二延迟光纤2123用于接收对应的响应组件211所发射的第一路光信号并将第一路光信号延迟注入至第二可变光衰减器2124,第二可变光衰减器2124用于调节第一路光信号的反馈强度,获得并发射第二衰减光信号。第二光偏振控制器2125用于接收第二衰减光信号并调节第二衰减光信号的偏振状态,获得第二偏振光信号并将第二偏振光信号注入回对应的响应组件211,具体的,将第二偏振光信号注入回对应的响应组件211中的光环形器2121,再由光环形器2121注入至响应激光器2111中。通过分离第二延迟光纤2123,形成虚拟节点,虚拟节点充当神经网络系统中的神经元,进行信息的传递与特征提取。优选的,第二可变光衰减器2124能够根据实际需求调节反馈强度相等或不等,反馈强度的改变会带来储备池性能的变化,没有反馈强度时,整个系统不具有记忆能力,性能较差;而反馈强度较强时,会使得响应组件211的响应激光器2111进入混沌状态,严重破坏系统性能;通过反馈强度的调节,选取一个合适的反馈强度,能够使得系统性能最优。第二延迟光纤2123包括色散小、传输带宽大、衰减小等优点,能够有效传递光信号。在一些其它实施例中,也能够使用空间光传输信号。
进一步的,本发明所述的深度时延储备池计算系统,在一些实施例中,每个自反馈环路组件212中的第二延迟光纤2123的长度均相等。第二延迟光纤2123的长度决定了延迟时间。控制第二延迟光纤2123的长度相等是为了控制每层储层拥有相同的时延以及虚拟节点数,以便后处理运算;此外,调整第二延迟光纤2123的长度也能够优化系统性能。
参照图8所示,本发明所述的深度时延储备池计算系统,在一些实施例中,输入层10包括驱动激光器11、任意波形发射器12和调制器13。驱动激光器11用于产生输入信号;任意波形发射器12用于产生掩码信号,掩码信号具有不同的序列排布;调制器13用于根据掩码信号、调制输入信号并发射第1光信号。通过该结构输入层10的设置,第1光信号的复杂性得到提升,能够有效提升系统状态的丰富度。
进一步的,本发明所述的深度时延储备池计算系统,在一些实施例中,调制器13设置为相位调制器或强度调制器。优选的,选择相位调制器。当调制输入信号的相位而不是仅调制其幅度时,系统在混沌时间序列预测任务上的性能能够得到提升。
进一步的,本发明所述的深度时延储备池计算系统,在一些实施例中,掩码信号设置为二值掩码信号、多值掩码信号、混沌掩码信号中的任意一种。复杂的掩码方式可以给输入信息提供更高的丰富度,即掩码信号拥有更高的丰富度,这能够优化系统性能。
参照图9和图10所示,本发明所述的深度时延储备池计算系统,在一些实施例中,输出层30包括光电探测器31和可编程门控阵列32。光电探测器31设置有A个,每个光电探测器31均与对应的响应组件211相连接,光电探测器31用于接收对应的响应组件211所发射的第二路光信号并将第二路光信号转化为电信号。具体的,每个光电探测器31均与对应的响应组件211中的第一光耦合器2112相连接,以将对应的第一光耦合器2112所发射的第二路光信号转化为电信号。可编程门控阵列32用于接收并训练电信号,获得输出权重。
进一步的,本发明所述的深度时延储备池计算系统,在一些实施例中,可编程门控阵列32基于简单的回归算法,例如岭回归算法或线性回归算法训练电信号,获得输出权重。
为了验证本发明所述的深度时延储备池计算系统具有高速处理信息的能力,通过数值仿真模拟了本发明所述的深度时延储备池计算系统处理Santa Fe时间序列预测任务。
具体的,基于数值仿真模拟了本发明所述的深度时延储备池计算系统,建立速率方程如下。
其中,下标1、2和分别表示第1个响应激光器2111、第2个响应激光器2111和第个
响应激光器2111。和分别表示第个响应激光器2111的复电场振幅和载流子
密度。表示线宽增强系数,表示增益系数,表示透明时的载流子密度,表示增益
饱和系数,表示光子寿命,表示载流子寿命,表示深度时延储备池层20的注入电
流。
表示自反馈环路组件212反馈回响应激光器2111的自反馈强度,表示相邻
储备池单元间响应激光器2111的耦合强度,表示自反馈环路组件212反馈回响应激光器
2111的自反馈延迟时间,表示相邻储备池单元间响应激光器2111耦合的延迟时间,
表示残差反馈光路单元22对响应激光器2111的残差反馈强度,表示残差反馈光路单元
22对响应激光器2111的残差反馈延迟时间。表示自发发射系数,和分别表示
第1个、第2个和第个响应激光器2111具有单位方差和零均值的独立高斯白噪声。表
示驱动激光器11的注入强度,表示响应激光器2111的角频率。
表示驱动激光器11与响应激光器2111之间的角频率之差,表示驱动激
光器11与响应激光器2111之间的中心频率失谐,。
表示注入电场,,表示驱动激光器11的恒定光强
度,表示调制信号,,表示掩码信号,表示对时间连
续输入信号进行采样得到的离散信号,表示比例因子。
参照图11所示,其中展示了本发明所述的深度时延储备池计算系统处理Santa Fe时间序列预测任务的预测目标和预测结果。从中能够看出时间序列预测结果和目标接近,且计算得到归一化均方误差NMSE值为0.0034,说明本发明所述的深度时延储备池计算系统具有良好的预测性能。
显然,上述实施例仅仅是为清楚地说明所作的举例,并非对实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式变化或变动。这里无需也无法对所有的实施方式予以穷举。而由此所引申出的显而易见的变化或变动仍处于本发明创造的保护范围之中。
Claims (10)
1.一种深度时延储备池计算系统,其特征在于,包括输入层、输出层和深度时延储备池层;
所述输入层用于向所述深度时延储备池层发射第1光信号;
所述深度时延储备池层包括储备池单元和残差反馈光路单元;所述储备池单元设置有A个,每个所述储备池单元均包括响应组件和自反馈环路组件,所述响应组件与所述自反馈环路组件相连接,所述自反馈环路组件用于接收所述响应组件所发射的响应信号并将所述响应信号分为第一路光信号和第二路光信号,所述自反馈环路组件将所述第一路光信号注入回对应的所述响应组件以形成自反馈环路,所述自反馈环路组件将所述第二路光信号注入至所述输出层;第a1-2个所述响应组件用于发射第三路光信号并将所述第三路光信号注入至第a1-1个所述响应组件;所述残差反馈光路单元设置有A-2个,第a2-2个所述残差反馈光路单元分别连接第a2-2个所述响应组件和第a2个所述响应组件,所述残差反馈光路单元用于将第a2-2个所述响应组件所发射的第四路光信号延迟注入至第a2个所述响应组件;其中,A、a1和a2均设置为整数且A>2,3≤a1≤A+1,3≤a2≤A,所述第1光信号仅注入至第1个所述响应组件和第2个所述响应组件;
所述输出层用于接收所述第二路光信号,获得输出权重。
2.根据权利要求1所述的深度时延储备池计算系统,其特征在于,所述残差反馈光路单元包括:
第一光偏振控制器,所述第一光偏振控制器用于接收第a2-2个所述响应组件所发射的所述第四路光信号并控制所述第四路光信号的偏振状态,获得并发射第一偏振光信号;
第一可变光衰减器,所述第一可变光衰减器用于接收所述第一偏振光信号并调节所述第一偏振光信号的反馈强度,获得并发射第一衰减光信号;
第一延迟光纤,所述第一延迟光纤用于接收所述第一衰减光信号并将所述第一衰减光信号延迟注入至第a2个所述响应组件。
3.根据权利要求2所述的深度时延储备池计算系统,其特征在于:每个所述残差反馈光路单元中的所述第一延迟光纤的长度均相等。
4.根据权利要求1所述的深度时延储备池计算系统,其特征在于,所述自反馈环路组件包括光环形器、第二光耦合器、第二延迟光纤、第二可变光衰减器和第二光偏振控制器;
所述光环形器分别连接所述第二光耦合器、所述第二光偏振控制器和对应的所述响应组件;
所述第二光耦合器通过所述光环形器接收对应的所述响应组件所发射的响应信号,所述第二光耦合器用于将所述响应信号分为所述第一路光信号和所述第二路光信号,并将所述第二路光信号注入至所述输出层;
所述第二可变光衰减器通过所述第二延迟光纤与所述第二光耦合器相连接,所述第二延迟光纤用于接收所述第二光耦合器所发射的所述第一路光信号并将所述第一路光信号延迟注入至所述第二可变光衰减器,所述第二可变光衰减器用于调节所述第一路光信号的反馈强度,获得并发射第二衰减光信号;
所述第二光偏振控制器用于接收所述第二衰减光信号并调节所述第二衰减光信号的偏振状态,获得第二偏振光信号并将所述第二偏振光信号注入回对应的所述响应组件。
5.根据权利要求4所述的深度时延储备池计算系统,其特征在于:每个所述自反馈环路组件中的所述第二延迟光纤的长度均相等。
6.根据权利要求1所述的深度时延储备池计算系统,其特征在于,所述输入层包括:
驱动激光器,所述驱动激光器用于产生输入信号;
任意波形发射器,所述任意波形发射器用于产生掩码信号,所述掩码信号具有不同的序列排布;
调制器,所述调制器用于根据所述掩码信号、调制所述输入信号并发射所述第1光信号。
7.根据权利要求6所述的深度时延储备池计算系统,其特征在于:所述调制器设置为相位调制器或强度调制器。
8.根据权利要求6所述的深度时延储备池计算系统,其特征在于:所述掩码信号设置为二值掩码信号、多值掩码信号、混沌掩码信号中的任意一种。
9.根据权利要求1所述的深度时延储备池计算系统,其特征在于,所述输出层包括:
光电探测器,所述光电探测器设置有A个,每个所述光电探测器均与对应的所述响应组件相连接,所述光电探测器用于接收所述第二路光信号并将所述第二路光信号转化为电信号;
可编程门控阵列,所述可编程门控阵列用于接收并训练所述电信号,获得所述输出权重。
10.根据权利要求9所述的深度时延储备池计算系统,其特征在于:所述可编程门控阵列基于岭回归算法或线性回归算法训练所述电信号,获得所述输出权重。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410143537.7A CN117669649B (zh) | 2024-02-01 | 2024-02-01 | 深度时延储备池计算系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410143537.7A CN117669649B (zh) | 2024-02-01 | 2024-02-01 | 深度时延储备池计算系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117669649A CN117669649A (zh) | 2024-03-08 |
CN117669649B true CN117669649B (zh) | 2024-04-05 |
Family
ID=90086692
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410143537.7A Active CN117669649B (zh) | 2024-02-01 | 2024-02-01 | 深度时延储备池计算系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117669649B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109102002A (zh) * | 2018-07-17 | 2018-12-28 | 重庆大学 | 结合卷积神经网络和概念机递归神经网络的图像分类方法 |
CN114186379A (zh) * | 2021-10-12 | 2022-03-15 | 武汉大学 | 基于回声网络和深度残差神经网络的变压器状态评估方法 |
-
2024
- 2024-02-01 CN CN202410143537.7A patent/CN117669649B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109102002A (zh) * | 2018-07-17 | 2018-12-28 | 重庆大学 | 结合卷积神经网络和概念机递归神经网络的图像分类方法 |
CN114186379A (zh) * | 2021-10-12 | 2022-03-15 | 武汉大学 | 基于回声网络和深度残差神经网络的变压器状态评估方法 |
Non-Patent Citations (1)
Title |
---|
Continual Residual Reservoir Computing for Remaining Useful Life Prediction;Tiancheng Wang等;《IEEE TRANSACTIONS ON INDUSTRIAL INFORMATICS》;20240131;第20卷(第1期);第931-940页 * |
Also Published As
Publication number | Publication date |
---|---|
CN117669649A (zh) | 2024-03-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Nahmias et al. | A leaky integrate-and-fire laser neuron for ultrafast cognitive computing | |
Hicke et al. | Information processing using transient dynamics of semiconductor lasers subject to delayed feedback | |
Hill et al. | All fiber-optic neural network using coupled SOA based ring lasers | |
CN114970836B (zh) | 蓄水池神经网络实现方法、系统、电子设备及存储介质 | |
CN113935474B (zh) | 循环神经网络的实现方法、系统、电子设备及存储介质 | |
Schneider et al. | Using digital masks to enhance the bandwidth tolerance and improve the performance of on-chip reservoir computing systems | |
WO2019167953A1 (ja) | 光信号処理装置 | |
Lin et al. | Deep time-delay reservoir computing with cascading injection-locked lasers | |
CN114781602B (zh) | 基于激光器阵列的深度卷积神经网络系统及控制方法 | |
CN115145535B (zh) | 一种基于自旋垂直腔面发射激光器的深度储备池计算系统及方法 | |
CN117669649B (zh) | 深度时延储备池计算系统 | |
Song et al. | Experimental demonstration of photonic spike-timing-dependent plasticity based on a VCSOA | |
Guo et al. | Enhanced memory capacity of a neuromorphic reservoir computing system based on a VCSEL with double optical feedbacks | |
CN112560288A (zh) | 一种基于光泵自旋vcsel的储备池计算装置 | |
CN111291881A (zh) | 一种基于级联VCSELs光子神经的模式识别装置及方法 | |
Zhao et al. | Experimental implementation of spike-based neuromorphic XOR operation based on polarization-mode competition in a single VCSOA | |
CN114757344A (zh) | 模拟生物神经元动力学以实现逻辑运算的系统及方法 | |
Hejda et al. | Spiking behaviour in laterally-coupled pairs of VCSELs with applications in neuromorphic photonics | |
CN114723022A (zh) | 一种基于半导体激光器的深度储备池光计算方法和系统 | |
CN117270100B (zh) | 一种实现储备池循环网络的单片光子集成芯片 | |
CN118468956A (zh) | 基于类卷积编码的强化前馈神经网络系统 | |
Fischer et al. | Photonic reservoir computing for ultra-fast information processing using semiconductor lasers | |
Zhan et al. | A hybrid quantum computer for quantum finance computation of Monte-Carlo distribution | |
Lin et al. | Deep Reservoir Computing Based on Injection-Locked Quantum Dot Lasers | |
Zhou et al. | Experimental and Theoretical Analysis of Deep Residual Time-Delay Reservoir Computing Based on Clipping Algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |