CN113592069A - 一种四输入逻辑运算的光子神经网络 - Google Patents

一种四输入逻辑运算的光子神经网络 Download PDF

Info

Publication number
CN113592069A
CN113592069A CN202110818425.3A CN202110818425A CN113592069A CN 113592069 A CN113592069 A CN 113592069A CN 202110818425 A CN202110818425 A CN 202110818425A CN 113592069 A CN113592069 A CN 113592069A
Authority
CN
China
Prior art keywords
optical signal
neural network
signal
unit
dimensional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110818425.3A
Other languages
English (en)
Inventor
刘旭
曹一凡
吴奕征
梅奇勋
欧瀚文
王春清
朱旭东
王百航
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Southeast University
Original Assignee
Southeast University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Southeast University filed Critical Southeast University
Priority to CN202110818425.3A priority Critical patent/CN113592069A/zh
Publication of CN113592069A publication Critical patent/CN113592069A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Optical Modulation, Optical Deflection, Nonlinear Optics, Optical Demodulation, Optical Logic Elements (AREA)

Abstract

本发明公开了一种四输入逻辑运算的光子神经网络，包括依次连接的电光调制单元、预处理单元、N层光子神经网络单元和第一光电转换单元；所述电光调制单元用于将输入的电信号转换为四维光信号并输出到预处理单元，所述预处理单元用于在四维光信号的基础上添加第五维信号，将四维光信号变为五维光信号，五维光信号向量的L2范数为定值，五维光信号再经过N层光子神经网络单元运算后输出特征结果到第一光电转换单元转化为电信号，得到最终的输出。本发明的电光混合的片上神经网络，具备高带宽、低损耗等优势。

Description

一种四输入逻辑运算的光子神经网络
技术领域
本发明属于神经网络技术领域，尤其涉及一种四输入逻辑运算的光子神经网络。
背景技术
在过去的几十年，电子集成芯片在集成度、运算速度方面不断提升，其发展态势符合著名的摩尔定律。如今微处理器所集成的晶体管数量可达数百亿个，晶体管的栅极长度仅为35nm，时钟频率达3GHz。依照国际半导体技术路线图(ITRS)预测，到2020年，要满足芯片容量的增长需求，晶体管栅极长度要缩小至4.5nm，时钟频率达73GHz。此时，巨大的能耗和显著的信号延迟成为集成电路发展难以逾越的障碍，摩尔定律或将终止。如何解决这个战略性问题成为了当前国际研究的一大重点。光波作为信息载体,具有带宽高、功耗低、延迟小、抗干扰强和带负载能力强等优点，远胜于电互连。据估计，光互连的通信数据容量比电互连高1000倍以上，其传输速度5-10倍，而其功耗仅为1/10左右。因此，光互连技术的发展将有望解决高速芯片之间和芯片上的带宽瓶颈问题，为实现大容量、高速率、低功耗的芯片间或芯片上互连奠定基础。
相比于光子AI芯片，光子AI计算在上个世纪就已经出现，最初使用空间光结构来模拟神经网络架构，并且经历了从松散架构向光子集成网络的发展历程。
此外，支撑光子AI芯片技术发展和应用拓展的周边构件和工具也在逐步涌现。模型和算法开发方面，一些针对光子神经网络的模型库和开发框架已经出现，包括基于Python编写的Neuroptica和Neurophox库等。而在电路方面，光子AI芯片所需的光调制器驱动芯片、跨阻放大芯片、高速AD/DA、DSP等单元在技术上已经有了一定的储备和积累。
最后，对于完成制作的光子AI芯片，直接在算法层面进行训练面临很大的挑战，某些光子计算架构甚至完全无法训练，这对其应用造成了极大的限制。作为一种妥协，目前主要是通过在电子计算机上对光子计算网络的仿真模型进行训练，再将训练出的模型参数加载到光子芯片上。
目前，光子AI芯片的应用场景主要有图像识别、语音识别、优化决策等。在图像理解、语义理解等应用场景的应用仍需与发展对应的算法所需的光子AI芯片技术。尽管如此，光子AI技术在AI领域的各个层面上都已经有了诸多的突破。
发明内容
为了克服集成电子电路巨大的能耗和显著的信号延迟，利用光子器件高带宽、低功耗的优势，本发明提出了一种四输入逻辑运算的光子神经网络，可以高速低能耗地进行四输入的逻辑运算。
本发明的一种四输入逻辑运算的光子神经网络，包括依次连接的电光调制单元、预处理单元、N层光子神经网络单元和第一光电转换单元。
所述电光调制单元用于将输入的电信号转换为四维光信号并输出到预处理单元，所述预处理单元用于对接收到的四维光信号进行预处理，具体为，在四维光信号的基础上添加第五维信号，将四维光信号变为五维光信号，五维光信号向量的L2范数为定值，五维光信号再经过N层光子神经网络单元运算后输出特征结果到第一光电转换单元转化为电信号，得到最终的输出。
借助第五维的添加可以使得所有输入信号的L2范数为一个定值，从而符合光子神经网络的输入要求，其实际的物理意义为输入光子神经网络的信号功率恒定。并且将四维信号扩展为五维信号可以使数据的特征量更容易显现出来，便于后续神经网络的训练。
所述光子神经网络单元包括可编程波导干涉仪和非线性光学元件；五维光信号经过N层光子神经网络单元时，在每层光子神经网络单元中，可编程波导干涉仪作为线性光子元件先对输入的光信号进行线性运算后、非线性光学元件再对信号进行非线性运算，再将运算结果输出到下一层光子神经网络单元。
进一步的，利用片上反向传播算法对可编程波导干涉仪的权重矩阵参数进行优化。
采用上述技术方案带来的有益效果：
(1)利用片上反向传播算法训练得到本发明的光子神经网络，可以代替传统电子神经网络，从而实现电光混合的片上神经网络，具备高带宽、低损耗等优势。
(2)本发明提出的对输入信号进行的预处理方法易于实现，且可以极大地方便神经网络的训练过程。
(3)本发明使用的可编程波导干涉仪对光信号进行线性运算，功耗低且运算速度高。
附图说明
图1是本发明的光子神经网络示意图；
图2是本发明的可编程波导干涉仪的结构示意图；
图3是本发明的非线性光学元件的原理示意图；
图4是本发明预设的逻辑函数映射关系示意图；
图5是本发明的实际预测结果与预设的逻辑函数映射关系的对比图。
具体实施方式
以下将结合附图，对本发明的技术方案进行详细说明。
如图1所示，本发明的一种四输入逻辑运算的光子神经网络，包括依次连接的电光调制单元、预处理单元、N层光子神经网络单元和第一光电转换单元，所述光子神经网络单元包括可编程波导干涉仪和非线性光学元件；N的大小由输入信号的复杂程度决定。
数字电信号作为本发明片上光子神经网络的输入，所述电光调制单元用于将输入的电信号转换为四维光信号并输出到预处理单元，所述预处理单元用于对接收到的四维光信号进行预处理，具体为，在四维光信号的基础上添加第五维信号，将四维光信号变为五维光信号，五维光信号向量的L2范数为定值，五维光信号再经过N层光子神经网络单元运算后输出特征结果到第一光电转换单元转化为电信号，得到最终的输出。所述第一光电转换单元是光电探测器。
五维光信号经过N层光子神经网络单元时，在每层光子神经网络单元中，可编程波导干涉仪作为线性光子元件先对输入的光信号进行线性运算后、非线性光学元件再对信号进行非线性运算，再将运算结果输出到下一层光子神经网络单元。
在预处理单元中进行预处理，在四维光信号的基础上添加第五维信号，将四维光信号变为五维光信号，具体过程为：
设输入的四维光信号为(x1，x2，x3，x4)，预处理后的光信号为(x′1，x′2，x′3，x′4，x′5)，其中：
x′1＝x1
x′2＝x2
x′3＝x3
x′4＝x4
Figure BDA0003171078210000041
其中P为任意定值，本实施例中采用P＝10；
可编程波导干涉仪作为线性光子元件先输入五维光信号进行线性运算，具体为：
如图2所示，可编程波导干涉仪特征量为权重矩阵
Figure BDA0003171078210000042
对输入的光信号向量xi进行如下运算：
Figure BDA0003171078210000043
其中i表示第i层，i∈N，zi+1为第i层可编程波导干涉仪的运算输出。
如图3所示，非线性光学元件包括定向耦合器、第二光电转换单元、光信号时延单元和马赫-曾德尔干涉仪，从可编程波导干涉仪输出的光信号通过定向耦合器后分为两路光信号，一路光信号经过第二光电转换单元转化为电信号后到达马赫-曾德尔干涉仪，用于控制马赫-曾德尔干涉仪中光信号的移相；
另一路光信号经过光信号时延单元进行光信号延时后到达马赫-曾德尔干涉仪，对光信号进行强度调制，从而实现非线性响应。
非线性光学元件对信号进行非线性的运算，具体为：
xi+1＝f(zi+1)
其中，xi+1是第i层非线性光学元件的运算输出，也是第i层光子神经网络单元的输出；非线性函数的表达式为:
Figure BDA0003171078210000044
表达式中α、gφ、φb为可调参数。α∈(0,1)，gφ为一个大于0的数，φb∈(-π，π)；本实施例采用α＝0.1，gφ＝1.75π，φb＝0.5π。
所以第i层光子神经网络单元对输入的信号向量xi可写为按如下公式进行运算，得到第i层光子神经网络单元的输出xi+1；并将第i层光子神经网络单元的输出xi+1传递到下一层光子神经网络单元中。
Figure BDA0003171078210000045
对于光子神经网络单元，可以利用片上反向传播算法对可编程波导干涉仪的权重矩阵参数进行优化，得到输入响应准确度较高的光子神经网络单元结构。
本发明的光子神经网络基于训练样本被训练以使得预测错误被最小化，其预测精确度随着训练次数的增加而增加。假设逻辑函数的映射关系如图4所示，光子神经网络单元层数采用N＝2，则经过3000的训练，光子神经网络的预测错误率达到0，其预测结果如图5所示。可以看到预测的结果和设定的映射关系是完全一致的，可以认为该光子神经网络结构是可以实现四输入的逻辑函数的运算关系的。

Claims (6)

1.一种四输入逻辑运算的光子神经网络，其特征在于，包括依次连接的电光调制单元、预处理单元、N层光子神经网络单元和第一光电转换单元；
所述电光调制单元用于将输入的电信号转换为四维光信号并输出到预处理单元，所述预处理单元用于对接收到的四维光信号进行预处理，具体为，在四维光信号的基础上添加第五维信号，将四维光信号变为五维光信号，五维光信号向量的L2范数为定值，五维光信号再经过N层光子神经网络单元运算后输出特征结果到第一光电转换单元转化为电信号，得到最终的输出。
2.根据权利要求1所述一种四输入逻辑运算的光子神经网络，其特征在于，所述光子神经网络单元包括可编程波导干涉仪和非线性光学元件；
五维光信号经过N层光子神经网络单元时，在每层光子神经网络单元中，可编程波导干涉仪作为线性光子元件先对输入的光信号进行线性运算后、非线性光学元件再对信号进行非线性运算，然后将运算结果输出到下一层光子神经网络单元。
3.根据权利要求1所述一种四输入逻辑运算的光子神经网络，其特征在于，在四维光信号的基础上添加第五维信号，将四维光信号变为五维光信号，具体过程为：
设输入的四维光信号为(x1，x2，x3，x4)，预处理后的光信号为(x′1，x′2，x′3，x′4，x′5)，其中：
x′1＝x1
x′2＝x2
x′3＝x3
x′4＝x4
Figure FDA0003171078200000011
其中P为任意定值。
4.根据权利要求2所述一种四输入逻辑运算的光子神经网络，其特征在于，可编程波导干涉仪作为线性光子元件对输入的光信号进行线性运算，具体为：
可编程波导干涉仪特征量为权重矩阵
Figure FDA0003171078200000012
对输入的光信号向量xi进行如下运算：
Figure FDA0003171078200000013
其中i表示第i层，i∈N；zi+1为第i层可编程波导干涉仪的运算输出；
非线性光学元件对信号进行非线性的运算，具体为：
xi+1＝f(zi+1)
其中，xi+1是第i层非线性光学元件的运算输出，非线性函数的表达式为:
Figure FDA0003171078200000021
表达式中α、gφ、φb为可调参数，α∈(0,1)，gφ为一个大于0的数，φb∈(-π，π)。
5.根据权利要求2所述一种四输入逻辑运算的光子神经网络，其特征在于，非线性光学元件包括定向耦合器、第二光电转换单元、光信号时延单元和马赫-曾德尔干涉仪，光信号通过定向耦合器后分为两路光信号，一路光信号经过第二光电转换单元转化为电信号后到达马赫-曾德尔干涉仪，用于控制马赫-曾德尔干涉仪中光信号的移相；
另一路光信号经过光信号时延单元进行光信号延时后到达马赫-曾德尔干涉仪，对光信号进行强度调制，从而实现非线性响应。
6.根据权利要求2所述一种四输入逻辑运算的光子神经网络，其特征在于，利用片上反向传播算法对可编程波导干涉仪的权重矩阵参数进行优化。
CN202110818425.3A 2021-07-20 2021-07-20 一种四输入逻辑运算的光子神经网络 Pending CN113592069A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110818425.3A CN113592069A (zh) 2021-07-20 2021-07-20 一种四输入逻辑运算的光子神经网络

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110818425.3A CN113592069A (zh) 2021-07-20 2021-07-20 一种四输入逻辑运算的光子神经网络

Publications (1)

Publication Number Publication Date
CN113592069A true CN113592069A (zh) 2021-11-02

Family

ID=78248545

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110818425.3A Pending CN113592069A (zh) 2021-07-20 2021-07-20 一种四输入逻辑运算的光子神经网络

Country Status (1)

Country Link
CN (1) CN113592069A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024012335A1 (zh) * 2022-07-15 2024-01-18 南京光智元科技有限公司 计算系统及处理光子计算结果的方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108599865A (zh) * 2018-04-13 2018-09-28 北京邮电大学 基于光子神经网络的信号调制格式识别方法、装置
CN110503196A (zh) * 2019-08-26 2019-11-26 光子算数(北京)科技有限责任公司 一种光子神经网络芯片以及数据处理系统
CN112232504A (zh) * 2020-09-11 2021-01-15 联合微电子中心有限责任公司 一种光子神经网络

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108599865A (zh) * 2018-04-13 2018-09-28 北京邮电大学 基于光子神经网络的信号调制格式识别方法、装置
CN110503196A (zh) * 2019-08-26 2019-11-26 光子算数(北京)科技有限责任公司 一种光子神经网络芯片以及数据处理系统
CN112232504A (zh) * 2020-09-11 2021-01-15 联合微电子中心有限责任公司 一种光子神经网络

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王佳: "人工神经网络在光波导集成器件中的原理与引用", 中国优秀硕士论文全文数据库, no. 05, 15 May 2021 (2021-05-15), pages 39 - 53 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024012335A1 (zh) * 2022-07-15 2024-01-18 南京光智元科技有限公司 计算系统及处理光子计算结果的方法

Similar Documents

Publication Publication Date Title
Nahmias et al. Photonic multiply-accumulate operations for neural networks
TW202103025A (zh) 混合類比-數位矩陣處理器
Katumba et al. A multiple-input strategy to efficient integrated photonic reservoir computing
Laporte et al. Highly parallel simulation and optimization of photonic circuits in time and frequency domain based on the deep-learning framework pytorch
WO2023201970A1 (zh) 一种计算芯片、系统及数据处理方法
CN109784485B (zh) 一种光学神经网络处理器及其计算方法
CN113298246B (zh) 数据处理方法、装置及计算机可读存储介质
CN111753977A (zh) 光学神经网络卷积层芯片、卷积计算方法和电子设备
CN113592069A (zh) 一种四输入逻辑运算的光子神经网络
WO2023284168A1 (zh) 光学神经网络及基于其的数据处理方法、装置、存储介质
US20240184847A1 (en) Optical circuit building method, optical circuit, and optical signal processing method and apparatus
Ahmadpour et al. An energy-aware nanoscale design of reversible atomic silicon based on miller algorithm
Pleros et al. Compute with light: Architectures, technologies and training models for neuromorphic photonic circuits
Ma et al. Addressing limited weight resolution in a fully optical neuromorphic reservoir computing readout
Freire et al. Implementing neural network-based equalizers in a coherent optical transmission system using field-programmable gate arrays
Tsakyridis et al. Photonic neural networks and optics-informed deep learning fundamentals
Feng et al. Compact design of on-chip elman optical recurrent neural network
Ma et al. Integrated photonic reservoir computing with an all-optical readout
CN113325650B (zh) 一种光学电路、光信号处理方法、装置及可读存储介质
CN113592084B (zh) 基于反向优化超结构卷积核的片上光子神经网络
CN114970868A (zh) 空间并行的相干伊辛机及包含其的求解器
Hirose et al. Complex-valued neural networks for wave-based realization of reservoir computing
WO2023230764A1 (zh) 一种光计算系统以及芯片
Hattori et al. Optical-electronic implementation of artificial neural network for ultrafast and accurate inference processing
CN114548381B (zh) 全光神经网络的激活函数构造方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination