CN113673677B - 一种非线性激活函数relu的实现方法、设备及介质 - Google Patents

一种非线性激活函数relu的实现方法、设备及介质 Download PDF

Info

Publication number
CN113673677B
CN113673677B CN202110949670.8A CN202110949670A CN113673677B CN 113673677 B CN113673677 B CN 113673677B CN 202110949670 A CN202110949670 A CN 202110949670A CN 113673677 B CN113673677 B CN 113673677B
Authority
CN
China
Prior art keywords
light intensity
port
micro
ring resonator
activation function
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110949670.8A
Other languages
English (en)
Other versions
CN113673677A (zh
Inventor
陈静静
黄萍
吴睿振
王凛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Yunhai Guochuang Cloud Computing Equipment Industry Innovation Center Co Ltd
Original Assignee
Shandong Yunhai Guochuang Cloud Computing Equipment Industry Innovation Center Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong Yunhai Guochuang Cloud Computing Equipment Industry Innovation Center Co Ltd filed Critical Shandong Yunhai Guochuang Cloud Computing Equipment Industry Innovation Center Co Ltd
Priority to CN202110949670.8A priority Critical patent/CN113673677B/zh
Publication of CN113673677A publication Critical patent/CN113673677A/zh
Application granted granted Critical
Publication of CN113673677B publication Critical patent/CN113673677B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00—Reducing energy consumption in communication networks
    • Y02D30/70—Reducing energy consumption in communication networks in wireless communication networks

Abstract

本申请公开了一种非线性激活函数RELU的实现方法、设备及介质，该方法包括：获取原始输入量；将原始输入量映射到光强，得到光信号；将光信号输入至微环谐振器；向微环谐振器施加相应的电流来调整微环谐振器的相位，以实现激活函数RELU运算。这样以微环谐振器为基础，无需进行大量光电转换即可模拟激活函数RELU的特性，具有快速，功耗小的优势，实现了光学神经网络芯片的预研布局。

Description

一种非线性激活函数RELU的实现方法、设备及介质
技术领域
本发明涉及光电芯片技术领域，特别是涉及一种非线性激活函数RELU的实现方法、设备及介质。
背景技术
芯片是现代电子信息产业的基础和核心。大数据时代人们对电子计算机处理系统的算力和速度等要求越来越高，摩尔定律的失效使电子芯片在计算速度和功耗方面遇到了极大的挑战，光子计算芯片以光子为信息的载体具有高速并行、低功耗的优势，因此被认为是未来高速、大数据量、人工智能计算处理的最具有前景的方案。
人工神经网络(Artificial Neural Network，ANN)中虽然最大量的运算来源于卷积运算，但是为了保证运算的准确率，还需要在隐藏层增加很多非线性运算，其中尤以激活函数为重。现有的光子计算网络对于激活函数的解决方案是使用马赫曾德干涉仪(MZI)的光子神经网络(Optical Neural Network，ONN)，但只进行卷积运算，其他部分全部需要完成光电转换，然后利用硅基芯片实现激活函数运算，再转换为光子，回到光子神经网络进行其他运算。这种方案需要大量的光电转换，速度慢，功耗大，会降低光子神经网络的优势。
发明内容
有鉴于此，本发明的目的在于提供一种非线性激活函数RELU的实现方法、设备及介质，可以无需进行大量光电转换，具有快速，功耗小的优势。
其具体方案如下：
一种非线性激活函数RELU的实现方法，包括：
获取原始输入量；
将所述原始输入量映射到光强，得到光信号；
将所述光信号输入至微环谐振器；
向所述微环谐振器施加相应的电流来调整所述微环谐振器的相位，以实现激活函数RELU运算。
优选地，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，所述将所述原始输入量映射到光强，包括：
对所述原始输入量进行归一化处理，得到取值在-1和1之间的序列；
对得到的所述序列进行转化，使转化后的所述序列取值在0和1之间，以完成所述原始输入量到光强的转换。
优选地，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，所述微环谐振器由一个微环波导和两个直线接入波导构成；其中，
一个所述直线接入波导包括输入端口和直通端口，另一个所述直线接入波导包括下行端口；
所述光信号从所述输入端口进入，满足谐振条件的光从所述下行端口输出，未满足谐振条件的光从所述直通端口输出。
优选地，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，在所述将所述光信号输入至微环谐振器之后，还包括：
将从所述下行端口输出的光馈入光电二极管；
根据所述光电二极管的感应电流与设定阈值的比较结果，确定所述直通端口的输出光强；所述设定阈值为其中，Re为所述光电二极管的光谱响应，xi为第i个所述原始输入量，xmin为所有的所述原始输入量的最小值，xmax为所有的所述原始输入量的最大值。
优选地，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，所述根据所述光电二极管的感应电流与设定阈值的比较结果，确定所述直通端口的输出光强，包括：
若所述光电二极管的感应电流小于等于所述设定阈值时，则确定所述直通端口的输出光强为0，无需向所述微环谐振器施加电流；
若所述光电二极管的感应电流大于所述设定阈值时，则确定所述直通端口的输出光强为所述光信号的光强，此时向所述微环谐振器施加相应的电流来调整所述微环谐振器的相位。
优选地，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，在所述微环谐振器中，通过所述直通端口的光强与进入所述输入端口的光强的第一传递函数随所述微环谐振器的相位的变化在0和1之间变化；
通过所述下行端口的光强与进入所述输入端口的光强的第二传递函数随所述微环谐振器的相位的变化在0和1之间变化。
优选地，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，在向所述微环谐振器施加相应的电流来调整所述微环谐振器的相位的同时，还包括：
控制通过所述直通端口的光强与进入所述输入端口的光强的第一传递函数为1，以及通过所述下行端口的光强与进入所述输入端口的光强的第二传递函数为0。
优选地，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，所述光信号的波长与输入至的所述微环谐振器的半径一一对应。
本发明实施例还提供了一种电子设备，包括处理器和存储器，其中，所述处理器执行所述存储器中存储的计算机程序时实现如本发明实施例提供的上述非线性激活函数RELU的实现方法。
本发明实施例还提供了一种计算机可读存储介质，用于存储计算机程序，其中，所述计算机程序被处理器执行时实现如本发明实施例提供的上述非线性激活函数RELU的实现方法。
从上述技术方案可以看出，本发明所提供的一种非线性激活函数RELU的实现方法，包括：获取原始输入量；将原始输入量映射到光强，得到光信号；将光信号输入至微环谐振器；向微环谐振器施加相应的电流来调整微环谐振器的相位，以实现激活函数RELU运算。
本发明以微环谐振器为基础，通过原始输入与光强之间的转化关系，得到了通过微环谐振器的转换后可设置的实现激活函数RELU的条件，并基于此进行了设计，无需进行大量光电转换即可模拟激活函数RELU的特性，具有快速，功耗小的优势，保证光计算网络的速度和功能，实现了光学神经网络芯片的预研布局。此外，本发明还针对非线性激活函数RELU的实现方法提供了相应的设备及计算机可读存储介质，进一步使得上述方法更具有实用性，该设备及计算机可读存储介质具有相应的优点。
附图说明
为了更清楚地说明本发明实施例或相关技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的非线性激活函数RELU的实现方法的流程图；
图2为现有的激活函数RELU形式图；
图3为本发明实施例提供的光强运算中Relu函数数据形式图；
图4为本发明实施例提供的微环谐振器的结构示意图；
图5为本发明实施例提供的微环谐振器在非谐振情况下光强分布图；
图6为本发明实施例提供的微环谐振器在谐振情况下光强分布图；
图7为本发明实施例提供的第一传递函数随相位的变化示意图；
图8为本发明实施例提供的第二传递函数随相位的变化示意图；
图9为本发明实施例提供的微环谐振器结合光电二极管的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明提供一种非线性激活函数RELU的实现方法，如图1所示，包括以下步骤：
S101、获取原始输入量；
在实际应用中，原始输入量为数字信号，假设原始输入量分别为x1,x2,…xn-1,xn，激活函数RELU的表达式应为：
此时激活函数RELU的形式如图2所示。但是基于微环谐振器(MicroringResonator，MRR)的光强运算是基于改变光强的运算，光强都为整数，所有需要执行步骤S102。
S102、将原始输入量映射到光强，得到光信号；
具体地，在将原始输入量映射到光强的过程中需要进行如下的转换(假设转换之后的光强的最大值为1)：
首先，采用公式(1)对原始输入量x1,x2,…xn-1,xn进行归一化处理，得到取值在-1和1之间的序列
其中，xi为第i个原始输入量，xmin为所有的原始输入量的最小值，xmax为所有的原始输入量的最大值；
然后，采用公式(2)对得到的序列进行转化，使转化后的序列t1,t2,…tn-1,tn取值在0和1之间，以完成原始输入量到光强的转换；
其中，ti为第i个转化后的序列。
S103、将光信号输入至微环谐振器；
需要说明的是，本发明实施例提供的基于MRR的光强运算的RELU函数的形式为：
此时激活函数RELU的形式如图3所示。
在具体实施时，光信号的波长与输入至的微环谐振器的半径一一对应，也就是说，光信号的波长不同，对应的微环谐振器的半径不同。
S104、向微环谐振器施加相应的电流来调整微环谐振器的相位，以实现激活函数RELU运算。
在本发明实施例提供的上述非线性激活函数RELU的实现方法中，通过原始输入与光强之间的转化关系，得到了通过MRR的转换后可设置的实现激活函数RELU的条件，并基于此进行了设计，无需进行大量光电转换即可模拟激活函数RELU的特性，具有快速，功耗小的优势，保证光计算网络的速度和功能，实现了光学神经网络芯片的预研布局。
在具体实施时，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，如图4所示，MRR由一个微环波导和两个直线接入波导构成；也就是说，该MRR可以选择为上传/下载型(Add-Drop型)硅基MRR；其中，一个直线接入波导包括输入(Input)端口和直通(Thru)端口，另一个直线接入波导包括下行(Drop)端口和上传(Add)端口；本发明假设Add端口没有光信号。
图5和图6分别示出了Add-Drop型微环非谐振以及谐振情况下光强分布图。输入光信号从Input端口进入，当入射光的波长λi满足谐振条件时，该波长的光信号大部分从Drop端口输出，Thru端口几乎无输出；如果不满足谐振条件，进入微环腔中只有很弱的光场，输入光大部分从Thru端口输出，而Drop端口只有很小的光输出。
可以理解的是，光在微环中传输时，受到微环的限制较强，当它满足绕微环传输一圈时产生的光程差是光信号波长的整数倍这个条件时，就会发生谐振，光信号的强度会不断加强，而使其产生相互作用而加强的条件称为谐振条件，微环的谐振方程为：
2πRneff＝mλi (4)
其中，λi为波长，R为MRR的半径，neff为光的有效折射率，满足公式(4)的波长的光即满足谐振条件，会被限制在微环中。当给MRR通过电流时会加热MRR，导致光的有效折射率neff的变化，使谐振波长发生漂移。
通过Thru端口的光的强度与进入Add-Drop型MRR的Input端口的光强的第一传递函数的表达式如下：
通过Drop端口的光的强度与进入Add-Drop型MRR的Input端口的光强的第二传递函数的表达式如下：
其中，φi为MRR的相位，r是自耦合系数，a定义了环和定向耦合器的传播损耗。在耦合损耗可以忽略的情况下，即a≈1，Thru端口的光的第一传递函数和Drop端口的光的第二传递函数之间的关系是Tp＝1-Tq。
公式(5)和(6)中相位φi的表达式为：
如图5和图6所示，在Add-Drop型MRR中，通过Thru端口的光强与进入Input端口的光强的第一传递函数Tp随MRR的相位的变化在0和1之间变化；通过Drop端口的光强与进入Input端口的光强的第二传递函数Td随MRR的相位的变化在[0，1]之间变化。
当给硅基MRR通过电流时会加热MRR，导致neff的变化，从而导正相位φi的变化，最终影响光强的传递函数Tp,Td。也就是说，当输入光信号的振幅为Ein(光强为|Ein|2)，通过给硅基微环施加电流加热，改变传递函数Tp,Td，在Thru端口得到想要的输出。当Tp＝0,Td＝1时，Thru端口的输出光强为0；当Tp＝1,Td＝0时，Thru端口的输出光强为|Ein|2。本发明正是根据硅基MRR的这种性质实现RELU函数。
在具体实施时，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，在执行步骤S103将光信号输入至MRR之后，如图7所示，还包括：将从Drop端口输出的光馈入一个光电二极管；根据光电二极管的感应电流与设定阈值的比较结果，确定直通端口的输出光强；该设定阈值为其中，Re为光电二极管的光谱响应。
需要说明的是，光电二极管的感应电流为：
根据公式(3)可知，如果Add-Drop型硅基MRR实现RELU函数，则Thru端口的输出光强应该满足如下关系：
因此，在具体实施时，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，上述步骤中根据光电二极管的感应电流与设定阈值的比较结果，确定直通端口的输出光强，可以包括：若光电二极管的感应电流小于等于设定阈值时，则确定直通端口的输出光强为0，无需向MRR施加电流；若光电二极管的感应电流大于设定阈值时，则确定直通端口的输出光强为光信号的光强，此时向MRR施加相应的电流来调整MRR的相位。
具体地，由公式(9)可知，当时，Thru端口的输出光强应该为0，因为入射光的波长为λi与MRR满足谐振条件，所以Thru端口的输出光强本就为0；当时，Thru端口的输出光强应该为|Ein|2，即输入光的光强，此时给硅基MRR通电流加热，导致neff的变化，从而导致相位φi的变化。
在具体实施时，在本发明实施例提供的上述非线性激活函数RELU的实现方法中，在执行步骤S104向MRR施加相应的电流来调整MRR的相位的同时，还可以包括：控制通过直通端口的光强与进入输入端口的光强的第一传递函数Tp为1，以及通过下行端口的光强与进入输入端口的光强的第二传递函数Td为0。也就是说，在MRR的相位φi的变化时，需要使传递函数Tp,Td满足Tp＝1,Td＝0即可。
需要注意的是，本发明实施例提供的上述非线性激活函数RELU的实现方法是基于MRR实现激活函数Relu的方式，原始输入与光强的转化，对谐振相位的调整，基于这种相位的判断实现方式等。
相应地，本发明实施例还公开了一种电子设备，包括处理器和存储器；其中，处理器执行存储器中存储的计算机程序时实现前述实施例公开的非线性激活函数RELU的实现方法。
关于上述方法更加具体的过程可以参考前述实施例中公开的相应内容，在此不再进行赘述。
进一步地，本发明还公开了一种计算机可读存储介质，用于存储计算机程序；计算机程序被处理器执行时实现前述公开的非线性激活函数RELU的实现方法。
关于上述方法更加具体的过程可以参考前述实施例中公开的相应内容，在此不再进行赘述。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。对于实施例公开的设备、存储介质而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
综上，本发明实施例提供的一种非线性激活函数RELU的实现方法，包括：获取原始输入量；将原始输入量映射到光强，得到光信号；将光信号输入至微环谐振器；向微环谐振器施加相应的电流来调整微环谐振器的相位，以实现激活函数RELU运算。这样以微环谐振器为基础，通过原始输入与光强之间的转化关系，得到了通过微环谐振器的转换后可设置的实现激活函数RELU的条件，并基于此进行了设计，无需进行大量光电转换即可模拟激活函数RELU的特性，具有快速，功耗小的优势，保证光计算网络的速度和功能，实现了光学神经网络芯片的预研布局。此外，本发明还针对非线性激活函数RELU的实现方法提供了相应的设备及计算机可读存储介质，进一步使得上述方法更具有实用性，该设备及计算机可读存储介质具有相应的优点。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的非线性激活函数RELU的实现方法、设备及介质进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (8)

1.一种非线性激活函数RELU的实现方法，其特征在于，包括：
获取原始输入量；
将所述原始输入量映射到光强，得到光信号；
将所述光信号输入至微环谐振器；所述微环谐振器由一个微环波导和两个直线接入波导构成；其中，一个所述直线接入波导包括输入端口和直通端口，另一个所述直线接入波导包括下行端口；所述光信号从所述输入端口进入，满足谐振条件的光从所述下行端口输出，未满足谐振条件的光从所述直通端口输出；
向所述微环谐振器施加相应的电流来调整所述微环谐振器的相位，使得通过所述直通端口的光强与进入所述输入端口的光强的第一传递函数为0，以及通过所述下行端口的光强与进入所述输入端口的光强的第二传递函数为1，或，使得通过所述直通端口的光强与进入所述输入端口的光强的第一传递函数为1，以及通过所述下行端口的光强与进入所述输入端口的光强的第二传递函数为0，以实现激活函数RELU运算。
2.根据权利要求1所述的非线性激活函数RELU的实现方法，其特征在于，所述将所述原始输入量映射到光强，包括：
对所述原始输入量进行归一化处理，得到取值在-1和1之间的序列；
对得到的所述序列进行转化，使转化后的所述序列取值在0和1之间，以完成所述原始输入量到光强的转换。
3.根据权利要求2所述的非线性激活函数RELU的实现方法，其特征在于，在所述将所述光信号输入至微环谐振器之后，还包括：
将从所述下行端口输出的光馈入光电二极管；
根据所述光电二极管的感应电流与设定阈值的比较结果，确定所述直通端口的输出光强；所述设定阈值为其中，Re为所述光电二极管的光谱响应，xi为第i个所述原始输入量，xmin为所有的所述原始输入量的最小值，xmax为所有的所述原始输入量的最大值。
4.根据权利要求3所述的非线性激活函数RELU的实现方法，其特征在于，所述根据所述光电二极管的感应电流与设定阈值的比较结果，确定所述直通端口的输出光强，包括：
若所述光电二极管的感应电流小于等于所述设定阈值时，则确定所述直通端口的输出光强为0，无需向所述微环谐振器施加电流；
若所述光电二极管的感应电流大于所述设定阈值时，则确定所述直通端口的输出光强为所述光信号的光强，此时向所述微环谐振器施加相应的电流来调整所述微环谐振器的相位。
5.根据权利要求4所述的非线性激活函数RELU的实现方法，其特征在于，在所述微环谐振器中，通过所述直通端口的光强与进入所述输入端口的光强的第一传递函数随所述微环谐振器的相位的变化为0或1；
通过所述下行端口的光强与进入所述输入端口的光强的第二传递函数随所述微环谐振器的相位的变化为0或1。
6.根据权利要求1所述的非线性激活函数RELU的实现方法，其特征在于，所述光信号的波长与输入至的所述微环谐振器的半径一一对应。
7.一种电子设备，其特征在于，包括处理器和存储器，其中，所述处理器执行所述存储器中存储的计算机程序时实现如权利要求1至6任一项所述的非线性激活函数RELU的实现方法。
8.一种计算机可读存储介质，其特征在于，用于存储计算机程序，其中，所述计算机程序被处理器执行时实现如权利要求1至6任一项所述的非线性激活函数RELU的实现方法。
CN202110949670.8A 2021-08-18 2021-08-18 一种非线性激活函数relu的实现方法、设备及介质 Active CN113673677B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110949670.8A CN113673677B (zh) 2021-08-18 2021-08-18 一种非线性激活函数relu的实现方法、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110949670.8A CN113673677B (zh) 2021-08-18 2021-08-18 一种非线性激活函数relu的实现方法、设备及介质

Publications (2)

Publication Number Publication Date
CN113673677A CN113673677A (zh) 2021-11-19
CN113673677B true CN113673677B (zh) 2023-08-08

Family

ID=78543642

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110949670.8A Active CN113673677B (zh) 2021-08-18 2021-08-18 一种非线性激活函数relu的实现方法、设备及介质

Country Status (1)

Country Link
CN (1) CN113673677B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115081610B (zh) * 2022-05-10 2023-03-28 清华大学 光信号处理方法及装置、电子设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110197277A (zh) * 2019-05-13 2019-09-03 浙江大学 实现数字识别的光学神经网络方法
JP2020079980A (ja) * 2018-11-12 2020-05-28 日本電信電話株式会社 光偏微分演算装置および光ニューラルネットワーク
CN111860822A (zh) * 2020-07-20 2020-10-30 联合微电子中心有限责任公司 光学神经网络的全光非线性激活函数实现方法、装置
CN112232504A (zh) * 2020-09-11 2021-01-15 联合微电子中心有限责任公司 一种光子神经网络

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020079980A (ja) * 2018-11-12 2020-05-28 日本電信電話株式会社 光偏微分演算装置および光ニューラルネットワーク
CN110197277A (zh) * 2019-05-13 2019-09-03 浙江大学 实现数字识别的光学神经网络方法
CN111860822A (zh) * 2020-07-20 2020-10-30 联合微电子中心有限责任公司 光学神经网络的全光非线性激活函数实现方法、装置
CN112232504A (zh) * 2020-09-11 2021-01-15 联合微电子中心有限责任公司 一种光子神经网络

Also Published As

Publication number Publication date
CN113673677A (zh) 2021-11-19

Similar Documents

Publication Publication Date Title
Kita et al. On-chip all-dielectric fabrication-tolerant zero-index metamaterials
Wu et al. Low-threshold all-optical nonlinear activation function based on a Ge/Si hybrid structure in a microring resonator
Bahadoran et al. Double critical coupled ring resonator-based add–drop filters
CN113673677B (zh) 一种非线性激活函数relu的实现方法、设备及介质
Gabr et al. Design and optimization of optical passive elements using artificial neural networks
Ahmed et al. Design, simulation & optimization of 2D photonic crystal power splitter
CN113890620A (zh) 基于可调谐滤波器的硅基片上光子神经网络及其调制方法
Melati et al. Athermal echelle grating filter in silicon-on-insulator using a temperature-synchronized input
Yu et al. Photonic welding points for arbitrary on-chip optical interconnects
CN108227188A (zh) 一种基于混沌粒子群算法的全随机硅基波导光栅设计方法
Ashner et al. Photonic reservoir computer using speckle in multimode waveguide ring resonators
Khorrami et al. Fast optimal design of optical components using the cultural algorithm
Chen et al. Ultra-compact spot size converter based on digital metamaterials
Hassan et al. Robust silicon-on-insulator adiabatic splitter optimized by metamodeling
Xiong et al. Advances and marine applications of optical neural network
CN113392966B (zh) 一种神经网络平均池化的实现方法、设备及存储介质
CN113392965B (zh) 一种哈达玛积的实现方法、设备及存储介质
CN113934256A (zh) 一种可变系数的微分方程光子计算求解系统
CN115576100A (zh) 一种基于逆向设计的片上模式转换器的设计方法
Zhang et al. Novel and simple approach for designing lattice-form interleaver filter
Wang et al. Optical true time delay based on contradirectional couplers with single sidewall-modulated Bragg gratings
Chen et al. Deep learning-based modelling of complex photonic crystal slow light waveguides
Li et al. Design and fabrication of SU-8 polymer arrayed waveguide gratings based on flexible PDMS substrates
Kojima et al. Application of deep learning for nanophotonic device design
CN216286379U (zh) 一种可变系数的微分方程光子计算求解系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant