CN117875376A - 光学神经网络的可变增益电光非线性激活函数的实现方法 - Google Patents

Abstract

本发明公开了一种光学神经网络的可变增益电光非线性激活函数的实现方法，光学神经网络模型包括N个全连接神经网络层和一个Dropout层，每个全连接神经网络层包括64×64的MZI阵列和一个可变增益电光非线性激活函数，可变增益电光非线性激活函数包括定向耦合器、电光调制部分、以及MZI；本发明的可变增益电光非线性激活函数能利用查找表改变可变增益放大器的增益控制字和调节偏置电压，从而实现对光信号的相位调制，具有增益控制字和偏置电压两个自由度，在人工搭建光学神经网络时，可以根据不同的机器学习任务灵活地选择非线性激活函数；还可以来调节非线性激活函数的阈值，对低功率的输入光信号也进行非线性调制。

Description

光学神经网络的可变增益电光非线性激活函数的实现方法

技术领域

本发明属于光学神经网络技术领域，具体涉及一种光学神经网络的可变增益电光非线性激活函数的实现方法，适用于非线性激活函数利用查找表改变可变增益放大器的放大倍数和调节偏置电压，实现对光信号的相位调制。

背景技术

光学神经网络(Optical Neural Network,ONN)是一种利用光学元件和光信号来模拟人工神经网络的计算方法，运算过程主要包括光学矩阵乘法和非线性激活函数两部分。非线性激活函数是光学神经网络具有强大学习能力的关键因素，它使光学神经网络能够学习输入和输出之间的复杂非线性关系，从而提升分类准确率。然而，如何在大规模集成的光学神经网络中实现非线性激活函数仍然是一个重大挑战。实现片上光学非线性功能的主要难点之一是光子平台中的非线性相对较弱。因此，要实现强非线性激活函数，就需要非常长的波导相互作用长度和高的光信号功率，这将导致光学神经网络的占用面积和功耗增加。此外，在器件制作过程中，由于组件是固定的，所以通常光学神经网络的非线性响应是恒定的，这限制了非线性激活函数的灵活性，使得光学神经网络难以产生不同的响应以适应不同的机器学习任务。而且，光信号经过多层的神经网络衰减后，功率可能会降低到低于激活函数阈值的水平，因此，构建一个可重构的光学非线性激活函数是十分必要的。

目前，实现非线性激活函数的光学体系主要分为两类：一类是光-电-光(Optical-Electrical-Optical,O-E-O)体系；另一类是全光体系。O-E-O体系主要包括两种调制方法：电吸收调制器(Electro-absorption Modulator,EAM)调制和电光调制器(Electro-optical Modulator,EOM)调制。电吸收调制器通过调节信号的振幅来实现非线性调制，而电光调制器则需要利用马赫-曾德尔干涉仪(Mach-Zender Interferometer,MZI)或微环谐振器(Micro Ring Resonator,MRR)中的相移来实现非线性调制。由于电光调制器是基于场驱动而非载流子驱动，因此电光调制器的响应速度比电吸收调制器快。此外，电光调制器的插入损耗小，不会对光信号造成额外的吸收，所以其损耗比电吸收调制器低，但电光调制器结构相对复杂，集成度不及电吸收调制器。在电吸收调制器调制体系中，光的非线性调制是通过改变施加在电吸收调制器上的偏压大小来控制电吸收调制器的吸收光强，偏压越大，吸收的光越少。在电光调制器调制体系中，可重构的光学非线性激活函数方法是将光学矩阵乘法单元的输出光信号通过定向耦合器，使其分为功率大小不同的两部分，其中较小的一部分经过光电探测器转化为电流，再通过跨阻放大器(Trans Impedance Amplifier,TIA)放大为电压，最后加上偏置电压，形成调制电压。调制电压作用于调制器，对较大的一部分输出光信号进行调制。然而，这种方法的局限性在于，当元器件固定时，激活函数的阈值也是固定的，无法调节，而且一个自由度的函数变换也不能满足多样化的机器学习任务的需求。

发明内容

本发明的目的在于针对现有技术存在的上述问题，提供一种光学神经网络的可变增益电光非线性激活函数的实现方法。

本发明的上述目的通过以下技术手段来实现：

光学神经网络的可变增益电光非线性激活函数的实现方法，包括以下步骤：

步骤1、获取数据集，对数据集进行预处理得到输入到光学神经网络模型的样本，再将样本划分为训练集和测试集；

步骤2、搭建光学神经网络模型，光学神经网络模型包括N个全连接神经网络层和一个Dropout层，每个全连接神经网络层包括64×64的MZI阵列和可变增益电光非线性激活函数，可变增益电光非线性激活函数包括定向耦合器、电光调制部分、以及MZI；

步骤3、将步骤1中训练集输入到步骤2中搭建好的光学神经网络模型中对光学神经网络模型进行训练，使得光学神经网络模型的损失函数最小；

步骤4、通过步骤1中测试集对训练后的光学神经网络模型进行测试，得到训练后的光学神经网络模型对测试集的分类精度。

如上所述步骤1中对数据集进行预处理具体包括以下过程：

首先对数据集中每张图像进行傅里叶变换，得到每张图像对应的傅里叶变换矩阵，然后将傅里叶变换矩阵中的零频分量移动到矩阵中心，最后提取矩阵中心的8×8区域的64个数据值作为输入到光学神经网络模型的样本。

如上所述N个全连接神经网络层的输入输出关系为：

当i为1时，第i个全连接神经网络层的输入为样本；当i大于等于2且小于等于N时，第i个全连接神经网络层的输入为第i-1个全连接神经网络层的输出；

第i个全连接神经网络层的输入x_i-1输入到第i个全连接神经网络层的MZI阵列，第i个全连接神经网络层的MZI阵列基于以下公式得到第i个全连接神经网络层的MZI阵列的输出m_i：

m_i＝w_i×x_i-1+b_i

式中，w_i为第i个全连接神经网络层的MZI阵列的MZI权重矩阵，b_i为第i个全连接神经网络层的MZI阵列的偏置。

如上所述第i个全连接神经网络层的MZI阵列的输出m_i输入到可变增益电光非线性激活函数的耦合系数为α的定向耦合器中，可变增益电光非线性激活函数的定向耦合器将输出m_i中光功率为α|m_i|²的光信号分离出来，输入到可变增益电光非线性激活函数的电光调制部分，将输出m_i中光功率为(1-α)|m_i|²的光信号输入到可变增益电光非线性激活函数中的MZI中进行相位调制；

电光调制部分包括光电探测器、跨阻放大器、可变增益放大器、以及查找表；

电光调制部分基于以下公式得到调制电压V_G：

V_G＝αKDGR|m_i|²+V_b

式中，K为可变增益放大器的增益控制系数，D为可变增益放大器的增益控制字，G为跨阻放大器的增益，R为光电探测器响应率，V_b为电光调制部分的偏置电压；

可变增益放大器的增益控制字D由查找表相应位置的数据给出。

如上所述可变增益电光非线性激活函数的MZI包括上臂波导、下臂波导、以及热移相器；

电光调制部分输出的调制电压V_G加载到可变增益电光非线性激活函数的MZI的热移相器上，热移相器基于以下公式产生相移ΔΦ：

式中，V_π是热移相器产生π幅度的相位偏移所需要的电压；

热移相器加载在上臂波导中，光功率为(1-α)|m_i|²的光信号输入到上臂波导，下臂波导的输入为0；

可变增益电光非线性激活函数的MZI基于以下公式对光功率为(1-α)|m_i|²的光信号进行相位调制，得到下臂波导的输出f(m_i)：

式中，j为虚数单位；

g_Φ为相位增益参数，基于以下公式计算：

Φ_b为偏置电压增益参数，基于以下公式计算：

非线性激活函数的阈值P_th基于以下公式计算：

本发明相对于现有技术，具有以下有益效果：

(1)、本发明的可变增益电光非线性激活函数能利用查找表改变可变增益放大器的增益控制字和调节偏置电压，从而实现对光信号的相位调制，与现有的电光非线性激活函数相比，本发明的可变增益电光非线性激活函数具有增益控制字和偏置电压两个自由度，在人工搭建光学神经网络时，可以根据不同的机器学习任务，灵活地选择非线性激活函数；

(2)、本发明可以通过改变可变增益放大器的增益控制字来调节非线性激活函数的阈值，阈值体现为调制电压V_G的变化，使非线性激活函数能够对低功率的输入光信号也能进行非线性调制。

附图说明

图1是本发明的实施例1的对MNIST手写数字图像数据集进行预处理的示意图；

图2是本发明的实施例1的光学神经网络模型的框架的结构示意图；

图3是本发明的实施例1的可变增益电光非线性激活函数的原理图；

图4是本发明的实施例1在可变增益电光非线性激活函数的Φ_b、α、K、G、R固定的条件下，改变增益控制字D的非线性激活函数图像；

图5是本发明的实施例1在可变增益电光非线性激活函数的Φ_b、α、K、G、R固定的条件下，增益控制字D与非线性激活函数的阈值的关系图；

图6是本发明的实施例1中在测试集上的分类结果的损失图；

图7是本发明的实施例1中在测试集上的分类结果的准确率图；

图8是本发明的实施例1中在测试集上的分类结果的热点图。

具体实施方式

为了便于本领域普通技术人员理解和实施本发明，下面结合实施例对本发明作进一步的详细描述，此处所描述的实施例仅用于说明和解释本发明，并非是对本发明的限制。

实施例1：

光学神经网络的可变增益电光非线性激活函数的实现方法，包括以下步骤：

步骤1、获取数据集，对数据集进行预处理得到输入到光学神经网络模型的样本，再将样本划分为训练集和测试集，具体包括以下步骤：

本实施例中，数据集为MNIST手写数字图像数据集，MNIST手写数字图像数据集是用于机器学习中图像分类任务的公开数据集，包括70000张像素为28×28的手写数字图像。

步骤1.1、获取MNIST手写数字图像数据集，对MNIST手写数字图像数据集中图像进行预处理：首先，对MNIST手写数字图像数据集的每张图像进行傅里叶变换，得到每张图像对应的傅里叶变换矩阵，然后将傅里叶变换矩阵中的零频分量移动到矩阵中心，最后提取矩阵中心的8×8区域的64个数据值作为输入到光学神经网络模型的样本。

步骤1.2、根据样本生成训练集和测试集，本实施例中，训练集中的样本为60000个，测试集中的样本为10000个。

步骤2、搭建光学神经网络模型。光学神经网络模型包括N个全连接神经网络层和一个Dropout层。每个全连接神经网络层包括一个64×64的MZI阵列和一个可变增益电光非线性激活函数，可变增益电光非线性激活函数包括定向耦合器、电光调制部分、以及MZI，Dropout层将最后一个全连接神经网络层输出的输出值筛选至十个，以匹配MNIST手写数字图像数据集的类别数。

本实施例中搭建的光学神经网络模型包括三个全连接神经网络层和一个Dropout层。

N个全连接神经网络层的输入输出关系为：

设i为全连接神经网络层的序号，当i为1时，第i个全连接神经网络层的输入为样本；当i大于等于2且小于等于N时，第i个全连接神经网络层的输入为第i-1个全连接神经网络层的输出；

第i个全连接神经网络层对输入x_i-1的具体运算过程如下：

首先第i个全连接神经网络层的输入x_i-1输入到第i个全连接神经网络层的MZI阵列，第i个全连接神经网络层的MZI阵列基于以下公式得到第i个全连接神经网络层的MZI阵列的输出m_i：

m_i＝w_i×x_i-1+b_i (1)

式中，w_i为第i个全连接神经网络层的MZI阵列的MZI权重矩阵，b_i为第i个全连接神经网络层的MZI阵列的偏置。

然后，第i个全连接神经网络层的MZI阵列的输出m_i输入到可变增益电光非线性激活函数的耦合系数为α的定向耦合器中，可变增益电光非线性激活函数的定向耦合器将输出m_i中光功率为α|m_i|²的光信号分离出来，输入到可变增益电光非线性激活函数的电光调制部分，将输出m_i中光功率为(1-α)|m_i|²的光信号输入到可变增益电光非线性激活函数中的MZI中进行相位调制，如图3所示。

电光调制部分的具体运算过程如下：

电光调制部分包括光电探测器、跨阻放大器(TIA)、可变增益放大器(VGA)、以及查找表(LUT)。

电光调制部分的光电探测器将输入的光功率为α|m_i|²的光信号通过以下公式转换为电流I_pd：

I_pd＝αR|m_i|² (2)

式中，R为光电探测器的光电探测器响应率。

电流I_pd经过增益为G的跨阻放大器(TIA)得到电压V_in：

V_in＝αGR|m_i|² (3)

电压V_in再经过可变增益放大器(VGA)得到电压V_out：

V_out＝αKDGR|m_i|² (4)

式中，K为可变增益放大器的增益控制系数，D为可变增益放大器的增益控制字，可变增益放大器的增益控制字D由查找表(LUT)相应位置的数据给出。

电压V_out叠加电光调制部分的偏置电压V_b得到电光调制部分最终输出的调制电压V_G：

V_G＝αKDGR|m_i|²+V_b (5)

可变增益电光非线性激活函数的MZI包括上臂波导、下臂波导、以及热移相器，热移相器加载在上臂波导上，上臂波导的输入为定向耦合器输出的光功率为(1-α)|m_i|²的光信号；下臂波导的输入为0。

将调制电压V_G作用在可变增益电光非线性激活函数中的MZI的热移相器上，热移相器基于以下公式产生相移ΔΦ：

式中，V_π表示热移相器产生π幅度的相位偏移所需要的电压。

光功率为(1-α)|m_i|²的光信号在可变增益电光非线性激活函数的MZI中进行相位调制的具体过包括以下过程：

式中，E₁为可变增益电光非线性激活函数中的MZI的上臂波导的输出，j为虚数单位，f(m_i)为可变增益电光非线性激活函数中的MZI的下臂波导的输出。

根据公式(7)得到：

再将公式(6)代入公式(8)，得到可变增益电光非线性激活函数中的MZI的下臂波导的输出(也即最终的可变增益电光非线性激活函数中的MZI的输出)的公式：

式中，g_Φ为相位增益参数，Φ_b为偏置电压增益参数，/>

非线性激活函数的阈值P_th基于以下公式：

式中，Δ_Φ表示在给定Φ_b的条件下，相对于零输入时，输出光信号的光功率相对于输入光信号的光功率产生50％的功率传输变化所必需的相移。

步骤3、将步骤1中预处理后的训练集输入到步骤2中搭建好的光学神经网络模型中对光学神经网络模型进行训练，使得光学神经网络模型的损失函数最小，以得到最佳的分类精度。

本实施例中，光学神经网络模型的超参数的设置如下：迭代次数设置为50次，批次大小设置为500，初始学习率设置为0.001。可变增益电光非线性激活函数的参数设置为：α＝0.01、K＝0.01、D＝40、V_b＝10(V)、V_π＝0.1(V)，即Φ_b＝π，损失函数采用MSE损失函数，优化器采用Adam优化器。

步骤4、通过步骤1中预处理后的测试集对训练后的光学神经网络模型进行测试，得到训练后的光学神经网络模型对测试集的分类精度。

图4是在可变增益电光非线性激活函数的Φ_b、α、K、G、R固定的条件下，改变增益控制字D的非线性激活函数图像，可以看出可变增益电光非线性激活函数具有高度的非线性。

图5是在可变增益电光非线性激活函数的Φ_b、α、K、G、R固定的条件下，增益控制字D与非线性激活函数的阈值的关系。可以看出通过改变增益控制字D，能够实现对非线性激活函数的阈值的调控。

图6是在测试集上的分类结果的损失图，与带有线性激活函数的光学神经网络相比，带有可变增益电光非线性激活函数的光学神经网络损失明显更小。

图7是在测试集上的分类结果的准确率图，图8是在测试集上的分类结果的热点图。结合图7和图8，可以看出具有可变增益电光非线性激活函数的光学神经网络最终的验证精度为95.37％，明显高于线性激活函数。

实验结果表明，本发明能够实现对非线性激活函数的增益控制字D和偏置电压V_b两个自由度的调控，同时能够调节非线性激活函数的阈值。在人工搭建光学神经网络时，能根据不同的机器学习任务，灵活地选择非线性激活函数。

需要指出的是，本发明中所描述的实施例仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的实施例作各种各样的修改或补充或采用类似的方式替代，但并不会偏离本发明的精神或超越所附权利要求书所定义的范围。

Claims (5)

1.光学神经网络的可变增益电光非线性激活函数的实现方法，其特征在于，包括以下步骤：

步骤1、获取数据集，对数据集进行预处理得到输入到光学神经网络模型的样本，再将样本划分为训练集和测试集；

步骤2、搭建光学神经网络模型，光学神经网络模型包括N个全连接神经网络层和一个Dropout层，每个全连接神经网络层包括64×64的MZI阵列和可变增益电光非线性激活函数，可变增益电光非线性激活函数包括定向耦合器、电光调制部分、以及MZI；

步骤3、将步骤1中训练集输入到步骤2中搭建好的光学神经网络模型中对光学神经网络模型进行训练，使得光学神经网络模型的损失函数最小；

步骤4、通过步骤1中测试集对训练后的光学神经网络模型进行测试，得到训练后的光学神经网络模型对测试集的分类精度。

2.根据权利要求1所述光学神经网络的可变增益电光非线性激活函数的实现方法，其特征在于，所述步骤1中对数据集进行预处理具体包括以下过程：

首先对数据集中每张图像进行傅里叶变换，得到每张图像对应的傅里叶变换矩阵，然后将傅里叶变换矩阵中的零频分量移动到矩阵中心，最后提取矩阵中心的8×8区域的64个数据值作为输入到光学神经网络模型的样本。

3.根据权利要求2所述光学神经网络的可变增益电光非线性激活函数的实现方法，其特征在于，所述N个全连接神经网络层的输入输出关系为：

当i为1时，第i个全连接神经网络层的输入为样本；当i大于等于2且小于等于N时，第i个全连接神经网络层的输入为第i-1个全连接神经网络层的输出；

第i个全连接神经网络层的输入x_i-1输入到第i个全连接神经网络层的MZI阵列，第i个全连接神经网络层的MZI阵列基于以下公式得到第i个全连接神经网络层的MZI阵列的输出m_i：

m_i＝w_i×x_i-1+b_i

式中，w_i为第i个全连接神经网络层的MZI阵列的MZI权重矩阵，b_i为第i个全连接神经网络层的MZI阵列的偏置。

4.根据权利要求3所述光学神经网络的可变增益电光非线性激活函数的实现方法，其特征在于，所述第i个全连接神经网络层的MZI阵列的输出m_i输入到可变增益电光非线性激活函数的耦合系数为α的定向耦合器中，可变增益电光非线性激活函数的定向耦合器将输出m_i中光功率为α|m_i|²的光信号分离出来，输入到可变增益电光非线性激活函数的电光调制部分，将输出m_i中光功率为(1—α)|m_i|²的光信号输入到可变增益电光非线性激活函数中的MZI中进行相位调制；

电光调制部分包括光电探测器、跨阻放大器、可变增益放大器、以及查找表；

电光调制部分基于以下公式得到调制电压V_G：

V_G＝αKDGR|m_i|²+V_b

式中，K为可变增益放大器的增益控制系数，D为可变增益放大器的增益控制字，G为跨阻放大器的增益，R为光电探测器响应率，V_b为电光调制部分的偏置电压；

可变增益放大器的增益控制字D由查找表相应位置的数据给出。

5.根据权利要求4所述光学神经网络的可变增益电光非线性激活函数的实现方法，其特征在于，所述可变增益电光非线性激活函数的MZI包括上臂波导、下臂波导、以及热移相器；

电光调制部分输出的调制电压V_G加载到可变增益电光非线性激活函数的MZI的热移相器上，热移相器基于以下公式产生相移ΔΦ：

式中，V_π是热移相器产生π幅度的相位偏移所需要的电压；

热移相器加载在上臂波导中，光功率为(1-α)|m_i|²的光信号输入到上臂波导，下臂波导的输入为0；

可变增益电光非线性激活函数的MZI基于以下公式对光功率为(1-α)|m_i|²的光信号进行相位调制，得到下臂波导的输出f(m_i)：

式中，j为虚数单位；

g_Φ为相位增益参数，基于以下公式计算：

Φ_b为偏置电压增益参数，基于以下公式计算：

非线性激活函数的阈值P_th基于以下公式计算：