CN116384460A - 鲁棒性光学神经网络训练方法、装置、电子设备及介质 - Google Patents
鲁棒性光学神经网络训练方法、装置、电子设备及介质 Download PDFInfo
- Publication number
- CN116384460A CN116384460A CN202310324913.8A CN202310324913A CN116384460A CN 116384460 A CN116384460 A CN 116384460A CN 202310324913 A CN202310324913 A CN 202310324913A CN 116384460 A CN116384460 A CN 116384460A
- Authority
- CN
- China
- Prior art keywords
- neural network
- optical neural
- training
- loss function
- extremum
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 177
- 230000003287 optical effect Effects 0.000 title claims abstract description 138
- 238000012549 training Methods 0.000 title claims abstract description 102
- 238000000034 method Methods 0.000 title claims abstract description 52
- 230000008569 process Effects 0.000 claims abstract description 19
- 230000008859 change Effects 0.000 claims abstract description 11
- 230000006870 function Effects 0.000 claims description 71
- 238000012545 processing Methods 0.000 claims description 31
- 238000004590 computer program Methods 0.000 claims description 7
- 230000002452 interceptive effect Effects 0.000 claims description 5
- 230000008685 targeting Effects 0.000 claims 1
- 238000004422 calculation algorithm Methods 0.000 abstract description 9
- 230000002093 peripheral effect Effects 0.000 abstract description 8
- 238000004891 communication Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000010287 polarization Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/067—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using optical means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Neurology (AREA)
- Testing Of Optical Devices Or Fibers (AREA)
Abstract
本申请涉及光学神经网络技术领域，特别涉及一种鲁棒性光学神经网络训练方法、装置、电子设备及介质，其中，方法包括：获取光学神经网络的损失函数；在训练光学神经网络的过程中确定损失函数的平稳极值，其中，平稳极值为损失函数处于一个局部最小值且绝对值满足预设精度要求，同时在极值附近的预设范围内损失函数的变化速率低于预设数值；将平稳极值作为光学神经网络的训练目标，在光学神经网络的训练损失函数达到平稳极值时，完成光学神经网络的训练。由此，解决了相关技术中通过搭建外围光路和电路并结合误差校准算法对光的相位和幅度等物理特性的误差进行补偿，无法保证神经网络输出结果的准确性，且存在校准时间长，难度大等问题。
Description
技术领域
本申请涉及光学神经网络技术领域，特别涉及一种鲁棒性光学神经网络训练方法、装置、电子设备及介质。
背景技术
光具有物理空间最快的传播速度以及多维多尺度的优势，用光子代替电子，用光路代替电路，光学计算芯片具有高速、并行、低功耗等颠覆性优势。尤其随着人工智能算法的深度发展，光在介质中受限传播的物理过程在数学上的表达与深度神经网络算法具有高度的相似性，采用光学芯片实现神经网络计算有望突破传统电子芯片的能效瓶颈。
光学神经网络芯片通常需要先在电子计算机上通过预训练得到网络中神经元的参数，再映射到芯片结构的设计参数。但由于芯片加工存在一定的偏差，无法保证理论模型与芯片加工的完美映射，且光学神经网络芯片的输入信号通常需要将电信号通过调制器、相移器等器件加载到光信号的幅度相位偏振等物理特性，而信号的加载和转换过程中也会有误差。因此，基于训练模型加工的光学神经网络芯片在推理计算过程中难以得到与模型训练时一致的精准度。
相关技术通常是在芯片制造完成后搭建外围光路和电路并结合误差校准算法对光的相位和幅度等物理特性的误差进行补偿，但校准时间长难度大，每个芯片逐一校准的技术路线无法满足未来大规模量产的需求。
发明内容
本申请提供一种鲁棒性光学神经网络训练方法、装置、电子设备及存储介质，以解决相关技术中通过搭建外围光路和电路并结合误差校准算法对光的相位和幅度等物理特性的误差进行补偿，无法保证神经网络输出结果的准确性，且存在校准时间长，难度大等问题。
本申请第一方面实施例提供一种鲁棒性光学神经网络训练方法，包括以下步骤：获取光学神经网络的损失函数；在训练所述光学神经网络的过程中确定所述损失函数的平稳极值，其中，所述平稳极值为所述损失函数处于一个局部最小值且绝对值满足预设精度要求，同时在极值附近的预设范围内损失函数的变化速率低于预设数值；将所述平稳极值作为所述光学神经网络的训练目标，在所述光学神经网络的训练损失函数达到所述平稳极值时，完成所述光学神经网络的训练。
可选地，在本申请的一个实施例中，所述将所述平稳极值作为所述光学神经网络的训练目标，包括：若所述损失函数的平稳极值为多个，识别多个平稳极值中满足绝对值精度要求的任意一个最小平稳极值；将所述任意一个平稳极值作为所述光学神经网络的训练目标。
可选地，在本申请的一个实施例中，在完成所述光学神经网络的训练之后，还包括：根据训练完成的光学神经网络确定网络权重参数，其中，利用所述训练完成的光学神经网络对应的平稳极值确定所述网络权重参数；基于所述网络权重参数确定光学神经网络芯片的加工参数，利用所述加工参数加工所述光学神经网络芯片。
可选地，在本申请的一个实施例中，所述光学神经网络包括衍射神经网络、干涉神经网络和散射神经网络中的任意一种。
本申请第二方面实施例提供一种鲁棒性光学神经网络训练装置，包括：获取模块，用于获取光学神经网络的损失函数；第一确定模块，用于在训练所述光学神经网络的过程中确定所述损失函数的平稳极值，其中，所述平稳极值为所述损失函数处于一个局部最小值且绝对值满足预设精度要求，同时在极值的预设范围内损失函数的变化速率低于预设数值；训练模块，用于将所述平稳极值作为所述光学神经网络的训练目标，在所述光学神经网络的训练损失函数达到所述平稳极值时，完成所述光学神经网络的训练。
可选地，在本申请的一个实施例中，所述训练模块，进一步用于在所述损失函数的平稳极值为多个时，识别多个平稳极值中满足绝对值精度要求的任意一个最小平稳极值；将所述任意一个平稳极值作为所述光学神经网络的训练目标。
可选地，在本申请的一个实施例中，还包括：第二确定模块，用于在完成所述光学神经网络的训练之后，根据训练完成的光学神经网络确定网络权重参数，其中，利用所述训练完成的光学神经网络对应的平稳极值确定所述网络权重参数；加工模块，用于基于所述网络权重参数确定光学神经网络芯片的加工参数，利用所述加工参数加工所述光学神经网络芯片。
可选地，在本申请的一个实施例中，所述光学神经网络包括衍射神经网络、干涉神经网络和散射神经网络中的任意一种。
本申请第三方面实施例提供一种电子设备，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如上述实施例所述的鲁棒性光学神经网络训练方法。
本申请第四方面实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行，以用于实现如上述实施例所述的鲁棒性光学神经网络训练方法。
由此，本申请至少具有如下有益效果：
本申请实施例通过获取光学神经网络的损失函数，并在训练光学神经网络的过程中确定损失函数的平稳极值，通过寻找损失函数的平稳极值作为神经网络设计和训练的目标，提高光学神经网络芯片的鲁棒性，使神经网络的权重参数和输入数据存在噪声偏差时，损失函数的值不会出现特别明显的变化，从而降低误差对神经网络输出结果准确性的影响。由此，解决了相关技术中通过搭建外围光路和电路并结合误差校准算法对光的相位和幅度等物理特性的误差进行补偿，无法保证神经网络输出结果的准确性，且存在校准时间长，难度大等问题。
本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：
图1为根据本申请实施例提供的一种鲁棒性光学神经网络训练方法的流程图；
图2为根据本申请实施例提供的损失函数平稳极值和尖锐极值的示意图；
图3为根据本申请实施例提供的一种鲁棒性光学神经网络训练装置的方框示意图；
图4为根据本申请实施例提供的电子设备的结构示意图。
具体实施方式
下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。
下面参考附图描述本申请实施例的鲁棒性光学神经网络训练方法、装置、电子设备及存储介质。针对上述背景技术中提到的问题，本申请提供了一种鲁棒性光学神经网络训练方法，在该方法中，通过获取光学神经网络的损失函数，并在训练光学神经网络的过程中确定损失函数的平稳极值，通过寻找损失函数的平稳极值作为神经网络设计和训练的目标，提高光学神经网络芯片的鲁棒性，使神经网络的权重参数和输入数据存在噪声偏差时，损失函数的值不会出现特别明显的变化，从而降低误差对神经网络输出结果准确性的影响。由此，解决了相关技术中通过搭建外围光路和电路并结合误差校准算法对光的相位和幅度等物理特性的误差进行补偿，无法保证神经网络输出结果的准确性，且存在校准时间长，难度大等问题。
具体而言，图1为本申请实施例所提供的一种鲁棒性光学神经网络训练方法的流程示意图。
如图1所示，该鲁棒性光学神经网络训练方法包括以下步骤：
在步骤S101中，获取光学神经网络的损失函数。
其中，光学神经网络包括但不限于衍射神经网络、干涉神经网络、散射神经网络。
可以理解的是，损失函数是描述经过网络计算输出预测值和预期真实值之间差距的函数，本申请实施例可以获取光学神经网络的损失函数，通过求解损失函数平稳极值确定网络权重参数，从而实现提高神经网络芯片的鲁棒性。
在步骤S102中，在训练光学神经网络的过程中确定损失函数的平稳极值，其中，平稳极值为损失函数处于一个局部最小值且绝对值满足预设精度要求，同时在极值附近的预设范围内损失函数的变化速率低于预设数值。
在本申请实施例中，预设精度要求、预设数值和预设范围可以根据实际情况进行设置，不做具体限定。
本申请实施例可以在神经网络训练过程中，使网络计算输出预测值不断逼近真实值，也就是将损失函数降到最低，在光学神经网络训练时通过求解损失函数平稳极值确定网络参数有利于提高网络的鲁棒性。
在步骤S103中，将平稳极值作为光学神经网络的训练目标，在光学神经网络的训练损失函数达到平稳极值时，完成光学神经网络的训练。
本申请实施例可以在训练过程中寻找损失函数的平稳极值作为神经网络设计和训练的目标，这样在神经网络的权重参数和输入数据存在噪声偏差时，损失函数的值不会出现特别明显的变化，从而降低噪声偏差对神经网络输出结果准确性的影响，提高光学神经网络芯片的鲁棒性。
在本申请的一个实施例中，将平稳极值作为光学神经网络的训练目标，包括：若损失函数的平稳极值为多个，识别多个平稳极值中满足绝对值精度要求的任意一个最小平稳极值；将任意一个平稳极值作为光学神经网络的训练目标。
在本申请实施例中，如果网络模型和芯片参数能够完全对应，且训练集合测试集完全一致，那么理想情况就是求解全局最小值。然而，由于加工和测试过程存在不可避免的误差，那么训练得到的全局最小值对应的网络模型可能会在实际芯片测试中无法得到满足精度要求的输出预测值。
如图2所示的损失函数的平稳极值和尖锐极值的示意图，可以看到极小值B是全局最优解，但是B点对应的网络参数发生极小变化时，损失函数发生急剧变化，说明当网络参数发生非常小的波动时，网络计算输出得到的预测值和预期真实值的差值也会变得很大，无法满足精度要求。另外一个局部极小值A虽然在训练模型中损失函数比B略高一点，但其绝对值大小是也满足网络的精度要求。与B不同的是，A点附近的损失函数变化十分缓慢，这意味着当误差噪声在一定范围内波动时，损失函数不会发生突变，大概率仍能满足网络模型的精度要求。
在本申请的一个实施例中，在完成光学神经网络的训练之后，还包括：根据训练完成的光学神经网络确定网络权重参数，其中，利用训练完成的光学神经网络对应的平稳极值确定网络权重参数；基于网络权重参数确定光学神经网络芯片的加工参数，利用加工参数加工光学神经网络芯片。
本申请实施例在光学神经网络训练过程中不仅仅考虑损失函数本身的大小，同时考虑其附近参数的变化趋势，即通过求解平稳极值确定光学神经网络芯片的加工参数，以实现对光学神经网络芯片的加工，有效缓解了加工误差带来的从设计模型到芯片加工的映射难题以及信号加载和转换带来的误差问题，可以使得加工后的光学计算结构鲁棒性大幅提升，具有容忍加工和实验误差的能力，为光学神经网络芯片实现大规模量产奠定重要的基础。
根据本申请实施例提出的鲁棒性光学神经网络训练方法，通过获取光学神经网络的损失函数，并在训练光学神经网络的过程中确定损失函数的平稳极值，通过寻找损失函数的平稳极值作为神经网络设计和训练的目标，提高光学神经网络芯片的鲁棒性，使神经网络的权重参数和输入数据存在噪声偏差时，损失函数的值不会出现特别明显的变化，从而降低误差对神经网络输出结果准确性的影响。由此，解决了相关技术中通过搭建外围光路和电路并结合误差校准算法对光的相位和幅度等物理特性的误差进行补偿，无法保证神经网络输出结果的准确性，且存在校准时间长，难度大等问题。
其次参照附图描述根据本申请实施例提出的一种鲁棒性光学神经网络训练装置。
图3是本申请实施例的一种鲁棒性光学神经网络训练装置的方框示意图。
如图3所示，该鲁棒性光学神经网络训练装置10包括：获取模块100、第一确定模块200和训练模块300。
其中，获取模块100用于获取光学神经网络的损失函数；第一确定模块200用于在训练光学神经网络的过程中确定损失函数的平稳极值，其中，平稳极值为损失函数处于一个局部最小值且绝对值满足预设精度要求，同时在极值附近的预设范围内损失函数的变化速率低于预设数值；训练模块300用于将平稳极值作为光学神经网络的训练目标，在光学神经网络的训练损失函数达到平稳极值时，完成光学神经网络的训练。
在本申请的一个实施例中，训练模块300进一步用于在损失函数的平稳极值为多个时，识别多个平稳极值中满足绝对值精度要求的任意一个最小平稳极值；将任意一个平稳极值作为光学神经网络的训练目标。
在本申请的一个实施例中，本申请实施例的装置10还包括：第二确定模块和加工模块。
其中，第二确定模块用于在完成光学神经网络的训练之后，根据训练完成的光学神经网络确定网络权重参数，其中，利用训练完成的光学神经网络对应的平稳极值确定网络权重参数；加工模块用于基于网络权重参数确定光学神经网络芯片的加工参数，利用加工参数加工光学神经网络芯片。
在本申请的一个实施例中，光学神经网络包括衍射神经网络、干涉神经网络和散射神经网络中的任意一种。
需要说明的是，前述对鲁棒性光学神经网络训练方法实施例的解释说明也适用于该实施例的鲁棒性光学神经网络训练装置，此处不再赘述。
根据本申请实施例提出的鲁棒性光学神经网络训练装置，通过获取光学神经网络的损失函数，并在训练光学神经网络的过程中确定损失函数的平稳极值，通过寻找损失函数的平稳极值作为神经网络设计和训练的目标，提高光学神经网络芯片的鲁棒性，使神经网络的权重参数和输入数据存在噪声偏差时，损失函数的值不会出现特别明显的变化，从而降低误差对神经网络输出结果准确性的影响。由此，解决了相关技术中通过搭建外围光路和电路并结合误差校准算法对光的相位和幅度等物理特性的误差进行补偿，无法保证神经网络输出结果的准确性，且存在校准时间长，难度大等问题。
图4为本申请实施例提供的电子设备的结构示意图。该电子设备可以包括：
存储器401、处理器402及存储在存储器401上并可在处理器402上运行的计算机程序。
处理器402执行程序时实现上述实施例中提供的鲁棒性光学神经网络训练方法。
进一步地，电子设备还包括：
通信接口403，用于存储器401和处理器402之间的通信。
存储器401，用于存放可在处理器402上运行的计算机程序。
存储器401可能包含高速RAM(Random Access Memory，随机存取存储器)存储器，也可能还包括非易失性存储器，例如至少一个磁盘存储器。
如果存储器401、处理器402和通信接口403独立实现，则通信接口403、存储器401和处理器402可以通过总线相互连接并完成相互间的通信。总线可以是ISA(IndustryStandard Architecture，工业标准体系结构)总线、PCI(Peripheral Component，外部设备互连)总线或EISA(Extended Industry Standard Architecture，扩展工业标准体系结构)总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
可选的，在具体实现上，如果存储器401、处理器402及通信接口403，集成在一块芯片上实现，则存储器401、处理器402及通信接口403可以通过内部接口完成相互间的通信。
处理器402可能是一个CPU(Central Processing Unit，中央处理器)，或者是ASIC(Application Specific Integrated Circuit，特定集成电路)，或者是被配置成实施本申请实施例的一个或多个集成电路。
本申请实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上的鲁棒性光学神经网络训练方法。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不是必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或N个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“N个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更N个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。
应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，N个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列，现场可编程门阵列等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。
尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (10)
1.一种鲁棒性光学神经网络训练方法，其特征在于，包括以下步骤：
获取光学神经网络的损失函数；
在训练所述光学神经网络的过程中确定所述损失函数的平稳极值，其中，所述平稳极值为所述损失函数处于一个局部最小值且绝对值满足预设精度要求，同时在极值附近的预设范围内损失函数的变化速率低于预设数值；
将所述平稳极值作为所述光学神经网络的训练目标，在所述光学神经网络的训练损失函数达到所述平稳极值时，完成所述光学神经网络的训练。
2.根据权利要求1所述的方法，其特征在于，所述将所述平稳极值作为所述光学神经网络的训练目标，包括：
若所述损失函数的平稳极值为多个，识别多个平稳极值中满足绝对值精度要求的任意一个平稳极值；
将所述任意一个平稳极值作为所述光学神经网络的训练目标。
3.根据权利要求1所述的方法，其特征在于，在完成所述光学神经网络的训练之后，还包括：
根据训练完成的光学神经网络确定网络权重参数，其中，利用所述训练完成的光学神经网络对应的平稳极值确定所述网络权重参数；
基于所述网络权重参数确定光学神经网络芯片的加工参数，利用所述加工参数加工所述光学神经网络芯片。
4.根据权利要求1-3任意一项所述的方法，其特征在于，所述光学神经网络包括衍射神经网络、干涉神经网络和散射神经网络中的任意一种。
5.一种鲁棒性光学神经网络训练装置，其特征在于，包括：
获取模块，用于获取光学神经网络的损失函数；
第一确定模块，用于在训练所述光学神经网络的过程中确定所述损失函数的平稳极值，其中，所述平稳极值为所述损失函数处于一个局部最小值且绝对值满足预设精度要求，同时在极值附近的预设范围内损失函数的变化速率低于预设数值；
训练模块，用于将所述平稳极值作为所述光学神经网络的训练目标，在所述光学神经网络的训练损失函数达到所述平稳极值时，完成所述光学神经网络的训练。
6.根据权利要求5所述的装置，其特征在于，所述训练模块，进一步用于：
若所述损失函数的平稳极值为多个，识别多个平稳极值中满足绝对值精度要求的任意一个最小平稳极值；
将所述任意一个平稳极值作为所述光学神经网络的训练目标。
7.根据权利要求5所述的装置，其特征在于，还包括：
第二确定模块，用于在完成所述光学神经网络的训练之后，根据训练完成的光学神经网络确定网络权重参数，其中，利用所述训练完成的光学神经网络对应的平稳极值确定所述网络权重参数；
加工模块，用于基于所述网络权重参数确定光学神经网络芯片的加工参数，利用所述加工参数加工所述光学神经网络芯片。
8.根据权利要求5-7任意一项所述的装置，其特征在于，所述光学神经网络包括衍射神经网络、干涉神经网络和散射神经网络中的任意一种。
9.一种电子设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以实现如权利要求1-4任一项所述的鲁棒性光学神经网络训练方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行，以用于实现如权利要求1-4任一项所述的鲁棒性光学神经网络训练方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310324913.8A CN116384460A (zh) | 2023-03-29 | 2023-03-29 | 鲁棒性光学神经网络训练方法、装置、电子设备及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310324913.8A CN116384460A (zh) | 2023-03-29 | 2023-03-29 | 鲁棒性光学神经网络训练方法、装置、电子设备及介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN116384460A true CN116384460A (zh) | 2023-07-04 |
Family
ID=86964076
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310324913.8A Pending CN116384460A (zh) | 2023-03-29 | 2023-03-29 | 鲁棒性光学神经网络训练方法、装置、电子设备及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116384460A (zh) |
Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113869508A (zh) * | 2021-09-05 | 2021-12-31 | 山东云海国创云计算装备产业创新中心有限公司 | 一种光神经网络训练方法、系统、存储介质及设备 |
| US20220083868A1 (en) * | 2019-01-08 | 2022-03-17 | Nanjing Institute Of Advanced Artificial Intelligence, Ltd. | Neural network training method and apparatus, and electronic device |
| CN114219078A (zh) * | 2021-12-15 | 2022-03-22 | 武汉中海庭数据技术有限公司 | 一种神经网络模型交互训练方法、装置及存储介质 |
| CN114418082A (zh) * | 2022-01-24 | 2022-04-29 | 清华大学 | 光学神经网络芯片的参数生成方法及制造方法 |
| EP4022503A1 (en) * | 2020-04-15 | 2022-07-06 | Aselsan Elektronik Sanayi ve Ticaret Anonim Sirketi | A method for training shallow convolutional neural networks for infrared target detection using a two-phase learning strategy |
| CN115358390A (zh) * | 2022-09-05 | 2022-11-18 | 清华大学 | 神经网络的训练方法、装置、电子设备及存储介质 |
| WO2022252527A1 (zh) * | 2021-05-31 | 2022-12-08 | 深圳市商汤科技有限公司 | 神经网络训练及人脸识别方法、装置、设备及存储介质 |
| US20230089335A1 (en) * | 2021-09-23 | 2023-03-23 | National University Of Defense Technology | Training method for robust neural network based on feature matching |
-
2023
- 2023-03-29 CN CN202310324913.8A patent/CN116384460A/zh active Pending
Patent Citations (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20220083868A1 (en) * | 2019-01-08 | 2022-03-17 | Nanjing Institute Of Advanced Artificial Intelligence, Ltd. | Neural network training method and apparatus, and electronic device |
| EP4022503A1 (en) * | 2020-04-15 | 2022-07-06 | Aselsan Elektronik Sanayi ve Ticaret Anonim Sirketi | A method for training shallow convolutional neural networks for infrared target detection using a two-phase learning strategy |
| WO2022252527A1 (zh) * | 2021-05-31 | 2022-12-08 | 深圳市商汤科技有限公司 | 神经网络训练及人脸识别方法、装置、设备及存储介质 |
| CN113869508A (zh) * | 2021-09-05 | 2021-12-31 | 山东云海国创云计算装备产业创新中心有限公司 | 一种光神经网络训练方法、系统、存储介质及设备 |
| US20230089335A1 (en) * | 2021-09-23 | 2023-03-23 | National University Of Defense Technology | Training method for robust neural network based on feature matching |
| CN114219078A (zh) * | 2021-12-15 | 2022-03-22 | 武汉中海庭数据技术有限公司 | 一种神经网络模型交互训练方法、装置及存储介质 |
| CN114418082A (zh) * | 2022-01-24 | 2022-04-29 | 清华大学 | 光学神经网络芯片的参数生成方法及制造方法 |
| CN115358390A (zh) * | 2022-09-05 | 2022-11-18 | 清华大学 | 神经网络的训练方法、装置、电子设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20210081354A1 (en) | Systems And Methods For Systolic Array Design From A High-Level Program | |
| CN108701250B (zh) | 数据定点化方法和装置 | |
| KR102215271B1 (ko) | 데이터 기반 함수 모델의 모델 계산 유닛, 제어 장치 및 계산 방법 | |
| US20230289562A1 (en) | System and method for adaptive optimization | |
| US11755807B2 (en) | Method for predicting delay at multiple corners for digital integrated circuit | |
| US20190138929A1 (en) | System and method for automatic building of learning machines using learning machines | |
| CN112446460A (zh) | 用于处理数据的方法、装置以及相关产品 | |
| CN111832693A (zh) | 神经网络层运算、模型训练方法、装置及设备 | |
| EP3745319A1 (en) | Optimization apparatus and optimization method | |
| CN116384460A (zh) | 鲁棒性光学神经网络训练方法、装置、电子设备及介质 | |
| US11036980B2 (en) | Information processing method and information processing system | |
| EP4066146A1 (en) | Systems and methods for implementing operational transformations for restricted computations of a mixed-signal integrated circuit | |
| Dai et al. | Core decomposition on uncertain graphs revisited | |
| Metz et al. | ML-based Power Estimation of Convolutional Neural Networks on GPGPUs | |
| CN115470921B (zh) | 量子比特校准方法以及装置、量子计算机 | |
| Cortés-Antonio et al. | Design and implementation of differential evolution algorithm on FPGA for double-precision floating-point representation | |
| CN115358390A (zh) | 神经网络的训练方法、装置、电子设备及存储介质 | |
| CN110097183B (zh) | 信息处理方法以及信息处理系统 | |
| US20220180201A1 (en) | Molecule embedding using graph neural networks and multi-task training | |
| CN116542305A (zh) | 抗入射信号误差的鲁棒性光学神经网络设计方法及装置 | |
| WO2022125270A1 (en) | Molecule embedding using graph neural networks and multi-task training | |
| EP4024287A1 (en) | Method and apparatus for processing data, and related product | |
| CN114549945A (zh) | 遥感影像变化检测方法及相关装置 | |
| CN116523015A (zh) | 对于工艺误差鲁棒的光学神经网络训练方法、装置及设备 | |
| CN113033760B (zh) | 用于测试神经网络中算子精度的方法、测试装置及其系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |