CN112686317A - 神经网络训练方法、装置、电子设备及存储介质 - Google Patents
神经网络训练方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN112686317A CN112686317A CN202011629466.XA CN202011629466A CN112686317A CN 112686317 A CN112686317 A CN 112686317A CN 202011629466 A CN202011629466 A CN 202011629466A CN 112686317 A CN112686317 A CN 112686317A
- Authority
- CN
- China
- Prior art keywords
- network
- sub
- target
- feature map
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012549 training Methods 0.000 title claims abstract description 178
- 238000000034 method Methods 0.000 title claims abstract description 75
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 18
- 230000004927 fusion Effects 0.000 claims abstract description 151
- 238000001514 detection method Methods 0.000 claims description 26
- 230000008878 coupling Effects 0.000 claims description 20
- 238000010168 coupling process Methods 0.000 claims description 20
- 238000005859 coupling reaction Methods 0.000 claims description 20
- 230000006870 function Effects 0.000 claims description 17
- 238000012360 testing method Methods 0.000 claims description 8
- 230000000875 corresponding effect Effects 0.000 description 60
- 238000010586 diagram Methods 0.000 description 40
- 238000013527 convolutional neural network Methods 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 6
- 238000002372 labelling Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
Abstract
本申请实施例提供了神经网络训练方法、装置，该方法包括：将多个训练样本分别输入多个子网络中，其中，每个子网络对应一个训练样本，每个子网络对应的训练样本不同；对目标子网络的目标网络单元输出的第一特征图和对应于第一特征图的第二特征图执行特征融合操作，得到图像融合结果，第二特征图为目标网络单元的关联网络单元输出的特征图或者目标网络单元的关联网络单元的融合特征图；根据图像融合结果得到预测结果；根据预测结果和最后一个目标子网络的监督信息，确定目标损失，以及至少基于目标损失，更新多个子网络。
Description
技术领域
本申请涉及领域，具体涉及神经网络训练方法、装置、电子设备及存储介质。
背景技术
目前，对多个子网络同时进行训练的框架，例如对多个主干网络同时进行训练的CBNet框架中，在每一次对多个子网络进行训练时，采用同一个输入分别输入到每一个子网络中，对相关的网络单元的输出进行融合得到相应的融合结果，利用相应的融合结果对多个子网络进行训练，以使得每一个子网络学习到互补的特征信息。
发明内容
本申请实施例提供一种神经网络训练方法、装置、电子设备及存储介质。
本申请实施例提供一种神经网络训练方法，包括：
将多个训练样本分别输入多个子网络中，其中，每个子网络对应一个训练样本，每个子网络对应的训练样本的不同；
对所述目标子网络的目标网络单元输出的第一特征图和对应于所述第一特征图的第二特征图执行特征融合操作，得到图像融合结果，所述第二特征图为所述目标网络单元的关联网络单元输出的特征图或者所述目标网络单元的关联网络单元的融合特征图，所述关联网络单元在所述目标子网络的关联子网络中的位置与所述目标网络单元在所述目标子网络中的位置相同，所述目标子网络的关联子网络为所述目标子网络的前一个子网络；
根据所述图像融合结果得到预测结果；
根据所述预测结果和所述最后一个目标子网络的监督信息，确定目标损失，以及至少基于所述损失，更新多个子网络。
本申请实施例提供一种神经网络训练装置，包括：
并行输入单元，被配置为将多个训练样本分别输入多个子网络中，其中，每个子网络对应一个训练样本，每个子网络对应的训练样本的不同；
融合单元，被配置为对所述目标子网络的目标网络单元输出的第一特征图和对应于所述第一特征图的第二特征图执行特征融合操作，得到图像融合结果，所述第二特征图为所述目标网络单元的关联网络单元输出的特征图或者所述目标网络单元的关联网络单元的融合特征图，所述关联网络单元在所述目标子网络的关联子网络中的位置与所述目标网络单元在所述目标子网络中的位置相同，所述目标子网络的关联子网络为所述目标子网络的前一个子网络；根据所述图像融合结果得到预测结果；
预测单元，被配置为根据所述图像融合结果得到预测结果；
更新单元，被配置为根据所述预测结果和所述最后一个目标子网络的监督信息，确定目标损失，以及至少基于所述目标损失，更新多个子网络。
本申请实施例提供的神经网络训练方法、装置，实现了在对多个子网络进行训练时，将多个子网络中的每一个子网络的输入分别输入到每一个子网络。相较于在每一次对多个子网络进行训练时，采用同一个输入分别输入到每一个子网络，每一次对多个子网络进行训练时，多个不同的输入并行地输入，使得对相关的网络单元的输出进行预设特征融合操作得到相应的图像融合结果包括特征更丰富，相应的，使得每一个子网络学习到互补的特征信息更丰富。在完成对多个子网络的训练之后，提升每一个子网络的性能。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。
图1示出了本申请实施例提供的神经网络训练方法的流程图；
图2示出了对多个子网络进行训练的一个效果示意图；
图3示出了本申请实施例提供的神经网络训练装置的结构框图；
图4示出了本申请实施例提供的电子设备的结构框图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了本申请实施例提供的神经网络训练方法的流程图，该方法包括：
步骤101，将多个子网络中的每一个子网络的输入分别输入到每一个子网络。
在本申请实施例中，多个子网络的网络结构相同，多个子网络可以为多个结构相同的主干网络。例如，多个子网络可以为多个主干网络ResNeXt-152。
在本申请实施例中，每一次对多个子网络进行训练，均对多个子网络执行步骤101-104。步骤101-步骤104中的操作为示例性地描述在一次同时对多个子网络进行训练的过程中进行的操作。
通过重复地执行步骤101-步骤104，不断地对多个子网络进行训练，直至满足完成训练条件，以完成对多个子网络的训练。
在本申请实施例中，完成训练条件可以为训练次数大于指示完成训练的次数阈值，完成训练条件也可以为每一个子网络的精度均达到精度阈值，完成训练条件也可以为最后一个目标子网络的精度达到精度阈值。
在实践中，由于参与训练的子网络的数量并不与训练效率、训练之后每一个子网络的精度成正比关系，因此，优选地，多个子网络的数量为2个或3个。
在本申请实施例中，在一次对多个子网络进行训练的过程中，多个子网络中的每一个子网络的输入不同。
在本申请实施例中，在一次对多个子网络进行训练的过程中，多个子网络中的每一个子网络各自对应一个训练图像即训练样本，每一个子网络对应的训练图像不同。在该次对多个子网络进行训练的过程中，每一个子网络对应的训练图像来自在该次对多个子网络进行训练所利用的训练图像集合。
在本申请实施例中，在一次对多个子网络进行训练的过程中，首先确定确定多个子网络中的每一个子网络的输入。多个子网络中的每一个子网络的输入不同即输入到每一个子网络的训练样本不同。
在一次对多个子网络进行训练的过程中，对于多个子网络中的每一个子网络，可以将在该次对多个子网络进行训练的过程中，该子网络对应的训练图像作为在该次对多个子网络进行训练的过程中该子网络的输入。
在一些实施例中，在将多个训练样本分别输入多个子网络中之前，还包括：利用预训练图像集对多个子网络中的一个子网络进行预训练；利用在对被预训练的子网络的预训练完成之后被预训练的子网络的参数的参数值，对除了被预训练的子网络之外的每一个其他的子网络的参数的参数值进行初始化。
在本申请实施例中，可以在第1次对多个子网络进行训练之前，可以利用预训练图像集对多个子网络中的一个子网络进行预训练。
例如，多个子网络为多个结构相同的主干网络ResNeXt-152。利用训练集ImageNet对多个主干网络中的一个主干网络进行预训练。
多个子网络的结构相同，多个子网络具有多个相同类型的参数。对于除了被预训练的子网络之外的任意一个其他的子网络中的每一个参数，该参数的参数值被初始化为在对被预训练的子网络的预训练完成之后，被预训练的子网络的与该参数的类型相同的参数的参数值。
在利用在对被预训练的子网络的预训练完成之后被预训练的子网络的参数的参数值，对除了被预训练的子网络之外的每一个其他的子网络的参数的参数值进行初始化之后，多个子网络中的同一类型的参数具有相同的初始值。然后，可以开始对多个子网络进行训练。
步骤102，对目标子网络的目标网络单元输出的第一特征图和对应于第一特征图的第二特征图执行特征融合操作，得到图像融合结果。
在本申请实施例中，目标子网络为多个子网络中的除了第一个子网络之外的子网络。
在一次对多个子网络进行训练的过程中，对于每一个子网络，在该次对多个子网络进行训练的过程中，该子网络中的第1个网络单元的输出基于在该次对多个子网络进行训练的过程中该子网络的输入得到。
在一次对多个子网络进行训练的过程中，对于第1个子网络中的除了第1个网络单元之外的每一个网络单元，在该次对多个子网络进行训练的过程中，该网络单元的输入为第1个子网络中的该网络单元的上一个网络单元的输出。
在一次对多个子网络进行训练的过程中，对于多个子网络中的每一个目标子网络，在该次对多个子网络进行训练的过程中，该目标子网络中的除了第1个网络单元之外的每一个网络单元的输入均通过对相应的特征图进行并行融合操作产生。
在本申请实施例中，对于一个网络单元，该网络单元为第几个网络单元是指在输入到输出的方向上，该网络单元为该网络单元所属的子网络中的第几个网络单元。
在本申请实施例中，可以预先以相同的划分方式分别对多个子网络中的每一个子网络进行划分，以使得每一个子网络各自的多个网络单元。
由于多个子网络的网络结构相同，例如，多个子网络可以为多个主干网络ResNeXt-152。因此，在以相同的划分方式分别对多个子网络中的每一个子网络进行划分，相应的，在多个子网络中的位置相同的网络单元的网络结构相同。
例如，多个子网络为2个子网络，以相同的划分方式分别将每一个子网络划分为3个网络单元。
第1个子网络中的第1个网络单元的结构与第2个子网络中的第1个网络单元的结构相同。第1个子网络中的第2个网络单元的结构与第2个子网络中的第2个网络单元的结构相同。第1个子网络中的第3个网络单元的结构与第2个子网络中的第3个网络单元的结构相同。
在本申请实施例在本申请实施例中，目标网络单元可以为目标子网络中的最后一个网络单元。
在本申请实施例中，每一个目标网络单元可以各自具有一个关联网络单元。
在一些实施例中，目标网络单元的关联网络单元在目标子网络的关联子网络中的位置与目标网络单元在目标子网络中的位置相同，目标子网络的关联子网络为目标子网络的前一个子网络。
对于每一个目标网络单元，该目标网络单元的关联网络单元属于该目标子网络的关联子网络，该目标网络单元的关联网络单元在该目标子网络的关联子网络中的位置与目标网络单元在该目标子网络中的位置相同，该目标子网络的关联子网络为该目标子网络的前一个子网络。
对于每一个目标网络单元，该目标网络单元的结构与该目标网络单元的关联网络单元的结构相同。
在本申请实施例中，第一特征图并不特指某一个网络单元输出的特征图，第二特征图并不特指某一个网络单元输出的特征图或者某一个网络单元的融合特征图。第一特征图、第二特征图是相对于目标网络单元和目标网络单元的关联网络单元而言的。对于一个目标网络单元和该目标网络单元的关联关联网络单元，该目标网络单元输出的特征图可以称之为第一特征图。该目标网络单元的关联网络单元输出的特征图或者该目标网络单元的关联网络单元的融合特征图可以称之为第二特征图。
在本申请实施例中，目标网络单元可以为目标子网络中的最后一个网络单元。可以将每一个目标子网络的输出与第1个子网络的输出进行预设特征融合操作，得到融合特征图，可以将该融合图像图作为图像融合结果。由于目标子网络的输出即为目标子网络的目标网络单元的输出，因此，将每一个目标子网络的输出与第1个子网络的输出进行预设特征融合操作即为将每一个目标子网络的目标网络单元的输出与与第1个子网络的输出进行预设特征融合操作。
在一些实施例中，目标子网络中的每一个网络单元均为目标网络单元，图像融合结果包括：多个子网络中的最后一个目标子网络中的每一个目标网络单元的融合特征图；以及对目标子网络的目标网络单元输出的第一特征图和对应于该第一特征图的第二特征图执行特征融合操作，得到图像融合结果包括：对于目标子网络中的每一个目标网络单元，对该目标网络单元的输出的第一特征图和对应于该第一特征图的第二特征图进行预设特征融合操作，得到该目标网络单元的融合特征图，其中，该目标网络单元的融合特征图作为该目标网络单元的后一个网络单元的输入。
在本申请实施例中，目标子网络为多个子网络中的除了第一个子网络之外的子网络。最后一个目标子网络即为多个网络中的最后一个子网络。
在本申请实施例中，目标子网络中的每一个网络单元可以均可以为目标网络单元。例如，多个子网络为2个子网络。第2个子网络为目标子网络。第2个子网络中的每一个网络单元均为目标网络单元。
在一次对多个子网络进行训练的过程中，对于多个子网络中的每一个目标子网络，在该次对多个子网络进行训练的过程中，该目标子网络中的除了第1个网络单元之外的每一个网络单元的输入均通过对相应的特征图进行并行融合操作产生。
在本申请实施例中，在一次对多个子网络进行训练的过程中，若多个子网络的数量为2个，，则对于第2个子网络中的每一个目标网络单元，对该目标网络单元输出的第一特征图和目标网络单元的关联网络单元输出的对应于第一特征图的第二特征图进行预设特征融合操作。
在本申请实施例中，在一次对多个子网络进行训练的过程中，若多个子网络的数量大于2个，则对于第2个子网络中的每一个目标网络单元，对该目标网络单元输出的第一特征图和目标网络单元的关联网络单元输出的对应于第一特征图的第二特征图进行预设特征融合操作，得到该目标网络单元的融合特征图。对于在第2个子网络之后的任意一个子网络中的每一个目标网络单元，对该目标网络单元输出的第一特征图和对应于第一特征图的、目标网络单元的关联网络单元的融合特征图进行预设特征融合操作，得到得到该目标网络单元的融合特征图。
以下举例说明对多个子网络中的每一个目标子网络分别执行训练并行融合操作的过程：
假设多个子网络为3个子网络。第2个子网络、第3个子网络均为目标子网络，第3个子网络为最后一个目标子网络。第1个子网络为第2个子网络的前一个子网络，第2个子网络为第3个子网络的前一个子网络。
假设第1个子网络、第2个子网络、第3个子网络各自具有3个网络单元。第2个子网络中的第1个网络单元、第2个子网络中的第2个网络单元、第2个子网络中的第3个网络单元均为目标网络单元。第3个子网络中的第1个网络单元、第3个子网络中的第2个网络单元、第3个子网络中的第3个网络单元均为目标网络单元。
第2个子网络中的第1个网络单元的关联网络单元为第1个子网络中的第1个网络单元。
第2个子网络中的第2个网络单元的关联网络单元为第1个子网络中的第2个网络单元。
第2个子网络中的第3个网络单元的关联网络单元为第1个子网络中的第3个网络单元。
第3个子网络中的第1个网络单元的关联网络单元为第2个子网络中的第1个网络单元。
第3个子网络中的第2个网络单元的关联网络单元为第2个子网络中的第2个网络单元。
第3个子网络中的第3个网络单元的关联网络单元为第2个子网络中的第3个网络单元。
在一次对多个子网络进行训练的过程中，对第2个子网络中的第1个网络单元的输出的第一特征图和第1个子网络中的第1个网络单元的输出的对应于该第一特征图的第二特征图进行预设特征融合操作，得到第2个子网络中的第1个网络单元的融合特征图。
第2个子网络中的第1个网络单元的融合结果作为在该次对多个子网络进行训练的过程中，第2个子网络中的第2个网络单元的输入。
对第2个子网络中的第2个网络单元的输出的特征图和第1个子网络中的第2个网络单元的输出的对应于该第一特征图的第二特征图进行预设特征融合操作，得到第2个子网络中的第2个网络单元的融合特征图。
第2个子网络中的第2个网络单元的融合结果作为在该次对多个子网络进行训练的过程中，第2个子网络中的第3个网络单元的输入。
对第2个子网络中的第3个网络单元的输出的特征图和第1个子网络中的第3个网络单元的输出的对应于该第一特征图的第二特征图进行预设特征融合操作，得到第2个子网络中的第3个网络单元的融合特征图。
对第3个子网络中的第1个网络单元的输出的第一特征图和对应于第一特征图的、第2个子网络中的第1个网络单元的融合特征图进行预设特征融合操作，得到第3个子网络中的第1个网络单元的融合特征图。
第3个子网络中的第1个网络单元的融合结果作为在该次对多个子网络进行训练的过程中，第3个子网络中的第2个网络单元的输入。
对第3个子网络中的第2个网络单元的输出的第一特征图和对应于第一特征图的、第2个子网络中的第2个网络单元的融合特征图进行预设特征融合操作，得到第3个子网络中的第2个网络单元的融合特征图。
第3个子网络中的第2个网络单元的融合结果作为在该次对多个子网络进行训练的过程中，第3个子网络中的第3个网络单元的输入。
对第3个子网络中的第3个网络单元的输出的第一特征图和对应于第一特征图的、第2个子网络中的第3个网络单元的融合特征图进行预设特征融合操作，得到第3个子网络中的第3个网络单元的融合特征图。
在一次对多个子网络进行训练的过程中，对于一个目标网络单元和该目标网络单元的关联网络单元，可以对于该目标网络单元的输出的每一个第一特征图，对该第一特征图和对应于该第一特征图的第二特征图进行预设特征融合操作，以得到目标网络单元的融合特征图。
在本申请实施例中，预设特征融合操作可以为针对两个特征图中的位置相同的像素的像素值进行相应的计算。
例如，在一次对多个子网络进行训练的过程中，进行的预设特征融合操作可以为计算两个特征图中的位置相同的像素的像素值的平均值、计算两个特征图中位置相同的像素的像素值的乘积等预设特征融合操作中的一个预设特征融合操作。
在对一个第一特征图和对应于该第一特征图的第二特征图进行预设特征融合操作之后，可以得到一个融合特征图。
对于该经过融合的特征图中的每一个像素，该像素的像素值为对该第一特征图和对应于该第一特征图的第二特征图中的位置相同的两个像素的像素值进行相应的计算得到的计算结果。
在本申请实施例中，在一次对多个子网络进行训练的过程中，每一个子网络的输入可以为每一个子网络对应的训练图像。
最后一个目标子网络的监督信息可以为对多个子网络的输入进行融合得到的融合图像的标注信息。对多个子网络的输入进行融合得到的融合图像的标注信息通过对该融合图像进行标注得到。
在该次对多个子网络进行训练的过程中，在对多个子网络的输入进行融合时，可以采用与在该次对多个子网络进行训练的过程中执行的预设特征融合操作适配的融合方式对多个子网络的输入进行融合，得到融合图像。
在执行的预设特征融合操作中针对位置相同的像素的像素值进行的计算的类型与在与预设特征融合操作适配的融合方式中，对多个子网络的输入中的位置相同的像素的像素值进行的计算的类型相同。
例如，对多个子网络进行训练的过程中，在该次对多个子网络进行训练的过程中进行的预设特征融合操作为计算两个特征图中的位置相同的像素的像素值的平均值。相应的，在该次对多个子网络进行训练的过程中，与预设特征融合操作适配的融合方式为：计算多个子网络的输入中的位置相同的像素的像素值的平均值。相应的，得到的融合图像中的每一个像素的像素值为多个子网络的输入中的位置相同的像素的像素值的平均值。
在一些实施例中，预设特征融合操作为耦合操作，目标网络单元的融合特征图为目标网络单元的耦合特征图；对目标网络单元的输出的第一特征图和对应于该第一特征图的第二特征图进行预设特征融合操作，以得到该目标网络单元的融合特征图包括：对该第一特征图中的每一个像素，将该第一特征图像素的像素值与该第二特征图对应像素的像素值相加，以得到目标网络单元的耦合特征图。
在一次对多个子网络进行训练的过程中，在多个子网络的输入为单独输入的情况下，则在该次对多个子网络进行训练的过程中，进行的预设特征融合操作可以为耦合操作。耦合操作也可以为称之为逐点加操作。
单独输入情况为在该次对多个子网络进行训练的过程中，对于每一个子网络，该子网络的输入为单个图像，每一个子网络的输入均不是融合图像。
第一特征图中的像素可以称之为第一特征图像素。第二特征图中的像素可以称之为第二特征图像素。每一个第一特征图像素各自对应一个第二特征图像素。对于一个第一特征图像素而言，与该第一特征图像素的像素值相加的第二特征图对应像素可以是指第二特征图中的对应于该第一特征图像素的第二特征图像素。对于一个第一特征图像素，该第一特征图像素在第一特征图中的位置与该第二特征图对应像素在第二特征图中的位置相同。
对于第一特征图中的每一个第一特征图像素，将该第一特征图像素的像素值与该第二特征图对应像素的像素值相加，以得到耦合特征图。
换言之，将第一特征图和该第二特征图中的位置相同的像素的像素值相加，以得到耦合特征图。对于耦合特征图中的每一个像素，该像素的像素值为该第一特征图和该第二特征图中的位置相同的两个像素的像素值相加得到的结果。
在一次对多个子网络进行训练的过程中，在多个子网络的输入为单独输入，最后一个目标子网络的监督信息为将每一个子网络的输入进行融合得到的融合图像的标注信息。
可以采用与耦合操作适配的融合方式对多个子网络的输入进行融合，得到融合图像。与耦合操作适配的融合方式对多个子网络的输入进行融合为：计算多个子网络的输入中的位置相同的像素的像素值的和。相应的，得到的融合图像中的每一个像素的像素值为多个子网络的输入中的位置相同的像素的像素值的和。
例如，多个子网络为2个子网络。在一次对多个子网络进行训练的过程中，第1个子网络对应的训练图像为训练图像A，第2个子网络对应的训练图像为训练图像B。在该次对多个子网络进行训练的过程中，多个子网络的输入为单独输入，第1个子网络的输入为第1个子网络对应的训练图像A，第2个子网络的输入为第2个子网络对应的训练图像B。在该次对多个子网络进行训练的过程中进行的预设特征融合操作为耦合操作。
第2个子网络为最后一个目标子网络。最后一个目标子网络即第2个子网络的监督信息为对第1个子网络的输入即训练图像A与第2个子网络的输入即训练图像B进行融合得到的融合图像的标注信息。
对训练图像A与训练图像B进行融合的融合方式可以为：将训练图像A与训练图像B中的位置相同的像素的像素值相加。
对于将训练图像A与训练图像B进行融合得到的融合图像中的每一个像素，该像素的像素值为训练图像A与训练图像B中的位置相同的像素的像素值的和。
在一些实施例中，预设特征融合操作为解耦操作，目标网络单元的融合特征图包括：目标网络单元的解耦特征图；对目标网络单元的输出的第一特征图和对应于该第一特征图的第二特征图进行预设特征融合操作包括：对于该第一特征图中的每一个像素，将该第一特征图像素的像素值与该第二特征图对应像素的像素值相减，以得到目标网络单元的解耦特征图。
在一次对多个子网络进行训练的过程中，在多个子网络的输入为关联输入下，则在该次对多个子网络进行训练的过程中，进行的预设特征融合操作可以为解耦操作。解耦操作也可称之为逐点减操作。
关联输入为：第1个子网络的输入为单个图像，不是融合图像，对于每一个目标子网络，该目标子网络的输入为将该目标子网络的与输入相关的图像与该目标子网络的前一个子网络的输入即该前一个子网络对应的训练图像进行融合得到的融合图像。每一个目标子网络对应的与输入相关的图像不同。
在多个子网络的输入为关联输入下，该目标子网络的输入即该目标子网络对应的训练图像为该目标子网络的与输入相关的图像与该目标子网络的前一个子网络的输入进行融合的融合方式可以为：将该目标子网络的与输入相关的图像与该目标子网络的前一个子网络的输入中的位置相同的像素的像素值相加。
在多个子网络的输入为关联输入下，对于将该目标子网络的与输入相关的图像与该目标子网络的前一个子网络的输入进行融合得到的该目标子网络的输入中的每一个像素，该像素的像素值为该目标子网络的与输入相关的图像与该目标子网络的前一个子网络的输入中的位置相同的像素的像素值的和。
在多个子网络的输入为关联输入下，对目标网络单元的输出的第一特征图和对应于该第一特征图的第二特征图进行解耦操作时，对于该第一特征图中的每一个第一特征图像素，可以将该第一特征图像素的像素值减该第二特征图对应像素的像素值，以得到目标网络单元的解耦特征图。
在多个子网络的输入为关联输入下，对于一个解耦特征图中的每一个像素，该像素的像素值为第一特征图像素的像素值与该第二特征图对应像素的像素值相减之后得到的结果。
在一次对多个子网络进行训练的过程中，在多个子网络的输入为关联输入，执行的预设特征融合操作为解耦操作的情况下，最后一个目标子网络的监督信息为在该次对多个子网络进行训练的过程中最后一个目标子网络的与输入相关的图像的标注信息。
例如，多个子网络为2个子网络。在一次对多个子网络进行训练的过程中，多个子网络的输入为关联输入，第1个子网络对应的训练图像即训练样本为训练图像A，第2个子网络对应的训练图像为将第2个子网络的与输入相关的图像ImageB与第1个子网络的输入即ImageA进行融合得到的融合图像即ImageA+B。最后一个目标子网络的监督信息为在该次对多个子网络进行训练的过程中最后一个目标子网络的与输入相关的图像即训练图像B的标注信息。
步骤103，根据图像融合结果得到预测结果。
在本申请实施例中，可以由目标检测网络图像融合结果，生成预测结果。
目标检测网络可以为Mask R-CNN。可以将图像融合结果例如多个子网络中的最后一个目标子网络中的每一个目标网络单元的融合特征图组成的图像融合结果作为目标检测网络的输入。由Mask R-CNN基于Mask R-CNN的输入进行预测，生成预测结果。
步骤104，根据预测结果和最后一个目标子网络的监督信息，确定目标损失，以及至少基于目标损失，更新多个子网络。
在本申请实施例中，目标损失为预测结果与最后一个神经网络的标注信息之间的损失损失。
在一次对多个子网络进行训练的过程中，可以根据预测结果和最后一个目标子网络的监督信息，确定目标损失。
然后，可以根据目标损失进行反向传播，更新多个子网络，即更新每一个子网络的参数的参数值。
在本申请实施例中，在完成对多个子网络的训练之后，可以直接将最后一个目标子网络即多个子网络中的最后一个子网络与目标检测网络进行集成，得到目标检测器，利用目标检测器执行目标检测任务。在利用目标检测器执行目标检测任务时，最后一个目标子网络用于接收需要进行目标检测的图像，从需要进行目标检测的图像提取用于目标检测的特征，最后一个目标子网络的输出作为目标检测网络的输出作为目标检测网络的输入，目标检测网络输出目标检测结果。
在一些实施例中，在完成对多个子网络的训练之后，还包括：将最后一个目标子网络与目标检测网络进行集成，得到目标检测器；利用测试图像集对目标检测器进行测试，得到目标检测器的指示目标检测器的目标检测准确性的指标。
在本申请实施例中，在完成对多个子网络的训练之后，可以将最后一个目标子网络作为目标主干网络，将目标主干网络与目标检测网络进行集成，得到目标检测器。然后，可以利用测试集对得到的目标检测器进行测试，得到目标检测器的指示目标检测器的目标检测准确性的mAP指标。
请参考图2，其示出了对多个子网络进行训练的一个效果示意图。
多个子网络为2个子网络。在图2中，左侧的子网络为第1个子网络，右侧的子网络为第2个子网络。在图2中，“+”表示耦合操作，“-”表示解耦操作。2个子网络可以为2个主干网络ResNeXt-152，用于生成预测结果的目标检测网络可以为Mask R-CNN。
单独输入为对于每一个子网络，该子网络的输入为该子网络对应的训练图像。
在2个子网络的输入为单独输入的情况下，第1个子网络的输入为ImageA，第2个子网络的输入为ImageB。
关联输入为：第1个子网络的输入为单个图像，不是融合图像，对于每一个目标子网络，该目标子网络的输入为将该目标子网络的与输入相关的图像与该目标子网络的前一个子网络的输入进行融合得到的融合图像。
在2个子网络的输入为关联输入的情况下，第1个子网络的输入为imageA，第2个子网络的输入为将第2个子网络的与输入相关的图像ImageB与第1个子网络的输入即ImageA进行融合得到的融合图像即ImageA+B。
第1个子网络、第2个子网络各自具有3个网络单元。第2个子网络为目标子网络，第2个子网络中的第1个网络单元、第2个子网络中的第2个网络单元、第2个子网络中的第3个网络单元均为目标网络单元。
第2个子网络中的第1个网络单元202的关联网络单元为第1个子网络中的第1个网络单元201。第2个子网络中的第2个网络单元204的关联网络单元为第1个子网络中的第2个网络单元203。第2个子网络中的第3个网络单元206的关联网络单元为第1个子网络中的第3个网络单元205。
在一次对多个子网络进行训练的过程中，在2个子网络的输入为单独输入的情况下，在该次对多个子网络进行训练的过程中进行的预设特征融合操作为耦合操作。
对第2个子网络中的第1个网络单元的输出的第一特征图和第1个子网络中的第1个网络单元的输出的对应于该第一特征图的第二特征图进行耦合操作，得到第2个子网络中的第1个网络单元的融合特征图。
第2个子网络中的第1个网络单元的融合特征图作为在该次对多个子网络进行训练的过程中，第2个子网络中的第2个网络单元的输入。
对第2个子网络中的第2个网络单元的输出的第一特征图和第1个子网络中的第2个网络单元的输出的对应于该第一特征图的第二特征图进行耦合操作，得到第2个子网络中的第2个网络单元的融合特征图。
第2个子网络中的第2个网络单元的融合特征图作为在该次对多个子网络进行训练的过程中，第2个子网络中的第3个网络单元的输入。
对第2个子网络中的第3个网络单元的输出的第一特征图和第1个子网络中的第3个网络单元的输出的对应于该第一特征图的第二特征图进行耦合操作，得到第2个子网络中的第3个网络单元的融合特征图。
第2个子网络中的第1个网络单元的融合特征图、第2个子网络中的第2个网络单元的融合特征图、第2个子网络中的第3个网络单元的融合特征图组成目标检测网络Mask R-CNN的输入。
Mask R-CNN基于Mask R-CNN的输入，生成预测结果。在2个子网络的输入为单独输入的情况下，第2个子网络的监督信息为对第1个子网络的输入即ImageA与第2个子网络的输入即ImageB进行融合得到的融合图像ImageA+B的标注信息。
可以计算预测结果与ImageA+B的标注信息之间的损失。然后，可以基于该损失进行反向传播，更新第1个子网络的参数的参数值、第2个子网络的参数的参数值。
在一次对多个子网络进行训练的过程中，在2个子网络的输入为关联输入的情况下，在该次对多个子网络进行训练的过程中进行的预设特征融合操作为解耦操作。
对第2个子网络中的第1个网络单元的输出的第一特征图和第1个子网络中的第1个网络单元的输出的对应于该第一特征图的第二特征图进行解耦操作，得到第2个子网络中的第1个网络单元的融合特征图。
对第2个子网络中的第2个网络单元的输出的第一特征图和第1个子网络中的第2个网络单元的输出的对应于该第一特征图的第二特征图进行解耦操作，得到第2个子网络中的第2个网络单元的融合特征图。
对第2个子网络中的第3个网络单元的输出的第一特征图和第1个子网络中的第3个网络单元的输出的对应于该第一特征图的第二特征图进行解耦操作，得到第2个子网络中的第3个网络单元的融合特征图。
第2个子网络中的第1个网络单元的融合特征图、第2个子网络中的第2个网络单元的融合特征图、第2个子网络中的第3个网络单元的融合特征图组成目标检测网络Mask R-CNN的输入。
Mask R-CNN基于Mask R-CNN的输入，生成预测结果。在2个子网络的输入为关联输入的情况下，即在第1个子网络的输入为imageA，第2个子网络的输入为imageA+B的情况下，第2个子网络的监督信息为第2个子网络的与输入相关的图像即ImageB的标注信息。
可以计算预测结果与ImageB的标注信息之间的损失。然后，可以基于该损失进行反向传播，更新第1个子网络的参数的参数值、第2个子网络的参数的参数值。
在一些实施例中，还包括：基于第一数值与第二数值计算损失函数值，其中，该第一数值为基于最后一个目标子网络针对非融合图像的输出得到的预测结果的数值，该第二数值为基于先前的子网络针对非融合图像的输出得到的预测结果的数值，先前的子网络位于最后一个目标子网络之前，预测结果的数值指示预测结果为正确的结果的概率；至少基于目标损失，更新多个子网络包括：基于目标损失和该损失函数值，更新多个子网络，即更新每一个子网络的参数的参数值。
在本申请实施例中，损失函数值指示第一数值与第二数值之间的差异量是否足够大。当基于第一数值与第二数值计算损失函数值时，可以利用预设间隔排列损失函数基于第一数值与第二数值计算损失函数值。
在一次对多个子网络进行训练的过程中，非融合图像来自在该次对多个子网络进行训练的过程中所利用的训练图像集合。可以从该次对多个子网络进行训练的过程中所利用的训练图像集合中选择出一个训练图像作为非融合图像。
例如，多个子网络为2个子网络，在一次对多个子网络进行训练的过程中所利用的训练图像集合由训练图像A和训练图像B组成。非融合图像可以为训练图像A或训练图像B。
对于每一个子网络，该子网络的针对非融合图像的输出可以是指在将非融合图像输入到该子网络的情况下，该子网络的输出。
对于同一个非融合图像，多个子网络中的每一个子网络各自具有一个针对该非融合图像的输出。
在每一次对多个子网络进行训练的过程中，可以将非融合图像分别输入到每一个子网络，得到每一个子网络的针对非融合图像的输出。
对于每一个子网络，将该子网络针对非融合图像的输出作为目标检测网络的输入，得到目标检测网络输出的该子网络对应的预测结果和该子网络对应的预测结果的数值，该子网络对应的预测结果为基于该子网络针对非融合图像的输出得到的预测结果。
在本申请实施例中，间隔排列损失函数可以表示为：loss(S1，S2)＝max(0，S1-S2+δ)
其中，S2可以表示基于最后一个目标子网络针对非融合图像的输出得到的预测结果的数值，基于最后一个目标子网络针对非融合图像的输出得到的预测结果可以为一个非融合图像的分类logit向量，基于最后一个目标子网络针对非融合图像的输出得到的预测结果的数值可以为该非融合图像的分类logit向量在该非融合图像类别位置(ground-truth position)上的值。S1可以表示基于先前的子网络针对该非融合图像的输出得到的预测结果的数值，同理，基于先前的子网络针对该非融合图像的输出得到的预测结果也可以为一个非融合图像的分类logit向量。
在多个子网络为2个子网络的情况下，先前的子网络可以是指第1个子网络。在多个子网络为2个子网络的情况下，先前的子网络可以是指在得到其他的所有预测结果中的具有的数值最高的预测结果时所利用的子网络，其他的所有预测结果由除了基于最后一个目标子网络针对非融合图像的输出得到的预测结果之外的每一个预测结果组成。
δ为正数，δ可以指示S2至少要比S1大多少才可以不产生损失。当S2没有至少比S1大δ的话，该损失函数值始终为正，即处于惩罚状态。
在本申请实施例中，通过排列损失函数计算出的损失函数值参与每一个子网络的参数的参数值的更新，可以促进最后一个目标子网络的性能优于在多个子网络中的位于最后一个目标子网络之前的其他的子网络的性能。
在每一次对多个子网络进行训练的过程中，结合预测结果与最后一个目标子网络的监督信息之间的损失即目标损失和通过排列损失函数得到的损失函数值，更新每一个子网络的参数的参数值。可以提升多个子网络的性能，同时，以递进的方式增强每一个子网络的性能。在完成对多个子网络的训练时，使得最后一个目标子网络的性能优于在多个子网络中的位于最后一个目标子网络之前的其他的子网络的性能。
请参考图3，其示出了本申请实施例提供的神经网络训练装置的结构框图。神经网络训练装置包括：并行输入单元301，融合单元302，预测单元303，更新单元304。
并行输入单元301被配置为将多个训练样本分别输入多个子网络中，其中，每个子网络对应一个训练样本，每个子网络对应的训练样本的不同；
融合单元302被配置为对所述目标子网络的目标网络单元输出的第一特征图和对应于所述第一特征图的第二特征图执行特征融合操作，得到图像融合结果，所述第二特征图为所述目标网络单元的关联网络单元输出的特征图或者所述目标网络单元的关联网络单元的融合特征图，所述关联网络单元在所述目标子网络的关联子网络中的位置与所述目标网络单元在所述目标子网络中的位置相同，所述目标子网络的关联子网络为所述目标子网络的前一个子网络；根据所述图像融合结果得到预测结果；
预测单元303被配置为根据所述图像融合结果得到预测结果；
更新单元304被配置为根据所述预测结果和所述最后一个目标子网络的监督信息，确定目标损失，以及至少基于所述目标损失，更新多个子网络。
在一些实施例中，目标子网络中的每一个网络单元均为目标网络单元，图像融合结果包括：多个子网络中的最后一个目标子网络中的每一个目标网络单元的融合特征图；融合单元302进一步被配置为以及对所述目标子网络的目标网络单元输出的第一特征图和对应于所述第一特征图的第二特征图执行特征融合操作，得到图像融合结果包括：对于所述目标子网络中的每一个目标网络单元，对所述目标网络单元的输出的第一特征图和对应于所述第一特征图的第二特征图进行预设特征融合操作，得到所述目标网络单元的融合特征图，其中，所述目标网络单元的融合特征图作为所述目标网络单元的后一个网络单元的输入。
在一些实施例中，所述预设特征融合操作为耦合操作，所述目标网络单元的融合特征图为目标网络单元的耦合特征图；融合单元302进一步被配置为对于所述第一特征图中的每一个像素，将所述第一特征图像素的像素值与所述第二特征图对应像素的像素值相加，以得到耦合特征图。
在一些实施例中，所述预设特征融合操作为解耦操作，所述目标网络单元的融合特征图为目标网络单元的解耦特征图；融合单元302进一步被配置为对于所述第一特征图中的每一个像素，将所述第一特征图像素的像素值与所述第二特征图对应像素的像素值相减，以得到解耦特征图。
在一些实施例中，神经网络训练装置还包括：
初始化单元，被配置为在将多个子网络中的每一个子网络的输入分别输入到每一个子网络之前，所述方法还包括：
利用预训练图像集对多个子网络中的一个子网络进行预训练；利用在对被预训练的子网络的预训练完成之后，被预训练的子网络的参数的参数值，对除了被预训练的子网络之外的每一个其他的子网络的参数的参数值进行初始化。
在一些实施例中，神经网络训练装置还包括：损失函数值计算单元，被配置为基于第一数值和第二数值计算损失函数值，其中，所述第一数值为基于最后一个目标子网络针对非融合图像的输出得到的预测结果的数值，所述第二数值为基于先前的子网络针对非融合图像的输出得到的预测结果的数值，所述先前的子网络位于最后一个目标子网络之前，所述预测结果的数值指示预测结果为正确的结果的概率；更新单元进一步被配置为基于所述目标损失和所述损失函数值，更新所述多个子网络。
在一些实施例中，神经网络训练装置还包括：
测试单元，被配置为在完成对多个子网络的训练之后，将最后一个目标子网络与目标检测网络进行集成，得到目标检测器；利用测试图像集对目标检测器进行测试，得到目标检测器的指示目标检测器的目标检测准确性的指标。
图4是本实施例提供的一种电子设备的结构框图。电子设备包括处理组件422，其进一步包括一个或多个处理器，以及由存储器432所代表的存储器资源，用于存储可由处理组件422执行的指令，例如应用程序。存储器432中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件422被配置为执行指令，以执行上述方法。
电子设备还可以包括一个电源组件426被配置为执行电子设备的电源管理，一个有线或无线网络接口450被配置为将电子设备连接到网络，和一个输入输出(I/O)接口458。电子设备可以操作基于存储在存储器432的操作系统，例如Windows ServerTM，MacOS XTM，UnixTM,LinuxTM，FreeBSDTM或类似。
在示例性实施例中，还提供了一种包括指令的存储介质，例如包括指令的存储器，上述指令可由电子设备执行以完成上述方法。可选地，存储介质可以是非临时性计算机可读存储介质，例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本申请的真正范围和精神由下面的权利要求指出。
应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。
Claims (11)
1.一种神经网络训练方法，其特征在于，所述方法包括：
将多个训练样本分别输入多个子网络中，其中，每个子网络对应一个训练样本，每个子网络对应的训练样本不同；
对所述目标子网络的目标网络单元输出的第一特征图和对应于所述第一特征图的第二特征图执行特征融合操作，得到图像融合结果，所述第二特征图为所述目标网络单元的关联网络单元输出的特征图或者所述目标网络单元的关联网络单元的融合特征图；
根据所述图像融合结果得到预测结果；
根据所述预测结果和所述最后一个目标子网络的监督信息，确定目标损失，以及至少基于所述目标损失，更新所述多个子网络。
2.根据权利要求1所述的方法，其特征在于，目标子网络中的每一个网络单元均为目标网络单元，图像融合结果包括：最后一个目标子网络中的每一个目标网络单元的融合特征图；以及
对所述目标子网络的目标网络单元输出的第一特征图和对应于所述第一特征图的第二特征图执行特征融合操作，得到图像融合结果包括：
对于所述目标子网络中的每一个目标网络单元，对所述目标网络单元的输出的第一特征图和对应于所述第一特征图的第二特征图进行预设特征融合操作，得到所述目标网络单元的融合特征图，其中，所述融合特征图作为所述目标网络单元的后一个网络单元的输入。
3.根据权利要求2所述的方法，其特征在于，所述预设特征融合操作为耦合操作，所述目标网络单元的融合特征图为目标网络单元的耦合特征图；
对所述目标网络单元的输出的第一特征图和对应于所述第一特征图的第二特征图进行预设特征融合操作，以得到所述目标网络单元的融合特征图包括：
对所述第一特征图中的每一个像素，将所述第一特征图像素的像素值与所述第二特征图对应像素的像素值相加，以得到所述耦合特征图。
4.根据权利要求2所述的方法，其特征在于，所述预设特征融合操作为解耦操作，所述目标网络单元的融合特征图为目标网络单元的解耦特征图；
对所述目标网络单元的输出的第一特征图和对应于所述第一特征图的第二特征图进行预设特征融合操作，以得到所述目标网络单元的融合特征图包括：
对于所述第一特征图中的每一个像素，将所述第一特征图像素的像素值与所述第二特征图对应像素的像素值相减，以得到所述解耦特征图。
5.根据权利要求1所述的方法，其特征在于，在将多个训练样本分别输入多个子网络中之前，所述方法还包括：
利用预训练图像集对多个子网络中的一个子网络进行预训练；利用在对被预训练的子网络的预训练完成之后，被预训练的子网络的参数的参数值，对除了被预训练的子网络之外的每一个其他的子网络的参数的参数值进行初始化。
6.根据权利要求1-5之一所述的方法，其特征在于，所述方法还包括：
基于第一数值与第二数值计算损失函数值，其中，所述第一数值为基于最后一个目标子网络针对非融合图像的输出得到的预测结果，所述第二数值为基于先前的子网络针对非融合图像的输出得到的预测结果，所述先前的子网络位于最后一个目标子网络之前；
至少基于所述目标损失，更新所述多个子网络包括：
基于所述目标损失和所述损失函数值，更新所述多个子网络的参数。
7.根据权利要求6所述的方法，其特征在于，在完成对所述多个子网络的训练之后，所述方法还包括：
将最后一个目标子网络与目标检测网络进行集成，得到目标检测器；
利用测试图像集对目标检测器进行测试，得到目标检测器的指示目标检测器的目标检测准确性的指标。
8.根据权利要求1-7任一所述的方法，其特征在于，所述关联网络单元在所述目标子网络的关联子网络中的位置与所述目标网络单元在所述目标子网络中的位置相同，所述目标子网络的关联子网络为所述目标子网络的前一个子网络。
9.一种子网络训练装置，其特征在于，所述装置包括：
并行输入单元，被配置为将多个训练样本分别输入多个子网络中，其中，每个子网络对应一个训练样本，每个子网络对应的训练样本的不同；
融合单元，被配置为对所述目标子网络的目标网络单元输出的第一特征图和对应于所述第一特征图的第二特征图执行特征融合操作，得到图像融合结果，所述第二特征图为所述目标网络单元的关联网络单元输出的特征图或者所述目标网络单元的关联网络单元的融合特征图，所述关联网络单元在所述目标子网络的关联子网络中的位置与所述目标网络单元在所述目标子网络中的位置相同，所述目标子网络的关联子网络为所述目标子网络的前一个子网络；根据所述图像融合结果得到预测结果；
预测单元，被配置为根据所述图像融合结果得到预测结果；
更新单元，被配置为根据所述预测结果和所述最后一个目标子网络的监督信息，确定目标损失，以及至少基于所述损失，更新每一个子网络。
10.一种电子设备，包括：
处理器；
用于存储所述处理器可执行指令的存储器；
其中，所述处理器被配置为执行所述指令，以实现如权利要求1至8中任一项所述的方法。
11.一种存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如权利要求1至8中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011629466.XA CN112686317A (zh) | 2020-12-30 | 2020-12-30 | 神经网络训练方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011629466.XA CN112686317A (zh) | 2020-12-30 | 2020-12-30 | 神经网络训练方法、装置、电子设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112686317A true CN112686317A (zh) | 2021-04-20 |
Family
ID=75455985
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011629466.XA Pending CN112686317A (zh) | 2020-12-30 | 2020-12-30 | 神经网络训练方法、装置、电子设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112686317A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113392739A (zh) * | 2021-06-02 | 2021-09-14 | 中南民族大学 | 滚动轴承状态的监测方法、装置、设备及存储介质 |
| CN114143206A (zh) * | 2021-12-02 | 2022-03-04 | 广东电网有限责任公司 | 一种电力线通信网络拓扑控制方法及装置 |
| WO2024067884A1 (zh) * | 2022-09-30 | 2024-04-04 | 华为技术有限公司 | 一种数据处理方法及相关装置 |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180174046A1 (en) * | 2016-12-15 | 2018-06-21 | Beijing Kuangshi Technology Co., Ltd. | Target detection method and device, neural network training method and device |
| WO2018153319A1 (zh) * | 2017-02-23 | 2018-08-30 | 北京市商汤科技开发有限公司 | 物体检测方法、神经网络的训练方法、装置和电子设备 |
| CN110110715A (zh) * | 2019-04-30 | 2019-08-09 | 北京金山云网络技术有限公司 | 文本检测模型训练方法、文本区域、内容确定方法和装置 |
| CN110598504A (zh) * | 2018-06-12 | 2019-12-20 | 北京市商汤科技开发有限公司 | 图像识别方法及装置、电子设备和存储介质 |
| CN111062495A (zh) * | 2019-11-28 | 2020-04-24 | 深圳市华尊科技股份有限公司 | 机器学习方法及相关装置 |
| CN111274865A (zh) * | 2019-12-14 | 2020-06-12 | 深圳先进技术研究院 | 一种基于全卷积神经网络的遥感图像云检测方法及装置 |
| CN111414987A (zh) * | 2019-01-08 | 2020-07-14 | 南京人工智能高等研究院有限公司 | 神经网络的训练方法、训练装置和电子设备 |
| CN111652181A (zh) * | 2020-06-17 | 2020-09-11 | 腾讯科技（深圳）有限公司 | 目标跟踪方法、装置及电子设备 |
| CN111784623A (zh) * | 2020-09-07 | 2020-10-16 | 腾讯科技（深圳）有限公司 | 图像处理方法、装置、计算机设备和存储介质 |
-
2020
- 2020-12-30 CN CN202011629466.XA patent/CN112686317A/zh active Pending
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180174046A1 (en) * | 2016-12-15 | 2018-06-21 | Beijing Kuangshi Technology Co., Ltd. | Target detection method and device, neural network training method and device |
| WO2018153319A1 (zh) * | 2017-02-23 | 2018-08-30 | 北京市商汤科技开发有限公司 | 物体检测方法、神经网络的训练方法、装置和电子设备 |
| CN110598504A (zh) * | 2018-06-12 | 2019-12-20 | 北京市商汤科技开发有限公司 | 图像识别方法及装置、电子设备和存储介质 |
| CN111414987A (zh) * | 2019-01-08 | 2020-07-14 | 南京人工智能高等研究院有限公司 | 神经网络的训练方法、训练装置和电子设备 |
| CN110110715A (zh) * | 2019-04-30 | 2019-08-09 | 北京金山云网络技术有限公司 | 文本检测模型训练方法、文本区域、内容确定方法和装置 |
| CN111062495A (zh) * | 2019-11-28 | 2020-04-24 | 深圳市华尊科技股份有限公司 | 机器学习方法及相关装置 |
| CN111274865A (zh) * | 2019-12-14 | 2020-06-12 | 深圳先进技术研究院 | 一种基于全卷积神经网络的遥感图像云检测方法及装置 |
| CN111652181A (zh) * | 2020-06-17 | 2020-09-11 | 腾讯科技（深圳）有限公司 | 目标跟踪方法、装置及电子设备 |
| CN111784623A (zh) * | 2020-09-07 | 2020-10-16 | 腾讯科技（深圳）有限公司 | 图像处理方法、装置、计算机设备和存储介质 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113392739A (zh) * | 2021-06-02 | 2021-09-14 | 中南民族大学 | 滚动轴承状态的监测方法、装置、设备及存储介质 |
| CN114143206A (zh) * | 2021-12-02 | 2022-03-04 | 广东电网有限责任公司 | 一种电力线通信网络拓扑控制方法及装置 |
| CN114143206B (zh) * | 2021-12-02 | 2023-09-19 | 广东电网有限责任公司 | 一种电力线通信网络拓扑控制方法及装置 |
| WO2024067884A1 (zh) * | 2022-09-30 | 2024-04-04 | 华为技术有限公司 | 一种数据处理方法及相关装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112686317A (zh) | 神经网络训练方法、装置、电子设备及存储介质 | |
| CN111340242B (zh) | 保护隐私的模型联合训练方法及装置 | |
| CN111858869B (zh) | 一种数据匹配方法、装置、电子设备和存储介质 | |
| KR102200212B1 (ko) | 불확실성 예측을 위한 샘플링 모델 생성 장치 및 방법, 불확실성 예측 장치 | |
| CN110263733B (zh) | 图像处理方法、提名评估方法及相关装置 | |
| EP4036796A1 (en) | Automatic modeling method and apparatus for object detection model | |
| CN113642659B (zh) | 一种训练样本集生成的方法、装置、电子设备及存储介质 | |
| CN109657539B (zh) | 人脸颜值评价方法、装置、可读存储介质及电子设备 | |
| CN110096617B (zh) | 视频分类方法、装置、电子设备及计算机可读存储介质 | |
| CN110287104A (zh) | 测试用例生成方法、装置、终端及计算机可读存储介质 | |
| CN114492601A (zh) | 资源分类模型的训练方法、装置、电子设备及存储介质 | |
| CN113420871A (zh) | 图像质量的评估方法、装置、存储介质及电子装置 | |
| CN112818888A (zh) | 视频审核模型训练方法、视频审核方法及相关装置 | |
| CN115616937A (zh) | 自动驾驶仿真测试方法、装置、设备和计算机可读介质 | |
| CN110069997B (zh) | 场景分类方法、装置及电子设备 | |
| CN113569705B (zh) | 场景分割点判断方法、系统、存储介质及电子设备 | |
| CN114758199A (zh) | 检测模型的训练方法、装置、设备和存储介质 | |
| CN107967304A (zh) | 会话交互处理方法、装置及电子设备 | |
| CN110427998A (zh) | 模型训练、目标检测方法及装置、电子设备、存储介质 | |
| CN114594963A (zh) | 模型的部署方法、装置、电子设备及存储介质 | |
| CN114581652A (zh) | 目标对象的检测方法、装置、电子设备以及存储介质 | |
| CN115114329A (zh) | 数据流异常检测的方法、装置、电子设备和存储介质 | |
| CN108665455B (zh) | 图像显著性预测结果的评价方法和装置 | |
| CN115016950B (zh) | 一种基于多线程模型的数据分析方法及系统 | |
| CN111626098A (zh) | 模型的参数值更新方法、装置、设备及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |