CN111753949A - 一种数据块处理方法、装置及电子设备 - Google Patents
一种数据块处理方法、装置及电子设备 Download PDFInfo
- Publication number
- CN111753949A CN111753949A CN201910245117.9A CN201910245117A CN111753949A CN 111753949 A CN111753949 A CN 111753949A CN 201910245117 A CN201910245117 A CN 201910245117A CN 111753949 A CN111753949 A CN 111753949A
- Authority
- CN
- China
- Prior art keywords
- data
- feature
- characteristic
- input
- label
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract description 17
- 238000004364 calculation method Methods 0.000 claims abstract description 105
- 238000000034 method Methods 0.000 claims abstract description 34
- 238000004590 computer program Methods 0.000 claims description 11
- 238000013528 artificial neural network Methods 0.000 abstract description 12
- 238000005457 optimization Methods 0.000 abstract description 7
- 230000008569 process Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Abstract
本发明实施例提供了一种数据块处理方法、装置及电子设备。其中，所述方法包括：获取多个经过裁剪处理的输入数据块，所述输入数据块中的特征数据设置有标签，所述标签用于表示特征数据在经过裁剪处理前所处的位置；针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果；将所述计算结果存放于输出数据块中该特征数据的标签所表示的位置。可以在输入数据块尺寸不同的情况下，实现对输入数据块的元素级操作。由于不要求输入数据块的尺寸相同，因此可以输入数据块的裁剪方式可以相对独立，即可以分别针对每个输入数据块进行独立优化，可以有效降低神经网络的优化难度。
Description
技术领域
本发明涉及深度学习技术领域，特别是涉及一种数据块处理方法、装置及电子设备。
背景技术
在一些应用场景中，神经网络中可以设置有Eltwise(逐元素操作)层，用于对输入的多个尺寸相同的数据块进行元素级操作。示例性的，可以将输入的多个尺寸相同的数据块中，位置相同的元素进行相加或者相乘运算，并将计算结果作为输出数据块中对应位置的元素的取值。
但是，Eltwise层要求输入的数据块尺寸相同，因此如果对其中任一数据块进行裁剪处理，以优化该数据块，则需要对其他所有数据块进行相应的裁剪处理，即无法分别对多个数据块进行独立的裁剪，导致神经网络难以优化。
发明内容
本发明实施例的目的在于提供一种数据块处理方法、装置及电子设备，以实现在可以对尺寸不同的数据块执行元素级操作，以降低神经网络的优化难度。具体技术方案如下：
在本发明实施例的第一方面，提供了一种数据块处理方法，所述方法包括：
获取多个经过裁剪处理的输入数据块，所述输入数据块中的特征数据设置有标签，所述标签用于表示特征数据在经过裁剪处理前所处的位置；
针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果；
将所述计算结果存放于输出数据块中该特征数据的标签所表示的位置。
结合第一方面，在第一种可能的实现方式中，在所述针对所述多个输入数据块中的特征数据，将该特征数据，和与该特征数据的标签一致的特征数据进行预设计算，得到计算结果之前，所述方法还包括：
针对所述多个输入数据块中的每个特征数据，确定是否存在与该特征数据的标签相同的特征数据；
如果存在与该特征数据的标签相同的特征数据，执行所述针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果的步骤。
结合第一方面的第一种可能的实现方式，在第二种可能的实现方式中，所述方法还包括：
如果不存在与该特征数据的标签相同的特征数据，将该特征数据存放于输出数据块中该特征数据的标签所表示的位置，或者，将所述输出数据块中该特征数据的标签所表示的位置置零。
结合第一方面，在第三种可能的实现方式中，所述特征数据为特征元素；
所述针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果，包括：
针对所述多个输入数据块中的每个特征元素，将该特征元素，和与该特征元素标签相同的特征元素进行加法运算、减法运算、乘法运算中的一种运算，得到计算结果。
结合第一方面，在第四种可能的实现方式中，所述特征数据为特征元素组；
所述针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果，包括：
针对所述多个输入数据块中的每个特征元素组，将该特征元素组，和与该特征元素标签相同的特征元素组进行逐元素的加法运算、逐元素的减法运算、逐元素的乘法运算中的一种运算，得到计算结果。
结合第一方面，在第五种可能的实现方式中，所述方法还包括：
对用于提取图像特征的残差网络中eltwise层的多个输入层分别进行独立的裁剪；
所述获取多个经过裁剪处理的输入数据块，包括：
针对所述多个输入层中的每个输入层，获取经过裁剪的该输入层提取到的图像特征，作为所述eltwise层的输入数据块；
所述将所述计算结果存放于输出数据块中该特征数据的标签所表示的位置，包括：
从所述eltwise层与该特征数据的标签对应的输出通道输出所述计算结果，得到所述eltwise层提取到的图像特征，作为所述eltwise层的输出数据块。
在本发明实施例的第二方面，提供了一种数据块处理装置，所述装置包括：
数据块输入模块，用于获取多个经过裁剪处理的输入数据块，所述输入数据块中的特征数据设置有标签，所述标签用于表示特征数据在经过裁剪处理前所处的位置；
逐元素操作模块，用于针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果；
数据块输出模块，用于将所述计算结果存放于输出数据块中该特征数据的标签所表示的位置。
结合第二方面，在第一种可能的实现方式中，所述逐元素操作模块具体用于，在所述针对所述多个输入数据块中的特征数据，将该特征数据，和与该特征数据的标签一致的特征数据进行预设计算，得到计算结果之前，针对所述多个输入数据块中的每个特征数据，确定是否存在与该特征数据的标签相同的特征数据；
如果存在与该特征数据的标签相同的特征数据，执行所述针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果的步骤。
结合第二方面的第一种可能的实现方式，在第二种可能的实现方式中，所述数据块输出模块还用于，如果不存在与该特征数据的标签相同的特征数据，将该特征数据存放于输出数据块中该特征数据的标签所表示的位置，或者，将所述输出数据块中该特征数据的标签所表示的位置置零。
结合第二方面，在第三种可能的实现方式中，所述特征数据为特征元素；
所述逐元素操作模块具体用于，针对所述多个输入数据块中的每个特征元素，将该特征元素，和与该特征元素标签相同的特征元素进行加法运算、减法运算、乘法运算中的一种运算，得到计算结果。
结合第二方面，在第四种可能的实现方式中，所述特征数据为特征元素组；
所述逐元素操作模块具体用于，针对所述多个输入数据块中的每个特征元素组，将该特征元素组，和与该特征元素标签相同的特征元素组进行逐元素的加法运算、逐元素的减法运算、逐元素的乘法运算中的一种运算，得到计算结果。
结合第二方面，在第五种可能的实现方式中，所述装置还包括裁剪模块，用于对用于提取图像特征的残差网络中eltwise层的多个输入层分别进行独立的裁剪；
所述数据块输入模块具体用于，针对所述多个输入层中的每个输入层，获取经过裁剪的该输入层提取到的图像特征，作为所述eltwise层的输入数据块；
所述数据块输出模块具体用于，从所述eltwise层与该特征数据的标签对应的输出通道输出所述计算结果，得到所述eltwise层提取到的图像特征，作为所述eltwise层的输出数据块。
在本发明实施例的第三方面，提供了一种电子设备，包括：
存储器，用于存放计算机程序；
处理器，用于执行存储器上所存放的程序时，实现上述第一方面任一所述的数据块处理方法。
在本发明实施例的第四方面，提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一所述的数据块处理方法。
本发明实施例提供的数据块处理方法、装置及电子设备，可以在输入数据块尺寸不同的情况下，实现对输入数据块的元素级操作。由于不要求输入数据块的尺寸相同，因此可以输入数据块的裁剪方式可以相对独立，即可以分别针对每个输入数据块进行独立优化，可以有效降低神经网络的优化难度。当然，实施本发明的任一产品或方法并不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的数据块处理方法的一种流程示意图；
图2为本发明实施例提供的梯度反向传播方法的一种流程示意图；
图3为本发明实施例提供的用于提取图像特征的残差网络中残差块的结构示意图；
图4为本发明实施例提供的数据块处理装置的一种结构示意图；
图5为本发明实施例提供的电子设备的一种结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
假设相关技术中的Eltwise层输入的数据块为数据块A和数据块B，并且数据块A和数据块B如下所示：
则，相关技术中，如果Eltwise层执行的为Eltwise加法运算，则得到的输出数据块C为：
如果如果Eltwise层执行的伪Eltwise乘法运算，得到的输出数据块C为：
如果数据块A和数据块B的尺寸不同，则数据块A(或数据块B)中的部分元素可能在数据块B(或数据块A)中不存在位置相同的元素，因此无法完成Eltwise运算。因此相关技术中，Eltwise层要求所输入的数据块A和数据块B尺寸保持一致。如果，出于优化神经网络的考虑，对数据块A进行裁剪(即对输出数据块A的卷积层进行裁剪)，裁剪后的数据块A如下所示：
则由裁剪后的数据块A与数据块B的尺寸不一致，因此无法直接输入至Eltwise层，需要对数据块B进行同样的裁剪。但是，数据块A和数据块B为神经网络中不同的两个数据块，对数据块B进行与数据块A同样的裁剪，并不一定能够优化数据块B，或者对数据块B起到的优化效果较差。可见，相关技术中难以通过裁剪对输入Eltwise层的各个数据块进行优化。
有鉴于此，本发明实施例提供了一种数据块处理方法，可以参见图1，图1所示为本发明实施例提供的一种数据块处理方法的流程示意图，可以包括：
S101，获取多个经过裁剪处理的输入数据块，输入数据块中的特征数据设置有标签。
其中，标签用于表示特征数据在经过裁剪处理前所处的位置。标签的设置方式可以根据应用场景的不同而不同，示例性的，在本发明实施例中，标签可以是下标的形式设置的，在其他可选的实施例中，也可以是以其他形式(如上标)设置的。为讨论方便，假设输入数据块在经过裁剪前，如下所示：
在一些应用场景中，假设经过裁剪处理，不设置标签的情况下，输入数据块如下所示：
由于特征元素1在裁剪前位于第一行第一列，因此可以将特征元素1的标签设置为11(在其他可选的实施例中也可以是设置其他标签，如aa、A等，只是标签形式的区别，标签所表示的位置的相同的，因此对于这些可能的情况不做过多讨论)，特征元素2在裁剪前位于第一行第二列，因此可以将特征元素2的标签设置为12，以此类推，经过裁剪处理后的设置有标签的输入数据块可以如下所示：
在另一些应用场景中，假设经过裁剪处理，不设置标签的情况下，输入数据块如下所示：
由于特征元素组(1，2，3)在裁剪前位于第一行，因此可以将特征元素组(1,2,3)的标签设置为1(在其他可选的实施例中也可以是设置其他标签，如aa、A等，只是标签形式的区别，标签所表示的位置的相同的，因此对于这些可能的情况不做过多讨论)，特征元素组(7,8,9)在裁剪前位于第三行，因此可以将特征元素组(7,8,9)的标签设置为3，即裁剪处理后的设置有标签的输入数据块可以如下所示：
S102，针对多个输入数据块中的每个特征数据块，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果。
为讨论方便，假设经过裁剪处理的数据块共有两个(对于3个及3个以上数据块的情况原理相同，因此不在此做过多讨论)，将这两个输入数块块分别记为输入数据块A和输入数据块B，并且假设输入数据块A和输入数据块B如下所示：
可见特征数据(1,2,3)和特征数据(2,2,2)的标签相同，因此可以将这两个特征数据进行预设计算，在该应用场景中，特征数据为特征元素组，则可以是进行逐元素加法运算，也可以是进行逐元素减法运算，还可以是进行逐元素乘法运算，具体进行何种运算取决于具体的应用场景，在此假设进行的运算为逐元素乘法运算，则得到的计算结果为(1*2,2*2,3*2)，即(2,4,6)。
同理，特征数据(7,8,9)和特征数据(5,5,5)的标签相同，进行逐元素乘法运算得到的计算结果为(7*5，8*5,9*5)，即(35,40,45)。
S103，将计算结果存放于输出数据块中该特征数据的标签所表示的位置。
仍以S102中的例子为例，特征数据(1,2,3)和特征数据(2,2,2)的标签为1，在该实施例中表示特征数据在经过裁剪处理前处于第一行，因此可以将得到的计算结果(2,4,6)存放于输出数据块的第一行。同理，可以将计算结果(35,40,45)存放于输出数据块的第三行。
因此输出数据块可以如下所示：
其中，C表示输出数据块。可见输出数据块中第二行的特征元素尚未确定，在一种可选的实施例中，可以将第二行的特征元素置零，即输出数据块如下所示：
在其他可选的实施例中，也可以是将输入数据块B中用于表示第二行的标签(即标签2)所对应的特征数据存放于第二行，即将特征元素组(3,3,3)存放于第二行，即得到的数据块如下所示：
可以理解的是，由于输入数据块A中不存在标签为2的特征数据，因此可以视为输入数据块A中标签2所对应的特征数据为默认值(例如全部由0或1组成的特征数据)，默认值的具体的取值根据应用场景的不同可以不同，例如在该应用场景中可以视为标签2所对应的特征元素组为(0,0,0)或(1,1,1)，如果将(0,0,0)与特征元素组(3,3,3)进行逐元素乘法计算，则得到的计算结果为(0,0,0)，如果将(1,1,1)与特征元素组(3,3,3)进行逐元素乘法计算，则得到的计算结果为(3,3,3)。关于默认值的设置，可以根据具体应用场景的不同而不同，后文将针对该问题展开讨论，在此不做过多论述。
选用该实施例，可以在输入数据块尺寸不同的情况下，实现对输入数据块的元素级操作。由于不要求输入数据块的尺寸相同，因此可以输入数据块的裁剪方式可以相对独立，即可以分别针对每个输入数据块进行独立优化，可以有效降低神经网络的优化难度。
特征数据根据应用场景的不同，可以为输入数据块中的特征元素，也可以为输入数据块中的特征元素组。关于特征元素组，上述例子中已经举例说明，下面将以特征数据为特征元素的情况，对本发明实施例提供的数据块处理方法进行举例说明。
假设共有三个经过裁剪处理的输入数据块，分别记为输入数据块A、输入数据块B和输入数据块C，并且分别如下所示：
可见，输入数据块A中的特征元素1，与输入数据块B中的特征元素1，以及输入数据块C中的特征元素1的标签相同，可以是对这三个特征元素进行预设计算，例如可以是进行加法预算、减法运算、以及乘法运算中的一种运算，具体进行何种运算取决于应用场景，为讨论方便，假设进行的为乘法运算，则可以得到计算结果为1*1*1即1，由于在该实施例中标签11表示的位置为第一行第一列，则可以将1存放于输出数据块中的第一行第一列。
输入数据块B中的特征元素7与输入数据块C中的特征元素4标签相同，但是输入数据块A中并不存在标签相同的特征元素，则可以是将特征元素7与特征元素4进行乘法运算，得到计算结果7*4即28，并将28存放于输出数据块的第三行第一列。可以理解的是，在该实施例中，可以等效于将输入数据块A中与标签31对应的特征元素视为1，并将1与特征元素7以及特征元素4进行乘法运算。
在其他可选的实施例中，由于输入数据块A中并不存在与数据块B中的特征元素7(输入数据块C中的特征元素4)标签相同的特征元素，也可以是将输出数据块中的第三行第一列的特征元素置零。可以理解的是，在该实施例中，可以等效于将输入数据块A中与标签31对应的特征元素视为0，并将0与特征元素7以及特征元素4进行乘法运算。
依此类推，对于将默认值(关于默认值可以参见前述S103的相关描述)视为1的情况，得到的输出数据块可以如下所示：
对于将默认值视为0的情况，得到的输出数据块可以如下所示：
在其他应用场景中，对于不同的输入数据块，默认值可以不同，示例性的，输入数据块A的默认值可以为1，输入数据块C的默认值可以为0，则该应用场景中，得到的输出数据块可以如下所示：
又例如，输入数据块A的默认值可以为0，输入数据块C的默认值可以为1，则该应用场景中，得到的输出数据块可以如下所示：
关于默认值的设置，还可以与所进行的运算相关。示例性的，在进行乘法运算时，默认值可以为0或1，在进行加法运算或减法运算时，默认为可以为0。可以理解的是，在乘法运算时默认值为1，以及在加法运算时默认值0的应用场景中，可以视为由于该输入数据块中缺少与该标签对应的特征元素，因此该输入数据块对输出数据块中该标签所表示的位置的特征元素不作贡献。在乘法运算时默认为0的应用场景中，可以视为由于该输入数据块中缺少与该标签对应的特征元素，因此输出数据块中该标签所表示的位置的特征元素相应缺失。
对于进行乘法运算的情况，仍以上述例子为例，输入数据块A中缺少与标签31对应的特征元素，如果输入数据块B中的特征元素7、或者输入数据块C中的特征元素4是较为重要的特征元素，需要传递至后续的神经网络中，则可以将默认值设置为1，如果输入数据块B中的特征元素7和输入数据块C中的特征元素4是较为不重要的特征元素，不需要传递至后续的神经网络中，则可以将默认值设置为0。
参见图2，图2所示为本发明实施例提供的一种梯度反向传播方法，可以包括：
S201，输出数据块在接收到反向传播的梯度后，根据确定该梯度所针对的特征元素数据的标签。
关于标签可以参见前述S101中的相关描述，在此不再赘述。
S202，输出数据块将该梯度反向传播至设置有该标签的输入数据块。
一个数据块设置有一个标签，在该实施例中，可以是指该数据块中包括设置有该标签的特征数据。
选用该实施例，可以在神经网络中应用有本发明实施例提供的数据块处理方法时，通过梯度反向传播方法对该神经网络进行训练。由于每个输入数据块接受到的反向传播的梯度中只包括与所设置的标签对应的梯度，因此收敛速度更快，所消耗的计算量也更小。
为更清楚的对本发明实施例提供的数据块处理方法进行说明想，下面将结合具体的应用场景，可以参见图3，图3所示为本发明实施例提供的残差网络中的一个残差块的结构示意图，其中310为池化(pool)层1，320为分支(branch)1，331为分支2a，332为分支2b，333为分支2c，340为eltwise层，其中分支2a、分支2b、eltwise层包括有激活函数(relu)。其中，分支2a和分支2b输出的数据块的尺寸保持一致。
该残差网络用于提取图像特征，所提取的图像特征可以是应用于目标检测，也可以是应用于语义分割，还可以是应用于目标分类、目标检索等，本实施例对此不做限制。
在设计该残差块时，可能为了实现较高的性能，导致网络结构复杂度较高，运行时需要花费较多的计算资源。但是在实际应用时可能并不需要如此高的性能，为了降低运行时需要花费的计算资源，可以通过对该残差网络进行裁剪，去除其中部分卷积核中的部分滤波器(filter)。
但是如前述分析，相关技术中eltwise层要求输入的数据块尺寸相同，因此在对该残差块进行裁剪时，需要保证裁剪后的分支1和分支2c输出的数据块尺寸相同，导致裁剪受到了限制。在该限制条件下，可能导致裁剪无法实现或者无法有效降低运行时需要花费的计算资源。
而选用本发明实时提供的数据块处理方法，可以分别对分支1和分支2c(可以理解的是，分支1和分支2c可以视为eltwise层的两个输入层)进行独立的裁剪，即在裁剪分支1和分支2c时无需考虑经过裁剪的分支1和经过裁剪的分支2c输出的数据块是否尺寸相同。
将经过裁剪的分支1和分支2c提取到的图像特征，作为eltwise层的输入数据块，并输入至eltwise层。由eltwise针对输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果。示例性的，可以是将用于输出特征数据的通道的索引作为该特征数据的标签(可以理解的是，对于输入数据块中的特征数据，该特征数据的位置与输出时的通道对应)，并将标签作为超参数预先载入至eltwise层中，eltwise层可以根据该标签将从分支1和分支2c对应的通道输出的特征数据进行计算，得到计算结果，以实现元素级操作。
参见图4，图4所示为本发明实施例提供的数据块处理装置的一种结构示意图，可以包括：
数据块输入模块401，用于获取多个经过裁剪处理的输入数据块，输入数据块中的特征数据设置有标签，标签用于表示特征数据在经过裁剪处理前所处的位置；
逐元素操作模块402，用于针对多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果；
数据块输出模块403，用于将计算结果存放于输出数据块中该特征数据的标签所表示的位置。
在一种可选的实施例中，逐元素操作模块402具体用于，在针对多个输入数据块中的特征数据，将该特征数据，和与该特征数据的标签一致的特征数据进行预设计算，得到计算结果之前，针对多个输入数据块中的每个特征数据，确定是否存在与该特征数据的标签相同的特征数据；
如果存在与该特征数据的标签相同的特征数据，执行针对多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果的步骤。
在一种可选的实施例中，数据块输出模块403还用于，如果不存在与该特征数据的标签相同的特征数据，将该特征数据存放于输出数据块中该特征数据的标签所表示的位置，或者，将输出数据块中该特征数据的标签所表示的位置置零。
在一种可选的实施例中，特征数据为特征元素；
逐元素操作模块402具体用于，针对多个输入数据块中的每个特征元素，将该特征元素，和与该特征元素标签相同的特征元素进行加法运算、减法运算、乘法运算中的一种运算，得到计算结果。
在一种可选的实施例中，特征数据为特征元素组；
逐元素操作模块402具体用于，针对多个输入数据块中的每个特征元素组，将该特征元素组，和与该特征元素标签相同的特征元素组进行逐元素的加法运算、逐元素的减法运算、逐元素的乘法运算中的一种运算，得到计算结果。
在一种可选的实施例中，装置还包括裁剪模块，用于对用于提取图像特征的残差网络中eltwise层的多个输入层分别进行独立的裁剪；
数据块输入模块401具体用于，针对多个输入层中的每个输入层，获取经过裁剪的该输入层提取到的图像特征，作为eltwise层的输入数据块；
数据块输出模块403具体用于，从eltwise层与该特征数据的标签对应的输出通道输出计算结果，得到eltwise层提取到的图像特征，作为eltwise层的输出数据块。
本发明实施例还提供了一种电子设备，如图5所示，包括：
存储器501，用于存放计算机程序；
处理器502，用于执行存储器501上所存放的程序时，实现如下步骤：
获取多个经过裁剪处理的输入数据块，输入数据块中的特征数据设置有标签，标签用于表示特征数据在经过裁剪处理前所处的位置；
针对多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果；
将计算结果存放于输出数据块中该特征数据的标签所表示的位置。
在一种可选的实施例中，在针对多个输入数据块中的特征数据，将该特征数据，和与该特征数据的标签一致的特征数据进行预设计算，得到计算结果之前，方法还包括：
针对多个输入数据块中的每个特征数据，确定是否存在与该特征数据的标签相同的特征数据；
如果存在与该特征数据的标签相同的特征数据，执行针对多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果的步骤。
在一种可选的实施例中，方法还包括：
如果不存在与该特征数据的标签相同的特征数据，将该特征数据存放于输出数据块中该特征数据的标签所表示的位置，或者，将输出数据块中该特征数据的标签所表示的位置置零。
在一种可选的实施例中，特征数据为特征元素；
针对多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果，包括：
针对多个输入数据块中的每个特征元素，将该特征元素，和与该特征元素标签相同的特征元素进行加法运算、减法运算、乘法运算中的一种运算，得到计算结果。
在一种可选的实施例中，特征数据为特征元素组；
针对多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果，包括：
针对多个输入数据块中的每个特征元素组，将该特征元素组，和与该特征元素标签相同的特征元素组进行逐元素的加法运算、逐元素的减法运算、逐元素的乘法运算中的一种运算，得到计算结果。
在一种可选的实施例中，对用于提取图像特征的残差网络中eltwise层的多个输入层分别进行独立的裁剪；
所述获取多个经过裁剪处理的输入数据块，包括：
针对所述多个输入层中的每个输入层，获取经过裁剪的该输入层提取到的图像特征，作为eltwise层的输入数据块；
将计算结果存放于输出数据块中该特征数据的标签所表示的位置，包括：
从eltwise层与该特征数据的标签对应的输出通道输出计算结果，得到eltwise层提取到的图像特征，作为eltwise层的输出数据块。
上述电子设备提到的存储器可以包括随机存取存储器(Random Access Memory，RAM)，也可以包括非易失性存储器(Non-Volatile Memory，NVM)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital SignalProcessing，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，该计算机可读存储介质中存储有指令，当其在计算机上运行时，使得计算机执行上述实施例中任一数据块处理方法。
在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一数据块处理方法。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、电子设备、计算机可读存储介质以及计算机程序产品的实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。
Claims (14)
1.一种数据块处理方法，其特征在于，所述方法包括：
获取多个经过裁剪处理的输入数据块，所述输入数据块中的特征数据设置有标签，所述标签用于表示特征数据在经过裁剪处理前所处的位置；
针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果；
将所述计算结果存放于输出数据块中该特征数据的标签所表示的位置。
2.根据权利要求1所述的方法，其特征在于，在所述针对所述多个输入数据块中的特征数据，将该特征数据，和与该特征数据的标签一致的特征数据进行预设计算，得到计算结果之前，所述方法还包括：
针对所述多个输入数据块中的每个特征数据，确定是否存在与该特征数据的标签相同的特征数据；
如果存在与该特征数据的标签相同的特征数据，执行所述针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果的步骤。
3.根据权利要求2所述的方法，其特征在于，所述方法还包括：
如果不存在与该特征数据的标签相同的特征数据，将该特征数据存放于输出数据块中该特征数据的标签所表示的位置，或者，将所述输出数据块中该特征数据的标签所表示的位置置零。
4.根据权利要求1所述的方法，其特征在于，所述特征数据为特征元素；
所述针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果，包括：
针对所述多个输入数据块中的每个特征元素，将该特征元素，和与该特征元素标签相同的特征元素进行加法运算、减法运算、乘法运算中的一种运算，得到计算结果。
5.根据权利要求1所述的方法，其特征在于，所述特征数据为特征元素组；
所述针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果，包括：
针对所述多个输入数据块中的每个特征元素组，将该特征元素组，和与该特征元素标签相同的特征元素组进行逐元素的加法运算、逐元素的减法运算、逐元素的乘法运算中的一种运算，得到计算结果。
6.根据权利要求1所述的方法，其特征在于，所述方法还包括：
对用于提取图像特征的残差网络中eltwise层的多个输入层分别进行独立的裁剪；
所述获取多个经过裁剪处理的输入数据块，包括：
针对所述多个输入层中的每个输入层，获取经过裁剪的该输入层提取到的图像特征，作为所述eltwise层的输入数据块；
所述将所述计算结果存放于输出数据块中该特征数据的标签所表示的位置，包括：
从所述eltwise层与该特征数据的标签对应的输出通道输出所述计算结果，得到所述eltwise层提取到的图像特征，作为所述eltwise层的输出数据块。
7.一种数据块处理装置，其特征在于，所述装置包括：
数据块输入模块，用于获取多个经过裁剪处理的输入数据块，所述输入数据块中的特征数据设置有标签，所述标签用于表示特征数据在经过裁剪处理前所处的位置；
逐元素操作模块，用于针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果；
数据块输出模块，用于将所述计算结果存放于输出数据块中该特征数据的标签所表示的位置。
8.根据权利要求7所述的装置，其特征在于，所述逐元素操作模块具体用于，在所述针对所述多个输入数据块中的特征数据，将该特征数据，和与该特征数据的标签一致的特征数据进行预设计算，得到计算结果之前，针对所述多个输入数据块中的每个特征数据，确定是否存在与该特征数据的标签相同的特征数据；
如果存在与该特征数据的标签相同的特征数据，执行所述针对所述多个输入数据块中的每个特征数据，将该特征数据，和与该特征数据的标签相同的特征数据进行预设计算，得到计算结果的步骤。
9.根据权利要求8所述的装置，其特征在于，所述数据块输出模块还用于，如果不存在与该特征数据的标签相同的特征数据，将该特征数据存放于输出数据块中该特征数据的标签所表示的位置，或者，将所述输出数据块中该特征数据的标签所表示的位置置零。
10.根据权利要求7所述的装置，其特征在于，所述特征数据为特征元素；
所述逐元素操作模块具体用于，针对所述多个输入数据块中的每个特征元素，将该特征元素，和与该特征元素标签相同的特征元素进行加法运算、减法运算、乘法运算中的一种运算，得到计算结果。
11.根据权利要求7所述的装置，其特征在于，所述特征数据为特征元素组；
所述逐元素操作模块具体用于，针对所述多个输入数据块中的每个特征元素组，将该特征元素组，和与该特征元素标签相同的特征元素组进行逐元素的加法运算、逐元素的减法运算、逐元素的乘法运算中的一种运算，得到计算结果。
12.根据权利要求7所述的装置，其特征在于，所述装置还包括裁剪模块，用于对用于提取图像特征的残差网络中eltwise层的多个输入层分别进行独立的裁剪；
所述数据块输入模块具体用于，针对所述多个输入层中的每个输入层，获取经过裁剪的该输入层提取到的图像特征，作为所述eltwise层的输入数据块；
所述数据块输出模块具体用于，从所述eltwise层与该特征数据的标签对应的输出通道输出所述计算结果，得到所述eltwise层提取到的图像特征，作为所述eltwise层的输出数据块。
13.一种电子设备，其特征在于，包括：
存储器，用于存放计算机程序；
处理器，用于执行存储器上所存放的程序时，实现权利要求1-6任一所述的方法步骤。
14.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-6任一所述的方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910245117.9A CN111753949A (zh) | 2019-03-28 | 2019-03-28 | 一种数据块处理方法、装置及电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910245117.9A CN111753949A (zh) | 2019-03-28 | 2019-03-28 | 一种数据块处理方法、装置及电子设备 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111753949A true CN111753949A (zh) | 2020-10-09 |
Family
ID=72671676
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910245117.9A Pending CN111753949A (zh) | 2019-03-28 | 2019-03-28 | 一种数据块处理方法、装置及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111753949A (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20070033346A1 (en) * | 2005-08-04 | 2007-02-08 | Saffron Technology, Inc. | Associative matrix methods, systems and computer program products using bit plane representations of selected segments |
| CN104077762A (zh) * | 2014-06-26 | 2014-10-01 | 桂林电子科技大学 | 一种基于nsst与聚焦区域检测的多聚焦图像融合方法 |
| US20170103310A1 (en) * | 2015-10-08 | 2017-04-13 | Via Alliance Semiconductor Co., Ltd. | Multi-operation neural network unit |
| CN107798382A (zh) * | 2017-11-21 | 2018-03-13 | 北京地平线信息技术有限公司 | 用于适配卷积神经网络中的特征数据的方法和装置 |
| CN108446716A (zh) * | 2018-02-07 | 2018-08-24 | 武汉大学 | 基于FCN与稀疏-低秩子空间表示融合的PolSAR图像分类方法 |
| CN109325589A (zh) * | 2017-07-31 | 2019-02-12 | 华为技术有限公司 | 卷积计算方法及装置 |
-
2019
- 2019-03-28 CN CN201910245117.9A patent/CN111753949A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20070033346A1 (en) * | 2005-08-04 | 2007-02-08 | Saffron Technology, Inc. | Associative matrix methods, systems and computer program products using bit plane representations of selected segments |
| CN104077762A (zh) * | 2014-06-26 | 2014-10-01 | 桂林电子科技大学 | 一种基于nsst与聚焦区域检测的多聚焦图像融合方法 |
| US20170103310A1 (en) * | 2015-10-08 | 2017-04-13 | Via Alliance Semiconductor Co., Ltd. | Multi-operation neural network unit |
| CN109325589A (zh) * | 2017-07-31 | 2019-02-12 | 华为技术有限公司 | 卷积计算方法及装置 |
| CN107798382A (zh) * | 2017-11-21 | 2018-03-13 | 北京地平线信息技术有限公司 | 用于适配卷积神经网络中的特征数据的方法和装置 |
| CN108446716A (zh) * | 2018-02-07 | 2018-08-24 | 武汉大学 | 基于FCN与稀疏-低秩子空间表示融合的PolSAR图像分类方法 |
Non-Patent Citations (2)
| Title |
|---|
| YAN WANG 等: "Sum-fusion and Cascaded interpolation for Semantic Image Segmentation", 《2017 4TH IAPR ASIAN CONFERENCE ON PATTERN RECOGNITION》, 31 December 2017 (2017-12-31), pages 712 - 717 * |
| 余春艳 等: "融合去卷积与跳跃嵌套结构的显著性区域检测", 《计算机辅助设计与图形学学报》, vol. 30, no. 11, 30 November 2018 (2018-11-30), pages 2150 - 2158 * |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7026092B2 (ja) | 記述情報を決定する方法、装置、電子デバイス、コンピュータ可読媒体およびコンピュータプログラム | |
| US20180365287A1 (en) | Source code search engine | |
| US8468146B2 (en) | System and method for creating search index on cloud database | |
| CN110929860B (zh) | 一种卷积加速运算方法、装置、存储介质及终端设备 | |
| US11580194B2 (en) | Information processing apparatus, information processing method, and program | |
| US11544526B2 (en) | Computing device and method | |
| JP2011113285A (ja) | 公開情報のプライバシー保護装置、公開情報のプライバシー保護方法およびプログラム | |
| US9430303B2 (en) | Simultaneous data copy operation | |
| US9250890B2 (en) | Optimizing performance of a computer system in response to a software change | |
| US20160292064A1 (en) | Iterative test generation based on data source analysis | |
| US20160125003A1 (en) | Secondary queue for index process | |
| US8938484B2 (en) | Maintaining dependencies among supernodes during repeated matrix factorizations | |
| US20230161555A1 (en) | System and method performing floating-point operations | |
| CN111753949A (zh) | 一种数据块处理方法、装置及电子设备 | |
| CN117763024A (zh) | 一种数据分片抽取方法及装置 | |
| US20150170068A1 (en) | Determining analysis recommendations based on data analysis context | |
| CN110019295B (zh) | 数据库检索方法、装置、系统以及存储介质 | |
| CN109213972B (zh) | 确定文档相似度的方法、装置、设备和计算机存储介质 | |
| US20210326130A1 (en) | Scale calculation apparatus and computer readable medium | |
| US20160110162A1 (en) | Non-recursive cascading reduction | |
| US20230419145A1 (en) | Processor and method for performing tensor network contraction in quantum simulator | |
| CN111752912A (zh) | 数据处理方法及装置 | |
| WO2018150588A1 (ja) | 情報処理装置、情報処理方法及び情報処理プログラム | |
| JP7472998B2 (ja) | パラメータ推定装置、秘密パラメータ推定システム、秘密計算装置、それらの方法、およびプログラム | |
| CN117076387B (zh) | 基于磁带的海量小文件的快速归档恢复系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |