CN113762342A - 数据处理方法、装置、电子设备及存储介质 - Google Patents
数据处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113762342A CN113762342A CN202110892844.1A CN202110892844A CN113762342A CN 113762342 A CN113762342 A CN 113762342A CN 202110892844 A CN202110892844 A CN 202110892844A CN 113762342 A CN113762342 A CN 113762342A
- Authority
- CN
- China
- Prior art keywords
- perceptron
- parameter information
- full
- layer
- connection layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title abstract description 10
- 230000008447 perception Effects 0.000 claims abstract description 83
- 230000000903 blocking effect Effects 0.000 claims abstract description 40
- 238000000034 method Methods 0.000 claims abstract description 29
- 238000006243 chemical reaction Methods 0.000 claims abstract description 15
- 238000011176 pooling Methods 0.000 claims description 16
- 238000005192 partition Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 4
- 239000000945 filler Substances 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例提供了数据处理方法、装置、电子设备及存储介质,该方法包括:获取多层感知机的输入数据;将输入数据输入到多层感知机中,得到处理结果,多层感知机包括:全局感知机,被配置为对输入数据进行分块,得到输入数据对应的分块结果,对分块结果进行全局感知处理,得到输入数据对应的全局感知结果;目标全连接层,被配置为对全局感知结果进行处理,得到处理结果,多层感知机通过对原始模型进行转换操作而得到。多层感知机同时具有较快的处理速度和较高的精度,兼顾全局感知能力、分块感知能力、局部感知能力。
Description
技术领域
本申请涉及神经网络领域,具体涉及数据处理方法、装置、电子设备及存储介质。
背景技术
目前,实际应用的用于执行视觉任务的神经网络通常基于诸如ResNet、RegNet的卷积神经网络构建。多层感知机(Multi-Layer Perceptron,简称MLP)虽然具有表征能力强、相同参数量下计算量低的特点,但是由于多层感知机的全连接层没有局部性,导致多层感知机的精度显著低于卷积神经网络,多层感知机无法实际用于构建用于执行视觉任务的神经网络。
发明内容
本申请实施例提供一种数据处理方法、装置、电子设备及存储介质。
本申请实施例提供一种数据处理方法,包括:
获取多层感知机的输入数据;
将所述输入数据输入到多层感知机中,得到处理结果,其中,所述多层感知机包括:
全局感知机,被配置为对所述输入数据进行分块,得到所述输入数据对应的分块结果,对所述分块结果进行全局感知处理,得到所述输入数据对应的全局感知结果;
目标全连接层,被配置为对所述全局感知结果进行处理,得到处理结果,所述多层感知机通过对原始模型进行转换操作而得到,所述原始模型被预先训练,所述原始模型包括:所述全局感知机、分块感知机、局部感知机,所述转换操作包括:确定所述分块感知机对应的全连接层参数信息,确定所述局部感知机对应的全连接层参数信息;基于所述分块感知机对应的全连接层参数信息和所述局部感知机对应的全连接层参数信息,确定目标全连接层参数信息;将所述分块感知机和所述局部感知机转换为具有所述目标全连接层参数信息的所述目标全连接层。
本申请实施例提供一种数据处理装置,包括:
获取单元,被配置为获取多层感知机的输入数据;
处理单元,被配置为将所述输入数据输入到多层感知机中,得到处理结果,其中,所述多层感知机包括:全局感知机,被配置为对所述输入数据进行分块,得到所述输入数据对应的分块结果,对所述分块结果进行全局感知处理,得到所述输入数据对应的全局感知结果;目标全连接层,被配置为对所述全局感知结果进行处理,得到处理结果,所述多层感知机通过对原始模型进行转换操作而得到,所述原始模型被预先训练,所述原始模型包括:所述全局感知机、分块感知机、局部感知机,所述转换操作包括:确定所述分块感知机对应的全连接层参数信息,确定所述局部感知机对应的全连接层参数信息;基于所述分块感知机对应的全连接层参数信息和所述局部感知机对应的全连接层参数信息,确定目标全连接层参数信息;将所述分块感知机和所述局部感知机转换为具有所述目标全连接层参数信息的所述目标全连接层。
本申请实施例提供的数据处理方法、装置,实现了多层感知机仅包括全局感知机、目标全连接层,结构精简,具有更快的处理速度。同时,在全局感知机、分块感知机、局部感知机均被训练之后,将分块感知机和局部感知机转换为具有目标全连接层参数的目标全连接层,得到多层感知机。经过训练之后全局感知机的精度较高,目标全连接层通过在训练分块感知机、局部感知机之后,对分块感知机、局部感知机进行转换得到,在训练分块感知机、局部感知机之后,分块感知机的精度、局部感知机的精度,使得目标全连接层的精度较高,目标全连接层兼顾分块感知能力和局部感知能力。全局感知机的精度较高和目标全连接层的精度较高,使得多层感知机的精度较高。多层感知机同时具有较快的处理速度和较高的精度,兼顾全局感知能力、分块感知能力、局部感知能力。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
图1示出了本申请实施例提供的数据处理方法的流程图;
图2示出了本申请实施例提供的数据处理装置的结构框图;
图3示出了本申请实施例提供的电子设备的结构框图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了本申请实施例提供的数据处理方法的流程图,该方法包括:
步骤101,获取多层感知机的输入数据。
多层感知机的输入数据可以包括多个图像,图像包括C个通道,例如图像为RGB图像,图像包括R通道、G通道、B通道。每一个图像的尺寸均为HxW,H表示图像的高,W表示图像的宽。
步骤102,将多层感知机的输入数据输入到多层感知机中,得到处理结果。
多层感知机包括:全局感知机,目标全连接层。
全局感知机,被配置为对多层感知机的输入数据进行分块,得到输入数据对应的分块结果,对输入数据对应的分块结果进行全局感知处理,得到输入数据对应的全局感知结果。
目标全连接层,被配置为对输入数据对应的全局感知结果进行处理,得到处理结果。
在本申请中,多层感知机的输入数据可以包括多个图像,当对多层感知机的输入数据进行分块时,可以对于每一个图像,将该图像划分为多个尺寸为h×w的图像块,h表示图像块的高,w表示图像块的宽。
对输入数据中的每一个图像进行划分,均可以得到HW/hw个图像块,分块结果包括:多个图像块即对输入数据中的每一个图像进行划分得到的所有图像块,分块结果中的图像块的数量为(NHW)/(hw),N表示输入数据中的图像的数量。图像块可以包括C个通道,例如,图像块可以包括R通道、G通道、B通道,图像块的每一个通道分别来自该图像块所属的图像一个通道。
在本申请中,输入数据对应的全局感知结果包括:每一个图像块对应的经过全局感知的图像块。
对于每一个图像块,该图像块对应的经过全局感知的图像块包括:该图像块的每一个通道对应的经过全局感知的通道。
在本申请中,对输入数据对应的分块结果进行全局感知处理可以包括:分别对每一个图像块进行全局感知,得到每一个图像块对应的经过全局感知的图像块。
在本申请中,全局感知机可以包括平均池化层、全连接层。
对于一个图像块,在对该图像块进行全局感知,得到该图像块对应的经过全局感知的图像块时,可以对于该图像块的每一个通道,将该通道输入到全局感知机中的平均池化层中,得到全局感知机中的平均池化层输出的、该通道对应的平均池化结果;将该通道对应的平均池化结果输入到全局感知机中的全连接层中,得到全局感知机中的全连接层输出的、该通道对应的全局感知像素值。
对于该图像块的每一个通道,可以对于该通道中的每一个像素,将该像素的像素值修改为该像素的原始像素值与该通道对应的全局感知像素值之和。该通道中的像素的原始像素值为在修改该像素的像素值之前该像素的像素值。从而,该通道中的每一个像素的像素值变成该像素的原始像素值与该通道对应的全局感知像素值之和,得到该通道对应的经过全局感知的通道。
该图像块的每一个通道对应的经过全局感知的通道组成该图像块对应的经过全局感知的图像块,从而,对该图像块进行全局感知,得到该图像块对应的经过全局感知的图像块。
在一些实施例中,对输入数据对应的分块结果进行全局感知处理可以包括:分别对每一个图像块进行全局感知,得到每一个图像块对应的经过全局感知的图像块,对于任意一个图像块,对该图像块进行全局感知包括:对于该图像块的每一个通道,将该通道输入到平均池化层中,得到该通道对应的平均池化结果;将该通道对应的平均池化结果输入到全局感知机中的批正则化层中,得到该通道对应的批正则化结果;将该通道对应的批正则化结果输入到第一全连接层中,得到该第一全连接层的输出;将该第一全连接层的输出输入到第二全连接层中,得到该通道对应的全局感知像素值;对于该通道中的每一个像素,将该像素的像素值修改为该像素的原始像素值与该通道对应的全局感知像素值之和,以得到该通道对应的经过全局感知的通道。
在本申请中,全局感知机可以包括平均池化层、批正则化层、第一全连接层、第二全连接层。
对于一个图像块,可以利用平均池化层、批正则化层、第一全连接层、第二全连接层对该图像块进行全局感知,得到该图像块的每一个通道对应的全局感知像素值,对于该图像块的每一个通道,将该通道中的每一个像素的像素值均修改为该通道中的像素的原始像素值与通道对应的全局感知像素值之和,得到该通道对应的经过全局感知的通道,该图像块的每一个通道对应的经过全局感知的通道组成该图像块对应的经过全局感知的图像块。
在本申请中,在全局感知机对输入数据对应的分块结果进行全局感知处理,得到输入数据对应的全局感知结果之后,目标全连接层对输入数据对应的全局感知结果进行处理,得到处理结果。
在目标全连接层对输入数据对应的全局感知结果进行处理,得到处理结果时,可以将输入数据对应的全局感知结果输入到目标全连接层中,目标全连接层输出处理结果。
在本申请中,多层感知机通过对原始模型进行转换操作而得到,原始模型被预先训练。
在本申请中,原始模型包括:全局感知机、分块感知机、局部感知机。
在本申请中,分块感知机可以包括:全连接层,局部感知机可以包括:卷积层。
在对原始模型进行转换操作之前,预先利用训练集,迭代地对原始模型进行训练,直至满足预设训练完成条件。
因此,在对原始模型进行转换操作之前,全局感知机、分块感知机、局部感知机均被训练。
在本申请中,每一次训练原始模型,将该次训练采用的训练数据输入到全局感知机中,得到训练数据对应的全局感知结果。得到训练数据对应的全局感知结果的过程与上述得到输入数据对应的全局感知结果的过程同理,参考上述得到输入数据对应的全局感知结果的过程。
在本申请中,每一次训练原始模型,将该次训练采用的训练数据对应的全局感知结果输入到分块感知机中,得到分块感知机的预测输出。同时,将训练数据对应的全局感知结果输入到局部感知机,得到训练数据对应的全局感知结果。
在本申请中,每一次训练原始模型,根据分块感知机的预测输出、局部感知机的预测输出、第一先验关系,得到原始模型的预测总输出。第一先验关系指示分块感知机的输出、局部感知机的输出、原始模型的总输出之间的对应关系。可以计算原始模型的预测总输出与训练数据的标注结果之间的损失,根据原始模型的预测总输出与训练数据的标注结果之间的损失,更新原始模型的参数的参数值。
在本申请中,转换操作包括:确定分块感知机对应的全连接层参数信息,确定局部感知机对应的全连接层参数信息;基于分块感知机对应的全连接层参数信息和局部感知机对应的全连接层参数信息,确定目标全连接层参数信息;将分块感知机和局部感知机转换为具有目标全连接层参数信息的目标全连接层。
在本申请中,分块感知机中的全连接层可以具有多个分组(group-wise)。分块感知机对应的全连接层参数信息可以为分块感知机中的全连接层的参数信息,分块感知机中的全连接层的参数信息可以包括:分块感知机中的全连接层的每一个参数。
在本申请中,局部感知机可以包括一个卷积层或多个卷积层。
在本申请中,对于局部感知机中的每一个卷积层,可以将该卷积层转换为一个对应于该卷积层的全连接层。
卷积层可以相当于一个共享参数的全连接层,卷积层对应的全连接层可以相当于一个稀疏的全连接层。
对于局部感知机中的每一个卷积层,该卷积层对应的全连接层的参数信息可以包括:该卷积层对应的全连接层的每一个参数。
在本申请中,局部感知机对应的全连接层参数信息可以包括:局部感知机中的每一个卷积层对应的全连接层的参数信息。
在本申请中,基于分块感知机对应的全连接层参数信息和局部感知机对应的全连接层参数信息,确定目标全连接层参数信息,将分块感知机和局部感知机转换为具有目标全连接层参数信息的目标全连接层,相当于将具有分块感知机对应的全连接层参数信息的全连接层、至少一个卷积层对应的全连接层,转换为具有目标全连接层参数信息的目标全连接层。从而,利用目标全连接层替换分块感知机和局部感知机。
在本申请中,当基于分块感知机对应的全连接层参数信息和局部感知机对应的全连接层参数信息,确定目标全连接层参数信息时,可以根据分块感知机对应的全连接层参数信息、局部感知机对应的全连接层参数信息、第二先验信息,确定目标全连接层参数信息。
第二先验关系指示给定的多个全连接层中的每一个全连接层的参数信息、给定的多个全连接层可以被转换为的全连接层的参数信息之间的对应关系。
分块感知机对应的全连接层参数信息属于一个全连接层,分块感知机对应的全连接层参数信息所属的全连接层相当于一个给定的全连接层,局部感知机中的每一个卷积层对应的全连接层分别相当于一个给定的全连接层。分块感知机对应的全连接层参数信息所属的全连接层和局部感知机中的每一个卷积层对应的全连接层相当于给定的多个全连接层,具有目标全连接层参数信息的目标全连接层相当于给定的多个全连接层可以被转换为的全连接层。
在一些实施例中,分块感知机包括:全连接层、批正则化层(batchnormalization,简称BN),确定分块感知机对应的全连接层参数信息包括:基于分块感知机中的全连接层的参数信息和该分块感知机中的批正则化层的参数信息,确定分块感知机对应的全连接层参数信息。
分块感知机的输入作为分块感知机中的全连接层的输入,分块感知机中的全连接层的输出作为分块感知机中的批正则化层的输入,分块感知机中的批正则化层的输出作为分块感知机的输出。
在本申请中,基于分块感知机中的全连接层的参数信息和该分块感知机中的批正则化层的参数信息,确定该分块感知机对应的全连接层参数信息,相当于将该分块感知机中的全连接层和该分块感知机中的批正则化层转换为具有该分块感知机对应的全连接层参数信息、该分块感知机对应的全连接层。
在本申请中,可以基于分块感知机中的全连接层的参数信息、分块感知机中的批正则化层的参数信息、第三先验关系,确定分块感知机对应的全连接层参数信息。
第三先验关系指示给定的一个全连接层的参数信息、给定的一个批正则化层的参数信息、给定的一个全连接层和给定的一个批正则化层可以被转换为的一个全连接层的参数信息之间的对应关系。
分块感知机对应的全连接层参数信息属于一个全连接层,分块感知机对应的全连接层参数信息所属的全连接层相当于一个给定的全连接层,分块感知机对应的全连接层参数信息属于一个全连接层,分块感知机对应的全连接层参数信息属于的全连接层相当于给定的一个全连接层和给定的一个批正则化层可以被转换为的一个全连接层。
在一些实施例中,局部感知机包括:分支,分支包括:卷积层、批正则化层,局部感知机对应的全连接层参数信息包括:局部感知机中的每一个分支对应的全连接层参数信息;确定局部感知机对应的全连接层参数信息包括:对于局部感知机中的每一个分支,基于该分支中的卷积层的参数信息和该分支中的批正则化层的参数信息,确定该分支对应的卷积层参数信息;基于该分支对应的卷积层参数信息,确定该分支对应的全连接层参数信息。
在本申请中,局部感知机可以包括:多个分支,分支可以包括:卷积层、批正则化层。每一个分支中的卷积层的卷积核的尺寸可以不同,每一个分支中的卷积层各自对应一个填充像素(padding),每一个分支中的卷积层各自对应的填充像素不同。
在一些实施例中,局部感知机中的每一个分支中的卷积层分别1x1卷积层、3x3卷积层、5x5卷积层、7x7卷积层。
局部感知机中的每一个分支中的卷积层的卷积核的尺寸分别为1x1,3x3,5x5,7x7、局部感知机中的每一个分支中的卷积层分别为1x1卷积层、3x3卷积层、5x5卷积层、7x7卷积层。1x1卷积层对应的填充像素可以为0,3x3卷积层对应的填充像素可以为1,5x5卷积层对应的填充像素可以为2,7x7卷积层对应的填充像素可以为3。
对于局部感知机中的每一个分支,该分支的输入作为该分支中的卷积层的输入,该分支的卷积处理层的输出作为该分支中的批正则化层的输入,该分支中的批正则化层的输出作为该分支的输出。
对于局部感知机中的每一个分支,当基于该分支中的卷积层的参数信息和该分支中的批正则化层的参数信息,确定该分支对应的卷积层参数信息时,可以根据该分支中的卷积层的参数信息、该分支中的批正则化层的参数信息、第四先验关系,确定该分支对应的卷积层参数信息。
第四先验关系指示给定的一个分支中的卷积层的参数信息、给定的一个分支中的批正则化层的参数信息、给定的一个分支可以被转换为的卷积层的参数信息之间的对应关系。
局部感知机中的分支相当于给定的一个分支,局部感知机中的分支对应的卷积层参数信息属于一个卷积层,部感知机中的分支对应的卷积层参数信息所属的卷积层相当于给定的一个分支可以被转换为的卷积层。
对于局部感知机中的每一个分支,基于该分支中的卷积层的参数信息和该分支中的批正则化层的参数信息,确定该分支对应的卷积层参数信息相当于将该分支转换为一个具有该分支对应的卷积层参数信息的、该分支对应的卷积层。
对于局部感知机中的每一个分支,可以基于该分支对应的卷积层参数信息,确定该分支对应的全连接层参数信息。
对于局部感知机中的每一个分支,当基于该分支对应的卷积层的参数信息,确定该分支对应的全连接层参数信息时,可以根据该分支对应的卷积层的参数信息、第五先验关系,确定该分支对应的全连接层参数信息。
第五先验关系指示给定的一个的卷积层的参数、给定的一个卷积层可以被转换为的全连接层的参数之间的对应关系。
局部感知机中的一个分支对应的卷积层参数信息属于一个卷积层,局部感知机中的一个分支对应的卷积层参数信息所属的卷积层相当于给定的一个卷积层,该分支对应的全连接层参数信息属于一个全连接层,该分支对应的全连接层参数信息所属的全连接层相当于给定的一个卷积层可以被转换为的全连接层。
在一些实施例中,基于分块感知机对应的全连接层参数信息和局部感知机对应的全连接层参数信息,确定目标全连接层参数信息包括:将分块感知机对应的全连接层参数信息和局部感知机对应的全连接层参数信息相加,得到目标全连接层参数信息。
分块感知机对应的全连接层的输出通道的数量与局部感知机中的分支对应的全连接层的输出通道的数量相同。
分块感知机对应的全连接层为具有分块感知机对应的全连接层参数信息的、全连接层。
局部感知机对应的全连接层参数信息包括:局部感知机中的每一个分支对应的全连接层参数信息。
对于局部感知机中的一个分支,该分支对应的全连接层为具有该分支对应的全连接层参数信息的全连接层。
分块感知机对应的全连接层参数信息可以包括:多个对应于分块感知机对应的全连接层的输出通道的子参数信息。每一个对应于分块感知机的输出通道的子参数信息各自对应分块感知机对应的全连接层的一个输出通道。
对于局部感知机中的一个分支对应的全连接层参数信息,该分支对应的全连接层参数信息可以包括:多个对应于该分支对应的连接层的输出通道的子参数信息,每一个对应于该分支对应的连接层的输出通道的子参数信息各自对应该分支对应的全连接层的一个输出通道。
在本申请中,在将分块感知机对应的全连接层参数信息和局部感知机对应的全连接层参数信息相加时,可以对于每一个输出通道序号i,将该分块感知机对应的全连接层参数信息中的对应于第i个输出通道的子参数信息与每一个分支对应的全连接层参数信息中的对应于第i个输出通道的子参数信息相加,得到目标全连接层参数信息的、对应于第i个输出通道的子参数信息。
目标全连接层参数信息的、每一个对应于相应的输出通道的子参数信息构成目标全连接层参数信息。
请参考图2,其示出了本申请实施例提供的数据处理装置的结构框图。数据处理装置包括:获取单元201,处理单元202。
获取单元201被配置为获取多层感知机的输入数据;
处理单元202被配置为将所述输入数据输入到多层感知机中,得到处理结果,其中,所述多层感知机包括:全局感知机,被配置为对所述输入数据进行分块,得到所述输入数据对应的分块结果,对所述分块结果进行全局感知处理,得到所述输入数据对应的全局感知结果;目标全连接层,被配置为对所述全局感知结果进行处理,得到处理结果,所述多层感知机通过对原始模型进行转换操作而得到,所述原始模型被预先训练,所述原始模型包括:所述全局感知机、分块感知机、局部感知机,所述转换操作包括:确定所述分块感知机对应的全连接层参数信息,确定所述局部感知机对应的全连接层参数信息;基于所述分块感知机对应的全连接层参数信息和所述局部感知机对应的全连接层参数信息,确定目标全连接层参数信息;将所述分块感知机和所述局部感知机转换为具有所述目标全连接层参数信息的所述目标全连接层。
在一些实施例中,所述分块感知机包括:全连接层、批正则化层,确定所述分块感知机对应的全连接层参数信息包括:
基于所述分块感知机中的全连接层的参数信息和所述分块感知机中的批正则化层的参数信息,确定所述分块感知机对应的全连接层参数信息。
在一些实施例中,所述局部感知机包括:分支,所述分支包括:卷积层、批正则化层,所述局部感知机对应的全连接层参数信息包括:所述局部感知机中的每一个分支对应的全连接层参数信息;确定所述局部感知机对应的全连接层参数信息包括:
对于所述局部感知机中的每一个分支,基于所述分支中的卷积层的参数信息和所述分支中的批正则化层的参数信息,确定所述分支对应的卷积层参数信息;基于所述分支对应的卷积层参数信息,确定所述分支对应的全连接层参数信息。
在一些实施例中,基于所述分块感知机对应的全连接层参数信息和所述局部感知机对应的全连接层参数信息,确定目标全连接层参数信息包括:
将所述分块感知机对应的全连接层参数信息和所述局部感知机对应的全连接层参数信息相加,得到目标全连接层参数信息。
在一些实施例中,所述局部感知机中的每一个分支中的卷积层分别1x1卷积层、3x3卷积层、5x5卷积层、7x7卷积层。
在一些实施例中,所述分块结果包括:多个图像块,所述全局感知结果包括:每一个所述图像块对应的经过全局感知的图像块,所述图像块对应的经过全局感知的图像块包括:所述图像块的每一个通道对应的经过全局感知的通道;所述全局感知处理包括:
分别对每一个所述图像块进行全局感知,得到每一个所述图像块对应的经过全局感知的图像块,所述全局感知包括:
对于所述图像块的每一个通道,将所述通道输入到平均池化层中,得到所述通道对应的平均池化结果;将所述通道对应的平均池化结果输入到所述全局感知机中的批正则化层中,得到所述通道对应的批正则化结果;将所述通道对应的批正则化结果输入到第一全连接层中,得到所述第一全连接层的输出;将所述第一全连接层的输出输入到所述第二全连接层中,得到所述通道对应的全局感知像素值;对于所述通道中的每一个像素,将所述像素的像素值修改为所述像素的原始像素值与所述通道对应的全局感知像素值之和,以得到所述通道对应的经过全局感知的通道。
图3是本实施例提供的一种电子设备的结构框图。电子设备包括处理组件322,其进一步包括一个或多个处理器,以及由存储器332所代表的存储器资源,用于存储可由处理组件322执行的指令,例如应用程序。存储器332中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件322被配置为执行指令,以执行上述方法。
电子设备还可以包括一个电源组件326被配置为执行电子设备的电源管理,一个有线或无线网络接口350被配置为将电子设备连接到网络,和一个输入输出(I/O)接口358。电子设备可以操作基于存储在存储器332的操作系统,例如Windows ServerTM,MacOS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
在示例性实施例中,还提供了一种包括指令的存储介质,例如包括指令的存储器,上述指令可由电子设备执行以完成上述数据处理方法。可选地,存储介质可以是非临时性计算机可读存储介质,例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由下面的权利要求指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。
Claims (10)
1.一种数据处理方法,其特征在于,所述方法包括:
获取多层感知机的输入数据;
将所述输入数据输入到多层感知机中,得到处理结果,其中,所述多层感知机包括:
全局感知机,被配置为对所述输入数据进行分块,得到所述输入数据对应的分块结果,对所述分块结果进行全局感知处理,得到所述输入数据对应的全局感知结果;
目标全连接层,被配置为对所述全局感知结果进行处理,得到处理结果,所述多层感知机通过对原始模型进行转换操作而得到,所述原始模型被预先训练,所述原始模型包括:所述全局感知机、分块感知机、局部感知机,所述转换操作包括:确定所述分块感知机对应的全连接层参数信息,确定所述局部感知机对应的全连接层参数信息;基于所述分块感知机对应的全连接层参数信息和所述局部感知机对应的全连接层参数信息,确定目标全连接层参数信息;将所述分块感知机和所述局部感知机转换为具有所述目标全连接层参数信息的所述目标全连接层。
2.根据权利要求1所述的方法,其特征在于,所述分块感知机包括:全连接层、批正则化层,确定所述分块感知机对应的全连接层参数信息包括:
基于所述分块感知机中的全连接层的参数信息和所述分块感知机中的批正则化层的参数信息,确定所述分块感知机对应的全连接层参数信息。
3.根据权利要求1所述的方法,其特征在于,所述局部感知机包括:分支,所述分支包括:卷积层、批正则化层,所述局部感知机对应的全连接层参数信息包括:所述局部感知机中的每一个分支对应的全连接层参数信息;确定所述局部感知机对应的全连接层参数信息包括:
对于所述局部感知机中的每一个分支,基于所述分支中的卷积层的参数信息和所述分支中的批正则化层的参数信息,确定所述分支对应的卷积层参数信息;基于所述分支对应的卷积层参数信息,确定所述分支对应的全连接层参数信息。
4.根据权利要求3所述的方法,其特征在于,基于所述分块感知机对应的全连接层参数信息和所述局部感知机对应的全连接层参数信息,确定目标全连接层参数信息包括:
将所述分块感知机对应的全连接层参数信息和所述局部感知机对应的全连接层参数信息相加,得到目标全连接层参数信息。
5.根据权利要求3所述的方法,其特征在于,所述局部感知机中的每一个分支中的卷积层分别1x1卷积层、3x3卷积层、5x5卷积层、7x7卷积层。
6.根据权利要求1-5中任一项所述的方法,所述分块结果包括:多个图像块,所述全局感知结果包括:每一个所述图像块对应的经过全局感知的图像块,所述图像块对应的经过全局感知的图像块包括:所述图像块的每一个通道对应的经过全局感知的通道;所述全局感知处理包括:
分别对每一个所述图像块进行全局感知,得到每一个所述图像块对应的经过全局感知的图像块,所述全局感知包括:
对于所述图像块的每一个通道,将所述通道输入到平均池化层中,得到所述通道对应的平均池化结果;将所述通道对应的平均池化结果输入到所述全局感知机中的批正则化层中,得到所述通道对应的批正则化结果;将所述通道对应的批正则化结果输入到第一全连接层中,得到所述第一全连接层的输出;将所述第一全连接层的输出输入到所述第二全连接层中,得到所述通道对应的全局感知像素值;对于所述通道中的每一个像素,将所述像素的像素值修改为所述像素的原始像素值与所述通道对应的全局感知像素值之和,以得到所述通道对应的经过全局感知的通道。
7.一种图像处理装置,其特征在于,所述装置包括:
获取单元,被配置为获取多层感知机的输入数据;
处理单元,被配置为将所述输入数据输入到多层感知机中,得到处理结果,其中,所述多层感知机包括:全局感知机,被配置为对所述输入数据进行分块,得到所述输入数据对应的分块结果,对所述分块结果进行全局感知处理,得到所述输入数据对应的全局感知结果;目标全连接层,被配置为对所述全局感知结果进行处理,得到处理结果,所述多层感知机通过对原始模型进行转换操作而得到,所述原始模型被预先训练,所述原始模型包括:所述全局感知机、分块感知机、局部感知机,所述转换操作包括:确定所述分块感知机对应的全连接层参数信息,确定所述局部感知机对应的全连接层参数信息;基于所述分块感知机对应的全连接层参数信息和所述局部感知机对应的全连接层参数信息,确定目标全连接层参数信息;将所述分块感知机和所述局部感知机转换为具有所述目标全连接层参数信息的所述目标全连接层。
8.根据权利要求7所述的装置,其特征在于,所述分块感知机包括:全连接层、批正则化层,确定所述分块感知机对应的全连接层参数信息包括:基于所述分块感知机中的全连接层的参数信息和所述分块感知机中的批正则化层的参数信息,确定所述分块感知机对应的全连接层参数信息。
9.一种电子设备,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如权利要求1至6中任一项所述的方法。
10.一种存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行如权利要求1至6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110892844.1A CN113762342B (zh) | 2021-08-04 | 2021-08-04 | 数据处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110892844.1A CN113762342B (zh) | 2021-08-04 | 2021-08-04 | 数据处理方法、装置、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113762342A true CN113762342A (zh) | 2021-12-07 |
CN113762342B CN113762342B (zh) | 2024-03-29 |
Family
ID=78788697
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110892844.1A Active CN113762342B (zh) | 2021-08-04 | 2021-08-04 | 数据处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113762342B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190147602A1 (en) * | 2017-11-13 | 2019-05-16 | Qualcomm Technologies, Inc. | Hybrid and self-aware long-term object tracking |
CN110503149A (zh) * | 2019-08-26 | 2019-11-26 | 咪咕文化科技有限公司 | 一种图像中局部特征分类方法及系统 |
CN112836804A (zh) * | 2021-02-08 | 2021-05-25 | 北京迈格威科技有限公司 | 图像处理方法、装置、电子设备及存储介质 |
WO2021102762A1 (zh) * | 2019-11-27 | 2021-06-03 | 华为技术有限公司 | 一种感知网络及图像处理方法 |
-
2021
- 2021-08-04 CN CN202110892844.1A patent/CN113762342B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190147602A1 (en) * | 2017-11-13 | 2019-05-16 | Qualcomm Technologies, Inc. | Hybrid and self-aware long-term object tracking |
CN110503149A (zh) * | 2019-08-26 | 2019-11-26 | 咪咕文化科技有限公司 | 一种图像中局部特征分类方法及系统 |
WO2021102762A1 (zh) * | 2019-11-27 | 2021-06-03 | 华为技术有限公司 | 一种感知网络及图像处理方法 |
CN112836804A (zh) * | 2021-02-08 | 2021-05-25 | 北京迈格威科技有限公司 | 图像处理方法、装置、电子设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
马小晴;桑庆兵;: "基于LBP和深度学习的手写签名识别算法", 量子电子学报, no. 01 * |
Also Published As
Publication number | Publication date |
---|---|
CN113762342B (zh) | 2024-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101967089B1 (ko) | 컨볼루션 신경망 기반의 완전 기준 이미지 품질 평가 | |
CN107967669A (zh) | 图片处理的方法、装置、计算机设备及存储介质 | |
CN109997168B (zh) | 用于生成输出图像的方法和系统 | |
CN111192292A (zh) | 基于注意力机制与孪生网络的目标跟踪方法及相关设备 | |
CN110176024B (zh) | 在视频中对目标进行检测的方法、装置、设备和存储介质 | |
CN110517186B (zh) | 消除发票印章的方法、装置、存储介质和计算机设备 | |
CN109377508B (zh) | 图像处理方法和装置 | |
CN111369550A (zh) | 图像配准与缺陷检测方法、模型、训练方法、装置及设备 | |
CN112232426B (zh) | 目标检测模型的训练方法、装置、设备及可读存储介质 | |
CN110827269B (zh) | 农作物生长变化状况检测方法、装置、设备及介质 | |
US20220375211A1 (en) | Multi-layer perceptron-based computer vision neural networks | |
CN113888514A (zh) | 导地线缺陷检测方法、装置、边缘计算设备和存储介质 | |
CN112598110B (zh) | 神经网络构建方法、装置、设备及介质 | |
CN111242066A (zh) | 大尺寸图像目标检测方法、装置及计算机可读存储介质 | |
CN111327946A (zh) | 视频质量评价和特征字典的训练方法、装置和介质 | |
CN111612721B (zh) | 一种图像修复模型训练、卫星图像修复方法及装置 | |
CN113762342B (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN116486071A (zh) | 图像分块特征提取方法、装置及存储介质 | |
CN113706390A (zh) | 图像转换模型训练方法和图像转换方法、设备及介质 | |
CN114494682A (zh) | 一种物体位置预测方法、装置、设备及存储介质 | |
CN110545373B (zh) | 空间环境的感知方法及装置 | |
CN113066038A (zh) | 图像评估方法、装置、电子设备及计算机存储介质 | |
US20230060988A1 (en) | Image processing device and method | |
CN116665004B (zh) | 一种扩展现实图像处理方法、系统、设备及存储介质 | |
CN113392232A (zh) | 一种数据质量评估方法、装置、计算机及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |