CN113989569A - 图像处理方法、装置、电子设备和存储介质 - Google Patents
图像处理方法、装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN113989569A CN113989569A CN202111279621.4A CN202111279621A CN113989569A CN 113989569 A CN113989569 A CN 113989569A CN 202111279621 A CN202111279621 A CN 202111279621A CN 113989569 A CN113989569 A CN 113989569A
- Authority
- CN
- China
- Prior art keywords
- feature
- features
- mapping
- dimension
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了一种图像处理方法,涉及人工智能领域,尤其涉及计算机视觉和深度学习技术。具体实现方案为:对目标图像进行特征提取,得到目标图像的多个图像特征;将多个图像特征输入多个卷积通道,得到多个维度的映射特征;以及针对每个维度的映射特征,根据多个卷积通道各自的重要度,将映射特征与特征均值进行融合,得到每个维度的融合特征。本公开还提供了一种图像处理装置、电子设备和存储介质。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及计算机视觉和深度学习技术。更具体地,本公开提供了一种图像处理方法、装置、电子设备和存储介质。
背景技术
在训练过程中,图像处理模型可以根据权重对提取出的特征进行加权,以得到最终的图像处理结果。这个权重可以是一个超参。
发明内容
本公开提供了一种图像处理方法、装置、设备以及存储介质。
根据第一方面,提供了一种图像处理方法,该方法包括:获取目标图像以及获取多个类别的特征均值;对上述目标图像进行特征提取,得到上述目标图像的多个图像特征;将上述多个图像特征输入多个卷积通道,得到多个维度的映射特征;以及针对每个维度的映射特征,根据上述多个卷积通道各自的重要度,将上述映射特征与上述特征均值进行融合,得到每个维度的融合特征。
根据第二方面,提供了一种图像处理装置,该装置包括:获取模块,用于获取目标图像以及获取多个类别的特征均值;特征提取模块,用于对上述目标图像进行特征提取,得到上述目标图像的多个图像特征;获得模块,用于将上述多个图像特征输入多个卷积通道,得到多个维度的映射特征;以及融合模块,用于针对每个维度的映射特征,根据上述多个卷积通道各自的重要度,将上述映射特征与上述特征均值进行融合,得到每个维度的融合特征。
根据第三方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行根据本公开提供的方法。
根据第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行根据本公开提供的方法。
根据第五方面,提供了一种计算机程序产品,包括计算机程序,上述计算机程序在被处理器执行时实现根据本公开提供的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开的一个实施例的可以应用图像处理方法和装置的示例性系统架构示意图;
图2是根据本公开的一个实施例的图像处理方法的流程图;
图3是根据本公开的一个实施例的图像处理方法的原理图;
图4是根据本公开的一个实施例的图像处理装置的框图;以及
图5是根据本公开的一个实施例的可应用图像处理方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
相关技术中,在训练图像处理模型或图像处理的过程中,模型中用于加权的权重是静态的,不是动态更新的。而且这个权重是人为设置的,不能准确地反应不同图像的特点。同时,模型中每个通道的权重都是相同的,不能进一步体现出多通道对于图像处理的作用。
图1是根据本公开一个实施例的可以应用图像处理方法和装置的示例性系统架构示意图。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括多个终端设备101、网络102和服务器103。网络102用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线和/或无线通信链路等等。
用户可以使用终端设备101通过网络102与服务器103进行交互,以接收或发送消息等。终端设备101可以是各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机等等。
本公开实施例所提供的图像处理方法一般可以由服务器103执行。相应地,本公开实施例所提供的图像处理装置一般可以设置于服务器103中。本公开实施例所提供的图像处理方法也可以由不同于服务器103且能够与终端设备101和/或服务器103通信的服务器或服务器集群执行。相应地,本公开实施例所提供的图像处理装置也可以设置于不同于服务器103且能够与终端设备101和/或服务器103通信的服务器或服务器集群中
图2是根据本公开一个实施例的图像处理方法的流程图。
如图2所示,该方法200可以包括操作S210至操作S240。
在操作S210,获取目标图像以及获取多个类别的特征均值。
在本公开实施例中,多个类别的特征均值可为目标图像中的多个类别的特征均值。
例如,多个类别的特征均值可以为M*C的向量,M可以表示目标图像中的目标数据集。目标数据集包括目标对象的类别。C可以为目标对象的特征维度。在图像处理模型训练过程中,通过匹配策略,确定与样本图像标注的真实物体匹配的目标对象产生的特征,并通过指数移动平均的方式对上一轮训练过程中预测的多个类别的特征均值进行更新,以使在整个目标数据集上学到所有目标类别的特征并通过平均的方式进行记录。
在一些示例,目标图像可以包括车辆、人、植物、动物等任一目标对象,类别可以包括车辆、人等类别。在一些示例中,每轮训练过程中的预测的多个类别的特征可以存储于一缓存(Memory)中。在一些示例中,在多个类别的特征存储于一缓存(Memory)中之后,可以对多个类别的特征进行特征增强,比如可以采用Non Local或者Multi-Attention(多注意力)的方式进行特征增强。
又例如,多个类别的特征均值可为设定的特征均值。
在操作S220,对目标图像进行特征提取,得到目标图像的多个图像特征。
在本公开实施例中,可以利用主干网络对目标图像进行特征提取,得到目标图像的多个图像特征。
例如,可以利用常见的主干网络对目标图像进行特征提取,得到多个图像特征。在一些示例中,主干网络可以包括残差网络(ResNet)系列(比如ResNet 34、ResNet 50、ResNet 101等网络)、DarkNet(使用C语言和CUDA编写的开源的神经网络框架)系列(比如DarkNet19、DarkNet53)等。在一些示例中,针对不同的应用场景,可以选择不同的主干网络。比如,可以选择轻量级结构的网络,比如选择Resnet18、Resnet34、Darknet19等网络。可以选择中型结构的网络,比如选择Resnet50、ResneXt50、Darknet53等网络。可以选择重型结构的网络,比如可以选择Resnet101、ResneXt152等网络。
在操作S230,将多个图像特征输入多个卷积通道,得到多个维度的映射特征。
在本公开实施例中,可以将多个图像特征与对应的位置特征进行融合,得到输入特征。
例如,位置特征用于指示多个图像特征中对应特征在目标图像中的坐标。
例如,可以将每个图像特征和对应位置特征进行向量相加或拼接,得到输入特征。
在本公开实施例中,可以将输入特征输入编码器进行编码,以得到编码特征。
例如,可以将输入特征输入Transformer模型的编码器进行编码,得到编码特征。例如,Transformer模型的编码器包含多个卷积通道。
在本公开实施例中,可以将编码特征输入解码器进行解码,以得到目标图像中目标对象的解码特征。
例如,可以将编码特征输入Transformer模型的解码器进行解码,得到目标图像中目标对象的解码特征。例如,Transformer模型的解码器包含多个卷积通道。
在本公开实施例中,将目标对象的解码特征作为多个维度的映射特征。
例如,可以将Transformer模型解码器的输出作为多个维度的映射特征。在一个示例中,映射特征的数量少于输入特征的数量。
例如,编码器和解码器包括相同数目的卷积通道,作为多个卷积通道。
在操作S240,针对每个维度的映射特征,根据多个卷积通道各自的重要度,将映射特征与特征均值进行融合,得到每个维度的融合特征。
在本公开实施例中,可以针对多个维度中的至少一个维度,确定针对至少一个维度的映射特征的卷积通道重要度。
例如,Transformer模型解码器的输出中可以包含每个解码特征的重要度。
在本公开实施例中,可以根据卷积通道重要度,确定针对至少一个维度的映射特征的第一权重。
例如,一个维度的映射特征可以是根据一个或几个卷积通道的输出得到的,即一个维度的映射特征与一个或几个卷积通道相关。第一权重与重要度的大小成正比。即卷积通道的重要度越大。与该卷积通道相关的一个维度的映射特征的第一权重也越大。
在本公开实施例中,可以利用第一权重对至少一个维度的映射特征进行加权。
例如,可以利用与该维度的映射特征对应的第一权重,对该维度的映射特征进行加权,得到该维度的经加权后的映射特征。采用类似的方式,可以得到至少一个维度的经加权后的映射特征。
在本公开实施例中,可以针对多个维度中至少一个维度的映射特征,根据至少一个维度的映射特征与多个类别的特征均值之间的相似度,分别确定与多个类别的特征均值对应的第二权重。
例如,针对一个维度的映射特征,可以计算该映射特征与多个类别的特征均值之间的余弦相似度,以确定该映射特征与多个类别的特征均值度应的第二权重。
在一个示例中,第二权重与相似度的大小成正比,即与映射特征的相似度越大的特征均值的第二权重也越大。
在本公开实施例中,可以利用第二权重对多个类别的特征均值进行加权。
例如,可以利用每个类别的特征均值的第二权重对该类别的特征均值进行加权,得到该类别的经加权后的特征均值。采用类似的方式,可以多个类别的经加权后的特征均值。
在本公开实施例中,可以将每个维度的经加权后的映射特征和多个类别的经加权后的特征均值进行融合,得到每个维度的融合特征。
例如,可以将经加权后的映射特征和多个类别的经加权后特征均值进行向量相加,得到每个维度的融合特征。
例如,可以将经加权后的映射特征和一个类别的经加权后特征均值进行向量相加,得到每个维度的融合特征。该经加权后的映射特征表征的类别,与该类别的经加权后特征均值所表征的类别相匹配或相同。
在本公开实施例中,目标图像标注有实际类别。
例如,目标图像具有与之对应的标签。在一个示例中,目标图像中的目标对象为车辆,相应地,该目标图像标注有车辆这一类别。
在本公开实施例中,确定目标图像中目标对象的预测类别。
例如,可以利用FFN(Feed-Forward Network,前馈网络)模型预测目标图像中目标对象的类别,以得到该目标对象的预测类别。在一个示例中,该目标对象的预测类别也为车辆。
例如,目标对象可以为多个。在一个示例中,目标对象的预测类别分别是车辆、人、植物、动物。
在本公开实施例中,确定多个类别中预测类别与实际类别相匹配的目标类别。
例如,多个类别包括车辆、人、动物和植物。可以确定车辆为与预测类别相匹配的目标类别。
例如,多个类别包括机动车、人、动物、植物、非机动车。目标对象的预测类别为4个,分别是车辆、人、植物、动物。可以确定机动车、人、动物、植物分别为与4个预测类别相匹配的目标类别。
在本公开实施例中,根据与目标类别相对应的融合特征,更新与目标类别对应的特征均值。
例如,可以将与目标类别相对应的融合特征,加入Memory中。
例如,可以将与目标类别相对应的融合特征替换该类别的特征中的一个特征。
通过本公开实施例,将映射特征和特征均值融合,可以得到每个维度的融合特征,可以利用融合特征更新Memory中的多个类别的特征均值。重要度与卷积通道有关,且重要度是动态更新的,可以反映出不同图像和不同通道的影响,可以提高模型的表达能力。
图3是根据本公开一个实施例的图像处理方法的原理图。
如图3所示,利用主干网络301对所述目标图像进行特征提取后,得到多个图像特征。多个图像特征同位置特征融合后,可以得到多个输入特征。编码器302的多个卷积通道以多个输入特征为输入,输出多个编码特征。解码器303的多个卷积通道以多个编码特征为输入,进行解码,输出多个解码特征。可以将多个解码特征作为多个维度的映射特征。编码器302可以是Transformer模型的编码器,解码器303可以是Transformer模型的解码器。
解码器303在输出多个解码特征时,也可以预测每个卷积通道的重要度。针对每个维度的映射特征,根据所述多个卷积通道各自的重要度,将映射特征和Memory 305中的一个或多个类别的特征均值融合,得到每个维度的融合特征。进而,可以得到多个维度的融合特征。
例如,假设融合特征的个数为4个,如图3所示,可以通过预测层304(FFN模型)利用4个融合特征进行图像处理(比如目标检测),得到4个类别(class)和表征该类别的位置的检测框(box)。
图4是根据本公开的一个实施例的图像处理装置的框图。
如图4所示,该装置400可以包括获取模块410、特征提取模块420、获得模块430和融合模块440。
获取模块410,用于获取目标图像以及获取多个类别的特征均值。
特征提取模块420,用于对上述目标图像进行特征提取,得到上述目标图像的多个图像特征。
获得模块430,用于将上述多个图像特征输入多个卷积通道,得到多个维度的映射特征。
融合模块440,用于针对每个维度的映射特征,根据上述多个卷积通道各自的重要度,将上述映射特征与上述特征均值进行融合,得到每个维度的融合特征。
在一些实施例中,上述融合模块包括:第一确定子模块,用于针对多个维度中的至少一个维度,确定针对上述至少一个维度的映射特征的卷积通道重要度;第二确定子模块,用于根据上述卷积通道重要度,确定针对上述至少一个维度的映射特征的第一权重;以及第一加权子模块,用于利用上述第一权重对上述至少一个维度的映射特征进行加权。
在一些实施例中,上述融合模块还包括:第三确定子模块,用于针对多个维度中至少一个维度的映射特征,根据上述至少一个维度的映射特征与上述多个类别的特征均值之间的相似度,分别确定与多个类别的特征均值对应的第二权重;第二加权子模块,用于利用上述第二权重对上述多个类别的特征均值进行加权。
在一些实施例中,上述目标图像标注有实际类别;上述装置400还包括:第一确定模块,用于确定上述目标图像中目标对象的预测类别;第二确定模块,用于确定上述多个类别中上述预测类别与上述实际类别相匹配的目标类别;更新模块,用于根据与上述目标类别相对应的融合特征,更新与上述目标类别对应的特征均值。
在一些实施例中,上述获得模块包括:融合子模块,用于将上述多个图像特征与对应的位置特征进行融合,得到输入特征,其中,上述位置特征用于指示上述多个图像特征中对应特征在上述目标图像中的坐标;编码子模块,用于将上述输入特征输入编码器进行编码,以得到编码特征;解码子模块,用于将上述编码特征输入解码器进行解码,以得到上述目标图像中目标对象的解码特征;获得子模块,用于将上述目标对象的解码特征作为上述多个维度的映射特征。
在一些实施例中,上述编码器和上述解码器包括相同数目的卷积通道,作为上述多个卷积通道。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图5所示,设备500包括计算单元501,其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序,来执行各种适当的动作和处理。在RAM 503中,还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
设备500中的多个部件连接至I/O接口505,包括:输入单元506,例如键盘、鼠标等;输出单元507,例如各种类型的显示器、扬声器等;存储单元508,例如磁盘、光盘等;以及通信单元509,例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理,例如图像处理方法。例如,在一些实施例中,图像处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时,可以执行上文描述的图像处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行图像处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (15)
1.一种图像处理方法,包括:
获取目标图像以及获取多个类别的特征均值;
对所述目标图像进行特征提取,得到所述目标图像的多个图像特征;
将所述多个图像特征输入多个卷积通道,得到多个维度的映射特征;以及
针对每个维度的映射特征,根据所述多个卷积通道各自的重要度,将所述映射特征与所述特征均值进行融合,得到每个维度的融合特征。
2.根据权利要求1所述的方法,其中,所述根据所述特征融合模型的卷积通道重要度,将所述映射特征与所述特征均值进行融合,得到各维度的融合特征,包括:
针对多个维度中的至少一个维度,确定针对所述至少一个维度的映射特征的卷积通道重要度;
根据所述卷积通道重要度,确定针对所述至少一个维度的映射特征的第一权重;以及
利用所述第一权重对所述至少一个维度的映射特征进行加权。
3.根据权利要求1或2所述的方法,其中,所述根据所述特征融合模型的卷积通道重要度,将所述映射特征与所述特征均值进行融合,得到各维度的融合特征,还包括:
针对多个维度中至少一个维度的映射特征,根据所述至少一个维度的映射特征与所述多个类别的特征均值之间的相似度,分别确定与多个类别的特征均值对应的第二权重;
利用所述第二权重对所述多个类别的特征均值进行加权。
4.根据权利要求1至3任一项所述的方法,其中,所述目标图像标注有实际类别;所述方法还包括:
确定所述目标图像中目标对象的预测类别;
确定所述多个类别中所述预测类别与所述实际类别相匹配的目标类别;
根据与所述目标类别相对应的融合特征,更新与所述目标类别对应的特征均值。
5.根据权利要求1至4任一项所述的方法,其中,所述将所述多个图像特征输入多个卷积通道,得到多个维度的映射特征包括:
将所述多个图像特征与对应的位置特征进行融合,得到输入特征,其中,所述位置特征用于指示所述多个图像特征中对应特征在所述目标图像中的坐标;
将所述输入特征输入编码器进行编码,以得到编码特征;
将所述编码特征输入解码器进行解码,以得到所述目标图像中目标对象的解码特征;
将所述目标对象的解码特征作为所述多个维度的映射特征。
6.根据权利要求5所述的方法,其中,所述编码器和所述解码器包括相同数目的卷积通道,作为所述多个卷积通道。
7.一种图像处理装置,包括:
获取模块,用于获取目标图像以及获取多个类别的特征均值;
特征提取模块,用于对所述目标图像进行特征提取,得到所述目标图像的多个图像特征;
获得模块,用于将所述多个图像特征输入多个卷积通道,得到多个维度的映射特征;以及
融合模块,用于针对每个维度的映射特征,根据所述多个卷积通道各自的重要度,将所述映射特征与所述特征均值进行融合,得到每个维度的融合特征。
8.根据权利要求7所述的装置,其中,所述融合模块包括:
第一确定子模块,用于针对多个维度中的至少一个维度,确定针对所述至少一个维度的映射特征的卷积通道重要度;
第二确定子模块,用于根据所述卷积通道重要度,确定针对所述至少一个维度的映射特征的第一权重;以及
第一加权子模块,用于利用所述第一权重对所述至少一个维度的映射特征进行加权。
9.根据权利要求7或8所述的装置,其中,所述融合模块还包括:
第三确定子模块,用于针对多个维度中至少一个维度的映射特征,根据所述至少一个维度的映射特征与所述多个类别的特征均值之间的相似度,分别确定与多个类别的特征均值对应的第二权重;
第二加权子模块,用于利用所述第二权重对所述多个类别的特征均值进行加权。
10.根据权利要求7至9任一项所述的装置,其中,所述目标图像标注有实际类别;所述装置还包括:
第一确定模块,用于确定所述目标图像中目标对象的预测类别;
第二确定模块,用于确定所述多个类别中所述预测类别与所述实际类别相匹配的目标类别;
更新模块,用于根据与所述目标类别相对应的融合特征,更新与所述目标类别对应的特征均值。
11.根据权利要求7至10任一项所述的装置,其中,所述获得模块包括:
融合子模块,用于将所述多个图像特征与对应的位置特征进行融合,得到输入特征,其中,所述位置特征用于指示所述多个图像特征中对应特征在所述目标图像中的坐标;
编码子模块,用于将所述输入特征输入编码器进行编码,以得到编码特征;
解码子模块,用于将所述编码特征输入解码器进行解码,以得到所述目标图像中目标对象的解码特征;
获得子模块,用于将所述目标对象的解码特征作为所述多个维度的映射特征。
12.根据权利要求11所述的装置,其中,所述编码器和所述解码器包括相同数目的卷积通道,作为所述多个卷积通道。
13.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1至6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1至6中任一项所述的方法。
15.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1至6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111279621.4A CN113989569B (zh) | 2021-10-29 | 2021-10-29 | 图像处理方法、装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111279621.4A CN113989569B (zh) | 2021-10-29 | 2021-10-29 | 图像处理方法、装置、电子设备和存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113989569A true CN113989569A (zh) | 2022-01-28 |
CN113989569B CN113989569B (zh) | 2023-07-04 |
Family
ID=79745086
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111279621.4A Active CN113989569B (zh) | 2021-10-29 | 2021-10-29 | 图像处理方法、装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113989569B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116071628A (zh) * | 2023-02-06 | 2023-05-05 | 北京百度网讯科技有限公司 | 图像处理方法、装置、电子设备和存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111368893A (zh) * | 2020-02-27 | 2020-07-03 | Oppo广东移动通信有限公司 | 图像识别方法、装置、电子设备及存储介质 |
CN111598131A (zh) * | 2020-04-17 | 2020-08-28 | 北京百度网讯科技有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN112598045A (zh) * | 2020-12-17 | 2021-04-02 | 中国工商银行股份有限公司 | 训练神经网络的方法、图像识别方法及图像识别装置 |
US20210150347A1 (en) * | 2019-11-14 | 2021-05-20 | Qualcomm Incorporated | Guided training of machine learning models with convolution layer feature data fusion |
CN113095370A (zh) * | 2021-03-18 | 2021-07-09 | 北京达佳互联信息技术有限公司 | 图像识别方法、装置、电子设备及存储介质 |
-
2021
- 2021-10-29 CN CN202111279621.4A patent/CN113989569B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20210150347A1 (en) * | 2019-11-14 | 2021-05-20 | Qualcomm Incorporated | Guided training of machine learning models with convolution layer feature data fusion |
CN111368893A (zh) * | 2020-02-27 | 2020-07-03 | Oppo广东移动通信有限公司 | 图像识别方法、装置、电子设备及存储介质 |
CN111598131A (zh) * | 2020-04-17 | 2020-08-28 | 北京百度网讯科技有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN112598045A (zh) * | 2020-12-17 | 2021-04-02 | 中国工商银行股份有限公司 | 训练神经网络的方法、图像识别方法及图像识别装置 |
CN113095370A (zh) * | 2021-03-18 | 2021-07-09 | 北京达佳互联信息技术有限公司 | 图像识别方法、装置、电子设备及存储介质 |
Non-Patent Citations (2)
Title |
---|
HUALIAN SHENG ET AL.: "Improving 3D Object Detection with Channel-wise Transformer", pages 1 - 10 * |
施政: "基于YOLO的多模态加权融合行人检测算法", pages 234 - 242 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116071628A (zh) * | 2023-02-06 | 2023-05-05 | 北京百度网讯科技有限公司 | 图像处理方法、装置、电子设备和存储介质 |
CN116071628B (zh) * | 2023-02-06 | 2024-04-05 | 北京百度网讯科技有限公司 | 图像处理方法、装置、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113989569B (zh) | 2023-07-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113553864A (zh) | 翻译模型的训练方法、装置、电子设备及存储介质 | |
CN115063875B (zh) | 模型训练方法、图像处理方法、装置和电子设备 | |
CN113222916A (zh) | 采用目标检测模型检测图像的方法、装置、设备和介质 | |
CN115082920B (zh) | 深度学习模型的训练方法、图像处理方法和装置 | |
CN113361578A (zh) | 图像处理模型的训练方法、装置、电子设备及存储介质 | |
CN114282670A (zh) | 神经网络模型的压缩方法、设备和存储介质 | |
CN114863437B (zh) | 文本识别方法、装置、电子设备和存储介质 | |
CN113869205A (zh) | 对象检测方法、装置、电子设备和存储介质 | |
CN112559885A (zh) | 地图兴趣点的训练模型确定方法、装置及电子设备 | |
CN113239702A (zh) | 意图识别方法、装置、电子设备 | |
CN112632227A (zh) | 简历匹配方法、装置、电子设备、存储介质和程序产品 | |
CN113177449A (zh) | 人脸识别的方法、装置、计算机设备及存储介质 | |
CN113902010A (zh) | 分类模型的训练方法和图像分类方法、装置、设备和介质 | |
CN115640520A (zh) | 跨语言跨模态模型的预训练方法、设备和存储介质 | |
CN113989569B (zh) | 图像处理方法、装置、电子设备和存储介质 | |
CN114120454A (zh) | 活体检测模型的训练方法、装置、电子设备及存储介质 | |
CN114973333B (zh) | 人物交互检测方法、装置、设备以及存储介质 | |
CN116342164A (zh) | 目标用户群体的定位方法、装置、电子设备及存储介质 | |
CN116257885A (zh) | 基于联邦学习的隐私数据通信方法、系统和计算机设备 | |
CN115565186A (zh) | 文字识别模型的训练方法、装置、电子设备和存储介质 | |
CN115601042A (zh) | 信息识别方法、装置、电子设备及存储介质 | |
CN114997419A (zh) | 评分卡模型的更新方法、装置、电子设备及存储介质 | |
CN114707638A (zh) | 模型训练、对象识别方法及装置、设备、介质和产品 | |
CN114067805A (zh) | 声纹识别模型的训练与声纹识别方法及装置 | |
CN114490969A (zh) | 基于表格的问答方法、装置以及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |