CN115131665A

CN115131665A - 图像处理方法、装置、计算机可读介质及电子设备

Info

Publication number: CN115131665A
Application number: CN202210784433.5A
Authority: CN
Inventors: 王雷; 陈熙
Original assignee: Ecoflow Technology Ltd
Current assignee: Ecoflow Technology Ltd
Priority date: 2022-07-05
Filing date: 2022-07-05
Publication date: 2022-09-30

Abstract

本申请公开了一种图像处理方法、装置、计算机可读介质及电子设备，所述方法包括：获取待处理图像的多个不同尺度的特征图，每个特征图包括多个锚框，每个锚框包括锚框中所检测对象的类别置信度、锚框位置以及掩膜系数；对最大尺度的特征图进行图像特征处理，得到多个掩膜图；基于类别置信度和锚框位置，从多个锚框中确定目标锚框；每个目标锚框对应待处理图像中的一个目标对象；根据目标锚框的掩膜系数对多个掩膜图进行融合处理，得到目标图像；将目标图像中目标锚框所指示的图像区域作为对应的目标对象所在区域。

Description

图像处理方法、装置、计算机可读介质及电子设备

技术领域

本申请属于图像处理技术领域，具体涉及一种图像处理方法、装置、计算机可读介质及电子设备。

背景技术

图像处理作为计算机视觉技术中的一个重要内容，一直是人们的研究热点。在图像处理中，经常涉及提取或识别图像中的一些内容，例如，检测图像中的动物、车辆、人物等对象。在这种图像处理过程中，通常将待检测图像输入训练好的模型，然后模型输出一具有检测框的图像，该检测框标识出图像中需检测出来的对象，由此实现对图像中相关对象的检测。在目前的检测方法中，模型通常使用固定大小的检测框在图像中移动，当检测框所覆盖区域为检测对象时，就在相应位置生成最终的检测框。这种检测框生成方式单一，当检测对象与检测框尺寸不匹配时，难以生成准确的检测结果，检测精度低。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本申请的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本申请的目的在于提供一种图像处理方法、装置、计算机可读介质及电子设备，以优化相关技术中对图像进行对象检测时检测精度较低的问题。

本申请的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本申请的实践而习得。

根据本申请实施例的一个方面，提供一种图像处理方法，包括：

获取待处理图像的多个不同尺度的特征图，每个所述特征图包括多个锚框，每个锚框包括所述锚框中所检测对象的类别置信度、锚框位置以及掩膜系数；

对最大尺度的特征图进行图像特征处理，得到多个掩膜图；

基于所述类别置信度和所述锚框位置，从多个锚框中确定目标锚框；每个目标锚框对应所述待处理图像中的一个目标对象；

根据所述目标锚框的掩膜系数对所述多个掩膜图进行融合处理，得到目标图像；

将所述目标图像中所述目标锚框所指示的图像区域作为对应的目标对象所在区域。

根据本申请实施例的一个方面，提供一种图像处理装置，包括：

特征图获取模块，用于获取待处理图像的多个不同尺度的特征图，每个所述特征图包括多个锚框，每个锚框包括所述锚框中所检测对象的类别置信度、锚框位置以及掩膜系数；

掩膜图生成模块，用于对最大尺度的特征图进行图像特征处理，得到多个掩膜图；

目标锚框确定模块，用于基于所述类别置信度和所述锚框位置，从多个锚框中确定目标锚框；每个目标锚框对应所述待处理图像中的一个目标对象；

目标图像生成模块，用于根据所述目标锚框的掩膜系数对所述多个掩膜图进行融合处理，得到目标图像；将所述目标图像中所述目标锚框所指示的图像区域作为对应的目标对象所在区域。

在本申请的一个实施例中，目标锚框确定模块具体用于：

将各锚框划分为多个锚框组，每个锚框组包括同一目标对象的多个锚框；

根据每个锚框组中任意两个锚框的锚框位置，确定所述两个锚框的重叠区域面积，以及最小锚框面积；

根据所述重叠区域面积与所述最小锚框面积的比值，计算锚框重叠率；

当所述锚框重叠率大于预设重叠阈值时，将所述锚框重叠率对应的两个锚框中，类别置信度大的锚框作为所述锚框组的目标锚框，并删除类别置信度小的锚框；

当所述锚框重叠率小于预设重叠阈值时，将所述锚框重叠率对应的两个锚框均作为所述锚框组的目标锚框。

在本申请的一个实施例中，所述装置还包括：

图像更新模块，用于根据预设扩展尺寸对所述目标图像中的目标锚框进行尺寸扩展；根据尺寸扩展后的目标锚框对所述目标图像中的像素点进行阈值处理，以更新所述目标图像。

在本申请的一个实施例中，目标图像生成模块具体用于：

将目标锚框的掩膜系数与所述多个掩膜图进行矩阵乘法计算，并将计算后的结果作为所述目标图像。

在本申请的一个实施例中，所述图像更新模块具体用于：

将在尺寸扩展后的目标锚框以外的像素点的像素值设置为第一像素值；

对位于尺寸扩展后的目标锚框内的像素点，若像素点的像素值大于预设阈值，则将所述像素点的像素值设置为第二像素值；

若像素点的像素值小于预设阈值，则将所述像素点的像素值设置为所述第一像素值，以更新所述目标图像。

在本申请的一个实施例中，特征图获取模块包括：

第一特征图获取单元，用于对待处理图像进行第一特征提取，得到多个不同尺度的第一特征图；

第二特征图获取单元，用于对各个第一特征图进行第二特征提取，得到多个不同尺度的第二特征图，将所述多个不同尺度的第二特征图作为所述待处理图像对应的多个不同尺度的特征图。

在本申请的一个实施例中，所述第二特征图获取单元具体用于：

对第一尺度的第一特征图进行第一卷积处理，得到第一尺度的第二特征图；

对所述第一尺度的第二特征图进行第一上采样处理，得到第一上采样特征图；

将所述第一上采样特征图与对第二尺度的第一特征图进行第二卷积处理得到的特征图进行融合，得到第二尺度的第二特征图；

对所述第二尺度的第二特征图进行第二上采样处理，得到第二上采样特征图；

将所述第二上采样特征图与对第三尺度的第一特征图进行第三卷积处理得到的特征图进行融合，得到第三尺度的第二特征图；

其中，所述第一尺度大于所述第二尺度，所述第二尺度大于所述第三尺度。

根据本申请实施例的一个方面，提供一种计算机可读介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如以上技术方案中的图像处理方法。

根据本申请实施例的一个方面，提供一种电子设备，该电子设备包括：处理器；以及存储器，用于存储所述处理器的可执行指令；其中，所述处理器被配置为经由执行所述可执行指令来执行如以上技术方案中的图像处理方法。

根据本申请实施例的一个方面，提供一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行如以上技术方案中的图像处理方法。

在本申请实施例提供的技术方案中，通过对待处理图像进行特征提取而得到多个不同尺度的特征图，使得后续处理能够使用更多的图像特征，可以提高目标对象的检测精度；然后针对多个不同尺度的特征图进行两种不同处理，其一是根据最大尺度的特征图生成掩膜图；其二是先在每个尺度的特征图上生成多个锚框，不仅通过类别置信度和锚框位置来确定目标锚框，从而提高识别检测对象的准确度，而且将目标锚框和掩模图进行融合得到目标图像，相当于从不同的特征角度生成了掩膜图，使得融合得到的目标图像是综合考虑多方面特征得到的，进一步提升检测精度。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示意性地示出了应用本申请技术方案的示例性系统架构框图。

图2示意性地示出了本申请一个实施例提供的自移动设备的示意图。

图3示意性地示出了本申请一个实施例提供的图像处理方法的流程图。

图4示意性地示出了对待处理图像进行第一特征提取和第二特征提取的示意图。

图5示意性地示出了本申请一个实施例提供的对待处理图像进行第一特征提取的示意图。

图6示意性地示出了两个锚框位置的示意图。

图7A示意性地示出了本申请一个实施例提供的待处理图像的示意图。

图7B示意性地示出了本申请一个实施例提供的目标图像的示意图。

图8示意性地示出了本申请实施例提供的图像处理装置的结构框图。

图9示意性示出了适于用来实现本申请实施例的电子设备的计算机系统结构框图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本申请将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本申请的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本申请的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本申请的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

如图1所示，系统架构100可以包括终端设备110、网络120和服务器130。终端设备110可以包括智能手机、平板电脑、笔记本电脑、智能语音交互设备、智能家电、车载终端等等。服务器130可以是独立的物理服务器，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云计算服务的云服务器。网络120可以是能够在终端设备110和服务器130之间提供通信链路的各种连接类型的通信介质，例如可以是有线通信链路或者无线通信链路。

根据实现需要，本申请实施例中的系统架构可以具有任意数目的终端设备、网络和服务器。例如，服务器130可以是由多个服务器设备组成的服务器群组。另外，本申请实施例提供的技术方案可以应用于终端设备110，也可以应用于服务器130，或者可以由终端设备110和服务器130共同实施，本申请对此不做特殊限定。

在本申请的一个实施例中，本申请实施例提供的图像处理方法由服务器130实施。服务器130获取待处理图像的多个不同尺度的特征图，待处理图像可以是终端设备110发送至服务器130的图像，每个特征图包括多个锚框，每个锚框包括锚框中所检测对象的类别置信度、锚框位置以及掩膜系数。然后服务器130对最大尺度的特征图进行图像特征处理，得到多个掩膜图。接下来服务器130基于类别置信度和锚框位置，从多个锚框中确定目标锚框；每个目标锚框对应待处理图像中的一个目标对象。最后服务器130根据目标锚框的掩膜系数对多个掩膜图进行融合处理，得到目标图像，将目标图像中目标锚框所指示的图像区域作为对应的目标对象所在区域。

在本申请的一个实施例中，本申请实施例提供的图像处理方法由终端设备110实施，例如，终端设备110为自移动设备。示例性的，图2示意性地示出了本申请一个实施例提供的自移动设备的示意图。该自移动设备200可以是各类移动机器人，例如扫地机器人、拖地机器人、送菜机器人、运输机器人、割草机器人等，本申请实施例对自移动设备200的具体类型、功能不作限定。可以理解，本实施例中的自移动设备200也还可以包括其他具有自移动功能的设备。

在本申请实施例中，自移动设备200上设置有摄像装置210，用于拍摄自移动设备200周围的环境图像。摄像装置210可以是固定的，也可以是非固定、可转动的，本申请实施例对此不作限定。摄像装置210拍摄的环境图像可以是彩色图像、黑白图像、红外图像等，本申请实施例对此不作限定。

摄像装置210连接自移动设备200内部的控制模块220，该控制模块220用于接收自移动设备200的控制指令，或为自移动设备200生成各类控制指令。该控制模块220还连接自移动设备200的驱动部件，例如自移动设备200的转向轴、转向轮、电机等，用于控制自移动设备200的移动、转向等。

在本申请实施例中，摄像装置210拍摄的环境图像可以作为待处理图像，摄像装置210将待处理图像传输至控制模块220。控制模块220接收到待处理图像后，根据本申请实施例提供的图像处理方法对待处理图像进行处理，得到目标图像，进而根据目标图像识别出待处理图像中的目标对象，进而可以根据目标对象所在位置或区域调整自移动设备200的移动方向或路径。

示例性的，自移动设备200为割草机器人，摄像装置210拍摄得到的待处理图像包括草地区域和非草地区域，控制模块220根据本申请实施例提供的图像处理方法对待处理图像进行处理后，识别出草地区域，进而控制自移动设备200在草地区域工作。

下面结合具体实施方式对本申请提供的图像处理做出详细说明。

图3示意性地示出了本申请一个实施例提供的图像处理方法的流程图，如图3所示，该方法包括步骤310至步骤350，具体如下：

步骤310、获取待处理图像的多个不同尺度的特征图，每个特征图包括多个锚框，每个锚框包括锚框中所检测对象的类别置信度、锚框位置以及掩膜系数。

具体地，待处理图像可以是摄像装置实时拍摄的图像，也可以是存储器中预先存储的图像，待处理图像可以是彩色图像、黑白图像、灰度图像等。待处理图像的特征图可以通过对待处理图形进行特征提取得到，例如，对待处理图像进行卷积特征提取，得到待处理图像的特征图。多个不同尺度的特征图可由多次特征提取得到。

在得到多个不同尺度的特征图后，对每个特征图进行锚框预测，得到每个特征图对应的多个锚框。锚框预测是对每个特征图中所检测到的对象通过一定尺寸的框进行框选，即每个锚框所框选的图像区域代表该锚框所检测对象所在的图像区域。在本申请实施例中，每个特征图对应的多个锚框具有多种尺寸，也就是每个特征图对应多种尺寸的锚框，而每种尺寸的锚框有多个。

在本申请的一个实施例中，对每个特征图进行锚框预测，是对特征图中的每个像素点生成多种尺寸的锚框，每个像素点对应的锚框数量可以预先设定。例如，可以设定每个像素点生成3种尺寸的锚框，3个锚框的尺寸比例为1:0.5:2。一般而言，锚框的形状是正方形，每个特征图对应于一个基本边长a的锚框，每个特征图所对应的三种锚框分别是：边长为a的锚框、边长为0.5a的锚框以及边长为2a的锚框。在本申请实施例中，不同尺度的特征图对应不同边长的锚框，一般而言，特征图的尺度越大，锚框的基本边长也越大。那么，一个特征图所具有的锚框数量为该特征图像素点数量的预设数量，这里预设数量就等于每个像素点设定的锚框数量，例如，假设特征图的大小为10*10，设定每个像素点生成3种尺寸的锚框，则该特征图所对应的锚框的数量为10*10*3。这种多尺寸锚框能够检测出待处理图像中不同尺寸的目标对象，有利于提高检测精度。

在本申请实施例中，每个锚框包括多个锚框参数，如锚框中所检测对象的类别置信度、锚框位置和掩膜系数。类别置信度用于体现锚框所检测对象的类别，类别置信度可通过单一的置信度数值表示，也可以通过多维度置信度数值表示。当类别置信度是单一的置信度数值表示时，该类别置信度通常表示锚框所检测对象属于目标对象的概率，例如，目标对象为动物，一个锚框的类别置信度为0.6，则表示该锚框所检测对象有60％的概率为动物。当类别置信度是多维度置信度数值表示时，该类别置信度通常表示锚框所检测对象相对于每个对象类别的概率，例如，总的对象类别有：猫、狗、兔子，一个锚框的类别置信度为(0.7,0.2,0.1)，表示该锚框所检测对象有70％的概率为猫，有20％的概率为狗，有10％的概率为兔子。

锚框位置用以表示锚框在特征图中的位置坐标，一般的，锚框的形状为矩形，锚框位置可以通过两个位置坐标来表示，即矩形的左上顶点坐标和矩形的右下顶点坐标。当然，也可以通过矩形的右上顶点坐标和矩形的左下顶点坐标来表示锚框位置，或通过矩形四个顶点坐标来表示锚框位置，或通过其他形式来表示锚框位置。

掩膜系数用于后续对掩膜图进行计算，掩膜系数是多维度的，其维度与掩膜图数量相等。

在本申请的一个实施例中，获取待处理图像的多个不同尺度的特征图的过程包括对待处理图像进行第一特征提取，得到多个不同尺度的第一特征图；对各个第一特征图进行第二特征提取，得到多个不同尺度的第二特征图，将多个不同尺度的第二特征图作为待处理图像对应的多个不同尺度的特征图。

具体地，第一特征提取和第二特征提取分别是两种不同线路的特征提取方式，第一特征提取是自底向上的特征提取过程，第二特征提取是自顶向下的特征提取过程，二者之间横向连接。示例性的，图4示意性地示出了对待处理图像进行第一特征提取和第二特征提取的示意图，如图4所示，第一特征提取和第二特征提取均包括多次特征提取。在第一特征提取过程中，待处理图像在经过多次特征提取后，得到多个不同尺度的第一特征图，如图4所示，得到第一特征图A3、第一特征图A2和第一特征图A1，第一特征图A3、第一特征图A2和第一特征图A1的尺度是依次减小的，故而第一特征提取过程是一个自底向上的特征提取过程。

在本申请的一个实施例中，第一特征提取所包括的多次特征提取可以通过多次不同卷积参数的卷积特征提取实现，卷积特征提取的卷积参数包括卷积核尺寸、通道数、步长等，卷积核尺寸包括卷积核的宽和高。第一特征提取过程可以描述为：对待处理图像进行第一卷积处理，得到第三尺度的第一特征图；对第一尺度的第一特征图进行第二卷积处理，得到第二尺度的第一特征图；对第一尺度的第一特征图进行第三卷积处理，得到第一尺度的第一特征图，其中，第三尺度的第一特征图、第二尺度的第一特征图、第一尺度的第一特征图依次减小。第一卷积处理、第二卷积处理和第三卷积处理均可以包括多次卷积参数相同或不同的卷积特征提取。

在本申请的一个实施例中，在得到第三尺度的第一特征图之前，还可以对待处理图像进行预处理特征提取，得到预处理特征图，然后对预处理特征图进行第一卷积处理，得到第三尺度的第一特征图。预处理特征提取也可以通过卷积特征提取实现。示例性的，图5示意性地示出了本申请一个实施例提供的对待处理图像进行第一特征提取的示意图。如图5所示，第一特征提取包括S1～S5，具体为：

S1、对待处理图像进行第一次预处理特征提取，得到第一预处理特征图。第一次预处理特征提取是对待处理图像进行卷积特征提取，其卷积参数为[7*7，64，2]，表示卷积核为7*7，通道数为64，步长为2。假设第一预处理特征图尺度为112*112。

S2、对第一预处理特征图进行第二次预处理特征提取，得到第二预处理特征图。第二次预处理特征提取包括两次卷积特征提取，第一次卷积特征提取的卷积参数为[3*3，64，2]，表示卷积核为3*3，通道数为64，步长为2。第二次卷积特征提取的卷积参数为[3*3，64，1]，表示卷积核为3*3，通道数为64，步长为1。经过第二次预处理特征提取后，第二预处理特征图尺度为56*56。

S3、对第二预处理特征图进行第一卷积处理，得到第三尺度的第一特征图。第一卷积处理包括两次卷积特征提取，第一次卷积特征提取的卷积参数为[3*3，128，2]，表示卷积核为3*3，通道数为128，步长为2。第二次卷积特征提取的卷积参数为[3*3，128，1]，表示卷积核为3*3，通道数为128，步长为1，经过第一卷积处理后得到的特征图尺度，也就是第三尺度为28*28。

S4、对第一尺度的第一特征图进行第二卷积处理，得到第二尺度的第一特征图。第二卷积处理包括两次卷积特征提取，第一次卷积特征提取的卷积参数为[3*3，256，2]，表示卷积核为3*3，通道数为256，步长为2。第二次卷积特征提取的卷积参数为[3*3，256，1]，表示卷积核为3*3，通道数为256，步长为1。经过第二卷积处理后得到的特征图尺度，也就是第二尺度为14*14。

S5、对第一尺度的第一特征图进行第三卷积处理，得到第一尺度的第一特征图。第三卷积处理包括两次卷积特征提取，第一次卷积特征提取的卷积参数为[3*3，512，2]，表示卷积核为3*3，通道数为512，步长为2。第二次卷积特征提取的卷积参数为[3*3，512，1]，表示卷积核为3*3，通道数为512，步长为1。经过第三卷积处理后得到的特征图尺度，也就是第一尺度为7*7。

在本申请实施例中，第一特征图的第一尺度、第二尺度和第三尺度的具体数值可以根据实际需要设定，例如，可以设定第一特征图的第一尺度为10*10、第二尺度为20*20、第三尺度为40*40。卷积处理输出特征图尺度的调整可以通过调节卷积参数来实现，例如，卷积核尺寸不变时，步长翻倍时，输出特征图尺度相较于输入特征图尺度减半。

继续参考图4，第二特征提取依赖于第一特征提取的结果，在第二特征提取过程中，从第一特征提取过程中的最后一次特征提取所得到的第一特征图开始，每次特征提取在前一次特征提取的基础上进行，同时融合对应的第一特征提取过程的第一特征图，得到该次特征提取对应的第二特征图，如图4所示，得到第二特征图B1、第二特征图B2和第二特征图B3。可以看出第二特征提取过程所得到的第二特征图的尺度变化与第一特征提取过程第一特征图的尺度变化是相反的，即第二特征提取是自顶向下的特征提取过程。

具体而言，如图4所示，第二特征提取的过程包括：对第一尺度的第一特征图A1进行第一卷积处理，得到第一尺度的第二特征图B1；对第一尺度的第二特征图B1进行第一上采样处理，得到第一上采样特征图；将第一上采样特征图与对第二尺度的第一特征图A2进行第二卷积处理得到的特征图进行融合，得到第二尺度的第二特征图B2；对第二尺度的第二特征图进行第二上采样处理，得到第二上采样特征图；将第二上采样特征图与对第三尺度的第一特征图A3进行第三卷积处理得到的特征图进行融合，得到第三尺度的第二特征图B3。

第一卷积处理、第二卷积处理和第三卷积处理均不改变对应处理特征图的尺度，即，第一尺度的第一特征图A1经过第一卷积处理后，尺度不变，故而第一尺度的第一特征图A1的尺度与第一尺度的第二特征图B1的尺度想同；第二尺度的第一特征图A2和对第二尺度的第一特征图A2进行第二卷积处理得到的特征图之间尺度相同，第三尺度的第一特征图A3和对第三尺度的第一特征图A3进行第三卷积处理得到的特征图之间尺度相同。从而，各第一特征图与对应的第二特征图具有相同尺度，例如，第一特征图的第一尺度、第二尺度和第三尺度分别为10*10、20*20、40*40，则第二特征图的第一尺度、第二尺度和第三尺度也分别为10*10、20*20、40*40。一般的，如图4所示，第一卷积处理、第二卷积处理和第三卷积处理可以采用1*1的卷积核进行卷积处理。

特征图的融合，也就是特征图的叠加。例如，将第一上采样特征图与对第二尺度的第一特征图A2进行第二卷积处理得到的特征图进行融合，就是将第一上采样特征图与对第二尺度的第一特征图A2进行第二卷积处理得到的特征图进行叠加。将第二上采样特征图与对第三尺度的第一特征图A3进行第三卷积处理得到的特征图进行融合，就是将第二上采样特征图与对第三尺度的第一特征图A3进行第三卷积处理得到的特征图进行叠加。这种将上采样结果与对应第一特征图叠加的融合方式，就体现了第一特征提取和第二特征提取之间的横向连接特性。

步骤320、对最大尺度的特征图进行图像特征处理，得到多个掩膜图。

具体地，图像特征处理，是从多个角度提取特征图中的特征，得到多个掩膜图，也就表示，多个掩膜图从多个角度体现了待处理图像的图像特征。掩膜图的数量根据实际需要预先设定，一般可以设定为8、16、32、64、128、256等。例如，假设有4个掩膜图，则一个掩膜图着重体现待处理图像右上区域的图像特征，一个掩膜图着重体现待处理图像右下区域的图像特征，一个掩膜图着重体现待处理图像左上区域的图像特征，一个掩膜图着重体现待处理图像左下区域的图像特征。最大尺度的特征图相较于其他尺度的特征图体现了待处理图像更多的特征，故而选择最大尺度的特征图进行图像特征处理，根据上述实施例，也就是选择第三尺度的第二特征图进行图像特征处理，得到多个掩膜图。图像特征处理可以通过ProtoNet(原型网络)模型实现。

步骤330、基于类别置信度和锚框位置，从多个锚框中确定目标锚框；每个目标锚框对应待处理图像中的一个目标对象。

具体地，目标锚框用以框选识别出目标对象，目标对象是本次图像处理所需从待处理图像中识别或检测出的对象，目标对象可以是一个，也可以是多个。从多个锚框中确定目标锚框，是指从多个不同尺度的特征图对应的所有锚框中选择出目标锚框。根据各个锚框的锚框位置，可以确定各个锚框之间是否存在重叠区域。当锚框之间存在重叠区域时，需判断存在重叠区域的多个锚框是否为重叠锚框，一般而言，将重叠区域较大的多个锚框视为重叠锚框。若有重叠锚框，则需要根据类别置信度进行去重处理，例如，保留类别置信度大的锚框作为目标锚框，其余重叠锚框则删除。

在本申请的一个实施例中，确定目标锚框的过程包括：将各锚框划分为多个锚框组，每个锚框组包括同一目标对象的多个锚框；根据每个锚框组中任意两个锚框的锚框位置，确定两个锚框的重叠区域面积，以及最小锚框面积；根据重叠区域面积与最小锚框面积的比值，计算锚框重叠率；当锚框重叠率大于预设重叠阈值时，将锚框重叠率对应的两个锚框中，类别置信度大的锚框作为锚框组的目标锚框，并删除类别置信度小的锚框；当锚框重叠率小于预设重叠阈值时，将锚框重叠率对应的两个锚框均作为锚框组的目标锚框。

具体地，先对锚框进行分组，得到多个锚框组，然后针对每个锚框组的锚框进行重叠锚框的判断，锚框组之间的锚框就无需进行重叠锚框的判断，这样可以减少计算量，加快锚框筛选速度。锚框的分组根据锚框所检测对象的类别来划分，即根据类别置信度将属于目标对象的锚框划分为一个锚框组，如此，后续删除重叠锚框后，就可以保证一个目标对象对应于一个目标锚框。

在根据类别置信度划分锚框组时，若类别置信度是单一的置信度数值表示，则通过置信度阈值确定锚框所检测对象是否为目标对象，进而将所检测对象是目标对象的锚框划分为一个锚框组，其余所检测对象不是目标对象的锚框可以直接删除。例如，置信度阈值为0.5，则将类别置信度大于或等于0.5的作为一个锚框组，其余锚框删除。若类别置信度是多维度置信度数值表示，则一般选取多维度置信度数值中最大值对应类别作为锚框所检测对象类别。例如，一个锚框的类别置信度为(0.7,0.2,0.1)，则0.7所对应类别为该锚框所检测对象类别，若该类别是需要检测出的目标类别，则将该锚框划分至对应锚框组，若该类别不是需要检测出的目标类别，则可以删除该锚框。

在划分锚框组之后，针对锚框组中的多个锚框，计算两两锚框间的锚框重叠率，当锚框重叠率大于预设重叠阈值时，则认为两个锚框重叠。在本申请实施例中，锚框重叠率以两个锚框的重叠区域面积和两个锚框中最小锚框面积的比值来表示，即锚框重叠率

其中，sizeC表示两个锚框的重叠区域面积，sizeA和sizeB分别表示两个锚框各自对应的面积。示例性的，图6示意性地示出了两个锚框位置的示意图，如图6所示，锚框A与锚框B的重叠区域为区域C，锚框A的面积记为sizeA，锚框B的面积记为sizeB，区域C的面积记为sizeC。锚框位置以锚框的左上顶点坐标和右下顶点坐标表示，锚框A的锚框位置为[A1(x₁，y₁),A2(x₂，y₂)]，锚框B的锚框位置为[B1(x₃，y₃),B2(x₄，y₄)]。锚框A和锚框B之间的锚框重叠率IOU_AB按下式计算：

假设预设重叠阈值为0.5，则当IOU_AB≥0.5时，认为锚框A和锚框B重叠，此时需要删除其中一个锚框，保留另一个锚框作为目标锚框。一般的，将锚框A和锚框B中类别置信度大的锚框作为目标锚框，删除类别置信度小的锚框。当IOU_AB＜0.5时，则认为锚框A和锚框B不重叠，锚框A和锚框B重叠均可以作为目标锚框，此时说明属于同一类别的目标对象有多个。

示例性的，假设sizeC＝0.75sizeA，sizeB＝6sizeA，预设重叠阈值δ＝0.5。根据本申请实施例提供的锚框重叠率的计算方法，IOU_AB＝0.75sizeA/sizeA＝0.75，那么IOU_AB＞δ，因此判断锚框A和锚框B重叠，保留其中类别置信度较大的一个，删除其中类别置信度较小的一个。根据传统的锚框重叠率计算方法，两个锚框之间的重叠率为锚框间重叠区域面积与两个锚框交集面积的比值，IOU_AB＝sizeC/(sizeA+sizeB-sizeC)＝0.75sizeA/(sizeA+6sizeA-0.75sizeA)＝0.12，那么IOU_AB＜δ，这种情况下会判断锚框A与锚框B不重叠，两个锚框均保留。然而，实际上这两个锚框所检测对象为同一对象，只需保留其中一个即可。由此可见，本申请实施例提供的锚框重叠率的计算方式，可以在两个锚框的面积差异较大时，起到非极大值抑制作用，精确删除其中的重叠锚框，从而保证一个目标对象对应于一个目标锚框，避免多个锚框检测同一个目标对象，进而提高目标对象的检测精度。

步骤340、根据目标锚框的掩膜系数对多个掩膜图进行融合处理，得到目标图像。

具体地，目标锚框的掩膜系数的维度与掩膜图的数量相等，相当于掩膜系数的值的个数与掩膜图的数量相等，例如，掩膜图的数量为k，则掩膜系数包括k个值。掩膜系数中的一个值，相当于一个掩膜图的权重，根据目标锚框的掩膜系数对多个掩膜图进行融合处理，实际上就是将目标锚框的掩膜系数与多个掩膜图进行矩阵乘法计算，计算结果即为目标图像。

假设多个掩膜图包括P₁、P₂…P_n，掩膜系数包括k₁、k₂…k_n，则目标图像M可以表示为：

M＝(k₁*P₁)+(k₂*P₂)+…+(k_n*P_n)

在本申请的一个实施例中，在得到目标图像之前，还包括目标锚框的扩展步骤：根据预设扩展尺寸对目标图像中的目标锚框进行尺寸扩展；根据尺寸扩展后的目标锚框对目标图像中的像素点进行阈值处理，以更新目标图像。

具体而言，就是目标锚框进行尺寸扩展，以扩大目标锚框的尺寸。这种处理是考虑到有时候目标对象的部分边界可能处于目标锚框外部，目标锚框进行尺寸扩展后就可以尽可能的包围目标对象的边界，从而提高目标对象的检测精度。在对目标锚框进行尺寸扩展后，目标锚框所框选的图像区域中可能包括不属于目标对象的部分，例如，图像中的背景内容不属于目标对象，根据尺寸扩展后的目标锚框进行像素点的阈值处理，就是将目标锚框中的目标对象和非目标对象区分开来。

在本申请的一个实施例中，对根据目标锚框对像素点进行阈值处理的过程包括：将在尺寸扩展后的目标锚框以外的像素点的像素值设置为第一像素值；对位于尺寸扩展后的目标锚框内的像素点，若像素点的像素值大于预设阈值，则将像素点的像素值设置为第二像素值；若像素点的像素值小于预设阈值，则将像素点的像素值设置为第一像素值，以更新目标图像。

具体地，在尺寸扩展后的目标锚框以外的像素点，可以确定是不属于目标对象的像素点，因此可以直接将这类像素点的像素值设置为第一像素值，例如，设置为0。对于尺寸扩展后的目标锚框内的像素点，根据预设阈值进行二值化处理，将像素值大于或等于预设阈值的像素点的像素值更新为第二像素值，将像素值小于预设阈值的像素点的像素值更新为第一像素值。那么，在更新后的目标图像中，可以非常直观地体现目标对象和非目标对象。

步骤350、将目标图像中目标锚框所指示的图像区域作为对应的目标对象所在区域。

具体地，由于目标图像是根据目标锚框的掩膜系数对多个掩膜图进行融合处理的结果，目标锚框的具体位置没有改变，那么，目标图像中目标锚框所指示的图像区域就是目标对象所在区域。

示例性的，图7A示意性地示出了本申请一个实施例提供的待处理图像的示意图。如图7A所示，待处理图像中具有草地，草地为待检测出的目标对象。通过本申请实施例提供的图像处理方法对图7A所示的待处理图像进行处理，检测出待处理图像中的草地区域，得到目标图像。示例性的，目标图像如图7B所示，目标锚框所指示的图像区域即为待处理图像中草地所在区域。同时，对像素点进行阈值处理，将目标锚框内像素值大于或等于预设阈值的像素点的像素值更新为第二像素值(可视化体现为图7B中目标锚框内的条纹填充区域)，将目标锚框内像素值小于预设阈值的像素点的像素值以及目标锚框外的像素点的像素值更新为第一像素值(清零)，由此形成图7B所示目标锚框内的条纹填充区域，该条纹填充区域更加精确地将目标锚框中的草地区域和非草地区域分割开来。

在本申请实施例提供的技术方案中，通过获取待处理图像的多个不同尺度的特征图，多尺度特征图可以体现待处理图像的多种图像特征，使得待处理图像的图像特征表达更为丰富；基于每个尺度的特征图生成多个锚框，然后从各个特征图的锚框中筛选得到目标锚框，由于每个特征图均生成多个锚框，使得锚框数量增多，增加目标对象的检测精度和准确性；同时基于最大尺度特征图生成多个掩膜图，根据目标锚框的掩膜系数对多个掩膜图融合，得到目标图像，由目标锚框在目标图像中指示出目标对象，实现了目标对象的检测，多个掩膜图从多角度体现待处理图像的图像特征，增加图像处理精度。

应当注意，尽管在附图中以特定顺序描述了本申请中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。

以下介绍本申请的装置实施例，可以用于执行本申请上述实施例中的图像处理方法。图8示意性地示出了本申请实施例提供的图像处理装置的结构框图。如图8所示，本申请实施例提供的图像处理装置包括：

特征图获取模块810，用于获取待处理图像的多个不同尺度的特征图，每个所述特征图包括多个锚框，每个锚框包括所述锚框中所检测对象的类别置信度、锚框位置以及掩膜系数；

掩膜图生成模块820，用于对最大尺度的特征图进行图像特征处理，得到多个掩膜图；

目标锚框确定模块830，用于基于所述类别置信度和所述锚框位置，从多个锚框中确定目标锚框；每个目标锚框对应所述待处理图像中的一个目标对象；

目标图像生成模块840，用于根据所述目标锚框的掩膜系数对所述多个掩膜图进行融合处理，得到目标图像；将所述目标图像中所述目标锚框所指示的图像区域作为对应的目标对象所在区域。

在本申请的一个实施例中，目标锚框确定模块830具体用于：

在本申请的一个实施例中，所述装置还包括：

在本申请的一个实施例中，目标图像生成模块840具体用于：

在本申请的一个实施例中，所述图像更新模块具体用于：

在本申请的一个实施例中，特征图获取模块810包括：

本申请各实施例中提供的图像处理装置的具体细节已经在对应的方法实施例中进行了详细的描述，此处不再赘述。

图9示意性地示出了用于实现本申请实施例的电子设备的计算机系统结构框图。

需要说明的是，图9示出的电子设备的计算机系统900仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图9所示，计算机系统900包括中央处理器901(Central Processing Unit，CPU)，其可以根据存储在只读存储器902(Read-Only Memory，ROM)中的程序或者从存储部分908加载到随机访问存储器903(Random Access Memory，RAM)中的程序而执行各种适当的动作和处理。在随机访问存储器903中，还存储有系统操作所需的各种程序和数据。中央处理器901、在只读存储器902以及随机访问存储器903通过总线904彼此相连。输入/输出接口905(Input/Output接口，即I/O接口)也连接至总线904。

以下部件连接至输入/输出接口905：包括键盘、鼠标等的输入部分906；包括诸如阴极射线管(Cathode Ray Tube，CRT)、液晶显示器(Liquid Crystal Display，LCD)等以及扬声器等的输出部分907；包括硬盘等的存储部分908；以及包括诸如局域网卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至输入/输出接口905。可拆卸介质911，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器910上，以便于从其上读出的计算机程序根据需要被安装入存储部分908。

特别地，根据本申请的实施例，各个方法流程图中所描述的过程可以被实现为计算机软件程序。例如，本申请的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分909从网络上被下载和安装，和/或从可拆卸介质911被安装。在该计算机程序被中央处理器901执行时，执行本申请的系统中限定的各种功能。

需要说明的是，本申请实施例所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory，EPROM)、闪存、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory，CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本申请的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本申请实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。

应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

Claims

1.一种图像处理方法，其特征在于，包括：

对最大尺度的特征图进行图像特征处理，得到多个掩膜图；

2.根据权利要求1所述的图像处理方法，其特征在于，所述基于所述类别置信度和所述锚框位置，从所述锚框中确定目标锚框，包括：

3.根据权利要求1所述的图像处理方法，其特征在于，所述根据所述目标锚框的掩膜系数对所述多个掩膜图进行融合处理，得到目标图像，之后还包括：

根据预设扩展尺寸对所述目标图像中的目标锚框进行尺寸扩展；

根据尺寸扩展后的目标锚框对所述目标图像中的像素点进行阈值处理，以更新所述目标图像。

4.根据权利要求1所述的图像处理方法，其特征在于，所述根据所述目标锚框的掩膜系数对所述多个掩膜图进行融合处理，得到目标图像，包括：

5.根据权利要求3所述的图像处理方法，其特征在于，所述根据尺寸扩展后的目标锚框对所述目标图像中的像素点进行阈值处理，以更新所述目标图像，包括：

对位于尺寸扩展后的目标锚框内的像素点，若像素点的像素值大于预设阈值，则将所述像素点的像素值设置为第二像素值；若像素点的像素值小于预设阈值，则将所述像素点的像素值设置为所述第一像素值，以更新所述目标图像。

6.根据权利要求1所述的图像处理方法，其特征在于，所述获取待处理图像的多个不同尺度的特征图，包括：

对待处理图像进行第一特征提取，得到多个不同尺度的第一特征图；

对各个第一特征图进行第二特征提取，得到多个不同尺度的第二特征图，将所述多个不同尺度的第二特征图作为所述待处理图像对应的多个不同尺度的特征图。

7.根据权利要求6所述的图像处理方法，其特征在于，所述对各个第一特征图进行第二特征提取，得到多个不同尺度的第二特征图，包括：

8.一种图像处理装置，其特征在于，包括：

9.一种计算机可读介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现权利要求1至7中任意一项所述的图像处理方法。

10.一种电子设备，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器执行所述可执行指令使得所述电子设备执行权利要求1至7中任意一项所述的图像处理方法。