CN111325816A

CN111325816A - 一种特征图处理方法、装置、存储介质及终端

Info

Publication number: CN111325816A
Application number: CN202010087199.1A
Authority: CN
Inventors: 赵磊; 贾琳
Original assignee: Chongqing Terminus Technology Co Ltd
Current assignee: Chongqing Terminus Technology Co Ltd
Priority date: 2020-02-11
Filing date: 2020-02-11
Publication date: 2020-06-23
Anticipated expiration: 2040-02-11
Also published as: CN111325816B

Abstract

本发明公开了一种特征图处理方法、装置、存储介质及终端，所述方法包括：获取目标特征图；将所述目标特征图输入预设通道维随机移位模块后生成第一特征图集合；将所述第一特征图集合输入预设通道重排分组模块后生成第二特征图集合；将所述第二特征图集合中各特征图进行卷积操作处理生成第三特征图集合；将所述第三特征图集合中各特征图对应的各通道相加和各元素相加后输出，生成输出特征图。因此，采用本申请实施例，可以减小CNN模型大小和参数量，并增强了不同移位组通道间的信息交互能力。

Description

一种特征图处理方法、装置、存储介质及终端

技术领域

本发明涉及计算机技术领域，特别涉及一种特征图处理方法、装置、存储介质及终端。

背景技术

随着深度学习的兴起，卷积神经网络(CNN)在计算机视觉领域取得了巨大成功，可以训练出很深的CNN网络进行最大程度地提取有效的卷积特征信息。例如可应用于图像分类、人脸识别和风格迁移。

目前在计算机视觉领域中，卷积神经网络通过卷积来聚集空间信息，CNN依靠卷积核大小为3x3或更大的空间卷积来聚集图像内的空间信息。由于空间卷积在计算和模型大小上都非常昂贵，都与卷积核大小成二次方增长，从而导致增加了模型的大小和参数量。

发明内容

本申请实施例提供了一种特征图处理方法、装置、存储介质及终端。为了对披露的实施例的一些方面有一个基本的理解，下面给出了简单的概括。该概括部分不是泛泛评述，也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念，以此作为后面的详细说明的序言。

第一方面，本申请实施例提供了一种特征图处理方法，所述方法包括：

获取目标特征图；

将所述目标特征图输入预设通道维随机移位模块后生成第一特征图集合；

将所述第一特征图集合输入预设通道重排分组模块后生成第二特征图集合；

将所述第二特征图集合中各特征图进行卷积操作处理生成第三特征图集合；

将所述第三特征图集合中各特征图对应的各通道相加和各元素相加后输出，生成输出特征图。

可选的，所述将所述目标特征图输入预设通道维随机移位模块后生成第一特征图集合，包括：

将预设通道维随机移位模块对应的移位组中8个移位矩阵进行排序生成排序后的移位矩阵；

将所述目标特征图输入排序后的移位矩阵中进行处理，生成第一特征图集合。

可选的，所述移位组由八个移位操作组成，所述八个移位操作分别表示核大小为3x3的移位矩阵中八个不同方向的移位。

可选的，所述卷积操作处理时的卷积参数为1x1卷积。

第二方面，本申请实施例提供了一种特征图处理装置，所述装置包括：

特征图获取模块，用于获取目标特征图；

第一集合生成模块，用于将所述目标特征图输入预设通道维随机移位模块后生成第一特征图集合；

第二集合生成模块，用于将所述第一特征图集合输入预设通道重排分组模块后生成第二特征图集合；

第三集合生成模块，用于将所述第二特征图集合中各特征图进行卷积操作处理生成第三特征图集合；

输出特征图生成模块，用于将所述第三特征图集合中各特征图对应的各通道相加和各元素相加后输出，生成输出特征图。

可选的，所述第一集合生成模块，包括：

移位矩阵排序单元，用于将预设通道维随机移位模块对应的移位组中8个移位矩阵进行排序生成排序后的移位矩阵；

集合生成单元，用于将所述目标特征图输入排序后的移位矩阵中进行处理，生成第一特征图集合。

第三方面，本申请实施例提供一种计算机存储介质，所述计算机存储介质存储有多条指令，所述指令适于由处理器加载并执行上述的方法步骤。

第四方面，本申请实施例提供一种终端，可包括：处理器和存储器；其中，所述存储器存储有计算机程序，所述计算机程序适于由所述处理器加载并执行上述的方法步骤。

本申请实施例提供的技术方案可以包括以下有益效果：

在本申请实施例中，首先获取目标特征图(输入特征图)，再将所述目标特征图输入预设通道维随机移位模块后生成第一特征图集合，然后将所述第一特征图集合输入预设通道重排分组模块后生成第二特征图集合，再将所述第二特征图集合中各特征图进行卷积操作处理生成第三特征图集合，最后将所述第三特征图集合中各特征图对应的各通道相加和各元素相加后输出，生成输出特征图。由于输入特征图在随机移位操作后，再将对特征图重排分成8组，然后经过分组多尺度增强处理，对不同分组的通道间的特征信息进行交互融合。因此本申请不仅可以进一步减小计算量和参数量，而且增强了不同移位组通道间的信息交互能力。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。

图1是本申请实施例提供的一种特征图处理方法的流程示意图；

图2是本申请实施例提供的一种特征图处理过程的过程示意图；

图3是本申请实施例提供的一种通道维随机移位模块流程示意图；

图4是本申请实施例提供的一种通道重排分组模块流程示意图；

图5是本申请实施例提供的另一种特征图处理方法的流程示意图；

图6是本申请实施例提供的一种特征图处理装置的结构示意图；

图7是本申请实施例提供的一种第一集合生成模块的结构示意图；

图8是本申请实施例提供的一种终端的结构示意图。

具体实施方式

以下描述和附图充分地示出本发明的具体实施方案，以使本领域的技术人员能够实践它们。

应当明确，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。

在本发明的描述中，需要理解的是，术语“第一”、“第二”等仅用于描述目的，而不能理解为指示或暗示相对重要性。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。此外，在本发明的描述中，除非另有说明，“多个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。

到目前为止，目前在计算机视觉领域中，卷积神经网络通过卷积来聚集空间信息，CNN依靠卷积核大小为3x3或更大的空间卷积来聚集图像内的空间信息。由于空间卷积在计算和模型大小上都非常昂贵，都与卷积核大小成二次方增长，从而导致增加了模型的大小和参数量。为此，本申请提供了一种图像处理方法、装置、存储介质及终端，以解决上述相关技术问题中存在的问题。本申请提供的技术方案中，由于输入特征图在随机移位操作后，再将对特征图重排分成8组，然后经过分组多尺度增强处理，对不同分组的通道间的特征信息进行交互融合。因此本申请不仅可以进一步减小计算量和参数量，而且增强了不同移位组通道间的信息交互能力，下面采用示例性的实施例进行详细说明。

下面将结合附图1-附图5，对本申请实施例提供的特征图处理方法进行详细介绍。该方法可依赖于计算机程序实现，可运行于基于冯诺依曼体系的特征图处理装置上。该计算机程序可集成在应用中，也可作为独立的工具类应用运行。其中，本申请实施例中的特征图处理装置可以为用户终端，包括但不限于：个人电脑、平板电脑、手持设备、车载设备、可穿戴设备、计算设备或连接到无线调制解调器的其它处理设备等。在不同的网络中用户终端可以叫做不同的名称，例如：用户设备、接入终端、用户单元、用户站、移动站、移动台、远方站、远程终端、移动设备、用户终端、终端、无线通信设备、用户代理或用户装置、蜂窝电话、无绳电话、个人数字处理(personal digital assistant，PDA)、5G网络或未来演进网络中的终端设备等。

请参见图1，为本申请实施例提供了一种特征图处理方法的流程示意图。如图1所示，本申请实施例的所述方法可以包括以下步骤：

S101，获取目标特征图；

其中，特征图可以是原始图，也可以是经过其他卷积层操作的特征图，特征图具有的参数可以包括特征图数量、特征图通道数量和特征图高度以及特征图宽度。

在一种可能的实现方式中，用户终端首先获取目标图像，此处的目标图像可以是通过用户终端摄像头采集到的目标图像，也可以是保存在用户终端内存中的目标图像，针对目标图像的获取，此处不做限定。当用户终端检测到获取的目标图像时，用户终端首先将调用预先保存在服务器的卷积神经网络模型的信号发送给服务器，当服务器接收到来自用户终端的信号指令时，服务器将保存的卷积神经网络模型响应于用户终端，当用户终端接收到来自服务器的卷积神经网络模型后，将目标图像输入到卷积神经网络模型中进行处理，处理结束后生成目标图像对应的特征图，最后将生成目标图像对应的特征图作为目标特征图，当对目标特征图进行处理时，获取目标特征图。

S102，将所述目标特征图输入预设通道维随机移位模块后生成第一特征图集合；

其中，通道维随机移位模块是对目标特征图进行随机移位操作的数学模型。第一特征图集合是将目标特征图(c个通道)输入通道维随机移位模块进行处理后得到的特征图(8C个通道)。

通常，通道维随机移位模块处理特征图的流程例如图3所示，首先输入特征图(C通道)，针对每个通道，随机排序8个移位模块，再针对每个通道，分别用对应的8个移位模块处理，得到C个分组，每组8个特征图。

在本申请实施例中，首先将预设通道维随机移位模块对应的移位组中8个移位矩阵进行排序生成排序后的移位矩阵，然后将目标特征图输入排序后的移位矩阵中进行处理，生成第一特征图集合。其中每个移位组由八个移位操作组成，分别表示核大小为3x3的移位矩阵中八个不同方向的移位。

例如图2所示，首先将输入的特征图X输入通道维随机移位模块中进行处理。当输入特征图的通道为参数c时，生成c组的特征图集合，分别是第一组Y1特征图集合，第二组Y2特征图集合，第三组Y3特征图集合，第c组Yc特征图集合。最后将生成的这c组的特征图集合确定为第一特征图集合。

S103，将所述第一特征图集合输入预设通道重排分组模块后生成第二特征图集合；

其中，预设通道重排分组模块是对通道维随机移位模块处理的特征图进行二次处理的数学模型，该模型作用是对每个通道得到的特征图进行排序后进行拼接。

通常，例如图4所示，图4是通道重排分组模块执行的流程示意图，首先输入特征图(C*8通道)，然后针对每一个移位模块，依次从C通道提取每一个通道排列在一起，再针对每一个移位模块，重排得到8个分组，每组有C个特征图，最后输出特征图(8*C通道)。

在本申请实施例中，首先将步骤S102生成的第一特征图集合输入预设通道重排分组模块中，将每个通道得到的8个特征图按排序顺序依次提取出并拼接在一起组成一组，这样可以得到8个分组，每组包含C个通道的特征图。将这8个分组，每组包含C个通道的特征图确定为第二特征图集合。

例如图2所示，将输入特征图X输入通道维随机移位模块进行处理生成若干组特征图集合，然后将若干组特征图集合输入通道重排分组模块进行处理，生成8个分组，每组包含C个通道的特征图，分别为Z1组、Z2组、Z3组、Z4组、Z5组、Z6组、Z7组和Z8组。

S104，将所述第二特征图集合中各特征图进行卷积操作处理生成第三特征图集合；

在本申请实施例中，首先经过步骤S103可生成8个分组，每组包含C个通道的特征图(即第二特征图集合)，对每个分组的特征图经过1x1卷积操作处理，然后拼接到下一分组中得到下一分组的输入特征图，然后再经过1x1卷积处理再拼接到下一分组，依次相同处理，得到8个分组的特征图，将8个分组的特征图作为第三特征图集合。

例如图2所示，这8个分组的特征图分别是Z1组、Z2组、Z3组、Z4组、Z5组、Z6组、Z7组和Z8组。首先将Z1组特征图进行卷积参数为1*1进行卷积操作生成U1，然后将U1拼接到Z2组进行卷积参数为1*1进行卷积操作生成U2，再将U2拼接到Z3组进行卷积参数为1*1进行卷积操作生成U3，再将U3拼接到Z4组进行卷积参数为1*1进行卷积操作生成U4，再将U4拼接到Z5组进行卷积参数为1*1进行卷积操作生成U5，再将U5拼接到Z6组进行卷积参数为1*1进行卷积操作生成U6，再将U6拼接到Z7组进行卷积参数为1*1进行卷积操作生成U7，再将U7拼接到Z8组进行卷积参数为1*1进行卷积操作生成U8。最后生成8个分组的特征图集合，分别为U1、U2、U3、U4、U5、U6、U7、U8。

S105，将所述第三特征图集合中各特征图对应的各通道相加和各元素相加后输出，生成输出特征图。

在本申请实施例中，基于步骤S104可得到第三特征图集合，然后将第三特征图集合中将8个分组的特征图逐个通道逐个元素相加在一起，得到最后的输出特征图。

请参见图5，为本申请实施例提供的一种特征图处理方法的流程示意图。本实施例以特征图处理方法应用于用户终端中来举例说明。该特征图处理方法可以包括以下步骤：

S201，获取目标特征图；

S202，将预设通道维随机移位模块对应的移位组中8个移位矩阵进行排序生成排序后的移位矩阵；

S203将所述目标特征图输入排序后的移位矩阵中进行处理，生成第一特征图集合；

S204，将所述第一特征图集合输入预设通道重排分组模块后生成第二特征图集合；

S205，将所述第二特征图集合中各特征图进行卷积操作处理生成第三特征图集合；

S206，将所述第三特征图集合中各特征图对应的各通道相加和各元素相加后输出，生成输出特征图。

下述为本发明装置实施例，可以用于执行本发明方法实施例。对于本发明装置实施例中未披露的细节，请参照本发明方法实施例。

请参见图6，其示出了本发明一个示例性实施例提供的特征图处理装置的结构示意图。该特征图处理方法装置可以通过软件、硬件或者两者的结合实现成为终端的全部或一部分。该装置1包括特征图获取模块10、第一集合生成模块20、第二集合生成模块30、第三集合生成模块40、输出特征图生成模块50。

特征图获取模块10，用于获取目标特征图；

第一集合生成模块20，用于将所述目标特征图输入预设通道维随机移位模块后生成第一特征图集合；

第二集合生成模块30，用于将所述第一特征图集合输入预设通道重排分组模块后生成第二特征图集合；

第三集合生成模块40，用于将所述第二特征图集合中各特征图进行卷积操作处理生成第三特征图集合；

输出特征图生成模块50，用于将所述第三特征图集合中各特征图对应的各通道相加和各元素相加后输出，生成输出特征图。

可选的，如图7所示，所述第一集合生成模块20，包括：

移位矩阵排序单元210，用于将预设通道维随机移位模块对应的移位组中8个移位矩阵进行排序生成排序后的移位矩阵；

集合生成单元220，用于将所述目标特征图输入排序后的移位矩阵中进行处理，生成第一特征图集合。

需要说明的是，上述实施例提供的特征图处理装置在特征图处理方法时，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将设备的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的特征图处理装置与特征图处理方法实施例属于同一构思，其体现实现过程详见方法实施例，这里不再赘述。

上述本申请实施例序号仅仅为了描述，不代表实施例的优劣。

本发明还提供一种计算机可读介质，其上存储有程序指令，该程序指令被处理器执行时实现上述各个方法实施例提供的特征图处理方法。

本发明还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述各个方法实施例所述的特征图处理方法。

请参见图8，为本申请实施例提供了一种终端的结构示意图。如图8所示，所述终端1000可以包括：至少一个处理器1001，至少一个网络接口1004，用户接口1003，存储器1005，至少一个通信总线1002。

其中，通信总线1002用于实现这些组件之间的连接通信。

其中，用户接口1003可以包括显示屏(Display)、摄像头(Camera)，可选用户接口1003还可以包括标准的有线接口、无线接口。

其中，网络接口1004可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。

其中，处理器1001可以包括一个或者多个处理核心。处理器1001利用各种借口和线路连接整个电子设备1000内的各个部分，通过运行或执行存储在存储器1005内的指令、程序、代码集或指令集，以及调用存储在存储器1005内的数据，执行电子设备1000的各种功能和处理数据。可选的，处理器1001可以采用数字信号处理(Digital Signal Processing，DSP)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)、可编程逻辑阵列(Programmable Logic Array，PLA)中的至少一种硬件形式来实现。处理器1001可集成中央处理器(Central Processing Unit，CPU)、图像处理器(Graphics Processing Unit，GPU)和调制解调器等中的一种或几种的组合。其中，CPU主要处理操作系统、用户界面和应用程序等；GPU用于负责显示屏所需要显示的内容的渲染和绘制；调制解调器用于处理无线通信。可以理解的是，上述调制解调器也可以不集成到处理器1001中，单独通过一块芯片进行实现。

其中，存储器1005可以包括随机存储器(Random Access Memory，RAM)，也可以包括只读存储器(Read-Only Memory)。可选的，该存储器1005包括非瞬时性计算机可读介质(non-transitory computer-readable storage medium)。存储器1005可用于存储指令、程序、代码、代码集或指令集。存储器1005可包括存储程序区和存储数据区，其中，存储程序区可存储用于实现操作系统的指令、用于至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现上述各个方法实施例的指令等；存储数据区可存储上面各个方法实施例中涉及到的数据等。存储器1005可选的还可以是至少一个位于远离前述处理器1001的存储装置。如图8所示，作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及特征图处理应用程序。

在图8所示的终端1000中，用户接口1003主要用于为用户提供输入的接口，获取用户输入的数据；而处理器1001可以用于调用存储器1005中存储的特征图处理应用程序，并具体执行以下操作：

获取目标特征图；

在一个实施例中，所述处理器1001在执行所述将所述目标特征图输入预设通道维随机移位模块后生成第一特征图集合时，具体执行以下操作：

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体或随机存储记忆体等。

以上所揭露的仅为本申请较佳实施例而已，当然不能以此来限定本申请之权利范围，因此依本申请权利要求所作的等同变化，仍属本申请所涵盖的范围。

Claims

1.一种特征图处理方法，其特征在于，所述方法包括：

获取目标特征图；

2.根据权利要求1所述的方法，其特征在于，所述将所述目标特征图输入预设通道维随机移位模块后生成第一特征图集合，包括：

3.根据权利要求2所述的方法，其特征在于，所述移位组由八个移位操作组成，所述八个移位操作分别表示核大小为3x3的移位矩阵中八个不同方向的移位。

4.根据权利要求1所述的方法，其特征在于，所述卷积操作处理时的卷积参数为1x1卷积。

5.一种特征图处理装置，其特征在于，所述装置包括：

特征图获取模块，用于获取目标特征图；

6.根据权利要求5所述的装置，其特征在于，所述第一集合生成模块，包括：

7.一种计算机存储介质，其特征在于，所述计算机存储介质存储有多条指令，所述指令适于由处理器加载并执行如权利要求1～4任意一项的方法步骤。

8.一种终端，其特征在于，包括：处理器和存储器；其中，所述存储器存储有计算机程序，所述计算机程序适于由所述处理器加载并执行如权利要求1～4任意一项的方法步骤。