CN113505736A - 对象的识别方法及装置、存储介质、电子装置 - Google Patents

Abstract

本发明实施例提供了一种对象的识别方法及装置、存储介质、电子装置，该方法包括：从获取的第一目标图像中提取第一目标对象的全局特征和第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，其中，N是大于1的自然数，第一目标图像中包括第一目标对象；双线性池化全局特征和N个局部特征，得到N个局部部位的N个特征信息；基于N个特征信息识别第一目标对象。通过本发明，解决了相关技术中不能准确的识别对象的问题，达到准确的识别出对象的效果。

Description

对象的识别方法及装置、存储介质、电子装置

技术领域

本发明实施例涉及图像领域，具体而言，涉及一种对象的识别方法及装置、存储介质、电子装置。

背景技术

在实际监控场景中，由于环境复杂，相机分辨率低，很难得到清晰的人脸，人脸识别技术作用并不突出。行人重识别作为人脸识别的补充，可以有效解决实际应用中跨设备、跨场景的问题。在实际场景中，行人容易被遮挡，截断以及各种附属物的影响导致在比对时会错对齐或者同一个人在遮挡和不被遮挡下对应的身体区域相似度很低导致行人识别错误，

针对上述技术问题，相关技术中尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种对象的识别方法及装置、存储介质、电子装置，以至少解决相关技术中不能准确的识别对象的问题。

根据本发明的一个实施例，提供了一种对象的识别方法，包括：从获取的第一目标图像中提取第一目标对象的全局特征和第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，其中，N是大于1的自然数，第一目标图像中包括第一目标对象；双线性池化全局特征和N个局部特征，得到N个局部部位的N个特征信息；基于上述N个特征信息识别上述第一目标对象。

根据本发明的另一个实施例，提供了一种对象的识别装置，包括：第一提取模块，用于从获取的第一目标图像中提取第一目标对象的全局特征和第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，其中，N是大于1的自然数，第一目标图像中包括第一目标对象；第一池化模块，用于双线性池化全局特征和N个局部特征，得到N个局部部位的N个特征信息；第一识别模块，用于基于N个特征信息识别第一目标对象。

在一个示例性实施例中，上述第一提取模块，包括：第一输入单元，用于将上述第一目标图像输入至第一网络模型中，得到上述第一网络模型输出的上述第一目标对象的全局特征；第一分割单元，用于分割上述第一目标图像，得到上述N个局部图像，其中，上述N个局部图像中每个局部图像中包括上述第一目标对象的一个局部部位；第二输入单元，用于将上述N个局部图像输入至第二网络模型中，得到上述第二网络模型输出的上述N个局部部位的掩膜mask特征，得到上述N个局部特征。

在一个示例性实施例中，上述第一池化模块，包括：第一确定单元，用于确定上述全局特征的矩阵，得到全局矩阵；第二确定单元，用于确定上述N个局部特征的矩阵，得到N个局部矩阵；第一转换单元，用于双线性转换上述全局矩阵和上述N个局部矩阵，得到转换矩阵；第一池化单元，用于将上述转换矩阵进行全局池化，得到目标矩阵；第三确定单元，用于利用上述目标矩阵确定上述N个特征信息。

在一个示例性实施例中，上述第一识别模块，包括：第四确定单元，用于确定上述N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的相似度，其中，上述K是大于或等于1的自然数，上述第二目标图像中的第二目标对象的局部部位与上述第一目标图像中上述第一目标对象的局部部位对应；第一识别单元，用于利用上述相似度识别上述第一目标对象。

在一个示例性实施例中，基于N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的余弦相似度、第一目标图像中的局部部件的特征信息以及第二目标图像中的对应于第一目标图像中的局部部件的特征信息，确定N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的相似度。

在一个示例性实施例中，上述装置还包括：第一确定模块，用于基于上述N个特征信息识别上述第一目标对象之前，确定N个掩膜mask特征中每个mask特征的矩阵，得到N个局部矩阵，其中，N个局部特征与N个掩膜mask特征一一对应；第二确定模块，用于确定N个局部矩阵中每个局部矩阵中的元素之和；第三确定模块，用于基于上述每个局部矩阵中的元素之和确定上述第一目标对象是否被遮挡。

在一个示例性实施例中，上述第三确定模块，包括以下之一：第五确定单元，用于在上述每个局部矩阵中的元素之和小于预设阈值的情况下，确定上述第一目标对象被遮挡；第六确定单元，用于在上述每个局部矩阵中的元素之和大于或等于上述预设阈值的情况下，确定上述第一目标对象未被遮挡。

根据本发明的又一个实施例，还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

根据本发明的又一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。

通过本发明，通过从获取的第一目标图像中提取第一目标对象的全局特征和第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，其中，N是大于1的自然数，第一目标图像中包括第一目标对象；双线性池化全局特征和N个局部特征，得到N个局部部位的N个特征信息；基于N个特征信息识别第一目标对象。引入分割信息，可以实现提升对象全局特征提取能力的目的。因此，可以解决相关技术中不能准确的识别对象的问题，达到准确的识别出对象的效果。

附图说明

图1是本发明实施例的一种对象的识别方法的移动终端的硬件结构框图；

图2是根据本发明实施例的对象的识别方法的流程图；

图3是根据本发明实施例的特征提取示意图；

图4是根据本发明实施例的对象的识别装置的结构框图。

具体实施方式

下文中将参考附图并结合实施例来详细说明本发明的实施例。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。

本申请实施例中所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在移动终端上为例，图1是本发明实施例的一种对象的识别方法的移动终端的硬件结构框图。如图1所示，移动终端可以包括一个或多个(图1中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)和用于存储数据的存储器104，其中，上述移动终端还可以包括用于通信功能的传输设备106以及输入输出设备108。本领域普通技术人员可以理解，图1所示的结构仅为示意，其并不对上述移动终端的结构造成限定。例如，移动终端还可包括比图1中所示更多或者更少的组件，或者具有与图1所示不同的配置。

存储器104可用于存储计算机程序，例如，应用软件的软件程序以及模块，如本发明实施例中的对象的识别方法对应的计算机程序，处理器102通过运行存储在存储器104内的计算机程序，从而执行各种功能应用以及数据处理，即实现上述的方法。存储器104可包括高速随机存储器，还可包括非易失性存储器，如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中，存储器104可进一步包括相对于处理器102远程设置的存储器，这些远程存储器可以通过网络连接至移动终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括移动终端的通信供应商提供的无线网络。在一个实例中，传输装置106包括一个网络适配器(Network Interface Controller，简称为NIC)，其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中，传输装置106可以为射频(Radio Frequency，简称为RF)模块，其用于通过无线方式与互联网进行通讯。

在本实施例中提供了一种对象的识别方法，图2是根据本发明实施例的对象的识别方法的流程图，如图2所示，该流程包括如下步骤：

步骤S202，从获取的第一目标图像中提取第一目标对象的全局特征和第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，其中，N是大于1的自然数，第一目标图像中包括第一目标对象；

步骤S204，双线性池化全局特征和N个局部特征，得到N个局部部位的N个特征信息；

步骤S206，基于N个特征信息识别第一目标对象。

其中，上述步骤的执行主体可以为终端等，但不限于此。

本实施例包括但不限于应用于对行人进行识别的场景中。

在本实施例中，第一目标图像包括通过摄像设备获取的任一图像。

通过上述步骤，通过从获取的第一目标图像中提取第一目标对象的全局特征和第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，其中，N是大于1的自然数，第一目标图像中包括第一目标对象；双线性池化全局特征和N个局部特征，得到N个局部部位的N个特征信息；基于N个特征信息识别第一目标对象。引入分割信息，可以实现提升对象全局特征提取能力的目的。因此，可以解决相关技术中不能准确的识别对象的问题，达到准确的识别出对象的效果。

在一个示例性实施例中，从获取的第一目标图像中提取第一目标对象的全局特征和所述第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，包括：

S1，将第一目标图像输入至第一网络模型中，得到第一网络模型输出的第一目标对象的全局特征；

S2，分割第一目标图像，得到N个局部图像，其中，N个局部图像中每个局部图像中包括第一目标对象的一个局部部位；

S3，将N个局部图像输入至第二网络模型中，得到第二网络模型输出的N个局部部位的掩膜mask特征，得到N个局部特征。

在本实施例中，如图3所示，对检测到的第一目标图像发送至两分支的网络中分别提取第一目标图像中的第一目标对象的全身特征和目标对象的各部件的mask特征；并对第一目标对象进行分割，分割第一目标对象各局部部件区域(例如，头部、上半身、下半身、脚部)，第一目标对象的附属物(例如，手提包)不会被分割到mask中，然后对全身特征分别与各部件的mask特征进行双线性池化分别得到各部件的特征。

在一个示例性实施例中，双线性池化全局特征和N个局部特征，得到N个局部部位的N个特征信息，包括：

S1，确定全局特征的矩阵，得到全局矩阵；

S2，确定N个局部特征的矩阵，得到N个局部矩阵；

S3，双线性转换全局矩阵和N个局部矩阵，得到转换矩阵；

S4，将转换矩阵进行全局池化，得到目标矩阵；

S5，利用目标矩阵确定N个特征信息。

在本实施例中，对全局特征分别与各部件的N个mask特征进行双线性池化，分别得到N个特征信息。例如，全局矩阵和N个局部矩阵两个矩阵分别记为A和P，先进行双线性转换，然后再进行空间全局池化。对于池化层就是对于一个矩形范围内的所有输出进行平均池化。主要在与将向量与向量采用叉乘方式进行融合。公式如下：

其中，S是双线性变换后的目标矩阵的大小。

在一个示例性实施例中，基于N个特征信息识别第一目标对象，包括：

S1，确定N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的相似度，其中，K是大于或等于1的自然数，第二目标图像中的第二目标对象的局部部位与第一目标图像中第一目标对象的局部部位对应；

S2，利用相似度识别第一目标对象。

在本实施例中，例如，实际场景中行人会被各种物体或附属物遮挡，在进行识别时两个目标如果一个被遮挡，另一个没有没遮挡这样会影响两个目标的相似度，本实施例在第一目标对象比对识别时将遮挡信息加入到相似度计算中，在人体部件分割分支中可以得到个局部区域的mask，而各种附属物以及遮挡物不会被分割，因此可以利用mask得到行人是否有附属物以及是否被遮挡的潜在信息。这样可以降低遮挡物对相似度的影响，提高识别准确率。

在一个示例性实施例中，确定N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的相似度，包括：

在一个示例性实施例中，基于N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的余弦相似度、第一目标图像中的局部部件的特征信息以及第二目标图像中的对应于第一目标图像中的局部部件的特征信息，确定N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的相似度。

在本实施例中，

其中，<>用于表示N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的余弦相似度，I用于表示预设值，fi用于表示第一目标图像中的局部部件的特征信息，gi用于表示第二目标图像中的对应于第一目标图像中的局部部件的特征信息。

在本实施例中，4表示局部区域个数，在本实施例中包括4个局部部件，I表示0或1。

在一个示例性实施例中，基于N个特征信息识别第一目标对象之前，方法还包括：

S1，确定N个掩膜mask特征中每个mask特征的矩阵，得到N个局部矩阵，其中，N个局部特征与N个掩膜mask特征一一对应；

S2，确定N个局部矩阵中每个局部矩阵中的元素之和；

S3，基于每个局部矩阵中的元素之和确定第一目标对象是否被遮挡。

在一个示例性实施例中，基于每个局部矩阵中的元素之和确定第一目标对象是否被遮挡，包括以下之一：

S1，在每个局部矩阵中的元素之和小于预设阈值的情况下，确定第一目标对象被遮挡；

S2，在每个局部矩阵中的元素之和大于或等于预设阈值的情况下，确定第一目标对象未被遮挡。

在本实施例中，对mask矩阵各元素求和，如果值小于某个阈值，则该局部区域被遮挡严重；如果比对的两个目标对应的局部区域的该值都大于或等于预设阈值，则表明局部区域均没有被遮挡，则计算对应局部区域的相似度，具体包括以下公式：

综上所述，本实施例采用分割mask信息，可以提升行人全局特征提取能力，提供的行人是否遮挡以及哪个局部区域被遮挡的潜在信息，可以提高行人识别的准确性。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

在本实施例中还提供了一种对象的识别装置，该装置用于实现上述实施例及优选实施方式，已经进行过说明的不再赘述。如以下所使用的，术语“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

图4是根据本发明实施例的对象的识别装置的结构框图，如图4所示，该装置包括：

第一提取模块42，用于从获取的第一目标图像中提取第一目标对象的全局特征和第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，其中，N是大于1的自然数，第一目标图像中包括第一目标对象；

第一池化模块44，用于双线性池化全局特征和N个局部特征，得到N个局部部位的N个特征信息；

第一识别模块46，用于基于N个特征信息识别第一目标对象。

在一个示例性实施例中，上述第一提取模块，包括：

第一输入单元，用于将上述第一目标图像输入至第一网络模型中，得到上述第一网络模型输出的上述第一目标对象的全局特征；

第一分割单元，用于分割上述第一目标图像，得到上述N个局部图像，其中，上述N个局部图像中每个局部图像中包括上述第一目标对象的一个局部部位；

第二输入单元，用于将上述N个局部图像输入至第二网络模型中，得到上述第二网络模型输出的上述N个局部部位的掩膜mask特征，得到上述N个局部特征。

在一个示例性实施例中，上述第一池化模块，包括：

第一确定单元，用于确定上述全局特征的矩阵，得到全局矩阵；

第二确定单元，用于确定上述N个局部特征的矩阵，得到N个局部矩阵；

第一转换单元，用于双线性转换上述全局矩阵和上述N个局部矩阵，得到转换矩阵；

第一池化单元，用于将上述转换矩阵进行全局池化，得到目标矩阵；

第三确定单元，用于利用上述目标矩阵确定上述N个特征信息。

在一个示例性实施例中，上述第一识别模块，包括：

第四确定单元，用于确定上述N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的相似度，其中，上述K是大于或等于1的自然数，上述第二目标图像中的第二目标对象的局部部位与上述第一目标图像中上述第一目标对象的局部部位对应；

第一识别单元，用于利用上述相似度识别上述第一目标对象。

在一个示例性实施例中，基于N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的余弦相似度、第一目标图像中的局部部件的特征信息以及第二目标图像中的对应于第一目标图像中的局部部件的特征信息，确定N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的相似度。

在一个示例性实施例中，上述装置还包括：

第一确定模块，用于基于上述N个特征信息识别上述第一目标对象之前，确定N个掩膜mask特征中每个mask特征的矩阵，得到N个局部矩阵，其中，N个局部特征与N个掩膜mask特征一一对应；

第二确定模块，用于确定N个局部矩阵中每个局部矩阵中的元素之和；

第三确定模块，用于基于上述每个局部矩阵中的元素之和确定上述第一目标对象是否被遮挡。

在一个示例性实施例中，上述第三确定模块，包括以下之一：

第五确定单元，用于在上述每个局部矩阵中的元素之和小于预设阈值的情况下，确定上述第一目标对象被遮挡；

第六确定单元，用于在上述每个局部矩阵中的元素之和大于或等于上述预设阈值的情况下，确定上述第一目标对象未被遮挡。

需要说明的是，上述各个模块是可以通过软件或硬件来实现的，对于后者，可以通过以下方式实现，但不限于此：上述模块均位于同一处理器中；或者，上述各个模块以任意组合的形式分别位于不同的处理器中。

本发明的实施例还提供了一种计算机可读存储介质，该计算机可读存储介质中存储有计算机程序，其中，该计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

在本实施例中，上述计算机可读存储介质可以被设置为存储用于执行以上各步骤的计算机程序。

在一个示例性实施例中，上述计算机可读存储介质可以包括但不限于：U盘、只读存储器(Read-Only Memory，简称为ROM)、随机存取存储器(Random Access Memory，简称为RAM)、移动硬盘、磁碟或者光盘等各种可以存储计算机程序的介质。

本发明的实施例还提供了一种电子装置，包括存储器和处理器，该存储器中存储有计算机程序，该处理器被设置为运行计算机程序以执行上述任一项方法实施例中的步骤。

在一个示例性实施例中，上述电子装置还可以包括传输设备以及输入输出设备，其中，该传输设备和上述处理器连接，该输入输出设备和上述处理器连接。

在一个示例性实施例中，上述处理器可以被设置为通过计算机程序执行以上各步骤。

本实施例中的具体示例可以参考上述实施例及示例性实施方式中所描述的示例，本实施例在此不再赘述。

显然，本领域的技术人员应该明白，上述的本发明的各模块或各步骤可以用通用的计算装置来实现，它们可以集中在单个的计算装置上，或者分布在多个计算装置所组成的网络上，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，并且在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样，本发明不限制于任何特定的硬件和软件结合。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种对象的识别方法，其特征在于，包括：

从获取的第一目标图像中提取第一目标对象的全局特征和所述第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，其中，所述N是大于1的自然数，所述第一目标图像中包括所述第一目标对象；

双线性池化所述全局特征和所述N个局部特征，得到所述N个局部部位的N个特征信息；

基于所述N个特征信息识别所述第一目标对象。

2.根据权利要求1所述的方法，其特征在于，从获取的第一目标图像中提取第一目标对象的全局特征和所述第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，包括：

将所述第一目标图像输入至第一网络模型中，得到所述第一网络模型输出的所述第一目标对象的全局特征；

分割所述第一目标图像，得到所述N个局部图像，其中，所述N个局部图像中每个局部图像中包括所述第一目标对象的一个局部部位；

将所述N个局部图像输入至第二网络模型中，得到所述第二网络模型输出的所述N个局部部位的掩膜mask特征，得到所述N个局部特征。

3.根据权利要求1所述的方法，其特征在于，双线性池化所述全局特征和所述N个局部特征，得到所述N个局部部位的N个特征信息，包括：

确定所述全局特征的矩阵，得到全局矩阵；

确定所述N个局部特征的矩阵，得到N个局部矩阵；

双线性转换所述全局矩阵和所述N个局部矩阵，得到转换矩阵；

将所述转换矩阵进行全局池化，得到目标矩阵；

利用所述目标矩阵确定所述N个特征信息。

4.根据权利要求1所述的方法，其特征在于，基于所述N个特征信息识别所述第一目标对象，包括：

确定所述N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的相似度，其中，所述K是大于或等于1的自然数，所述第二目标图像中的第二目标对象的局部部位与所述第一目标图像中所述第一目标对象的局部部位对应；

利用所述相似度识别所述第一目标对象。

5.根据权利要求4所述的方法，其特征在于，确定所述N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的相似度，包括：

基于所述N个特征信息中每个特征信息与所述第二目标图像中的每个特征信息之间的余弦相似度、所述第一目标图像中的局部部件的特征信息以及所述第二目标图像中的对应于所述第一目标图像中的局部部件的特征信息，确定所述N个特征信息中每个特征信息与第二目标图像中的每个特征信息之间的相似度。

6.根据权利要求1所述的方法，其特征在于，基于所述N个特征信息识别所述第一目标对象之前，所述方法还包括：

确定N个掩膜mask特征中每个mask特征的矩阵，得到N个局部矩阵，其中，所述N个局部特征与所述N个掩膜mask特征一一对应；

确定N个局部矩阵中每个局部矩阵中的元素之和；

基于所述每个局部矩阵中的元素之和确定所述第一目标对象是否被遮挡。

7.根据权利要求6所述的方法，其特征在于，基于所述每个局部矩阵中的元素之和确定所述第一目标对象是否被遮挡，包括以下之一：

在所述每个局部矩阵中的元素之和小于预设阈值的情况下，确定所述第一目标对象被遮挡；

在所述每个局部矩阵中的元素之和大于或等于所述预设阈值的情况下，确定所述第一目标对象未被遮挡。

8.一种对象的识别装置，其特征在于，包括：

第一提取模块，用于从获取的第一目标图像中提取第一目标对象的全局特征和所述第一目标对象的N个局部部位的局部特征，得到全局特征和N个局部特征，其中，所述N是大于1的自然数，所述第一目标图像中包括所述第一目标对象；

第一池化模块，用于双线性池化所述全局特征和所述N个局部特征，得到所述N个局部部位的N个特征信息；

第一识别模块，用于基于所述N个特征信息识别所述第一目标对象。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，其中，所述计算机程序被处理器执行时实现所述权利要求1至7任一项中所述的方法。

10.一种电子装置，包括存储器和处理器，其特征在于，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行所述权利要求1至7任一项中所述的方法。

Images