CN114708611A - 一种跨模态行人重识别方法、装置、设备和存储介质 - Google Patents

一种跨模态行人重识别方法、装置、设备和存储介质 Download PDF

Info

Publication number
CN114708611A
CN114708611A CN202210259929.0A CN202210259929A CN114708611A CN 114708611 A CN114708611 A CN 114708611A CN 202210259929 A CN202210259929 A CN 202210259929A CN 114708611 A CN114708611 A CN 114708611A
Authority
CN
China
Prior art keywords
identified
pedestrian
pedestrian image
target
image set
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210259929.0A
Other languages
English (en)
Inventor
陈浩彬
乔宇
焦国华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Institute of Advanced Technology of CAS
Original Assignee
Shenzhen Institute of Advanced Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Institute of Advanced Technology of CAS filed Critical Shenzhen Institute of Advanced Technology of CAS
Priority to CN202210259929.0A priority Critical patent/CN114708611A/zh
Publication of CN114708611A publication Critical patent/CN114708611A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种跨模态行人重识别方法、装置、设备和存储介质。该方法包括：获取待识别行人图像集合，其中，待识别行人图像集合包括：至少两个模态下的待识别行人图像；对待识别行人图像集合中的待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息；根据待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图；根据目标异质图确定目标特征；根据目标特征生成目标行人图像。本方案可添加至任意现有跨模态行人重识别方法后面作为后处理，提高现有跨模态行人重识别方法的精度，使得夜晚的智能追踪和人员追捕更加准确，可大力推动智能安防建设。

Description

一种跨模态行人重识别方法、装置、设备和存储介质
技术领域
本发明涉及行人重识别技术领域，尤其涉及一种跨模态行人重识别方法、装置、设备和存储介质。
背景技术
跨模态行人重识别在智慧城市安防监控场景发挥着巨大的作用。跨模态行人重识别方法是实现可见光拍摄的人体图片与近红外成像的人体图片之间的相互检索，目标是给定一张可见光拍摄的人体图片进行查询，在近红外成像图片的底库中找到与查询图片身份相同的图片，或者反之，给定一张近红外成像图片进行查询，在可见光拍摄的人体图片底库中找到与查询图片身份相同的图片。
现有的跨模态行人重识别大多数为通过标签作为媒介，使用统计学习的方法(如今以神经网络为代表)使得网络模型能够提取可见光和近红外行人图片中能够代表身份的有效信息。但是由于近红外与可见光图片的模态相差很大，深度学习网络学习到的特征仍然含有模态特有的、与身份无关的信息(如可见光图片中的颜色信息)，从而导致跨模态检索的精度不够高。
发明内容
本发明提供了一种跨模态行人重识别方法、装置、设备和存储介质，以解决现有技术中跨模态行人重识别检索精度不够高的问题，达到了夜晚的智能追踪和人员追捕更加准确的效果，实现了智能安防建设的大力推动。
根据本发明的一方面，提供了一种跨模态行人重识别方法，该方法包括：
获取待识别行人图像集合，其中，所述待识别行人图像集合包括：至少两个模态下的待识别行人图像；
对所述待识别行人图像集合中的待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息；
根据所述待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图；
根据所述目标异质图确定目标特征；
根据所述目标特征生成目标行人图像。
根据本发明的另一方面，提供了一种跨模态行人重识别装置，该装置包括：
获取模块，用于获取待识别行人图像集合，其中，所述待识别行人图像集合包括：至少两个模态下的待识别行人图像；
特征提取模块，用于对所述待识别行人图像集合中的待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息；
构建模块，用于根据所述待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图；
确定模块，用于根据所述目标异质图确定目标特征；
生成模块，用于根据所述目标特征生成目标行人图像。
根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的跨模态行人重识别方法。
根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的跨模态行人重识别方法。
本发明实施例的技术方案，通过获取待识别行人图像集合，其中，待识别行人图像集合包括：至少两个模态下的待识别行人图像；对待识别行人图像集合中的待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息；根据待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图；根据目标异质图确定目标特征；根据目标特征生成目标行人图像。本发明实施例可添加至任意现有跨模态行人重识别方法后面作为后处理，提高现有跨模态行人重识别方法的精度，使得夜晚的智能追踪和人员追捕更加准确，大力推动智能安防的建设。
应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种跨模态行人重识别方法的流程图；
图2a是根据本发明实施例一提供的一种第一异质图的示意图；
图2b是根据本发明实施例一提供的对一种第一异质图进行噪声去除的方法示意图；
图3是根据本发明实施例一提供的一种跨模态行人重识别方法的过程示意图；
图4是根据本发明实施例二提供的一种跨模态行人重识别装置的结构示意图；
图5是实现本发明实施例的跨模态行人重识别方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“目标”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1是根据本发明实施例一提供的一种跨模态行人重识别方法的流程图，本实施例可适用于跨模态行人重识别情况，该方法可以由跨模态行人重识别装置来执行，该跨模态行人重识别装置可以采用硬件和/或软件的形式实现，该跨模态行人重识别装置可集成在任何提供跨模态行人重识别功能的电子设备中。如图1所示，该方法包括：
S101、获取待识别行人图像集合。
需要解释的是，待识别行人图像集合指的是现有的待识别的行人图像组成的集合。示例性的，行人图像可以是由监控拍摄到的行人的图像。
其中，待识别行人图像集合包括：至少两个模态下的待识别行人图像。
需要说明的是，在本实施例中至少两个模态下的待识别行人图像可以理解为在不同情况下拍摄的待识别行人图像，例如可以是在白天拍摄到的可见光待识别行人图像，也可以是在晚上拍摄到的近红外待识别行人图像。
具体的，通过采集监控图片等方式，获取现有的至少两个模态下的待识别行人图像组成待识别行人图像集合。
S102、对待识别行人图像集合中的待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息。
需要说明的是，特征提取可以理解为提取图像上的信息，并判定每个图像的点是否属于一个图像特征。示例性的，例如可以是提取图像上的行人的脸部信息，也可以是提取图像上的行人的衣着信息。
在本实施例中，特征信息例如可以是图像中行人的面部特征、发型特征或衣物特征等。
示例性的，可以使用卷积神经网络进行特征提取，具体可以是将获取到的待识别行人图像集合中的待识别行人图像输入到卷积神经网络中，就可以得到待识别行人图像集合中的每个待识别行人图像对应的特征信息。
S103、根据待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图。
需要解释的是，目标异质图可以理解为是由待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建的不同实体之间关系的模型，通过图的方式进行建模，分析不同实体之间的拓扑关系。
具体的，根据待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图。
由于构成的图网络中包含不同模态的待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息，所以该图网络为异质图。异质图方法是建模不同类型实体之间关系的方法。通过图的方式进行建模，不同类型实体表示为异质图中的节点，而节点与节点之间连接的边表示了不同实体之间的交互关系，通过学习的方式可以使得图中的节点或者边的特征能够表示实体相互之间的拓扑关系，或者基于图的拓扑关系对节点之间的信息进行传递。
S104、根据目标异质图确定目标特征。
需要说明的是，目标特征可以理解为行人重识别过程中能代表行人身份语义的具体的行人特征，例如可以是行人的面部特征。
具体的，根据目标异质图确定目标特征，即确定行人重识别过程中能代表行人身份语义的具体的行人特征(例如行人的面部特征)，舍弃待识别行人图像中的冗余特征(例如行人的衣服颜色)。
S105、根据目标特征生成目标行人图像。
需要说明的是，目标行人图像指的是根据目标特征生成的行人重识别过程中目标人物的图像。
具体的，根据目标特征生成目标行人图像，根据目标行人图像在图片库中进行搜索匹配，找到与目标行人图像身份语义相同的图片，从而实现跨模态行人重识别。
本发明实施例的技术方案，通过获取待识别行人图像集合，其中，待识别行人图像集合包括：至少两个模态下的待识别行人图像；对待识别行人图像集合中的待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息；根据待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图；根据目标异质图确定目标特征；根据目标特征生成目标行人图像。本发明实施例可添加至任意现有跨模态行人重识别方法后面作为后处理，提高现有跨模态行人重识别方法的精度，使得夜晚的智能追踪和人员追捕更加准确，大力推动智能安防的建设。
可选的，根据目标异质图确定目标特征，包括：
根据目标异质图对至少两个模态下的待识别行人图像进行信息聚合，得到至少两个模态聚合特征。
在本实施例中，信息聚合是指将目标异质图中的待识别行人图像按照不同模态进行聚合。例如可以是，将所有可见光模态的待识别行人图像进行信息聚合，将所有近红外模态的待识别行人图像进行信息聚合。
需要说明的是，模态聚合特征指的是将目标异质图中的待识别行人图像按照不同模态进行聚合后得到的不同模态的聚合特征。例如可以是，所有可见光模态的待识别行人图像进行信息聚合后得到可见光模态聚合特征，所有近红外模态的待识别行人图像进行信息聚合后得到近红外模态聚合特征。
具体的，将目标异质图中至少两个模态下的待识别行人图像按照模态的类别进行聚合，得到至少两个模态聚合特征，如可见光模态的待识别行人图像进行信息聚合后得到可见光模态聚合特征，近红外模态的待识别行人图像进行信息聚合后得到近红外模态聚合特征。
对至少两个模态聚合特征进行融合，得到目标特征。
需要说明的是，融合指的是将进行信息聚合后得到的至少两个模态聚合特征进行融合。
具体的，对根据目标异质图对至少两个模态下的待识别行人图像进行信息聚合后得到的至少两个模态聚合特征进行融合，得到目标特征。
可选的，根据目标异质图对至少两个模态下的待识别行人图像进行信息聚合，得到至少两个模态聚合特征，包括：
对目标异质图中的节点进行模态划分，得到至少两个模态对应的节点集合。
在本实施例中，节点指的是待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息。
需要解释的是，模态划分是指将目标异质图中的节点按照模态的不同进行划分，例如可以是，将目标异质图中的节点按照可见光模态和近红外模态进行划分。
需要说明的是，节点集合指的是对目标异质图中的节点按照模态的不同进行划分后，各相同模态的节点形成的集合。
具体的，按照模态的不同对目标异质图中的节点进行模态划分，得到至少两个模态对应的节点集合。例如可以是，将目标异质图中的节点按照可见光模态和近红外模态进行划分，得到可见光模态对应的节点集合和近红外模态对应的节点集合。
分别对至少两个模态对应的节点集合中的节点进行信息聚合，得到至少两个模态聚合特征。
具体的，分别对进行模态划分后得到的至少两个模态对应的节点集合中的节点进行信息聚合，得到至少两个模态聚合特征。例如可以是，将可见光模态对应的节点集合中的节点进行信息聚合得到可见光模态聚合特征，将近红外模态对应的节点集合中的节点进行信息聚合得到近红外模态聚合特征。
在实际操作过程中，可以将目标异质图中的所有节点作为中心节点，中心节点的近邻节点中包含了不同的模态的节点，一般而言，由于不同模态的待识别行人图像原始特征分布的差异，近邻节点中多数节点都是与中心节点相同的模态，本发明实施例提出将近邻节点按照模态进行划分，分别做特征的聚合得到对应模态聚合特征，如可见光的近邻节点聚合得到可见光模态聚合特征，近红外的近邻节点聚合得到近红外模态聚合特征。各模态聚合特征
Figure BDA0003549741630000091
的计算公式具体如下：
Figure BDA0003549741630000092
其中，
Figure BDA0003549741630000093
为计算得到的各模态聚合特征，σ为非线性激活函数，xi表示近邻节点，Nα(xk)代表以xk为中心节点的近邻节点集合，
Figure BDA0003549741630000094
代表计算得到的注意力权重，ui表示xi所对应的原始特征。
其中，计算得到的注意力权重
Figure BDA0003549741630000095
的计算公式如下：
Figure BDA0003549741630000096
其中，aα(xk,xi)表示不同节点之间的关联程度，aα(xk,xi)的计算公式具体如下：
Figure BDA0003549741630000097
其中，Aα和Wα表示可学习参数，具体可通过分类损失函数和三元组损失函数进行监督训练，从而对可学习参数Aα和Wα进行学习。
可选的，对至少两个模态聚合特征进行融合，得到目标特征，包括：
将至少两个模态聚合特征分别映射到至少两个子空间，得到每个子空间对应的聚合特征。
在本实施例中，可以将至少两个模态聚合特征所在的空间视为全空间，则子空间可以理解为维度小于全空间的部分空间。
具体的，可以通过线性映射的方式，将至少两个模态聚合特征分别映射到至少两个子空间，得到每个子空间对应的聚合特征。在实际操作过程中，映射的过程相当于对输入的至少两个模态聚合特征进行加工，得到每个子空间对应的加工后的聚合特征。
将至少两个子空间对应的聚合特征进行线性映射，得到目标特征。
可以知道的是，线性映射指的是一个过程，该过程的输入是一个长度为K的特征向量，通过与多个矩阵相乘的形式，输出多个长度为M的特征向量，其中K和M可以根据需要设置。
具体的，将至少两个模态聚合特征分别映射到至少两个子空间，得到每个子空间对应的聚合特征后，然后同样通过线性映射将至少两个子空间对应的聚合特征进行映射，得到Qk、Kk和Zk三种特征，Qk和Kk做内积得到注意力图，然后与Zk相乘得到目标特征，此过程可参考现有技术名为transformer的方法。
可选的，根据待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图，包括：
根据待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建第一异质图。
需要说明的是，第一异质图指的是根据待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建的原始带有噪声的异质图。
具体的，将待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息作为节点，构建第一异质图。
对第一异质图进行噪声去除，得到目标异质图。
具体的，对第一异质图进行噪声去除，即过滤第一异质图中身份语义信息与目标行人不同的待识别行人图像集合中的待识别行人图像和待识别行人图像集合中的待识别行人图像对应的特征信息，得到目标异质图。
可选的，对第一异质图进行噪声去除，得到目标异质图，包括：
获取第一异质图中每个节点的置信度。
在本实施例中，每个节点的置信度可以是根据实际情况人为赋予的，可以根据性能进行调整，每个节点的置信度的形式可以是指数形式，例如可以是λ，其中0<λ<1。
具体的，将待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息作为节点，以每个节点作为中心节点，通过递归的形式去搜索跟它相连的节点，并对相连节点赋予一定的置信度，获取第一异质图中每个节点的置信度。
示例性的，图2a是根据本发明实施例一提供的一种第一异质图的示意图。如图2a所示，此待识别行人图像集合中共有9个待识别行人图像，对9个待识别行人图像进行特征提取后得到9个待识别行人图像对应的特征信息，将9个待识别行人图像和9个待识别行人图像对应的特征信息作为节点，构建第一异质图，将9个节点进行标号，分别为节点1、2、3、4、5、6、7、8和9。
图2b是根据本发明实施例一提供的对一种第一异质图进行噪声去除的方法示意图。在实际操作过程中，例如可以先以节点1作为中心节点，搜索到跟它直接相连的一阶相连的节点(节点2、3、4、6、7)，这一阶段的节点会赋予一定的置信度λ1,其中0<λ1<1。接着，第一阶段的每个节点继续去搜索跟它们相连的节点(例如以节点2作为中心节点，搜索到跟它直接相连的节点3、8和9，以节点3作为中心节点，搜索到跟它直接相连的节点2、4和8，以节点4作为中心节点，搜索到跟它直接相连的节点3、5和6，以节点6作为中心节点，搜索到跟它直接相连的节点4和5，以节点7作为中心节点，搜索后发现没有跟它直接相连的节点)，这一阶段的节点也会被赋予一定的置信度λ2，以此类推去搜索N轮。值得注意的是，在搜索中的每一个阶段，同一个节点可以被搜索到多次，最终，每个节点总置信度为其被赋予的所有置信度的叠加。基于一个观察，假如一个节点真的与中心节点身份相同，则它在搜索过程中会在多个搜索阶段中都被搜索到。
在实际操作过程中，在构造异质图时，由于初始特征的低鲁棒性，节点若存在错误的连接，会导致后续步骤的错误，本发明实施例中通过使用迭代近邻搜索方式自动过滤近邻节点，以增强鲁棒性。
将第一异质图上置信度低于置信度阈值的节点删除，得到目标异质图。
其中，置信度阈值可以是根据实际情况预先设定的节点的置信度的值，可根据经验进行调整，本实施例对此不进行限定。
具体的，获取第一异质图中每个节点的置信度后，将第一异质图上置信度低于置信度阈值的节点删除，得到目标异质图。
在实际操作过程中，也可以选取总的置信度最高的K个节点(K可以取适当的整数，也可以根据具体效果来调整)进行保留，把其他低置信度的噪声节点过滤掉。
可选的，根据待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建第一异质图，包括：
将待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息作为节点。
具体的，获取待识别行人图像集合后，将待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息作为第一异质图中的节点。
获取任意两个节点之间的相似度。
需要说明的是，将获取到的待识别行人图像集合中的待识别行人图像输入到卷积神经网络中，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息，由于图片数据通过卷积神经网络转化成了特征(由向量表示)，因此任意两个节点之间的相似度计算即为计算两个向量的余弦相似度。
具体的，对任意两个节点之间的相似度进行计算，获取任意两个节点之间的相似度。
将节点之间的相似度大于相似度阈值的两个节点通过边进行连接。
其中，相似度阈值可以是根据实际情况预先设定的任意两个节点之间的相似度的值，可根据经验进行调整，本实施例对此不进行限定。
具体的，计算任意两个节点之间的相似度，将节点之间的相似度大于相似度阈值的两个节点通过边进行连接，如此即构建成第一异质图。
作为本发明实施例的一个示例性描述，图3是根据本发明实施例一提供的一种跨模态行人重识别方法的过程示意图。
如图3所示，首先获取待识别行人图像集合，图3中待识别行人图像集合由7个待识别行人图像组成；其次对待识别行人图像集合中的7个待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息；之后根据待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建第一异质图，对第一异质图进行噪声去除后得到目标异质图；对目标异质图中的节点进行模态划分，得到至少两个模态对应的节点集合，分别对至少两个模态对应的节点集合中的节点进行信息聚合，得到至少两个模态聚合特征；将至少两个模态聚合特征分进行信息融合，得到目标特征；最后根据目标特征生成目标行人图像，根据目标行人图像进行跨模态行人重识别。
表1为本发明实施例所提供的带有去噪能力的跨模态行人重识别方法与现有的部分行人重识别方法的性能参数对比。
表1
Figure BDA0003549741630000141
如表1所示，前6种方法均为没有使用异质图做后处理增强的行人重识别方法，相比本发明实施例提出的方法，跨模态重识别精度较低；第7种方法为现有的通用异质图注意力方法，没有针对跨模态行人重识别任务的模态分布不平衡的问题进行优化，它的精度相比本发明实施例提出的方法较低；对比第8种方法，本发明实施例提出的方法带有的去除噪声的能力能够有效避免异质图中的错误连接所带来的不良影响。
利用训练数据进行常规数据训练无法实现注意力的准确预测，本发明实施例通过引入异质图的结构，来建模数据集不同图片之间结构性关系，将视野扩展到多张图片，产生更加准确的注意力，对每张图片提取到的特征进行后处理，从而进一步增强每张图片中能代表身份语义的特征，抑制冗余的模态特征(如衣服颜色)，从而实现更加准确的跨模态行人重识别。
实施例二
图4是根据本发明实施例二提供的一种跨模态行人重识别装置的结构示意图。如图4所示，该装置包括：获取模块201、特征提取模块202、构建模块203、确定模块204和生成模块205。
其中，获取模块201，用于获取待识别行人图像集合，其中，所述待识别行人图像集合包括：至少两个模态下的待识别行人图像；
特征提取模块202，用于对所述待识别行人图像集合中的待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息；
构建模块203，用于根据所述待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图；
确定模块204，用于根据所述目标异质图确定目标特征；
生成模块205，用于根据所述目标特征生成目标行人图像。
可选的，确定模块204包括：
信息聚合单元，用于根据所述目标异质图对至少两个模态下的待识别行人图像进行信息聚合，得到至少两个模态聚合特征；
融合单元，用于对所述至少两个模态聚合特征进行融合，得到目标特征。
可选的，信息聚合单元具体用于：
对所述目标异质图中的节点进行模态划分，得到至少两个模态对应的节点集合；
分别对所述至少两个模态对应的节点集合中的节点进行信息聚合，得到至少两个模态聚合特征。
可选的，融合单元具体用于：
将至少两个模态聚合特征分别映射到至少两个子空间，得到每个子空间对应的聚合特征；
将至少两个子空间对应的聚合特征进行线性映射，得到目标特征。
可选的，构建模块203包括：
构建单元，用于根据所述待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建第一异质图；
噪声去除单元，用于对所述第一异质图进行噪声去除，得到目标异质图。
可选的，噪声去除单元具体用于：
获取所述第一异质图中每个节点的置信度；
将所述第一异质图上置信度低于置信度阈值的节点删除，得到目标异质图。
可选的，构建单元具体用于：
将待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息作为节点；
获取任意两个节点之间的相似度；
将节点之间的相似度大于相似度阈值的两个节点通过边进行连接。
本发明实施例所提供的跨模态行人重识别装置可执行本发明任意实施例所提供的跨模态行人重识别方法，具备执行方法相应的功能模块和有益效果。
实施例三
图5示出了可以用来实施本发明的实施例的电子设备30的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图5所示，电子设备30包括至少一个处理器31，以及与至少一个处理器31通信连接的存储器，如只读存储器(ROM)32、随机访问存储器(RAM)33等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器31可以根据存储在只读存储器(ROM)32中的计算机程序或者从存储单元38加载到随机访问存储器(RAM)33中的计算机程序，来执行各种适当的动作和处理。在RAM 33中，还可存储电子设备30操作所需的各种程序和数据。处理器31、ROM 32以及RAM 33通过总线34彼此相连。输入/输出(I/O)接口35也连接至总线34。
电子设备30中的多个部件连接至I/O接口35，包括：输入单元36，例如键盘、鼠标等；输出单元37，例如各种类型的显示器、扬声器等；存储单元38，例如磁盘、光盘等；以及通信单元39，例如网卡、调制解调器、无线通信收发机等。通信单元39允许电子设备30通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器31可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器31的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器31执行上文所描述的各个方法和处理，例如跨模态行人重识别方法：
获取待识别行人图像集合，其中，所述待识别行人图像集合包括：至少两个模态下的待识别行人图像；
对所述待识别行人图像集合中的待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息；
根据所述待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图；
根据所述目标异质图确定目标特征；
根据所述目标特征生成目标行人图像。
在一些实施例中，跨模态行人重识别方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元38。在一些实施例中，计算机程序的部分或者全部可以经由ROM 32和/或通信单元39而被载入和/或安装到电子设备30上。当计算机程序加载到RAM 33并由处理器31执行时，可以执行上文描述的跨模态行人重识别方法的一个或多个步骤。备选地，在其他实施例中，处理器31可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行跨模态行人重识别方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种跨模态行人重识别方法，其特征在于，包括：
获取待识别行人图像集合，其中，所述待识别行人图像集合包括：至少两个模态下的待识别行人图像；
对所述待识别行人图像集合中的待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息；
根据所述待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图；
根据所述目标异质图确定目标特征；
根据所述目标特征生成目标行人图像。
2.根据权利要求1所述的方法，其特征在于，所述根据所述目标异质图确定目标特征，包括：
根据所述目标异质图对至少两个模态下的待识别行人图像进行信息聚合，得到至少两个模态聚合特征；
对所述至少两个模态聚合特征进行融合，得到目标特征。
3.根据权利要求2所述的方法，其特征在于，所述根据所述目标异质图对至少两个模态下的待识别行人图像进行信息聚合，得到至少两个模态聚合特征，包括：
对所述目标异质图中的节点进行模态划分，得到至少两个模态对应的节点集合；
分别对所述至少两个模态对应的节点集合中的节点进行信息聚合，得到至少两个模态聚合特征。
4.根据权利要求2所述的方法，其特征在于，所述对所述至少两个模态聚合特征进行融合，得到目标特征，包括：
将至少两个模态聚合特征分别映射到至少两个子空间，得到每个子空间对应的聚合特征；
将至少两个子空间对应的聚合特征进行线性映射，得到目标特征。
5.根据权利要求1所述的方法，其特征在于，所述根据所述待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图，包括：
根据所述待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建第一异质图；
对所述第一异质图进行噪声去除，得到目标异质图。
6.根据权利要求5所述的方法，其特征在于，所述对所述第一异质图进行噪声去除，得到目标异质图，包括：
获取所述第一异质图中每个节点的置信度；
将所述第一异质图上置信度低于置信度阈值的节点删除，得到目标异质图。
7.根据权利要求5所述的方法，其特征在于，所述根据所述待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建第一异质图，包括：
将待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息作为节点；
获取任意两个节点之间的相似度；
将节点之间的相似度大于相似度阈值的两个节点通过边进行连接。
8.一种跨模态行人重识别装置，其特征在于，包括：
获取模块，用于获取待识别行人图像集合，其中，所述待识别行人图像集合包括：至少两个模态下的待识别行人图像；
特征提取模块，用于对所述待识别行人图像集合中的待识别行人图像进行特征提取，得到待识别行人图像集合中的每个待识别行人图像对应的特征信息；
构建模块，用于根据所述待识别行人图像集合中的每个待识别行人图像和待识别行人图像集合中的每个待识别行人图像对应的特征信息构建目标异质图；
确定模块，用于根据所述目标异质图确定目标特征；
生成模块，用于根据所述目标特征生成目标行人图像。
9.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的跨模态行人重识别方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的跨模态行人重识别方法。
CN202210259929.0A 2022-03-16 2022-03-16 一种跨模态行人重识别方法、装置、设备和存储介质 Pending CN114708611A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210259929.0A CN114708611A (zh) 2022-03-16 2022-03-16 一种跨模态行人重识别方法、装置、设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210259929.0A CN114708611A (zh) 2022-03-16 2022-03-16 一种跨模态行人重识别方法、装置、设备和存储介质

Publications (1)

Publication Number Publication Date
CN114708611A true CN114708611A (zh) 2022-07-05

Family

ID=82169513

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210259929.0A Pending CN114708611A (zh) 2022-03-16 2022-03-16 一种跨模态行人重识别方法、装置、设备和存储介质

Country Status (1)

Country Link
CN (1) CN114708611A (zh)

Similar Documents

Publication Publication Date Title
CN113255694B (zh) 训练图像特征提取模型和提取图像特征的方法、装置
CN113313053B (zh) 图像处理方法、装置、设备、介质及程序产品
CN113378770A (zh) 手势识别方法、装置、设备、存储介质以及程序产品
CN113887615A (zh) 图像处理方法、装置、设备和介质
CN115294397A (zh) 一种分类任务的后处理方法、装置、设备及存储介质
CN114861059A (zh) 资源推荐方法、装置、电子设备及存储介质
CN113963197A (zh) 图像识别方法、装置、电子设备和可读存储介质
CN115329748B (zh) 一种日志解析方法、装置、设备及存储介质
CN116467461A (zh) 应用于配电网的数据处理方法、装置、设备及介质
CN114691918B (zh) 基于人工智能的雷达图像检索方法、装置以及电子设备
CN114329016B (zh) 图片标签生成方法和文字配图方法
CN113590774B (zh) 事件查询方法、装置以及存储介质
CN114708611A (zh) 一种跨模态行人重识别方法、装置、设备和存储介质
CN115471772A (zh) 一种关键帧的提取方法、装置、设备及介质
CN114842541A (zh) 模型的训练及人脸识别方法、装置、设备以及存储介质
CN114627310A (zh) 一种换衣行人重识别方法、装置、设备及存储介质
CN114882334A (zh) 用于生成预训练模型的方法、模型训练方法及装置
CN114461837A (zh) 一种图像处理方法、装置及电子设备
CN113360688B (zh) 信息库的构建方法、装置及系统
CN116258769B (zh) 一种定位校验方法、装置、电子设备和存储介质
CN117271098B (zh) 一种ai模型计算核调度方法、装置、设备及存储介质
CN115147679B (zh) 多模态图像识别方法和装置、模型训练方法和装置
CN113361402B (zh) 识别模型的训练方法、确定准确率的方法、装置和设备
CN115471893B (zh) 训练人脸识别模型、人脸识别的方法和装置
CN113642495B (zh) 用于评价时序提名的模型的训练方法、设备、程序产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination