CN116935446A - 行人重识别方法、装置、电子设备及存储介质 - Google Patents
行人重识别方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN116935446A CN116935446A CN202311169070.5A CN202311169070A CN116935446A CN 116935446 A CN116935446 A CN 116935446A CN 202311169070 A CN202311169070 A CN 202311169070A CN 116935446 A CN116935446 A CN 116935446A
- Authority
- CN
- China
- Prior art keywords
- appearance
- current
- cost matrix
- frame
- image frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 56
- 239000011159 matrix material Substances 0.000 claims abstract description 133
- 238000001514 detection method Methods 0.000 claims abstract description 123
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 32
- 238000000605 extraction Methods 0.000 claims abstract description 18
- 238000004590 computer program Methods 0.000 claims description 17
- 230000004044 response Effects 0.000 claims description 11
- 238000012545 processing Methods 0.000 abstract description 8
- 238000004891 communication Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/761—Proximity, similarity or dissimilarity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Human Computer Interaction (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及图像处理技术领域，提供了一种行人重识别方法、装置、电子设备及存储介质。该方法包括：获取待识别的当前图像帧；使用特征提取网络提取当前图像帧中待识别行人的特征；使用特征检测算法自当前图像帧中检测得到当前检测框；获取上一图像帧对应的外观特征库，使用当前检测框中的外观特征更新上一图像帧对应的外观特征库，得到当前外观特征库；基于当前检测框以及当前外观特征库确定外观代价矩阵；使用卡尔曼滤波器预测当前帧目标框的位置；基于当前检测框与目标框确定运动代价矩阵；基于外观代价矩阵与运动代价矩阵进行轨迹匹配；基于轨迹匹配结果实现行人重识别。该方法能提高行人重识别准确度。
Description
技术领域
本申请涉及图像处理技术领域，尤其涉及一种行人重识别方法、装置、电子设备及存储介质。
背景技术
随着深度学习技术的发展，多目标跟踪算法的精度越来越高。为了提高追踪的准确性，一些多目标跟踪算法中加入了行人重识别特征来进行关联，例如DeepSort算法等。然而，这些算法中更新轨迹行人重识别特征的方式是基于特征库实现，这种方式无法有效的利用行人重识别特征。
发明内容
有鉴于此，本申请实施例提供了一种行人重识别方法、装置、电子设备及存储介质，以解决现有技术中行人重识别精度不高的问题。
本申请实施例的第一方面，提供了一种行人重识别方法，包括：
获取待识别的当前图像帧；
使用特征提取网络提取当前图像帧中待识别行人的特征；
使用特征检测算法自当前图像帧中检测得到当前检测框；
获取上一图像帧对应的外观特征库，使用当前检测框中的外观特征更新上一图像帧对应的外观特征库，得到当前外观特征库；
基于当前检测框以及当前外观特征库确定外观代价矩阵；
使用卡尔曼滤波器预测当前帧目标框的位置；
基于当前检测框与目标框确定运动代价矩阵；
基于外观代价矩阵与运动代价矩阵进行轨迹匹配；
基于轨迹匹配结果实现行人重识别。
本申请实施例的第二方面，提供了一种行人重识别装置，包括：
获取模块，被配置为获取待识别的当前图像帧；
提取模块，被配置为使用特征提取网络提取当前图像帧中待识别行人的特征；
检测模块，被配置为使用特征检测算法自当前图像帧中检测得到当前检测框；
更新模块，被配置为获取上一图像帧对应的外观特征库，使用当前检测框中的外观特征更新上一图像帧对应的外观特征库，得到当前外观特征库；
确定模块，被配置为基于当前检测框以及当前外观特征库确定外观代价矩阵；
预测模块，被配置为使用卡尔曼滤波器预测当前帧目标框的位置；
确定模块还被配置为基于当前检测框与目标框确定运动代价矩阵；
匹配模块，被配置为基于外观代价矩阵与运动代价矩阵进行轨迹匹配；
识别模块，被配置为基于轨迹匹配结果实现行人重识别。
本申请实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。
本申请实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。
本申请实施例与现有技术相比存在的有益效果是：本申请实施例通过利用当前检测框中的外观特征更新外观特征库，并基于更新后的外观特征库与当前检测框计算外观代价矩阵，提高了外观代价矩阵的计算精度；同时使用卡尔曼滤波器预测得到当前图像帧的目标框，基于当前检测框与目标框确定运动代价矩阵，使用外观代价矩阵和运动代价矩阵进行轨迹匹配，进而实现行人重识别，通过双阶段目标追踪提高了行人重识别准确度。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
图1是本申请实施例的应用场景的场景示意图。
图2是本申请实施例提供的一种行人重识别方法的流程示意图。
图3是本申请实施例提供的使用当前检测框中的外观特征更新上一图像帧对应的外观特征库得到当前外观特征库的方法的流程示意图。
图4是本申请实施例提供的基于当前检测框以及当前外观特征库确定外观代价矩阵的方法的流程示意图。
图5是本申请实施例提供的基于当前检测框与目标框确定运动代价矩阵的方法的流程示意图。
图6是本申请实施例提供的基于外观代价矩阵与运动代价矩阵进行轨迹匹配的方法的流程示意图。
图7是本申请实施例提供的行人重识别方法的流程示意图。
图8是本申请实施例提供的一种行人重识别装置的示意图。
图9是本申请实施例提供的电子设备的示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
下面将结合附图详细说明根据本申请实施例的一种行人重识别方法和装置。
图1是本申请实施例的应用场景的场景示意图。该应用场景可以包括终端设备1、2和3、服务器4以及网络5。
终端设备1、2和3可以是硬件，也可以是软件。当终端设备1、2和3为硬件时，其可以是具有显示屏且支持与服务器4通信的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等；当终端设备1、2和3为软件时，其可以安装在如上所述的电子设备中。终端设备1、2和3可以实现为多个软件或软件模块，也可以实现为单个软件或软件模块，本申请实施例对此不作限制。进一步地，终端设备1、2和3上可以安装有各种应用，例如数据处理应用、即时通信工具、社交平台软件、搜索类应用、购物类应用等。
服务器4可以是提供各种服务的服务器，例如，对与其建立通信连接的终端设备发送的请求进行接收的后台服务器，该后台服务器可以对终端设备发送的请求进行接收和分析等处理，并生成处理结果。服务器4可以是一台服务器，也可以是由若干台服务器组成的服务器集群，或者还可以是一个云计算服务中心，本申请实施例对此不作限制。
需要说明的是，服务器4可以是硬件，也可以是软件。当服务器4为硬件时，其可以是为终端设备1、2和3提供各种服务的各种电子设备。当服务器4为软件时，其可以是为终端设备1、2和3提供各种服务的多个软件或软件模块，也可以是为终端设备1、2和3提供各种服务的单个软件或软件模块，本申请实施例对此不作限制。
网络5可以是采用同轴电缆、双绞线和光纤连接的有线网络，也可以是无需布线就能实现各种通信设备互联的无线网络，例如，蓝牙（Bluetooth）、近场通信（Near FieldCommunication，NFC）、红外（Infrared）等，本申请实施例对此不作限制。
用户可以通过终端设备1、2和3经由网络5与服务器4建立通信连接，以接收或发送信息等。具体地，用户可以通过终端设备获取待识别的视频或者待识别的当前图像帧，并将该待识别的视频或者待识别的当前图像帧传输至服务器进行识别。服务器中可以配置特征提取网络、卡尔曼滤波器等功能模块，还可以存储外观特征库。服务器可以从终端设备或者服务器自身的数据库中获取待识别的视频或者待识别的当前图像帧，基于特征提取网络、卡尔曼滤波器、外观特征库以及其他功能模块对其处理后，实现行人重识别。
需要说明的是，终端设备1、2和3、服务器4以及网络5的具体类型、数量和组合可以根据应用场景的实际需求进行调整，本申请实施例对此不作限制。
上文提及，随着深度学习技术的发展，多目标跟踪算法的精度越来越高。为了提高追踪的准确性，一些多目标跟踪算法中加入了行人重识别特征来进行关联，例如DeepSort算法等。然而，这些算法中更新轨迹行人重识别特征的方式是基于特征库实现，这种方式无法有效的利用行人重识别特征。
鉴于此，本申请实施例提供了一种行人重识别方法，通过利用当前检测框中的外观特征更新外观特征库，并基于更新后的外观特征库与当前检测框计算外观代价矩阵，提高了外观代价矩阵的计算精度；同时使用卡尔曼滤波器预测得到当前图像帧的目标框，基于当前检测框与目标框确定运动代价矩阵，使用外观代价矩阵和运动代价矩阵进行轨迹匹配，进而实现行人重识别，通过双阶段目标追踪提高了行人重识别准确度。
图2是本申请实施例提供的一种行人重识别方法的流程示意图。图2的行人重识别方法可以由图1的终端设备或者服务器执行。如图2所示，该行人重识别方法包括如下步骤：
在步骤S201中，获取待识别的当前图像帧。
在步骤S202中，使用特征提取网络提取当前图像帧中待识别行人的特征。
在步骤S203中，使用特征检测算法自当前图像帧中检测得到当前检测框。
在步骤S204中，获取上一图像帧对应的外观特征库，使用当前检测框中的外观特征更新上一图像帧对应的外观特征库，得到当前外观特征库。
在步骤S205中，基于当前检测框以及当前外观特征库确定外观代价矩阵。
在步骤S206中，使用卡尔曼滤波器预测得到当前图像帧的目标框。
在步骤S207中，基于当前检测框与目标框确定运动代价矩阵。
在步骤S208中，基于外观代价矩阵与运动代价矩阵进行轨迹匹配。
在步骤S209中，基于轨迹匹配结果实现行人重识别。
本申请实施例中，该行人重识别方法可以由服务器执行，也可以由具备一定计算能力的终端设备执行。为描述方便，下文以该目标识别方法由服务器执行为例进行说明。
本申请实施例中，服务器可以首先获取待识别的当前图像帧。其中，待识别的当前图像帧可以是视频中的一帧图像。该图像中包括待识别行人。
本申请实施例中，服务器可以使用特征提取网络提取该当前图像帧中待识别行人的特征。具体的，该特征可以包括外观特征以及位置特征。特征提取网络包括卷积神经网络（Convolutional NeuralNetworks，CNN）、循环神经网络（Recurrent Neural Network，RNN）等。
本申请实施例中，服务器可以使用特征检测算法自当前图像帧中检测得到当前检测框。具体的，可以基于特征提取网络提取的特征，使用特征检测算法检测出当前图像帧中所有满足预设阈值的检测框，这些检测框即为观测值。
本申请实施例中，可以获取服务器中存储的上一图像帧对应的外观特征库，使用当前检测框中的外观特征更新上一图像帧对应的外观特征库，得到当前外观特征库。具体的，服务器中可以存储以外观特征库，与相关技术中特征库中的特征保持不变，或者以较低频率更新不同，本申请实施例中的外观特征库可以在对每一帧图像进行检测后，都进行一次更新，以提高外观特征的匹配精度，避免行人在图像帧中存在模糊、遮挡时，或者跨场景进行行人重识别时无法准确匹配外观特征的情况，提高了外观特征的匹配精度，进而提高了行人重识别准确度。进一步的，服务器可以基于当前检测框以及当前外观特征库确定外观代价矩阵。
本申请实施例中，服务器还可以使用卡尔曼滤波器预测得到当前图像帧的目标框，并基于当前检测框与目标框确定运动代价矩阵。随后，基于外观代价矩阵与运动代价矩阵进行轨迹匹配，进而基于轨迹匹配结果实现行人重识别。
根据本申请实施例提供的技术方案，通过利用当前检测框中的外观特征更新外观特征库，并基于更新后的外观特征库与当前检测框计算外观代价矩阵，提高了外观代价矩阵的计算精度；同时使用卡尔曼滤波器预测得到当前图像帧的目标框，基于当前检测框与目标框确定运动代价矩阵，使用外观代价矩阵和运动代价矩阵进行轨迹匹配，进而实现行人重识别，通过双阶段目标追踪提高了行人重识别准确度。
图3是本申请实施例提供的使用当前检测框中的外观特征更新上一图像帧对应的外观特征库得到当前外观特征库的方法的流程示意图。如图3所示，该方法包括如下步骤：
在步骤S301中，获取上一图像帧对应的外观特征库中的外观特征和当前检测框中的外观特征。
在步骤S302中，使用滑动平均算法，基于上一图像帧对应的外观特征库中的外观特征和当前检测框中的外观特征计算得到当前外观特征库的外观特征。
在步骤S303中，基于当前外观特征库的外观特征构建当前外观特征库。
本申请实施例中，在使用当前检测框中的外观特征更新上一图像帧对应的外观特征库得到当前外观特征库时，可以首先获取上一图像帧对应的外观特征库中的外观特征和当前检测框中的外观特征。然后使用滑动平均算法，基于上一图像帧对应的外观特征库中的外观特征和当前检测框中的外观特征计算得到当前外观特征库的外观特征。最后基于当前外观特征库的外观特征构建当前外观特征库。
本申请实施例中，当前外观特征库的外观特征可以采用如下公式计算得到：
；
其中，为滑动平均参数，/>为当前外观特征库的外观特征，/>为上一图像帧对应的外观特征库中的外观特征，/>为当前检测框中的外观特征。
本申请实施例中，滑动平均参数可以采用如下公式计算得到：
；
其中，为超参数，取值范围为大于等于0且小于等于1，/>为检测置信度上限，/>为检测置信度下限。进一步的，在本申请的一个优选实施例中，/>可以取值为0.6。更进一步的，/>和/>的取值可以根据实际需要确定，此处不做限制。
采用本申请实施例的技术方案，通过滑动平均算法在对每一图像帧进行行人重识别时，均更新外观特征库，从而提高了外观特征的匹配精度，进而提高了行人重识别准确度。
图4是本申请实施例提供的基于当前检测框以及当前外观特征库确定外观代价矩阵的方法的流程示意图。如图4所示，该方法包括如下步骤：
在步骤S401中，获取当前检测框中的外观特征。
在步骤S402中，计算当前检测框中的外观特征与当前外观特征库中的外观特征的相似度，得到外观代价矩阵。
本申请实施例中，服务器可以首先获取当前检测框中的外观特征，然后计算当前检测框中的外观特征与当前外观特征库中的外观特征的相似度，得到外观代价矩阵。该外观代价矩阵用于表征每个检测框与历史轨迹的外观相似度。
图5是本申请实施例提供的基于当前检测框与目标框确定运动代价矩阵的方法的流程示意图。如图5所示，该方法包括如下步骤：
在步骤S501中，获取当前检测框和目标框的位置。
在步骤S502中，计算当前检测框和目标框的位置相似度，得到运动代价矩阵。
本申请实施例中，服务器可以首先获取当前检测框和目标框的位置，然后计算当前检测框和目标框的位置相似度，得到运动代价矩阵。该运动代价矩阵用于表征每个检测框与历史轨迹的位置相似度，如坐标相似度。
图6是本申请实施例提供的基于外观代价矩阵与运动代价矩阵进行轨迹匹配的方法的流程示意图。如图6所示，该方法包括如下步骤：
在步骤S601中，响应于确定外观代价矩阵大于或者等于预设外观相似度阈值，且运动代价矩阵大于或者等于预设位置相似度阈值，确定当前图像帧中待识别行人的轨迹与已有轨迹匹配。
在步骤S602中，响应于确定外观代价矩阵大于或者等于预设外观相似度阈值，运动代价矩阵大于或者等于预设位置相似度阈值，确定外观代价矩阵和运动代价矩阵的置信度。
在步骤S603中，响应于外观代价矩阵和运动代价矩阵的置信度大于或者等于预设置信度阈值，确定当前图像帧中待识别行人的轨迹为新建轨迹。
在步骤S604中，响应于外观代价矩阵和运动代价矩阵的置信度小于预设置信度阈值，确定本次轨迹匹配失败。
本申请实施例中，可以基于外观代价矩阵与运动代价矩阵进行轨迹匹配。具体的，可以预设一外观相似度阈值，以及位置相似度阈值。将外观代价矩阵与预设外观相似度阈值进行比较，并将运动代价矩阵与预设位置相似度阈值。当外观代价矩阵大于或者等于预设外观相似度阈值，且运动代价矩阵大于或者等于预设位置相似度阈值，可以确定当前图像帧中待识别行人的轨迹与已有轨迹匹配。
例如，若外观代价矩阵中检测框1与历史轨迹1对应的外观相似度大于或者等于预设外观相似度阈值，且该检测框1与历史轨迹1对应的位置相似度大于或者等于预设位置相似度阈值，则可以确定该检测框1与历史轨迹1匹配，即检测框1中的行人为历史轨迹1对应的行人。
本申请实施例中，当外观代价矩阵大于或者等于预设外观相似度阈值，运动代价矩阵大于或者等于预设位置相似度阈值时，可以进一步确定外观代价矩阵和运动代价矩阵的置信度。当外观代价矩阵和运动代价矩阵的置信度大于或者等于预设置信度阈值时，可以确定当前图像帧中待识别行人的轨迹为新建轨迹。
例如，若外观代价矩阵中检测框2与历史轨迹2对应的外观相似度小于预设外观相似度阈值，该检测框2与历史轨迹2对应的位置相似度也小于预设位置相似度阈值，进一步的，该外观代价矩阵中检测框2和运动代价矩阵中检测框2的置信度大于或者等于预设置信度阈值，则可以认为检测框2中出现新的行人，进而将当前图像帧中待识别行人的轨迹为新建轨迹。
本申请实施例中，当外观代价矩阵和运动代价矩阵的置信度小于预设置信度阈值时，可以确定本次轨迹匹配失败。
图7是本申请实施例提供的行人重识别方法的流程示意图。如图7所示，该方法首先进行特征提取，即首先通过特征提取网络来提取输入图片的特征，越好的特征提取网络提取的特征对最终追踪精度的提升影响最大。然后进行特征检测，即基于提取的特征，用检测算法检测出当前帧所有满足阈值的检测框，这些检测框即为观测值，更好的目标检测算法往往可以更准确的将当前帧的对象检出，因此往往仅更新检测算法就可以提升追踪效果，在现实场景下，该阶段为整个跟踪算法的速度瓶颈。接着执行自适应外观特征更新步骤，自适应外观特征模块会更新历史轨迹存储的外观特征。然后计算外观代价矩阵，可以通过提取当前检测框的行人重识别特征，然后计算这些特征和历史轨迹存储的外观特征的相似性，计算出外观代价矩阵。同时，可以使用卡尔曼滤波器预测当前帧目标框的位置，进而计算运动代价矩阵，可以根据当前检测框和卡尔曼滤波器预测的框的坐标，计算运动代价矩阵，该矩阵反应了预测框和检测框的匹配程度。最后，根据外观代价矩阵和运动代价矩阵，通过匈牙利算法进行匹配，如果有轨迹长时间未匹配到轨迹，则将当前轨迹断掉，如果有检测框未匹配到任何轨迹，但是其具有很高的检测置信度，则新建一条轨迹。
采用本申请实施例的技术方案，基于现有的多目标追踪算法，提出了一种基于自适应外观特征更新的双阶段目标追踪算法，可以显著提升多目标追踪算法精度。同时，通过对外观特征更新算法的分析，提出了一种自适应外观特征更新算法，其可以在每一帧的每一个检测框上动态的更新历史轨迹外观特征，避免了模糊、遮挡等检测框对历史轨迹特征的影响。
上述所有可选技术方案，可以采用任意结合形成本申请的可选实施例，在此不再一一赘述。
下述为本申请装置实施例，可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节，请参照本申请方法实施例。
图8是本申请实施例提供的一种行人重识别装置的示意图。如图8所示，该行人重识别装置包括：
获取模块801，被配置为获取待识别的当前图像帧。
提取模块802，被配置为使用特征提取网络提取当前图像帧中待识别行人的特征。
检测模块803，被配置为使用特征检测算法自当前图像帧中检测得到当前检测框；
更新模块804，被配置为获取上一图像帧对应的外观特征库，使用当前检测框中的外观特征更新上一图像帧对应的外观特征库，得到当前外观特征库；
确定模块805，被配置为基于当前检测框以及当前外观特征库确定外观代价矩阵；
预测模块806，被配置为使用卡尔曼滤波器预测当前帧目标框的位置；
确定模块还被配置为基于当前检测框与目标框确定运动代价矩阵；
匹配模块807，被配置为基于外观代价矩阵与运动代价矩阵进行轨迹匹配；
识别模块808，被配置为基于轨迹匹配结果实现行人重识别。
根据本申请实施例提供的技术方案，通过利用当前检测框中的外观特征更新外观特征库，并基于更新后的外观特征库与当前检测框计算外观代价矩阵，提高了外观代价矩阵的计算精度；同时使用卡尔曼滤波器预测得到当前图像帧的目标框，基于当前检测框与目标框确定运动代价矩阵，使用外观代价矩阵和运动代价矩阵进行轨迹匹配，进而实现行人重识别，通过双阶段目标追踪提高了行人重识别准确度。
本申请实施例中，使用当前检测框中的外观特征更新上一图像帧对应的外观特征库，得到当前外观特征库，包括：获取上一图像帧对应的外观特征库中的外观特征和当前检测框中的外观特征；使用滑动平均算法，基于上一图像帧对应的外观特征库中的外观特征和当前检测框中的外观特征计算得到当前外观特征库的外观特征；基于当前外观特征库的外观特征构建当前外观特征库。
本申请实施例中，当前外观特征库的外观特征采用如下公式计算得到：；其中，/>为滑动平均参数，/>为当前外观特征库的外观特征，/>为上一图像帧对应的外观特征库中的外观特征，/>为当前检测框中的外观特征。
本申请实施例中，滑动平均参数采用如下公式计算得到：；其中，/>为超参数，取值范围为大于等于0且小于等于1，/>为检测置信度上限，/>为检测置信度下限。
本申请实施例中，基于当前检测框以及当前外观特征库确定外观代价矩阵，包括：获取当前检测框中的外观特征；计算当前检测框中的外观特征与当前外观特征库中的外观特征的相似度，得到外观代价矩阵。
本申请实施例中，基于当前检测框与目标框确定运动代价矩阵，包括：获取当前检测框和目标框的位置；计算当前检测框和目标框的位置相似度，得到运动代价矩阵。
本申请实施例中，基于外观代价矩阵与运动代价矩阵进行轨迹匹配，包括：响应于确定外观代价矩阵大于或者等于预设外观相似度阈值，且运动代价矩阵大于或者等于预设位置相似度阈值，确定当前图像帧中待识别行人的轨迹与已有轨迹匹配；响应于确定外观代价矩阵大于或者等于预设外观相似度阈值，运动代价矩阵大于或者等于预设位置相似度阈值，确定外观代价矩阵和运动代价矩阵的置信度；响应于外观代价矩阵和运动代价矩阵的置信度大于或者等于预设置信度阈值，确定当前图像帧中待识别行人的轨迹为新建轨迹；响应于外观代价矩阵和运动代价矩阵的置信度小于预设置信度阈值，确定本次轨迹匹配失败。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
图9是本申请实施例提供的电子设备的示意图。如图9所示，该实施例的电子设备9包括：处理器901、存储器902以及存储在该存储器902中并且可在处理器901上运行的计算机程序903。处理器901执行计算机程序903时实现上述各个方法实施例中的步骤。或者，处理器901执行计算机程序903时实现上述各装置实施例中各模块/单元的功能。
电子设备9可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备9可以包括但不仅限于处理器901和存储器902。本领域技术人员可以理解，图9仅仅是电子设备9的示例，并不构成对电子设备9的限定，可以包括比图示更多或更少的部件，或者不同的部件。
处理器901可以是中央处理单元（Central Processing Unit，CPU），也可以是其它通用处理器、数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application SpecificIntegrated Circuit，ASIC）、现场可编程门阵列（Field-Programmable Gate Array，FPGA）或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。
存储器902可以是电子设备的内部存储单元，例如，电子设备9的硬盘或内存。存储器902也可以是电子设备9的外部存储设备，例如，电子设备9上配备的插接式硬盘，智能存储卡（Smart Media Card，SMC），安全数字（Secure Digital，SD）卡，闪存卡（Flash Card）等。存储器902还可以既包括电子设备9的内部存储单元也包括外部存储设备。存储器902用于存储计算机程序以及电子设备所需的其它程序和数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在计算机可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（Read-Only Memory，ROM）、随机存取存储器（Random Access Memory，RAM）、电载波信号、电信信号以及软件分发介质等。
以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。
Claims (10)
1.一种行人重识别方法，其特征在于，包括：
获取待识别的当前图像帧；
使用特征提取网络提取所述当前图像帧中待识别行人的特征；
使用特征检测算法自所述当前图像帧中检测得到当前检测框；
获取上一图像帧对应的外观特征库，使用所述当前检测框中的外观特征更新所述上一图像帧对应的外观特征库，得到当前外观特征库；
基于所述当前检测框以及所述当前外观特征库确定外观代价矩阵；
使用卡尔曼滤波器预测得到当前图像帧的目标框；
基于所述当前检测框与所述目标框确定运动代价矩阵；
基于所述外观代价矩阵与所述运动代价矩阵进行轨迹匹配；
基于所述轨迹匹配结果实现行人重识别。
2.根据权利要求1所述的方法，其特征在于，所述使用所述当前检测框中的外观特征更新所述上一图像帧对应的外观特征库，得到当前外观特征库，包括：
获取所述上一图像帧对应的外观特征库中的外观特征和所述当前检测框中的外观特征；
使用滑动平均算法，基于所述上一图像帧对应的外观特征库中的外观特征和所述当前检测框中的外观特征计算得到所述当前外观特征库的外观特征；
基于所述当前外观特征库的外观特征构建所述当前外观特征库。
3.根据权利要求2所述的方法，其特征在于，所述当前外观特征库的外观特征采用如下公式计算得到：
；
其中，为滑动平均参数，/>为当前外观特征库的外观特征，/>为上一图像帧对应的外观特征库中的外观特征，/>为当前检测框中的外观特征。
4.根据权利要求3所述的方法，其特征在于，所述滑动平均参数采用如下公式计算得到：
；
其中，为超参数，取值范围为大于等于0且小于等于1，/>为检测置信度上限，/>为检测置信度下限。
5.根据权利要求1所述的方法，其特征在于，所述基于所述当前检测框以及所述当前外观特征库确定外观代价矩阵，包括：
获取所述当前检测框中的外观特征；
计算所述当前检测框中的外观特征与所述当前外观特征库中的外观特征的相似度，得到所述外观代价矩阵。
6.根据权利要求1所述的方法，其特征在于，所述基于所述当前检测框与所述目标框确定运动代价矩阵，包括：
获取所述当前检测框和所述目标框的位置；
计算所述当前检测框和所述目标框的位置相似度，得到所述运动代价矩阵。
7.根据权利要求1所述的方法，其特征在于，所述基于所述外观代价矩阵与所述运动代价矩阵进行轨迹匹配，包括：
响应于确定外观代价矩阵大于或者等于预设外观相似度阈值，且运动代价矩阵大于或者等于预设位置相似度阈值，确定所述当前图像帧中待识别行人的轨迹与已有轨迹匹配；
响应于确定外观代价矩阵大于或者等于预设外观相似度阈值，运动代价矩阵大于或者等于预设位置相似度阈值，确定所述外观代价矩阵和运动代价矩阵的置信度；
响应于所述外观代价矩阵和运动代价矩阵的置信度大于或者等于预设置信度阈值，确定所述当前图像帧中待识别行人的轨迹为新建轨迹；
响应于所述外观代价矩阵和运动代价矩阵的置信度小于预设置信度阈值，确定本次轨迹匹配失败。
8.一种行人重识别装置，其特征在于，包括：
获取模块，被配置为获取待识别的当前图像帧；
提取模块，被配置为使用特征提取网络提取所述当前图像帧中待识别行人的特征；
检测模块，被配置为使用特征检测算法自所述当前图像帧中检测得到当前检测框；
更新模块，被配置为获取上一图像帧对应的外观特征库，使用所述当前检测框中的外观特征更新所述上一图像帧对应的外观特征库，得到当前外观特征库；
确定模块，被配置为基于所述当前检测框以及所述当前外观特征库确定外观代价矩阵；
预测模块，被配置为使用卡尔曼滤波器预测当前帧目标框的位置；
所述确定模块还被配置为基于所述当前检测框与所述目标框确定运动代价矩阵；
匹配模块，被配置为基于所述外观代价矩阵与所述运动代价矩阵进行轨迹匹配；
识别模块，被配置为基于所述轨迹匹配结果实现行人重识别。
9.一种电子设备，包括存储器、处理器以及存储在所述存储器中并且可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311169070.5A CN116935446B (zh) | 2023-09-12 | 2023-09-12 | 行人重识别方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311169070.5A CN116935446B (zh) | 2023-09-12 | 2023-09-12 | 行人重识别方法、装置、电子设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116935446A true CN116935446A (zh) | 2023-10-24 |
| CN116935446B CN116935446B (zh) | 2024-02-20 |
Family
ID=88375585
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202311169070.5A Active CN116935446B (zh) | 2023-09-12 | 2023-09-12 | 行人重识别方法、装置、电子设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116935446B (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111860282A (zh) * | 2020-07-15 | 2020-10-30 | 中国电子科技集团公司第三十八研究所 | 地铁断面客流量统计和行人逆行检测方法及系统 |
| CN114581954A (zh) * | 2022-03-15 | 2022-06-03 | 沈阳航空航天大学 | 基于行人特征的跨域检索和跟踪目标的方法 |
| CN115240130A (zh) * | 2022-06-15 | 2022-10-25 | 首都师范大学 | 一种行人多目标跟踪方法、装置和计算机可读存储介质 |
| WO2023050678A1 (zh) * | 2021-09-30 | 2023-04-06 | 上海商汤智能科技有限公司 | 多目标跟踪方法、装置、电子设备、存储介质和程序 |
| CN116434150A (zh) * | 2023-06-14 | 2023-07-14 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 面向拥挤场景的多目标检测跟踪方法、系统及存储介质 |
| CN116645402A (zh) * | 2023-03-30 | 2023-08-25 | 重庆邮电大学 | 一种基于改进目标检测网络的在线行人跟踪方法 |
-
2023
- 2023-09-12 CN CN202311169070.5A patent/CN116935446B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111860282A (zh) * | 2020-07-15 | 2020-10-30 | 中国电子科技集团公司第三十八研究所 | 地铁断面客流量统计和行人逆行检测方法及系统 |
| WO2023050678A1 (zh) * | 2021-09-30 | 2023-04-06 | 上海商汤智能科技有限公司 | 多目标跟踪方法、装置、电子设备、存储介质和程序 |
| CN114581954A (zh) * | 2022-03-15 | 2022-06-03 | 沈阳航空航天大学 | 基于行人特征的跨域检索和跟踪目标的方法 |
| CN115240130A (zh) * | 2022-06-15 | 2022-10-25 | 首都师范大学 | 一种行人多目标跟踪方法、装置和计算机可读存储介质 |
| CN116645402A (zh) * | 2023-03-30 | 2023-08-25 | 重庆邮电大学 | 一种基于改进目标检测网络的在线行人跟踪方法 |
| CN116434150A (zh) * | 2023-06-14 | 2023-07-14 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 面向拥挤场景的多目标检测跟踪方法、系统及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116935446B (zh) | 2024-02-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109829433B (zh) | 人脸图像识别方法、装置、电子设备及存储介质 | |
| CN108960090B (zh) | 视频图像处理方法及装置、计算机可读介质和电子设备 | |
| CN108229419B (zh) | 用于聚类图像的方法和装置 | |
| US11915447B2 (en) | Audio acquisition device positioning method and apparatus, and speaker recognition method and system | |
| CN109522937B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| US11756205B2 (en) | Methods, devices, apparatuses and storage media of detecting correlated objects involved in images | |
| KR20140103046A (ko) | 객체 추적 방법 및 이를 지원하는 전자 장치 | |
| CN111767750A (zh) | 图像处理方法和装置 | |
| CN108229680B (zh) | 神经网络系统、遥感图像识别方法、装置、设备及介质 | |
| CN111126159A (zh) | 用于实时跟踪行人的方法、装置、电子设备和介质 | |
| CN116935446B (zh) | 行人重识别方法、装置、电子设备及存储介质 | |
| CN111310595A (zh) | 用于生成信息的方法和装置 | |
| CN113642493B (zh) | 一种手势识别方法、装置、设备及介质 | |
| CN111968030B (zh) | 信息生成方法、装置、电子设备和计算机可读介质 | |
| CN112115740B (zh) | 用于处理图像的方法和装置 | |
| CN113033377A (zh) | 字符位置修正方法、装置、电子设备和存储介质 | |
| CN114120423A (zh) | 人脸图像检测方法、装置、电子设备和计算机可读介质 | |
| CN113989568A (zh) | 目标检测方法、训练方法、装置、电子设备以及存储介质 | |
| CN113033397A (zh) | 目标跟踪方法、装置、设备、介质及程序产品 | |
| CN117372685B (zh) | 目标检测方法、装置、电子设备及存储介质 | |
| CN111898529A (zh) | 脸部检测方法、装置、电子设备和计算机可读介质 | |
| CN117893569A (zh) | 目标追踪方法、装置、电子设备及存储介质 | |
| CN117333926B (zh) | 一种图片聚合方法、装置、电子设备及可读存储介质 | |
| CN115984783B (zh) | 人群计数方法及装置 | |
| CN117392731B (zh) | 表情识别模型的训练方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |