CN113962383A - 模型的训练方法、目标跟踪方法、装置、设备和存储介质 - Google Patents
模型的训练方法、目标跟踪方法、装置、设备和存储介质 Download PDFInfo
- Publication number
- CN113962383A CN113962383A CN202111203206.0A CN202111203206A CN113962383A CN 113962383 A CN113962383 A CN 113962383A CN 202111203206 A CN202111203206 A CN 202111203206A CN 113962383 A CN113962383 A CN 113962383A
- Authority
- CN
- China
- Prior art keywords
- target
- sample
- detection
- feature
- sample image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 85
- 238000012549 training Methods 0.000 title claims abstract description 73
- 238000012545 processing Methods 0.000 claims abstract description 70
- 230000001131 transforming effect Effects 0.000 claims abstract description 9
- 238000001514 detection method Methods 0.000 claims description 132
- 230000006870 function Effects 0.000 claims description 34
- 238000010586 diagram Methods 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 13
- 238000004364 calculation method Methods 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000005516 engineering process Methods 0.000 abstract description 2
- 230000008569 process Effects 0.000 description 11
- 238000002372 labelling Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Multimedia (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了一种模型的训练方法、目标跟踪方法、装置、设备和存储介质，涉及人工智能领域，尤其涉及计算机视觉和深度学习技术。目标处理模型的训练方法包括：获取第一样本图像；所述第一样本图像包括至少两个样本目标；对所述第一样本图像进行变换，得到第二样本图像；所述第一样本图像和所述第二样本图像中的样本目标相同；基于目标重识别子模型，确定第一样本图像和第二样本图像中样本目标的特征预测编码；采用样本目标的特征预测编码，更新所述目标重识别子模型。本公开方案提升了目标处理模型的训练效率。
Description
技术领域
本公开涉及人工智能领域，尤其涉及计算机视觉和深度学习技术，具体涉及一种目标处理模型的训练方法、目标跟踪方法、装置、电子设备、存储介质和计算机程序产品。
背景技术
随之智慧城市、智能交通的发展，以及智能监控的广泛应用，行人车辆目标跟踪在用于智能视频监控、辅助侦查、自动驾驶以及无人超市等众多领域有着十分重要的作用。
发明内容
本公开提供了目标处理模型的训练方法、目标跟踪方法、装置、电子设备、存储介质和计算机程序产品。
根据本公开的一方面，提供了一种目标处理模型的训练方法，包括：
获取第一样本图像；第一样本图像包括至少两个样本目标；
对第一样本图像进行变换，得到第二样本图像；第一样本图像和第二样本图像中的样本目标相同；
基于目标重识别子模型，确定第一样本图像和第二样本图像中样本目标的特征预测编码；
采用样本目标的特征预测编码，更新目标重识别子模型。
根据本公开的一方面，提供了一种目标跟踪方法，包括：
基于目标处理模型确定当前视频帧图像中每个检测目标的特征编码；其中，所述目标处理模型是通过本公开任一模型训练方法训练得到；
将所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配。
根据本公开的另一方面，提供了一种电子设备，包括：
至少一个处理器；以及
与至少一个处理器通信连接的存储器；其中，
存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行本公开任意实施例的目标处理模型的训练方法。
根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行本公开任意实施例的目标处理模型的训练方法。
根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现本公开任意实施例的目标处理模型的训练方法。
根据本公开的技术，提升了目标处理模型的训练效率。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开实施例提供的一种目标处理模型的训练方法的流程示意图；
图2是根据本公开实施例提供的又一种目标处理模型的训练方法的流程示意图；
图3是根据本公开实施例提供的又一种目标处理模型的训练方法的流程示意图；
图4是根据本公开实施例提供的又一种目标处理模型的训练方法的流程示意图；
图5是根据本公开实施例提供的一种目标跟踪方法的流程示意图；
图6是根据本公开实施例提供的一种目标处理模型的训练装置的结构示意图；
图7是根据本公开实施例提供的一种目标跟踪装置的结构示意图；
图8是用来实现本公开实施例的目标处理模型的训练方法或目标跟踪方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
本公开实施例中，目标处理模型既可以是多目标跟踪模型，也可以是其他任何用于对目标进行处理的模型，在此不做具体限定。本实施例中以目标处理模型是多目标跟踪模型为例进行说明，多目标跟踪模型中至少包括编解码网络(即encoder-decoder网络)、目标重识别子模型和目标检测子模型。多目标跟踪的整理流程如下：当前帧图像输入网络模型后，通过编解码网络提取特征图，进而通过目标检测子模型预测特征图中各目标的检测框参数(例如检测框的位置、形状以及大小等)，通过目标重识别子模型对特征图中各目标的特征进行编码，得到每个目标的特征预测编码。进而将前一帧图像的检测结果经过运动预测后的目标，与当前帧图像的检测结果进行关联匹配，以实现多目标跟踪。
为了得到精准的多目标跟踪模型，需要对模型中的目标检测子模型和目标重识别子模型进行精准训练，在训练时，通常需要大量带有标注数据的视频连续帧数据进行监督训练，也即连续的视频帧中不仅需要检测框位置标注，也需要跟踪ID标注。而长视频中跟踪ID的标注较难取得，需要耗费大量人力标注，导致模型训练的效率较低。基于此，提出一种利用不带跟踪ID标注的样本图像对目标处理模型进行训练的方法，具体的方法参见如下实施例。
图1为本公开实施例的一种目标处理模型的训练方法的流程示意图，本实施例可适用于利用无跟踪ID标注的样本图像训练目标处理模型的情况。该方法可由一种目标处理模型的训练装置来执行，该装置采用软件和/或硬件的方式实现，并集成在电子设备上。
具体的，参见图1，目标处理模型的训练方法如下：
S101、获取第一样本图像；第一样本图像包括至少两个样本目标。
本公开实施例中，目标处理模型可选的是应用于智慧城市或智能交通场景中的多目标跟踪模型，要实现多目标跟踪，需要用于训练该模型的第一样本图像可选的为包括至少两个样本目标的图像，其中，样本目标可选的为行人或车辆。在一种可选的实施方式中，第一样本图像可以是城市中任一监控摄像机拍摄的图像或车辆行车记录仪采集的图像。本公开实施例中，第一样本图像中样本目标未标注有特征实际编码，由此节省了标注第一样本图像的工作，为提升模型训练的效率提供了保证。
S102、对第一样本图像进行变换，得到第二样本图像；第一样本图像和第二样本图像中的样本目标相同。
本公开实施例中，训练目标处理模型的样本图像并不是连续的视频帧，为了能够正常训练模型，对第一样本图像进行变换，得到第二样本图像，并将第二样本图像当作样本目标运动后的图像。在一种可选的实施方式中，可通过对第一样本图像进行翻转、小范围平移或缩放，得到第二样本图像。需要说明的是，第一样本图像与第二样本图像相比，包括的样本目标相同，只是改变了同一样本目标在第一样本图像和第二样本图像中的位置不同。也即通过对第一样本图像进行翻转、小范围平移或缩放，制造出同一样本目标在不同位置的第二样本图像，相当于在图像中造出一些标记，因此不需要对样本图像标注特征实际编码。
S103、基于目标重识别子模型，确定第一样本图像和第二样本图像中样本目标的特征预测编码。
本公开实施例中，目标重识别子模型可以为ReID编码子模型，通过目标重识别子模型可以对第一样本图像和第二样本图像中样本目标进行编码，得到每个样本目标在不同样本图像中的特征预测编码。需要说明的是，特征预测编码示例性的为1×256维的特征向量。在具体实现时，将第一样本图像和第二样本图像输入到编解码网络中进行特征提取，得到第一样本图像的第一特征图和第二样本图像的第二特征图，将第一特征图和第二特征图输入到目标重识别子模型，即可得到每个样本目标在不同样本图像中的特征预测编码。
S104、采用样本目标的特征预测编码，更新目标重识别子模型。
本公开实施例中，直接利用样本目标的特征预测编码，计算目标重识别子模型的损失值，进而根据计算的损失值更新目标重识别网络子模型的参数，以达到训练目标重识别子模型的目的。需要说明的是，由于只需利用特征预测编码，即可更新目标重识别子模型，因此第一样本图像中的样本目标无需标注特征实际编码，由此减少的样本标注的工作。
本公开实施例中，利用没有标注特征实际编码的样本图像训练目标处理模型中的目标重识别子模型，达到了无监督训练模型的效果；而且由于样本无需标注特征实际编码，减少了样本标注工作，进而提升了模型训练的效率。
图2是根据本公开实施例的又一目标处理模型的训练方法的流程示意图，本实施例是在上述实施例的基础上进行优化，参见图2，目标处理模型的训练方法具体如下：
S201、获取第一样本图像；第一样本图像包括至少两个样本目标。
S202、对第一样本图像进行变换，得到第二样本图像；第一样本图像和第二样本图像中的样本目标相同。
可选的，对第一样本图像进行翻转、平移或缩放，得到第二样本图像。
S203、基于目标重识别子模型，确定第一样本图像和第二样本图像中样本目标的特征预测编码。
S204、根据样本目标的特征预测编码，确定相同目标之间的第一特征亲和度和不同目标之间的第二特征亲和度，并根据第一特征亲和度和第二特征亲和度，确定重识别损失函数。
本公开实施例中，样本目标的特征预测编码可选的为1×256维的特征向量；相同目标之间的第一特征亲和度可根据相同目标的特征预测编码的差值来表征；不同目标之间的第二特征亲和度可根据不同目标的特征预测编码的差值来表征；因此本公开的第一/第二亲和度实际上是相似度。
在一种可选的实施方式中，根据第一特征亲和度和第二特征亲和度，确定重识别损失函数如下：
其中，Lembedding表示重识别损失函数，B表示样本图像中所有样本目标的特征预测编码的集合，|B|表示集合中特征预测编码的个数；bi表示集合中任一个样本目标的特征预测编码，bp表示集合中与bi为不同位置的同一样本目标的特征预测编码，bk表示集合中与bi为不同样本目标的特征预测编码，m为常数阈值，||bi-bp||表示相同目标之间的第一特征亲和度，||bi-bk||表示不同目标之间的第二特征亲和度。
S205、采用重识别损失函数，更新目标重识别子模型。
根据上述重识别损失函数计算出的损失值，调整目标重识别子模型的参数，以达到训练目标重识别子模型的目的。
本公开实施例中，根据第一特征亲和度和第二特征亲和度，确定重识别损失函数时，并不需要样本目标带有特征实际编码的标注，使得达到无监督训练模型的效果；而且通过上述的重识别损失函数，使不同位置的同一目标之间特征的亲和度大于不同目标之间特征的亲和度，以便保证后续目标关联时的准确性。
图3是根据本公开实施例的又一目标处理模型的训练方法的流程示意图，本实施例是在上述实施例的基础上进行优化，参见图3，目标处理模型的训练方法具体如下：
S301、获取第一样本图像；第一样本图像包括至少两个样本目标。
S302、对第一样本图像进行变换，得到第二样本图像；第一样本图像和第二样本图像中的样本目标相同。
可选的，对第一样本图像进行翻转、平移或缩放，得到第二样本图像。
S303、对第一样本图像或第二样本图像中的任一样本目标进行复制与移位处理，使得第一样本图像或第二样本图像中包括多个处于不同位置的同一样本目标。
其中，复制与移位处理可选的是复制粘贴或泊松融合。示例性的，针对第一样本图像中的任一样本目标，可通过复制粘贴的方式，将该样本目标复制在第一样本图像或第二样本图像的其他位置。需要说明的是，之所以对第一样本图像或第二样本图像中的样本目标进行复制移位处理，是为了保证在任一样本图像中，包括多个处于不同位置的相同样本目标，进而保证后续基于重识别损失函数计算损失值的准确性。
S304、基于目标重识别子模型，确定第一样本图像和第二样本图像中样本目标的特征预测编码。
S305、根据样本目标的特征预测编码，确定相同目标之间的第一特征亲和度和不同目标之间的第二特征亲和度，并根据第一特征亲和度和第二特征亲和度，确定重识别损失函数。
根据第一特征亲和度和第二特征亲和度，确定的重识别损失函数可参见如下：
其中，Lembebding表示重识别损失函数，B表示样本图像中所有样本目标的特征预测编码的集合，|B|表示集合中特征预测编码的个数；di表示集合中任一个样本目标的特征预测编码，bp表示集合中与bi为不同位置的同一样本目标的特征预测编码，bk表示集合中与bi为不同样本目标的特征预测编码，m为常数阈值，||bi-bp||表示相同目标之间的第一特征亲和度，||bi-bk||表示不同目标之间的第二特征亲和度。
S306、采用重识别损失函数，更新目标重识别子模型。
本公开实施例中，通过对第一样本图像或第二样本图像中的样本目标进行复制移位处理，保证了在一个样本图像中，包括多个处于不同位置的相同样本目标，进而保证后续基于重识别损失函数计算损失值的准确性，进而确保基于重识别损失函数训练的模型的精准性。
图4是根据本公开实施例的又一目标处理模型的训练方法的流程示意图，本实施例是在上述实施例的基础上进行优化，其中，目标重识别子模型属于目标跟踪模型，目标跟踪模型还包括目标检测子模型，参见图4，目标处理模型的训练方法具体如下：
S401、获取第一样本图像；第一样本图像包括至少两个样本目标。
S402、对第一样本图像进行变换，得到第二样本图像；第一样本图像和第二样本图像中的样本目标相同。
本公开实施例中，只对样本目标的检测框进行标注，而不需要对样本目标进行跟踪ID标注。使得训练时，并不利用连续的带跟踪ID的视频帧图像进行训练，而是在确某一帧样本图像后，通过旋转、缩放等操作，可制造出同一目标在不同位置的另一样本图像，相当于对样本图像造出一些标注，因此目标跟踪模型的训练属于半监督训练。
S403、基于目标检测子模型，预测第一样本图像和第二样本图像中样本目标的检测框参数。
本公开实施例中，先将第一样本图像和第二样本图像输入到目标跟踪模型的编解码网络中进行特征提取，得到第一样本图像的第一特征图和第二样本图像的第二特征图。进而将第一特征图和第二特征图输入到目标跟踪模型中的目标检测子模型，得到目标检测子模型所预测的各样本目标的检测框参数；其中，检测框参数至少包括检测框的中心、尺寸、位置、形状等。
S404、根据样本目标的检测框预测参数，和样本目标的检测框真实参数，计算检测损失值。
S405、采用检测损失值，更新目标检测子模型。
本公开实施例中，样本目标的检测框真实参数是预先标注的，可通过预设的损失函数，结合样本目标的检测框预测参数，和样本目标的检测框真实参数，计算检测损失值。进而根据检测损失值，调整目标检测子模型的参数，以达到训练目标检测子模型的目的。
本公开实施例中，第一样本图像中只对样本目标的检测框进行标注，而无需对样本目标进行跟踪ID标注，使得训练目标检测子模型的过程属于半监督训练；由于无需对样本图像标注跟踪ID，节省了样本标注的工作。
图5是根据本公开实施例的一种目标跟踪方法的流程示意图，该方法是基于上述实施例训练的目标处理模型实现的，参见图5，该目标跟踪方法流程如下：
S501、基于目标处理模型确定当前视频帧图像中每个检测目标的特征编码。
本公开实施例中国，目标处理模型是通过上述任一项实施例训练得到。在得到目标处理模型后，可利用目标处理模型在指定场景(例如智慧城市、智能交通、自动驾驶等场景)中执行多目标跟踪任务，因此，当前视频帧图像示例性的为上述场景中的采集设备所采集的包括检测目标(例如行人或车辆)的图像。
在得到当前视频帧图像后，可直接将其作为目标处理模型的输入图像，进而根据目标处理模型的输出得到每个检测目标对应的特征编码。
由于目标处理模型至少包括目标检测子模型和目标重识别子模型，因此在确定每个检测目标对应的特征编码时，可选的，将当前视频帧图像的特征图输入到目标处理模型的目标检测子模型中，并根据目标检测子模型的输出得到每个检测目标的检测框参数(例如检测框的中心、尺寸、位置、形状等)；将当前视频帧图像的特征图输入到目标处理模型的目标重识别子模型中，根据目标重识别子模型的输出得到编码特征图，其中，编码特征图能够表征每个检测目标的相关特征；进一步的，根据每个检测目标的检测框参数和编码特征图，确定每个检测目标对应的特征编码。
S502、将所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配。
本公开实施例中，历史视频帧图像示例性的为上一帧图像，而历史检测目标的特征编码可以按照上述方式进行确定，在此不再赘述。通过将将所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配，即可实现对检测目标的跟踪。
在一种可选的实施方式中，可通过级联匹配的方式，对所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配，也可以通过其他方式进行匹配，在此不做具体限定。
本公开实施例中，在得到训练好的目标处理模型后，通过该模型可实现在智慧城市、智能交通、自动驾驶等应用场景下执行多目标跟踪的任务。
图6是根据本公开实施例的目标处理模型的训练装置的结构示意图，本实施例可适用于利用无跟踪ID标注的样本图像训练目标处理模型的情况。如图6所示，该装置具体包括：
样本获取模块601，用于获取第一样本图像；第一样本图像包括至少两个样本目标；
变换模块602，用于对第一样本图像进行变换，得到第二样本图像；第一样本图像和第二样本图像中的样本目标相同；
编码模块603，用于基于目标重识别子模型，确定第一样本图像和第二样本图像中样本目标的特征预测编码；
训练模块604，用于采用样本目标的特征预测编码，更新目标重识别子模型。
在上述实施例的基础上，可选的，训练模块包括：
损失函数确定单元，用于根据样本目标的特征预测编码，确定相同目标之间的第一特征亲和度和不同目标之间的第二特征亲和度，并根据第一特征亲和度和第二特征亲和度，确定重识别损失函数；
训练单元，用于采用重识别损失函数，更新目标重识别子模型。
在上述实施例的基础上，可选的，损失函数确定单元用于确定如下损失函数：
其中，Lembedding表示重识别损失函数，B表示样本图像中所有样本目标的特征预测编码的集合，bi表示集合中任一个样本目标的特征预测编码，bp表示集合中与bi为不同位置的同一样本目标的特征预测编码，bk表示集合中与bi为不同样本目标的特征预测编码，m为常数阈值。
在上述实施例的基础上，可选的，目标重识别子模型属于目标跟踪模型，目标跟踪模型还包括目标检测子模型；
装置还包括：
检测模块，用于基于目标检测子模型，预测第一样本图像和第二样本图像中样本目标的检测框参数；
损失计算模块，用于根据样本目标的检测框预测参数，和样本目标的检测框真实参数，计算检测损失值；
目标检测子模型训练模块，用于采用检测损失值，更新目标检测子模型。
在上述实施例的基础上，可选的，变换模块具体用于：
对第一样本图像进行翻转、平移或缩放，得到第二样本图像。
在上述实施例的基础上，可选的，该装置还包括：
复制与移位模块，用于对第一样本图像或第二样本图像中的任一样本目标进行复制与移位处理，使得第一样本图像或第二样本图像中包括多个处于不同位置的同一样本目标。
在上述实施例的基础上，可选的，第一样本图像中样本目标未标注有特征实际编码。
本公开实施例提供的目标处理模型的训练装置可执行本公开任意实施例提供的目标处理模型的训练方法，具备执行方法相应的功能模块和有益效果。本实施例中未详尽描述的内容可以参考本公开任意方法实施例中的描述。
图7是根据本公开实施例的目标跟踪装置的结构示意图，如图7所示，该装置具体包括：
检测模块701，用于基于目标处理模型确定当前视频帧图像中每个检测目标的特征编码；其中，所述目标处理模型是通过本公开任一实施例的模型训练方法训练得到；
匹配模块702，用于将所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配。
在上述实施例的基础上，可选的，检测模块包括：
第一检测单元，用于将所述当前视频帧图像的特征图输入到所述目标处理模型的目标检测子模型中，并根据所述目标检测子模型的输出得到每个检测目标的检测框参数；
第二检测单元，用于将所述当前视频帧图像的特征图输入到所述目标处理模型的目标重识别子模型中，根据所述目标重识别子模型的输出得到编码特征图；
第三检测单元，用于根据每个检测目标的检测框参数和所述编码特征图，确定每个检测目标对应的特征编码。
在上述实施例的基础上，可选的，匹配模块具体用于：
通过级联匹配的方式，对所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配。
本公开实施例提供的目标跟踪装置可执行本公开任意实施例提供的目标跟踪方法，具备执行方法相应的功能模块和有益效果。本实施例中未详尽描述的内容可以参考本公开任意方法实施例中的描述。
本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如目标处理模型的训练方法或目标跟踪方法。例如，在一些实施例中，目标处理模型的训练方法或目标跟踪方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 603并由计算单元801执行时，可以执行上文描述的目标处理模型的训练方法或目标跟踪方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行目标处理模型的训练方法或目标跟踪方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。
Claims (23)
1.一种目标处理模型的训练方法，包括：
获取第一样本图像；所述第一样本图像包括至少两个样本目标；
对所述第一样本图像进行变换，得到第二样本图像；所述第一样本图像和所述第二样本图像中的样本目标相同；
基于目标重识别子模型，确定第一样本图像和第二样本图像中样本目标的特征预测编码；
采用样本目标的特征预测编码，更新所述目标重识别子模型。
2.根据权利要求1所述的方法，其中，采用样本目标的特征预测编码，更新所述目标重识别子模型包括：
根据样本目标的特征预测编码，确定相同目标之间的第一特征亲和度和不同目标之间的第二特征亲和度，并根据所述第一特征亲和度和所述第二特征亲和度，确定重识别损失函数；
采用重识别损失函数，更新所述目标重识别子模型。
3.根据权利要求2所述的方法，其中，根据样本目标的特征预测编码，确定相同目标之间的第一特征亲和度和不同目标之间的第二特征亲和度，并根据所述第一特征亲和度和所述第二特征亲和度，确定重识别损失函数，包括：
其中，Lembedding表示重识别损失函数，B表示样本图像中所有样本目标的特征预测编码的集合，bi表示集合中任一个样本目标的特征预测编码，bp表示集合中与bi为不同位置的同一样本目标的特征预测编码，bk表示集合中与bi为不同样本目标的特征预测编码，m为常数阈值。
4.根据权利要求1所述的方法，所述目标重识别子模型属于目标跟踪模型，所述目标跟踪模型还包括目标检测子模型；
所述方法还包括：
基于所述目标检测子模型，预测第一样本图像和第二样本图像中样本目标的检测框参数；
根据样本目标的检测框预测参数，和样本目标的检测框真实参数，计算检测损失值；
采用所述检测损失值，更新所述目标检测子模型。
5.根据权利要求1所述的方法，所述对所述第一样本图像进行变换，得到第二样本图像，包括：
对所述第一样本图像进行翻转、平移或缩放，得到所述第二样本图像。
6.根据权利要求1所述的方法，还包括：
对所述第一样本图像或所述第二样本图像中的任一样本目标进行复制与移位处理，使得所述第一样本图像或所述第二样本图像中包括多个处于不同位置的同一样本目标。
7.根据权利要求1所述的方法，其中，第一样本图像中样本目标未标注有特征实际编码。
8.一种目标跟踪方法，包括：
基于目标处理模型确定当前视频帧图像中每个检测目标的特征编码；其中，所述目标处理模型是通过权利要求1-7中任一项模型训练方法训练得到；
将所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配。
9.根据权利要求8所述的方法，其中，基于目标处理模型确定当前视频帧图像中每个检测目标的特征编码，包括：
将所述当前视频帧图像的特征图输入到所述目标处理模型的目标检测子模型中，并根据所述目标检测子模型的输出得到每个检测目标的检测框参数；
将所述当前视频帧图像的特征图输入到所述目标处理模型的目标重识别子模型中，根据所述目标重识别子模型的输出得到编码特征图；
根据每个检测目标的检测框参数和所述编码特征图，确定每个检测目标对应的特征编码。
10.根据权利要求8所述的方法，其中，将所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配，包括：
通过级联匹配的方式，对所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配。
11.一种目标处理模型的训练装置，包括：
样本获取模块，用于获取第一样本图像；所述第一样本图像包括至少两个样本目标；
变换模块，用于对所述第一样本图像进行变换，得到第二样本图像；所述第一样本图像和所述第二样本图像中的样本目标相同；
编码模块，用于基于目标重识别子模型，确定第一样本图像和第二样本图像中样本目标的特征预测编码；
训练模块，用于采用样本目标的特征预测编码，更新所述目标重识别子模型。
12.根据权利要求11所述的装置，其中，所述训练模块包括：
损失函数确定单元，用于根据样本目标的特征预测编码，确定相同目标之间的第一特征亲和度和不同目标之间的第二特征亲和度，并根据所述第一特征亲和度和所述第二特征亲和度，确定重识别损失函数；
训练单元，用于采用重识别损失函数，更新所述目标重识别子模型。
13.根据权利要求12所述的装置，其中，损失函数确定单元用于确定如下损失函数：
其中，Lembedding表示重识别损失函数，B表示样本图像中所有样本目标的特征预测编码的集合，bi表示集合中任一个样本目标的特征预测编码，bp表示集合中与bi为不同位置的同一样本目标的特征预测编码，bk表示集合中与bi为不同样本目标的特征预测编码，m为常数阈值。
14.根据权利要求11所述的装置，所述目标重识别子模型属于目标跟踪模型，所述目标跟踪模型还包括目标检测子模型；
所述装置还包括：
检测模块，用于基于所述目标检测子模型，预测第一样本图像和第二样本图像中样本目标的检测框参数；
损失计算模块，用于根据样本目标的检测框预测参数，和样本目标的检测框真实参数，计算检测损失值；
目标检测子模型训练模块，用于采用所述检测损失值，更新所述目标检测子模型。
15.根据权利要求11所述的装置，所述变换模块具体用于：
对所述第一样本图像进行翻转、平移或缩放，得到所述第二样本图像。
16.根据权利要求11所述的装置，还包括：
复制与移位模块，用于对所述第一样本图像或所述第二样本图像中的任一样本目标进行复制与移位处理，使得所述第一样本图像或所述第二样本图像中包括多个处于不同位置的同一样本目标。
17.根据权利要求11所述的装置，其中，第一样本图像中样本目标未标注有特征实际编码。
18.一种目标跟踪装置，包括：
检测模块，用于基于目标处理模型确定当前视频帧图像中每个检测目标的特征编码；其中，所述目标处理模型是通过权利要求1-7中任一项训练方法训练得到；
匹配模块，用于将所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配。
19.根据权利要求18所述的装置，其中，所述检测模块包括：
第一检测单元，用于将所述当前视频帧图像的特征图输入到所述目标处理模型的目标检测子模型中，并根据所述目标检测子模型的输出得到每个检测目标的检测框参数；
第二检测单元，用于将所述当前视频帧图像的特征图输入到所述目标处理模型的目标重识别子模型中，根据所述目标重识别子模型的输出得到编码特征图；
第三检测单元，用于根据每个检测目标的检测框参数和所述编码特征图，确定每个检测目标对应的特征编码。
20.根据权利要求18所述的装置，其中，所述匹配模块具体用于：
通过级联匹配的方式，对所述每个检测目标的特征编码与历史视频帧图像中的历史检测目标的特征编码进行匹配。
21.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7或权利要求8-10中任一项所述的方法。
22.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-7或权利要求8-10中任一项所述的方法。
23.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-7或权利要求8-10中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111203206.0A CN113962383A (zh) | 2021-10-15 | 2021-10-15 | 模型的训练方法、目标跟踪方法、装置、设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111203206.0A CN113962383A (zh) | 2021-10-15 | 2021-10-15 | 模型的训练方法、目标跟踪方法、装置、设备和存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113962383A true CN113962383A (zh) | 2022-01-21 |
Family
ID=79464660
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111203206.0A Pending CN113962383A (zh) | 2021-10-15 | 2021-10-15 | 模型的训练方法、目标跟踪方法、装置、设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113962383A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114724144A (zh) * | 2022-05-16 | 2022-07-08 | 北京百度网讯科技有限公司 | 文本识别方法、模型的训练方法、装置、设备及介质 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112686176A (zh) * | 2020-12-30 | 2021-04-20 | 深圳云天励飞技术股份有限公司 | 目标重识别方法、模型训练方法、装置、设备及存储介质 |
| WO2021077620A1 (zh) * | 2019-10-22 | 2021-04-29 | 商汤国际私人有限公司 | 图像处理方法及装置、处理器、存储介质 |
| WO2021087985A1 (zh) * | 2019-11-08 | 2021-05-14 | 深圳市欢太科技有限公司 | 模型训练方法、装置、存储介质及电子设备 |
| CN113112525A (zh) * | 2021-04-27 | 2021-07-13 | 北京百度网讯科技有限公司 | 目标跟踪方法、网络模型及其训练方法、设备和介质 |
| CN113177451A (zh) * | 2021-04-21 | 2021-07-27 | 北京百度网讯科技有限公司 | 图像处理模型的训练方法、装置、电子设备及存储介质 |
| CN113408472A (zh) * | 2021-07-06 | 2021-09-17 | 京东数科海益信息科技有限公司 | 目标重识别模型的训练方法、目标重识别方法及装置 |
-
2021
- 2021-10-15 CN CN202111203206.0A patent/CN113962383A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021077620A1 (zh) * | 2019-10-22 | 2021-04-29 | 商汤国际私人有限公司 | 图像处理方法及装置、处理器、存储介质 |
| WO2021087985A1 (zh) * | 2019-11-08 | 2021-05-14 | 深圳市欢太科技有限公司 | 模型训练方法、装置、存储介质及电子设备 |
| CN112686176A (zh) * | 2020-12-30 | 2021-04-20 | 深圳云天励飞技术股份有限公司 | 目标重识别方法、模型训练方法、装置、设备及存储介质 |
| CN113177451A (zh) * | 2021-04-21 | 2021-07-27 | 北京百度网讯科技有限公司 | 图像处理模型的训练方法、装置、电子设备及存储介质 |
| CN113112525A (zh) * | 2021-04-27 | 2021-07-13 | 北京百度网讯科技有限公司 | 目标跟踪方法、网络模型及其训练方法、设备和介质 |
| CN113408472A (zh) * | 2021-07-06 | 2021-09-17 | 京东数科海益信息科技有限公司 | 目标重识别模型的训练方法、目标重识别方法及装置 |
Non-Patent Citations (3)
| Title |
|---|
| MINH-TRIET TRAN等: "iTASK - Intelligent Traffic Analysis Software Kit", 《2020 IEEE/CVF CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION WORKSHOPS (CVPRW)》, 28 July 2020 (2020-07-28) * |
| 赵巧花;: "基于深度学习的行人再识别算法研究综述", 信息与电脑(理论版), no. 02, 25 January 2020 (2020-01-25) * |
| 郭乔进;周鹏飞;胡杰;梁中岩;: "基于目标跟踪的半自动图像标注样本生成方法", 信息化研究, no. 05, 20 October 2015 (2015-10-20) * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114724144A (zh) * | 2022-05-16 | 2022-07-08 | 北京百度网讯科技有限公司 | 文本识别方法、模型的训练方法、装置、设备及介质 |
| CN114724144B (zh) * | 2022-05-16 | 2024-02-09 | 北京百度网讯科技有限公司 | 文本识别方法、模型的训练方法、装置、设备及介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2023541532A (ja) | テキスト検出モデルのトレーニング方法及び装置、テキスト検出方法及び装置、電子機器、記憶媒体並びにコンピュータプログラム | |
| CN113191256A (zh) | 车道线检测模型的训练方法、装置、电子设备及存储介质 | |
| CN113379718A (zh) | 一种目标检测方法、装置、电子设备以及可读存储介质 | |
| CN114022887B (zh) | 文本识别模型训练及文本识别方法、装置、电子设备 | |
| CN112883236B (zh) | 一种地图更新方法、装置、电子设备及存储介质 | |
| CN113744310A (zh) | 目标跟踪方法、装置、电子设备及可读存储介质 | |
| CN113570606A (zh) | 目标分割的方法、装置及电子设备 | |
| CN115311469A (zh) | 图像标注方法、训练方法、图像处理方法以及电子设备 | |
| CN113344121B (zh) | 训练招牌分类模型和招牌分类的方法 | |
| CN114022865A (zh) | 基于车道线识别模型的图像处理方法、装置、设备和介质 | |
| CN113962383A (zh) | 模型的训练方法、目标跟踪方法、装置、设备和存储介质 | |
| CN113780578A (zh) | 模型训练方法、装置、电子设备及可读存储介质 | |
| CN117576648A (zh) | 自动驾驶的场景挖掘方法、装置、电子设备及存储介质 | |
| CN112749293A (zh) | 一种图像分类方法、装置及存储介质 | |
| CN114429631B (zh) | 三维对象检测方法、装置、设备以及存储介质 | |
| CN115861809A (zh) | 杆状物检测及其模型的训练方法、装置、电子设备、介质 | |
| CN115953434A (zh) | 轨迹匹配方法、装置、电子设备和存储介质 | |
| CN115761698A (zh) | 一种目标检测方法、装置、设备及存储介质 | |
| CN113984072B (zh) | 车辆定位方法、装置、设备、存储介质及自动驾驶车辆 | |
| CN113361519B (zh) | 目标处理方法、目标处理模型的训练方法及其装置 | |
| CN113361524B (zh) | 图像处理方法及装置 | |
| CN112507951B (zh) | 指示灯识别方法、装置、设备、路侧设备和云控平台 | |
| CN115953595A (zh) | 模型训练方法、装置、电子设备、介质和程序产品 | |
| CN113570607B (zh) | 目标分割的方法、装置及电子设备 | |
| CN113887423A (zh) | 目标检测方法、装置、电子设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |